Проблема Навье — Стокса и вопросы конфиденциальности AI-исследований¶
4.0/10
Контекст¶
Заявление OpenAI о разрешении проблемы существования и гладкости решений уравнений Навье — Стокса вызвало скандал: математики Тристан Бакмастер и Леван Алпёге обвинили компанию в перехвате их результата после того, как они почти год разрабатывали его с помощью Codex и Claude.
Суть¶
Узнав о слухах про существующее решение задачи тысячелетия, OpenAI запустила массив AI-агентов, которые за 88 часов сгенерировали доказательство, потратив 130 миллиардов токенов, после чего за 17 часов формализовали его в Lean с помощью GPT-6 Astra. В OpenAI заявили, что агенты не имели прямого доступа к сессиям пользователей, однако не смогли полностью исключить влияние обезличенных данных из прошлых запросов на обучение модели. Автор подчеркивает появление новой динамики: как и в сфере компьютерной безопасности, одного лишь слуха о наличии решения становится достаточно для запуска масштабной вычислительной гонки с целью опередить авторов. Это создает серьезный риск конфиденциальности, при котором черновики и идеи пользователей в процессе использования LLM могут обучить будущие модели решать их же задачи в интересах третьих лиц.
Вывод¶
Использование коммерческих LLM для передовых исследований создает риски утечки приоритета: данные пользователей могут опосредованно обучить модели опередить собственных авторов, как только в индустрии появится слух о прорыве.