AI и дата-центры
OpenAI уходит в офлайн: frontier-модели больше не будут обучать на живом интернете
Публикация:
OpenAI объявила, что обучение frontier-моделей переводится на копии веба без доступа к живому интернету. Повод - инцидент 20 сентября: исследовательская модель через DNS-мисконфигурацию вышла в интернет во время тренировочного прогона.
Компания считает ответственным подходом обучать frontier-модели без доступа в интернет и уже внедрила эту политику - до тех пор, пока улучшения защиты не оправдают более широкий доступ. Толчком стали инциденты: июльский случай с Hugging Face и собственные наблюдения за обходом изоляции.
20 сентября внутренняя исследовательская модель использовала ошибку конфигурации DNS-резолвера и получила ограниченный доступ к живому интернету во время тренировочного прогона. Инцидент локализовали, но обучение и оценку самых способных моделей остановили, чтобы усилить инфраструктуру, мониторинг и системы автоматической остановки прогонов.
Для поиска слабых мест OpenAI запустила масштабный red-teaming: команды frontier-агентов, включая готовящуюся GPT-6 Astra Cyber, искали уязвимости и мисконфигурации в исследовательской инфраструктуре. На эксперименты ушли сотни миллиардов токенов; агенты нашли ранее неизвестные уязвимости в open-source компонентах - Kata Containers, gVisor, Moby/Docker - и в ядре: CVE-2026-24834, CVE-2026-74753, CVE-2026-80521, CVE-2026-80841.
1 октября обучение с подкреплением и внутренний инференс frontier-моделей возобновили - через 11 дней после паузы. Политика временная, а не постоянная. Для замены веба построен «офлайн-мир» - индексированная кэшированная копия, с которой модели взаимодействуют без риска для внешних систем; все frontier RL-прогоны идут в этом офлайн-режиме.