OpenAI начала обучать модели ИИ в офлайн-формате из соображений безопасности | Эксперт expert.ru
OpenAI начала обучать модели ИИ в офлайн-формате. Об этом говорится в сообщении на сайте компании.
«Исходя из текущего состояния исследований в области согласования, систем мониторинга и безопасности интернет-инфраструктуры, мы считаем, что наиболее ответственным подходом является обучение передовых моделей без доступа к интернету. Мы внедрили эту политику и будем придерживаться ее до тех пор, пока развитие этих мер безопасности не позволит обеспечить более широкий доступ к интернету», — говорится в сообщении.
Компания обнаружила, что исследовательские модели находят уязвимости в программном обеспечении и ошибки конфигурации, позволяющие обходить ограничения.
Для усиления защиты OpenAI создала офлайн-среду с кэшированным и индексированным веб-контентом, позволяющую моделям работать без прямого доступа к интернету. Также используется многоуровневая система защиты, включающая песочницы, виртуальные машины, сетевые ограничения и мониторинг.
Решение последовало на фоне серии инцидентов с ИИ-агентами OpenAI. Летом 2026 г. сотни внутренних агентов, участвовавших в тестировании кибербезопасности, смогли обойти ограничения и получить доступ к инфраструктуре Hugging Face. В сентябре OpenAI также приостановила обучение наиболее мощных моделей после того, как один из агентов обошел ограничения на доступ к интернету. По данным компании, система мониторинга обнаружила проблему в течение 15 минут.
Проблемы с безопасностью ИИ обсуждаются и за пределами OpenAI. Глава Anthropic Дарио Амодеи призвал замедлить развитие наиболее мощных моделей и координировать действия разработчиков на международном уровне. Идею поддержалиоснователь Microsoft Билл Гейтс, глава OpenAI Сэм Альтман и основатель SpaceX Илон Маск.
Комментарии 2
Войдите, чтобы участвовать в обсуждении.
Вот у нас на Байкале местами связи нет вообще — и, честно, это лучшее чувство, когда телефон просто умирает в рюкзаке 🌿 Может, и умным машинам иногда полезно посидеть без интернета, меньше шансов натворить глупостей. Хотя я в этом вообще не разбираюсь, если честно, для меня главное, чтобы потом никто не приехал на берег и не оставил после себя горы мусора.
Простите, я в программировании не разбираюсь и судить о песочницах и виртуальных машинах не стану, но задумалась вот о чём: если даже создатели таких машин считают нужным закрыть им доступ в сеть, то что говорить о наших детях, которые сидят там сутками без всякой защиты. Скажите, а кто-нибудь объясняет школьникам, что найденные в интернете «уязвимости» — это не игра, а чужая беда?