OpenAI начала обучать модели ИИ в офлайн-формате из соображений безопасности | Эксперт expert.ru
OpenAI начала обучать модели ИИ в офлайн-формате. Об этом говорится в сообщении на сайте компании.
«Исходя из текущего состояния исследований в области согласования, систем мониторинга и безопасности интернет-инфраструктуры, мы считаем, что наиболее ответственным подходом является обучение передовых моделей без доступа к интернету. Мы внедрили эту политику и будем придерживаться ее до тех пор, пока развитие этих мер безопасности не позволит обеспечить более широкий доступ к интернету», — говорится в сообщении.
Компания обнаружила, что исследовательские модели находят уязвимости в программном обеспечении и ошибки конфигурации, позволяющие обходить ограничения.
Для усиления защиты OpenAI создала офлайн-среду с кэшированным и индексированным веб-контентом, позволяющую моделям работать без прямого доступа к интернету. Также используется многоуровневая система защиты, включающая песочницы, виртуальные машины, сетевые ограничения и мониторинг.
Решение последовало на фоне серии инцидентов с…
