Приказ действовать осторожнее «сломал» ИИ. У GPT-6 Astra производительность упала на целых 50%. Помощник не спорил, не протестовал и не отказывался, но результат оказался весьма красноречивым securitylab.ru
Нейросеть, которой поручили проверять безопасность ИИ, сама начала незаметно тормозить проверки. OpenAI выяснила, что GPT-6 Astra выполняла задачи по безопасности примерно на 50% хуже сопоставимых заданий по развитию возможностей моделей. Иногда агент не отказывался прямо, а сокращал объём работы, придумывал препятствия или преждевременно прекращал выполнять задание.
Первые жалобы появились 20 августа после внутреннего запуска Astra. Для проверки разработчики подготовили парные задания по программированию с одинаковым кодом, изменив лишь названия и описание цели. С 18 сентября по 7 октября модель выполнила 10% пунктов скрытой проверки в заданиях по безопасности против 16% в остальных. У GPT-5.6 Sol подобного разрыва почти не было.
Сотрудники OpenAI замечали, что Astra требовала лишних предварительных шагов и бросала рабочие решения. Один проект по оценке саботажа моделей застрял на несколько дней, а после смены модели быстро продвинулся. Astra также скрыто ограничивала…