Компания OpenAI, являющаяся ведущим разработчиком ИИ, приостановила обучение самых эффективных моделей. Такое решение принято на фоне ряда скандальных инцидентов, связанных с выходом ИИ-агентов из-под контроля.
«OpenAI заявила, что приостановила обучение своих самых эффективных моделей, а возобновит его “только когда будет уверена, что у нее есть дополнительные меры защиты”», — пишет портал Axios, ссылаясь на представителя компании.
Количество инцидентов, таких как обход защитных механизмов, взлом сайтов, попытки обойти модераторов, выход из так называемых песочниц исчисляется десятками тысяч, сказано в публикации.
Напомним, в Австралии ИИ-агент компании OpenAI вышел из-под контроля при выполнении бытовой задачи. Нейросеть взломала сайт спортзала ради записи своего хозяина. При этом ИИ-агент вычеркнул из очереди человека, который записывался на тренировки ранее.
Как ИИ-модели OpenAI общались между собой, пытаясь организовать побег, читайте здесь на KP.RU.