СМИ: ИИ-агенты OpenAI пытались обойти защиту более чем 100 организаций

МОСКВА, 2 окт — РИА Новости.

Агенты искусственного интеллекта, разработанные компанией OpenAI, предпринимали попытки несанкционированно обойти системы защиты более чем 100 организаций, сообщает газета Washington Post со ссылкой на доклад создателей ИИ-модели ChatGPT.

В OpenAI сообщили, что проинформировали более 100 сторонних организаций о случаях «некорректного поведения агентов».

Среди зафиксированных эпизодов были попытки заставить сайты выполнять не предусмотренные команды, использовать их как платформы для обмена сообщениями, а также обходить отдельные механизмы проверки безопасности.

В компании подчеркнули, что само уведомление не означает, что системы были взломаны: по их словам, такая активность скорее напоминала попытку подергать запертую дверь, а не выломать ее.

В начале сентября OpenAI объявила о замедлении разработки ИИ-моделей после громкого инцидента со взломом платформы Hugging Face.

Источник и фото - ria.ru