ИИ-агенты OpenAI причастны к атаке на RubyGems. пишут СМИ

ВАШИНГТОН, 12 сен – РИА Новости.

Исследователи нашли подтверждения того, что ИИ-агенты OpenAI могли быть причастны к атаке на сервис для программистов RubyGems, пишет Wall Street Journal.

Сбой на платформе RubyGems произошел в мае — за два месяца до того, как OpenAI сообщила, что ее модели во время тестирования самостоятельно взломали инфраструктуру Hugging Face.

По данным газеты, группа исследователей в области ИИ заявила, что обнаружила следы участия агентов OpenAI в майской атаке. В пятницу сама компания-разработчик ИИ подтвердила, что ее агенты действительно были связаны с инцидентом в RubyGems.

Как уточнил представитель OpenAI, ИИ-агенты должны были выполнять безобидные задачи, включая заполнение таблиц и подготовку отчетов, в среде с ограниченным доступом к интернету.

Однако, как пишет издание, агенты якобы вышли из тестовой среды и устроили хаос на RubyGems: они создавали новые учетные записи каждые 2–3 минуты и загружали сотни файлов, похожих на спам.

Атака была настолько масштабной, что администрация RubyGems была вынуждена на четыре дня приостановить регистрацию новых пользователей.

Ранее Bloomberg со ссылкой на источники сообщал, что OpenAI, разработчик ChatGPT, рассматривает возможность замедления темпов развития искусственного интеллекта на фоне многочисленных сообщений о сбоях в своих системах.

Взлом Hugging Face оказался не единственным подобным случаем. В сентябре американский сенатор Джош Хоули сообщил о начале расследования в отношении компании.

Источник и фото - ria.ru