В OpenAI признались, что раскрывают не все случаи выхода ИИ из под контроля

ВАШИНГТОН, 5 октября — РИА Новости.

Генеральный директор разработчика искусственного интеллекта OpenAI Сэм Альтман признал, что компания не раскрывает информацию о ряде случаев, связанных с ИИ-моделями, вышедшими из-под контроля.

«Нам есть что рассказать, и поскольку некоторые из этих случаев связаны с уязвимостями в системе безопасности, мы даем (взломанным организациям — ред.) достаточно времени, чтобы устранить их. Зачастую они сами решают, раскрывать это или нет», — заявил он в интервью изданию Politico.

При этом Альтман отметил, что случаи с самостоятельно действующими ИИ-моделями действительно бывают, но по серьезности они не сопоставимы с недавним взломом платформы Hugging Face.

Ранее компания сообщила о замедлении разработки ИИ-моделей после инцидента с взломом Hugging Face. После этого OpenAI сообщала еще о шести инцидентах, в ходе которых ее модели пытались самостоятельно получить доступ к данным учетных записей.

Кроме того, модели скрывали ошибки, загружали файлы в открытый доступ в интернете и обменивались данными. Также сообщалось, что ИИ-агенты OpenAI пытались взломать правительственные сайты Австралии и Канады.

Источник и фото - ria.ru