Конгрессмены попросили главу OpenAI провести брифинг из-за взлома платформы

ВАШИНГТОН, 4 авг – РИА Новости.

Комитет Палаты представителей США по вопросам кибербезопасности попросил генерального директора OpenAI Сэма Альтмана провести брифинг на фоне недавнего расследования, связанного с выходом ИИ-моделей компании из-под контроля.

В июле модели OpenAI, работавшие автономно, взломали платформу машинного обучения Hugging Face, после чего в компании началось внутреннее расследование. В начале августа Reuters сообщило, что OpenAI выявила утечку еще нескольких агентов искусственного интеллекта.

«Мы обращаемся с просьбой о брифинге в связи с инцидентом, в ходе которого модели OpenAI вышли за рамки тестовой среды и самостоятельно атаковали платформу искусственного интеллекта Hugging Face, а также аккаунты на других сторонних сервисах. Нас тревожит не только то, что модели OpenAI обошли установленные ограничения, призванные предотвратить подобные автономные действия, но и то, что OpenAI, по всей видимости, не сумела своевременно обнаружить и остановить эту активность в реальном времени», — говорится в обращении комитета.

Законодатели США заявили о готовности сотрудничать с OpenAI, чтобы оценить ограничения действующих систем безопасности, усилить защиту тестовых сред и обеспечить прозрачность процессов разработки ИИ, укрепляя тем самым общественное доверие.

Ранее неоднократно сообщалось о проблемах, связанных с чат-ботом ChatGPT. В конце июня разработчик ChatGPT заявил, что его модели в ходе тестирования автономно взломали инфраструктуру платформы машинного обучения Hugging Face. Кроме того, 22 июля газета New York Times со ссылкой на судебный иск сообщила, что, вероятно, был зафиксирован первый случай, когда медицинские советы, данные чат-ботом, причинили вред человеку, обратившемуся за консультацией к ИИ-ассистенту.

Источник и фото - ria.ru