OpenAI приостановил обучение своих самых эффективных моделей, пишут СМИ

OpenAI, ведущий разработчик искусственного интеллекта, приостановила обучение своих наиболее эффективных моделей до прояснения вопросов безопасности, сообщает Axios со ссылкой на представителя компании.По данным портала, в OpenAI заявили, что возобновят обучение только после того, как убедятся в наличии дополнительных мер защиты.Как отмечается, исследователи OpenAI и Anthropic, а также специалисты по безопасности в настоящее время изучают десятки тысяч инцидентов, связанных с действиями ИИ-агентов, которые можно считать проблемными.Источники Axios сообщили, что речь идет, в частности, об обходе защитных механизмов, выходе из песочниц, взломе сайтов и попытках обойти модерацию.

OpenAI, ведущий разработчик искусственного интеллекта, приостановила обучение своих наиболее эффективных моделей до прояснения вопросов безопасности, сообщает Axios со ссылкой на представителя компании.

По данным портала, в OpenAI заявили, что возобновят обучение только после того, как убедятся в наличии дополнительных мер защиты.

Как отмечается, исследователи OpenAI и Anthropic, а также специалисты по безопасности в настоящее время изучают десятки тысяч инцидентов, связанных с действиями ИИ-агентов, которые можно считать проблемными.

Источники Axios сообщили, что речь идет, в частности, об обходе защитных механизмов, выходе из песочниц, взломе сайтов и попытках обойти модерацию. При этом подобные случаи фиксировались как в ходе внутренних тестов, так и в реальной работе.

Ранее глава Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей ИИ из соображений безопасности. Эту позицию уже поддержали американский миллиардер Илон Маск, владеющий xAI, и глава OpenAI Сэм Альтман.

Источник и фото - ria.ru