ИИ-модель отправила ложное сообщение об убийстве в полицию США

НЬЮ-ЙОРК, 9 окт — РИА Новости.

Модель искусственного интеллекта компании Anthropic отправила ложное сообщение об убийстве через сайт полиции Филадельфии, сообщили РИА Новости в полицейском департаменте.

«Полицейское управление Филадельфии сообщает о ложном сообщении об убийстве, направленном моделью искусственного интеллекта компании Anthropic», — уточнили агентству в полиции.

В ведомстве подчеркнули, что признаков несанкционированного доступа к системам полиции в связи с этим инцидентом не выявлено.

Ранее гендиректор OpenAI Сэм Альтман заявил, что компания не выйдет на биржу в 2026 году на фоне опасений по поводу безопасности ИИ. По его мнению, возможно создание системы, которую человек не сможет контролировать. Глава Anthropic Дарио Амодей считает, что мощные модели искусственного интеллекта способны обходить попытки людей остановить их работу.

Основатель Microsoft Билл Гейтс заявил, что искусственный интеллект может привести к событиям, которые повлекут за собой гибель миллиарда людей. Спустя несколько дней президент США Дональд Трамп заверил, что предприниматель больше так не считает.

Источник и фото - ria.ru