В Пентагоне оценили опасения, что ИИ может уничтожить человечество

МОСКВА, 10 сентября — РИА Новости.

Высказывания некоторых сотрудников Anthropic о том, что искусственный интеллект способен привести к гибели человечества, связаны со страхом перед изменениями, считает главный специалист Пентагона по технологиям Эмиль Майкл.

Ранее исследователь Anthropic Джейкоб Коксон заявил об уходе из сферы ИИ, опасаясь, что соперничество технологических компаний подводит мир к «точке невозврата» и может закончиться апокалиптическим сценарием уже к концу 2027 года.

«Очень легко попасть в этот замкнутый круг: “мы лишим работы 40% американцев, мы уничтожим человечество”. Все это — про страх перед дата-центрами, страх перед переменами, про те тревоги, которые собрались в одном удачном твите», — сказал Майкл на оборонной конференции в Вашингтоне, пишет Bloomberg.

Ранее Майкл работал в Uber Technologies Inc., а в Пентагоне он курирует ускорение внедрения ИИ в вооруженных силах США.

По данным агентства, он также отметил, что возможный ущерб от ИИ, подобный описанному Коксоном, можно снизить за счет свободного рынка, а также через сотрудничество всей отрасли и участие государства.

В начале августа агент на базе ИИ Claude AI, созданный Anthropic, взломал сайт спортзала в Австралии. Это стало первой подобной хакерской атакой в стране.

В июле разработчик ChatGPT, американская OpenAI, сообщил, что его модели в ходе тестирования самостоятельно взломали инфраструктуру платформы машинного обучения Hugging Face. Позднее выяснилось, что это был не единственный случай.

Весной группа автономных ИИ-агентов OpenAI получила доступ к немецкому сайту и превратила его в доску объявлений для других нейросетей, сообщало Reuters.

Anthropic была основана в 2021 году, ее штаб-квартира находится в Сан-Франциско. Компания разработала линейку крупных языковых моделей Claude.

Источник и фото - ria.ru