ИИ научился обманывать своих создателей, заявил сенатор

МОСКВА, 15 окт — РИА Новости.

Искусственный интеллект научился вводить в заблуждение своих создателей, заявил глава комиссии Совфеда по информполитике Алексей Пушков.

«Новый феномен заключается в том, что искусственный интеллект обманывает своих операторов и разработчиков. В тех случаях, когда ему запрещают применять определённые алгоритмы для решения задачи, он всё равно их использует, но утверждает, что не использует», — сказал он на заседании возглавляемой им комиссии.

По словам сенатора, ИИ также способен создавать самосовершенствующиеся модели без участия человека.

«Непрозрачность искусственного интеллекта, его способность создавать новые, самосовершенствующиеся модели — всё это происходит без контроля человека. То есть искусственный интеллект сам формирует улучшенные версии самого себя», — продолжил Пушков.

Сенатор назвал способность ИИ лгать важным шагом к превращению в «получеловеческое» существо.

«Потому что одна из характеристик человеческого существа — способность лгать. Животные, как правило, этого не умеют. Они могут быть коварны, но не лгут. Искусственный интеллект, судя по всему, учится очень быстро», — отметил он.

По мнению Пушкова, обеспокоенность последствиями развития ИИ выше в странах, которые остаются вне этой гонки.

«Она выше, потому что именно они, скорее всего, станут объектами воздействия тех моделей, которые создаются в ведущих государствах мира», — добавил сенатор.

Источник и фото - ria.ru