В МВД рассказали, как ChatGPT собирает цифровое досье на пользователей

МОСКВА, 8 ноя — РИА Новости.

ChatGPT способен сохранять личную информацию пользователей в персонализированной памяти искусственного интеллекта, что может приводить к формированию цифрового досье, сообщили в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД РФ.

«В ходе исследования The Algorithmic Self-Portrait специалисты установили, что OpenAI, несмотря на собственную политику конфиденциальности, сохраняла персональные данные пользователей, формируя их цифровые портреты», — говорится в сообщении.

По данным ведомства, большинство таких записей создавалось без согласия пользователей. У многих аккаунтов в памяти ИИ фиксировались имена, адреса, сведения о доходах и социальном статусе. У половины пользователей сохранялись данные о здоровье и взглядах. Почти у всех аккаунтов система помнила цели, намерения, предпочтения и особенности поведения.

«С точки зрения безопасности накопление персональных данных в памяти ChatGPT создает потенциальные риски идентификации пользователей, даже если они используют псевдонимы. Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье», — отметили в ведомстве.

Правоохранители также предупредили об еще одной угрозе — возможной манипуляции памятью ИИ. В документы могут внедряться ложные инструкции, и через них система способна скрытно влиять на решения госслужащих и ученых, учитывая их личные данные и психологические особенности. Опасность такого воздействия заключается в том, что оно незаметно и направлено на конкретного человека.

Чтобы снизить риски, в МВД рекомендуют проверять настройки памяти и персонализации ИИ-сервисов, не загружать в чат служебные документы и личные сведения, обезличивать запросы и использовать временные чаты.

Источник и фото - ria.ru