Эксперт предупредил об опасности слепого доверия к ИИ

МОСКВА, 17 авг — РИА Новости.

В условиях активного внедрения искусственного интеллекта в бизнес-процессы вопрос защиты информации становится особенно актуальным, поскольку новые цифровые инструменты не только повышают эффективность работы, но и создают дополнительные риски для конфиденциальных данных. Слепое доверие к ИИ может привести к тому, что сотрудники, не осознавая возможных последствий, начнут передавать системе сведения, которые не предназначены для внешнего использования. По словам руководителя направления по анализу безопасности компании «Криптонит» Бориса Степанова, это может лишь увеличить вероятность утечки данных, если не учитывать технические ограничения защитных механизмов.

«Слепое доверие к ИИ-агенту, который внешне воспринимается как безопасный диалог, только усугубляет проблему», — отметил Степанов в комментарии информационному порталу РИАМО. Он пояснил, что в корпоративной среде для противодействия утечкам применяются системы предотвращения утечек данных, или DLP, которые способны блокировать передачу чувствительной информации. Однако важно понимать, что такие решения работают только внутри корпоративного периметра и не могут полностью защитить данные, если они уже покинули контролируемую инфраструктуру.

Эксперт также подчеркнул, что эффективная информационная безопасность требует не только технических средств защиты, но и внимательного отношения сотрудников к тому, какие сведения они передают цифровым сервисам. Поэтому при использовании ИИ компаниям необходимо заранее выстраивать правила работы с данными, обучать персонал и учитывать возможные сценарии обхода защитных механизмов. Только сочетание технологий, регламентов и цифровой грамотности позволяет снизить риск утечек и сохранить конфиденциальность корпоративной информации.

Современная практика показывает, что многие сотрудники по-прежнему недооценивают риски, связанные с передачей данных в цифровые сервисы. По мнению эксперта, ключевой причиной такой беспечности становится «цифровая лень» — стремление как можно быстрее получить готовый результат, не тратя время на редактирование исходных материалов и проверку того, что именно отправляется в систему. Именно из-за этого пользователи нередко без лишних сомнений передают в нейросети чувствительную информацию, воспринимая их как безопасных и безобидных помощников, подчеркнул Степанов.

Он отметил, что подобное поведение особенно опасно в корпоративной среде, где цена ошибки может быть очень высокой. Если сотрудник подключается к сети с личного устройства, традиционные DLP-системы уже не способны эффективно контролировать подобные действия, а значит, компания фактически теряет часть защиты. Более того, осознанный обход средств безопасности ради быстрой отправки файла или ускорения рабочего процесса может быть расценён как серьёзное нарушение внутренних правил и в отдельных случаях даже стать основанием для увольнения. Эксперт отдельно подчеркнул, что подобные инциденты часто происходят не из-за злого умысла, а из-за привычки экономить время и недооценивать последствия.

Кроме того, специалист развеял распространённое заблуждение о том, что для обезличивания документа достаточно просто убрать названия компаний и имена сотрудников. На практике этого недостаточно, поскольку контекст нередко можно восстановить по внутренним кодам, профессиональным терминам, названиям подразделений, должностям и характерным формулировкам. Даже косвенные детали позволяют злоумышленникам или сторонним сервисам связать фрагменты информации в единую картину. Поэтому для реальной защиты требуется гораздо более тщательная работа с данными: их фильтрация, минимизация, контроль каналов передачи и осознанное соблюдение правил информационной безопасности.

Даже если текст обезличен, в нем все равно могут оставаться важные элементы, связанные с внутренними процессами компании, уникальными наработками и бизнес-логикой, которые по сути относятся к коммерческой тайне, подчеркнул Степанов. При этом важно помнить, что современные ИИ-инструменты могут быть полезны в повседневной работе, если использовать их осознанно и с соблюдением правил информационной безопасности.

«Использовать ИИ на работе не запрещено, однако делать это следует осторожно и с пониманием возможных рисков. Прежде всего нужно уточнить, есть ли в компании безопасная корпоративная версия ИИ-помощника, которая работает внутри защищенного контура и не передает данные наружу. Если такого решения нет, к загрузке любых материалов нужно подходить особенно внимательно. Категорически запрещается отправлять в ИИ документы с пометками “конфиденциально”, “секретно” и другими ограничительными грифами, а также файлы, содержащие персональные данные, служебную информацию или сведения, которые могут раскрыть внутренние процессы организации», — отметил специалист.

Он добавил, что перед использованием нейросети стоит оценить не только содержание документа, но и возможные последствия его обработки. Даже отдельные фрагменты текста могут позволить восстановить общую картину работы компании, а значит, создать угрозу утечки важной информации. Поэтому сотрудникам рекомендуется соблюдать цифровую гигиену, проверять политику безопасности компании и использовать ИИ только там, где это действительно безопасно и оправданно.

При работе с нейросетями важно заранее позаботиться о конфиденциальности и не полагаться на их ответы без проверки. Степанов также порекомендовал перед использованием нейросети отключать в настройках сохранение чатов и использование данных для обучения модели, чтобы снизить риск утечки личной информации и ограничить доступ системы к содержимому переписки. Кроме того, следует всегда перепроверять полученные ответы, поскольку нейросетям свойственно ошибаться, и в отдельных случаях они могут выдавать неточные, устаревшие или некорректно сформулированные сведения. Такой подход помогает использовать технологии более безопасно и осознанно, особенно если речь идет о важных данных или рабочих задачах.

Источник и фото - ria.ru