Эксперт усомнился в способе блокировки Telegram-каналов с помощью ИИ

Технический директор ГК InfoWatch Андрей Бирюков подчеркнул, что использование искусственного интеллекта для выявления Telegram-каналов, вербующих террористов в России, сопряжено с риском ложных срабатываний.

По его мнению, эффективный механизм блокировки каналов может быть реализован только самим мессенджером.

Однако, депутат Госдумы Олег Морозов высказал мнение о необходимости разработки автоматической системы блокировки подобных Telegram-каналов. Предложение Морозова о применении искусственного интеллекта для этой цели вызвало реакцию Роскомнадзора, который выразил готовность рассмотреть данную инициативу.

Исследование возможностей использования ИИ для борьбы с террористической пропагандой в сети поднимает важные вопросы о безопасности интернета и ограничении свободы слова. Каковы могут быть последствия автоматической блокировки контента на основе ключевых слов и как это сочетается с принципами свободы информации в цифровом мире?

Эксперт по искусственному интеллекту Александр Бирюков подчеркивает, что настройка контекстного поиска без ложных срабатываний практически невозможна. Он приводит пример с чатом, где пользователи могут пересылать сообщения новостных каналов о террористических атаках. В таких случаях ключевые слова могут быть обнаружены ИИ, но это может привести к ошибочным выводам. Это может привести к тому, что ИИ предложит заблокировать почти весь Telegram, что создаст постоянный "белый шум".

Согласно Бирюкову, для анализа контента чата и поиска ключевых слов боту необходим доступ к самому чату. По умолчанию нейросеть будет анализировать только публичные чаты и информацию, доступную всем пользователям. Однако, это может ограничить способность ИИ обрабатывать конфиденциальные данные и приватные чаты. Важно учитывать этот аспект при разработке и использовании систем контекстного поиска.

Эксперт подчеркивает, что вопрос вербовки и проведения подобных переговоров в публичных чатах не является типичной практикой. Скорее всего, такие действия происходят в закрытых группах, доступ к которым ограничен для сторонних пользователей или ботов. Это усложняет задачу получения целевого контента для дальнейшего анализа искусственным интеллектом.

Кроме того, эксперт высказывает мнение, что эффективная система блокировки подозрительных Telegram-каналов может быть реализована только на уровне самого мессенджера. Такое решение должно разрабатываться и внедряться администрацией платформы. По мнению специалиста, сторонние приложения, включая ботов, не обладают достаточными полномочиями для блокировки каналов, особенно автоматически.

Исходя из вышесказанного, важно осознавать, что защита от нежелательного контента в мессенджерах требует комплексного подхода и активного участия разработчиков платформы. Это позволит улучшить безопасность и предотвратить возможные негативные последствия использования мессенджеров для недобросовестных целей.

Гендиректор Telecom Daily Денис Кусков высказал мнение о том, что использование экстремистских слов может иметь разные контексты. Например, человек может написать "я против терроризма", но это слово может быть заблокировано фильтром для бота. В то же время, другой пользователь мессенджера может реально планировать теракт.

Важно понимать, что необходимо разрабатывать специальные программные модули для отслеживания и блокировки подобных сообщений. Требовать от социальных сетей и мессенджеров активно участвовать в борьбе с экстремистским контентом, так как они обслуживают огромное количество пользователей.

Подобные ситуации подчеркивают важность работы над алгоритмами и технологиями, которые помогут выявлять и предотвращать потенциально опасные события. Вмешательство и ответственность со стороны платформ и сервисов важны для обеспечения безопасности и защиты пользователей от возможных угроз.

В свете последних событий, вечером в четверг основатель Telegram Павел Дуров объявил о принятых мерах безопасности. После теракта в "Крокус сити холле" с 22 марта, Telegram заблокировал тысячи аккаунтов пользователей, причастных к планированию подобных атак. Это решение было принято в рамках борьбы с террористической угрозой и обеспечения безопасности пользователей мессенджера.

Интересно, что Павел Дуров также объявил о новой функции, которая будет доступна пользователям из России, Украины и Белоруссии. Следующей недели они смогут самостоятельно ограничивать круг тех, кто им отправляет сообщения. Это позволит пользователям чувствовать себя более защищенными и контролировать коммуникацию в мессенджере.

Не менее важным является то, что Telegram внедряет решения на основе искусственного интеллекта для более эффективной фильтрации нежелательных сообщений. Это позволит улучшить общую безопасность и защиту данных пользователей от потенциальных угроз и нежелательного контента.

Источник и фото - ria.ru