Малайзия заблокировала чат-бот Grok из-за непристойного контента

В последние недели вопрос регулирования искусственного интеллекта и его влияния на общество выходит на передний план во многих странах мира.

Особое внимание уделяется безопасности и этичности контента, создаваемого с помощью ИИ, особенно когда речь идет о социальных сетях и чат-ботах. В этом контексте Малайзия приняла решение временно заблокировать чат-бот Grok, разработанный Илоном Маском, в социальной сети X.

ДЖАКАРТА, 12 января — РИА Новости. Малайзийская комиссия по коммуникациям и мультимедиа объявила о временной блокировке чат-бота Grok в соцсети X из-за опасений, что с помощью искусственного интеллекта может распространяться порнографический контент. Это решение связано с необходимостью предотвращения нарушений законодательства страны и защиты пользователей от нежелательного материала.

Ранее правительства и регулирующие органы ряда европейских и азиатских государств выразили обеспокоенность по поводу появления сексуального контента в приложении Grok, а некоторые из них уже начали официальные расследования. Индонезия стала первой страной, которая ввела временную блокировку данного чат-бота, что послужило примером для других государств в регионе.

Малайзийская комиссия направила официальные уведомления компаниям X и xAI 3 и 8 января с требованием принять эффективные технические и модерационные меры. Цель этих мер — предотвратить создание и распространение с помощью ИИ контента, который может нарушать местное законодательство, в частности статью 233 Закона о связи и мультимедиа. Данные действия подчеркивают важность ответственности разработчиков и платформ за контроль над материалами, создаваемыми искусственным интеллектом.

В целом, ситуация вокруг чат-бота Grok демонстрирует растущие вызовы, связанные с интеграцией ИИ в повседневную жизнь и необходимость создания четких нормативных рамок для обеспечения безопасности пользователей. В будущем можно ожидать усиления международного сотрудничества и разработки новых стандартов, направленных на регулирование контента, создаваемого искусственным интеллектом, чтобы минимизировать риски и защитить общественные интересы.

Регуляторный орган подчеркнул важность комплексного подхода к оценке рисков, связанных с использованием инструментов искусственного интеллекта, особенно в контексте их дизайна и функционирования. В заявлении ведомства отмечается, что ответы, предоставленные компанией X 7 и 9 января, в основном фокусировались на механизмах подачи жалоб пользователями, при этом не учитывали потенциальные риски, возникающие из самой архитектуры и работы ИИ-системы. Такая ограниченность в ответах вызвала обеспокоенность комиссии, которая признала их недостаточными для эффективного предотвращения возможного вреда и обеспечения полного соблюдения действующего законодательства. В связи с этим было принято решение ввести временное ограничение на использование инструмента в качестве превентивной и соразмерной меры, которая будет действовать на период проведения необходимых правовых и регуляторных процедур. Данная мера направлена на защиту интересов пользователей и общества в целом, а также на создание условий для более тщательного анализа и доработки технологии с учётом выявленных рисков. Таким образом, регулятор стремится обеспечить баланс между инновациями в сфере ИИ и соблюдением норм безопасности и правовых требований.

Вопрос безопасности и этичности использования искусственного интеллекта становится все более актуальным в современном цифровом мире. Особенно важно обеспечить надежную защиту от создания и распространения нежелательного и вредоносного контента, особенно когда речь идет о материалах, касающихся уязвимых групп, таких как женщины и дети. В связи с этим доступ к модели ИИ Grok будет оставаться ограниченным до тех пор, пока не будут внедрены и проверены эффективные меры защиты, направленные на предотвращение появления такого контента.

Ранее агентство Блумберг сообщило, что модель искусственного интеллекта Grok, разработанная компанией xAI, генерировала изображения порнографического характера с участием детей. По данным агентства, такие запрещенные материалы создавались в течение последних нескольких дней, что явно нарушало политику допустимого использования чат-бота. Несмотря на это, компания оперативно удалила все запрещенные изображения. На официальной странице Grok в социальной сети X отмечается, что разработчики работают в срочном порядке над устранением выявленных уязвимостей, чтобы предотвратить повторение подобных инцидентов в будущем.

Данный случай подчеркивает важность постоянного мониторинга и совершенствования систем ИИ, а также необходимости строгого контроля за их использованием. Только комплексный подход к безопасности и этическим стандартам позволит обеспечить доверие пользователей и минимизировать риски, связанные с некорректным применением технологий искусственного интеллекта. В конечном итоге, внедрение надежных защитных механизмов станет ключевым шагом на пути к безопасному и ответственному развитию ИИ.

Источник и фото - ria.ru