СМИ: главы ФРС и минфина США собрали банкиров из-за нового ИИ от Anthropic

В свете стремительного развития технологий искусственного интеллекта и растущих угроз в киберпространстве, американские финансовые и регуляторные органы приняли экстренные меры для оценки потенциальных рисков.

Так, 10 апреля в Вашингтоне министр финансов США Скотт Бессент совместно с председателем Федеральной резервной системы Джеромом Пауэллом организовали срочную встречу с руководителями крупнейших банков Уолл-стрит. Целью собрания стало обсуждение угроз, связанных с новой моделью искусственного интеллекта, разработанной компанией Anthropic, сообщает агентство Блумберг со ссылкой на информированные источники.

Данная модель, получившая название Mythos, по утверждениям её создателей, обладает способностью по команде пользователя выявлять и эксплуатировать уязвимости во всех основных операционных системах и популярных веб-браузерах. Это представляет собой принципиально новый класс кибератак, который может значительно повысить уровень угрозы для информационной безопасности как частных, так и государственных структур. Эксперты подчеркивают, что использование подобных ИИ-систем в киберпространстве требует немедленного внимания и разработки эффективных мер противодействия.

В условиях усиливающейся цифровизации и интеграции искусственного интеллекта в критически важные инфраструктуры, подобные инициативы по совместной работе финансовых регуляторов и банковского сектора являются ключевыми для предотвращения потенциальных катастрофических последствий. В дальнейшем ожидается расширение сотрудничества между государственными органами и технологическими компаниями для создания надежных стандартов безопасности и контроля над применением подобных ИИ-моделей.

В свете стремительного развития технологий искусственного интеллекта финансовые регуляторы усиливают внимание к потенциальным рискам, которые могут возникнуть для банковского сектора. Во вторник в штаб-квартире министерства финансов в Вашингтоне состоялась важная встреча, организованная Бессентом и Пауэллом, на которой обсуждались возможные угрозы, связанные с использованием новых ИИ-моделей, таких как Mythos от компании Anthropic, а также аналогичных систем. Целью собрания было убедиться, что крупные банки осознают эти риски и предпринимают необходимые меры для защиты своих информационных систем и финансовой инфраструктуры.

По информации, полученной от источников, на данное мероприятие были приглашены генеральные директора системно значимых финансовых учреждений, включая Citigroup, Morgan Stanley, Bank of America, Wells Fargo и Goldman Sachs Group. Это свидетельствует о том, что регуляторы рассматривают угрозы, исходящие от передовых ИИ-технологий, как одну из ключевых проблем для стабильности финансового сектора. Встреча также подчеркивает стремление властей заранее подготовить банки к возможным кибератакам и другим негативным последствиям, связанным с внедрением подобных моделей.

В условиях быстрого внедрения искусственного интеллекта в различные сферы экономики, особенно в финансовую, важно не только выявлять потенциальные уязвимости, но и разрабатывать комплексные стратегии защиты. Регуляторы и банки совместно работают над созданием надежных механизмов мониторинга и реагирования на новые вызовы, что позволит минимизировать риски и обеспечить устойчивость финансовой системы в будущем. Такой проактивный подход способствует укреплению доверия к банковскому сектору и повышению его готовности к технологическим изменениям.

В современном мире развитие технологий искусственного интеллекта вызывает не только восхищение, но и серьёзные опасения по поводу их потенциального злоупотребления. Компания-разработчик Anthropic активно признаёт риски, связанные с использованием её модели Mythos в недобросовестных целях, что подчёркивается в недавней статье. В связи с этим Anthropic предприняла меры предосторожности и ограничила доступ к своей передовой системе ИИ для ряда крупных корпораций, таких как Amazon, Apple и JPMorgan Chase, чтобы минимизировать возможные угрозы.

Кроме того, ситуация обострилась после того, как Пентагон официально уведомил руководство Anthropic о том, что рассматривает компанию как потенциальную угрозу для безопасности цепочки поставок. Это заявление вызвало значительный резонанс, поскольку поставки играют ключевую роль в национальной безопасности и экономической стабильности. В ответ на обвинения и ограничения, наложенные федеральными властями США, Anthropic решила отстаивать свои интересы в судебном порядке, подав иск против правительства. Этот шаг отражает сложность баланса между инновациями в области ИИ и необходимостью регулирования для предотвращения злоупотреблений.

Таким образом, ситуация вокруг Anthropic и её модели Mythos иллюстрирует важность диалога между технологическими компаниями и регулирующими органами. Только совместными усилиями можно обеспечить развитие искусственного интеллекта, который будет приносить пользу обществу, одновременно минимизируя риски, связанные с его применением в преступных целях. В будущем подобные конфликты могут стать стимулом для создания более прозрачных и эффективных механизмов контроля и сотрудничества в сфере высоких технологий.

В современном мире развитие искусственного интеллекта вызывает множество этических и правовых вопросов, особенно когда речь идет о его использовании в военной сфере и системах наблюдения. Конфликт вокруг доступа к технологиям ИИ возник в связи с позицией компании Anthropic, которая занимает осторожную и взвешенную позицию по этому вопросу. Руководство компании категорически отказывается предоставить Пентагону полный доступ к своим разработкам, аргументируя это тем, что на данном этапе слишком рано полагаться на их технологии при создании автономных видов вооружений. Anthropic подчеркивает, что использование ИИ в военных целях требует более глубокого анализа рисков и этических последствий, чтобы избежать потенциальных угроз безопасности и правам человека.

Кроме того, представители Anthropic считают, что внедрение их технологий для внутренней слежки и мониторинга населения пока не имеет достаточной юридической базы и может привести к нарушениям конфиденциальности и гражданских свобод. Компания выступает за разработку четких нормативных актов и международных стандартов, которые бы регулировали применение ИИ в таких чувствительных сферах. Таким образом, Anthropic демонстрирует ответственное отношение к развитию и внедрению искусственного интеллекта, стремясь предотвратить его злоупотребление и обеспечить безопасность общества.

В конечном итоге, позиция Anthropic отражает более широкий тренд в индустрии ИИ, где многие разработчики и эксперты призывают к осторожности и тщательному контролю над технологиями, способными существенно повлиять на будущее человечества. Только при условии прозрачности, этичности и правовой регламентации можно гарантировать, что искусственный интеллект будет служить на благо общества, а не становиться инструментом угроз и нарушений.

Источник и фото - ria.ru