Глава РАН рассказал, как удержать под контролем искусственный интеллект

МОСКВА, 27 сен - РИА Новости.

Развитие технологий искусственного интеллекта в ближайшие годы, по мнению специалистов, будет только ускоряться, а значит, возрастет и роль вопросов безопасности, контроля и ответственности за его применение. В будущем ИИ может стать настолько сложным, что человеку будет все труднее отслеживать все процессы, связанные с его обучением, обновлением и использованием в различных сферах.

Технологии искусственного интеллекта продолжат развиваться, и человеку со временем будет все сложнее полностью контролировать этот процесс, заявил РИА Новости глава Российской академии наук, ученый в области микро- и наноэлектроники Геннадий Красников. По его словам, развитие ИИ уже вошло в такую стадию, когда остановить его практически невозможно, а механизмы надзора за ним должны становиться более совершенными и технологичными.

"Остановить развитие искусственного интеллекта невозможно, и на определенном этапе человеку будет сложнее контролировать это развитие. Но это должен делать другой искусственный интеллект", - сказал академик. Он отметил, что именно ИИ в перспективе может стать инструментом, который поможет анализировать поведение более сложных систем, выявлять риски и обеспечивать дополнительный уровень защиты.

По мнению Красникова, подобный подход позволит не только повысить эффективность контроля, но и снизить вероятность ошибок, связанных с человеческим фактором. При этом важно, чтобы развитие таких систем сопровождалось строгими правилами, научной экспертизой и вниманием к тому, как новые технологии влияют на общество, экономику и науку.

Развитие искусственного интеллекта требует не только внедрения новых технологий, но и выстраивания надежных механизмов защиты, которые позволят минимизировать возможные риски. Важно заранее продумывать архитектуру таких систем, чтобы они были устойчивыми к сбоям, ошибкам и внешнему вмешательству.

"Мы должны создавать такие модели, когда один ИИ контролирует другой ИИ, может быть, еще третий для того, чтобы обеспечить большую безопасность для себя в этом вопросе", - отметил Красников. По его словам, подобный подход позволяет повысить уровень контроля над работой интеллектуальных систем и снизить вероятность нежелательных последствий при их использовании.

Глава РАН также подчеркнул, что необходимо очень внимательно анализировать уязвимости фреймворков, на основе которых формируются те или иные языковые модели. Именно от качества этих базовых инструментов во многом зависит надежность конечных решений, применяемых в сфере машинного обучения и искусственного интеллекта. В связи с этим, по его мнению, должны быть установлены четкие правила, регулирующие создание различных методов машинного обучения и прикладных ИИ-моделей.

Кроме того, языковые модели являются фундаментом современного искусственного интеллекта и играют ключевую роль в формировании суверенных ИИ-систем. Красников пояснил, что в этой области особенно важны решения отечественных компаний, поскольку они позволяют развивать собственные технологические компетенции, обеспечивать независимость и повышать уровень цифровой безопасности страны.

Когда речь заходит о прикладных задачах, особенно о таких сложных и ответственных направлениях, как разработка лекарств против тяжелых заболеваний, требования к технологиям становятся значительно выше. Здесь недостаточно общих решений: нужны более точные модели, которые обучаются на больших и качественных массивах данных, чтобы обеспечивать максимально надежные результаты. В подобных случаях точность и воспроизводимость работы имеют решающее значение, поскольку от них может зависеть успех исследований и, в конечном итоге, здоровье людей.

Как отметил академик, такие модели должны быть на порядок точнее, чем языковые системы, если их предполагается использовать именно для подобных задач. Это означает, что к ним предъявляются не только требования по качеству предсказаний, но и по устойчивости, проверяемости и практической применимости. Чем более серьезная область применения, тем строже должны быть критерии оценки и отбора инструментов.

По его словам, для решения подобных задач необходимо использовать лучшие из доступных моделей — либо разрабатывать собственные, либо приобретать их за рубежом. При этом принципиально важно, чтобы все такие системы были доверенными: то есть одновременно защищенными от внешнего вмешательства и способными выдавать корректные, надежные результаты. Именно сочетание безопасности и точности, по словам главы РАН, и является ключевым условием их применения в чувствительных прикладных сферах.

В последние годы тема возможных угроз, связанных с развитием искусственного интеллекта, все чаще становится предметом общественных обсуждений и экспертных споров. По мере того как ИИ-системы становятся мощнее и шире применяются в различных сферах, растет и обеспокоенность тем, какие последствия это может повлечь для человечества в долгосрочной перспективе.

Ранее в публичном пространстве развернулась дискуссия о рисках, которые может нести искусственный интеллект. Двое сотрудников компании Anthropic, занимающейся разработками в этой области, высказали мнение, что уже через 10 лет ИИ с вероятностью около 10% может представлять угрозу, способную привести к уничтожению человечества. Подобные оценки звучат особенно тревожно, поскольку отражают не только технологические, но и экзистенциальные опасения, связанные с ускоренным развитием нейросетей и автономных систем.

На этом фоне глава Anthropic Дарио Амодей в сентябре выступил с призывом замедлить разработку более мощных моделей искусственного интеллекта, объясняя это необходимостью усилить меры безопасности и лучше подготовиться к возможным последствиям. Его позиция отражает растущий запрос на более осторожный и ответственное развитие отрасли, в которой стремительный прогресс может опережать механизмы контроля и регулирования.

Интересно, что эту идею уже поддержали и другие заметные фигуры технологической индустрии. Американский миллиардер Илон Маск, которому принадлежит компания xAI, а также глава OpenAI Сэм Альтман согласились с тем, что в разработке ИИ необходимо учитывать не только конкурентные преимущества, но и потенциальные риски для общества. Все это показывает, что дискуссия о будущем искусственного интеллекта выходит за рамки отдельных компаний и превращается в глобальный вопрос, требующий согласованных решений, прозрачных стандартов и международного внимания.

Эксперты отмечают, что дальнейшее развитие ИИ будет зависеть от того, удастся ли совместить инновации с надежными механизмами безопасности, чтобы технологии служили человеку, а не создавали новые угрозы. Именно поэтому разговор о контроле, ограничениях и этических принципах становится не менее важным, чем сами технологические достижения.

Источник и фото - ria.ru