Сотрудники OpenAI сочли безопасность сферы ИИ недостаточной, пишет Reuters

МОСКВА, 29 сен — РИА Новости.

На фоне стремительного развития технологий искусственного интеллекта все чаще звучат предупреждения о том, что скорость внедрения новых решений опережает внимание к вопросам безопасности. В этой ситуации особенно остро встает вопрос о том, насколько компании готовы учитывать возможные риски, связанные с созданием все более мощных систем. Сотрудники OpenAI и Google DeepMind считают, что компании пока не принимают достаточных мер в сфере защиты при разработке ИИ, сосредотачиваясь прежде всего на быстром выпуске продуктов и соперничестве друг с другом, сообщило Reuters.

По данным агентства, нынешние и бывшие исследователи OpenAI и Google DeepMind заявляют, что технологические компании делают слишком мало для предотвращения потенциально катастрофических последствий появления самосовершенствующихся систем искусственного интеллекта. Такие системы, по их мнению, в перспективе могут выйти за пределы контроля человека и создать серьезные угрозы для общества. Специалисты подчеркивают, что при разработке подобных технологий необходимы более строгие правила, тщательная проверка моделей и усиленные меры предосторожности.

Эксперты также отмечают, что сама конкуренция между крупными игроками рынка нередко подталкивает компании ускорять запуск новых ИИ-продуктов, даже если вопросы безопасности остаются недостаточно проработанными. На этом фоне все громче звучат призывы к более ответственному подходу, который бы сочетал инновации с прозрачностью, тестированием рисков и международным контролем.

В последние годы тема безопасности искусственного интеллекта все чаще выходит за пределы узкопрофессиональных дискуссий и становится предметом широкого общественного обсуждения. На этом фоне особенно заметными становятся заявления самих специалистов, которые работают над развитием передовых ИИ-систем. Как отмечает Reuters, в видеообращениях, собранных для агентства компанией Palisade Research, сотрудники этих компаний подчеркнули, что их тревога по поводу рисков искусственного интеллекта является вполне искренней и не связана с попыткой привлечь внимание или создать маркетинговый эффект.

Эти обращения вошли в проект frominside.ai, который был создан как площадка для прямого обращения к общественности со стороны людей, глубоко озабоченных дальнейшим развитием ИИ. Идея проекта заключается в том, чтобы не ограничиваться внутренними обсуждениями в компаниях и научных кругах, а открыто говорить о потенциальных угрозах, которые могут возникнуть по мере усложнения и распространения интеллектуальных систем. Подобный формат позволяет лучше понять, что беспокоит тех, кто сам участвует в создании этих технологий.

Так, по информации Reuters, в одном из таких видео научный сотрудник DeepMind заявил, что вероятность того, что искусственный интеллект может привести к исчезновению человечества, составляет как минимум 10%. При этом он назвал эту оценку «неоправданно высокой», отмечает агентство. Подобные заявления подчеркивают, что даже среди разработчиков и исследователей нет единого оптимистичного взгляда на будущее ИИ: часть специалистов считает, что риски требуют более серьезного внимания уже сейчас, пока технологии продолжают стремительно развиваться.

Эксперты, поднимающие эту тему, указывают, что речь идет не только о гипотетических сценариях, но и о необходимости заранее вырабатывать правила, ограничители и механизмы контроля. Именно поэтому публичные признания сотрудников ведущих ИИ-компаний могут сыграть важную роль в формировании более ответственного отношения к этой сфере со стороны государства, бизнеса и общества в целом.

Развитие искусственного интеллекта сегодня вызывает не только энтузиазм, но и серьезные опасения у специалистов, которые предупреждают о необходимости взвешенного подхода. В этой сфере особенно важно учитывать не только скорость прогресса, но и возможные последствия для общества, экономики и безопасности.

В другом видео инженер-исследователь OpenAI подчеркнул, что при создании ИИ необходимо действовать «очень осторожно», однако на практике лаборатории продолжают соревноваться между собой, стремясь быстрее выпустить новые технологии. Такая гонка может повышать риски, поскольку в условиях жесткой конкуренции вопросы контроля и проверки систем нередко отходят на второй план.

«Никто не знает, чем это закончится: либо мы излечим рак, либо потеряем все рабочие места, либо, возможно, все погибнем», — приводит Reuters его слова. Эта оценка отражает широкий спектр возможных сценариев: от крупных научных прорывов и пользы для медицины до серьезных социальных потрясений и угроз, которые пока трудно точно просчитать.

Исследователи в области искусственного интеллекта занимаются темой безопасности уже много лет, разрабатывая методы тестирования, ограничения и контроля таких систем. Однако интерес широкой общественности к этим вопросам заметно вырос после инцидента со взломом агентами OpenAI платформы Hugging Face, который напомнил, что даже передовые технологии могут создавать непредвиденные проблемы.

Сегодня эксперты все чаще говорят о том, что дальнейшее развитие ИИ требует не только инноваций, но и прозрачных правил, международного сотрудничества и ответственного регулирования. Только при таком подходе можно снизить риски и при этом сохранить пользу, которую искусственный интеллект способен принести человечеству.

Вопрос о том, как совместить стремительное развитие технологий с необходимостью обеспечивать безопасность, все чаще оказывается в центре внимания не только специалистов, но и политиков по всему миру. В последние годы эта тема приобрела особую остроту, поскольку последствия возможных ошибок в быстро развивающейся сфере могут затронуть миллионы людей и повлиять на будущее целых отраслей.

С тех пор спор о том, где проходит граница между инновациями и рисками, расколол технологическое сообщество и превратился в важную глобальную политическую проблему, отмечает агентство. По мнению многих экспертов, именно сейчас особенно важно выработать понятные правила, которые позволят не тормозить прогресс, но при этом снизить вероятность опасных сценариев.

"Риски увеличиваются очень быстро. Я и другие специалисты, работающие в этой области, обязаны говорить об этом открыто", — заявил в интервью Reuters сооснователь и главный научный сотрудник компании Resolution Джеффри Ирвинг (Geoffrey Irving), ранее работавший в OpenAI и DeepMind. Он подчеркнул, что чем быстрее развивается отрасль, тем важнее обсуждать не только ее преимущества, но и потенциальные угрозы для общества, бизнеса и государств.

Эксперты считают, что подобные предупреждения помогают привлечь внимание к необходимости ответственного подхода к разработке и внедрению новых технологий. Именно открытая дискуссия, по их мнению, может стать основой для более безопасного и устойчивого развития отрасли в будущем.

Источник и фото - ria.ru