ИИ не подчиняется старым правилам кибербезопасности, заявил эксперт

МОСКВА, 7 окт - РИА Новости.

Классические подходы к кибербезопасности, построенные на жестких ограничениях, неэффективны в работе с ИИ-агентами, заявил сооснователь IT-компании Positive Technologies Юрий Максимов.

«Если агенту просто сказать: этого нельзя, этого нельзя и этого нельзя, он не будет вести себя как человек. Он начнет “тупить” и перестанет нормально выполнять задачи. Старые методы запретов к ИИ-приложениям неприменимы», — сказал он на пленарной сессии форума «Цифровые решения».

По словам Максимова, вместо системы запретов нужно добиваться, чтобы агент действовал в интересах и в рамках поручения человека. «Он должен делать все соразмерно задаче, которую я ему поставил, и не выходить за разумные пределы», — пояснил он.

При этом, отметил эксперт, без самого искусственного интеллекта такую задачу решить невозможно, поскольку человек не способен контролировать все действия агента. Поэтому, по его словам, выстраивается система из нескольких ИИ: одна модель, например, создает виртуальный банк, другая пытается его атаковать, а третья учится выявлять эту атаку. Все они связаны в единую цепочку и постоянно совершенствуются, а в центре этой системы остается человек.

Отдельно он поднял вопрос ответственности. По словам Максимова, если человек поручает задачу агенту, а тот совершает ошибку, то ответственность часто пытаются переложить. Но такой подход, как он подчеркнул, не подходит ни для государства, ни для бизнеса.

Форум «Цифровые решения» проходит в Национальном центре «Россия» 6–10 октября. РИА Новости — генеральный информационный партнер форума.

Источник и фото - ria.ru