В "Эксмо" назвали критерии проверки книг с помощью ИИ

МОСКВА, 5 авг — РИА Новости.

Издательство «Эксмо» использует искусственный интеллект для проверки книг на наличие упоминаний о наркотиках, экстремизме, иноагентах и другой запрещенной информации. Тексты анализируются по нескольким уровням, чтобы исключить потенциально опасный контент, сообщил РИА Новости генеральный директор издательства Евгений Капьев.

«Наша система предназначена для глубокого анализа текстов, в том числе на иностранных языках, с целью выявления контента, нарушающего законодательство», — отметил Капьев.

По его словам, процесс выстроен по многоуровневой архитектуре с использованием нескольких типов программных агентов, что позволяет добиться высокой точности и снизить риски. На первом этапе текст делится на фрагменты, которые должны быть достаточно компактными для обработки.

«Затем фрагменты направляются трем разным агентам первого уровня, каждый из которых специализируется на своей теме: секс, наркотики, экстремизм. Помимо основной цепочки, в системе работают и другие агенты: они выявляют упоминания иноагентов и запрещенных организаций, педофилии, чайлдфри*, ЛГБТ*, дискредитации армии, ненормативной лексики», — пояснил глава издательства.

После этого результаты проходят через агента второго уровня, который отсекает очевидные ложные срабатывания. Оставшиеся случаи передаются на третий, наиболее сложный этап анализа: здесь подключаются самые дорогие и продвинутые модели, обученные на действующем законодательстве и судебной практике. Как уточнил Капьев, их задача — классифицировать возможное нарушение.

«Ключевой принцип системы состоит в том, что машина не принимает окончательного решения. Ее задача — убрать очевидно безопасный контент и передать все, что содержит хотя бы малейший риск, на рассмотрение живому редактору», — заключил Капьев.

*Движение признано экстремистским и запрещено в России.

Источник и фото - ria.ru