В "Яндексе" рассказали о возможной ошибке китайского чат-бота | Новости MOS.NEWS
Вт, 18 февраля €95.67 $91.34
zen-yandex

Общество

назад

В "Яндексе" рассказали о возможной ошибке китайского чат-бота

В "Яндексе" рассказали о возможной ошибке китайского чат-бота
Недавно стало известно, что данные, связанные с технологиями "Яндекса", могли быть включены в дата-сет для обучения нейросети DeepSeek.

Из-за этого возникла ситуация, когда китайский чат-бот случайным образом произносит информацию, относящуюся к российской компании, и ошибочно утверждает, что он является YandexGPT. Об этом сообщили в пресс-службе "Яндекса" РИА Новости.

Появление скриншотов с ответами DeepSeek на вопрос о том, кто умнее - он или ChatGPT4, вызвало широкий резонанс в Telegram-каналах. На скриншотах видно, как китайский чат-бот сначала утверждает, что он является YandexGPT, а затем объясняет, что это было всего лишь недоразумение, вызванное технической ошибкой в данных или случайной путаницей во время обучения.

Этот инцидент поднял вопрос о безопасности и конфиденциальности данных, используемых для обучения и развития искусственного интеллекта. Как можно избежать подобных ситуаций в будущем и обеспечить точность и надежность работы нейронных сетей - это вызов, перед которым стоит весь мир технологий.

Нейросети часто обучаются на разнообразных данных из интернета, включая как оригинальные тексты, так и материалы, созданные другими искусственными интеллектами. Возможно, в дата-сет DeepSeek попали данные, связанные с технологиями "Яндекса", так как в сети активно обсуждаются и упоминаются подобные системы. По мнению представителей "Яндекса", это может объяснить случайное включение информации о компании в ответы модели, даже до утверждения, что она является YandexGPT.

Изучение и использование данных из интернета для обучения нейросетей становится все более распространенной практикой. Однако, это может привести к нежелательным результатам, когда модели случайным образом включают в ответы информацию, которая не соответствует действительности. В случае с DeepSeek, возможно, произошло именно такое искажение из-за наличия данных о "Яндексе" в исходном дата-сете.

Компании, разрабатывающие искусственный интеллект, должны быть особенно внимательны к источникам данных, которые используются для обучения моделей. Недостаточная фильтрация информации может привести к нежелательным последствиям, как в случае с упомянутой моделью, которая ошибочно ассоциировала себя с YandexGPT из-за случайного включения данных о "Яндексе".

Важность обучения ИИ-моделей не ограничивается простым запоминанием фактов - они также должны учитывать стиль и контекст информации. Это позволяет моделям глубже понимать данные, с которыми работают. Кроме того, при использовании русскоязычного DeepSeek вероятность включения информации, связанной с "Яндексом", увеличивается, благодаря популярности продуктов компании.

"Появление новой модели на рынке подчеркивает важность развития открытых решений. Мы в "Яндексе" активно поддерживаем развитие open source и считаем, что важно содействовать открытым разработкам и технологиям, доступным для всего сообщества", - подчеркнули в компании. Это свидетельствует о стремлении к совершенствованию и доступности технологий для всех.

Таким образом, сотрудничество и развитие в области искусственного интеллекта становятся ключевыми аспектами в современном мире. Поддержка открытых разработок и обучение моделей с учетом контекста - это необходимые шаги для создания эффективных и инновационных решений в области ИИ.

Новая версия ассистента на базе искусственного интеллекта от компании DeepSeek, основанной в Китае, была выпущена 20 января. Согласно информации на сайте компании, этот ассистент R1 не уступает по функционалу ChatGPT. После обновления приложения, ассистент DeepSeek сразу возглавил рейтинги в различных странах. Например, в магазине приложений Apple - App Store - он стал лидером в США, Великобритании, ОАЭ, Японии, Южной Корее и Китае. Этот успех подтверждает высокую оценку пользователей и их заинтересованность в новом продукте.

Источник и фото - ria.ru

предыдущая новость следующая новость
вверх
ПОМОЩЬ ОТ MOS.NEWS
Вы можете воспользоваться возможностями Медиахолдинга MOS.NEWS чтобы решить моментально любой юридический вопрос, использование данной возможности бесплатное. Добавить свой сайт

Путин призвал следить за ситуацией в Калининградской области
Общество
18 февраля 2025 11
Санкт-Петербург, 18 февраля - по словам президента России Владимира Путина, важно следить за развитием событий в Калинин...
В Подмосковье неизвестный стрелял по окнам многоэтажки
Происшествия
18 февраля 2025 40
Сотрудники полиции в поисках неизвестного, который произвел выстрел по окнам жилого дома в Химках, сообщает региональное...
Путин поручил обеспечить финансирование выплат жителям курского приграничья
Общество
18 февраля 2025 65
Президент России Владимир Путин поручил Министерству финансов РФ обеспечить финансирование для дополнительных выплат жит...
Путин поручил правительству помочь восстановить работу объекта КТК
Общество
18 февраля 2025 44
Президент России Владимир Путин обратился к правительству с просьбой оказать поддержку владельцам "Каспийского труб...
Жителя Татарстана заподозрили в неуплате НДС на 299 миллионов рублей
Происшествия
18 февраля 2025 75
Инспекторы подозревают руководителя двух компаний в Татарстане в уклонении от уплаты НДС на сумму свыше 299 миллионов ру...
Депутаты выступили с неожиданным призывом к и.о. президента Абхазии
Общество
18 февраля 2025 62
В ходе внеочередной сессии парламент Абхазии принял постановление, обращаясь к и.о.

Онлайн издание MOS.NEWS - актуальные новости Москвы. Здесь можно получить достоверную и объективную информацию о том, что ежедневно происходит в столице. Наш ресурс для тех, кому интересно все, что касается любимого города. Основной принцип ресурса – правдивое и оперативное освещение событий, соблюдение стандартов качественной журналистики и приоритет интересов москвичей. Наши читатели могут выразить свою точку зрения в комментариях к новостям, обсудить знаковые события в авторских колонках, спланировать отдых с афишей Москвы, принять участие в формировании новостного контента, наконец, узнавать новое и развиваться.

Наши партнёры


ГОРОДСКАЯ СЕТЬ ПОРТАЛОВ ГРУППЫ MOS.NEWS