«Нейро» отправят на «перевоспитание» после того, как в ответ о персонаже сказки она предположила, что его образ вдохновлён террористом
Компания «Яндекс» собирается доработать свою нейросеть «Нейро» после скандала, связанного с её некорректным ответом о персонаже книг Туве Янссон. Искусственный интеллект ошибочно связал образ Снусмумрика с террористом Шамилем Басаевым, что вызвало широкий резонанс. В компании подчеркнули, что ошибка стала результатом анализа информации из доступных в интернете источников.
Пресс-служба «Яндекса» объяснила, что «Нейро» формирует свои ответы на основе данных из поисковой выдачи, включая ссылки на использованные сайты. В некоторых случаях алгоритмы могут выбирать нерелевантные источники, что приводит к ошибкам. Представители компании добавили, что жалобы пользователей помогают дообучать модель и улучшать её точность.
В «Яндексе» заверили, что внимательно следят за обратной связью и работают над предотвращением подобных ситуаций в будущем. Компания собирается обновить нейросеть, чтобы повысить качество её ответов и избежать использования некорректных данных.
Источник: www.ferra.ru
