ИИ предложил пользователям рецепт приготовления запрещенных веществ и посоветовал употреблять в пищу «коровьи яйца».
Французский аналог ChatGPT, чат-бот Lucie, был отключен спустя три дня после запуска из-за серии неадекватных ответов. Разработанный консорциумом OpenLLM-France при участии компании Linagora Group, он позиционировался как прозрачный и надежный инструмент на основе ИИ. Однако на практике Lucie демонстрировала странное поведение, отказываясь отвечать на вопросы и выдавая абсурдные рекомендации.
Одним из примеров стала реакция бота на математический запрос «Сколько будет 2 + 2?». Lucie уклонилась от ответа, заявив, что запрограммирована на нейтральность и объективность. В других случаях бот допускал ошибки в расчетах, а также предложил пользователям рецепт приготовления метамфетамина и посоветовал употреблять в пищу «коровьи яйца».
Запуск Lucie состоялся 25 января 2025 года, но уже 28 января разработчики приняли решение отключить его. В заявлении Linagora Group указано, что модель находится на начальном этапе разработки и не была должным образом оптимизирована. Компания признала свою ошибку, отметив, что запуск сервиса без необходимых ограничений и пояснений был преждевременным.
Несмотря на неудачу, создатели Lucie уверены, что проект привлек внимание к теме национального ИИ. Однако бот уже сравнили с неудачными экспериментами других технологических гигантов, такими как Bard от Google, который в 2023 году сотрудники компании называли «бесполезным и вызывающим отвращение», или Tay от Microsoft, который за сутки после запуска начал публиковать расистские заявления.
Источник: hi-tech.mail.ru
