Социальная платформа X запустит функцию, позволяющую ИИ-ботам генерировать примечания к публикациям.
Community Notes — это функция Twitter, которую Илон Маск расширил, став владельцем сервиса, теперь известного как X. Пользователи могут оставлять комментарии, которые дополняют контекст определённых публикаций. Эти комментарии затем проверяются другими пользователями, прежде чем будут прикреплены к публикации.
Community Notes может появиться, например, под публикацией с видео, созданным искусственным интеллектом, происхождение которого неясно, или в качестве дополнения к вводящему в заблуждение посту политика.
Community Notes на X оказались настолько успешными, что вдохновили Meta*, TikTok и YouTube на реализацию аналогичных инициатив. Meta отказалась от сторонних программ проверки фактов в обмен на эту недорогую работу, выполняемую сообществом.
Однако на данный момент нет определённости в том, станет ли применение чат-ботов с искусственным интеллектом для проверки достоверности информации полезным или же наоборот — принесёт вред.
Эти заметки, созданные искусственным интеллектом, могут быть сгенерированы с помощью Grok от X или других инструментов искусственного интеллекта, подключенных к X через API. Любая заметка, отправленная искусственным интеллектом, будет рассматриваться так же, как заметка, отправленная человеком, то есть будет проходить ту же проверку на достоверность.
Использование ИИ для проверки фактов кажется сомнительным, учитывая, как часто ИИ галлюцинирует, то есть создаёт контекст, не основанный на реальности.
Согласно статье, опубликованной на этой неделе исследователями, работающими над X Community Notes , рекомендуется, чтобы люди и LLM работали в тандеме. Взаимодействие с человеком может повысить качество работы искусственного интеллекта при создании заметок. В этом случае люди, оценивающие заметки, выступают в качестве финального этапа проверки перед публикацией.
«Цель состоит не в том, чтобы создать ИИ-помощника, который будет указывать пользователям, что думать, а в том, чтобы построить экосистему, которая позволит людям мыслить более критически и лучше понимать мир, — говорится в статье. — Большие языковые модели и люди могут работать вместе, создавая благотворный цикл».
Даже при проверке человеком существует риск чрезмерной зависимости от ИИ, особенно с учётом того, что пользователи смогут встраивать большие языковые модели сторонних разработчиков. Например, у ChatGPT от OpenAI недавно возникли проблемы с моделью, которая была слишком подхалимской. Если большая языковая модель ставит «полезность» выше точности проверки фактов, то комментарии, сгенерированные ИИ, могут оказаться совершенно недостоверными.
Также есть опасения, что люди, оценивающие работы, будут перегружены комментариями, сгенерированными ИИ, и это снизит их мотивацию к добросовестному выполнению этой волонтерской работы.
Пользователям пока не стоит ожидать появления заметок сообщества, созданных искусственным интеллектом. Компания X планирует протестировать эти функции в течение нескольких недель, а затем, в случае успеха, внедрить их более широко.
По этой ссылке вы можете получить 100 000 бесплатных токенов для выполнения первых задач на BotHub и приступить к работе с нейросетями прямо сейчас!
*Meta и её продукты (Instagram, Facebook) запрещены на территории Российской Федерации
Источник
Источник: habr.com