Reddit намерен строго контролировать публикацию контента на платформе. Как рассказал изданию ArsTechnica генеральный директор Reddit Стив Хаффман, компания планирует ввести систему верификации, чтобы убедиться, что только люди могут публиковать сообщения на форумах.
Хаффман подчеркнул, что Reddit не будет требовать от пользователей публиковать сообщения под их настоящими именами. Однако рассматривается возможность использования World ID, технологии сканирования глазного яблока от компании Worldcoin, основанной Сэмом Альтманом. World ID позволит верифицировать пользователей, обеспечивая при этом анонимность. Отмечается, что введение верификации — один из основных приоритетов работы компании в течение ближайшего года.
Хаффман рассчитывает, что верификация оградит компании от попыток манипулировать сайтом с помощью фейкового или сгенерированного ИИ контента. По его словам, Reddit становится всё более важным источником данных для обучения больших языковых моделей (LLM), и рекламодатели активно на это реагируют. По словам одного из источников ArsTechnica в рекламном бизнесе, наблюдается «массовая миграция» брендов на платформу. Цель — повысить вероятность появления их рекламы в ответах чат-ботов с ИИ.
Ранее Reddit заключила многомиллионные соглашения с Google и OpenAI, которым позволено обучать свои LLM на контенте Reddit. При этом компания защищает свою платформу от несанкционированного скрейпинга: в прошлом месяце Reddit подала иск к Anthropic, обвинив стартап в несанкционированном использовании материалов с платформы для обучения нейросети Claude. Речь идёт о более чем 100 тыс. обращений к ресурсу с июля 2024 года.
В начале июня модераторы сообщества Reddit об искусственном интеллекте Pro-AI рассказали о сошедших с ума пользователях ChatGPT — «шизопостерах», которые считают, что «они совершили какое-то невероятное открытие, создали бога или стали богом». По словам модераторов, они незаметно банят таких юзеров, но тренд нарастает.
«Сумасшедших людей гораздо больше, чем люди думают. И ИИ в настоящее время их очень нездоровым образом подстёгивает», — отметил один модератор. По его словам, он уже забанил «более 100» человек, а в этом месяце наблюдается «всплеск» числа таких пользователей.
Источник: habr.com