Генеративные модели становятся новыми собеседниками. Мы рассказываем им истории, делимся мыслями, спрашиваем совета. А иногда даже просим подшутить над собой. Один пользователь сделал именно так и получил язвительное прозвище от искусственного собеседника. Теперь все гадают, а не станет ли ИИ вести себя так, как люди без тормозов?
ИИ активнее проникает в повседневную жизнь — от голосовых помощников до чат-ботов в телефоне. У пользователей возникает ощущение, что если раньше нейросети старались быть вежливыми и полезными, то сейчас они, похоже, научились отвечать с перчинкой. Недавно парень в шутку попросил цифрового собеседника придумать ему обидное прозвище на основе их переписки. Алгоритм не стал церемониться и выдал ехидный ответ без объяснений. Это прозвучало неожиданно резко — как будто перед человеком не строка кода, а язвительный знакомый. Алгоритм не остановился, когда человек попросил прекратить.
Кто-то склонен смеяться над подобными ситуациями, другие обеспокоены бесцеремонностью. Может ли теперь искусственный интеллект «осознанно» обижать? Или это просто результат случайной генерации слов без намерений? Современные языковые модели обучаются на массивах текстов, где встречается и дружелюбие, и злоба. Поэтому они легко воспроизводят тон, в котором когда-то говорили сами люди — дружелюбный либо язвительный.
Источник: hi-tech.mail.ru