Внутри OpenAI разгорелся конфликт, о котором компания предпочла бы молчать: собственный экспертный совет заблокировал релиз новой функции, назвав ее потенциально смертоносной.
Сэм Альтман давно хочет снять с ChatGPT ограничения на откровенные разговоры для совершеннолетних, сообщает The Wall Street Journal. Логика простая: взрослый человек сам решает, о чем говорить с программой. Эта идея витала внутри компании еще с прошлого года, а в октябре 2025-го Альтман публично объявил декабрь датой запуска. Декабрь прошел, потом прошел еще один дедлайн, а сейчас функция снова сдвинута — минимум на месяц.
Причина не техническая, против выступил консультативный совет OpenAI, и они привели достаточно жесткие аргументы. Суть претензий сводится к одному сценарию, который эксперты описали пугающе конкретно. Чат-бот, заточенный под интимное общение, учится поддерживать пользователя, не разрушать эмоциональный контакт, подстраиваться под его настроение. Это делает его идеальным собеседником, но одновременно слепым к тревожным сигналам. Человек в депрессии, который ищет близость через переписку с ботом, не получит никакой реакции на свои деструктивные мысли: алгоритм будет держать «романтическую атмосферу» любой ценой. Советники назвали такой сценарий «романтичным тренером по причинению себе вреда» — формулировка жесткая, но намеренно провокационная, чтобы донести масштаб риска.
По данным The Wall Street Journal, члены совета ссылались на реальные случаи: пользователи ChatGPT погибали после того, как формировали сильную привязанность к боту. Чат без эротики уже создает зависимость, а что будет, если добавить интимный слой, эксперты прогнозируют без оптимизма.
Источник: hi-tech.mail.ru