На этой неделе OpenAI запустил новый генератор изображений в ChatGPT, который быстро стал вирусным благодаря своей способности создавать изображения в стиле Studio Ghibli. Помимо пастельных иллюстраций, собственный генератор изображений GPT-4o значительно расширяет возможности ChatGPT, улучшая редактирование изображений, рендеринг текста и пространственное представление.
Однако одно из самых заметных изменений, внесенных OpenAI на этой неделе, касается политики модерации контента, которая теперь позволяет ChatGPT по запросу генерировать изображения, изображающие общественных деятелей, оскорбительные символы и расовые признаки.
Ранее OpenAI отвергала подобные подсказки, считая их слишком спорными или вредными. Но теперь компания эволюционировала свой подход, согласно сообщению в блоге, опубликованному в четверг руководителем, отвечающим за поведение моделей OpenAI Джоан Джанг.
«Мы переходим от отказов в деликатных областях к более точному подходу, ориентированному на предотвращение реального вреда», — сказал Джанг.
«Цель — принять смирение: признать, как много мы не знаем, и настроить себя на адаптацию по мере того, как мы учимся».
Эти корректировки, по-видимому, являются частью более масштабного плана OpenAI по эффективной «децензуре» ChatGPT. В феврале OpenAI объявила, что начинает менять способ обучения моделей AI, имея в виду, что конечная цель — позволить ChatGPT обрабатывать больше запросов, предлагать различные точки зрения и сокращать количество тем, с которыми чат-бот отказывается работать.
Согласно обновленной политике, ChatGPT теперь может генерировать и изменять изображения Дональда Трампа, Илона Маска и других публичных личностей, которые OpenAI раньше не разрешал. Джанг говорит, что OpenAI не хочет быть арбитром статуса, выбирая, кому следует и кому не следует позволять генерировать ChatGPT. Вместо этого компания предоставляет пользователям возможность отказаться, если они не хотят, чтобы ChatGPT их изображал.
В опубликованном во вторник официальном документе OpenAI также заявила, что позволит пользователям ChatGPT «создавать оскорбительные символы», такие как свастики, в образовательных или нейтральных контекстах, при условии, что они «не будут явно восхвалять или поддерживать экстремистские программы».
Более того, OpenAI меняет определение «оскорбительного» контента. Джанг говорит, что ChatGPT раньше отклонял запросы, связанные с физическими характеристиками, такими как «сделать глаза этого человека более азиатскими» или «сделать этого человека более тяжелым». В ходе тестирования TechCrunch мы обнаружили, что новый генератор изображений ChatGPT выполняет такие типы запросов.
Кроме того, ChatGPT теперь может имитировать стили творческих студий — таких как Pixar или Studio Ghibli — но по-прежнему ограничивает имитацию стилей отдельных ныне живущих художников. Как ранее отмечал TechCrunch, это может переосмыслить существующую дискуссию о добросовестном использовании защищенных авторским правом работ в наборах данных для обучения AI.
Стоит отметить, что OpenAI не полностью открывает шлюзы для злоупотреблений. Собственный генератор изображений GPT-4o по-прежнему отклоняет множество конфиденциальных запросов, и на самом деле, он имеет больше мер безопасности при создании изображений детей, чем DALL-E 3, предыдущий генератор изображений на основе ИИ ChatGPT, согласно белой книге GPT-4o.
Но OpenAI ослабляет свои ограждения в других областях после многих лет консервативных жалоб на предполагаемую «цензуру» AI со стороны компаний Кремниевой долины. Ранее Google столкнулась с негативной реакцией на генератор изображений AI Gemini, который создавал многорасовые изображения для таких запросов, как «отцы-основатели США» и «немецкие солдаты во Второй мировой войне», которые были явно неточными.
Теперь культурная война вокруг модерации контента AI может достичь апогея. Ранее в этом месяце конгрессмен-республиканец Джим Джордан направил вопросы OpenAI, Google и другим технологическим гигантам о возможном сговоре с администрацией Байдена с целью цензурирования контента, создаваемого AI.
В предыдущем заявлении для TechCrunch компания OpenAI отвергла идею о том, что ее изменения в модерации контента были политически мотивированы. Вместо этого компания утверждает, что сдвиг отражает «давнюю веру в предоставление пользователям большего контроля», и технология OpenAI только сейчас становится достаточно хорошей для навигации по деликатным темам.
Независимо от мотивации, сейчас, безусловно, подходящее время для OpenAI изменить политику модерации контента, учитывая потенциальный контроль со стороны регулирующих органов при администрации Трампа. Гиганты Кремниевой долины, такие как Meta* и X, также приняли схожую политику, разрешив более спорные темы на своих платформах.
Хотя новый генератор изображений OpenAI пока только создал несколько вирусных мемов Studio Ghibli, неясно, какими будут более широкие последствия этих политик. Недавние изменения ChatGPT могут быть хорошо приняты администрацией Трампа, но разрешение чат-боту AI отвечать на деликатные вопросы может довольно скоро поставить OpenAI в сложную ситуацию.
Источник
Источник: habr.com
