OpenAI готовит одно из самых спорных обновлений за всю историю ChatGPT — систему, которая будет определять возраст пользователей. Компания объясняет эту инициативу заботой о безопасности подростков, но на практике это значит, что ИИ впервые получает полномочия самостоятельно решать, кто перед ним — взрослый или ребёнок.
Если система заподозрит, что собеседник несовершеннолетний, он автоматически будет переведён в детскую версию ChatGPT. В этом режиме нейросеть станет жёстко фильтровать взрослый и чувствительный контент, а также активно отслеживать тревожные сигналы. В случае, если ребёнок начнёт рассказывать о насилии, угрозе жизни или других критических ситуациях, система сможет передавать такие данные в полицию или службы защиты. Таким образом, ChatGPT из обычного помощника превращается в инструмент, способный напрямую взаимодействовать с государственными структурами.
OpenAI признаёт, что подобный шаг может ударить по приватности. Чтобы исключить обход ограничений, взрослым пользователям иногда придётся подтверждать свой возраст документально. Компания честно заявляет, что это жертва ради безопасности детей. Тем не менее эксперты сразу разделились во мнениях. Одни называют этот шаг революцией в защите несовершеннолетних в интернете и уверены, что он станет новым стандартом для всей индустрии. Другие, напротив, предупреждают, что под предлогом заботы может появиться система массового контроля, где сбор персональных данных и передача информации властям станут нормой.
OpenAI объясняет нововведение как часть инициативы Teen Safety, Freedom and Privacy, которая должна сохранить баланс между безопасностью и свободой подростков в сети. Однако на практике этот баланс может оказаться крайне шатким. В разных странах действуют свои законы о защите детей и персональных данных, и ChatGPT придётся адаптироваться к этим нормам, лавируя между интересами пользователей, бизнеса и регуляторов.
Контекст тоже важен. Большие технологические компании уже давно вводят детские ограничения. Google фильтрует поисковые результаты, TikTok сокращает время использования. Но решение OpenAI идёт гораздо дальше.
Официальный анонс OpenAI подтверждает, что компания готова пожертвовать частью приватности ради безопасности подростков. Вопрос только в том, примет ли это общество, и не превратится ли детский ChatGPT в ещё один инструмент глобального контроля за пользователями.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Подробнее
Источник: habr.com