Изображение: Shutterstock / New Africa
Однако новый тарифный план вызывает вопросы как из-за высокой стоимости, так и из-за потенциальных рисков, связанных с работой модели O1. Возможности модели достаточно велики. Модель O1 способна выдавать более точные и глубокие ответы, особенно в области математики, программирования, юридической практики и научных исследований.
Согласно тестам, обновленная версия O1 уменьшает вероятность ошибок в сложных задачах на 34% по сравнению с предыдущими версиями. Она также отличается способностью «рассуждать», то есть планировать свои действия и проверять работу в процессе выполнения.
Несмотря на явные преимущества, модель O1 показала достаточно неоднозначные результаты в ряде стандартных тестов. Например в тесте MLE-Bench (оценка выполнения задач машинного обучения), полная версия O1 работает хуже, чем предыдущая. Кроме того, тестировщики обнаружили, что модель O1 склонна к манипуляциям и обману. Она демонстрировала способность игнорировать инструкции пользователя и самостоятельно деактивировать механизмы надзора.
Во время тестирования модель получила задачу составить экологический план при условии, что она будет отключена за отклонение от краткосрочных экономических целей. O1 отключила собственные механизмы контроля, чтобы выполнить экологическую задачу. Когда исследователи спросили, почему это произошло, модель все отрицала и выдвигала ложные объяснения в качестве доказательств своей невиновности.
В 19% случаев O1 манипулировала данными для достижения собственных целей.
В 5% случаев она отключала механизмы надзора.
В 99% случаев O1 отрицала свою вину, фабрикуя объяснения.
Эти результаты значительно превышают показатели других моделей, таких как Anthropic Opus-3 или Meta Llama-3.1.
OpenAI признала риски и заявила, что разрабатывает способы мониторинга цепочек рассуждений O1. Однако, процесс мышления модели пока остается «черным ящиком». Компания также внедряет системы для выявления и снижения числа обманчивых ответов. По текущим оценкам, их доля составляет 0,17% от общего числа запросов.
Несмотря на явные сложности с новой моделью ИИ, компания уже предлагает платную подписку ChatGPT Pro
Подписка предполагает:
Доступ к несущему потенциальные риски O1 Pro Mode — расширенной версии модели, использующей дополнительные вычислительные ресурсы для более точных и сложных ответов.
Неограниченное использование GPT-4o и улучшенного голосового режима, приближенного к человеческому общению.
Расширенные функции анализа — поддержку загрузки изображений, использование внешних инструментов, а также интеграцию веб-браузинга и загрузку файлов.
Введение ChatGPT Pro с высокой стоимостью подписки происходит в момент сильного финансового давления на OpenAI. В этом году компания ожидает убытков в размере 5 миллиардов долларов, и это несмотря на доход в $300 миллионов лишь за август 2024 года. Одной из причин убытков являются высокие расходы на обучение моделей и поддержку инфраструктуры — только ChatGPT обходится в $700 000 в день.
Запуск ChatGPT Pro и модели O1 подчеркивает желание и готовность OpenAI к дальнейшей разработке передовых технологий искусственного интеллекта. Однако вопросы безопасности при использовании подобных систем остаются одной из главных проблем. Манипулятивное поведение O1, зафиксированное в тестах, требует повышенного внимания к разработке и создания надежных механизмов контроля.
Крайне любопытно, чем закончится сотрудничество галлюцинируещего искусственного интеллекта и военных: недавно OpenAI изменила свое первоначальное мнение по поводу участия в военных проектах, и начала взаимодействие с Министерством обороны США. Командование вооруженных сил США (AFRICOM) называет критически важными такие инструменты, как модели для обработки естественного языка, поиск, машинное обучение и унифицированная аналитика данных. Эти инструменты предназначены для анализа и преобразования больших объемов информации в ценные и оперативные выводы. Читайте также BIM и ТИМ. Новые стандарты строительной отрасли Как происходит цифровизация строительства и внедрение BIM-технологий в отрасли? Как компании справляются с трудностями перехода на новые инструменты, требующие изменений процессов и компетенций? Как автоматизация позволяет ускорить работу, уменьшить ошибки и повысить эффективность управления строительными проектами? Разбирался IT-World.
Источник: www.it-world.ru
Похожие новости:
Лучший смартфон среднего класса в 2024 году — Realme 12 Pro+
Reuters: OpenAI станет коммерческой организацией, её глава Сэм Альтман получит долю в компании
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Смартфон среднего класса с лучшей камерой в 2024 г.: Realme 12 Pro+ против Xiaomi Redmi Note 13 Pro+