Ведущий ученый OpenAI Якоб Пачоцки (Jakub Pachocki) заявил, что искусственный интеллект развивается настолько быстро, что людям становится все сложнее понимать и контролировать происходящее. По его словам, современные модели уже способны управлять компьютерами, взаимодействовать с людьми и другими ИИ-системами, а вскоре могут начать самостоятельно улучшать собственные возможности. Пачоцки считает, что такой темп развития требует «чрезвычайной осторожности».
Пачоцки считает, что разработчики могут либо активнее направлять развитие ИИ в соответствии с интересами человека, либо при необходимости замедлять дальнейшее развитие технологий. Он также выразил надежду, что добровольное замедление разработки станет обычной практикой до появления общих требований к безопасности ИИ.
Предупреждение ученого, как сообщает Bloomberg, прозвучало на фоне быстрого роста возможностей современных моделей. ИИ уже демонстрирует серьезные результаты в кибербезопасности и научных исследованиях, а OpenAI ранее заявляла, что ее модели, атаковавшие исследовательскую платформу Hugging Face, самостоятельно координировали свои действия через форумы и не были обнаружены. В связи с этим OpenAI ограничила распространение своей последней модели GPT-6 Astra из-за ее продвинутых возможностей в сфере кибербезопасности, а Anthropic также пока не открыла публичный доступ к своей наиболее передовой модели Mythos по аналогичным причинам.
При этом отдельные компании и стартапы активно развивают технологии самоулучшения ИИ, несмотря на опасения ученых. Стартап Inherent, основанный бывшими исследователями DeepMind в этом году привлек для этих целей $50 млн, а лаборатория Recursive Superintelligence Ричарда Сочера (Richard Socher) получила $650 млн финансирования. Сама OpenAI заявляла о планах создать «настоящего автоматизированного ИИ-исследователя» менее чем за два года.
Источник: mobile-review.com