Бывший руководитель отдела политики OpenAI Майлз Брандейдж обвинил компанию в изменении своей позиции по безопасности искусственного интеллекта (ИИ). По его мнению, OpenAI переписывает историю и представляет свою стратегию осторожного внедрения технологий в неверном свете.
Компания недавно опубликовала документ, в котором объясняет свой подход к безопасности ИИ. В нем говорится, что OpenAI использует поэтапное развертывание моделей и рассматривает этот метод как ключевой для обеспечения безопасности. В качестве примера компания привела постепенный выпуск GPT-2, заявив, что это демонстрирует ее взвешенный подход к внедрению технологий.
Брандейдж, который несколько лет работал в OpenAI, выразил несогласие с этой трактовкой событий. Он утверждает, что выпуск GPT-2 действительно происходил поэтапно, но это было осознанное и необходимое решение, а не избыточная осторожность. По его словам, OpenAI теперь подает прошлые меры предосторожности как избыточные, тем самым смещая акценты в своей политике безопасности.
Также Брандейдж выразил обеспокоенность заявлением OpenAI о том, что создание искусственного общего интеллекта (AGI) будет происходить поэтапно, а не станет резким скачком. Он считает, что компания искажает факты, чтобы сформировать удобную для себя позицию и представить возможные опасения по поводу ИИ как преувеличенные.
Источник: www.ferra.ru
