Аналитик SemiAnalysis Джордан Нанос рассказал, что инженеры OpenAI не смогли построчно объяснить работу части кода для нового AI‑ускорителя Jalapeño. Код сгенерировали с помощью Codex, и команда понимает общий принцип его работы, но не погружается в детали.
Эпизод произошёл во время тестирования чипа на бенчмарке InferenceX. Специалисты SemiAnalysis приехали в лабораторию OpenAI и вместе с её инженерами изучали программный стек ускорителя. Они просматривали файл примерно на 30 тыс. строк с низкоуровневым кодом кернела Multi‑head Latent Attention — механизма внимания, который используется в DeepSeek R1.
Код кернела написан на Gluon — низкоуровневом языке программирования GPU, построенном на том же компиляторном стеке, что и Triton. По словам Наноса, инженеры понимают архитектуру чипа и общие принципы работы кода, но если попросить их объяснить, что делает та или иная строчка, то они не смогут точно ответить. При этом в разработке участвую специалисты с большим опытом и экспертизой в работе с программированием GPU.
Нанос также рассказал, что в разработке AI‑ускорителя Jalapeño команда OpenAI активно использует Codex. Агенты практически самостоятельно создали эффективные кернелы для DeepSeek R1, при том что до этого у компании не было собственной реализации MLA. Разработчики протестировали его и не стали глубоко погружаться в детали, потому что всё и так работает.
Нанос не видит в этом проблемы и считает, что ситуация очень хорошо показывает смену парадигмы в разработке ПО. Если раньше программисту надо было понимать код, чтобы его написать, протестировать и оптимизировать, то сейчас достаточно определить архитектуру и критерии корректности, а генерацию и перебор реализаций можно переложить на нейросети.
Мнение пользователей разделилось: одни считают, что такой подход заметно ускорит разработку ПО, а другие боятся, что в итоге это приведёт к потере контроля над проектом. Ниже некоторые комментарии пользователей социальных сетей:
Интересно, как меняется само понятие «понимать свою систему», если никто в команде не может построчно объяснить, что делает кернел.
Получается принцип работы Вселенной: она выдаёт случайный мусор, и рано или поздно за бесконечное время из этого хлама получается что‑то рабочее.
И сколько же там бэкдоров?
О, я уверен, подход отлично масштабируется. Так ведь?
Компромисс, конечно, дикий: код нечитаемый, зато быстрый. Настоящие проблемы начнутся, когда модель столкнётся с пограничным случаем, на который этот кернел не был рассчитан, — отлаживать такой низкоуровневый код будет очень тяжело.
Если люди не понимают код, то что мешает AI внедрить в него промпт‑инъекцию, особенно когда код становится частью низкоуровневой системы, работающей на реальном железе?
Читать код сложнее, чем писать его. Нельзя назвать хорошей инженерной практикой ситуацию, когда машина пишет код, которого вы не понимаете и не сможете нормально отлаживать и поддерживать.
Источник: habr.com