21 октября 2024 года в ByteDance признали, что программист-стажёр Кейю Тянь (Keyu Tian) действительно некоторое время «злонамеренно вмешивался» в обучение ИИ моделей, используемых в исследовательском проекте, но это произошло без ущерба для продуктов компании. Также в ByteDance опровергли информацию, что, якобы, стажёр нанёс убытков на $10 млн, а в ходе саботажа он смог на время заблокировать работу около 8 тыс. графических процессоров, чипов, используемых для обучения моделей ИИ.
В ByteDance сообщили, что стажёр из исследовательской команды по разработке коммерческих технологий для ИИ был уволен в августе за серьёзные дисциплинарные нарушения. Компания добавила, что её официальные коммерческие продукты и большие языковые модели, а также базовая технология для генеративного ИИ, не были затронуты инцидентом.
ByteDance заявила, что проинформировала университет, где обучается стажёр о случившемся. Также о неподобающем поведении программиста компания сообщила в отраслевые ассоциации.
Ранее профильные эксперты по ИБ сообщили, что Тянь устроился в компанию ByteDance стажёром и изнутри два месяца саботировал выполнение проекта по разработке нейросетей, добавляя ошибки в код, а также на встречах команды узнавал о том, как собираются фиксить баги, и придумывал новые. Из-за его действий команда из трёх десятков разработчиков круглосуточно искала и устраняла постоянно появляющиеся баги в проекте.
В итоге стажёра выловили по логам. Также инженеры из ByteDance пояснили, что команда из тридцати программистов целых два месяца работала впустую из-за деструктивных действий одного разработчика.
Источник: habr.com
Похожие новости:
Стажёр устроился в ByteDance и изнутри два месяца саботировал выполнение проекта по разработке нейросетей
ByteDance разрабатывает собственные ИИ-ускорителями, но и от закупок чипов NVIDIA пока не отказывается
ByteDance и Broadcom совместно разрабатывают 5-нм ИИ-чип
Broadcom помогает ByteDance разрабатывать чипы для ускорителей ИИ, выпускать которые по 5-нм технологии будет TSMC