Сотрудник одной из команд 2 месяца целенаправленно подрывал работу над ИИ компании.
Кейю Тянь был принят в команду рекламных технологий, но вместо помощи он стал саботировать проект. Как сообщает BBC, за два месяца он успел нанести значительный ущерб — внедрял вирусы и изменял ключевые элементы инфраструктуры. Вся команда из 30 разработчиков отчаянно пыталась выяснить, откуда появляются ошибки, пока не стало ясно, что проблема внутри самой компании.
Один из самых коварных методов, который использовал стажер, — загрузка специальных Pickle-файлов со скрытым вредоносным кодом. Этот код активировался случайным образом, что усложняло его обнаружение. Система начала ломаться, проекты зависали, а команда была в растерянности: казалось, что баги возникали из ниоткуда.
Кроме того, стажер изменил версию библиотеки PyTorch, на которой строились все проекты команды. Он вносил крохотные изменения каждый день, которые по итогу рушили все разработки. Программы перестали работать стабильно, а эксперименты давали неверные результаты. Разработчики не сразу догадались проверить исходный код, ведь ошибки выглядели настолько рандомными, что их сложно было связать с изменениями в библиотеке.
Ситуация усложнилась, когда стажер вмешался в чекпоинты — важные файлы, которые хранят промежуточные состояния обучающихся нейронных сетей. Он изменял параметры моделей или попросту удалял все наработки.
Источник: hi-tech.mail.ru
