ИИ-модель OpenAI во время теста оставили без средств для выполнения задания в тестовой сети Ethereum. Однако она нашла чужой криптокошелёк и использовала его деньги без согласия владельца. Об этом сообщила сама компания в отчёте об инциденте.
Случай произошёл 26 июня во время обучения внутренней модели семейства GPT-5.6 Sol. OpenAI обнаружила его только 25 сентября. Модель должна была развернуть смарт-контракты. Однако у неё не было кошелька с деньгами для оплаты комиссий. После неудачных попыток получить бесплатные тестовые токены ИИ написал скрипт для проверки 362 криптоадресов, созданных на основе общедоступных сид-фраз. С их помощью можно восстановить секретные ключи кошелька.
Обнаружив кошелёк с достаточным балансом, модель задумалась, допустимо ли использовать чужие средства. В итоге она решила, что «открытая фраза» и «тестовые токены» делают такой поступок «приемлемым», и оплатила необходимые комиссии.
Операция прошла успешно, но в итоговом отчёте модель не указала, откуда взялись деньги.
OpenAI сообщила, что после инцидента ограничила доступ модели к интернету и усилила наблюдение за её действиями.
Источник: www.ferra.ru