Американские морпехи наглядно показали, что иногда «сломать» ИИ можно простыми трюками.
В ходе эксперимента DARPA, в рамках программы Squad X, они должны были обмануть систему наблюдения, обученную распознавать людей в городских условиях.
Алгоритм шесть дней тренировался выявлять морпехов по походке и позам, но испытание закончилось неожиданным результатом: все восемь участников добрались до цели, не будучи замеченными.
Кто-то кувыркался 300 метров подряд, двое спрятались под картонной коробкой и подошли к датчику, смеясь, а один морпех прикрылся еловыми ветками, превратившись в «дерево».
Для системы это оказалось непреодолимой задачей — она не была готова к таким нестандартным сценариям.
Эксперты называют это «сдвигом распределения»: ИИ отлично справляется с ситуациями, на которых обучался, но теряется при столкновении с неожиданными вариантами.
История напомнила военным, что искусственный интеллект полезен, но человеческая находчивость и креативность по-прежнему остаются решающим преимуществом.
Источник: www.ferra.ru