Агентство национальной безопасности США (АНБ) раскрыло пакет документов, которые рассказывают о беспокойстве, охватившем ведомство из-за игрушек Фёрби. В 1998-1999 годах АНБ запретило приносить игрушки в офисы, заподозрив, что они могут быть шпионскими устройствами, прослушивать разговоры и «обучаться» с помощью «искусственного интеллектуального чипа».
Фёрби — интерактивная игрушка, релиз которой состоялся в 1998 году. Фёрби могли «общаться» с владельцем, запоминая и повторяя то, что им говорят.
Раскрытые документы опубликовало издание 404 Media. По всей видимости, интерес к игрушке в АНБ проснулся после письма бдительного сотрудника, заметившего Фёрби в одном из офисов в 1998 году.
«Всем привет. Я обратил внимание на новую игрушку со встроенным чипом искусственного интеллекта. В офисе, который я недавно посетил, стояло два таких устройства. Судя по всему, эти мягкие игрушки обучаются, прослушивая речь, звучащую поблизости. Мне кажется, что это может быть небезопасно, так как они запоминают и повторяют то, что слышат, на любом языке. Кажется, эти штуки называются “Фропи”, но я не уверен. Но насколько я понимаю, в них есть записывающий чип. Это опредёленно небезопасно, прошу прояснить ситуацию», — гласило письмо в рассылке АНБ.
После письма руководство АНБ разослало сотрудникам документ под названием Furbie Alert, в котором говорилось, что «личное оборудование с функцией фото-, видео- и аудиозаписи запрещено. В него входят игрушки Фёрби, повторяющие человеческую речь. Пожалуйста, не размещайте их в помещениях АНБ».
Это предупреждение в 1999 году попало в газету The Washington Post, а в самом АНБ породило новую волну беспокойства.
«Большой интерес вызывает то, какой носитель Furby использует для записи звука, — написал один из сотрудников. — Я предполагаю, что, поскольку он может “реагировать” на опредёленные звуковые сигналы, он будет использовать хранилище, подобное цифровому автоответчику или обычным микросхемам компьютерной памяти. Кто-нибудь знает?»
«Фёрби — это всего лишь игрушка за $35, она не такая уж продвинутая. “Обучение” запрограммировано в ней таким образом, что чем дольше вы ею пользуетесь, тем больше она “знает”».
«Большая часть систем обработки речи записывает несколько аудиосэмплов, которых достаточно для получения статистики, — отметил другой сотрудник. — Чистит ли Фёрби эти буферы? Сколько информации содержится в образце? Можно было бы начать расследование и выяснить это, но, наверное, проще попросить людей оставить их дома».
Ещё один сотрудник предположил, что «ИК-порт» Furby может «хранить сигналы от любых секретных беспроводных систем поблизости».
Приблизительно в это время сотрудники напомнили друг другу, что не стоит обсуждать Фёрби в официальной переписке, потому что эти комментарии могут однажды попасть под действие закона о свободе информации, и «будет неловко, если обсуждения Фёрби окажутся на первых полосах газет». Чуть позже руководство агентства посоветовало сотрудникам воздержаться от обсуждений Фёрби.
Некоторые сравнивают панику по поводу Фёрби с мифами, которые сейчас рождаются и циркулируют вокруг технологий искусственного интеллекта. В прошлом месяце Трэверс Скотт, доцент кафедры СМИ и коммуникаций Университета Эмори и Генри, опубликовал статью под названием «Ретроспективное технологическое мифотворчество: медиа-дискурсы о Фёрби и искусственном интеллекте». В статье отмечается, что «офис АНБ в дискуссиях современных СМИ будет упоминаться как пример чрезмерной реакции на детскую игрушку». Тем не менее, «тогдашняя оценка Фёрби с точки зрения безопасности не так уж необычна по сравнению с нынешней практикой».
«Сильные эмоции — центральный компонент создания мифов в технологической культуре, — написал он. — И теперь, когда достижения искусственного интеллекта требуют более тщательного исследования, чем когда-либо, мы не можем поздравить себя с тем, что мы не так доверчивы и дезинформированы, как были раньше».
Источник: habr.com
Похожие новости:
В США политик потребовал от АНБ прекратить скупку данных из браузеров американцев
Офис по кибербезопасности Белого дома США призвал разработчиков переходить на безопасные ЯП типа Rust
Acer объявляет о выпуске новых ПК Swift Go с поддержкой ИИ и процессорами Intel Core Ultra
Отказ Индии от соглашения 1998 года лишь усугубит дефицит микросхем: эксперты