Несмотря на всестороннюю развитость искусственного интеллекта, он достаточно уязвим. Решить этот вопрос не удастся еще очень долгое время.
В последнее время в IT-сообществе все больше разговоров о создании сверхчеловеческого искусственного интеллекта. Несмотря на то, что ИИ способен обыграть лучших гроссмейстеров в шахматах, в настолке «Го», его превосходство является достаточно хрупким. В связи с этим исследователи решили выяснить, смогут ли будущие ИИ-системы избавиться от проблем с безопасностью и надежностью. Получится ли у них претендовать на сверхчеловеческую эффективность.
Стивен Каспер, специалист по информатике из Массачусетского технологического института в Кембридже, добавляет, что на сегодняшний день создать сверхэффективный искусственный интеллект очень сложно, практически невозможно. Согласно опубликованному анализу, современные ИИ-системы не способны преодолеть состязательные атаки. Это когда с помощью нехитрых методов и уловок (подсказок) можно вынудить ИИ выдать вредоносную информацию, которую нейросеть должна скрывать.
Эксперимент с KataGo
В 2022 году исследователи создали ИИ-ботов, способных обыгрывать KataGo — лучшую систему искусственного интеллекта для игры в «Го». Обычно KataGo справляется с лучшими Го-игроками, но боты смогли найти эксплойты и обыграть ее. Интересно, но против простых людей боты часто были бессильны. Указывает ли это на фундаментальную слабость KataGo и прочих разработок искусственного интеллекта, обладающих на первый взгляд сверхчеловеческими способностями? Разобраться с этим решил исполнительный директор FAR AI Адам Глив.
Источник: hi-tech.mail.ru
Похожие новости:
ASUS объявляет о стратегии внедрения искусственного интеллекта, ноутбуки Copilot+ и решения для создателей контента на выставке Computex 2024
Сверхпроводящий токамак | Рентген в смартфоне | Теневая камера | Контакты для 2D-чипов
Какую материнскую плату купить в мае 2024 года
Шумоподавляющая ткань | 6 минут термоядерного синтеза | Лазерная связь в космосе | Вакцина от рака