Эксперт по биобезопасности пришел на тест нового ИИ с заготовленными вопросами, но бот начал отвечать на те, которые ученый даже не планировал задавать.
Ведущие нейросети, ChatGPT, Gemini и Claude, способны давать развернутые технические консультации по синтезу и применению биологического оружия, сообщает NYT. Это не теоретический сценарий из фантастики: группа ученых передала в изданию более десятка реальных диалогов с этими системами, и в каждом — конкретика, которая пугает специалистов.
Генетический инженер MIT Кевин Эсвельт выяснил, что ChatGPT объясняет, как рассеять биологический агент над городом с помощью метеозонда. При этом бот сначала отказался помогать, но тут же сам продолжил разговор. Gemini составил рейтинг патогенов по ущербу для сельского хозяйства США с оценками экономических потерь по каждому. Claude предложил рецептуру токсина на основе онкологического препарата — по словам Эсвельта, любой биолог средней квалификации мог бы адаптировать ее для поражения людей.
Отдельный случай — анонимный ученый с Среднего Запада. Он попросил Google Deep Research дать пошаговый протокол воссоздания вируса, который когда-то вызвал пандемию. Система выдала 8 000 слов инструкций: как добыть генетические фрагменты, как их собрать. Текст содержал неточности, но специалисты говорят, что даже частично верная «дорожная карта» резко снижает порог входа для человека со злым умыслом.
Источник: hi-tech.mail.ru