На днях глава Anthropic Дарио Амодеи опубликовал статью с призывом к разработчикам передовых ИИ замедлить его развитие. Он боится, что ИИ «уничтожит человеческую жизнь». Вот только спустя пару дней Anthropic разместила вакансию менеджера по… политике в области обычных вооружений.
Новый сотрудник войдет в команду Safeguards, которая определяет, что можно, а что нельзя делать с ИИ-моделью Claude. Ему предстоит решать, какие способы использования модели допустимы, когда речь идет о бомбах и подобных вещах.
В тексте вакансии сказано, мол, провести четкую границу сложно, потому что «одни и те же технологии служат и гражданским задачам, и оружию».
По данным Reuters, кстати, инструменты Anthropic применялись в атаке США на Иран, а по информации Wall Street Journal — в краже главы Венесуэлы.
Источник: www.ferra.ru