Anthropic заявила, что заблокировала попытки неких личностей использовать её ИИ для кибератак, слежки и опасных исследований. Они могли… привести к созданию биологического оружия.
Например, с декабря 2025 по август 2026 года Anthropic зафиксировала случаи злоупотреблений со стороны продавцов шпионского софта, «политически мотивированных людей» и групп, связанных с государствами.
В другом случае система заблокировала запрос Claude помочь написать заявку на научное финансирование. Речь шла об исследовании вируса, вызывающего сильную боль и лихорадку. Целью было усилить мутации и сделать его опаснее.
Также компания выявила группы, создававшие сотни фальшивых аккаунтов в соцсетях для продвижения “одной политической точки зрения”.
Все выявленные угрозы компания заблокировала, усилила защиту и поделилась данными с властями и партнёрами.
Источник: www.ferra.ru