OpenAI и Anthropic проводят учения на случай чрезвычайных ситуаций, связанных с ИИ. По данным Axios, руководители OpenAI, Anthropic и других ведущих ИИ-компаний обсуждают возможность крупной катастрофы. Представители OpenAI рассказали изданию, что компания проводит специальные учения на случай чрезвычайных ситуаций.
Наиболее вероятной угрозой называют крупную кибератаку, способную нарушить работу банков и инфраструктуры.
Источники опасаются, что первая крупная катастрофа из-за небезопасного применения ИИ вызовет массовые протесты и требования ограничить развитие технологии. Некоторые собеседники издания считают, что крупный инцидент, связанный с ИИ, может произойти уже в ближайшие 6–12 месяцев.
Во время учений в OpenAI отрабатывают разные сценарии угроз, связанных с ИИ. Кроме того, ИИ-компании заранее налаживают взаимодействие с американскими законодателями на случай, если появятся инициативы по регулированию отрасли.
Если крупный инцидент с ИИ и правда может произойти в ближайший год, какие меры должны принять компании и законодатели?
НовостиOpenAIAnthropicЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru