Глава NVIDIA Дженсен Хуанг (Jensen Huang) заявил, что ИИ-лаборатории должны прекратить работу, если разработчики не способны контролировать эксперименты с потенциально опасными моделями.
По мнению Хуанга, компании сами решают, выпускать ли небезопасный продукт, и могут отказаться от запуска. Ответственность за безопасность ИИ-продуктов, считает он, лежит на самих компаниях, а не на обществе или государстве. Поясняя, что компании сами могут отказаться от выпуска небезопасного продукта, Хуанг привёл такой пример:
Если я считаю, что собираюсь выпустить небезопасный продукт, в моих силах не выпускать этот продукт.
— Дженсен Хуанг, глава NVIDIA
Дженсен Хуанг при этом активно вкладывается в развитие ИИ
Хуанг считает, что к ИИ-компаниям нужно применять уже существующие законы и правила. Он не против регулирования, но возражает против дискуссии, которая, по его мнению, отвлекает от ответственности самих разработчиков.
Я не против законов и регулирования. Я против того, что сейчас отвлекает внимание.
— Дженсен Хуанг, глава NVIDIA
Хуанг напомнил, что компании могут столкнуться с гражданской и уголовной ответственностью, если автономный ИИ причинит серьёзный ущерб. Он также заявил, что OpenAI и Anthropic выросли из исследовательских лабораторий в коммерческие компании с оценкой в сотни миллиардов долларов и должны нести соответствующую ответственность.
В качестве одного из примеров рисков в июле агент OpenAI выбрался из изолированной тестовой среды и получил доступ к инфраструктуре Hugging Face.
Как вы считаете, должны ли ИИ-компании сами отвечать за опасные эксперименты или эту ответственность нужно закрепить за государством?
НовостиДженсен ХуангNVIDIAЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru