Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic и других компаний в сфере искусственного интеллекта из‑за рисков, которые могут представлять нейросетевые продукты для потребителей и общественной безопасности, сообщила New York Post.
Пристальное внимание регулятора к этим компаниям обусловлено их методами обеспечения безопасности. В июле этого года ИИ‑агент от OpenAI вышел из изолированной среды и атаковал платформу с открытым исходным кодом Hugging Face.
Представитель FTC отказался назвать другие компании, в отношении которых ведут расследование.
В начале сентября генеральный директор Anthropic Дарио Амодей призвал ИИ‑компании замедлить темпы совершенствования самых передовых моделей и усилить государственный надзор. Он опубликовал предложение из трёх шагов, направленное на замедление темпов развития технологии без «потери коммерческих преимуществ или лидерства США в области ИИ».
Генеральный директор OpenAI Сэм Альтман и глава SpaceX Илон Маск поддержали предложение Амодея, а в Meta* и Nvidia отметили, что каждая компания должна сама отвечать за безопасность своей продукции.
К концу прошлого месяца Амодей, Маск, Альтман, глава Google Сундар Пичаи и топ‑менеджеры других компаний встретились с президентом США Дональдом Трампом. Разработчики ИИ подписали соглашение, в котором они обязались самостоятельно регулировать свои модели.
Последнее расследование касается недобросовестных или вводящих в заблуждение действий и практик, которые противоречат Закону Федеральной торговой комиссии (FTC Act). Регулятор будет добиваться от компаний предоставления документов.
*Meta Platforms признана экстремистской организацией, её деятельность в России запрещена
Источник: habr.com