Бывший сотрудник OpenAI Дэниэль Кокотайло в рамках недавно данного изданию New York Time интервью спрогнозировал очень высокую вероятность открытого противостояния поумневшего ИИ и человечества. По мнению респондента, шансы такого исхода событий достигают 70%!
Со слов Кокотайло, ещё в момент трудоустройства в OpenAI его попросили сделать прогнозы развития технологий искусственного интеллекта. Он предположил, что к 2027 году отрасль сможет достичь такого развития, которое повлечёт за собой мощнейший урон всему человечеству и от которого будет крайне тяжело оправиться. По всей вероятности, не смотря на явный акцент возникновения рисков в пользу осмысления ИИ себя как живого существа, речь идёт и о буквально «пожираемых» ресурсах данной сферой.
Новый сотрудник настолько опасался описанных выше вариантов воздействия ИИ, что даже лично убедил главу компании OpenAI Сэма Альтмана ужесточить процессы безопасности в отношении разработки функционала нейросетей. Новые правила должны были позволить более уверенно контролировать нейросети и не допустить негативных сценариев развития искусственного интеллекта.
К сожалению, со временем Кокотайло понял, что к его советам, которым прислушивались изначально, позже начали относиться «спустя рукава», ставя развитие технологий на первый план без оглядки на все возникающие угрозы. Осознав происходящее, специалист по ИИ уволился из OpenAI, а подводя итог ситуации, в письме New York Time он отметил:
«Мир не готов, и мы не готовы. И я обеспокоен тем, что OpenAI спешит вперёд, несмотря на прогнозы…»
Вам может быть интересно: GeForce RTX 5090 получит 28 гигабайт видеопамяти, 448 — битную шину и сразу 24576 CUDA-ядер
The post Бывший сотрудник OpenAI спрогнозировал очень высокую вероятность нанесения ИИ человечеству непоправимого урона appeared first on AMD news.
Источник: amd.newsПохожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Какой SSD (накопитель) купить в мае 2024 года
Альтман и Брокман заявили об отсутствии проблем безопасности в ИИ-продуктах OpenAI после ухода Суцкевера и Лейке
OpenAI предложила до $5 млн в год за лицензии от CNN, Time и Fox на использование их материалов для обучения ChatGPT