Один из основателей современных технологий искусственного интеллекта Джеффри Хинтон предупредил о возможных серьёзных последствиях развития ИИ. По его мнению, уже в конце этого года или в 2027 году может произойти крупный инцидент, который заставит мировых лидеров пересмотреть подход к новым технологиям. Telegram-канал создателя Трешбокса про технологии
78-летний учёный считает, что искусственный интеллект способен привести как к значительному улучшению качества жизни, так и к масштабным проблемам. Среди возможных последствий он назвал массовую безработицу, усиление разрыва между богатыми и бедными и серьёзные социальные потрясения. Хинтон не исключает, что человечеству вообще не стоило начинать разработку ИИ.
В качестве одного из наиболее вероятных сценариев учёный рассматривает атаку на энергетическую инфраструктуру с помощью искусственного интеллекта. Она может привести к масштабному отключению электричества. Другой вариант развития событий — сбой, который на несколько дней или даже неделю парализует финансовую систему. Хинтон сравнил возможные последствия с Чернобыльской катастрофой, отметив, что подобный случай может стать серьёзным предупреждением для всего мира.
Отдельное беспокойство у специалиста вызывают крупнейшие компании, которые продолжают выпускать всё более мощные модели в борьбе за лидерство на рынке. Хинтон заявил, что не доверяет главе OpenAI Сэму Альтману, а также раскритиковал Марка Цукерберга и Илона Маска. По его мнению, руководители технологических корпораций понимают существующие угрозы, но ставят коммерческие интересы выше безопасности.
Хинтон занимается исследованиями искусственного интеллекта около 44 лет и считается одним из создателей технологий нейронных сетей. В 2023 году он покинул Google, чтобы открыто рассказывать о рисках развития ИИ. Учёный выступает за обязательное тестирование передовых моделей, независимую оценку их безопасности и введение общих международных стандартов. Он считает, что без более строгого контроля последствия развития технологии могут оказаться гораздо серьёзнее, чем ожидается.
Источник: trashbox.ru