Сэм Альтман считает, что при дефиците памяти выгоднее загружать ее работой в облаке. Его аргумент прозвучал в обсуждении нейросетей, которые пользователи запускают на своих компьютерах.
Глава компании OpenAI, разработчика ChatGPT, Сэм Альтман заявил в подкасте Cheeky Pint, что распределять ограниченные запасы оперативной памяти по домашним компьютерам неэффективно. По его мнению, в условиях дефицита полезнее добиваться максимальной загрузки оборудования в облачных дата-центрах.
Разговор касался локального запуска ИИ, когда нейросеть обрабатывает запросы на компьютере пользователя, без отправки задач на удаленные серверы. Альтман описал ожидание сторонников такого подхода: открытые модели позволят выполнять задачи дома и сократят потребность в инфраструктуре дата-центров.
Он возразил, что память при этом все равно нужна, только она окажется распределена между отдельными владельцами. Альтман назвал «довольно ужасным» такое использование мировых запасов с точки зрения распределения ресурсов. По его оценке, память в личных компьютерах задействована лишь 5% времени.
Причину медленного расширения производства Альтман связал с прошлым опытом изготовителей памяти. По его словам, отрасль переживала чередование подъемов и спадов, а строительство слишком большого числа заводов неоднократно ставило компании на грань банкротства. Этот опыт, считает он, заставляет производителей осторожнее вкладываться в новые мощности даже при высоком спросе.
В долгосрочной перспективе Альтман рассчитывает на рост предложения и снижение стоимости чипов и энергии. В том же интервью он рассказал, что OpenAI учится строить собственные дата-центры и намерена направить свою программу робототехники на создание такой инфраструктуры. Это он описал как способ со временем увеличить доступные вычислительные мощности.
Источник: hi-tech.mail.ru