Вода бывает не только в дипломах: оказывается, ChatGPT потребляет приличный объем жидкости для генерации. Два-три абзаца текста обойдутся примерно в бутылку воды.
Исследователи из Калифорнийского университета подсчитали, сколько ресурсов необходимо для обслуживания серверов нейросети при использовании модели GPT-4. Выяснилось, что в среднем для генерации 100 слов нужно от 0,5 до 1,5 литра воды — примерно столько требуется для охлаждения системы. За год на GPT-4 может уйти до 435 миллионов литров воды при условии, что ее будет использовать каждый десятый американец. Немало тратится и на обучение нейросетей — предшествующая модель GPT потребляла столько же воды, сколько требуется для производства 45 килограммов говядины.
Тем временем такие технологические гиганты как Google пообещали проработать эту проблему, построив новые дата-центры с использованием альтернативных методов охлаждения серверов.
Недавно ютубер ChromaLock сумел запустить ChatGPT на обычном калькуляторе. Также на днях вышла новая модель 1o, которая способна за час написать код для докторской диссертации.
Источник: vgtimes.ru