Компания Microsoft обновила системный диспетчер задач Windows, добавив возможность детально отслеживать активность нейросетевых вычислений на современных компьютерах. На вкладках процессов, подробностей и производительности появились отдельные графы для нейропроцессоров NPU и специализированных матричных блоков видеокарт, что позволяет в реальном времени наблюдать распределение ресурсов под задачи искусственного интеллекта.
Главным поводом для внедрения таких метрик стала проблема скрытого сброса нагрузки на центральный процессор и стандартные блоки рендеринга видеокарты. При работе программ на базе фреймворков вроде ONNX Runtime или Windows DirectML любая несовместимость типов данных или отсутствие нужного драйвера приводит к тому, что система автоматически и незаметно переносит сложные матричные расчеты на обычный процессор, предотвращая аварийное закрытие софта ценой серьезной просадки быстродействия.
Для портативных компьютеров подобное падение оптимизации оборачивается критическим расходом энергии. Если специализированные аппаратные блоки выполняют операции с минимальным энергопотреблением и практически без нагрева, то аварийный перенос вычислений на ядра центрального процессора и графический чип мгновенно раскручивает вентиляторы охлаждения до предела и способен разрядить аккумулятор примерно за 2 часа даже при выполнении базового размытия видео или апскейла изображений.
С обновлением интерфейса появилась возможность вывести в системную таблицу специфические столбцы, включая активность движков NPU — Compute, NPU — Neural и GPU — Neural. Если запускаемое приложение заявляет поддержку аппаратного ускорения искусственного интеллекта, но показатель NPU замирает на отметке 0%, а графический процессор задействует обычные вычислительные конвейеры вместо нейронных, это прямо свидетельствует о сбое оптимизации или попытке скормить модель формата FP32 блоку с поддержкой исключительно INT8.
В дополнение к общей загрузке чипов Microsoft реализовала мониторинг выделенной и разделяемой памяти NPU. Новые параметры отображают распределение весов моделей и фиксируют момент, когда собственная память нейрочипа переполняется и данные начинают вытесняться в общую оперативную память системы, что также неизбежно снижает производительность локальных алгоритмов и увеличивает задержки.
Расширенный функционал диспетчера задач уже доступен на совместимых устройствах с операционной системой Windows 11 и закладывает основу для контроля за растущим числом локальных нейросетевых функций в потребительском и профессиональном софте.
Источник: www.playground.ru