Microsoft внедрила предварительную поддержку нейропроцессоров Intel для DirectML API

В предварительной версии DirectML 1.13.1 и ONNX Runtime 1.17 компания Intel привнесла поддержку ускорения нейропроцессорных блоков (NPU) на ПК, оснащенных процессорами Intel Core Ultra. Эта работа проводилась совместно с Samsung с целью повышения производительности приложений искусственного интеллекта, использующих DirectML.

Intel также сообщила о сотрудничестве с Samsung и использовании технологии Intel AI Boost в ноутбуке Samsung Galaxy Book 4 с чипами Intel Core Ultra. Samsung успешно интегрировала функции классификации лиц и объектов в своем приложении Windows Gallery на процессоре Intel Core Ultra с использованием NPU и Microsoft DirectML API, что привело к ускорению времени разработки проекта.

Однако были озвучены ограничения для ПК с процессорами Intel Core Ultra при использовании NPU в DirectML. В настоящее время поддержка NPU в DirectML ограничена подмножеством моделей машинного обучения, и некоторые модели могут демонстрировать неполадки в работе, задержки или низкую точность. Однако компании намерены улучшить совместимость и производительность с течением времени для большего числа моделей машинного обучения.