Глоссарий ИИ
Полный словарь искусственного интеллекта
Движок вывода
Оптимизированное программное обеспечение, которое выполняет предварительно обученные модели ИИ на целевом оборудовании, управляя распределением ресурсов, планированием вычислений и использованием аппаратных ускорений для вывода в реальном времени.
Обрезка (Pruning)
Техника сжатия модели, которая заключается в выборочном удалении наименее влиятельных весов или нейронов в нейронной сети, тем самым снижая вычислительную сложность для развертывания на edge-устройствах.
Поиск нейронной архитектуры (NAS) для Edge
Процесс автоматизации проектирования моделей ИИ, оптимизированных специально для аппаратных ограничений edge-устройств, сбалансировав точность модели с ее размером, задержкой и энергопотреблением.
Энергосберегающая система на кристалле (LP-SoC)
Интегральная схема, которая объединяет процессор, аппаратные ускорители для ИИ (NPU), память и интерфейсы на одном кристалле, разработанная для минимального энергопотребления при обеспечении производительности HPC, адаптированной для edge.
Операционная система реального времени (RTOS) для ИИ
Легкая и детерминированная операционная система, оптимизированная для выполнения рабочих нагрузок ИИ со строгими гарантиями задержки, незаменимая для критически важных приложений, таких как автономное вождение или роботизированное управление на периферии.
Непрерывное обучение на устройстве
Способность модели ИИ адаптироваться и непрерывно обучаться на новых данных непосредственно на edge-устройстве, не забывая предыдущие знания и не требуя централизованного переобучения.
Разреженные вычисления
Парадигма вычислений, которая использует нули (разреженность) в весах и активациях моделей ИИ для пропуска ненужных операций, тем самым резко сокращая количество вычислений и энергопотребление на edge-оборудовании.
Безопасный анклав для ИИ
Изолированная аппаратная зона безопасности внутри процессора, разработанная для выполнения конфиденциально чувствительных рабочих нагрузок ИИ, защищая модели и данные от несанкционированного доступа, даже если основная система скомпрометирована.