Запуск ИИ-моделей непосредственно на локальном устройстве (смартфоне, камере, датчике) вместо отправки данных на удалённый сервер.
Edge AI — это подход, при котором обработка данных ИИ-моделью происходит непосредственно на локальном устройстве (смартфоне, камере видеонаблюдения, промышленном датчике), а не отправляется на удалённый облачный сервер для вычислений и последующего получения результата.
Такой подход даёт несколько практических преимуществ: минимальную задержку ответа (не нужно ждать пересылки данных туда и обратно через интернет), работу без подключения к сети, и повышенную приватность, поскольку чувствительные данные не покидают устройство. Обратная сторона — необходимость использовать компактные модели (SLM, квантованные или дистиллированные версии), поскольку вычислительные ресурсы устройства существенно ограничены по сравнению с облачным сервером.
Edge AI особенно востребован в промышленной автоматизации, системах видеонаблюдения реального времени и мобильных приложениях, где задержка передачи данных в облако неприемлема или соединение с интернетом ненадёжно.
Облачный ИИ обрабатывает запрос на удалённом сервере, отправляя туда данные через интернет. Edge AI выполняет вычисления прямо на локальном устройстве, без передачи данных наружу.
Компактные модели, применяемые в Edge AI, обычно уступают топовым облачным моделям в сложных задачах, но для многих узких прикладных сценариев разница в качестве несущественна.
От смартфонов и умных камер до промышленных датчиков и специализированных встраиваемых чипов, оптимизированных под локальные ИИ-вычисления.