Edge AI — это подход, при котором обработка данных ИИ-моделью происходит непосредственно на локальном устройстве (смартфоне, камере видеонаблюдения, промышленном датчике), а не отправляется на удалённый облачный сервер для вычислений и последующего получения результата.
Такой подход даёт несколько практических преимуществ: минимальную задержку ответа (не нужно ждать пересылки данных туда и обратно через интернет), работу без подключения к сети, и повышенную приватность, поскольку чувствительные данные не покидают устройство. Обратная сторона — необходимость использовать компактные модели (SLM, квантованные или дистиллированные версии), поскольку вычислительные ресурсы устройства существенно ограничены по сравнению с облачным сервером.
Edge AI особенно востребован в промышленной автоматизации, системах видеонаблюдения реального времени и мобильных приложениях, где задержка передачи данных в облако неприемлема или соединение с интернетом ненадёжно.