Нейросети на борту (Edge AI)

Кратко

Периферийный ИИ (edge AI) — выполнение нейросетей прямо на устройстве у источника данных: на бортовом компьютере дрона, в камере, на одноплатнике — вместо отправки данных в облако. Модель обучают на мощных серверах, а работает она затем на месте, рядом с сенсорами.

Для чего используется

Считать на борту, а не в облаке, приходится по четырём причинам:

  • Задержка. Обходу препятствий или системе торможения нужен ответ за десятки миллисекунд — путь до сервера и обратно занимает больше.
  • Канал связи. Видеопоток с камер не всегда есть куда передавать: радиоканал узкий, а в подвале или в поле связи может не быть совсем.
  • Приватность. Данные не покидают устройство — это важно для камер в помещениях и медицинской техники.
  • Автономность. Робот или БПЛА продолжает работать при потере связи.

Типичные бортовые задачи — детекция объектов, сегментация, визуально-инерциальная одометрия.

Как работает

Нейросеть — это миллионы умножений матриц. Универсальный процессор выполняет их медленно и с большим расходом энергии, поэтому на борт ставят специализированные ускорители — нейропроцессоры (NPU). Их производительность измеряют в TOPS — триллионах операций в секунду.

Второй ключевой приём — оптимизация модели под бортовое железо. Квантование переводит веса сети из 32-битных дробных чисел в 8-битные целые: модель занимает до 75 % меньше памяти и выполняется быстрее, а некоторые ускорители другие модели просто не принимают — классический Google Edge TPU исполняет только полностью квантованные в int8 сети. Пример эффекта: MobileNet-v1 после квантования с дообучением уменьшилась с 16,9 до 4,3 МБ, а задержка упала со 124 до 64 мс.

Дополняют картину прунинг (удаление весов с малым вкладом) и кластеризация весов — обе техники сжимают модель почти без потери точности.

Основные компоненты

  • Бортовой вычислитель — модуль или одноплатник, часто в роли companion computer рядом с полётным контроллером.
  • Нейроускоритель (NPU/GPU) — встроенный в модуль или подключаемый (плата M.2, USB-модуль).
  • Программный стек — среда исполнения моделей (например, LiteRT, бывший TensorFlow Lite) и SDK производителя железа (у NVIDIA — JetPack, вместе с Isaac ROS он образует стек для робототехники).
  • Оптимизированная модель — квантованная и скомпилированная под конкретный ускоритель.

Примеры

  • NVIDIA Jetson — семейство модулей для автономных машин. Заявленная производительность линейки: Orin Nano — до 67 TOPS при 7–25 Вт, Orin NX — до 157 TOPS, AGX Orin — до 275 TOPS, старший AGX Thor — до 2070 TFLOPS (в 4-битном формате FP4) при 40–130 Вт. Цифры производителя — пиковые.
  • Google Coral / Edge TPU — компактный ускоритель на 4 TOPS (int8) при потреблении около 2 Вт (цифры прежней документации coral.ai); принимает только квантованные модели TensorFlow Lite. В 2026 году Coral перезапущен как платформа с компиляторами для PyTorch, JAX и LiteRT.
  • Raspberry Pi AI Kit / AI HAT+ — плата с NPU Hailo-8L на 13 TOPS для Raspberry Pi 5: нейросети на массовом одноплатнике.

Простыми словами

Edge AI — это когда «мозг» работает там же, где «глаза», а не на далёком сервере. Похоже на разницу между рефлексом и обдумыванием: отдёрнуть руку от горячего человек успевает до того, как осознал ожог, потому что реакция замкнута коротким путём, без долгого маршрута в кору мозга. Бортовая нейросеть — такой же короткий путь: дрон видит ветку и уклоняется сам, не спрашивая сервер.

Плата за скорость — теснота. В бортовой компьютер размером со спичечный коробок не влезет нейросеть, которая занимает целую серверную стойку. Поэтому модель «ужимают»: округляют числа, которыми она считает, и выбрасывают малозначимые связи — как турист перекладывает рюкзак, оставляя только то, без чего не обойтись.

Практический пример: видеодомофон с распознаванием лиц. Если он отправляет каждый кадр в облако, ответ приходит с задержкой, тратится трафик, а записи двора лежат на чужом сервере. Если та же нейросеть работает в самом домофоне, дверь открывается мгновенно, и видео никуда не уходит.

Связанные темы

Источники

Обновлено: 2026-07-12