Couverture tech bleu nuit comparant les αρχιτεκτονικές de calcul embarqué et déporté (σύννεφο/άκρη) pour les ρομπότ.

Calcul embarqué ou déporté pour les robots

Sur un robot, chaque charge de travail s'exécute à l'un deux endroits : embarquée, sur la batterie et les ventilateurs du torse, ou déportée, sur un serveur alimenté par le secteur à un saut de réseau local. La vraie question n'est pas de savoir si vous avez besoin des deux — c'est presque toujours le cas — mais quelle charge de travail va où, et pourquoi . R08 défend l'existence même d'un étage edge dédié. Cet άρθρο traite de la décision χρέωση δωρεάν : le contrôle moteur ici, le VLM là-bas, la reconnaissance vocale selon les cas, et ainsi de suite.

Le propos est assumé. Il existe une bonne réponse par charge de travail, et cette réponse évolue à mesure que le silicium embarqué rattrape son retard. Nous indiquerons dans quel sens chaque élément se déplace en 2026–2027.

Les deux budgets qui décident de tout

Une charge de travail peut s'écuter à bord si et seulement si elle tient simultanément dans deux budgets: la puissance et la mémoire . La latence est la troisième contrainte, mais elle vous dit surtout dans quel sens pousser une charge qui tient déjà, pas si elle tient ou non.

Budget de puissance sur un humanoïde. Χωρίς ανθρώπινη μπαταρία 30–50 kg με μπαταρία 700–900 Wh. La marche soutenue consomme 200–500 W au niveau des actionneurs, avec des pics au-delà de 800 W en mouvement dynamique. À l'arrêt, en stage de réflexion, les actionneurs consomment encore 80–150 W (maintenir le couple coûte peu, maintenir la posture coûte cher). Il reste donc environ 60–120 W pour tout le reste — calcul, capteurs, ventilateurs, radio — si vous visez une autonomie exploitable deux heures. Dans cette enveloppe, le budget de calcul est de 30–80 W en continu. Faire tourner le Jetson en permanence en MAX_N (60 W) divise par deux l'autonomie du robot. C'est de la physique non négociable, pas un choix de conception.

Υπόμνημα προϋπολογισμού. Το Jetson AGX Orin 64 GB, το 64 GB του LPDDR5 έχει ενσωματωμένη CPU και GPU . Retranchez le system d'exploitation (4–6 GB), ROS 2 και SDK du fabricant (2–4 GB), les tampons de perception (2–4 GB pour la profondeur stéréo et les nuages ​​de points), ainsi que le code applicatif. Ο προϋπολογισμός είναι εκμεταλλεύσιμος και το LLM/VLM είναι 40–48 GB. Sur un module Jetson Thor 128 GB, le plafond monte à environ 96 GB χρησιμοποιήσιμα. Sur un Orin NX 16 GB, il s'effondre à 8–10 GB χρησιμοποιήσιμα — de quoi loger un seul petit modelè.

En déporté, les deux budgets deviennent d'autres problèmes. Un Kentino AI 96 (4× RTX 5090) διαθέτει 128 GB VRAM dédiée και 1.0–1.5 kW ισχυρής GPU surle secteur. Un Kentino AI 256 (8× RTX 5090) double les deux. La puissance et la memoire cessent tout simplement d'être des contraintes — vous les échangez contre du capex, de la climatisation et du réseau filaire.

Le silicium embarqué, réalité 2026

Les options embarquées que l'on retrouve réellement aujourd'hui dans les humanoïdes et quadrupèdes sérieux:

SoC TOPS INT8 (αραιό) Μνήμη χρήσιμη Φάκελος δύναμης Αυτό μπορεί να γίνει εκτελεστής
Jetson Orin NX 16 GB 100 ~10 GB κομμάτια 10–25 W YOLO, petit VLM 3B Q4, mot-clé d'activation
Jetson AGX Orin 64 GB 275 ~40 GB κομμάτια 15–60 W YOLO, VLM 7B Q4 à des cadences exploitables, LLM 13B
Jetson AGX Thor 128 GB (2026) 2070 TFLOPS FP4 ~96 GB κομμάτια 40–130 W VLM 32B Q4 avec de la marge, perception en double flux
Snapdragon 8 Gen 3 / κατηγορία QRB 45-75 ~6–10 GB μέρη 5–15 W Voix, mot-clé d'activation, vision légère
Hailo-8 (κάρτα M.2) 26 ΚΟΡΥΦΕΣ INT8 2–4 GB στο χαρτί Τυπικά 2.5 W Déchargement du pipeline vision, MobileNet/YOLO
Hailo-15 (SoC vision) 20 TOPS Κάτοικος στον αγωγό 2–5 W Vision multi-caméra en continu
Συνεπεξεργαστής Intel N97 / i7-1370P έτσι (CPU + iGPU) DDR5 του ξενοδοχείου 6–45 W Ενορχήστρωση haut niveau, ROS 2, logique de liaison

Thor marque une rupture, pas une απλή επανάληψη. Le plafond mémoire de 128 GB και les cœurs tensoriels Blackwell nativement FP4 font passer la frontière embarquée de « VLM 7B, penniblement » à « VLM 32B, Utilement » σε μια νέα γενιά. Des charges structurellement déportées en 2025 — VLM de taille moyenne, περιγραφή συνέχεια της σκηνής, planificateurs LLM intermediaires — deviennent des kandidats à l'embarqué en 2026, à condition que la λύση thermique du robot tienne 1301.

Hailo et la classe des NPU dédiés ne sont pas des accélérateurs de LLM. Ce sont des déchargeurs de pipeline vision : ils laissent le Jetson principal libre pour le gros modèle et exécutent la vision caméra permanente (ανίχνευση αντικειμένων, suivi, VLM allégé) sur une puce de 3 W.

La classe Snapdragon QRB est la réponse pour les robots pensés pour la voix — mot-clé d'activation, formation de faisceaux, reconnaissance vocale — là où un Jetson est surdimensionné et un Cortex-M trop juste. Utile, ciblée, de plus en plus répandue.

Εν όψει : la gamme Kentino AI comme référence

La cible déportée évoquée tout au long de cette série est la gamme Kentino AI — alimentée par le secteur, en rack 4U ou 5U, 4 ή 8 GPU sur EPYC ou Xeon, reliée à un sa commutateur à10. Les trois niveaux qui comptent en robotique:

Επίπεδο GPU VRAM cumulée Διατηρούμενη εξουσία Plus gros VLM réaliste (INT4)
Kentino AI 64 / 96 (4 GPU) 4× RTX 5090 ή 4× Pro 6000 128–384 GB 1.8–2.4 kW 72B avec de la place pour le cache KV
Kentino AI 128 (4× Pro 6000 Blackwell) 4× RTX Pro 6000 96 GB 384 GB 2.0–2.6 kW 72Β με το πλήρες πλαίσιο
Kentino AI 256 (8 GPU) 8× RTX 5090 ή 8× Pro 6000 256–768 GB 3.5–4.5 kW 70B + 32B + 7B ταυτόχρονα

Ο πίνακας αποφάσεων

Chaque charge de travail robotique se range nettment dans l'une de cinq κατηγορίες : toujours embarquée , embarquée de preférence , indifférente , déportée de preférence , μοναδικά déportée . La raison de chaque placement, c'est le budget contraignant — puissance, mémoire ou latence.

Χρέωση εργασίας Τοποθέτηση Περιορισμός καθορισμού Pourquoi
Boucle de contrôle moteur (500 Hz–1 kHz) Τουζούρς εμπάρκιε Λανθάνων χρόνος (< 1 ms) Un saut réseau représente 100 à 10000× le budget de la boucle. Χωρίς εξαίρεση.
Réflexes de sécurité articulaire / arrêt d'urgence Τουζούρς εμπάρκιε Λανθάνων χρόνος (< 5 ms) Même raison ; doit aussi fonctionner réseau local coupé.
Σύντηξη συλλεκτών IMU Τουζούρς εμπάρκιε Λανθάνων χρόνος (< 5 ms) Alimente directement la boucle de contrôle.
Στερεοφωνικό επαγγελματικό / RGB-D Τουζούρς εμπάρκιε Bande passante + λανθάνουσα κατάσταση Le flux caméra brut est trop lourd à transmettre ; la sortie de profondeur est légère mais presentue vite.
Detection d'objets de classe YOLO Προνομιακή Επιχείρηση Λανθάνουσα περίοδος (10–30 ms, αντανακλαστικό) Tient sur un Jetson à plus 30 FPS. Aucune raison de passer par le réseau.
Detection du mot-clé d'activation Προνομιακή Επιχείρηση Δύναμη + λανθάνουσα κατάσταση Permanente, sous le watt sur QRB ou Hailo. En déporté, elle consomme de la bande passante 24h/24 et 7j/7.
Reconnaissance vocale de classe Whisper (μικρό μοντέλο) Αδιάφορος Ανοχή στην λανθάνουσα κατάσταση 100–250 ms sur Jetson AGX Orin. En déporté, 30–80 ms sur une 5090. L'utilisateur ne voit pas la diférence.
Petit LLM (≤ 8B Q4) pour le dialogue Αδιάφορος Λανθάνουσα κατάσταση έναντι συμβίωσης 15–25 tok/s sur Orin AGX, 80–150 tok/s sur une 5090. Le déporté l'emporte s'il vous faut du volume.
VLM 3B Q4 (περιγραφή σκηνής) Προνομιακή Επιχείρηση Δύναμη + λανθάνουσα κατάσταση Tient facilement sur Orin, aucun réseau necessaire, ~10 FPS exploitables.
VLM 7B Q4 (Qwen2.5-VL, OpenVLA) Αδιάφορος Puissance contre fréquence d'images Orin AGX tourne à 5–8 FPS sous 30 W. Un Kentino AI dépasse 30 FPS. À choisir selon la tâche.
VLM 32B Q4 Déportée de préférence (Thor : περιορισμός ανάσχεσης) Μνήμη + δύναμη Ne tient pas sur Orin AGX. Limite sur Thor 128 GB. Confortable sur Kentino AI 96.
VLM 70B+ Q4 Μοναδική μεταφορά Μνήμη 45–50 GB poids + 10–20 GB cache KV. Η μονάδα Aucun έχει κλείσει το 2026.
Planificateur de mouvement (γήπεδο ορίζοντα, < 1 s) Προνομιακή Επιχείρηση Αφάνεια Boucle serrée avec le contrôle. Le local est la bonne réponse.
Planificateur de mouvement (μεγάλος ορίζοντας, πλεονάζοντα δευτερόλεπτα) Προτιμώμενος/η Μνήμη + μοντέλο Basé sur un VLM ou sur la diffusion, contexte large : le déporté l'emporte.
Μνήμη Σκηνής / RAG Μοναδική μεταφορά Επιμονή + μνήμη Doit survivre au redémarrage du robot ; la base vectorielle réclame du vrai stockage et de la RAM CPU.
Fusion VLM multi-caméra (3–5 flux) Μοναδική μεταφορά Μνήμη + λογισμός Παραδοσιακά παρτίδες εισέρχονται στις κάμερες που εμφανίζονται σε διακομιστή πολλαπλών GPU.
Αφιέρωμα / είσοδος LoRA Μοναδική μεταφορά Μνήμη + δύναμη 2 à 5× la memoire d'inférence, puissance soutenue de l'ordre du kW. Αδύνατη η μπαταρία.
Πλήρης προεγγραφή Μοναδική μεταφορά Ne tient même pas sur un serveur Territoire multi-nœuds. Voir la piste K.
Itération de politiques sous Isaac Sim Μοναδική μεταφορά Rendu GPU + débit d'apprentissage par enforcement Par nature une charge de serveur.

Trois lectures de ce tableau méritent d'être mises en avant.

Les lignes « toujours embarquée » relèvent de la physique. Aucune quantité de bande passante ne sauve une boucle de contrôle qui exige une réponse à 1 kHz. Elles ne bougeront jamais, quelle que soit la qualité du réseau ou du calcul déporté.

Les lignes « indifférente » sont celles où s'exerce le vrai jugement d'ingénierie. C'est là que vivent les arbitrages les plus intéressants. Qu'un VLM 7B tourne à bord ou en déporté détermine une part réelle du comportement du système. Il n'existe pas de bonne réponse universelle.

Les lignes « Μοναδική Δέσμευση » évoluent lentement. Un modèle 72B restera probablement déporté en 2027. Un model 32B passera à bord à mesure que Thor se diffuse en volume. La frontière de « ce qui tient sur l'appareil » avance d'environ une classe de taille de modèle tous les 18 à 24 mois.

Correspondance avec les paliers de latence

Le budget de latence à quatre paliers issu de I01 se traduit directement en placement :

Προσγείωση Προϋπολογισμός Τοποθέτηση
Έλεγχος αντιδραστικός <10 ms Μοναδικότητα Embarqué. Σημείο.
Αντανακλαστικό αντίληψης 10–50 ms Embarqué (l'aller-retour réseau local consomme à lui seul le budget)
Σχεδιασμός 100 ms – 1 s Αδιάφορος. Le réseau local fonctionne, l'embarqué aussi.
Στρατηγικός λόγος 1 s – plusieurs s Αδιάφορος ; le déporté l'emporte souvent sur la qualité du modele.

C'est dans les deux paliers intermédiaires que se jouent les vraies decisions d'architecture. Une charge réflexe qui tient tout juste dans 50 ms peut passer en déporté sur un réseau local filaire (0.5 ms de transit + 40 ms d'inférence + 0.5 ms de retour = 41 ms), mais exploser le budget en Wi-Fi (4 ms = 8 ms) 56 ms, συν la gigue). C'est pourquoi les liaisons filaires comptent pendant le développement : elles permettent de voir si une charge tient fondamentalement en déporté avant d'aller se battre avec le réseau sans fil.

Η πραγματικότητα του τεστ

Κοστούμι Le déporté ne fonctionne que si le réseau. Les chiffres réels:

Σύνδεσμος μέσο RTT RTT P99 Gigue sous charge
Φίλτρο σύνδεσης 2.5 / 10 GbE 0.2–0.5 ms 0.5–1 ms Κατώτερο από το ms
Wi-Fi 6E, 6 GHz, en visibilité directe, point d'accès dédié 3–10 ms 15–30 ms Ζεράμπλε
Wi-Fi 6 / 6E, 5 GHz partage, bande encombrée 8–25 ms 80–200 ms Μωβέζ
Wi-Fi 6E sous χρέωση (μεταφορά του SSID των πληροφοριών μέσω του SSID) 10–40 ms 200 ms – 2 s Ρεδιμπιτοίρ για το ρομπότ
5G κινητή ζώνη 20–40 ms 100–300 ms Μεταβλητός
WAN σε ένα ευρωπαϊκό cloud 15–40 ms (διάμεσος) 80–300 ms Εξαρτάται από το BGP

Χύστε τις χρεώσεις αποφασιστικών (προϋπολογισμός από 100 ms à 1 δευτερόλεπτο), χωρίς Wi-Fi 6E στο SSID dédié avec un point d'accès en visibilité directe suffit. Χύστε αντανακλαστικά φορτίων (10–50 ms), le filaire est la réponse sûre et le Wi-Fi 6E la réponse chanceuse. Συνέπεια : si la tâche d'un robot comporte la moindre composante réflex déportée, concevez une option filaire pour le developpement et un mode de repli pour les moments où le Wi-Fi se degrade.

Le schéma hybride — répartition rapide/lent

Le schéma vers lequel convergent la plupart des déploiements sérieux de 2026 est la répartition rapide/lent du VLM : un petit VLM dembarqué pour le retour instantané, un grand VLM déporté pour les réusflêmechiession, planificateur.

Μορφή σκυροδέματος:

Κάμερα εικόνας — 30 FPS
  • Ρυθμός 33 ms ανά εικόνα
  • Alimente à la fois le chemin VLM embarqué et le chemin déporté
↓
Επιβίβαση VLM 7B Q4
  • Qwen2.5-VL-7B sur Jetson AGX Orin / Thor
  • Εξόρμηση στα 5–10 Hz
  • Βιογραφικό σκηνής + δράση άμεση
  • Alimente directement la couche réflex
⇄
gRPC
VLM 72B Q4 αναχώρηση
  • Qwen2.5-VL-72B sur Kentino AI 96 / 256
  • Εξόρμηση στα 1–3 Hz
  • Raisonnement de scène réfléchi + ajustement du plan
  • Alimente la couche délibérative, peut passer outre l'embarqué

Répartition rapide/lent : le 7B embarqué gère la réponse immédiate ; le 72B déporté gère le raisonnement réfléchi et la mise à jour des plans.

Le modele rapide gère « une personne marche vers moi, ralentir ». Le modèle lent gère « la personne qui marche vers moi est l'operateur, qui m'a demandé de me mettre en pause s'il approche avec le porte-bloc rouge, et c'est bien un porte-bloc rouge, donc pause ». Le modèle rapide s'engage d'abord sur un comportement sûr ; le modèle lent l'améliore ensuite.

La trajectoire de migration — ce qui passe à bord en 2026–2027

Trois force compriment le côté déporté : Thor arrive en volume (2070 TFLOPS FP4, 128 GB demoire unifiée, enveloppe de 130 W — un saut structurel par rapport à Orin) ; l'efficacité des VLM continue de progresser (un VLM de perception «suffisamment bon» pesait plus de 70B en 2024, 32B en 2026, et alusiblement 13B–20B en 2027) . et le décodage spéculatif avec de petits modèles brouillons permet de servir la qualité d'un grand modele à la latence d'un petit.

Les charges les plus susceptibles de migrer à bord dans les 18 prochains mois : le VLM de scène de classe 7B (déjà en mouvement), le planificateur LLM 13B (Thor le rend confortable), la chaîne vocale STT-LLM-TTS τομέας.

Les charges qui ne migrent pas : tout ce qui dépasse 70B, la memoire de scène à l'échelle d'une flotte, l'entraînement et la simulation, la fusion VLM multi-flux. Elles resteront déportées jusqu'en 2027 ή ελάχιστο. La bande passante memoire et l'énergie des batteries ne plient pas si vite.

Deux configurations concretes

Un seul G1 EDU, laboratoire de recherche. Το L'AGX Orin embarqué fait tourner ROS 2, YOLOv11-s à 30 FPS, η αναγνωριστική φωνή Whisper-distil και Qwen2.5-VL 7B INT4 à 5–8 FPS (délibératif). Ενσωματωμένη έκδοση, σε Kentino AI 96 (4× RTX 5090, 128 GB VRAM) fait tourner vLLM avec Qwen2.5-VL 72B και Qwen2.5 32B texte seul, la mémoire de scène pgvector in suractif IPS.

Petite flotte, 3 humanoïdes, embarqué de classe Thor. Chaque unité embarque un SoC vision Hailo-15 pour la detection multi-caméra permanente, Whisper-small en τοπικό και Qwen2.5-VL 32B INT4 à 10–15 FPS — εγγενής, πλέον περιορισμός. Ενσωματωμένη έκδοση, από Kentino AI 256 (8× RTX 5090, 256 GB VRAM) héberge un Qwen2.5-VL 72B και Llama-3.1 70B partagés pour la planification, une base pgvector commune ràuxéservis auxétro l'affinage LoRA νυχτερινή.

Là où un déploiement à un seul étage fonctionne vraiment

Le tout-embarqué fonctionne pour les quadrupèdes à tâche étroite (patrouille de périmètre avec YOLO et caméra thermique), les robots téléopérés (l'opérateur est le planificateur, aucun boocleu, ρομπότ, ρομπότ. pédagogiques avec les plus petits modèles, et tout déploiement sans réseau (επιθεώρηση en extérieur, sites isolés).

Le tout-cloud fonctionne pour les assistants robotiques purement vocaux sans boucle de perception fermée, les prototypes où la rapidité de mise en place prime sur tout, et les déploiements où les données partent de toute façon vers une charge de travail.

Το L'hybride est la réponse pour tout le reste — soit environ 90 % de la robotique sérieuse en 2026. Si vous construisez quoi que ce soit avec de la perception VLM dans la boucle, vous finirez avec les deux étages. Prévoyez-le dès le premier jour.

Ντερουλέ ντε ντισιόν

Lorsque vous dimensionnez un déploiement :

  1. Listez les charges de travail. Contrôle moteur, αντίληψη, αναγνωριστική φωνή, LLM, VLM, planification, memoire, entraînement. Σογιέζ ρητό.
  2. Associez à chacune un palier de latence et une classe de memoire (≤ 8 GB / 8–40 GB / 40–80 GB / 80 GB κ.λπ.).
  3. Εφαρμογή μήτρας ci-dessus pour obtenir un premier τοποθέτηση.
  4. Confrontez l'embarqué au SoC réel du robot και son budget thermique. Un G1 équipé d'un Orin NX n'est pas la même machine qu'un T1 avec AGX Orin ou qu'une future plateforme Thor.
  5. Confrontez le déporté au niveau de Kentino AI que vous pouvez vous offfrir. Le Kentino AI 96 est le minimum pour un robot au travail sérieux ; le Kentino AI 256 est le minimal pour une flotte ou pour tout besoin d'entraînement.
  6. Έλεγχος του ερευνητικού έργου. Liaison filaire pour le développement, SSID Wi-Fi 6E dédié pour la production. Si votre couche réflexe traverse le réseau, prévoyez du filaire ou un repli en degradation progressive.
  7. Σχεδιάστε τη μετανάστευση. Quand Thor arrivera sur votre plateforme, quelles χρεώνει passeront à bord ? Abstrayez dès maintenant la frontière gRPC pour que la migration soit un changement de déploiement et non une réécriture.

Les articles qui suivent ( R05 , I02, I05) approfondissent les éléments esquissés ici. Les décisions de placement présentées dans cet article sont la charpente à laquelle tout le reste se rattache.

Le constat honnête : 90 % των ρομποτικών πλοίων της σειράς του 2026 στις επόμενες επεμβάσεις. L'embarqué est dimensionné pour la sécurité, le réflexe et la perception par petits modeles. Le déporté est dimensionné pour le VLM dans la boucle, la mémoire de scène, la planification et l'entraînement. Les déploiements à un seul étage ne conviennent qu'à des cas d'usage étroits — et à ceux-là seulement.


Cet άρθρο fait partie du Kentino Wiki, une série de référence sur le calcul IA, la robotique et les systèmes qui les relient. Commentaires και διορθώσεις bienvenus à info@kentino.com.

Επιστροφή στο blog