Navigation AMR à l'aide d'Isaac ROS VSLAM et Nvblox avec caméra Intel Realsense

Auteurs : Sagar Dhatrak ,Naitik Nakrani | Date : 21 mars 2023 | Catégorie : Automobile

Introduction

La navigation autonome est une étape cruciale pour les systèmes robotiques. L'un des éléments essentiels de la navigation des robots mobiles autonomes (AMR) est le « SLAM visuel », ou localisation et cartographie simultanées par vision. Le SLAM visuel est une technique qui utilise les images capturées par une caméra pour cartographier simultanément l'environnement et estimer la position du robot. L'atterrisseur Phoenix, le rover Opportunity et l'hélicoptère Ingenuity utilisés pour l'exploration de Mars utilisent des algorithmes SLAM visuels pour la navigation et l'atterrissage autonomes. Parmi les autres applications, citons l'aspiration, l'endoscopie et les robots aériens, terrestres et sous-marins sans pilote, où les machines automatisent les tâches.
Le SLAM visuel nécessite une grande puissance de calcul pour estimer les poses et générer une carte à partir des images acquises par une caméra. La majorité des algorithmes SLAM visuel (VSLAM) utilisent la puissance du processeur, ce qui limite l'estimation des poses et la création de cartes en temps réel. Isaac ROS (Robot Operating System), VSLAM et Nvblox sont des paquets ROS2 accélérés par GPU qui aident à estimer les poses et à créer la carte de l'environnement environnant pour la navigation des robots mobiles autonomes en temps réel. Des expériences sont menées pour voir dans quelle mesure Isaac ROS VSLAM et Nvblox fonctionnent avec les caméras Realsense pour la navigation autonome des AMR.

NVIDIA ISAAC ROS Visual SLAM et pipeline Nvblox

La figure 1 illustre le fonctionnement et l'intégration du pipeline NVIDIA ISAAC ROS Visual SLAM et Nvblox. Ici, le VSLAM estime les poses et Nvblox reconstruit la carte de l'environnement environnant pour la navigation autonome du robot.

 

                         

Figure 1 : Schéma fonctionnel d'Isaac ROS VSLAM et Nvblox|
 

NVIDIA Isaac ROS VSLAMest un package ROS2 qui effectue simultanément la localisation et la cartographie visuelles stéréo. Il calcule l'odométrie visuelle stéréo inertielle à l'aide d'une paire d'images stéréo synchronisées dans le temps et utilise la bibliothèque accélérée par GPU Isaac Elbrus. L'odométrie visuelle inertielle, l'optimisation et la cartographie sont les trois composants d'Isaac ROS VSLAM. L'odométrie visuelle (VO) est une technique permettant d'estimer la position de la caméra par rapport à son point de départ. La pose VO illustrée àla figure 1est estimée par VO. La méthode de localisation et de cartographie visuelles simultanées (VSLAM) s'appuie sur la pose VO et vise à améliorer la qualité des poses VO grâce à la détection de boucles fermées et à l'estimation des poses SLAM à l'aide de parties de l'environnement déjà observées. En plus des données visuelles, Elbrus peut utiliser les mesures d'une unité de mesure inertielle (IMU). Lorsque la VO ne parvient pas à estimer une pose, par exemple en cas de mauvais éclairage ou de longue surface sans relief devant la caméra, elle passe à l'IMU.La figure 1montre les poses SLAM estimées par V-SLAM.

NVIDIA Isaac ROS Nvbloxest un package ROS2 utilisé pour la reconstruction 3D en temps réel de l'environnement autour d'un robot mobile autonome (AMR) à partir d'images de caméra. La reconstruction est destinée à être utilisée par les planificateurs d'itinéraires pour générer un itinéraire de navigation sûr. Nvblox utilise NVIDIA CUDA pour accélérer ce processus et permettre un fonctionnement en temps réel. Ce référentiel contient l'intégration ROS2 pour la bibliothèque principale Nvblox. L'algorithme Nvblox comprend trois composants clés : la fonction de distance signée tronquée (TSDF), le maillage et la fonction de distance signée euclidienne (ESDF). Nvblox utilise une image RVB, une image de profondeur et une pose SLAM comme entrées et génère des maillages pour la visualisation, ainsi qu'une carte de distance par tranches pour la planification de trajectoire. Nvblox génère une carte de distance 2D par tranches et un maillage 3D à partir d'un flux d'images RVB et de profondeur et de la pose correspondante de l'image de profondeur. Le flux d'images RVB, qui est utilisé pour colorer la reconstruction 3D de l'environnement environnant à des fins de visualisation, est facultatif. La tranche de carte de distance 2D montre la distance entre chaque point et l'obstacle reconstruit le plus proche, ainsi qu'un maillage 3D pour la visualisation RVIZ. La reconstruction 3D de l'environnement environnant à des fins de visualisation est facultative. La tranche de carte de distance 2D affiche la distance entre chaque point et l'obstacle reconstruit le plus proche, ainsi qu'un maillage 3D pour la visualisation RVIZ.

Explication d'Isaac ROS VSLAM, Nvblox et du pipeline Nav2 stack

 

L'ensemble du pipeline pour la navigation autonome AMR utilisant Isaac ROS V-SLAM, Nvblox et la pile Nav2 est illustré àla figure 2. Ce pipeline est composé de cinq nœuds : le nœud de caméra Realsense, le nœud Isaac ROS V-SLAM, le nœud Isaac ROS Nvblox, le nœud Nav2 et le nœud Rviz. Le paragraphe suivant explique chaque bloc.

 

Figure 2 : Pipeline Isaac ROS VSLAM, Nvblox et NAV2
 
Le nœud de caméra Realsense capture les images de la caméra Realsense et publie des images RVB, de profondeur, infra-1 et infra-2. Infra-1 et Infra-2 sont des images infrarouges. Les images infra-1 et infra-2 sont souscrites par le bloc Isaac ROS V-SLAM, qui publie la pose et le tf. Le bloc Isaac ROS Nvblox génère une carte de tranches de distance en souscrivant à l'image RVB, à l'image de profondeur, à la pose et à l'if. Pour la planification de trajectoire et la navigation, le nœud Nav2 utilise une carte de tranches de distance. Le nœud Nav2 est le système de contrôle qui permet à un AMR d'atteindre un état cible de manière autonome en utilisant une pose actuelle, une carte et un objectif, tel qu'une pose de destination. Le nœud Nav2 trace avec succès un chemin vers l'état cible et envoie des commandes à l'AMR pour qu'il suive le chemin prévu jusqu'à la position cible. Rviz est un outil utile pour visualiser les images, l'odométrie et les cartes générées, et pour fournir une pose cible à l'AMR.

Résultats expérimentaux

La figure 3montre l'AMR, ce qu'il voit à travers la caméra Realsense qui y est montée, et la carte de nuage de points 3D résultante sous forme de maillage.La figure 4 affiche la carte créée avec l'état cible donné, le chemin prévu et l'AMR arrivant en toute sécurité à l'état cible en suivant le chemin prévu.

Figure 3 : L'image de gauche montre l'AMR dans l'environnement du laboratoire, l'image du milieu montre ce que voit l'AMR et l'image de droite montre la carte 3D générée sous forme de maillage.

Figure 4 : La figure de gauche montre la carte générée avec l'objectif donné, la deuxième figure représente le chemin prévu et la troisième figure de droite montre que l'AMR a atteint l'état d'objectif.

Conclusion

Pour permettre à l'AMR de se déplacer de manière autonome dans le laboratoire, une caméra Intel RealSense a été intégrée aux piles Isaac ROS VSLAM, Isaac ROS Nvblox et Nav2. L'AMR s'est déplacé à l'intérieur d'un environnement de laboratoire à des fins de cartographie et de navigation. Isaac ROS VSLAM a estimé avec succès l'odométrie de l'AMR tout en créant une carte de l'environnement autour de l'AMR. Grâce à l'accélération GPU, les pipelines NVIDIA Isaac ROS VSLAM et Nvblox offrent des performances en temps réel. Simultanément, l'algorithme VSLAM a localisé sa position sur la carte et créé une carte pour une navigation sûre. Nous espérons que la démonstration de nos expériences aidera les ingénieurs en robotique à développer divers produits robotiques commerciaux. Pour plus de détails, vous pouvez contacter les auteurs.

Auteurs

Sagar Dhatrak
Naitik Nakrani

Télécharger le rapport

Télécharger un exemple de rapport

Télécharger la brochure

Lancez la conversation dès aujourd'hui

Prenez rendez-vous pour une consultation de 30 minutes avec nos experts en solutions automobiles

Lancez la conversation dès aujourd'hui

Prenez rendez-vous pour une consultation de 30 minutes avec notre expert en solutions de gestion de batteries

Lancez la conversation dès aujourd'hui

Prenez rendez-vous pour une consultation de 30 minutes avec nos expertsen solutions industrielles et énergétiques

Lancez la conversation dès aujourd'hui

Prenez rendez-vous pour une consultation de 30 minutes avec nos experts du secteur automobile

Lancez la conversation dès aujourd'hui

Prenez rendez-vous pour une consultation de 30 minutes avec nos experts

Veuillez remplir le formulaire ci-dessous pour obtenir un exemple de rapport

Modèles de référence

Notre travail

Innover

Transformer.

Échelle

Partenariats

Partenariats en matière d'appareils
Partenariats numériques
Partenariats de qualité
Partenariats dans le secteur du silicium

Entreprise

Produits et propriétés intellectuelles

Politique de confidentialité

Notre site web utilise des cookies sur votre appareil afin d'améliorer votre expérience et de perfectionner notre site. Découvrez-en plus sur les cookies que nous utilisons et comment les désactiver. Les cookies et les technologies de suivi peuvent être utilisés à des fins marketing.

En cliquant sur « Accepter », vous consentez à l'installation de cookies sur votre appareil et à notre utilisation de technologies de suivi. Cliquez sur « En savoir plus » ci-dessous pour obtenir plus d'informations et des instructions sur la manière de désactiver les cookies et les technologies de suivi. Bien que l'acceptation des cookies et des technologies de suivi soit facultative, leur désactivation peut entraîner un dysfonctionnement du site web et certaines publicités pourraient vous sembler moins pertinentes.
Nous respectons votre vie privée. Consultez notre politique de confidentialité.

Cookies strictement nécessaires

Les cookies strictement nécessaires doivent rester activés en permanence afin que nous puissions enregistrer vos préférences en matière de paramètres des cookies.