Kimera-Multi
Kimera-Multi 是分散式多機器人度量語意 SLAM:各機器人以 Kimera-VIO(雙目與 IMU)估計軌跡並建立語意網格;相遇時交換詞袋描述子並做幾何驗證取得跨機迴圈;以分散式漸進非凸(D-GNC)穩健位姿圖最佳化剔除感知混淆造成的錯誤迴圈;最後以變形圖(deformation graph)依最佳化軌跡校正網格。
本頁內容
Kimera-Multi combines per-robot visual-inertial metric-semantic mapping with distributed place recognition, outlier-robust distributed PGO (D-GNC) and deformation-graph mesh correction.
技術屬性
欄位內容為文獻擷取紀錄的原文用語(英文),以原文為據;「未查證」表示本研究尚未讀到該資訊,不代表該方法不具備此能力。
| 感測輸入 | stereo images and IMU (Kimera-VIO input)、depth images from an RGB-D camera or from stereo matching, plus 2D semantic segmentation (Kimera-Semantics input)、outdoor experiments: forward-facing RealSense D435i RGBD camera and IMU on a Clearpath Jackal UGV |
|---|---|
| 原文測試平台 | wheeled UGV (Clearpath Jackal; Medfield and MIT Stata outdoor datasets, three robots each)、EuRoC sequences split into three or five simulated robots (platform not described in the paper)、photo-realistic simulation (DCIST Medfield, City, Camp) |
| 狀態估計 | per-robot Kimera-VIO; robust distributed pose-graph optimization via distributed graduated non-convexity (D-GNC) with RBCD solver |
| 資料關聯 | DBoW2 bag-of-words place recognition with geometric verification (five-point / three-point RANSAC) |
| 時間表示 | discrete poses (keyframes) |
| 去畸變 | 不適用 |
| 迴圈閉合 | intra- and inter-robot visual loop closures with outlier rejection by D-GNC |
| 全域最佳化 | distributed robust PGO; mesh corrected by deformation graph |
| 地圖表示 | metric-semantic 3D mesh |
| 先驗資訊 | none |
| 可輸出幾何 | semantically labelled 3D mesh and optimized trajectories |
| 計算需求 | Runs online on a CPU (Sec. III); CPU model not reported. Robust distributed PGO (D-GNC) took 8.9 s to 43.2 s, 2.2 s to 9.1 s with early stopping, versus 1.7 s to 6.3 s for centralized GNC (Table II). Outdoor: Medfield pose graph of 15650 poses solved with 100 RBCD iterations in 53 s; Stata (11184 poses) 120 iterations in 50 s, or 2000 iterations in 14 min for a correct alignment (Sec. VII-C). Communication 24.4 MB to 145.7 MB per dataset versus 1226 MB to 3685 MB for centralized image transfer (Table II). |
使用設備
原文使用的感測器、運算硬體與載具(equipment)。型號保留原文寫法,連結到設備頁中同一型號的歸併名稱;角色依原文用途分為方法輸入、資料集感測器、執行運算平台、參考或真值量測(reference or ground truth)與比較對象設備。
| 類別 | 型號(原文寫法) | 角色 | 資料集 | 原文規格 | 出處 |
|---|---|---|---|---|---|
| 慣性量測單元(IMU) | IMU (model not named; listed together with the RealSense D435i) | 方法輸入 | Medfield and Stata outdoor datasets (authors' own) | 原文未報告 | (Tian et al., 2022, Sec. VII-C) |
| 雙目相機 | stereo camera and IMU of the EuRoC dataset (models not named in the paper) | 資料集感測器 | EuRoC (Vicon Room 1, Vicon Room 2, Machine Hall) | 原文未報告 | (Tian et al., 2022, Sec. VII-B) |
| RGB-D 相機 | RealSense D435i RGBD Camera歸入:Intel RealSense D435I | 方法輸入 | Medfield and Stata outdoor datasets (authors' own) | forward-facing | (Tian et al., 2022, Sec. VII-C) |
| 載具平台 | Clearpath Jackal UGV | 方法輸入 | Medfield and Stata outdoor datasets (authors' own) | 原文未報告 | (Tian et al., 2022, Sec. VII-C) |
作者報告的優勢與限制
優勢
- Rejects incorrect loops from perceptual aliasing while fully distributed (abstract)
- Estimation errors comparable to centralized SLAM with low bandwidth (abstract)
限制
- (inference) Visual-inertial only; no LiDAR geometry, so dense-mesh accuracy depends on stereo or RGB-D depth
- With few inter-robot loop closures (Stata), default approximate D-GNC variable updates rejected the only inter-robot loop of robot 2 and misaligned its trajectory; correct alignment needed 2000 RBCD iterations (14 min) (Sec. VII-C, Fig. 14)
- On Stata robot 1 the end-to-end error stayed large: 33.13 m for Kimera-Multi and 21.56 m for centralized GNC versus 24.19 m for Kimera-VIO (Table V)
- Experiments assume robots are constantly within communication range; intermittent communication left to future work (Sec. VII-B)
- Smaller communication savings on Machine Hall (five robots) because loose loop thresholds increase geometric-verification traffic (Sec. VII-B, Table II)
- Mesh accuracy evaluated against ground truth only for EuRoC Vicon rooms and the simulator; outdoor datasets have end-to-end errors only (Sec. VII-B, VII-C)
營建工程相關證據
原文未報告(驗證場景為照片級模擬 Medfield、City、Camp,EuRoC 室內序列,以及 Medfield 州立醫院園區與 MIT Stata Center 周邊的戶外資料,Sec. VII;未含工地)。網格精度只在 EuRoC Vicon 室與模擬器以真值點雲或網格評估。其分散式穩健位姿圖與以變形圖校正網格的架構,可作為多台機器人分區掃描工地後合併地圖的參考(推論)。
原文驗證環境:模擬、公開基準
報告的性能數據
以下是原文作者報告的性能數值(author-reported results),不是本研究重新量測的結果。每張圖只並列同一個比較組(comparison group,同一張表、同一組實驗設定)內的方法;不同比較組之間的數值不可直接比較,也不構成排名。
本方法共出現在 4 個比較組,合計 44 筆紀錄。
Tian et al., 2022 · Table II 本方法 18 筆
表格設定(擷取紀錄原文):Communication usage (total of place recognition, geometric verification and distributed PGO) versus centralized baselines transmitting images or keypoints, and runtime of the robust PGO solver; hardware not reported (Tian et al., 2022, Table II)
Runtime [sec] of robust PGO,DCIST simulation · Medfield
只並列這張表在相同設定下報告的方法;以「本方法:」開頭者為本頁方法。失敗、未執行與未報告以標記呈現,不是 0。
按 Tab 進入圖表後,用上下方向鍵逐一瀏覽各類別,Esc 關閉提示框;也可開啟表格檢視閱讀全部數值。
這些是 Tian et al., 2022 在此表設定下報告的數值(author-reported results),只能在同一個比較組內對照,不代表方法在其他資料或設定下的表現。
資料來源作者報告值(Tian et al., 2022, Table II)
| 方法(原文寫法) | 報告值 | 出處 |
|---|---|---|
| D-GNC distributed本方法原文提出 | 29.2 s | (Tian et al., 2022, Table II) |
| D-GNC distributed (ES)本方法原文提出 | 5.9 s | (Tian et al., 2022, Table II) |
| Centralized GNC | 4.4 s | (Tian et al., 2022, Table II) |
Tian et al., 2022 · Table I 本方法 12 筆
指標Absolute trajectory error (ATE) [m]
表格設定(擷取紀錄原文):ATE in meters against ground truth for distributed trajectory estimators on Kimera-VIO odometry plus putative loops; fixed isotropic covariance (0.01 rad, 0.1 m); probability threshold 50%; statistic of the ATE not stated (Tian et al., 2022, Table I)
Absolute trajectory error (ATE) [m],DCIST simulation · Medfield
只並列這張表在相同設定下報告的方法;以「本方法:」開頭者為本頁方法。失敗、未執行與未報告以標記呈現,不是 0。
按 Tab 進入圖表後,用上下方向鍵逐一瀏覽各類別,Esc 關閉提示框;也可開啟表格檢視閱讀全部數值。
這些是 Tian et al., 2022 在此表設定下報告的數值(author-reported results),只能在同一個比較組內對照,不代表方法在其他資料或設定下的表現。
資料來源作者報告值(Tian et al., 2022, Table I)
| 方法(原文寫法) | 報告值 | 出處 |
|---|---|---|
| L2 (least squares, RBCD) | 64.2 m | (Tian et al., 2022, Table I) |
| PCM | 12.5 m | (Tian et al., 2022, Table I) |
| D-GNC (NI, naive initialization) | 57.4 m | (Tian et al., 2022, Table I) |
| PCM + D-GNC | 4.64 m | (Tian et al., 2022, Table I) |
| D-GNC本方法原文提出 | 3.92 m | (Tian et al., 2022, Table I) |
| D-GNC (ES, early stopping)本方法原文提出 | 4.32 m | (Tian et al., 2022, Table I) |
| Centralized GNC | 3.88 m | (Tian et al., 2022, Table I) |
Tian et al., 2022 · Table III 本方法 8 筆
指標Semantic label accuracy (%)
表格設定(擷取紀錄原文):Semantic label accuracy of meshes against the simulator's ground-truth labels after ICP registration (Open3D) of meshes sampled at 10^3 points per m^2, before (Kimera-Semantics) and after local mesh optimization (LMO) (Tian et al., 2022, Table III)
Semantic label accuracy (%),DCIST simulation · Camp Robot 0
只並列這張表在相同設定下報告的方法;以「本方法:」開頭者為本頁方法。失敗、未執行與未報告以標記呈現,不是 0。
按 Tab 進入圖表後,用上下方向鍵逐一瀏覽各類別,Esc 關閉提示框;也可開啟表格檢視閱讀全部數值。
這些是 Tian et al., 2022 在此表設定下報告的數值(author-reported results),只能在同一個比較組內對照,不代表方法在其他資料或設定下的表現。
資料來源作者報告值(Tian et al., 2022, Table III)
| 方法(原文寫法) | 報告值 | 出處 |
|---|---|---|
| Kimera-Semantics | 81.6% | (Tian et al., 2022, Table III) |
| LMO (Kimera-Multi local mesh optimization)本方法原文提出 | 96.2% | (Tian et al., 2022, Table III) |
Tian et al., 2022 · Table V 本方法 6 筆
指標end-to-end error [m]
表格設定(擷取紀錄原文):Outdoor datasets without ground truth: each robot starts and ends at the same place; end-to-end position error; Kimera-Multi uses D-GNC (Stata with full variable updates), centralized uses GNC in GTSAM (Tian et al., 2022, Table V)
end-to-end error [m],Medfield outdoor dataset (authors' own) · Robot 0 (600 m)
只並列這張表在相同設定下報告的方法;以「本方法:」開頭者為本頁方法。失敗、未執行與未報告以標記呈現,不是 0。
按 Tab 進入圖表後,用上下方向鍵逐一瀏覽各類別,Esc 關閉提示框;也可開啟表格檢視閱讀全部數值。
這些是 Tian et al., 2022 在此表設定下報告的數值(author-reported results),只能在同一個比較組內對照,不代表方法在其他資料或設定下的表現。
資料來源作者報告值(Tian et al., 2022, Table V)
| 方法(原文寫法) | 報告值 | 出處 |
|---|---|---|
| Kimera-VIO | 18.74 m | (Tian et al., 2022, Table V) |
| Kimera-Multi本方法原文提出 | 0.01 m | (Tian et al., 2022, Table V) |
| Centralized | 0.01 m | (Tian et al., 2022, Table V) |
來源
Tian et al., 2022
(2022)Kimera-Multi: Robust, Distributed, Dense Metric-Semantic SLAM for Multi-Robot SystemsIEEE Transactions on Robotics, 38(4):2022-2038
DOI 10.1109/tro.2021.3137751arXiv 2106.14386程式碼
同儕審查已出版已讀全文近十年
相關版本
- 會議版:Kimera-Multi: a System for Distributed Multi-Robot Metric-Semantic Simultaneous Localization and Mapping (ICRA 2021; Chang, Tian, How, Carlone) 10.1109/ICRA48506.2021.9561090
- 程式碼釋出:MIT-SPARK/Kimera-Multi https://github.com/MIT-SPARK/Kimera-Multi
程式碼:https://github.com/MIT-SPARK/Kimera-Multi。有公開程式碼不等於已被重現,也不代表目前版本與論文版本相同。