iMAP
iMAP 首次以單一 MLP 作為即時 RGB-D SLAM 的唯一地圖表示,追蹤執行緒對固定網路最佳化目前位姿,建圖執行緒同時最佳化網路與關鍵影格位姿。以資訊導向的像素取樣與關鍵影格重播緩解遺忘。作者強調 MLP 能對未觀測區域做平滑且合理的補洞,這對工程量測而言代表部分幾何並非量測所得。
本頁內容
First real-time RGB-D SLAM using a single MLP as the only map, trained live with keyframe replay and active pixel sampling.
技術屬性
欄位內容為文獻擷取紀錄的原文用語(英文),以原文為據;「未查證」表示本研究尚未讀到該資訊,不代表該方法不具備此能力。
| 感測輸入 | RGB-D (hand-held Microsoft Azure Kinect for real recordings; rendered Replica RGB-D sequences; TUM RGB-D sequences) |
|---|---|
| 原文測試平台 | handheld |
| 狀態估計 | Adam gradient descent: pose-only tracking against a frozen MLP; mapping jointly optimizes MLP weights and keyframe poses |
| 資料關聯 | direct photometric (L1) + depth-variance-normalized geometric rendering losses on actively sampled pixels |
| 時間表示 | discrete poses |
| 去畸變 | 不適用 |
| 迴圈閉合 | none |
| 全域最佳化 | joint optimization over a bounded keyframe window (no loop closure) |
| 地圖表示 | single MLP with Fourier-feature embedding (occupancy + colour) |
| 先驗資訊 | none (trained live from scratch) |
| 可輸出幾何 | mesh by marching cubes on queried occupancy (for visualization/evaluation only, not part of SLAM) |
| 計算需求 | Python and PyTorch with multi-processing on a single desktop CPU and GPU (models not reported); default tracking 101 ms (6 iterations) and joint optimisation 448 ms (10 iterations) running concurrently on the same GPU, giving about 10 Hz tracking and 2 Hz mapping; 1.04 MB MLP (width 256) vs 67.10 MB for 256^3 TSDF fusion |
使用設備
原文使用的感測器、運算硬體與載具(equipment)。型號保留原文寫法,連結到設備頁中同一型號的歸併名稱;角色依原文用途分為方法輸入、資料集感測器、執行運算平台、參考或真值量測(reference or ground truth)與比較對象設備。
| 類別 | 型號(原文寫法) | 角色 | 資料集 | 原文規格 | 出處 |
|---|---|---|---|---|---|
| RGB-D 相機 | Microsoft Azure Kinect | 方法輸入 | 未標示 | hand-held RGB-D camera; frames processed at 10 Hz in the experiments | (Sucar et al., 2021, Fig. 1; Sec. 4.1) |
| 運算硬體 | single desktop CPU and GPU (models not reported) | 執行運算平台 | 未標示 | PyTorch; tracking and mapping run concurrently on the same GPU | (Sucar et al., 2021, Sec. 1; Table 4) |
作者報告的優勢與限制
優勢
- Fills unobserved regions plausibly; average completion ratio 79.06% vs 75.09% for TSDF fusion on eight Replica scenes, 11% higher on office-3 (Sec. 4.2, Table 1)
- About 60 times less memory than 256^3 TSDF fusion at similar accuracy (Sec. 4.2, Table 2)
- Better than TSDF fusion where the depth camera fails, such as black, reflective or transparent surfaces (Sec. 4.2, Figs. 6, 8)
限制
- Mesh extraction is outside the SLAM loop (Sec. 4.1)
- Follow-up (Zhu et al., 2022a) attributes over-smoothing and poor scalability to the single-MLP design (NICE-SLAM abstract)
- (inference) Hole filling produces geometry not supported by measurements, which must be flagged for engineering use
- Average reconstruction accuracy on Replica is worse than TSDF fusion (4.43 cm vs 3.45 cm) (Table 1)
- TUM ATE RMSE of 2.0 to 5.8 cm, worse than BAD-SLAM and ORB-SLAM2 on all three sequences and worse than Kintinuous on two (better on fr2/xyz, 2.0 vs 2.9 cm) (Sec. 4.3, Table 3)
- Table 1 reports each scene at its highest reached completion ratio with the accuracy and completion at that point (Table 1 caption)
營建工程相關證據
論文未涉及營建場域;僅 Replica、TUM 與手持 Kinect 自錄場景。
原文驗證環境:模擬、公開基準、受控實驗
報告的性能數據
以下是原文作者報告的性能數值(author-reported results),不是本研究重新量測的結果。每張圖只並列同一個比較組(comparison group,同一張表、同一組實驗設定)內的方法;不同比較組之間的數值不可直接比較,也不構成排名。
本方法共出現在 33 個比較組,合計 229 筆紀錄。以下列出本方法紀錄最多的 4 組,其餘 29 組列在最後,並連到性能比較頁。
Sucar et al., 2021 · Table 1 本方法 27 筆
表格設定(擷取紀錄原文):Replica reconstruction from 200,000 points sampled on GT and reconstructed meshes; each scene reported at its highest reached completion ratio with the accuracy and completion at that point; TSDF fusion [4,17] uses iMAP camera tracking; meshes by marching cubes for evaluation only (Sucar et al., 2021, Table 1)
Acc. [cm],Replica · room-0
只並列這張表在相同設定下報告的方法;以「本方法:」開頭者為本頁方法。失敗、未執行與未報告以標記呈現,不是 0。
按 Tab 進入圖表後,用上下方向鍵逐一瀏覽各類別,Esc 關閉提示框;也可開啟表格檢視閱讀全部數值。
這些是 Sucar et al., 2021 在此表設定下報告的數值(author-reported results),只能在同一個比較組內對照,不代表方法在其他資料或設定下的表現。
資料來源作者報告值(Sucar et al., 2021, Table 1)
| 方法(原文寫法) | 報告值 | 出處 |
|---|---|---|
| iMAP本方法原文提出 | 3.58 cm | (Sucar et al., 2021, Table 1) |
| TSDF Fusion (with iMAP tracking) | 4.21 cm | (Sucar et al., 2021, Table 1) |
Yang et al., 2022 · Table 2 本方法 27 筆
表格設定(擷取紀錄原文):Replica mesh reconstruction; iMAP values from its paper, NICE-SLAM values from its supplementary without mesh culling (Yang et al., 2022, Table 2)
Acc. [cm],Replica · Room-0
只並列這張表在相同設定下報告的方法;以「本方法:」開頭者為本頁方法。失敗、未執行與未報告以標記呈現,不是 0。
按 Tab 進入圖表後,用上下方向鍵逐一瀏覽各類別,Esc 關閉提示框;也可開啟表格檢視閱讀全部數值。
這些是 Yang et al., 2022 在此表設定下報告的數值(author-reported results),只能在同一個比較組內對照,不代表方法在其他資料或設定下的表現。
資料來源作者報告值(Yang et al., 2022, Table 2)
| 方法(原文寫法) | 報告值 | 出處 |
|---|---|---|
| iMap [ 31 ]本方法 | 3.58 cm | (Yang et al., 2022, Table 2) |
| NICE-SLAM [ 40 ] | 3.53 cm | (Yang et al., 2022, Table 2) |
| Ours原文提出 | 2.41 cm | (Yang et al., 2022, Table 2) |
Rosinol et al., 2023 · Table I 本方法 18 筆
表格設定(擷取紀錄原文):Replica rendered sequences (2000 frames per scene from iMAP); iMAP* and NICE-SLAM (GT depth) use rendered ground-truth depth; TSDF-Fusion, sigma-Fusion and NeRF-SLAM use DROID-SLAM poses and depths; Depth L1 is a proxy for geometric accuracy; values from the IROS 2023 version of record (the NeRF-SLAM row differs from arXiv v1) (Rosinol et al., 2023, Table I)
Depth L1 [cm],Replica · room-0
只並列這張表在相同設定下報告的方法;以「本方法:」開頭者為本頁方法。失敗、未執行與未報告以標記呈現,不是 0。
按 Tab 進入圖表後,用上下方向鍵逐一瀏覽各類別,Esc 關閉提示框;也可開啟表格檢視閱讀全部數值。
這些是 Rosinol et al., 2023 在此表設定下報告的數值(author-reported results),只能在同一個比較組內對照,不代表方法在其他資料或設定下的表現。
資料來源作者報告值(Rosinol et al., 2023, Table I)
| 方法(原文寫法) | 報告值 | 出處 |
|---|---|---|
| iMAP* [27] (GT depth)本方法 | 5.7 cm | (Rosinol et al., 2023, Table I) |
| Nice-SLAM [28] (GT depth) | 2.53 cm | (Rosinol et al., 2023, Table I) |
| TSDF-Fusion Res. = 256 (our depth) | 23.51 cm | (Rosinol et al., 2023, Table I) |
| sigma-Fusion [15] Res. = 256 (our depth) | 21.92 cm | (Rosinol et al., 2023, Table I) |
| Nice-SLAM [28] (no depth) | 11.12 cm | (Rosinol et al., 2023, Table I) |
| Ours (our depth)原文提出 | 8.11 cm | (Rosinol et al., 2023, Table I) |
Wang et al., 2023a · Table 1 本方法 14 筆
表格設定(擷取紀錄原文):Averages over scenes; meshes culled with the authors' new culling strategy for all methods; TSDF-Fusion uses Co-SLAM poses; iMAP* is the NICE-SLAM re-implementation (Wang et al., 2023a, Table 1)
Depth L1 (cm),Replica (8 synthetic scenes) · average over scenes
只並列這張表在相同設定下報告的方法;以「本方法:」開頭者為本頁方法。失敗、未執行與未報告以標記呈現,不是 0。
按 Tab 進入圖表後,用上下方向鍵逐一瀏覽各類別,Esc 關閉提示框;也可開啟表格檢視閱讀全部數值。
這些是 Wang et al., 2023a 在此表設定下報告的數值(author-reported results),只能在同一個比較組內對照,不代表方法在其他資料或設定下的表現。
資料來源作者報告值(Wang et al., 2023a, Table 1)
| 方法(原文寫法) | 報告值 | 出處 |
|---|---|---|
| TSDF-Fusion | 6.36 cm | (Wang et al., 2023a, Table 1) |
| iMAP本方法 | 4.64 cm | (Wang et al., 2023a, Table 1) |
| NICE-SLAM | 1.9 cm | (Wang et al., 2023a, Table 1) |
| Co-SLAM (Ours)原文提出 | 1.51 cm | (Wang et al., 2023a, Table 1) |
其他比較組
列出其餘 29 個比較組
- Johari et al., 2023 · Table 2
- Zhang et al., 2023b · Table 3
- Matsuki et al., 2024 · Table 2
- Yang et al., 2022 · Table 1
- Johari et al., 2023 · Supp. Table 4
- Wang et al., 2023a · Table 3
- Zhu et al., 2022a · Table 3
- Wang et al., 2023a · Table 2
- Wang et al., 2023a · Table 4
- Johari et al., 2023 · Table 1
- Zhang et al., 2023b · Table 4
- Zhu et al., 2022a · Table 2
- Zhu et al., 2022a · Table 1
- Yang et al., 2022 · Table 3
- Wang et al., 2023a · Supp. Table 1
- Johari et al., 2023 · Supp. Table 5
- Johari et al., 2023 · Table 4
- Yan et al., 2024 · Table 2
- Matsuki et al., 2024 · Table 1
- Johari et al., 2023 · Table 3
- Sucar et al., 2021 · Table 3
- Sucar et al., 2021 · Table 4
- Zhu et al., 2022a · Table 4
- Zhang et al., 2023b · Table 9
- Tosi et al., 2026 · Table XI
- Sucar et al., 2021 · Table 2
- Sucar et al., 2021 · Table 5
- Zhu et al., 2022a · Text Sec. 4.3
- Pan et al., 2024 · Table IX
來源
Sucar et al., 2021
(2021)iMAP: Implicit Mapping and Positioning in Real-Time2021 IEEE/CVF International Conference on Computer Vision (ICCV), pp. 6209-6218
DOI 10.1109/iccv48922.2021.00617arXiv 2103.12352
同儕審查已出版已讀全文近十年
相關版本
- 預印本:arXiv:2103.12352 https://arxiv.org/abs/2103.12352