实验定位 混合 / 方向有效但需校准
A23 接着 A22 做了关键替换:A22 用 GT mesh 做 depth/normal oracle,只能证明信号价值;A23 改成只使用输入图像和 VGGT 预测的 world points、confidence、相对 depth,测试一个真正无 GT 的 depth/normal repair gate。
结果不是简单正结果。VGGT depth 能抓住坏修复,例如 gso_008 的 repair depth error 增加 0.01519,GT Chamfer 也变差 0.00474;但 VGGT normal 由 world_points 有限差分得到,噪声会导致误拒,例如 gso_002 被 normal 拒绝,实际 GT Chamfer/F@5 都改善。
实验设计(Image-2 风格)
模块设计(Image-2 风格)
Gate Rules
- compare candidate rendered depth to VGGT depth after robust per-view scale alignment
- compare candidate rendered normals to normals estimated from VGGT world_points
- use VGGT confidence quantile to keep high-confidence pixels
- reject repair when VGGT depth/normal worsens or A20 rejects visible safety
Protocol / Limitations
case:10 个,输入视角 4 张,VGGT 分辨率 96。
- VGGT depth scale is arbitrary, so depth is median-scale aligned per view
- VGGT normals are finite-difference estimates from predicted world points
- this tests routing signal quality, not a new generated mesh yet
实验结果(表格)
| 方法 | case | VGGT depth abs ↓ | VGGT normal cos ↑ | depth Δ | normal Δ |
|---|---|---|---|---|---|
| baseline | 10 | 0.04927 | 0.4527 | - | - |
| repair_hybrid | 10 | 0.05138 | 0.4574 | 0.00211 | 0.0047 |
逐 case VGGT gate
| case | A23 gate | baseline depth | repair depth | depth Δ | baseline normal | repair normal | normal Δ | GT Chamfer Δ | GT F@5 Δ | A20 gate | A22 oracle gate | 原因 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| gso_000_input4 | pass | 0.07823 | 0.05493 | -0.02330 | 0.5103 | 0.5079 | -0.0024 | -0.00160 | 0.0202 | True | False | [] |
| gso_001_input4 | reject | 0.03684 | 0.03664 | -0.00020 | 0.4045 | 0.4013 | -0.0031 | -0.00105 | 0.0082 | False | False | ['A20 2D visible-safe gate rejects repair'] |
| gso_002_input4 | reject | 0.08896 | 0.08240 | -0.00656 | 0.6944 | 0.6225 | -0.0719 | -0.00377 | 0.0502 | True | True | ['repair worsens VGGT normal'] |
| gso_003_input4 | reject | 0.02543 | 0.02736 | 0.00193 | 0.5477 | 0.5452 | -0.0025 | -0.00005 | -0.0041 | False | False | ['A20 2D visible-safe gate rejects repair'] |
| gso_004_input4 | reject | 0.03651 | 0.03641 | -0.00009 | 0.4884 | 0.4865 | -0.0019 | -0.00041 | 0.0032 | False | False | ['A20 2D visible-safe gate rejects repair'] |
| gso_005_input4 | reject | 0.00707 | 0.00715 | 0.00008 | 0.2584 | 0.2596 | 0.0011 | 0.00119 | -0.0079 | False | False | ['A20 2D visible-safe gate rejects repair'] |
| gso_006_input4 | reject | 0.07058 | 0.10248 | 0.03191 | 0.5158 | 0.5933 | 0.0775 | 0.00144 | 0.0204 | False | False | ['repair worsens VGGT depth', 'A20 2D visible-safe gate rejects repair'] |
| gso_007_input4 | reject | 0.10069 | 0.10263 | 0.00194 | 0.5394 | 0.5671 | 0.0277 | 0.00281 | -0.0188 | False | False | ['A20 2D visible-safe gate rejects repair'] |
| gso_008_input4 | reject | 0.03180 | 0.04700 | 0.01519 | 0.2392 | 0.2566 | 0.0174 | 0.00474 | -0.0168 | False | False | ['repair worsens VGGT depth', 'A20 2D visible-safe gate rejects repair'] |
| gso_009_input4 | pass | 0.01658 | 0.01675 | 0.00017 | 0.3284 | 0.3336 | 0.0052 | -0.00006 | -0.0029 | True | True | [] |
可视化结果
gso_008 VGGT depth / normal panels




实验结论
- A23 证明 VGGT depth 是可部署门控的有用信号:gso_006 depth Δ=0.03191,gso_008 depth Δ=0.01519,都与“repair 不能直接信任”的判断一致。
- 总体上 repair_hybrid 的 VGGT depth_abs 从 0.04927 变差到 0.05138,depth helped cases=4/10;这支持用 depth 做坏修复过滤。
- VGGT normal 当前不能直接硬门控:虽然均值 normal_cos 从 0.4527 到 0.4574 略有改善,但 gso_002 出现 false reject,normal Δ=-0.0719,实际 GT Chamfer Δ=-0.00377、F@5 Δ=0.0502 都是正向。
- A23 的研究状态应标为混合:它已经把 A22 oracle 推向无 GT 方案,但 gate 阈值、VGGT 尺度对齐、normal 置信区域和 A20 规则组合都还需要校准。
- 下一步不建议继续堆更多全局指标;更像论文主线的方案是 confidence-weighted depth-first gate,normal 只在 VGGT 高置信、局部平滑、跨视角一致区域作为辅助项。
下一步想法
- A24:做 calibrated VGGT geometry gate。先只用 depth hard reject,再把 normal 改成 confidence-weighted soft penalty,统计与 GT Chamfer/F@5 的相关性。
- 引入 VGGT confidence 和 point-map local smoothness:低置信、边界、遮挡区域不参与 normal gate,降低 gso_002 这类误拒。
- 把 gate 从后验 repair 选择推进到 sampler-time:visible-supported depth 区域锁定,unobserved 区域允许水密闭合。
- 在 100-case benchmark 上评估 A20 silhouette、A23 depth、A23 calibrated normal 的互补性,形成最终路由器。