从零开始 · 10章可操作图解
ReLift:从像素轨迹到三维轨迹修复
视频里一个点在画面上移动,不等于我们已经知道它在三维空间里怎样运动。先学会读懂像素、射线和深度,再看ReLift为什么把任务改写成“修复一条已经抬到三维的轨迹”。
本页用手工几何与数值图解释机制,没有加载作者模型或运行训练。最后一章单独标出论文报告数据与比较条件。先理解图中一个变化,再向下一章走。
第1 / 10章
1. 先追同一个点,再问它在哪里
先把视频想成按时间排列的图片。颜色相同的圆点,表示我们想一直追踪的同一个表面点。
把图里的变化说清楚
一帧是一张图片,像素坐标(u,v)标出图上的位置。轨迹把同一个点在第0、1、2……帧的位置连起来。二维跟踪回答“它后来落到哪一个像素”,并没有直接回答离相机多远。
Dense(稠密)表示要为大量参考像素建立轨迹,不是只追几个手工选的角点。图中只画3条轨迹,便于看清身份;不是作者模型的真实视频输出。
ReLift先使用已训练好的二维跟踪器与几何模型,再把主要学习能力集中在修复三维轨迹。前端提供的对应、深度或相机估计仍可能出错。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
用一个判断检查理解
本章依据:§1、§3 方法概览 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。
第2 / 10章
2. 一个像素对应一条射线
看见一个点落在某个像素,只能确定“朝哪个方向看”;沿这个方向远近不同的点,都可能投到同一位置。
把图里的变化说清楚
相机内参把像素转换为相机坐标中的方向。图中fx、fy相当于像素尺度下的焦距,cx、cy是光轴落在图像上的主点。q=[(u−cx)/fx,(v−cy)/fy,1]。先别怕矩阵K:这里把K⁻¹的作用直接展开成了减法与除法。
深度图给的是光轴z方向的深度Z;沿斜射线走过的距离r更长。单位方向d长度为1,因此r=Z‖q‖,而不是把Z直接乘给单位方向。‖q‖是向量长度,按各分量平方和开方计算。
默认u=420、cx=320、fx=400、Z=4,所以q=[0.25,0,1],相机内的点是[1,0,4],射线距离约4.123。改像素会改方向,改Z会沿同一条射线移动。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
图中的相机与距离单位是手工设定。单目几何模型的尺度未必是已知的真实米制尺度。
用一个判断检查理解
本章依据:§3.1,式1 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。
第3 / 10章
3. 相机在动,还是点在动?
两帧各自的相机坐标不是同一个尺子。把它们直接连起来,可能把相机运动画成物体运动。
把图里的变化说清楚
坐标系规定原点和三个轴的方向。相机向右移动时,一个静止点相对相机就偏向左;它在参考场景中的位置却可以保持不变。
ReLift把每一帧的点统一到第0帧相机坐标系。论文Rₜ把camera-t方向旋转到camera-0;oₜ是camera-t中心在参考系中的位置。先旋转局部点,再加相机中心,才能比较跨帧运动。
滑动图中相机的位置,观察像素和相机坐标怎样变化,再切换是否统一到参考系。演示只改变相机,世界中的目标固定;估计错相机姿态会继续污染真实系统的lift。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
用一个判断检查理解
本章依据:§3.1,参考相机约定 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。
第4 / 10章
4. 遮挡时,深度可能属于另一张表面
目标被前面的物体挡住时,深度图仍能给当前像素一个数,但那个数可能来自挡住它的表面。
把图里的变化说清楚
二维对应错误会把射线方向弄偏;深度抖动会使点沿射线来回跳;漂移会逐渐偏离;错面深度则可能把背景目标突然拉到前景物体上。它们不是同一种误差。
跟踪器还输出可见性分数。论文按阈值把不可用观测的三维位置与射线一起遮掉,留下空缺;若漏检遮挡,错误的前景观测仍可能被保留。可见性不是保证正确的神谕。
图中的绿色真轨迹是我们人为生成的,因而能用于对照。真实推理看不到这条真值线。尝试切换错误种类,以及“是否漏检遮挡”,比较留下空缺和保留错面点的区别。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
用一个判断检查理解
本章依据:§3.1、附录A.1 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。
第5 / 10章
5. 先把缺口填上,再决定怎样修复
模型需要每一帧都有一个起点;这个起点可以很粗糙,但要明确哪些位置是观测、哪些只是填的。
把图里的变化说清楚
在同一条轨迹上,两次可用三维观测之间做线性插值:按时间比例在两个端点之间走直线。最后一次观测之后,没有后端点,论文保持最后位置。
初始化不是恢复真实遮挡运动。目标若在遮挡期间走弯线,线性插值会走直线;目标继续运动时,末端保持也会偏离。这正是后续学习修复要面对的部分。
点击时间格,开关某帧观测;第0帧作为有效参考固定保留。图还列出g:到最近可用观测相差几帧。它告诉模型当前填补位置离证据有多远。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
用一个判断检查理解
本章依据:§3.2、附录A.1 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。
第6 / 10章
6. 14个数,告诉模型哪里有证据
模型既要看到初始猜测,也要知道哪些部分有观测支持。不能把插值伪装成真实测量。
把图里的变化说清楚
Token在这里是一段数值特征,不是文字。每帧包含:相对参考anchor的初始化位移3维;仅保留观测的位移3维;mask 1维;离观测的帧距1维;masked单位ray 3维;相机中心3维。合计14维。
先用参考深度中位数s统一归一化,anchor取该点在参考帧的位置。缺口里第一份位移仍保留插值起点,第二份观测位移和ray则为0;mask与帧距负责说明这个0的含义。
每4帧的特征拼为一个tracklet token,再投影到网络宽度。84帧因此成为21个时间token。图按论文式2展示,代码另对位移等乘10,并把gap截到40后除40;这些缩放不改变字段各自的职责。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
用一个判断检查理解
本章依据:§3.2,式2–3;附录A.2 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。
第7 / 10章
7. 先沿时间联系,再在轨迹之间交流
同一条轨迹的前后帧,和同一时段的其他轨迹,能提供两类不同线索。
把图里的变化说清楚
注意力可以先理解为:为其他特征计算相关分数,再按归一化权重汇入信息。实际权重由训练过的网络产生;图中只标“允许联系谁”,没有假装展示作者模型的真实权重。
时间注意力连接同一轨迹的所有chunk,能使用缺口之后的帧;跨轨迹注意力连接同一chunk内同组轨迹。图的行是轨迹、列是时间块,不代表行相邻就一定在图像中相邻。
推理会把参考像素随机分组,默认每组1024条轨迹,组之间独立处理,没有额外的跨组global-token分支。下方4×3小网格是缩小的联系示意;规模预算另按所选P、T计算。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
用一个判断检查理解
本章依据:§3.3,图2;附录A.4 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。
第8 / 10章
8. 残差能沿射线修,也能改射线方向
修复不只是把深度平滑一下;如果二维对应也错了,三维修正需要能朝多个方向移动。
把图里的变化说清楚
网络输出每帧的三维残差Δ,再加到归一化初始化坐标,最后乘回尺度s。残差没有被限制在原ray上,因此可以修深度,也可以修位置方向。可用观测不是硬锁住的点,所有帧都允许被修正;visibility分数原样保留。
左图让你手动给出一个残差,观察公式到底怎样改变位置。右侧可选的“借邻轨迹位移”只是一条人工类比规则:用有观测的邻轨迹展示共享运动线索如何帮助填缺口;它不是ReLift网络。
把邻轨迹切成不同方向,人工借用就可能出错。真实注意力需学习怎样选择与整合信息,也仍可能失败;并非把所有邻点平均就等价于论文方法。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
人工修正与借用规则均为机制示意,不运行作者权重,不用于报告模型效果。
用一个判断检查理解
本章依据:§3.3,式4 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。
第9 / 10章
9. 用干净轨迹造错,再学习修复
如果每换一个跟踪器就重新采集一套预测错误,修复器容易依赖某个前端的失误习惯。
把图里的变化说清楚
Corrector训练直接使用PointOdyssey的三维轨迹、可见性与相机中心,随机制造方向扰动、距离噪声/漂移、错面大偏移、遮挡缺口与漏检遮挡。学习目标是从受损几何回到干净轨迹。
这一步训练不需要渲染图像,也不需要运行跟踪器或深度模型;但整条推理系统仍需要视频与前端估计。不要把“修复器不看RGB”说成“系统不需要图像”。
图里的扰动是可重现的手工小例,用来分清错误形态,不复刻论文的训练分布。论文并未显式模拟所有相机姿态误差或持续换错物体身份;这些也是不能保证泛化的地方。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
用一个判断检查理解
本章依据:§3.4、附录A.3 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。
第10 / 10章
10. 最后看成绩,也看比较条件
同一几何输入下有没有改善,与完整系统是否更快,是两组需要分开阅读的证据。
把图里的变化说清楚
APD3D是多个距离容差下,预测点落在真值附近的比例再平均。论文采用0.1、0.3、0.5、1.0米阈值,并在All和Dyn各自评分集合上做RANSAC Sim(3)对齐。All包含静态点,但不能用All减Dyn算出一个静态分数。
表2比较相同CoWTracker与VGGT-Ω输入:初始化lift的All/Dyn为84.9/82.3,加入修复器为87.5/85.8。表1最高配置的89.01/86.95使用4RC几何;它相对4RC的提升是2.07/5.35个百分点,不要把摘要对另一个动态baseline的约3.0点混进来。
速度是84帧片段的全流程吞吐,不是单帧在线延迟。论文在单张96GB RTX PRO6000上测一个Dynamic Replica片段,含前端和修复,排除视频解码/模型加载。下图只重绘报告值,FPS与速度比由84/秒数等计算得到。
对照公式与符号
先用上图确认各个量的含义,再读这组关系;术语按钮可回查定义。
单目尺度沿用几何提供者;输入几何误差与持续错对应仍会限制修复,不把论文结果推广到任意视频。
用一个判断检查理解
本章依据:表1、表2、附录D.4 · 原文定位。图与中文讲解为本站原创教学表达;报告值不来自本页实测。