视觉SLAM十四讲学习笔记第二讲初识SLAM

专栏系列文章如下&＃xff1a;

视觉SLAM十四讲学习笔记-第一讲_goldqiu的博客-CSDN博客

“定位”和“建图”&＃xff0c;可以看成感知的“内外之分”。

传感器分类&＃xff1a;

传感器分为两类: 一类传感器是携带于机器人本体上的&＃xff0c;例如机器人的轮式编码器、相机、激光等等。另一类是安装于环境中的&＃xff0c;例如导轨、二维码标志等等。安装于环境中的传感设备&＃xff0c;通常能够直接测量到机器人的位置信息&＃xff0c;简单有效地解决定位问题。然而&＃xff0c;由于它们必须在环境中设置&＃xff0c;在一定程度上限制了机器人的使用范围。比方说&＃xff0c;有些地方没有GPS信号&＃xff0c;有些地方无法铺设导轨。

这类传感器约束了外部环境。只有在这些约束满足时&＃xff0c;基于它们的定位方案才能工作。虽然这类传感器简单可靠&＃xff0c;但它们无法提供一个普遍的&＃xff0c;通用的解决方案。相对的&＃xff0c;那些携带于机器人本体上的传感器&＃xff0c;比如激光传感器、相机、轮式编码器、惯性测量单元&＃xff08;Inertial Measurement&＃xff09;等等&＃xff0c;它们测到的通常都是一些间接的物理量而不是直接的位置数据。例如&＃xff0c;轮式编码器会测到轮子转动的角度、IMU测量运动的角速度和加速度&＃xff0c;相机和激光则读取外部环境的某种观测数据。我们只能通过一些间接的手段&＃xff0c;从这些数据推算自己的位置。明显的好处是&＃xff0c;它没有对环境提出任何要求&＃xff0c;使得这种定位方案可适用于未知环境。

按照相机的工作方式&＃xff0c;我们把相机分为单目&＃xff08;Monocular&＃xff09;、双目&＃xff08;Stereo&＃xff09;和深度相机&＃xff08;RGB-D&＃xff09;三个大类。直观看来&＃xff0c;单目相机只有一个摄像头&＃xff0c;双目有两个&＃xff0c;而 RGB-D原理较复杂&＃xff0c;除了能够采集到彩色图片之外&＃xff0c;还能读出每个像素离相机的距离。此外&＃xff0c;SLAM 中还有全景相机、Event 相机等。

单目相机&＃xff1a;

只使用一个摄像头进行SLAM的做法称为单目SLAM&＃xff08;Monocular SLAM&＃xff09;。

照片&＃xff0c;本质上是拍照时的场景&＃xff08;Scene&＃xff09;&＃xff0c;在相机的成像平面上留下的一个投影。它以二维的形式反映了三维的世界。显然&＃xff0c;这个过程丢掉了场景的一个维度&＃xff1a;也就是所谓的深度&＃xff08;或距离&＃xff09;。在单目相机中&＃xff0c;我们无法通过单个图片来计算场景中物体离我们的距离&＃xff08;远近&＃xff09;&＃xff0c;这个距离是SLAM中非常关键的信息。

在单张图像里&＃xff0c;你无法确定一个物体的真实大小。它可能是一个很大但很远的物体&＃xff0c;也可能是一个很近但很小的物体。由于近大远小的原因&＃xff0c;它们可能在图像中变成同样大小的样子。

由于单目相机只是三维空间的二维投影&＃xff0c;所以&＃xff0c;如果我们想恢复三维结构&＃xff0c;必须移动相机的视角。在单目SLAM中也是同样的原理。我们必须移动相机之后&＃xff0c;才能估计它的运动&＃xff08;Motion&＃xff09;&＃xff0c;同时估计场景中物体的远近和大小。

那么&＃xff0c;怎么估计这些运动和结构呢&＃xff1f;从生活经验中我们知道&＃xff0c;如果相机往右移动&＃xff0c;那么图像里的东西就会往左边移动——这就给我们推测运动带来了信息。另一方面&＃xff0c;我们还知道近处的物体移动快&＃xff0c;远处的物体则运动缓慢。于是&＃xff0c;当相机移动时&＃xff0c;这些物体在图像上的运动&＃xff0c;形成了视差。通过视差&＃xff0c;我们就能定量地判断哪些物体离得远&＃xff0c;哪些物体离的近。

然而&＃xff0c;即使我们知道了物体远近&＃xff0c;它们仍然只是一个相对的值。如果把相机的运动和场景大小同时放大两倍&＃xff0c;单目所看到的像是一样的。同样的&＃xff0c;把这个大小乘以任意倍数&＃xff0c;我们都将看到一样的景象。这说明了单目SLAM 估计的轨迹和地图&＃xff0c;将与真实的轨迹、地图&＃xff0c;相差一个因子&＃xff0c;也就是所谓的尺度&＃xff08;Scale&＃xff09;。由于单目 SLAM 无法仅凭图像确定这个真实尺度&＃xff0c;所以又称为尺度不确定性。 平移之后才能计算深度&＃xff0c;以及无法确定真实尺度&＃xff0c;这两件事情给单目SLAM 的应用造成了很大的麻烦。后面为了得到这个深度&＃xff0c;开始使用双目和深度相机。

双目相机和深度相机的目的&＃xff0c;在于通过某种手段测量物体离我们的距离&＃xff0c;克服单目无法知道距离的缺点。如果知道了距离&＃xff0c;场景的三维结构就可以通过单个图像恢复出来&＃xff0c;也就消除了尺度不确定性。

双目相机&＃xff1a;

由两个单目相机组成&＃xff0c;两个相机之间的距离&＃xff08;称为基线&＃xff08;Baseline&＃xff09;&＃xff09;是已知的。我们通过这个基线来估计每个像素的空间位置。人类可以通过左右眼图像的差异&＃xff0c;判断物体的远近&＃xff0c;在计算机上也是同样的道理。计算机上的双目相机需要大量的计算才能估计每一个像素点的深度&＃xff0c;相比于人类是非常的笨拙。双目相机测量到的深度范围与基线相关。基线距离越大&＃xff0c;能够测量到的就越远。双目相机的距离估计是比较左右眼的图像获得的&＃xff0c;并不依赖其他传感设备&＃xff0c;所以它既可以应用在室内&＃xff0c;也可应用于室外。双目或多目相机的缺点是配置与标定较为复杂&＃xff0c;其深度量程和精度受双目的基线与分辨率限制&＃xff0c;而且视差的计算非常消耗计算资源&＃xff0c;需要使用 GPU 和 FPGA 设备加速后&＃xff0c;才能实时输出整张图像的距离信息。

深度相机

又称 RGB-D相机&＃xff0c;可以通过红外结构光或 Time-of-Flight&＃xff08;ToF&＃xff09;原理&＃xff0c;像激光传感器那样&＃xff0c;通过主动向物体发射光并接收返回的光&＃xff0c;测出物体离相机的距离。 不像双目那样通过软件计算来解决&＃xff0c;而是通过物理的测量手段&＃xff0c;可节省大量的计算量。目前常用的 RGB-D 相机包括Kinect/Kinect V2、 Realsense等。不过&＃xff0c;现在多数 RGB-D 相机还存在测量范围窄、噪声大、视野小、易受日光干扰、无法测量透射材质等诸多问题&＃xff0c;在SLAM方面&＃xff0c;主要用于室内SLAM。

视觉SLAM流程

1. 传感器信息读取。在视觉 SLAM 中主要为相机图像信息的读取和预处理。如果在机器人中&＃xff0c;还可能有测速码盘、惯性传感器等信息的读取和同步。

2. 视觉里程计 (Visual Odometry, VO)。任务是估算相邻图像间相机的运动&＃xff0c; 以及局部地图的构建。VO 又称为前端&＃xff08;Front End&＃xff09;。

3. 后端优化&＃xff08;Optimization&＃xff09;。后端接受不同时刻视觉里程计测量的相机位姿&＃xff0c;以及回环检测的信息&＃xff0c;对它们进行优化&＃xff0c;得到全局一致的轨迹和地图。由于接在VO之后&＃xff0c; 又称为后端&＃xff08;Back End&＃xff09;。

4. 回环检测&＃xff08;Loop Closing&＃xff09;。判断机器人是否曾经到达过先前的位置。如果检测到回环&＃xff0c;它会把信息提供给后端进行处理。

5. 建图&＃xff08;Mapping&＃xff09;。它根据估计的轨迹&＃xff0c;建立与任务要求对应的地图。

视觉里程计

视觉里程计关心相邻图像之间的相机运动&＃xff0c;最简单的情况是两张图像之间的运动关系。

计算机是如何通过图像确定相机的运动呢&＃xff1f;图像在计算机里只是一个数值矩阵。这个矩阵里表达着什么东西&＃xff0c;计算机毫无概念&＃xff08;这也正是现在机器学习要解决的问题&＃xff09;。

视觉 SLAM 中&＃xff0c;我们只能看到一个个像素&＃xff0c;知道它们是某些空间点在相机的成像平面上投影的结果。所以&＃xff0c;为了定量地估计相机运动&＃xff0c;必须在了解相机与空间点的几何关系之后进行。 VO能够通过相邻帧间的图像估计相机运动&＃xff0c;并恢复场景的空间结构。VO只计算相邻时刻的运动&＃xff0c;而和往前的信息没有关联。假定我们已有了一个视觉里程计&＃xff0c;估计了两张图像间的相机运动。那么&＃xff0c;只要把相邻时刻的运动串起来&＃xff0c;就构成了机器人的运动轨迹&＃xff0c;从而解决了定位问题。另一方面&＃xff0c;我们根据每个时刻的相机位置&＃xff0c;计算出各像素对应的空间点的位置&＃xff0c;就得到了地图。

但是&＃xff0c;有了VO&＃xff0c;并没有解决SLAM问题。

仅通过视觉里程计来估计轨迹&＃xff0c;将出现累计漂移&＃xff08;Accumulating Drift&＃xff09;。这是由于视觉里程计&＃xff08;在最简单的情况下&＃xff09;只估计两个图像间运动造成的。每次估计都带有一定的误差&＃xff0c;而由于里程计的工作方式&＃xff0c;先前时刻的误差将会传递到下一时刻&＃xff0c; 导致经过一段时间之后&＃xff0c;估计的轨迹将不再准确。比方说&＃xff0c;机器人先向左转90度&＃xff0c;再向右 转了90度。由于误差&＃xff0c;我们把第一个90度估计成了89度。向右转之后机器人的估计位置并没有回到原点。即使之后的估计再准确&＃xff0c;与真实值相比&＃xff0c;都会带上这-1度的误差。这也就是所谓的漂移&＃xff08;Drift&＃xff09;。这将导致我们无法建立一致的地图。为了解决漂移问题&＃xff0c;我们还需要两种技术&＃xff1a;后端优化和回环检测。回环检测负责把机器人回到原始位置检测出来&＃xff0c;而后端优化则根据该信息&＃xff0c;校正整个轨迹的形状。

后端优化

主要指处理SLAM过程中噪声的问题。现实中&＃xff0c;再精确的传感器也带有一定的噪声。便宜的传感器测量误差较大&＃xff0c;昂贵的则较小&＃xff0c;有的传感器还会受磁场、温度的影响。

所以&＃xff0c;除了解决如何从图像估计出相机运动之外&＃xff0c;我们还要关心这个估计带有多大的噪声&＃xff0c;这些噪声是如何从上一时刻传递到下一时刻的、而我们又对当前的估计有多大的信心。

后端优化要考虑的问题&＃xff0c;就是如何从这些带有噪声的数据中&＃xff0c;估计整个系统的状态&＃xff0c;以及这个状态估计的不确定性有多大——这称为最大后验概率估计&＃xff08;Maximum-a-Posteriori&＃xff0c;MAP&＃xff09;。这里的状态既包括机器人自身的轨迹&＃xff0c;也包含地图。在SLAM框架中&＃xff0c;前端给后端提供待优化的数据&＃xff0c;以及这些数据的初始值。而后端负责整体的优化过程&＃xff0c;它往往面对的只有数据&＃xff0c;不必关心这些数据到底来自什么传感器。在视觉 SLAM 中&＃xff0c;前端和计算机视觉研究领域更为相关&＃xff0c;比如图像的特征提取与匹配等&＃xff0c;后端则主要是滤波与非线性优化算法。早期的SLAM问题是一个状态估计问题&＃xff0c;这正是后端优化要解决的东西。

SLAM 问题的本质&＃xff1a;对运动主体自身和周围环境空间不确定性的估计。为了解决SLAM&＃xff0c;我们需要状态估计理论&＃xff0c;把定位和建图的不确定性表达出来&＃xff0c;然后采用滤波器或非线性优化&＃xff0c;去估计状态的均值和不确定性&＃xff08;方差&＃xff09;。

回环检测

又称闭环检测&＃xff08;Loop Closure Detection&＃xff09;&＃xff0c;主要解决位置估计随时间漂移的问题。假设实际情况下&＃xff0c;机器人经过一段时间运动后回到了原点&＃xff0c;但是由于漂移&＃xff0c;它的位置估计值却没有回到原点。

如果有某种手段&＃xff0c;让机器人知道回到了原点这件事&＃xff0c;或者把原点识别出来&＃xff0c;我们再把位置估计值拉过去&＃xff0c;就可以消除漂移了。这就是所谓的回环检测。我们认为&＃xff0c;地图存在的主要意义&＃xff0c;是为了让机器人知晓自己到达过的地方。为了实现回环检测&＃xff0c;我们需要让机器人具有识别曾到达过的场景的能力。我们更希望机器人能使用携带的传感器——也就是图像本身&＃xff0c;来完成这一任务。例如&＃xff0c;我们可以判断图像间的相似性&＃xff0c;来完成回环检测。如果回环检测成功&＃xff0c;可以显著地减小累积误差。所以视觉回环检测&＃xff0c;实质上是一种计算图像数据相似性的算法。由于图像的信息非常丰富&＃xff0c;使得正确检测回环的难度也降低了不少。在检测到回环之后&＃xff0c;我们会把“A 与 B 是同一个点”这样的信息告诉后端优化算法。然后&＃xff0c;后端根据这些新的信息&＃xff0c;把轨迹和地图调整到符合回环检测结果的样子。这样&＃xff0c;如果我们有充分而且正确的回环检测&＃xff0c;就可以消除累积误差&＃xff0c;得到全局一致的轨迹和地图。

建图

指构建地图的过程。地图是对环境的描述&＃xff0c;但这个描述并不是固定的&＃xff0c;需要视SLAM的应用而定。

对于家用扫地机器人来说&＃xff0c;这种主要在低矮平面里运动的机器人&＃xff0c;只需要一个二维的地图&＃xff0c;标记哪里可以通过&＃xff0c;哪里存在障碍物&＃xff0c;就够它在一定范围内导航了。

而对于一个相机&＃xff0c;它有六自由度的运动&＃xff0c;我们至少需要一个三维的地图。有时我们不需要地图&＃xff0c;或者地图可以由其他人提供&＃xff0c;例如行驶的车辆往往可以得到已经绘制好的当地地图。建图并没有一个固定的形式和算法。一组空间点的集合也可以称为地图&＃xff0c;一个漂亮的3D模型也是地图&＃xff0c;一个标记着城市、村庄、铁路、河道的图片也是地图。地图的形式随SLAM的应用场合而定。大体上讲&＃xff0c;它们可以分为度量地图与拓扑地图两种。

度量地图&＃xff08;Metric Map&＃xff09;强调精确地表示地图中物体的位置关系&＃xff0c;通常我们用稀疏&＃xff08;Sparse&＃xff09;与稠密&＃xff08;Dense&＃xff09;对它们进行分类。稀疏地图进行了一定程度的抽象&＃xff0c;并不需要表达所有的物体。例如&＃xff0c;我们选择一部分具有代表意义的东西&＃xff0c;称之为路标&＃xff08;Landmark&＃xff09;&＃xff0c;那么一张稀疏地图就是由路标组成的地图&＃xff0c;而不是路标的部分就可以忽略掉。

稠密地图着重于建模所有看到的东西。对于定位来说&＃xff0c;稀疏路标地图就足够了。而用于导航时&＃xff0c;我们往往需要稠密的地图。稠密地图通常按照某种分辨率&＃xff0c;由许多个小块组成。二维度量地图是许多个小格子&＃xff08;Grid&＃xff09;&＃xff0c;三维则是许多小方块&＃xff08;Voxel&＃xff09;。一般地&＃xff0c;一个小块含有占据、空闲、未知三种状态&＃xff0c;以表达该格内是否有物体。当我们查询某个空间位置时&＃xff0c;地图能够给出该位置是否可以通过的信息。这样的地图可以用于各种导航算法。这种地图需要存储每一个格点的状态&＃xff0c;耗费大量的存储空间&＃xff0c;而且多数情况下地图的许多细节部分是无用的。另一方面&＃xff0c;大规模度量地图有时会出现一致性问题。很小的一点转向误差&＃xff0c;可能会导致两间屋子的墙出现重叠&＃xff0c;使得地图失效。

拓扑地图&＃xff08;Topological Map&＃xff09;相比于度量地图的精确性&＃xff0c;拓扑地图则更强调地图元素之间的关系。拓扑地图是一个图&＃xff08;Graph&＃xff09;&＃xff0c;由节点和边组成&＃xff0c;只考虑节点间的连通性&＃xff0c;例如 A&＃xff0c;B 点是连通的&＃xff0c;而不考虑如何从A点到达B点的过程。它放松了地图对精确位置的需要&＃xff0c;去掉地图的细节问题&＃xff0c;是一种更为紧凑的表达方式。拓扑地图不擅长表达具有复杂结构的地图。

如何对地图进行分割形成结点与边&＃xff0c;又如何使用拓扑地图进行导航与路径规划&＃xff0c;仍是有待研究的问题。

SLAM 问题的数学表述

1. 什么是运动&＃xff1f;要考虑从k−1时刻到k时刻&＃xff0c;机器人的位置x是如何变化的。

机器人会携带一个测量自身运动的传感器&＃xff0c;比如说码盘或惯性传感器。这个传感器可以测量有关运动的读数&＃xff0c;但不一定直接是位置之差&＃xff0c;还可能是加速度、角速度等信息。无论是什么传感器&＃xff0c;我们都能使用一个通用的、抽象的数学模型&＃xff1a; xk &＃61; f (xk−1,uk, wk).

这里uk是运动传感器的输入&＃xff0c;wk 为噪声。这称为运动方程。

2. 什么是观测&＃xff1f;假设机器人在k时刻&＃xff0c;于xk处探测到了某一个路标yj&＃xff0c;要考虑这件事情是如何用数学语言来描述的。

观测方程描述的是&＃xff0c;当机器人在xk位置上看到某个路标点yj&＃xff0c;产生了一个观测数据zk,j。用一个抽象的函数h来描述这个关系&＃xff1a; zk,j &＃61; h (yj , xk, vk,j )。

vk,j是这次观测里的噪声。

根据机器人的真实运动和传感器的种类&＃xff0c;存在着若干种参数化方式&＃xff08;Parameterization&＃xff09;。

假设机器人在平面中运动&＃xff0c;那么&＃xff0c;它的位姿由两个位置和一个转角来描述&＃xff0c;x1, x2 是两个轴上的位置而 θ 为转角&＃xff0c;即

输入的指令是两个时间间隔位置和转角的变化量&＃xff1a;

此时运动方程&＃xff1a;

并不是所有的输入指令都是位移和角度的变化量&＃xff0c;比如“油门”或者 “控制杆”的输入就是速度或加速度量&＃xff0c;存在着其他形式更加复杂的运动方程&＃xff0c;我们需要进行动力学分析。关于观测方程&＃xff0c;比方说机器人携带着一个二维激光传感器。我们知道激光传感器观测一个2D路标点时&＃xff0c;能够测到两个量&＃xff1a;路标点与机器人本体之间的距离 r 和夹角 ϕ。

记路标点为

位姿为

观测数据为

那么观测方程就为&＃xff1a;

考虑视觉 SLAM 时&＃xff0c;传感器是相机&＃xff0c;那么观测方程就是“对路标点拍摄后&＃xff0c;得到了图像中的像素”的过程。 针对不同的传感器&＃xff0c;这两个方程有不同的参数化形式。

取成通用的抽象形式&＃xff0c;SLAM过程可总结为两个基本方程&＃xff1a;

这两个方程描述了最基本的SLAM问题&＃xff1a;当我们知道运动测量的读数u&＃xff0c;以及传感器的读数z 时&＃xff0c;如何求解定位问题&＃xff08;估计x&＃xff09;和建图问题&＃xff08;估计y&＃xff09;&＃xff1f;这时&＃xff0c;我们把 SLAM 问题建模成了一个状态估计问题&＃xff1a;如何通过带有噪声的测量数据&＃xff0c;估计内部的、隐藏着的状态变量&＃xff1f;

SLAM 状态估计问题的求解&＃xff0c;与两个方程的具体形式&＃xff0c;以及噪声服从哪种分布有关。

我们按照运动和观测方程是否为线性&＃xff0c;噪声是否服从高斯分布进行分类&＃xff0c;分为线性/非线性和高斯/非高斯系统。其中线性高斯系统&＃xff08;Linear Gaussian, LG 系统&＃xff09;是最简单的&＃xff0c;它的无偏的最优估计可以由卡尔曼滤波器&＃xff08;Kalman Filter, KF&＃xff09;给出。

而在复杂的非线性非高斯系统 &＃xff08;Non-Linear Non-Gaussian&＃xff0c;NLNG 系统&＃xff09;中&＃xff0c;我们会使用以扩展卡尔曼滤波器&＃xff08;Extended Kalman Filter, EKF&＃xff09;和非线性优化两大类方法去求解它。

直至21世纪早期&＃xff0c;以 EKF 为主的滤波器方法占据了 SLAM 中的主导地位。在工作点处把系统线性化&＃xff0c;并以预测 ——更新两大步骤进行求解。最早的实时视觉SLAM系统即是基于EKF开发的。随后&＃xff0c;为了克服 EKF 的缺点&＃xff08;例如线性化误差和噪声高斯分布假设&＃xff09;&＃xff0c;人们开始使用粒子滤波器&＃xff08;Particle Filter&＃xff09;等其他滤波器&＃xff0c;乃至使用非线性优化的方法。

时至今日&＃xff0c;主流视觉 SLAM 使用以图优化&＃xff08;Graph Optimization&＃xff09;为代表的优化技术进行状态估计。优化技术已经明显优于滤波器技术&＃xff0c;只要计算资源允许&＃xff0c;我们通常都偏向于使用优化方法。

机器人更多时候是一个三维空间里的机器人。三维空间的运动由三个轴构成&＃xff0c;所以机器人的运动要由三个轴上的平移&＃xff0c;以及绕着三个轴的旋转来描述&＃xff0c;这一共有六个自由度。在视觉SLAM 中&＃xff0c;对6自由度的位姿如何表达&＃xff0c;优化。观测方程如何参数化&＃xff0c;即空间中的路标点是如何投影到一张照片上的&＃xff0c;这需要解释相机的成像模型。最后&＃xff0c;怎么求解上述方程&＃xff1f;这需要非线性优化的知识。