安全滤波器

夹在策略和执行器之间，只在动作会导致危险时才最小限度地改动它。

安全滤波器把「完成任务」和「保证安全」拆成两层：任务策略（手写控制器、强化学习或 VLA 模型）先给出名义动作，滤波器判断执行后系统还能否留在安全集合内，安全就原样放行，不安全才换成最接近的安全动作。常见实现有三类：控制障碍函数（CBF）每步解一个小二次规划，找离名义动作最近、又不让安全函数 h(x) 降到 0 以下的动作；HJ 可达性分析预先算出哪些状态无论怎么控制都会出事；MPC 屏蔽则在线预测未来轨迹能否退回安全区。Hsu、Hu、Fisac 2023 年的综述把它们统一成「监控 + 干预」框架。学习型策略本身没有安全保证，外面加这一层就能提供可证明的约束。

例子移动机器人避人：定义 h(x)=‖p−p_人‖²−d²（p 为机器人位置，d 为允许的最小距离，h≥0 即安全），每个周期求解 min‖u−u_nom‖²，约束 ḣ ≥ −α·h；u_nom 是导航策略给的速度，α>0 决定靠近时减速多早。离人远时约束不起作用，u 就等于 u_nom。

也叫

安全过滤器、安全屏蔽、Safety shield

相关

控制障碍函数、HJ 可达性分析、模型预测控制、安全强化学习、具身安全、二次规划

来源

The Safety Filter: A Unified View of Safety-Critical Control in Autonomous Systems (Hsu, Hu, Fisac, arXiv 2309.05837)
Control Barrier Functions: Theory and Applications (Ames et al., arXiv 1903.11199)