算法可帮助人工智能系统避开"对抗性"目标输入
在一个完美的世界中,人们所看到的就是所感知到的,如果这个完美世界真实存在,那么人工智能(AI)系统的工作将非常简单明了.以自动驾驶汽车上采用的防撞系统为例,如果可以完全相信车载摄像头的视觉输入,那么AI系统可以直接将输入映射为适当的动作:向右转向、向左转向或继续执行,以避免撞到车载摄像头看到的行...>>详细在一个完美的世界中,人们所看到的就是所感知到的,如果这个完美世界真实存在,那么人工智能(AI)系统的工作将非常简单明了.以自动驾驶汽车上采用的防撞系统为例,如果可以完全相信车载摄像头的视觉输入,那么AI系统可以直接将输入映射为适当的动作:向右转向、向左转向或继续执行,以避免撞到车载摄像头看到的行人或障碍物.但是,如果相机出现故障使得图像稍微偏移几个像素怎么办?如果汽车盲目地信任所谓的"对抗性目标输入",则可能会采取不必要的潜在危险动作.
人工智能系统、摄像头、自动驾驶汽车、完美世界、防撞系统、向右转、障碍物、真实存在、向左转、危险动作
TP18(自动化基础理论)
2022-11-02（万方平台首次上网日期，不代表论文的发表时间）
共1页
114-114
