人工智能的安全隐患

Uber 公司改装后的自动驾驶测试车在美国撞死了一位女士，充分表明今天的人工智能技术并不是一个完备体系。Uber 的那辆汽车当时处于光线很暗的环境中，那位女士穿了件黑色衣服，在这种很复杂的情况下，汽车的人工智能没有做出任何判断，甚至没有减速，最终酿成了悲剧。

在开启人工智能系统后，人工智能系统的决策不再需要操控者进一步的指令，这种决策可能会产生人类预料不到的结果。设计者和生产者在开发人工智能产品的过程中可能并不能准确预知某一产品会存在的可能风险。因此，对于人工智能的安全问题不容忽视。