人工智能是信息社会的革命性技术，是智能化的信息社会的核心技术，具有广泛的应用前景，目前已经涉及制造、农业、物流、金融、商务、家居等行业和领域。伴随着人工智能应用的推广，其安全问题也越来越凸显出来。

以目前非常热门的智能交通领域为例，很多汽车厂家和互联网公司都推出了无人驾驶汽车以及智能交通系统。在人工智能控制交通的时代，指挥交通运行的效率可以达到最优，交通事故率也可以趋近于零。在不远的将来，也许只有赛车手和发烧友才会驾驶汽车，但是交通事故可能被系统事故所替代。黑客可以从智能汽车端、移动应用端和云平台以及三者交互的通信管道实施攻击，复杂的系统组成要素大大增加了安全风险。实际上，目前已经出现了黑客通过盗取移动App账号密码来控制自动驾驶汽车的案例。

工业制造领域，通过人工智能技术对工业大数据进行处理，可以提高生产效率。比如Google将机器学习技术应用于数据处理，使用神经网络控制服务器等设备以降低耗电量，提升电力使用效率，但是由于工业大数据是由生产不同阶段的大量零散数据组成，数据间存在同步问题，黑客对数据的任何一点入侵篡改都会使人工智能计算产生偏差，从而造成巨大损失。

由于人工智能技术处于信息社会的核心层面，控制着大量生产、生活设备、数字化资产乃至社会运转规则，一旦黑客入侵后台控制系统，技术系统遭到破坏，将带来和其技术重要性相同的破坏力，严重威胁信息系统安全乃至人身安全和社会安全。

长远展望人工智能在信息社会的发展，基于人工智能的社会精细化管理是未来社会的基本管理模式，数字空间最后由人工智能控制。虚拟空间将取代现实社会逐渐成为人类工作、学习、生活的主体空间。在这样的情形下，势必出现人工智能控制人类，威胁人类安全的重大问题。其实，这并不是人类第一次面临发明创造的技术威胁人类乃至地球安全的问题。核武器的出现，就是个典型的例子。目前各国保有的核武器可以摧毁地球若干次，但是，正是这样终极技术的出现，避免了大规模战争的爆发。技术就是一枚硬币的两面，发明一项技术需要聪明，驾驭一项技术则需要智慧。面对人工智能，确实需要人类有足够的智慧去利用和驾驭。