Page 118 - 高中 信息技术 选择性必修4 人工智能初步

第五章 人工智能系统的安全

5 . 1 . 3 人工智能应用系统的伦理挑战

人工智能发展为人类社会发展带来新机遇的同时，也带来了新挑战。人工智能是影响
面广泛的颠覆性新技术，新技术发展的不成熟和不确定性带来很多安全风险，如出现合成
声波、自动黑客攻击和数据下毒等新型数据安全攻击。不法分子将无人机或其他物理系统

变成攻击的武器，利用人工智能技术做有针对性的宣传而造成侵犯隐私和左右舆论等安全
威胁。这些问题可能会造成就业结构改变、法律与社会伦理冲击、个人隐私侵犯、国际关
系准则受挑战等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。
1. 国家安全影响
广东教育出版社
人工智能在国防领域、涉密系统、关键信息基础设施等的应用，可能对国家安全产生
影响。未来的人工智能技术有可能与核武器、飞机、计算机和生物技术一样，成为给国家
安全带来深刻变化的颠覆性技术。

2. 社会安全风险
人工智能可使机器实现自动化、智能化操作，这将对某些行业和工种造成潜在影响，
导致薪酬降低、中低技术要求的职业消失，可能影响社会安全与稳定。

3. 人身安全风险
随着人工智能与物联网的深入结合，智能产品日益融入人们的家居、医疗和交通等工
作生活，一旦这些智能产品（如智能医学诊断设备、自动驾驶汽车等）遭受网络攻击，用

户的人身安全可能受到威胁。
4. 网络安全风险
人工智能算法、系统和应用可能遭受恶意网络攻击。例如通过实施一些干扰技术，计

算机在进行深度学习时容易被欺骗。因此，有些不法分子可能会利用数据欺诈等手段远程
控制自动驾驶汽车，让汽车偏航甚至逼停汽车造成事故。
5. 隐私保护风险

人工智能应用需要建立丰富的数据集，数据收集和使用时可能会遇到数据安全风险和
隐私保护问题。以无人驾驶为例，自动驾驶车辆网络的有效运转需要依赖大量位置数据及
其他个人数据，这种大规模的数据实践可能带来诸多层面的数据安全和隐私保护风险。
6. 法律伦理挑战

人工智能的发展目标是使机器像人类一样思考和行动，但随着社会智能化程度的提
高，人工智能将面临现行法律、社会规范和道德伦理方面的挑战。如何确定人工智能产品
或系统的法律主体、权利、义务和责任，如何确保研究人员开发出与现行法律、社会规范

和道德伦理相符的算法和架构，都是人工智能的发展道路上需要考量的。

讨 论

随着智能应用系统的发展与普及，不同的安全风险与伦理挑战逐渐凸显。以小组为单

位，讨论我们身边因为人工智能引发的相关问题，探讨我们应如何应对这些风险和挑战。

110 110

21Y3228.indd 110 2019/10/10 14:24:56