Page 119 - 高中 信息技术 选择性必修4 人工智能初步
P. 119
5.2 维护人工智能应用系统安全的基本方法
项目实施
各小组根据项目选题及拟订的项目方案，结合本节所学知识，剖析自动驾驶汽车伤人
事件的原因。
1. 探究自动驾驶汽车的功能模块，并填写表5-2。
2. 结合自动驾驶汽车的功能，分析自动驾驶汽车伤人事件的技术原因和人为原因。
3. 认识人工智能应用系统的安全风险和伦理挑战。
广东教育出版社
5.2 维护人工智能应用系统安全的
基本方法
人工智能技术已经广泛渗透到人们的生产和生活中，或改变了人们的出行方式，或改
善了人们的工作环境，或提高了人们的劳动效率等。人工智能技术推动人类社会发展进程
的同时，也给社会带来一定的负面影响。研究人工智能应用系统的安全策略，对人工智能
发展和人类社会发展具有重大的现实意义和深远的历史意义。
针对人工智能应用系统面临的物理安全、数据安全、程序安全和运行安全等问题，人
们提出的人工智能应用系统的安全策略如下。
探究活动
调 查
调查人工智能给社会带来的正面和负面的影响。
5 . 2 . 1 安全风险分析与审计跟踪
安全风险分析是指评估威胁发生的可能性、系统的脆弱性（受攻击的难易度）和因此
引起的潜在损失，是风险管理程序的基础，其最终目的是帮助系统管理人员进行安全防护
选择并将风险降低到可接受的程度。人工智能应用系统在设计前和运行前，要先进行静态
分析，旨在发现系统的潜在安全隐患；其次对系统进行动态分析，即进行系统运行测试，
111111
21Y3228.indd 111 2019/10/10 14:24:56
