Page 120 - 高中 信息技术 选择性必修4 人工智能初步

第五章 人工智能系统的安全

跟踪并记录其活动状况，旨在发现系统运行期的安全漏洞；最后是系统运行后的分析，并
生成相应的系统脆弱性分析报告。常见的系统风险有后门、陷阱门、犯大错误、拒绝使
用、无法使用、伪造、故意破坏程序或数据、逻辑炸弹、错误传递、计算机病毒和超级处

理等。
审计跟踪是利用对人工智能应用系统审计的方法，对系统工作过程中的状态变化进行
详尽的审计跟踪和记录，如用户使用系统的时间、日期和具体操作，对程序和文件的使用
监控等。审计跟踪通过保存、维护和管理审计日志，实现对各种安全事故的定位。

5 . 2 . 2 备份与应急处理

在人工智能应用系统运行中，洪水、地震等自然灾害会直接导致计算机系统不能正常
运行；发电厂的事故、信息服务商的问题也会导致计算机系统的非正常运行；计算机系统
本身也可能出现故障，如系统升级时发生差错、严重的操作错误、备份中心发生故障和系

统管理员的恶意操作等都可能导致重要数据丢失，引发计算机系统灾难。
备份是指对重要的系统文件和数据进行复制和保存，甚至单独放置，有时甚至对重要
设备也会备份，以确保在系统崩溃或数据丢失后，系统能及时准确恢复，保障信息处理操

作仍能正常进行。 广东教育出版社
应急处理主要是指当人工智能应用系统受到损害、面临崩溃或发生灾难事件时，具备
完善可行的应急计划和快速恢复的应急措施，基本做到反应迅速、备份完备和恢复及时，

使系统尽快恢复正常运行，以尽可能减少由此而造成的损失。
灾难事件发生后的恢复工作主要包括两个方面：一方面是硬件的恢复，使计算机系统
重新运行起来；另一方面是数据的恢复。一般来讲，数据的恢复更为重要，难度也更大。

目前运用的数据恢复技术主要是瞬时复制技术、远程磁盘镜像技术和数据库恢复技术。

5 . 2 . 3 安全管理教育与制度建设

提高安全意识，有效保障人工智能系统安全。由于人工智能系统安全是一个综合性的
概念，是一项系统工程，综合性强、涉及面广，需各方面密切合作与配合。因此应从全局

着手，提高全员系统安全意识，增长系统安全知识，自觉遵守安全管理制度，规范化操
作，从整体上提高信息安全的防范能力。
提高技术水平，增强系统的技术防范能力。人工智能系统安全是动态的，没有一劳永
逸的安全防范措施，因此要及时更新安全技术，提高技术水平，不断调整安全策略，选用

安全性较强的操作系统和数据库系统，制定统一的安全标准、算法和协议等，不能只注重
效率而忽视了安全。
建立和健全安全管理和防范规章制度，切实发挥安全管理的重要作用。安全和管理是

112 112

21Y3228.indd 112 2019/10/10 14:24:56