中国AI大模型创业公司DeepSeek（深度求索）发布的生成式AI DeepSeek震撼了全球，各行各业也开始积极深入思考和探索如何应用生成式AI提升生产效率，赋能未来发展。对于保密工作来说，这既是机遇，亦是挑战。

一、AI带来的优势

优势1：协助生成多模态内容，提升保密宣教质效。生成式AI具备的多模态思维及推理能力，能够在提示下智能生成多种形式的保密宣教内容，如文字、图片、音频等，加快知识产出效率，丰富保密宣教形态，能辅助各级各部门开展全方位、多角度、多层次的保密宣教活动。

优势2：挖掘分析海量数据，加速工作智能化转型。生成式AI具有强大的数据挖掘与分析能力，在日常工作中，大语言模型可辅助分析各类数据，及时预测、防范可能发生的安全风险，搭建起智能高效的安全屏障。在技术升级环节，生成式AI还可以提供前沿技术信息，辅助编译代码等功能，推进安全防护技术的研发进程。

优势3：辅助案件追查，及时搭建形成案例库。生成式AI可以综合分析海量数据集，通过分布式计算功能和分析演绎能力，有效提升案件查办工作的智能化水平。此外，生成式AI也可帮助搭建失泄密案例资源库，对信息资源进行科学分类、规范存储，让失泄密案例库的建设更加体系化、科学化，也为日后案件查办、宣传教育工作提供丰富、易查的参考资料。

二、AI带来的风险隐患

风险1：助推网络攻击窃密，生成式AI在网络空间安全领域的应用，使得网络攻防对抗不断演化升级。像ChatGPT这样的生成式AI拥有海量的编程相关知识，大幅降低了网络攻击的技术门槛，使得即使没有技术基础的人也能够编写恶意代码软件，实施网络攻击。同时，网络攻击者还可利用生成式AI强化恶意软件，编写适用于目标防御体系的特定攻击程序，其隐蔽性和破坏性急剧上升。

风险2：赋能开源情报分析，开源情报以其低成本、易获取、信息量大和时效性强等优势，受到各国情报机构青睐。通过将生成式AI与“爬虫”等技术相结合，相关机构可以从互联网或其他计算机网络上搜集海量数据，并自动对数据进行筛选、梳理、分析，形成情报信息。

风险3：生成式AI辅助间谍窃密，生成式AI能够利用社交平台、电子商务、运动轨迹等互联网数据对涉密人员进行人物画像和特征分析，实施更具针对性的诱骗窃密策略。同时，生成式AI能够将来自不同情报源的信息进行整合、比对、分析，形成更加全面、准确的情报信息。

风险4：泄露个人信息引发泄密隐患，生成式AI需要大量数据来进行训练与优化，为此，某些生成式AI公司会在未经授权的情况下直接从网络上抓取大量个人信息。大量个人信息集中在一起就会产生“聚合效应”，很多看似无关紧要的个人信息，经过大数据整合与生成式AI分析，可能关系到国家安全和利益。

风险5：生成式AI引入政务体系产生风险，生成式AI的数据处理、机器学习、图像识别等技术，能够帮助政府提高政务民生、城市管理、公共安全等数字化治理的效能，但也存在数据泄露风险。专业人员可以通过提取攻击等方式窃取生成式AI的训练数据，或利用生成式AI自身算法的缺陷和漏洞，进行对抗样本、数据投毒、模型窃取等攻击，损害数据安全。

风险6：不当使用生成式AI导致泄密，因不当使用生成式AI导致泄密的事件屡见不鲜。据悉，2023年三星公司引入ChatGPT不到20天内，就接连发生了3起数据泄露事件。目前，许多机关、单位工作人员也会在工作中使用生成式AI来撰写工作总结、会议纪要等各类文稿，相关风险隐患须引起高度关注。

三、面对AI带来的新挑战，机关、单位应加强防范工作

1.创新技术手段与人员培训：机关 、单位应对内部AI工具进行有效合规整治，保障数据安全和核心竞争力，组织员工进行合规培训，特别是加强对生成式AI使用人员的数据安全专业培训，提升他们的处理能力，确保安全合规使用；同时，做好敏感信息和重要数据的日常及应急防护，在安全事件发生时加强多方协作，及时追踪溯源。

2、强化信息数据保护：机关、单位要严禁上传涉密信息，防范敏感信息泄露。一方面，相关部门应在监管中发挥主导作用，推进制定行业信息收集与处理标准，加强对服务提供方隐私政策的审查；另一方面，机关、单位自身也要加强安全技术研发升级，通过技术手段提升对数据的保护。

3、建立完善的保密制度：机关、单位要结合生成式AI的特点，重新梳理和完善本机关、单位的保密制度，明确生成式AI的使用规范、数据存储和传输要求等，从制度层面保障信息安全。例如：规定哪些工作可以使用生成式AI，哪些敏感数据严禁在AI环境中处理等。

四、在使用AI时的注意事项

1.网上办公勿涉密：严禁通过互联网处理涉密信息，使用生成式AI办公时禁止在线上发布、传播涉密信息，不能以方便工作为由将涉密文件、资料存储在线上。

2.小程序使用莫大意：严禁将涉密文件拍摄、摘录后上传互联网，使用文字识别、AI写作等功能时应杜绝输入涉密文件、资料信息，防止方便了工作却泄露了秘密。

3.个人设备常自查：从事涉密岗位、有机会接触到涉密内容的工作人员应定期对手机、电脑等私人电子设备开展自查，杜绝用互联网设备处理涉密信息；同时，也要及时对涉密计算机开展病毒自检，防止其被植入病毒窃取数据。

4.加强个人信息保护意识：选用合法合规的生成式AI，避免在使用过程中输入隐私信息，在享受生成式AI便捷化服务的同时，为个人信息安全上一把防护锁。