你以为AI是提高效率的得力助手，它却可能在不经意间将你的核心机密拱手送出；

你以为AI只是听话的工具，它却可能被操纵成窃取数据的“间谍”。

在人工智能时代，泄密与窃密的界限正变得前所未有的模糊。

PART.01

违规使用AI工具典型案例

涉密方案违规“喂”给AI

某涉密单位工作人员李某，在起草一份涉密方案时，听同事说AI写作很好用，只要写上主题和需求，就可以帮忙写出文稿。

李某在好奇心驱使下，在手机上下载一款AI写作应用软件，并私自将该涉密方案的部分敏感内容输入AI写作工具，通过AI代写生成网络文件资料。

事件发生后，李某受到严肃处理。

开源AI违规分析内部文件

某国家机关工作人员小王，为提升工作效率，未经安全评估及审批，直接尝试使用一款流行的开源AI工具分析一份内部文件。

由于其电脑系统默认开启公网访问，且未设置访问密码，导致攻击者未经授权即可自由访问内部网络，最终敏感资料被境外IP非法访问、下载。

此次泄露导致内部涉密资料外流，损害了国家安全。

核心数据擅自上传云端

某科研机构一研究人员保密意识淡薄，为快速完成研究报告，擅自使用一款流行的AI写作应用软件辅助办公。

将部分核心数据及实验成果上传到该应用，导致该研究报告中的部分涉密敏感信息被泄露，在网上流传，给该科研机构造成经济损失，也给国家利益带来损害。

事件发生后，该研究人员受到严肃处理。

新形势下的双刃剑

这些事件揭示了一个令人警醒的事实：在人工智能时代，泄密的渠道和窃密的手段都在发生深刻变革。AI既可以成为泄密的“放大器”，也可能沦为窃密的“帮凶”。

PART.02

认知误区

技术盲区

很多人以为，和AI的对话是私密的、一次性的。但事实并非如此。

无论是用于模型训练、优化，还是用于改进服务，用户与AI交互的数据都可能被长期留存。

AI模型可能“忠实”地复述训练数据中的敏感片段，或在对话中“推理”出未明确输入但隐含的机密信息。

贪图便利

日常工作中，不少人为了快速完工、省去繁琐的人工整理步骤，直接无视“涉密不上网”的安全红线，把核心资料、敏感数据、内部工作内容投喂给AI”。

认为“就这一次没事”，“改一改就安全”，觉得偶尔用AI处理涉密内容不会出问题；

以为换种说法、模糊几个关键词，就能规避泄密风险，放心让AI帮自己快速完成工作。

侥幸心理

部分人员主观笃定少量分段输入涉密内容、代码替换遮蔽敏感信息、用完立即删除对话记录，就能彻底消除泄密痕迹、规避安全风险。

殊不知，所有交互数据均会被云端长期存储留存，部分数据会用于模型迭代训练，同时平台具备完备的后台人工审核、数据溯源能力。

责任分散与从众

不少人员缺乏独立的保密判断与底线意识，看见身边有人违规使用AI处理涉密信息却未出事，便盲目跟风效仿、放松自我要求，默认这种行为“无伤大雅”。

同时存在严重的责任推诿心态，一旦出现问题，习惯性将决策失误、泄密隐患归咎于AI算法缺陷、平台工具问题。

完全忽视了谁使用、谁负责的保密底线原则，不愿承担个人使用带来的主体责任。

PART.03

法律规定

1.《中华人民共和国保守国家秘密法》第三十一条规定，任何组织和个人不得使用非涉密信息系统、非涉密信息设备存储或者处理国家秘密。

2.《网络数据安全管理条例》第十九条明确要求，提供生成式人工智能服务的网络数据处理者应当加强对训练数据和训练数据处理活动的安全管理，采取有效措施防范和处置网络数据安全风险。

PART.04

提高保密意识

生成式人工智能高度依托互联网、大数据、云计算平台，AI接收的国家秘密信息会被作为大语言模型进行学习训练，数据获取、处理、存储、运算、传输各环节均面临泄露风险，哪怕只是截取涉密文件片段，也存在被攻击窃取或经关联汇聚后泄密的风险。

我们在享受高速发展的AI技术给工作生活给带来便利的同时，也应警惕其存在的泄密风险隐患。

增强保密意识。机关、单位工作人员应禁止使用部署在互联网上的大模型处理国家秘密；在采用公共大模型辅助办公时，严禁发送敏感词、句进行提问，严禁将内部敏感文件或照片上传至大模型平台。

规范AI办公行为。严格执行“先审批、后使用”制度，机关、单位如需运用AI工具开展工作，必须提前向保密部门报备，经审核同意后方可使用，严禁私自违规使用各类AI工具处理公务。确需借助公共AI工具处理非涉密内部工作信息时，必须提前对内容进行全方位脱敏，确保输出、输入信息无任何可溯源、可识别的内部敏感要素。

建立AI泄密处置闭环。一旦发现因AI使用不当造成泄露，应立刻停止当前所有AI操作，第一时间向本单位保密工作负责人、保密管理部门如实上报情况，坚决杜绝瞒报、漏报、迟报、不报等行为，不得私自删除操作记录、隐瞒泄密事实、私下处置风险问题。

来源：息县保密

初审：邵　楠

复审：袁　宇

终审：刘　涛