因为"方便",员工用个人账号把客户信息或公司机密输入外部AI——这被称为"影子AI"(Shadow AI),是信息泄露的典型途径。另一方面,若因惧怕风险而全面禁止,又会落后于竞争对手。本文由取得ISMS认证的千叶AI导入支援公司,讲解影子AI的风险,以及用公司专用AI环境"安全地・全员"活用AI的对策与上手方法。
- 「影子AI」是指公司未许可・未管理的AI服务被员工凭个人判断用于工作的状态,容易成为信息泄露的典型途径。
- 相比全面禁止,同时完善使用规则与准备公司专用的AI使用环境,两者并重才是现实且有效的做法。
- 基本要点有4项:①使用规则②输入数据不会被用于外部学习的企业版/公司专用AI使用环境③访问控制・日志管理④培训,可基于风险运用ISMS(ISO/IEC 27001)的理念。
- 构建安全AI环境有可能成为「数字化・AI导入补助金」中「安全对策推进类别」等的对象(采择与对象因要件而异)。
什么是影子AI?为何会发生
影子AI是指员工各自判断、把公司未管理・未许可的AI服务用于工作的状态。在ChatGPT等可轻松使用的今天,因"没有规则""方便又能提效",会在不知不觉中在公司内蔓延。
即使没有恶意,输入的信息也可能流向外部・被用于训练,有可能导致客户信息或机密信息泄露。
放任不管会怎样? 3个风险
| ① 信息泄露 | 把客户个人信息・报价・图纸・源代码等输入外部AI,存在外泄风险。 |
|---|---|
| ② 合规违规 | 抵触个人信息・保密协议(NDA)・各类规程,可能损害客户信任。 |
| ③ 使用零散・属人化 | 无法掌握谁在用什么、怎么用,质量与安全都无法管理。 |
安全地全员活用的4项对策
| ① 制定使用规则 | 明确禁止输入的信息(个人信息・机密),规定可用范围・确认流程。 |
|---|---|
| ② 公司专用AI环境 | 采用输入数据不被用于外部训练的企业版方案,或对内封闭的AI使用环境。 |
| ③ 访问控制・日志 | 管理使用者・权限,保留使用日志。包含离职者的权限清理在内进行管控。 |
| ④ 教育・固化 | 通过培训共享"为何危险・如何使用",把安全用法在公司内扎根。 |
以ISMS认证的经验"边守边用"
株式会社MRI取得了信息安全的国际标准ISMS认证(ISO/IEC 27001)。我们运用经第三方机构认定的信息管理体制经验,支援构建在保护机密数据的同时安全活用AI的公司内环境。服务详情请参阅安全AI环境构建・被选择的理由。
不失败的上手方法
| STEP 1 | 掌握现状──确认公司内谁在使用什么样的AI |
|---|---|
| STEP 2 | 制定规则──从最小限度起,规定禁止输入信息・使用范围・确认流程 |
| STEP 3 | 准备安全环境──导入企业版/公司专用的AI使用环境 |
| STEP 4 | 教育・运营──通过培训固化,看着日志持续改善 |
导入整体的推进方式请参阅中小企业导入AI从何开始?不失败的5个步骤。
担心费用也有补助金
安全AI环境的构建,可能成为国家"数字化・AI导入补助金"(最高450万日元)的"安全对策推进类别"等的对象(采择与对象因要件而异)。详情请参阅千叶中小企业可用于AI导入的补助金汇总。
常见问题(企业内AI的安全)
什么是影子AI?该如何应对?
指公司未许可・未管理的AI服务,被员工凭个人判断用于工作的状态。它会在不知不觉中扩散,可能导致机密信息泄露。相比全面禁止,同时完善使用规则与准备公司专用的AI使用环境,两者并重才是现实且有效的做法。
要让公司内AI安全化(构建安全AI环境)需要什么?
基本要点有4项:①规定禁止输入信息与使用范围的使用规则,②输入数据不会被用于外部学习的企业版/公司专用AI使用环境,③管理使用者・权限并留存日志的访问控制,④通过培训使其落地。规则与环境应配套完善才有效果。
如何在公司内安全使用ChatGPT?
明确个人信息・机密・客户数据是否可以输入,并准备输入内容不会被用于学习的企业版方案或公司内部封闭环境,这样比较安全。具体的规则示例请参阅中小企业的ChatGPT活用法。
ISMS的理念如何应用于AI使用规则?
ISMS(ISO/IEC 27001)是评估信息资产风险,并通过规则・体制・记录进行管控的框架。在AI使用上,也可以基于风险来规定「可以输入什么」「谁如何使用」「如何留存日志」,从而做到既安全又能有效活用。本公司以ISMS认证的体制为您提供构建支持。
AI的访问控制・日志管理具体做些什么?
包括为每位使用者设置权限、管理使用部门与用途、记录与检查使用日志、整理离职员工的权限等。通过可视化「谁在用什么」,可以防止管理个人化或失控的状态。
构建安全AI环境可以使用补助金吗?
有可能成为国家「数字化・AI导入补助金」中「安全对策推进类别」等的对象(采择与对象因要件而异)。详情请参阅千叶中小企业可用于AI导入的补助金汇总。
公司内的AI使用,该如何规整?
相关文章:
・中小企业的ChatGPT活用法|安全使用的公司规则与用武之地
・中小企业导入AI从何开始?不失败的5个步骤
・建筑业・士业的生成式AI活用|报告书・会议纪要・提案书制作提速
・【2026年版】千叶中小企业可用于AI导入的补助金汇总
※ 本文内容为2026年6月时点的一般信息。各AI服务的数据处理方式请以提供方的最新条款为准。补助金的要件・截止日期请以各制度官方网站为准。