[ITmedia エンタープライズ] 中小企業の40％はルール未整備 調査で判明したAIセキュリティの死角

最近、私たちの身の回りでもAIの活用が急速に進んでいますよね。特に、文章作成やデータ分析など、さまざまな業務を効率化してくれるAIツールは、いまや大企業だけでなく、中小企業にとっても手放せない存在になりつつあります。しかし、その便利さの裏側には、実は見落とされがちな大きなリスクが潜んでいるんです。

セキュリティ会社のESETが行った調査によると、中小企業の約4割が、AIツールの利用に関する明確なルールをまだ決めていないことが明らかになりました。これは、まるで交通ルールがないまま車を運転しているようなもの。AIは、入力された情報をもとに学習し、新しい情報を作り出すツールです。そのため、もし社員が会社の機密情報をAIに入力してしまったり、誤って外部に漏れてはいけない情報を扱わせてしまったりすると、とんでもない事態に発展する可能性があります。

具体的にどんな危険があるのでしょうか。例えば、「設定不備」はよくある問題です。AIツールの初期設定のまま使っていると、情報が外部に公開されてしまう設定になっていたり、アクセス権限が甘くなっていたりすることがあります。また、「プロンプト注入」という手口もあります。これは、AIへの指示（プロンプト）に、悪意のある命令をこっそり含ませることで、AIに不正な動作をさせたり、機密情報を引き出させたりする攻撃です。さらに、AIが学習する過程で、意図せず不正確な情報や偏った情報を生み出してしまう「不正スキル」の問題も指摘されています。

こうしたリスクから会社を守るためには、社員一人ひとりがAIを正しく理解し、安全に使うためのルール作りが不可欠です。例えば、どんな情報をAIに入力しても良いのか、どんな情報を入力してはいけないのかを明確にする。AIが生成した情報は、必ず人間の目で確認するといった手順を決める。そして、AIツールの設定を定期的に見直し、最新のセキュリティ対策を施すことも重要です。

AIは私たちの仕事を助けてくれる強力なパートナーですが、その力を最大限に引き出し、同時にリスクを最小限に抑えるためには、適切な「しつけ」と「管理」が欠かせません。中小企業にとって、これは喫緊の課題と言えるでしょう。