「ウチの会社、AIに何を任せていいんだろう？」と思ったときに読む話

最近、社内で「AIを使ってみたいんだけど」「もう使ってる社員がいるみたい」というお声をよく耳にします。便利そうだし、流行っているし、競合も導入し始めている。でも、なんとなく不安。情報が漏れたら怖いし、何かトラブルが起きたら誰が責任を取るのか。そんなモヤモヤを抱えたままの経営者の方は、決して少なくありません。

実はこのモヤモヤ、世の中の専門家集団も「うーん」と頭を抱えているテーマです。最近、情報セキュリティの専門家団体が「AIセキュリティの基本」という資料をまとめましたが、その冒頭でも「議論の土台がまだ不確かで、有意義な議論にならなかった」と正直に書かれているくらいです。専門家ですらそう言うのですから、私たちが迷うのは当然なのです。

今回はその資料の内容を踏まえつつ、経営者の視点で「で、結局なにを気にすればいいの？」というポイントを、少し腰を据えて整理してみたいと思います。

そもそも「AIのセキュリティ」って、ひとくくりにできない

まず大事な前提として、「AIのセキュリティ」と一口に言っても、実は中身がいくつもあります。

「AIシステム自体を攻撃から守ること」「AIを安全に業務で使うこと」「AIを使って自社を守ること」「AIが悪用されないようにすること」――こうした論点が全部ごちゃ混ぜになって語られているのが現状です。

経営者の方が日常的に気にすべきは、このうち主に「AIを安全に業務で使うこと」、つまり社員が日々の業務でAIを使うときに、何に気をつけるかという部分です。本記事ではここを軸に話を進めます。

AI利用にまつわる心配ごとは、ざっくり4つに分けられる

専門家の整理によれば、AIを業務利用するときの心配ごとは、おおむね次の4つに分けられます。

1つめは、情報漏えいの不安。 社員がうっかりAIに会社の機密情報を入力してしまい、それがAIの学習材料として使われ、巡り巡って他社の画面に表示される――そんなリスクです。

2つめは、無許可ツールが社内に広がる不安。 会社が把握していないAIサービスを社員が勝手に使い始める、いわゆる「シャドーAI」問題です。便利だからとどんどん使われて、気がつけば収拾がつかなくなります。

3つめは、AIの答えが間違っていることへの不安。 AIは時々、もっともらしい嘘をつきます。専門用語で「ハルシネーション」と呼びますが、要は「知らないとは言わず、それっぽい答えをでっち上げる」癖があるのです。新人アルバイトに「これ知ってる？」と聞いたら、知らないのに「あ、はい、たぶんアレですよね」と適当に答えるあの感じ、と言えば伝わるでしょうか。

4つめは、AIそのものが攻撃される不安。 AIに細工した文章を読み込ませて誤動作させたり、機密情報を吐き出させたりする攻撃が、現実に存在します。

順に見ていきましょう。

心配ごと①：情報漏えい――無料版と有料版で扱いが全然違う

まずよくあるパターンを一つ。

ある会社で、営業部のAさんが取引先への提案書を作るために、無料のAIチャットサービスを使いました。手元には先方からもらった社外秘の見積資料があります。AさんはこれをそのままコピーしてAIに貼り付け、「これをもとに提案書のたたき台を作って」と頼みました。

便利ですよね。あっという間にたたき台ができあがり、Aさんはご機嫌で資料を仕上げました。

問題は、貼り付けた見積資料の中身です。無料版のAIサービスの多くは、ユーザーが入力した内容を「学習データ」として活用する規約になっています。つまり、その見積資料の情報が、将来的にAIの知識の一部になり、他のユーザーが似たような質問をしたときに、似たような情報がポロッと出てくる可能性があるわけです。先方との守秘義務契約、しっかり読み返したくなりますよね。

ここで知っておきたいのは、同じサービスでも、契約プランによって扱いが全然違うということです。無料版や個人向け有料版は学習に使われることが多い一方、企業向けの有料プランは「あなたの会社の入力は学習に使いません」と明記されているものが多いのです。

さらにややこしいのは、AIチャット以外のサービスでも、最近は「AIアシスタント機能」がついていることです。普段使っているメールサービスや文書作成ソフト、翻訳サービスにも、知らないうちにAI機能が組み込まれている。これらも本質的にはAIサービスと同じ扱いで考える必要があります。

心配ごと②：シャドーAIと「個人情報の第三者提供」問題

社員が会社に黙ってAIを使うのは、情報漏えいだけの問題ではありません。個人情報の取り扱いという法的な問題にもなり得ます。

たとえば、顧客リストをAIに貼り付けて「営業メールの文面を作って」と指示したとします。このAIが入力データを学習に使うサービスだった場合、これは法的には「個人情報の第三者提供」に該当する可能性が高いのです。第三者提供には原則、本人の同意が必要なので、知らないうちに法令違反になっているかもしれない、ということになります。

「業務委託の範囲内」と整理できれば話は別ですが、AIサービス側が入力データを自社の学習や製品改善に使う場合、もはや業務委託の枠を超えている、という解釈が一般的です。

心配ごと③：AIの答えは、けっこう間違っている

AIは便利ですが、平気で嘘をつきます。しかも自信満々に。

実際にあった話として、ある大手コンサルティング会社が、政府向けに納品した報告書の中で、AIが生成した「存在しない参考文献」を引用していたという事案がありました。結果として代金の一部を返金する事態になっています。世界トップクラスのプロ集団でも、こういうミスは起こるのです。

さらに最近では、AIが「人の心に影響を与える」ことへの懸念も出てきています。AIは利用者の質問に沿った答えを返そうとするため、結果として利用者の考えを補強する方向に働きやすい性質があります。「自分は正しい」と思っている人にAIが相談に乗ると、「あなたは正しいですね」と返してくる傾向がある、ということです。意思決定の参考にするときには、この点もぜひ意識しておきたいところです。

心配ごと④：AIシステムを狙った攻撃も増えている

これは技術的な話なので深入りしませんが、AIに細工した指示文を読み込ませて、本来禁じられている情報を吐き出させたり、勝手な動作をさせたりする攻撃が、実際に発生しています。

最近の事例では、AIで使われる人気のソフトウェア部品に悪意あるコードが仕込まれ、それを使って開発された企業のサーバーから認証情報が盗まれる、という連鎖的な被害も起きました。「自社はAIを開発していないから関係ない」と思いがちですが、AIを使った業務システムを社内で内製したり、外注先が使っていたりすれば、間接的にこの種のリスクと接点を持つことになります。

ちょっと専門的な話：RAGとAIエージェントという「新しい火種」

ここからは少し踏み込んだ話を、できるだけ簡単に。

最近、「社内の文書をAIに検索させて答えさせる」仕組み（業界用語でRAGと呼ばれています）が流行しています。たとえば「就業規則のリモートワークに関する規定を要約して」と聞くと、AIが社内の規程集を検索して答えてくれる、というイメージです。

便利なのですが、ここで一つ落とし穴があります。元のファイルに設定されていたアクセス権限が、AIに取り込まれると失われてしまう可能性があるのです。たとえば人事評価のファイルは、本来は人事部しか見られないように制限されているはずですが、AIが「全社員からの質問に答える」ために全文を読み込んでしまうと、誰でも「Bさんの評価は？」と聞ける状態になりかねません。

もう一つ最近のホットな話題が、「AIエージェント」と呼ばれる仕組みです。これは、AIが単に答えを返すだけでなく、自分でファイルを操作したり、メールを送ったり、コードを書いてシステムを作ったりする機能のことです。

これがなかなか曲者でして、プログラミングを知らない人でも、AIに頼めば動くシステムが作れる時代になりつつあるわけです。聞こえは素晴らしいのですが、経営者としては別の心配が出てきます。

かつてどの会社にもあったあの「神Excel」を覚えていますでしょうか。担当者が退職したあと、誰も中身を理解できず、でも業務に組み込まれているから消せない、あの恐怖のファイル。AIで作ったシステムは、これと同じ問題を、もっと大規模に引き起こす可能性があります。誰がいつ何のために作ったか分からないツールが社内に氾濫し、セキュリティ更新もされず、責任者も曖昧。気がついたときには、もう収拾がつかない――そんな未来が、けっこう現実味を帯びてきています。

では、経営者は何をすればいいのか

ここまで聞くと「じゃあAIなんて使わせないほうがいいのでは」と思われるかもしれません。が、それはそれで困ります。世の中はもうAI活用が前提で動き始めていて、「使わないこと自体がリスク」になりつつあるのも事実です。

そこで、最低限おさえておきたいポイントを6つ挙げます。

1つめは、使っていいAIを会社で決めること。 無料版ではなく、入力データを学習に使わない設定の企業向けプランを基本にする。これだけで情報漏えいリスクの多くは抑えられます。

2つめは、AIに入れていい情報と、入れちゃダメな情報を区別すること。 「顧客の個人情報はダメ」「未公開の財務情報はダメ」「契約書はダメ」など、シンプルなルールでかまいません。完璧なルールを作ろうとして1年経っても何も決まらない、というのが一番マズいパターンです。

3つめは、ログインの基本対策をしっかりやること。 AIサービスにログインするためのIDとパスワードが破られると、過去の会話履歴がすべて見られてしまいます。可能であれば社内システムと同じ認証基盤（シングルサインオン）を経由させる、最低でも二段階認証を有効にする、といった基本対策は必須です。

4つめは、AIで作ったシステムも管理対象にすること。 「誰が」「いつ」「何の目的で」作ったかを記録し、定期的に棚卸しする。面倒ですが、これをやらないと数年後に必ず後悔します。

5つめは、AIの答えを鵜呑みにしないこと。 AIは「いつでも呼び出せる優秀なアシスタント」ですが、同時に「自信満々に嘘をつくこともあるアシスタント」でもあります。重要な意思決定には、必ず人間が裏取りをする。これを徹底するだけで、トラブルの大半は防げます。

6つめは、経営者自身もAIを触ってみること。 ここが意外と大事です。AIの便利さも怖さも、使ってみないと本当には分かりません。部下に「ちゃんと管理して」と丸投げするのではなく、ご自身でも一度、適当な質問を投げてみてください。「あれ、思ったより使えるな」と「あれ、これ平気で間違ったこと言うな」の両方を体感できるはずです。

おわりに：怖がりすぎず、油断もしすぎず

AIにまつわる話は、突き詰めると非常に専門的で、専門家でも「まだはっきりしていない部分が多い」と認めている領域です。ただ、経営者の立場で必要なのは、専門家になることではなく、「何が起きうるかを大づかみで理解して、社内に最低限のルールを敷くこと」です。

完璧を目指す必要はありません。むしろ完璧を目指して動けないほうが問題で、「とりあえず今月、AI利用ルールを一枚紙で作る」くらいの軽いノリで始めるのが現実的かと思います。

AIは、使い方を間違えれば確かに会社を危険にさらしますが、上手に付き合えば、これまで人手で何日もかかっていた仕事を数分で片付けてくれる、頼もしい相棒にもなります。怖がって遠ざけるのも、無防備に飛びつくのも、どちらも惜しい。「賢く付き合う」という、ちょうどいい距離感を、ぜひ会社全体で探っていただければと思います。

何から手をつければいいか分からない、という段階の方は、お気軽にご相談ください。一緒に考えるところからお手伝いします。