情報漏洩なぜ多い？【AIを悪用した攻撃と防衛策】

個人情報を守るには、必要なデータだけを持ち、保存した情報を継続して管理することが大切です。AIは攻撃の手間を減らす一方、システムの弱点を見つけて修正するためにも使えます。ただし、防御に使いたいAIが、提供会社の判断で利用を制限される問題もあります。情報の管理とあわせて、防御を継続できる道具を選ぶことも重要です。

AIによる攻撃の効率化

AIによって変わっているのは、攻撃者がシステムの弱点を探す速さや手間です。プログラムを調べたり、見つけた弱点を悪用する方法を考える作業を、AIで補助できるようになっています。

システムの安全上の弱点を「脆弱性」、セキュリティの穴を「セキュリティホール」と呼びます。
攻撃者はこうした穴を探し、不正に侵入して情報を盗もうとします。このような悪意のある侵入や破壊は「クラッキング」と呼ばれます。

AIは、従来なら専門知識や時間が必要だった作業の一部を助けます。注意したいのは、熟練した攻撃者の作業を速めるだけでなく、経験の浅い人が攻撃に使う道具にもなる点です。ただし、情報漏洩の原因をすべてAIに結び付けることはできません。個別の事故では、侵入経路や管理状況を確認する必要があります。www.ncsc.gov.uk

セキュリティ更新の継続

インターネットにつながるシステムは、公開した後も安全性の確認と更新を続けています。
運用を始めた時点で問題が見つからなくても、後から弱点が発見されることがあります。

その弱点を修正する更新プログラムが「パッチ」です。服の穴に当て布をするように、プログラムの問題を直します。セキュリティの通知を受け取り、使っているシステムへの影響を確認して、必要なパッチを適用する作業が続きます。

すでに修正方法が公開されている穴も、更新を済ませていないシステムには残ります。攻撃者にとっては、新しい穴を発見するより、古い穴が残った相手を探す方が効率的な場合もあります。

更新の頻度や緊急度はシステムによって違います。日々の通知確認や定期的な点検に加え、危険度の高い問題には速やかに対応する必要があります。AIで攻撃側の作業が速くなるほど、修正を後回しにするリスクも大きくなります。www.ncsc.gov.uk

盗まれた情報の売買

情報漏洩は、情報が盗まれた時点で被害が終わるとは限りません。
流出した情報が売買され、別の犯罪に使われる問題があります。

こうした情報の売買の場の一つが「ダークウェブ」です。
通常の検索では見つけられない、専用のソフトを使ってアクセスする裏のインターネット上の領域を指します。
犯罪以外の用途もありますが、盗まれた情報や不正なサービスを取引する市場も存在します。

犯罪者がメッセージアプリで連絡を取り、暗号資産で代金を支払うケースもあります。
Telegramのようなアプリが犯罪専用という意味ではありませんが、これも活用されているのが現実です。

ビットコインなどの暗号資産も、使えば身元や資金の流れが完全に隠れる仕組みではありません。取引記録を分析して追跡できるものもあります。匿名性を利用する犯罪と、記録をたどる捜査の両方が存在します。www.europol.europa.eu

Mythosによる未知の弱点発見

AIが探せるのは、すでに知られている穴だけではありません。
Anthropicの「Claude Mythos Preview」では、開発者が把握していなかった弱点を発見する能力が確認されています。

修正パッチが用意されていない脆弱性を「ゼロデイ脆弱性」と呼びます。開発者にも知られていない場合があり、守る側が対策を準備する前に悪用される危険があります。「発見から必ずゼロ日」という意味ではありません。

Mythos Previewは、セキュリティ専用ではなく、プログラムの理解や推論に優れた汎用AIです。その能力が、長年見逃されていた弱点の発見や、弱点を悪用する方法の作成にもつながっています。

この能力は、防御にも攻撃にも使えます。そこでAnthropicは、2026年4月に「Project Glasswing」を始め、重要なソフトウェアを守る企業などへ利用を限定しました。一般公開に先立ち、守る側が弱点を見つけて修正する取り組みです。「政府が公開を停止させた」と断定できる状況とは区別して理解する必要があります。www.anthropic.com

クラウド型AIで行う防御の限界

サイバー攻撃側がAIで大量作業を進めるなら、守る側にも作業を速める仕組みが必要です。
安全を強化する方法はないのでしょうか？

実はAIを使って弱点の発見や調査を補助する方法があります。
セキュリティ上で見つかった問題を確認し、修正して運用に反映する人や体制も必要になってきます。

守る方も攻める方もAIを使う

ですが、これは厄介な問題もはらんでいます。
防御のための検査と攻撃に使う技術が同じAIを使っていることです。
自社のシステムを守るためにも、システムに侵入できる穴があるか、どこまで被害が広がるかをAIで調べる必要があります。検査する側には正当な目的があっても、作業の内容はハッキング攻撃に似ています。

AI会社の抜き打ちチェックが厄介

ClaudeやGPTなど、提供会社のサーバーで動く「クラウド型AI」は、悪用を防ぐ利用条件があります。
検査で正当な判定でも、AIへの危険な依頼と解釈されれば、処理を即時停止されます。
利用規約への違反と判断されると、アカウントの制限や停止につながることもあり、誤った制限への申し立て窓口も用意されています。www.anthropic.com

問題は、攻撃に利用されるほど高性能なAIを、防御側が同じように使おうとしても、提供会社の判断で検査を続けられなくなる場合があることです。 再開に確認や審査が必要になれば、その間は別の手段で対応しなければなりません。

この問題への対応として、2026年10月6日にはAnthropicが専門家向けの認証制度を拡充しました。防御作業や、許可を受けた侵入テストなど、用途に応じて利用できる能力を分けています。通常のモデルでも、自社のソースコードの確認や既知の問題の修正などに利用できます。www.anthropic.com

自主防衛を支えるオープンウェイトモデル

AI会社の利用制限に左右されず、自分で管理しながらAIを使う方法として
「オープンウェイトモデル」が注目されています。

オープンウェイトモデルは、AIが学習した結果を数値として保存した「重み」というデータが公開されているAIです。利用者はそのモデルを入手して、自分のパソコンや社内サーバーなどで動かせます。
「ローカルAI」は、AIを自分のパソコンやスマートフォンの中で動かす使い方を指します。つまり、オープンウェイトは「AIの中身を入手できるか」、ローカルAIは「どこでAIを動かすか」という違いです。

オープンウェイトモデルには、スマートフォンでも動かせる小型のものから、高性能なパソコンやサーバーを使う大型のものまであります。高い性能を持つモデルも選べますが、必要な機器や得意な作業はモデルごとに異なります。

自分でAIを持っておく理由と強み

自社でAIを動かす利点は、最新の大規模AIを使うたびにAI提供会社の抜き打ちの検閲が行われる可能性があり、
それを受けずに、防御の作業を進められることです。 AI提供会社によるアカウント停止やサービスの方針変更で、手元のAIが突然使えなくなるリスクが減らせます。モデルの利用条件を守り、設備や安全管理を自社で担う必要はありますが、防御を続ける判断を自分たちで持てます。

公開モデルは攻撃側にも利用されます。クラウド型AIの悪用防止が十分に機能せず、正当な防御まで制限される状況が続けば、守る側にも提供会社への依存を減らす理由が生まれます。

防御の道具（AI)を選ぶことと並行して、守る情報そのものを減らすことも大切です。
個人情報やクレジットカード情報、運転免許証の画像などを保存すると、その情報を守る管理が続きます。何のために集めるのか、いつまで保存するのかを決め、業務に必要な情報だけを持つことで、管理対象と漏洩時の被害を減らせます。www.ncsc.gov.uk

自社だけで管理する負担が大きい場合は、クラウドサービスなどへの委託も選択肢です。専門事業者の設備や管理体制を利用できますが、自社には適切な委託先を選び、個人データの取扱状況を確認する役割が残ります。安全対策や事故時の連絡方法、責任分担を契約で確認する必要があります。www.ppc.go.jp

委託先で漏洩が起きた場合も、一定の条件では委託元と委託先の双方に報告義務があります。損害賠償を受けられるかどうかも、契約内容や責任、実際の損害によって変わります。「預ければ必ず補償される」という前提で選ぶのは避けましょう。www.ppc.go.jp