事故が起きても走り続けるために―― 「交通安全」をもとに考えるAI時代のサイバーレジリエンス

グローバルセキュリティエキスパート株式会社
教育事業本部　事業企画部

　どれほど防御を固めても、インシデントをゼロにはできない　――　日々、サイバーセキュリティに向き合う方ほど、「侵入を防ぐこと」に軸足を置いたアプローチに限界を感じられているのではないでしょうか。

　もちろん、侵入を防ぐ対策は今後も不可欠です。しかし、クラウドやサプライチェーンなどを通じて多くの組織がつながり、生成AIやAIエージェントの活用も広がる今日、自組織の「戸締まり」だけに頼るセキュリティには限界があります。守るべき情報や機能が自社の管理下だけに収まらなくなった結果、「内側は安全」という前提を置かないゼロトラストが、重要な考え方として広く浸透するようになりました。

　本コラムでは、境界防御だけでは防ぎきれない現代のリスクを「交通安全」になぞらえ、予防と被害抑制の両面から、AI時代に求められる備え方を考えます。

　まず、交通社会では、一人ひとりがルールを守って安全運転を心がけることが基本です。しかし、どれほど正しく運転していても、信号無視や不注意の車に巻き込まれる事故を完全には防げません。

　現代のビジネス環境も同様です。どれほど自社の対策が堅牢であっても、取引先や外部サービスが侵害されれば、その影響は自社へ及びます。また、サイバー攻撃では、こうした被害は単なる巻き込まれ事故に留まりません。防御の固い本命企業への入口として、あえて取引先が狙われることもあります。「もらい事故」に見えて、実は自社が本命だったという構図です。だからといって、外部とのつながりを断つのは現実的ではありません。必要なのは、つながることをやめるのではなく、こうした事態を想定して影響を最小限に抑える備えと、つながる相手の安全性を確かめる仕組みを持つことです。

　また、交通安全はドライバーの注意力やマナーだけに支えられているわけではありません。道路交通法というルールが定められているうえ、道路には信号やガードレールがあり、車にはシートベルトやエアバッグが備わっています。個人の注意に委ねるだけでなく、「事故を防ぐ仕組み」と「被害を抑える仕組み」を重ねることで安全性を高めています。また、免許制度や定期的な講習を通じて、人を鍛えることも、社会的な仕組みとして設計されています。

　サイバーセキュリティも同様です。「一人ひとりが気をつける」ことは大切ですが、個人の心がけだけに頼るには限界があります。特に、生成AIやAIエージェントを利用する場面では、利用者がルールを守っていても、AIのハルシネーションや想定外の挙動によるトラブルが起こり得ます。AIが扱える情報や権限の制限、挙動の監視、ルールの明文化、研修などを組み合わせ、「仕組み」で安全性を高める設計が不可欠です。

　このように、サイバーセキュリティと交通安全は、個人の注意だけに頼らず、予防と被害抑制の仕組みを重ねる点で共通しています。

　ただし、両者には違いもあります。それは、対策を講じるほど相手が手口を変えてくる、終わりのない攻防が続くということです。

　交通事故の多くは過失ですが、サイバー空間には組織の隙を探し、防御を突破しようとする攻撃者が無数に存在します。さらに、AIの普及は、この構図をより複雑にします。攻撃側がAIを使うことで攻撃は高速化・高度化し、自社が導入したAI自体も標的になります。私たちは「意図的な悪意」と、AIの誤作動のような「悪意のない事故」にも同時に備えなければなりません。

　こうした複雑なリスクに向き合ううえで肝要になるのが、交通安全における「危険予測」に通ずる考え方です。「何が起きるか」だけでなく、「起きたときにどこまで被害が及ぶか」を見極め、「取引先が侵害されたらどの機能が止まるか」「AIエージェントが暴走したら何から対応するか」「誰がどの対応を担当するのか」　――万一の事態を想定してあらかじめ分析し、準備しておくことが、サイバー領域においても重要です。

　すべてのリスクを0にすることは不可能です。だからこそ、異常を早期に検知して対処し、被害の拡大を抑える。事業を継続するか、戦略的に停止するのかを迅速に判断し、早期復旧につなげる。そして、得られた教訓を次の備えへ活かし、平時の訓練を通じて「判断できる状態」を保っておく。これこそ、事故の発生を前提に備える「サイバーレジリエンス」の実践です。

　「侵入や事故を防ぐ」防御の強さだけでなく、「事故が起きても重要な機能を保ち、早く立て直せる」しなやかさを備えること。変化や混乱に対応して、必要に応じて停止し、回復しながら前に進む力を高めていく。生成AIやAIエージェントの活用が広がり、想定すべきリスクの種類も速度も増している現代において、サイバーレジリエンスの重要性はより一層増していくのではないでしょうか。