生成AI時代におけるサイバーセキュリティの脅威と防御の展望

グローバルセキュリティエキスパート株式会社
教育事業本部
西野 哲生

　近年、ChatGPTやGemini、Claude等に代表される生成AI・エージェントの急速な普及は、企業の業務効率化やアイデアの創出に大きな変革をもたらしています。一方で、この技術革新はサイバーセキュリティの領域にも新たなリスクを持ち込み、「攻撃の高度化」が加速し、同時に「防御の再定義」が求められる状況となっています。

　まず脅威の側面として顕著なのは、AIを悪用した攻撃の高度化です。従来のフィッシングメールは文法や表現の不自然さが検知や違和感を感じる手がかりとなっていましたが、生成AIはその高い自然言語生成能力により極めて精巧且つ巧妙な詐欺文面を大量に作成できています。さらにディープフェイク技術を組み合わせることで、経営者や上司を装った音声・映像による詐欺も現実のものとなっています。実際にAIを悪用したなりすましによる送金詐欺なども報告されており、ソーシャルエンジニアリングの脅威は新たな段階に入っていると言えます。

　また、生成AIは攻撃の「民主化」を招いている点も重要な点です。従来は高度な技術を必要としたマルウェア開発や不正アクセスツールの作成が、AIの支援によって低スキルの攻撃者でも実行可能となり、攻撃の裾野が拡大しています。これにより攻撃の量と速度、レベルが飛躍的に増加し、防御側の負担は大きくなっています。ここにClaude Mythosにより人間の能力を遥かに超えた能力で未知の脆弱性の発見も現実のものとなっており、もしこの技術が悪用された場合、私達にとっては非常に厳しい状況になるものと想像されます。

　その上、生成AIは攻撃者だけでなく、利用する私達の使い方によっても脅威となります。例えば機密情報を生成AIに入力したり、会社の許可されていないAIを使用するシャドーAI、生成された結果をそのまま使用した際のハルシネーションや著作権上の問題等も発生しています。AIエージェントについても同様で、その自律性が故にガードレールを適切に設定できていなかった際に、AIエージェントに社内の重要データを削除される事案も発生しています。

　今後さらに見逃せないのが「AIそのものへの攻撃」です。プロンプトインジェクションやデータポイズニングといった新種の攻撃は、AIシステムの判断を歪め、機密情報の漏えいを引き起こす可能性があります。 これにより、AIを導入すること自体が新たな攻撃対象の拡大につながるという構図が生まれています。こうした状況を背景に、IPAの「情報セキュリティ10大脅威2026」においても「AIの利用をめぐるサイバーリスク」が上位に初選出されており、AIがセキュリティの主要課題として認識され始めてきています。これは技術面や利用する私達の課題でもあり、経営上・事業継続の観点でもサイバーセキュリティへの意識が更に強く求められる事となっています。

　一方、防御の側面でもAIは重要な役割を担います。AIは大量のログ分析や異常検知において人間を遥かに上回る処理能力を持ち、脅威検出の高度化やインシデント対応の自動化に貢献しています。また、攻撃行動のパターン分析や予兆検知により、従来のシグネチャベース防御を超えたプロアクティブなセキュリティが実現しつつあります。

　このように、今後は「AI対AI」の競争になりつつあります。攻撃者と防御者の双方がAIを活用することで、サイバー空間はよりダイナミックかつリアルタイムな攻防の場へと進化していくものと想像されます。その中で企業に求められるのは、単なる技術導入ではなく、AI利用に関するガバナンス、データ管理、人的教育を含めた総合的なセキュリティ戦略です。

　生成AIは万能の解決策ではなく、同時に新たなリスクの源でもあります。その二面性を正しく理解し、「活用しながら守る」という視点を持つことこそが、これからのサイバーセキュリティにおける最重要課題です。

　尚、本コラムも生成AIを活用して執筆しており、AIと人間の力を合わせてより効率的に高みを目指す事には私もフルコミットしていきたいと思います。