AIに対しては、映画に出てくるロボットのように人と同じように考え会話ができる、こうしたイメージを持つ方が今でも多いかと思います。私もSFの類は好きなのですが、残念ながら現実はかなり異なっています。

■機械学習と深層学習

AIの基本技術は「機械学習」と呼ばれるもので、インターネットに存在する膨大な情報をかき集め、その中から正解に近いと思われるものを抽出して、統計的に提示しています。ただし、これだけでは精度が足りないため、それを補うために考え出された手法が「深層学習（ディープラーニング）」です。例えば、数学の問題には答えにたどり着くための複数の方法があるように、一つの結論に到達するまでのさまざまなパターンを学習することで、より適切な回答を作り出しています。

図表1は、ディープラーニングの仕組みを簡単に表したものです。左側は、実は私が飼っている犬の写真ですが、人間にとって犬は見慣れた存在なので、こうした写真を見たり、実際に近所を歩く姿を見たりすればすぐに犬だと分かります。しかし、AIは人間と同じように「これは犬だ」と瞬間的に判断しているわけではありません。

AIはこの写真からピクセルごとの情報を受け取り、すでに与えられている犬の特徴と照合します。その結果として、犬である可能性が98%、猫である可能性が2%だと算出したら、おそらくこれは犬だろうという回答を出すのです。これがAIの仕組みで、この特徴のパターンを増やすことで回答の精度を上げるのがディープラーニングです。

このように、AIというと何かすごいものを想像しがちですが、実際には単純にネットに転がっている情報から質問に合わせた答えをうまく作り出しているに過ぎません。つまり、現状では人間のように考える本物の知能がコンピューターの中に作り出されているというような世界ではないということです。

ただし、最近のAIは先程の図ほど単純ではなく、人間の脳にあるニューロン（脳を構成する神経細胞）をモデルとしたネットワークで構成されています。これが本物の脳細胞に近いレベルで模倣できれば精度はどんどん上がっていくので、AIの性能は今後も加速度的に向上していくでしょう。

AIの進化がこのまま続いていけば、株価や社会情勢の予測なども可能になるかもしれませんし、新しい医薬品やガンの早期発見といった有用な知見が得られることも期待できます。サイバーセキュリティも、そうしたAIの応用分野として、当然俎上に上がっています。

■AIによるセキュリティ強化

AIを活用したセキュリティ対策は10年程前から始まっていて、主に攻撃の検知に利用されています。それまでの手法は、過去に起きた異常な動きや振る舞いを基に、それに近い事象を発見するというものでしたが、このやり方では対処できない未知の攻撃が急激に増加しています。最近のランサムウェアがその例で、一見シンプルながら非常に巧妙で、既知の情報だけでは対処が困難になっています。ここにAIの力を借りることで、攻撃や情報漏洩を検知する精度を高めようとしています。

■AIを悪用した攻撃の可能性

一方で、AIも使い方によっては悪い方に転ぶこともあり得ます。私の元には毎日のように詐欺メールが届くのですが、図表2の左側は2022年、右側が2023年のものです。左は明らかにおかしな日本語で、すぐに偽メールと分かりますが、右側はどうでしょうか。ディズニーが好きな人なら、つい登録ボタンを押したくなるような、人間の嗜好をかなりうまく捉えた内容になっています。

AIがさらに進化すれば、より巧妙な文章が自動生成できるようになり、偽物であると判断するのが困難になってくると考えられます。このように、AIが進化すると共に攻撃も進化し、非常な脅威になることが予想されます。

■オフェンシブセキュリティとは

セキュリティの世界というのは、長らくディフェンス、つまり「守る」ことを主体に考えられてきていて、そこで蓄積された多くの知見や技術がいろいろな製品やサービスにも適用されています。一方で、最近猛威を振るっているランサムウェアなどは、技術的には特に優れたものではありません。それにも関わらず、実にあっけなく被害に遭ってしまうのはなぜなのか、その理由をよく考えてみる必要があります。

先に紹介した偽メールがその例ですが、実は攻撃者も相手の状況に合わせてアプローチを巧妙に変えてきているのです。非常に知的かつ戦略的に、しかも短時間で攻撃してくるため、いくら守っていても一つ上を行かれて簡単にセキュリティが破られてしまいます。これに対抗するには、単純に守るだけではなく、こちらも攻撃者の心理を予測する必要があります。これが「オフェンシブセキュリティ」で、攻撃者の目線で防御を考えていく手法です。

この分野では、諸外国と比べて日本はやや立ち遅れている状況です。ここには日本の文化的事情が影響していて、特にわれわれアカデミアの世界では「攻撃」という研究はタブーとする傾向がありました。実際、セキュリティ教育では、そこで学んだことを悪用すれば自身が犯罪者になることも可能なので、倫理的側面から攻撃そのものの研究は難しい状況だったのです。

しかし世界を見渡せば、悲惨な戦争やテロなどが繰り返される中で、今や攻撃に対する研究が必須という状況になっています。自身が攻撃者になるかもしれないといった議論ではなく、攻撃者の視点を把握した上で防御を考えていかなければならない時代に来ているのです。

■脆弱性の存在を前提とした対策

攻撃者の目線で最近のセキュリティ事案を見てみると、その大きなターゲットとなっているのが、組織内部の脆弱性です。残念ながら、これらは高価なセキュリティソリューションを導入していれば安心という類のものではありません。程度の差はあれ、どんな組織にも脆弱性や人為的なミスは存在しうるため、それを前提とした対策を事前に準備しておく必要があります。こうした観点から現在注目されているのがSBOM（Software Bill Of Materials）で、「ソフトウェアの部品表」と呼ばれているものです。

SBOMは、そのシステムがどのように構成されているかを記録したもので、特にオープンソースソフトウェア（OSS）のライセンスやバージョン、依存関係、ライフサイクルなどの管理に利用されます。ソフトウェアコンポーネントのリストのほか、開発過程で生成された個々の要素がその特性に合わせた記述で定義され、関係性が示されています。

OSSは、その多くが営利目的ではなく、ソフトウェアの発展とそれに対する貢献を目的としたプロジェクトから生み出された成果物です。非常に有用なものがそろっていて、実際にわれわれが日常的に利用するシステムの中にも多数のOSSが当たり前のように組み込まれています。

個々のOSSは小規模なものが多いのですが、開発には多数の技術者が関わっています。さらに無数のOSSが集まり、互いに通信やメッセージのやり取りを行うサプライチェーンが成立しています。これが大規模化、複雑化した結果、現在ではシステムの中身が簡単には把握できない状態になっていることが少なくありません。それらの中に脆弱性が発見された時に何が起こるのかは、もはや推定することすら難しいのです。

こうした場合にSBOMがあれば、その記録をたどることでシステムにどんなモジュールが含まれているのか、どこに脆弱性があるのかを発見することが容易になり、迅速な対策が可能になります。

経済産業省は、2023年7月にSBOMのメリットや導入のガイドラインをまとめた「ソフトウェア管理に向けたSBOMの導入に関する手引」を公表しています。ただ、一般的な組織にとっては技術的に難解な部分も多かったため、より効率的に活用できるように2024年の4～5月にかけてパブリックコメントを募集し、同年8月29日に新バージョンであるVer2.0が策定されました。組織がSBOMを活用するためのロールモデルが記載されていますので、大変参考になると思います。

図表3は、この手引きに含まれるチェックリストのサンプルで、どんなツールを使っているか、どんなログを記録しているのかなどが項目として記載されています。こうしたリストで注意すべき点は、あまりに項目が多く細かすぎると段々と嫌気が差してチェックがずさんになり、形骸化してしまう恐れがあることです。このレベルのシンプルなものなら、大きな負荷もなく続けていけると思いますので、もし自社で作成する場合もなるべく簡潔に、現場を疲弊させないようなものを作ることをお勧めします。

■SBOMを活用することの意味

最近、セキュリティの世界では「デューデリジェンス(Due Diligence)」という言葉をよく耳にします。元々は「当然行うべき努力・注意義務」を指す法律用語ですが、セキュリティ分野では組織が適切な対策を実施しているかどうかの評価を表す言葉として使われています。

今やセキュリティは、単に自らを防御するためのサービスやツールといった技術の領域ではなく、組織の価値を示すものとなっています。つまり、セキュリティ管理の徹底をしっかりと見える化し、内外に広く提示していくことが組織の評価に直結するのです。SBOMは、それを実行するための非常に有効なツールの一つと言えるでしょう。

また、ソフトウェアのサプライチェーンにおけるセキュリティは、もはや一国だけではなく、国際的レベルで考えていくべき課題となっています。すでに米国では、連邦政府にシステムを納入する組織に対してSBOMの公開を義務付ける大統領令が発行されていて、この流れは他の組織にも波及しています。国内では法的規制はないものの、今後はソフトウェアの調達や導入に関してSBOMの提出を求める組織が増加していくことは確実でしょう。

冒頭に示したAIの話に戻りましょう。1960年代に道徳的ジレンマの考察で有名になった「トロッコ問題」は、AIの登場によって再び脚光を浴びています。

AIが制御する完全自動運転車の目前に、道路の真ん中でサッカーをしている5人と、きちんと歩道を歩く1人の女性がいたとします。この場合、5人は明らかに不適切な行動を取っていますが、仮に何らかの故障でブレーキが効かなくなったとしたら、クルマを制御するAIはどのような行動を取るでしょうか。

答えは、何と歩道を歩く女性側にハンドルを切るのです。当然、ルールを守っていた女性は追突され、怪我あるいは死に至るかもしれません。なぜAIがこうした判断をするかと言えば、先述の通り物事を人間のようには考えず、統計的にどちらが大きなリスクであるかをシンプルに評価するためです。一方は5人の命、もう一方は1人の命というのが、残念ながら現状のAIが出す答えです。AIに頼りきりになることには、このような怖さがあるのです。

米国などでは自動運転タクシーが実用段階に入っていますが、まだ日本ではこうしたサービスは実現していません。AI技術は急速に進歩しているものの、現状では先に挙げたような状況での正しい判断はやはり難しいわけです。また、EU諸国では、AIの開発や運用に関わる規制法が発効され、違反に対する厳しい罰則も定められています。セキュリティに関する問題を人のような心を持たないAIに何もかも任せるのは時期尚早で、それに振り回されることは避けなければなりません。

セキュリティは単に技術の話ではなく、人や組織がそれをどう考え、どのように実行するかが全てであるといっても過言ではありません。セキュリティ対策は計算機だけでは判断が付かないことがほとんどで、AIに振り回されるべき領域ではないのです。

こう考えると、何か起こった時に相談できる人が周りにいるかどうかが大事で、そうした頼りになる人を増やしていく努力も大切になります。これは組織のセキュリティレベルを向上させていく上で大きな価値を持つと思いますので、ぜひ覚えておいてください。