AIブームとセキュリティ技術
ここ数年のIT分野における大きなトピックの一つは、AI（Artificial Intelligence：人工知能）です。“人間の代替となるような知的な作業を行うシステム”という意味でのAIは新しい技術ではありませんが、大量のデータを使って、自動的に学習を行う「機械学習」と呼ぶ手法が一般化してから、応用分野が一気に拡がったことは周知のとおりです。
代表的な適用例としては、将棋や囲碁のソフト、音声・画像認識、機械翻訳、需要予測などが直ぐに思い浮かぶでしょう。これらの分野に限らず、人間が積み重ねてきた経験値に加え、AIの手法を取り入れて人間が思いつかなかったような法則を見つけ出し、その世界を大きく進展させることが期待されています。AIの活用で革新的な進歩が予期できる領域は多く、セキュリティ技術も例外ではありません。
セキュリティ分野におけるAIの実像は？
セキュリティの分野を俯瞰すると、ほぼすべての企業が何らかの形でAIの手法を取り入れているか、開発を進めていると言っても過言ではありません。ただし、AIの定義は時代によって、そして専門家の考え方によって変わるように、セキュリティ企業のAIに対する定義と取り組み方はマチマチです。
AIブームが続く昨今は、セキュリティ技術としては一般的と思える手法にも“AI”を冠するケースも無きにしもあらずですから、セールストークを鵜呑みにしない冷静な視点が必要です。ここではまず、セキュリティ技術の発展史から見て、AIの活用例として扱われることが多い分野を挙げてみます。
スパム対策に学習機能を注入
AIのセキュリティ技術への適用例には、まずスパム対策があります。この分野では、「ベイジアンフィルター」と呼ぶ手法が以前から使われてきました。メールの文言に着目するもので、スパムの要素が強い言葉をスコア化しておき、スコアをもとにスパムか正規のメールかを識別する方式です。
誤判定した場合は、人間が正しい結果を与えて再設定します。システムが学習を繰り返して精度を上げていく点が特徴で、セキュリティ分野における典型的なAIの活用例と言えます。
アンチマルウェアを補完
スパム対策と並ぶAIの適用例に、マルウェアの検知が挙げられます。マルウェア対策として、既知のマルウェアのパターンを調べ、それに合致するファイルを除去する「シグネチャ方式」や、攻撃プログラム特有の動作を精査し、似た動きをするものを検知する「振る舞い検知」が以前から使われてきましたが、未知のマルウェアに対してはどちらも十分とは言えません。
新種や亜種が次々に現れる状況では、シグネチャ方式の検知率は下がっており、調査機関やセキュリティ会社が出す報告では、2割～4割程度とする見方が多いようです。振る舞い検知に対しても、攻撃側はこれをすり抜けるための策を講じますので、検知率の維持には限界があるのです。
AIと機械学習は、シグネチャ方式など既存の手法の弱点をカバーする技術として導入が進んでいます。
機械学習によるマルウェア検知の仕組み
AIによるマルウェア検知の基本的な考え方は、これまでに検知された膨大な数のマルウェア、そして正常なファイルの特徴をシステムに学習させ、既知のマルウェアと未知の攻撃の両方の検知に役立てるというものです。
機械学習を使うシステムでは、シグネチャ方式に必要なパターン生成のプロセスを自動化できるため、より早期の対応が可能になります。振る舞い検知においても、新しい攻撃の特徴を検知する工程の多くを自動化することで早期対応が実現でき、収集した膨大なサンプルを対象に学習を重ねることで、判別の精度をより高めることができます。
「脅威インテリジェンス」にもAI
当社が提供するサービスでは、「脅威インテリジェンスサービス」の「CYREN（サイレン）」においても、スパムメールやマルウェアの検知などで、AIの手法が採り入れられています。
脅威インテリジェンスは、世界中から脅威に関する情報を収集し、リアルタイムの情報配信や、さまざまなシステムのバックエンドで稼働する、“セキュリティ対策のためのエンジン”として、アンチスパム、アンチマルウェア、URLフィルタリングなどの機能を提供するソリューションです。
CYRENは、世界190か国で6億人以上のユーザーの通信を保護。1日に250億件のリアルタイムトランザクションを分析しており、アンチスパム、アンチマルウェアなどのエンジンの精度をより向上するため、クラウド分析とAIの技術を導入しており、当社メールセキュリティ製品のSPAMSNIPERとSPAMSNIPER AGも、CYRENのエンジンを採用しています。
侵入検知、ファイルの毀損検知にも効力を発揮
機械学習を用いたマルウェア対策は、未知のマルウェアに対する検知率の向上に役立ちますが、100％にすることはできません。安全対策では、入口で脅威を検知してブロックすることに加え、万一侵入されたときの早期発見と対応を行うフェーズも重要ですが、ここにもAIが活用されるようになってきました。
具体的には、企業ネットワークの平時の状態を学習し、パターンを記憶しておきます。蓄積したシステムの状態と合致しない種類のプロトコルを使う通信やファイルの変更が発生した場合、例外的なパターンとして行動を追うことができます。
アクセス権がないサーバーへの接続を何度も試みたり、未知のパターンを持つファイルを隣接するマシンに転送したり、端末に記録されたデータを外部に送信する、といった動きがあれば、攻撃の要素は強いと判断できるでしょう。
ランサムウェア対策にもAIは有効
ランサムウェア対策にも、新しい手法が用いられるようになってきました。従来からのパターンマッチングや振る舞い検知だけでは、未知の攻撃に対する対応に限界があるため、平時のシステムの状態を学習しておき、変更が加えられたらリアルタイムで分析・対処する方法です。
これを「状況認識技術」と呼んでいますが、ランサムウェアの特徴から判断するのではなく、破損されるファイルの変化をリアルタイムで検知するため、パターンファイルを用いずに、未知のランサムウェアにも対処できるようになります。
当社製品では、「AppCheck」が状況認識技術を採り入れています。ランサムウェアも進化し、ファイルの暗号化だけでなく、PCを起動不能にしたり、ファイルを削除すると脅したりする攻撃も出現していますが、AppCheckは状況認識、ファイル監視の視点で動作するため、ランサムウェアに限らずファイルを変更するマルウェアへの対応ができるのです。
AIセキュリティの限界は？
AIの手法をセキュリティに活用することで、より高度な安全対策が実現しています。しかし、言うまでもなくAIも発展途上の技術で、決して万能ではありません。
課題の一つとして、環境変化に弱い点が挙げられます。機械学習の基本的な仕組みは、大量のデータを学習し、規則性を見出すことですから、スピードと精度は人間以上としても、未経験の事象に対しては、新たに学習を重ねる必要があるのです。
つまり、攻撃側がまったく新しい手法を編み出してしまうと、AIでも対策には一定の時間を要します。専門家が攻撃を分析する手法に比べ、迅速な対処ができるとしても、この時間差は完全に解消できるわけではありません。
AIは論理的ではない？
大量のデータを与えて、システムが自動的に学習する機械学習は、“なぜ、この答えを導いたか”という問いに対し、人間のような論理的な説明ができないこともあります。
前述したスパム検知で使う「ベイジアンフィルター」のような仕組みは、人間が与えたルールから解を導くため、ロジックは把握しやすいのですが、膨大な数のファイルの特徴を自動学習するアンチマルウェアのようなシステムの場合、マルウェアと判断した根拠は人間が納得できる形で明示できるとは限りません。
システムに対する“信頼度”という尺度において、すべての人を納得させることは難しいと言えそうです。
攻撃者もAIで武装する
シグネチャ方式も振る舞い検知も、整備が進むと同時に攻撃者はこれをすり抜けようとします。これから先は、AI対応システムについて学習し、網にかからないためのプログラミングを考えてくるはずです。
機械学習を使って、ウイルス対策ソフトをすり抜けるパターンを生成することは、“初歩的な対策”として、誰もが考えつきそうです。Webサイトとそこに使われているセキュリティシステムの特徴を学習しながら、自動的に攻撃を仕掛けるようなツールを編み出してくるかもしれません。
攻撃と防御の“いたちごっこ”は、AIセキュリティが浸透しても、完全には解消できないでしょう。
それでも期待値は高いAIセキュリティ
人工知能には数十年の歴史がありますが、今のブームの源泉となっている機械学習を“新しい人工知能”“狭義のAI”とすれば、本格的にセキュリティなどの分野に取り入れられるようになったのは、2010年代に入ってからです。“AIセキュリティ”の分野は発展途上。本格展開はこれからです。
既存技術とAI、そして人間の知恵を組み合わせる
今後は、安全なIT社会の構築に向け、既存技術とAI、そして人間のノウハウを組み合わせて、脅威に対抗する環境を形成していくことになるでしょう。最後に、既存技術、AI、人間の役割を整理してみます。
シグネチャ方式、振る舞い検知、侵入検知などの手法は、日々先鋭化する未知の攻撃については以前ほどの効果はありませんが、実際の攻撃のほとんどが既知の攻撃手法であることから、情報セキュリティ対策として一定の効果があることは事実です。ですから、現在も企業の安全対策における“基礎体力”の一つとして機能しているわけです。
既存技術を補完する手段として、AIはすでに成果を上げています。前半でも触れましたが、シグネチャ方式に用いるパターンファイル、振る舞い検知のルールなど、専門家が都度分析して対応していた部分をアルゴリズムに任せることで、より早期の対応ができるようになってきました。
人間の作業をサポートする側面では、まず防御技術の精度向上が挙げられます。大量のデータを高速に学習するAIならでは特性を生かすことで、さまざまな攻撃を検知する精度は上がりました。AIを過信することはできませんが、膨大な情報をベースにした照合・分析など、人間には難しい領域も開拓しつつあります。
もう一つの期待は、人材不足対策への貢献です。今後のIT社会の発展において課題とされるエンジニア、セキュリティ技術者の不足に対しても、現状は専門家に依存している処理の一部をAIで自動化することで、人材不足対策に大きく寄与できるはずです。
繰り返しになりますが、AIも発展途上の技術ですから、AIだけで万全の情報セキュリティ対策が整うわけではありません。AIの課題の一つは環境変化に弱い点ですが、まったく新しい攻撃手法に対して兆候を見つけることができたとしても、その脅威に対する対抗策を考えていくのは当面は人間の知恵しかないでしょう。
二つ目は、状況判断と行動です。万一、何からのセキュリティインシデントが発生した際、その影響の大きさや及ぶ範囲をいち早く特定し、関係部署とも連携して被害を最小限にくい止めるための最善策を講じる必要があります。このような局面において人間には、既存技術、そしてAIのサポートを土台に、より高度な判断と迅速な行動を起こすことが求められるようになっていくと思われます。
三つめは、人的ミスの低減です。例えば、メール送信時にその宛先が意図したものかどうかの判断はAIにはできません。さらに、添付したファイルがその宛先の人へのものかどうかも判断できません。ですから、AIが判断をサポートしてくれたとしても、最終的に人間が判断しなければならないことは残り続けます。
AIを上手に活用しながら、人の手間を省くと共にセキュリティを高めていきたいものです。