身近な機器にもAI技術が搭載される時代に

AIは日本語訳だと「人工知能」となるが、文字通り「人間の知能を人工的に実現すること」であり、よりシンプルに説明すると「言語の理解や推論、認識といった、人間並みの知的な処理をコンピューターで実現すること」である。すなわち、AIとは非常に広い概念を表す言葉である。AIの一分野として、機械学習と呼ばれる技術がある。機械学習とは、人間の脳のような学習機能をコンピューターに持たせる技術で、データを元に推論を繰り返し、そこから規則性やパターンを見つけ出していくものだ。

最近、注目が集まっているディープラーニング（深層学習）は、機械学習のさらに一分野であり、多くのデータを元に、どこに注目すべきかを自分で見つけ出し、学習していくことが特徴だ。「ディープラーニング＝AI」というような捉え方をしている方も多いが、ディープラーニングはあくまでAIの一分野であり、ディープラーニング以外のAIテクノロジーも多くの場面で使われている。

図1: AI、機械学習、ディープラーニングの関係

AIのテクノロジーは、スマホやスマートスピーカーなど、ユーザーの身近な機器にも搭載されはじめている。例えば、最近のスマホのカメラ機能では、AIでシーンを自動的に判別し、そのシーンに適切な設定で撮影し、適切な画像処理を行うものが当たり前になりつつある。また、カメラをかざすだけでそこに写った被写体の名前などの情報がわかる「Google Lens」も、AIを活用した代表例といえる。今後は、こうしたAIのテクノロジーを採用した機能やサービスが増えてくることが確実視されている。

クラウドを活用するAIサービスにはセキュリティ上の問題も

AIを活用した機能やサービスは、AI処理を行う場所によって、次の二つに大別される。

• ユーザー側のスマホやパソコンですべての処理を行うタイプ
• ユーザー側では軽い処理のみ、分析や推論など負荷の高い処理をクラウド側で行うタイプ

スマホのカメラでシーンを自動判別する機能は前者であり、Google Lensや音声書き起こしサービス、翻訳サービスなどは後者になる。セキュリティの観点から考えると、クラウドにデータを送信して処理を行う後者のタイプのほうが、相互通信が必要なこともあってセキュリティリスクは高い。ユーザーが使っている端末に潜伏したマルウェアがクラウドへ送信するデータを盗聴し、ユーザーの意図しないところへ送信する可能性や、クラウド自体がサイバー攻撃の被害を受けてしまうケースも考えられる。

攻撃側もAIを悪用してさらに巧妙に

AIテクノロジーは、非常に強力な道具であり、使い方次第で善にも悪にもなりうる。すでに、サイバー攻撃の高度化・巧妙化に、AIテクノロジーが大きく関与しているということが明らかになっている。AIを悪用することで、新たなサイバー攻撃の手法が生み出されているのだ。例えば、AIファジングや機械学習ポイズニングといった攻撃手法が挙げられる。

AIファジング

ファジングとは、ソフトウェアの脆弱性を発見するためのテスト手法であり、予測不可能なデータをわざと与え、ソフトウェアの挙動を確認するというものだ。ファジングには高度な技術を持った専門家が必要だが、専門家の代わりにAIがファジングを行うのが、AIファジングである。AIファジングによって、ネットワークやソフトウェアに潜在している未知の脆弱性を見つけやすくなるため、ゼロデイ攻撃の危険性が高まる。

機械学習ポイズニング

最近は機械学習によって、正常なファイルかマルウェアかを識別する機能を備えたセキュリティ製品が増えている。ポイズニングとは毒殺を意味する。そこから転じて機械学習ポイズニングとは、その機械学習の判断を狂わせ、特定の攻撃を見逃すように仕向ける攻撃手法のことだ。

このように、AIのテクノロジーが身近になったことは、世の中をより便利にする反面、犯罪者にとっても利用しやすくなったということに注意しておく必要がある。高度なAI処理を行うためのサーバーを廉価で利用できる環境も整備されており、SNSなどの情報を元に、メールスプーフィングや詐欺行為などに悪用されることも想定される。

AIを悪用した攻撃にAIで対抗する

こうしたAIを悪用したサイバー攻撃には、防御側にもAIの導入が対抗策となり、これまでは難しかった未知のマルウェアへの対処も可能になる。AIによる防御の基本的な考え方は以下の通りだ。

1．システムの平常状態を自己学習する

パソコンやサーバーなどのシステム全体の動作状態を収集し、AIで分析・学習を行い、システムの平常状態を把握する。要するに、どのような状態が正常かを把握することで異常が生じたことを検知しやすくなる。このような「教師データ」を増やすことが判定率を向上させる。ただし、誤検知をなくすことは現状困難とされており、誤検知が一定の割合で発生することを前提に考えておく必要がある。

2．平常状態との比較によりリアルタイムに異常を検知

現在のシステムの状態を監視し、教師データをリアルタイムに比較しながら、平常状態から大きく外れると異常として判定する。検知後はアラートを上げるだけでなく、防御も行われる。しかし、完全に侵入を防御できるとは限らない。その場合、侵入箇所の特定と被害対象範囲を探し出す。

3．被害範囲を特定し、隔離して事業継続

被害を受けた範囲を自動的に特定し、その範囲を隔離することで、被害を最小限に防ぐ。被害を免れた箇所では正常事業を継続できるため、事業継続における中断リスクを低減できる。

このように防御側にAIを導入することで、既存の方法では対処が難しかったゼロデイ攻撃をはじめ、未知のマルウェアに的確に対処できるようになる。しかし忘れてはならないのは、防御側は常に後手に回るということだ。攻撃側は一箇所を突破すれば成功するのに対し、防御側はすべてを守らねばならない。攻撃手法が多様化、巧妙化する中で、いつかは突破されるということを前提とした対策はAI導入の有無を問わず前提となってくる。

AI時代のセキュリティ対策とは

例えば、業務利用が増加しているRPAツールなどにも、文字認識や画像認識などAI関連のテクノロジーが組み込まれつつある。日常生活や業務を問わず、AIの恩恵にあずかることが当たり前の世の中はもはや目前に迫っている。しかし、AI時代だからといって、セキュリティ対策の基本原則は大きく変化することはないだろう。

• OSやアプリケーションを最新のものにアップデート
• スマホやパソコンなどで不要な機能はオフにする
• 怪しい添付ファイルやリンクは開かない
• メールや添付ファイルが怪しいかどうかを見極めるためにも日々の情報収集を怠らない
• 適切に認証を設け、システムやソフトを管理
• 定評のあるセキュリティツールを導入

上記のようなセキュリティ対策の基本を常に意識することが第一歩となる。そして、ここまで紹介したように、テクノロジーの悪用に対抗するにはテクノロジーを用いるほかないが、万能ではないことも念頭に置いておきたい。常に侵入される可能性を踏まえ、早期復旧が可能な体制づくりなど包括的な取り組みを視野に入れること。テクノロジーの活用が業務遂行と切り離せなくなった現代においては、幾重もの対策を講じておくことが肝要だ。