マイクロソフト社はディープフェイク（※機械学習を使った画像合成技術、またはその技術を使った動画や画像）を特定し、不適切なコンテンツがインターネット上で拡散されるのを防ぐ、新しいツールを発表した。この「Microsoft Video Authenticator」は、写真と動画の両方を分析可能で、不正に加工されたコンテンツかどうかを調べることができる。

同社がこのツールをリリースした理由は、既存の画像や動画を不正に加工するディープフェイクの存在だ。人工知能と誤解されがちだが、これは機械学習の技術を使った合成コンテンツである。ディープフェイクはゼロから作られる場合とテンプレートから作られる場合があり、合成されたコンテンツは本物と見分けがつかないことがある。悪意のある攻撃者によって、本人が話していないことを話しているように見せかけたり、訪れていない場所へ訪れているように見せかけたりできてしまう。

Microsoft Video Authenticatorは、米国大統領選挙における選挙活動に役立つと期待されている。このツールは、写真や動画の解析を行い、コンテンツが意図的に加工されたかどうかを推定し、その確率や信頼性スコアを導き出す。

マイクロソフト社のブログでは、その仕組みを以下のように説明している。「動画の場合、各フレームにおける加工の確率などをリアルタイムで表示する。ディープフェイクによって合成された映像の境界や、人間の目では判別できない微妙な変化や濃淡の違いなどを検出する仕組みになっている。」

このツールは「Face Forensics++」（画像認識サービス）の公開データセットによって開発され、「Deepfake Detection Challenge Dataset」（ディープフェイク検出技術を競うコンテストのデータ）により、その検証が行われた。いずれのデータも、検出技術の開発や検証に最適なものだ。

マイクロソフト社は、ディープフェイクや、その関連技術について、こうも述べている。「あらゆる人工知能検出技術には誤検出があり得る。既存の検出技術で見過ごされたディープフェイクについて、より理解を深め、対応策を練る必要があるだろう。長期的には、ニュース記事や他のコンテンツの信憑性を保証する、より強力な手法を見つけ出さなければならない。」

同社によると、ユーザーが閲覧しているコンテンツが信頼できるもので、それが改ざんされていないことを検証する手段は、ほとんど提供されていないという。マイクロソフト社は不正に加工されたコンテンツを探し出すツールを開発・公開することで、ユーザーがコンテンツの信憑性を確認できるようにしたのだ。この技術は以下の二つの要素によって構成される。

一つ目はMicrosoft Azureに統合されており、コンテンツ作成者がハッシュ値や証明書を添付できることだ。インターネット上に公開される間は、ハッシュ値や証明書がメタデータの一部として残る仕組みとなっている。二つ目は、ユーザーが証明書とハッシュ値をチェックすることで、信憑性を確認できることだ。

また、マイクロソフト社は、ワシントン大学・センシティ社・USA Today紙と提携し、合成されたコンテンツやディープフェイクを見分けられるようになるためのクイズを、インターネット上に公開した。このクイズは米国大統領の選挙活動を意識したものだが、誰でも挑戦できる。