TnT-顔認識用ニューラルネットワークに対する新たな攻撃方法

ニューラルネットワークと深層学習の技術の進歩によって、顔認識や画像認識の精度は年々向上している一方で、ニューラルネットワークに敵対的な画像を認識させることで、顔認識システムに誤作動を起こさせる攻撃方法も生まれています。

先日、オーストラリアのアデレード大学の研究チームが、顔認識用ニューラルネットワークに対するUniversal NaTuralistic adversarial paTches(TnT)という新しい攻撃方法を発表しました。

以下の動画では、コロンビア大学の「PubFig」というデータセットでトレーニングされたニューラルネットワーク「VGG-16」にTnTを使った実験の様子が紹介されています。

まず、バラック・オバマ元大統領の画像を取り込むと、VGG-16はオバマ元大統領だと認識します。次に一般男性を取り込ませると一般男性だと認識します。しかし、その男性の前に花の画像を配置すると、その画像をオバマ元大統領だと認識しました。

これはニューラルネットワークの学習で使われるデータセットからVGG-16の認識に干渉するような画像を生成することで、ニューラルネットワークを騙すことに成功した事例のひとつであり、こ画像認識AIのアーキテクチャがもつ弱点をついた攻撃手法です。そのため、データセットやモデルを変更しても防御できないと紹介されています。

近年、政府や大企業が持つ膨大なオープンデータを活用する事例が増えていますが、本動画では、TnTがすでに広く導入されているニューラルネットワークに対しても攻撃できる可能性について言及されています。同研究チームは、このTnTに対する解決策としてデータを集約せずに分散した状態で機械学習を行う「連合学習」や、学習時にデータを直接暗号化するといった対策が重要になると伝えています。

 

最新情報をチェックしよう!
>デカルトサーチ-日本最大級のエンジニアのグローバルネットワーク-

デカルトサーチ-日本最大級のエンジニアのグローバルネットワーク-

デカルトサーチ合同会社は、日本最大級 のエンジニアのグローバルネットワークを持つ人材紹介会社として、14年間に渡り、世界中のハイクラスなエンジニアを日本企業様に紹介してきました。

デカルトサーチでは、計算工学の修士号を持つ経験豊富なリクルーターがエンジニア採用を包括的にサポートします。