Adversarial Examples攻撃

特徴

• Adversarial Examples攻撃とは、AIによる画像認識において，認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによってAIアルゴリズムの特性を悪用し，判定結果を誤らせる攻撃のこと

過去問

情報処理安全確保支援士試験 令和3年度 秋期 午前2 問1

【出典：情報処理安全確保支援士試験 令和3年度 秋期 午前2 問1（一部、加工あり）】

AIによる画像認識において，認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによってAIアルゴリズムの特性を悪用し，判定結果を誤らせる攻撃はどれか。

1. Adaptively Chosen Message攻撃
   →Adaptively Chosen Message攻撃（適応的選択文書攻撃）とは、ディジタル署名に関する攻撃手法の一つで、署名の偽造者（攻撃者）があらかじめ選択した文書に対して、真の署名者に署名させた後に、そこで得た情報を用いて別の文書の署名を偽造する手法です。
   
2. Adversarial Examples攻撃
   →正解です。
   
3. Distributed Reflection Denial of Service攻撃
   →DRDoS（Distributed Reflection Denial of Service）攻撃とは、DDoS攻撃の一つで、送信元IPアドレスを攻撃対象に偽造したパケットを多数のコンピュータに送信し、大量の応答パケットを攻撃対象に仕向けることでサービス停止を狙う、分散反射型のサービス停止攻撃です。
   
4. Model Inversion攻撃
   →Model Inversion（モデル反転）攻撃のことで、AIの機械学習済みモデルの入出力データにおいて、特定のデータが訓練データの一部であったか否かの情報を得たり、学習に用いられた訓練データを復元したりする攻撃です。