Now Loading...

Now Loading...

敵対的な攻撃(Adversarial attacks)

敵対的な攻撃(Adversarial attacks)

敵対的な攻撃(adversarial attacks)は、システムを悪用することを目的に行われる、AIモデルの認識を混乱させる方法です。
攻撃の手段としては、なりすましや、脆弱性を利用した不正アクセスなどが考えられます。

クイズ

AIを実社会で活用していくには、システムの利便性のみを考えることだけではなく、想定外の振る舞いを引き起こす攻撃として挙げられる敵対的な攻撃(Adversarial attacks)に対しての対処も必要である。これに関して最も適切な選択肢を一つ選べ。
  • 正解を見る
  • 解説を見る
    敵対的な攻撃は入力に操作を加え、モデルを誤認識させます。具体的には、パンダの画像にとあるノイズを加えることでAIがテナガザルだと誤認識したエピソードが有名です。ノイズを加えても人間には違いが分からないので、悪意を持った人間が道路標識に特定のノイズ画像を貼ることにより自動運転車が危険な運転をする等の危険性が考えられます。

特別割引クーポンのお知らせ

<人工知能基礎&G検定実践問題集>

・クーポン:aibgt220920-2bso
・有効期間:2022年10月21日(金)

*使い方:以下バナーより「購入する」に進んでいただき、左下のクーポン欄にご記入、適用してください。

zero to one G検定 jdla

<G検定実践トレーニング>

・クーポン:gt220920-1dao
・有効期間:2022年10月21日(金)

*使い方:以下バナーより「購入する」に進んでいただき、左下のクーポン欄にご記入、適用してください。

zero to one G検定 jdla

関連ワード

ディープラーニングの社会実装に向けて

AIと社会

AIプロジェクトの進め方

データの収集

データの加工・分析・学習

実装・運用・評価

クライシス・マネジメント