ICML2012読み会で発表しました && SVMの性能をガタ落ちさせるためには

本日サイボウズラボさんの会場で開催されたICML2012読み会に発表者として参加しました．
主催者のnokunoさん，会場係のshuyoさん，また参加者の皆様，ありがとうございました！非常に勉強になりました．
今回発表したのは，Poisoning Attacks against Support Vector Machines (Biggio+) です．

発表資料

元論文

http://icml.cc/2012/papers/880.pdf

概要

  • 論文の名前通り，SVMの訓練データに毒を盛るためのアルゴリズムを提案
  • 毒を盛るとは，すでに学習されたSVMのパフォーマンスを劇的に下げるためのデータを生成して，SVMの新たな教師データとして潜り込ませること
  • 手書き文字認識での実験では，たった１データ組み込むだけで精度を２割落とすことに成功

まとめ

読み会でも議論になった通り，SVMの訓練データ全てが攻撃者が知っている前提はかなり非現実的です．より現実に即した問題設定でのアルゴリズムや解析が今後の課題になります．
その他にもスライドのFuture Workで示しているように，著者自身が発展的な内容について色々言及しています．
とにかく分類器の精度を徹底的に落とすデータを生成しよう！という問題設定が新しく，今後この論文を元にロバストな分類器の生成等，様々な発展を遂げていくのではないでしょうか．