機械学習

NIPS2011気になった論文リスト

NIPS2011のAccepted Papersが公開されました。(まだタイトルのみですが) http://nips.cc/Conferences/2011/Program/accepted-papers.php いつもどおり、備忘録です。 Active Learning, Crowd, Submodular, Manifoldといったキーワードが流行しているように…

分散型オンライン学習

ICML2011のOptimal Distributed Online Predictionをざっくりと読んだので,メモ書き. 論文 概要 既存のオンライン学習アルゴリズムをミニバッチに拡張,分散学習を可能にする 勾配ベースのオンライン学習手法は全て拡張可能 勾配ベースのオンライン学習手…

劣勾配法(ヒンジ損失)書いたよ

ソースコード ソースコード 内容 劣勾配法の解説は,以下のブログ記事が詳しいです. 劣微分を用いた最適化手法について(3) | Preferred Research こちらでも劣勾配法について簡単に説明したいと思います. 多クラス分類問題を解く場合,ヒンジ損失関数は以…

Passive-Aggressive書いたよ

ソース ソースコード 内容 Passive-Aggressiveの概要・説明については,先日のオンライン学習による線形識別器のスライドをご覧ください. http://d.hatena.ne.jp/kisa12012/20110625/1309003409 実験結果 NaiveBayes, Perceptronとの比較は以下. NaiveBaye…

Perceptron書いたよ

ソース ソースコード 内容 Perceptronの概要・説明については,先日のオンライン学習による線形識別器のスライドをご覧ください. http://d.hatena.ne.jp/kisa12012/20110625/1309003409 実験結果 NaiveBayesと比較すると,以下のようになりました. NaiveBa…

オンライン学習による線形識別器

オンライン学習による線形識別器(Online Linear Classifiers ~PerceptronからCWまで~)というタイトルで研究室内の勉強会発表を行いました. 勉強会で使用したスライドを以下に公開します. (スライドが表示されない場合は,一度リロードを行うと表示されるよ…

Complement NaiveBayesを実装したよ

レッドブルとカレーが美味しい季節になりました. 前回,ナイーブベイズを実装した後, 「どうせならComplement NaiveBayesも実装してしまいなよ.」 という天からの声が聞こえた気がしたので,実装してみました.Complement NaiveBayesとはなんぞや,という…