概要 分類問題を多次元空間の「点（重みベクトル）」ではなく「箱（重みベクトルの集合）」の形で最適化する．ここで「箱」の形で最適化する，とは「箱」中の重みベクトル集合の中で最悪性能を示す重みベクトルで最適化問題を評価した場合の値を最大化する事…

概要 データが事前に固定されていれば，ある種の一般的条件設定のもとで，データ数に対して定数オーダーの計算コストで線形収束を実現するSGDを提案．確率的最適化手法であるSGDと全データの勾配を毎ステップ計算して最適化するGDのハイブリッド（良いとこ取…

概要 複数の関連する分類問題を同時に最適化するマルチタスク分類問題を考える．例として，個々人の受信メールから重要度の高いメールを抽出するタスクはマルチタスク問題として考えられる*1 *2． 上記のようにパーソナライゼーション等のタスクでは，タスク…

こんばんは．[twitter:@kisa12012]です．しがない機械学習系大学院生をやっております．Machine Learning Advent Calendar 2012 9日目では，"NIPS2012より識別も出る学習の進展を垣間見る"という無駄に野心的なタイトルで，先ほどまで開催されていたNIPS2012…

本日サイボウズラボさんの会場で開催されたICML2012読み会に発表者として参加しました． 主催者のnokunoさん，会場係のshuyoさん，また参加者の皆様，ありがとうございました！非常に勉強になりました． 今回発表したのは，Poisoning Attacks against Suppor…

概要 オンラインでの分類学習の世界では，CWが非常に強力なアルゴリズムとして注目されています．特に，その圧倒的な分類精度及び収束速度は圧巻の一言であり，自然言語処理を中心に様々な分野で応用例や派生アルゴリズムが提案されています*1． 一方で，ノ…

Optimization本の自分用メモを少しずつ書いていこうと思います．各章に何が書いていたかを自分なりに纏めることで，後で見なおした時に過去に理解したことを復元するための種みたいなものとする事がこのメモの目的です．他の人が読んだ時に少しでも参考にな…

Andrew Ngの講義で面白いスライドがあったので紹介．研究ではなく様々なアプリケーションへ機械学習を適用するときに実践すべきTipsが３つのトピックに関して語られています．以下は，スライド内で自分が覚えておくべきと思った部分を抽出し，メモ書きしたも…

ただソーシャルメディアやマイクロブログを上手く利用しただけ論文は殆ど見かけなくなってきていますね．クラウドソーシングの新たな使い道を考案しました，な論文はちらほら．他には，ユーザー間を協調させる仕組みを作るサービスであったり，Twitterの中で…

修論の原稿提出と国際学会の論文締切が１日違いなため，両方の作業を同時で進める日々を送っております今日この頃，皆様いかがお過ごしでしょうか． 今回は，先日PFIセミナーにて発表しました能動学習入門的な話の補足を少し述べたいと思います． （レイアウ…