バナナでもわかる話

計量経済学・統計学が専門の大学院生です。統計学・経済学・投資理論・マーケティング等々に関する勉強・解説ブログ。ときどき趣味も。極力数式は使わずイメージで説明出来るよう心掛けていますが、時々暴走します。

SVM

単純パーセプトロンとマージンに関するまとめ

今日は単純パーセプトロンの話をします。 実際の現場で役に立っているのは多層パーセプトロンや、SVMですが、その基礎となるパーセプトロンについて理解しておくことは重要ですので、とりあえず一通りまとめていきます。 目次 単純パーセプトロンとは何か 数…

【初心者向け】SVMのパラメタチューニング

前回ソフトマージンサポートベクターマシンの話をして、ラディアルカーネルにはパラメータが2つあるというところまでやりました。 bananarian.hatenablog.com 前回はパラメータをいじって、極端な値の場合は、マズそうだといったことを確認して終わったわけ…

【初心者向け】ソフトマージンSVMの実装

前回まででSVMの導入と計算方法は終わりました。SVMの導入 bananarian.hatenablog.com 最適化問題を解く話 bananarian.hatenablog.com しかし、前回までは頑なに データをきれいに線形に分類できる、線形分離可能という仮定を置いていました。 これをハード…

【初心者向け】KKT条件を使ってSVMの計画問題を解く

前回はSVMについての導入を行いました。 bananarian.hatenablog.com しかし、前回の記事では肝心の最適化問題を解く部分は長くなるのでカットしていました。そういうわけで今回はSVMに関係する部分だけピックアップして説明していきます。 KKT条件についても…

【初心者向け】2値分類SVM(サポートベクターマシン)の考え方と最適化問題

今日はSVM(サポートベクターマシン)について整理します。 サポートベクターマシンとは SVMは理系の方なら耳にすることも多いかもしれません。機械学習的な手法は文系にとってはあまり需要が無いので、文系の人は馴染みがないかもしれません。一つ説明する前…