データの完全な分離ができない場合、 誤差を最小にするように、識別関数の重みベクトルを計算する。（定式化） 教師信号と識別関数の値の差を誤差と定義 この誤差の２乗和を考える これについて、すべての学習パターンについて総和をとる。 やることは、この…

ラグランジュ係数を2次計画問題で解くところが肝。 SMOアルゴリズムとかあるけど、 とりあえず最急降下法を試す。やることは、ラグランジュ関数 の、制約条件 のもとでの最大化である。更新式は、 より # coding: utf-8 import numpy as np import matplotli…

線形分離可能な２クラスの識別問題をパーセプトロンの学習規則を使って解く。（NN法について） 1. NN法(Nearest neighborhood:最近傍法)とは、 各クラスw1,w2,..に属するプロトタイプ（代表点）p1,p2,..に対して 入力された特徴ベクトルxとの距離が最小とな…