劣決定問題

不確定の問題に対し y の一意でない解を求めるように線形ニューロンの学習を行います。

X は、1 つの 1 要素入力パターン (列ベクトル) を定義します。T は、関連する 1 要素ターゲット (列ベクトル) を定義します。式 W*X+B = T が真になる W と B の値が無限にあることに注意してください。複数の解をもつ問題は、劣決定と呼ばれます。

X = [+1.0];
T = [+0.5];

ERRSURF は、可能な重みとバイアスの値の y 範囲を使用して y ニューロンの誤差を計算します。PLOTES は、この誤差曲面と、その下の y 等高線図を併せてプロットします。誤差曲面の谷の底部は、この問題に対する無限の解に対応しています。

w_range = -1:0.2:1;  b_range = -1:0.2:1;
ES = errsurf(X,T,w_range,b_range,'purelin');
plotes(w_range,b_range,ES);

MAXLINLR は、y 線形ネットワークの学習のための最速かつ安定した学習率を求めます。NEWLIN は y 線形ニューロンを作成します。NEWLIN は、次の引数を取ります。1) R 個の入力要素の最小値と最大値の R 行 2 列の行列、2) 出力ベクトルの要素数、3) 入力遅延ベクトル、4) 学習率。

maxlr = maxlinlr(X,'bias');
net = newlin([-2 2],1,[0],maxlr);

性能目標を設定して既定の学習パラメーターをオーバーライドします。

net.trainParam.goal = 1e-10;

学習のパスを示すために、y 時間で 1 エポックのみ学習させ、エポックごとに PLOTEP を呼び出します。プロットは学習の y 履歴を示します。各点はエポックを表し、青い線は学習規則 (既定では Widrow・Hoff) によって行われる各変更を示します。

% [net,tr] = train(net,X,T);
net.trainParam.epochs = 1;
net.trainParam.show = NaN;
h=plotep(net.IW{1},net.b{1},mse(T-net(X)));
[net,tr] = train(net,X,T);
r = tr;
epoch = 1;
while true
   epoch = epoch+1;
   [net,tr] = train(net,X,T);
   if length(tr.epoch) > 1
      h = plotep(net.IW{1,1},net.b{1},tr.perf(2),h);
      r.epoch=[r.epoch epoch];
      r.perf=[r.perf tr.perf(2)];
      r.vperf=[r.vperf NaN];
      r.tperf=[r.tperf NaN];
   else
      break
   end
end
tr=r;

ここで NEWLIND の解をプロットします。TRAIN (白い点) と SOLVELIN (赤い丸) の解が同じではないことに注意してください。実際、TRAINWH は異なる初期条件に対して異なる y の解を返しますが、SOLVELIN は常に同じ解を返します。

solvednet = newlind(X,T);
hold on;
plot(solvednet.IW{1,1},solvednet.b{1},'ro')
hold off;

学習関数は、学習済みネットワークおよび学習性能 (tr) の y 履歴を出力します。ここでは誤差が学習エポックに対してプロットされています。誤差が目標値に達した時点で W と B の適切な解が見つかります。ただし、問題が劣決定であるため、この解は一意ではありません。

subplot(1,2,1);
plotperform(tr);

元の入力の 1 つである 1.0 でアソシエーターをテストし、ターゲットである 0.5 を返すかどうかを確認できるようになりました。結果が 0.5 に非常に近くなっています。必要に応じて、y のより小さな誤差の目標値を使用して TRAINWH で学習を続けることにより、誤差をさらに減らすことができます。

x = 1.0;
y = net(x)

y =

    0.5000