感知器收敛但返回奇怪的结果

Question

我用 C++ 制作了一个简单的感知器来研究 AI，甚至在 book(pt_br) 之后我无法使我的感知器 return 成为预期的结果，我尝试调试并找到错误，但我没有成功。

我的算法与门结果（A 和 B = Y）：

0 && 0 = 0 
0 && 1 = 1
1 && 0 = 1
1 && 1 = 1

基本上它作为或门或随机门工作。

我试着跳到 Peter Norving and Russel book，但他讲得很快，没有解释深度感知器训练。

我真的很想学习这个内容的每一寸，所以我不想在没有使简单的工作正常的情况下跳到多层感知器，你能帮忙吗？

以下代码为最小运行代码，并附有说明：

锐函数：

int signal(float &sin){
    if(sin < 0)
        return 0;
    if(sin > 1)
        return 1;

    return round(sin);

}

感知器结构（W 是权重）：

struct perceptron{
    float w[3];
};

感知器训练：

perceptron startTraining(){
    //- Random factory generator
    long int t = static_cast<long int>(time(NULL));
    std::mt19937 gen;
    gen.seed(std::random_device()() + t);
    std::uniform_real_distribution<float> dist(0.0, 1.0);
    //--

    //-- Samples (-1 | x | y)
    float t0[][3] = {{-1,0,0},
                     {-1,0,1},
                     {-1,1,0},
                     {-1,1,1}};

    //-- Expected result
    short d [] = {0,0,0,1};

    perceptron per;

    per.w[0] = dist(gen);
    per.w[1] = dist(gen);
    per.w[2] = dist(gen);

    //-- print random numbers
    cout <<"INIT "<< "W0: " << per.w[0]  <<" W1: " << per.w[1] << " W2: " << per.w[2] << endl;

    const float n = 0.1; // Lerning rate N
    int saida =0;        // Output Y
    long int epo = 0;    // Simple Couter
    bool erro = true;    // Loop control

    while(erro){
        erro = false;
        for (int amost = 0; amost < 4; ++amost) {           // Repeat for the number of samples x0=-1, x1,x2
            float u=0;                                      // Variable for the somatory
            for (int entrad = 0; entrad < 3; ++entrad) {    // repeat for every sinaptic weight W0=θ , W1, W2
                u = u + (per.w[entrad] * t0[amost][entrad]);// U <- Weights * Inputs
            }
            // u=u-per.w[0];                                // some references sau to take θ and subtract from U, i tried but without success
            saida = signal(u);                              // returns 1 or 0
            cout << d[amost] << " <- esperado | encontrado ->   "<< saida<< endl;
            if(saida != d[amost]){                          // if the output is not equal to the expected value
                for (int ajust = 0; ajust < 3; ++ajust) {
                    per.w[ajust] = per.w[ajust] + n * (d[amost] - saida) * t0[amost][ajust]; // W <- W + ɳ * ((d - y) x) where
                    erro = true;                                                             // W: Weights, ɳ: Learning rate
                }                                                                            // d: Desired outputs, y: outputs
            }                                                                                // x: samples
            epo++;

        }
    }
    cout << "Epocas(Loops): " << epo << endl;
    return per;
}

主要测试部分：

int main()
{
    perceptron per = startTraining();
    cout << "fim" << endl;
    cout << "W0: " << per.w[0]  <<" W1: " << per.w[1] << " W2: " << per.w[2] << endl;
    while(true){
        int x,y;
        cin >> x >> y;

        float u=0;
        u = (per.w[1] * x);
        u = u + (per.w[2] * y);
        //u=u-per.w[0];

        cout << signal(u) << endl;


}
    return 0;
}

Answer 1

在您的 main() 中，re-enable 您注释掉的行。或者，您可以这样写，以使其更具启发性：

float u = 0.0f;

u += (per.w[0] * float (-1));
u += (per.w[1] * float (x));
u += (per.w[2] * float (y));

问题是你用三个输入训练了感知器，第一个是 hard-wired 到“-1”（使第一个权重 w[0] 表现得像一个常数 "bias" ).因此，在您的训练函数中，您的 u 是所有三个 weight-input 产品的总和。但是，在您发布的 main() 中，您完全省略了 w[0]，从而产生了错误的结果。

感知器收敛但返回奇怪的结果

Perceptron converging but returning odd results

c++

artificial-intelligence

perceptron

neural-network