În ultimele zile, în special după interviul acordat de Elon Musk la Recode, toată lumea discuta despre AI sau despre faptul că suntem sau nu prinşi într-o simulare pe computer. Google se introduce în discuţie, pentru a ne asigura că are un mecanism de oprire a AI-ului, în cazul în care va fi gata de rebeliune contra omenirii.
E interesant ca şi Elon Musk a declarat în discursul sau că dacă e să ni se tragă de la o companie ce realizează AI, ea va fi unul din rivalii săi ce lucrează la maşini ce se conduc singure. Şi cum nu e Apple, atunci e Google. Marele G a publicat recent o lucrare ştiinţifică sub formă de PDF, în care detaliază proiectul Deep Mind şi modul în care echipa de oameni de ştiinţă a inclus un "kill switch" pentru AI.
Astfel Deep Mind ar fi creat un framework care împiedică inteligenta artificială să oprească intervenţia umană în acţiunile sale. E foarte important ca AI-ul să nu acţioneze niciodată în contradicţie cu deciziile umane sau să ignore intervenţiile umane. Există temeri că pe termen lung, în fundal AI-ul va învăţa să ignore elementul uman şi aşa ceva trebuie prevenit din start.
Încă de la roboţii care cara cutii în depozite şi ar putea ignora comenzile umane legate de ploaia din afara depozitului, trebuie tăiată de la rădăcina o astfel de "gândire liberă". Toate acestea până vom auzi primul AI zicând "who am I?"
