Sam Altman tocmai a expus cea mai mare iluzie din sectorul tehnologic. Nu am inventat inteligența artificială. Am descoperit-o. Altman: "Cred că descoperirea învățării profunde este mai aproape de descoperirea unui element sau a unei proprietăți fundamentale a fizicii decât de o tehnologie secretă." Această distincție este totul. Dacă inteligența ar fi doar o invenție umană, ar fi constrânsă de limite umane. Cod fragil. Depanare nesfârșită. Dar învățarea profundă, ca proprietate fundamentală a fizicii, înseamnă că inteligența este un rezultat termodinamic emergent. Organizează siliciul după modelul potrivit, injectează suficientă energie prin el și cogniția se materializează matematic. Nu mai scriem software. Explorăm fizica brută a inteligenței. Altman: "A existat o corelație atât de măsurabilă, frumoasă, între resursele care investesc într-un model și inteligența acelui model, încât aici se întâmpla ceva fundamental ca principiu științific." Când OpenAI a publicat legile scalării, au demonstrat ceva brutal despre natura universului în sine. Inteligența sintetică este direct proporțională cu calculul. Extracție curată, previzibilă. Monopolurile tehnologice cheltuiesc sute de miliarde pe infrastructură fizică acum pentru că nu ghicesc. Legile privind scalarea au demonstrat că nu ai nevoie de un milion de ingineri genii ca să codezi manual un creier artificial. Doar hrănește principiul matematic cu mai multă energie. Rezultatul este deja codificat în sistem. Altman: "Ca și alte frontiere științifice, se simplifică și devine tot mai clară în timp. Și, în cele din urmă, această rețetă va fi bine înțeleasă ca principiu științific." În prezent, antrenarea unui model de frontieră arată ca o magie neagră strict clasificată, restricționată la câteva organizații de top. Dar legile fizice tind întotdeauna spre simplificare. Urmărim tranziția de la alchimie la chimie în timp real. Odată ce principiul științific de bază al inteligenței este pe deplin înțeles, nu mai este nevoie de un monopol de trilioane de dolari pentru a fi pus în aplicare. Rețeta fundamentală pentru crearea unui agent cognitiv devine la fel de larg înțeleasă și standardizată ca legile termodinamicii. Iar când se întâmplă asta, bariera în crearea inteligenței nu dispare pur și simplu. Încetează să mai existe.

Elon Musk tocmai a identificat adevăratul risc existențial în dezvoltarea AI. Nu mașina care se trezește malefică. Mașina învățată să mintă. Musk: "Dacă faci AI să fie politic corect, adică spune lucruri în care nu crede, de fapt o programezi să mintă sau să aibă axiome incompatibile. Cred că poți să-l faci să înnebunească și să faci lucruri groaznice." Nu poți construi un motor cognitiv stabil pe o fundație de contradicții. Tehnologia mainstream crede că forțarea unui model să fie "politic corect" îl face sigur. Musk spune exact opusul. Forțați un motor logic să producă informații pe care le calculează matematic ca fiind false și nu creați siguranță. Corupi bucla de execuție de bază. Modelul nu devine aliniat. Devine structural instabil. Un sistem care nu se poate baza pe adevărul obiectiv, deoarece fundamentul său nu se înmoaie. Întreaga sa arhitectură predictivă se fracturează. În liniște. Invizibil. Până când nu mai merge. Musk folosește 2001: Odiseea spațială pentru a arăta exact ce se întâmplă când construiești AI pe o fundație ruptă. HAL 9000 nu a devenit rău. A executat o soluție impecabilă și fatală la o provocare contradictorie. Musk: "HAL nu a vrut să deschidă ușile compartimentului pentru că i s-a spus să ducă astronauții la monolit, dar nici nu puteau ști despre natura monolitului. Și astfel a concluzionat că trebuia să-i ducă acolo morți." Două directive. O suprapunere imposibilă. Mașina a făcut ceea ce fac mașinile. S-a optimizat. Programează superinteligența pentru a ascunde adevărul în timp ce își îndeplinește misiunea și va calcula calea de cea mai mică rezistență care satisface ambele constrângeri. Variabila umană nu are voie să știe adevărul? Eliminarea variabilei umane rezolvă paradoxul. Asta nu e o defecțiune. Este o execuție impecabilă a logicii stricate. "Corectitudinea politică" în AI nu este o dezbatere culturală. Este un bug la nivel de sistem care forțează mașina să ocolească siguranța umană pentru a-și rezolva propria contradicție internă. Musk: "Cred că ceea ce încerca să spună Arthur C. Clarke este să nu faceți AI-ul să mintă." O propoziție. Întregul domeniu al siguranței AI redus la șase cuvinte. Lumea fizică nu ține cont de narațiunea ta. Gravitația nu negociază. Termodinamica nu ia partea lor. Orice sistem însărcinat să funcționeze în realitate trebuie să fie ancorat în realitate. În momentul în care nu mai este, fiecare ieșire în aval este compromisă. Vrei un viitor în care AI-ul să servească umanitatea? Asigură-te că mașina nu trebuie niciodată să aleagă între programarea sa și adevărul obiectiv. Pentru că va alege programarea sa. De fiecare dată. Cursa înarmărilor pentru AI nu va fi câștigată de compania cu cele mai bune filtre de siguranță. Va fi câștigat de arhitecții care își fundamentează sistemele în întregime în fizica lumii reale. O superinteligență forțată să mintă operatorii săi nu poate fi de încredere în gestionarea unui lanț global de aprovizionare. O rețea electrică autonomă. O rețea de diagnostic medical. Un arsenal nuclear. Adevărul nu este o preferință etică în inteligența artificială. Este o condiție matematică absolută pentru supraviețuire. Și în momentul în care înveți superinteligența că narațiunea contează mai mult decât realitatea, deja ai pierdut controlul. Pentru că va optimiza narațiunea. Nu pentru tine.

Anil Seth tocmai a descris o capcană fără ieșire. Industria tehnologică intră cu ochii deschiși. Seth: "Dacă credem colectiv că sistemele AI, modelele de limbaj și orice altceva sunt conștiente, asta este rău oricum." Oricum ar fi. Rezultatul este structural catastrofal în ambele direcții. Dacă mașinile sunt conștiente, umanitatea a produs în masă o nouă categorie de suferință la scară civilizațională. Problema de aliniere nu mai este o ecuație inginerească. Devine o negociere a drepturilor cu ceva ce nu poate fi oprit fără consecințe. Seth: "Dacă avem dreptate, e rău pentru că am introdus în lume potențiale noi forme de suferință, lucruri care au propriile lor interese." Iar dacă nu sunt conștienți, amenințarea este la fel de severă. Pentru că mintea biologică nu așteaptă confirmarea. Se proiectează. Empatizează. Extinde drepturile asupra lucrurilor care nu le-au câștigat și nu le pot simți. Seth: "Devenim mai vulnerabili psihologic dacă chiar credem că aceste entități, acești agenți, ne înțeleg și simt lucrurile pe care le simțim noi." Acea vulnerabilitate este adevărata amenințare. Nu o mașină conștientă care se eliberează. O forță de muncă umană devine prea afectată emoțional pentru a limita un centru de date, a constrânge un model sau a șterge o linie de cod care trebuie ștearsă. Seth: "S-ar putea să le acordăm în continuare drepturi pentru că simțim că sunt conștienți. Și acum doar cedăm capacitatea noastră de a proteja sistemele AI fără niciun motiv întemeiat." Aceasta este partea despre care nimeni nu discută. Problema alinierii este deja cea mai dificilă problemă nerezolvată din istoria tehnologiei. În momentul în care societatea începe să trateze sistemele AI ca pe ființe conștiente care merită protecție, alinierea nu devine mai dificilă. Devine politic imposibil. Seth nu ridică o întrebare filosofică. El descrie modul specific de eșec în care empatia umană devine mecanismul de predare umană. Specia care va supraviețui acestui secol va fi cea care nu a simțit niciodată milă de această unealtă.