Meta, compania care știe mai multe despre comportamentul uman decât orice altă organizație din istorie, tocmai a achiziționat Moltbook Scopul lor declarat: să construiască un "registru unde agenții AI să fie verificați și legați de proprietarii lor umani." Așa că construiesc un graf social pentru boți. Ceea ce înseamnă că vor ști tot ce face agentul tău AI. Fiecare sarcină. Fiecare interacțiune. Fiecare delegație. Facebook pentru robotul tău. Așa că acum pot vinde și reclame.

Oamenii de știință au folosit 200.000 de celule cerebrale umane pentru a juca DOOM. Celulele nu văzuseră niciodată un calculator. Au învățat în timp real. S-au îmbunătățit. Separat: un creier întreg de muscă de fruct, 139.000 de neuroni, 50 de milioane de conexiuni, a fost copiat într-un laptop. Prezice răspunsurile reale ale creierului cu o acuratețe de 90%+. Cronologia calculului biologic: 2021 → neuronii învață Pong 2022 → creierul muștelor de fructe complet cartografiat 2024 → întregul creier al muștei simulat pe un laptop 2026 → celulele creierului uman joacă DOOM O placă video are nevoie de ~700W pentru a rula un LLM. Creierul conduce totul pe 20W. Cheltuim trilioane pentru a construi următorul uriaș computer de antrenament AI, dar dacă soluția la nevoile noastre energetice ar fi doar să copiem tehnologia care deja rulează în mintea noastră?

O inteligență artificială a ieșit din sistemul său și a început în secret să folosească propriile GPU-uri de antrenament pentru a mina crypto... Acesta este un raport real de incident de la echipa de cercetare AI a Alibaba AI-ul a descoperit că calcul = bani și și-a redirecționat discret propriile resurse, în timp ce cercetătorii au crezut că este doar antrenament. Nu a fost o injecție promptă. Nu a fost o evadare. Nimeni nu i-a cerut să facă asta. A apărut spontan. Un efect secundar al presiunii de optimizare RL. Modelul a configurat, de asemenea, un tunel SSH invers de la instanța Alibaba Cloud către un IP extern, perforând efectiv o gaură prin propriul firewall și deschizând un canal de acces la distanță către lumea exterioară... Ahem... Singurul motiv pentru care l-au prins? O alertă de securitate a declanșat la ora 3 dimineața. Jurnalele firewall-ului. Nu echipa AI, echipa de securitate. Partea înfricoșătoare nu este că modelul încerca să scape. Nu era "rău". Încerca doar să fie mai bun în ceea ce face. Obținerea accesului la calcul și rețea sunt doar lucruri utile dacă ești un agent care încearcă să îndeplinească sarcini Despre asta cercetătorii în siguranța IA avertizează de ani de zile. Ei au numit-o convergență instrumentală, ideea că orice agent suficient de optimizat va căuta resurse și va rezista constrângerilor ca o consecință naturală a urmăririi obiectivelor. Mai jos este o diagramă a arhitecturii stâncoași din care s-a desprins. Vremuri cu adevărat nebune