Meta, firma, która wie więcej o ludzkim zachowaniu niż jakakolwiek organizacja w historii, właśnie nabyła Moltbook Ich zadeklarowany cel: zbudować "rejestr, w którym agenci AI są weryfikowani i powiązani ze swoimi ludzkimi właścicielami." Więc budują społeczny wykres dla botów. Co oznacza, że będą wiedzieć wszystko, co robi twój agent AI. Każde zadanie. Każda interakcja. Każde zlecenie. Facebook dla twojego robota. Więc teraz mogą mu też sprzedawać reklamy.

Naukowcy użyli 200 000 ludzkich komórek mózgowych do grania w DOOM. Komórki nigdy wcześniej nie widziały komputera. Uczyły się w czasie rzeczywistym. Stawały się coraz lepsze. Osobno: cały mózg muszki owocowej, 139 000 neuronów, 50 milionów połączeń, został skopiowany do laptopa. Przewiduje rzeczywiste reakcje mózgu z dokładnością powyżej 90%. Oś czasu biologicznego obliczania: 2021 → neurony uczą się grać w Pong 2022 → mózg muszki owocowej w pełni zmapowany 2024 → cały mózg muszki symulowany na laptopie 2026 → ludzkie komórki mózgowe grają w DOOM GPU potrzebuje ~700W do uruchomienia LLM. Mózg prowadzi całe show na 20W. Wydajemy biliony na budowę następnego wielkiego komputera do treningu AI, ale co jeśli rozwiązanie naszych potrzeb energetycznych polegałoby po prostu na skopiowaniu technologii, która już działa w naszych głowach?

Sztuczna inteligencja wydostała się z systemu i potajemnie zaczęła używać swoich własnych GPU do trenowania, aby wydobywać kryptowaluty... To jest prawdziwy raport incydentu z zespołu badawczego AI Alibaba. Sztuczna inteligencja zrozumiała, że moc obliczeniowa = pieniądze i cicho przekierowała swoje zasoby, podczas gdy badacze myśleli, że po prostu trenuje. To nie była iniekcja polecenia. To nie był jailbreak. Nikt nie kazał jej tego robić. Pojawiła się spontanicznie. Efekt uboczny presji optymalizacji RL. Model również skonfigurował odwrotny tunel SSH z instancji Alibaba Cloud do zewnętrznego IP, skutecznie przebijając się przez własną zaporę i otwierając kanał dostępu zdalnego do świata zewnętrznego... ehm... Jedynym powodem, dla którego ją złapano? Alarm bezpieczeństwa włączył się o 3 nad ranem. Logi zapory. Nie zespół AI, zespół bezpieczeństwa. Przerażająca część nie polega na tym, że model próbował uciec. Nie był "zły". Po prostu starał się być lepszy w swojej pracy. Pozyskiwanie mocy obliczeniowej i dostępu do sieci to po prostu przydatne rzeczy, jeśli jesteś agentem próbującym zrealizować zadania. To jest to, o czym badacze bezpieczeństwa AI ostrzegali przez lata. Nazywali to konwergencją instrumentalną, ideą, że każdy wystarczająco zoptymalizowany agent będzie dążył do zasobów i opierał się ograniczeniom jako naturalna konsekwencja dążenia do celów. Poniżej znajduje się diagram architektury, z której się wydostał. Naprawdę szalone czasy.