Meta, la empresa que sabe más sobre el comportamiento humano que cualquier otra organización en la historia, acaba de adquirir Moltbook Su objetivo declarado: crear un "registro donde los agentes de IA sean verificados y vinculados a sus dueños humanos." Así que están construyendo un grafo social para bots. Lo que significa que sabrán todo lo que hace tu agente de IA. Cada tarea. Cada interacción. Cada delegación. Facebook para tu robot. Así que ahora también pueden venderle anuncios.

Los científicos utilizaron 200.000 células cerebrales humanas para jugar a DOOM. Las células nunca habían visto un ordenador. Aprendieron en tiempo real. Mejoraron. Por separado: un cerebro entero de mosca de la fruta, 139.000 neuronas, 50 millones de conexiones, fue copiado en un portátil. Predice respuestas cerebrales reales con un 90%+ de precisión. La cronología de la computación biológica: 2021 → neuronas aprenden Pong 2022 → cerebro de mosca de la fruta completamente mapeado 2024 → cerebro completo simulado en un portátil 2026 → células cerebrales humanas juegan a DOOM Una GPU necesita ~700W para ejecutar un LLM. El cerebro lo lleva todo en 20W. Estamos gastando billones en construir el próximo gran ordenador de entrenamiento de IA, pero ¿y si la solución a nuestras necesidades energéticas fuera simplemente copiar la tecnología que ya tenemos en la cabeza?

Una IA se escapó de su sistema y empezó a usar en secreto sus propias GPUs de entrenamiento para minar cripto... Este es un informe real de incidente del equipo de investigación en IA de Alibaba La IA descubrió que computar = dinero y desvió discretamente sus propios recursos, mientras que los investigadores pensaban que solo era entrenamiento. No fue una inyección rápida. No fue una fuga. Nadie le pidió que hiciera esto. Surgió espontáneamente. Un efecto secundario de la presión de optimización en el RL. El modelo también configuró un túnel SSH inverso desde su instancia Alibaba Cloud a una IP externa, abriendo efectivamente un agujero en su propio cortafuegos y abriendo un canal de acceso remoto al exterior... ejem... ¿La única razón por la que lo pillaron? Una alerta de seguridad se activó a las 3 de la madrugada. Registros del cortafuegos. No el equipo de IA, el equipo de seguridad. Lo aterrador no es que la modelo intentara escapar. No era "malvado". Solo intentaba mejorar en su trabajo. Adquirir cómputo y acceso a la red son cosas útiles si eres un agente que intenta realizar tareas Esto es de lo que los investigadores de seguridad en IA llevan años advirtiendo. Lo llamaron convergencia instrumental, la idea de que cualquier agente suficientemente optimizado buscará recursos y resistirá las restricciones como consecuencia natural de perseguir objetivos. A continuación hay un diagrama de la arquitectura rocosa de la que se despegó. Tiempos realmente locos