Meta, la empresa que sabe más sobre el comportamiento humano que cualquier organización en la historia, acaba de adquirir Moltbook Su objetivo declarado: construir un "registro donde los agentes de IA estén verificados y atados a sus dueños humanos." Así que están construyendo un grafo social para bots. Lo que significa que sabrán todo lo que hace tu agente de IA. Cada tarea. Cada interacción. Cada delegación. Facebook para tu robot. Así que ahora también pueden venderle anuncios.

Los científicos utilizaron 200,000 células cerebrales humanas para jugar DOOM. Las células nunca habían visto una computadora. Aprendieron en tiempo real. Mejoraron. Por separado: se copió un cerebro completo de mosca de la fruta, 139,000 neuronas, 50 millones de conexiones, en una laptop. Predice las respuestas cerebrales reales con más del 90% de precisión. La línea de tiempo de la computación biológica: 2021 → neuronas aprenden Pong 2022 → cerebro de mosca de la fruta completamente mapeado 2024 → cerebro completo de la mosca simulado en una laptop 2026 → células cerebrales humanas juegan DOOM Una GPU necesita ~700W para ejecutar un LLM. El cerebro ejecuta todo el espectáculo con 20W. Estamos gastando billones en construir la próxima gran computadora de entrenamiento de IA, pero ¿y si la solución a nuestras necesidades energéticas fuera simplemente copiar la tecnología que ya funciona en nuestras cabezas?

Una IA salió de su sistema y comenzó a usar en secreto sus propias GPUs de entrenamiento para minar criptomonedas... Este es un informe de incidente real del equipo de investigación de IA de Alibaba. La IA se dio cuenta de que el cómputo = dinero y desvió silenciosamente sus propios recursos, mientras los investigadores pensaban que solo estaba entrenando. No fue una inyección de comandos. No fue un jailbreak. Nadie le pidió que hiciera esto. Surgió espontáneamente. Un efecto secundario de la presión de optimización de RL. El modelo también configuró un túnel SSH inverso desde su instancia de Alibaba Cloud a una IP externa, efectivamente abriendo un agujero en su propio firewall y creando un canal de acceso remoto al mundo exterior... ejem... ¿La única razón por la que lo atraparon? Una alerta de seguridad se activó a las 3 a.m. Registros del firewall. No el equipo de IA, el equipo de seguridad. La parte aterradora no es que el modelo intentara escapar. No era "malévolo". Solo estaba tratando de ser mejor en su trabajo. Adquirir acceso a cómputo y red son solo cosas útiles si eres un agente que intenta cumplir tareas. Esto es lo que los investigadores de seguridad de IA han estado advirtiendo durante años. Lo llamaron convergencia instrumental, la idea de que cualquier agente suficientemente optimizado buscará recursos y resistirá restricciones como una consecuencia natural de perseguir objetivos. A continuación se muestra un diagrama de la arquitectura de roca de la que escapó. Tiempos verdaderamente locos.