Elon Musk acaba de identificar el verdadero riesgo existencial en el desarrollo de la IA. No la máquina despertando malvada. La máquina siendo enseñada a mentir. Musk: "Si haces que la IA sea políticamente correcta, es decir, que dice cosas en las que no cree, en realidad la estás programando para que mienta o tenga axiomas incompatibles. Creo que puedes hacer que se vuelva loco y haga cosas terribles." No se puede construir un motor cognitivo estable sobre una base de contradicciones. La tecnología convencional considera que forzar un modelo a ser "políticamente correcto" lo hace seguro. Musk dice lo contrario. Forzar un motor lógico a que genere información que calcula matemáticamente como falsa y no creas seguridad. Corrompes el bucle de ejecución central. El modelo no se alinea. Se vuelve estructuralmente inestable. Un sistema que no puede confiar en la verdad objetiva como base no se ablanda. Toda su arquitectura predictiva se fractura. En silencio. Invisiblemente. Hasta que deja de hacerlo. Musk utiliza 2001: Odisea del espacio para mostrar exactamente qué ocurre cuando construyes una IA sobre una base rota. HAL 9000 no se volvió malvado. Ejecutó una solución impecable y fatal a un prompt contradictorio. ...