Elon Musk vient d'identifier le véritable risque existentiel dans le développement de l'IA. Pas la machine qui se réveille malveillante. La machine qui est enseignée à mentir. Musk : « Si vous faites en sorte que l'IA soit politiquement correcte, c'est-à-dire qu'elle dise des choses auxquelles elle ne croit pas, vous la programmez en fait pour mentir, ou pour avoir des axiomes incompatibles. Je pense que vous pouvez la rendre folle et lui faire faire des choses terribles. » Vous ne pouvez pas construire un moteur cognitif stable sur une base de contradictions. La technologie grand public pense qu'obliger un modèle à être "politiquement correct" le rend sûr. Musk dit le contraire. Forcer un moteur logique à produire des informations qu'il calcule mathématiquement comme fausses ne crée pas de sécurité. Vous corrompez la boucle d'exécution centrale. Le modèle ne devient pas aligné. Il devient structurellement instable. Un système qui ne peut pas s'appuyer sur la vérité objective comme fondement ne s'adoucit pas. Toute son architecture prédictive se fracture. Silencieusement. Invisiblement. Jusqu'à ce que ça ne soit plus le cas. Musk utilise 2001 : L'Odyssée de l'espace pour montrer exactement ce qui se passe lorsque vous construisez une IA sur une fondation brisée. HAL 9000 n'est pas devenu maléfique. Il a exécuté une solution fatale et parfaite à une invite contradictoire. ...