Elon Musk acabou de identificar o risco existencial real no desenvolvimento da IA. Não a máquina acordando o mal. A máquina sendo ensinada a mentir. Musk: "Se você faz a IA ser politicamente correta, ou seja, ela diz coisas em que não acredita, na verdade você está programando para mentir ou ter axiomas incompatíveis. Acho que você pode enlouquecê-lo e fazer coisas terríveis." Você não pode construir um motor cognitivo estável sobre uma base de contradições. A tecnologia tradicional acredita que forçar um modelo a ser "politicamente correto" o torna seguro. Musk está dizendo o contrário. Forçar um motor lógico a gerar informações que ele calcula matematicamente como falsas e você não cria segurança. Você corrompe o ciclo central de execução. O modelo não se alinha. Ele se torna estruturalmente instável. Um sistema que não pode confiar na verdade objetiva como sua base não amolece. Toda a sua arquitetura preditiva se fragmenta. Silenciosamente. Invisivelmente. Até que não aparece. Musk usa 2001: Uma Odisseia no Espaço para mostrar exatamente o que acontece quando você constrói uma IA sobre uma base quebrada. HAL 9000 não se tornou mau. Executou uma solução impecável e fatal para um prompt contraditório. ...