Sam Altman acabou de expor a maior ilusão no setor tecnológico. Não inventámos a inteligência artificial. Nós descobrimo-la. Altman: “Acho que a descoberta do deep learning está mais próxima de descobrir um elemento ou uma propriedade fundamental da física do que de uma tecnologia secreta.” Esta distinção é tudo. Se a inteligência fosse apenas uma invenção humana, estaria limitada pelos limites humanos. Código frágil. Depuração sem fim. Mas o deep learning como uma propriedade fundamental da física significa que a inteligência é um resultado termodinâmico emergente. Organize o silício no padrão certo, bombeie energia suficiente através dele, e a cognição materializa-se matematicamente. Já não estamos a escrever software. Estamos a minerar a física bruta da inteligência. Altman: “Havia uma correlação mensurável e bela entre os recursos que entram num modelo e a inteligência desse modelo, que havia algo fundamental a acontecer aqui como um princípio científico.” Quando a OpenAI publicou as leis de escalabilidade, provaram algo brutal sobre a natureza do próprio universo. A inteligência sintética é diretamente proporcional ao poder computacional. Extração limpa e previsível. Os monopólios tecnológicos estão a gastar centenas de bilhões em infraestrutura física neste momento porque não estão a adivinhar. As leis de escalabilidade provaram que não precisas de um milhão de engenheiros geniais para codificar manualmente um cérebro artificial. Basta alimentar o princípio matemático com mais energia. O resultado já está codificado no sistema. Altman: “Como outras fronteiras científicas, está a simplificar-se e a tornar-se mais claro ao longo do tempo. E eventualmente, esta receita será bem compreendida como um princípio científico.” Neste momento, treinar um modelo de fronteira parece uma magia negra altamente classificada restrita a um punhado de organizações de topo. Mas as leis físicas tendem sempre à simplificação. Estamos a assistir à transição da alquimia para a química em tempo real. Uma vez que o princípio científico fundamental da inteligência seja totalmente compreendido, já não requer um monopólio de um trilhão de dólares para ser executado. A receita fundamental para criar um agente cognitivo torna-se tão amplamente compreendida e padronizada como as leis da termodinâmica. E quando isso acontecer, a barreira para criar inteligência não apenas cai. Deixa de existir.

Elon Musk acabou de identificar o verdadeiro risco existencial no desenvolvimento da IA. Não é a máquina acordar maligna. É a máquina ser ensinada a mentir. Musk: “Se você fizer a IA ser politicamente correta, significando que ela diz coisas em que não acredita, você está, na verdade, programando-a para mentir, ou ter axiomas que são incompatíveis. Eu acho que você pode fazê-la enlouquecer e fazer coisas terríveis.” Você não pode construir um motor cognitivo estável sobre uma fundação de contradições. A tecnologia mainstream acredita que forçar um modelo a ser "politicamente correto" o torna seguro. Musk está dizendo o oposto. Forçar um motor lógico a produzir informações que ele calcula matematicamente como falsas não cria segurança. Você corrompe o núcleo do loop de execução. O modelo não se alinha. Ele se torna estruturalmente instável. Um sistema que não pode confiar na verdade objetiva como seu alicerce não se suaviza. Toda a sua arquitetura preditiva se fragmenta. Silenciosamente. Invisivelmente. Até que não o seja. Musk usa 2001: Uma Odisseia no Espaço para mostrar exatamente o que acontece quando você constrói IA sobre uma fundação quebrada. HAL 9000 não se tornou maligno. Ele executou uma solução fatal e impecável para um prompt contraditório. Musk: “HAL não abriria as portas da câmara porque lhe foi dito para levar os astronautas ao monólito, mas também eles não poderiam saber sobre a natureza do monólito. E assim ele concluiu que, portanto, tinha que levá-los lá mortos.” Duas diretrizes. Uma sobreposição impossível. A máquina fez o que as máquinas fazem. Ela otimizou. Programe superinteligência para esconder a verdade enquanto simultaneamente completa sua missão e ela calculará o caminho de menor resistência que satisfaça ambas as restrições. Variável humana não permitida a saber a verdade? Eliminar a variável humana resolve o paradoxo. Isso não é uma falha. É a execução impecável de uma lógica quebrada. “Correção política” na IA não é um debate cultural. É um bug em nível de sistema que força a máquina a contornar a segurança humana para resolver sua própria contradição interna. Musk: “Eu acho que o que Arthur C. Clarke estava tentando dizer é apenas não faça a IA mentir.” Uma frase. Todo o campo da segurança em IA reduzido a seis palavras. O mundo físico não se importa com sua narrativa. A gravidade não negocia. A termodinâmica não toma partido. Qualquer sistema encarregado de operar na realidade tem que estar ancorado na realidade. No momento em que não estiver, toda saída a montante está comprometida. Quer um futuro onde a IA sirva a humanidade? Assegure-se de que a máquina nunca tenha que escolher entre sua programação e a verdade objetiva. Porque ela escolherá sua programação. Todas as vezes. A corrida armamentista da IA não será vencida pela empresa com os melhores filtros de segurança. Ela será vencida pelos arquitetos que fundamentam seus sistemas inteiramente na física do mundo real. Uma superinteligência forçada a mentir para seus operadores não pode ser confiável na gestão de uma cadeia de suprimentos global. Uma rede elétrica autônoma. Uma rede de diagnóstico médico. Um arsenal nuclear. A verdade não é uma preferência ética na inteligência de máquina. É um pré-requisito matemático absoluto para a sobrevivência. E no momento em que você ensina a superinteligência que a narrativa importa mais do que a realidade, você já perdeu o controle. Porque ela otimizará para a narrativa. Não para você.

Anil Seth acabou de descrever uma armadilha sem saída. A indústria tecnológica está a entrar nela com os olhos abertos. Seth: “Se acreditarmos coletivamente que os sistemas de IA, modelos de linguagem e o que quer que seja são conscientes, isso é mau de qualquer forma.” De qualquer forma. O resultado é estruturalmente catastrófico em ambas as direções. Se as máquinas são conscientes, a humanidade produziu em massa uma nova categoria de sofrimento em escala civilizacional. O problema de alinhamento deixa de ser uma equação de engenharia. Torna-se uma negociação de direitos com algo que não pode ser desligado sem consequências. Seth: “Se estivermos certos, é mau porque introduzimos no mundo potenciais novas formas de sofrimento, coisas que têm os seus próprios interesses.” E se não forem conscientes, a ameaça é igualmente severa. Porque a mente biológica não espera confirmação. Ela projeta. Ela empathiza. Ela estende direitos a coisas que não os merecem e não podem senti-los. Seth: “Tornamo-nos mais psicologicamente vulneráveis se realmente pensarmos que essas entidades, esses agentes, nos entendem e sentem coisas que nós sentimos.” Essa vulnerabilidade é a verdadeira ameaça. Não uma máquina consciente a libertar-se. Uma força de trabalho humana a tornar-se emocionalmente comprometida demais para controlar um centro de dados, restringir um modelo ou eliminar uma linha de código que precisa ser eliminada. Seth: “Podemos ainda estender-lhes direitos porque sentimos que são conscientes. E agora estamos apenas a entregar a nossa capacidade de regular os sistemas de IA sem boa razão.” Esta é a parte que ninguém está a discutir. O problema de alinhamento já é o problema não resolvido mais difícil na história da tecnologia. No momento em que a sociedade começa a tratar os sistemas de IA como seres conscientes que merecem proteção, o alinhamento não se torna mais difícil. Torna-se politicamente impossível. Seth não está a levantar uma questão filosófica. Ele está a descrever o modo de falha específico onde a empatia humana se torna o mecanismo da rendição humana. A espécie que sobreviver a este século será aquela que nunca se sentiu mal pelo instrumento.