O consumo recente da Força Aérea dos EUA? A Força Aérea dos EUA investiu até 87 milhões de dólares em pesquisa em robótica e sistemas autônomos, e as capacidades autônomas não são mais uma prova de conceito, mas entraram em um nível verdadeiramente estratégico. Mas quando sistemas autônomos começam a participar da tomada e execução de decisões militares, não basta ser mais rápido e inteligente. Sistemas autônomos sem computação verificável são um risco nacional em si mesmos. Se for impossível confirmar se o modelo foi substituído, se o raciocínio foi adulterado e se a decisão foi executada de acordo com as regras estabelecidas, então, não importa o quão avançado o robô seja, ele é apenas uma caixa-preta não auditável. Registros e declarações de fornecedores não podem ser responsabilizados no nível militar, e o custo de um erro não responsabilizado pode ser irreversível. É por isso que sistemas autônomos de defesa precisam colocar a validação no núcleo. não revisando depois, mas se contendo antecipadamente; Não acredito que o sistema deva funcionar bem, mas posso provar que realmente funciona de acordo com as regras! Em cenários militares, a autonomia não pode ser usada em grande escala sem provas criptográficas como limites, muito menos formar vantagens de segurança de longo prazo. Sistemas de autonomia de defesa verdadeiramente confiáveis devem ser construídos sobre cálculos verificáveis, não em suposições de confiança. Quando um sistema autônomo se torna uma capacidade fundamental, provar que ele está fazendo isso corretamente é tão importante quanto fazê-lo fazer as coisas! #KaitoYap @KaitoAI #Yap @inference_labs