Recenti spese dell'Air Force degli Stati Uniti? L'Air Force degli Stati Uniti ha investito fino a 87 milioni di dollari per potenziare la ricerca su robotica e sistemi autonomi, con capacità autonome che non sono più solo una prova di concetto, ma sono entrate in una vera dimensione strategica. Ma quando i sistemi autonomi iniziano a partecipare alle decisioni e all'esecuzione militare, avere solo maggiore velocità e intelligenza non è sufficiente. Senza sistemi autonomi con calcoli verificabili, si tratta di un rischio a livello nazionale. Se non è possibile confermare se il modello è stato sostituito, se il ragionamento è stato manomesso, se le decisioni sono state eseguite secondo regole stabilite, allora anche il robot più avanzato è solo una scatola nera non auditabile. I registri e le dichiarazioni dei fornitori non possono assumersi la responsabilità a livello militare; un errore non perseguibile potrebbe avere costi irreversibili. Questo è esattamente il motivo per cui i sistemi autonomi della difesa devono mettere la verifica al centro. Non si tratta di analisi post-evento, ma di vincoli pre-evento; non si deve credere che il sistema non abbia problemi, ma si deve poter dimostrare che ha effettivamente funzionato secondo le regole! In scenari militari, l'autonomia, se non ha una prova crittografica come confine, non può essere distribuita su larga scala e non può formare un vantaggio di sicurezza a lungo termine. I veri sistemi autonomi di difesa affidabili devono essere costruiti su calcoli verificabili, e non su assunzioni di fiducia. Quando i sistemi autonomi diventano capacità fondamentali, dimostrare che hanno fatto la cosa giusta è altrettanto importante quanto farli agire!