Dépenses récentes de l'Armée de l'air américaine ? L'Armée de l'air américaine a investi jusqu'à 87 millions de dollars pour renforcer la recherche sur les robots et les systèmes autonomes, la capacité autonome n'étant plus un simple concept de validation, mais entrant dans une véritable dimension stratégique. Cependant, lorsque les systèmes autonomes commencent à participer à la prise de décision et à l'exécution militaires, il ne suffit pas d'être plus rapide et plus intelligent. Sans systèmes autonomes vérifiables, cela représente en soi un risque de niveau national. Si l'on ne peut pas confirmer si le modèle a été remplacé, si le raisonnement a été altéré, si les décisions ont été prises selon des règles établies, alors même le robot le plus avancé n'est qu'une boîte noire non auditée. Les journaux et les déclarations des fabricants ne peuvent pas assumer la responsabilité au niveau militaire, une erreur non imputable peut avoir des conséquences irréversibles. C'est précisément pour cette raison que les systèmes autonomes de défense doivent placer la validation au cœur de leurs préoccupations. Pas de rétrospective, mais des contraintes en amont ; ne pas croire que le système ne devrait pas avoir de problèmes, mais être capable de prouver qu'il a effectivement fonctionné selon les règles ! Dans un contexte militaire, l'autonomie, sans preuve cryptographique comme limite, ne peut pas être déployée à grande échelle et ne peut pas non plus créer un avantage de sécurité à long terme. Un système de défense autonome véritablement fiable doit être fondé sur des calculs vérifiables, et non sur des hypothèses de confiance. Lorsque les systèmes autonomes deviennent une capacité de base, prouver qu'ils ont bien agi et leur permettre d'agir est tout aussi important ! #KaitoYap @KaitoAI #Yap @inference_labs