Недавние расходы ВВС США? ВВС США вложили до 87 миллионов долларов в исследования роботов и автономных систем, автономные возможности уже не являются концептуальной проверкой, а переходят на настоящий стратегический уровень. Но когда автономные системы начинают участвовать в военных решениях и выполнении задач, лишь скорость и интеллект недостаточны. Без проверяемых вычислений автономные системы представляют собой национальный риск. Если невозможно подтвердить, заменена ли модель, искажены ли выводы, выполняются ли решения в соответствии с установленными правилами, то даже самые современные роботы остаются лишь непроверяемой черной коробкой. Журналы и заявления производителей не могут нести военную ответственность, а одна ошибка, за которую нельзя привлечь к ответственности, может иметь необратимые последствия. Именно поэтому в автономных системах обороны верификация должна занимать центральное место. Не послепродажный анализ, а предварительные ограничения; не доверять системе, которая, как предполагается, не должна иметь проблем, а иметь возможность доказать, что она действительно работала по правилам! В военных сценариях автономность, если у нее нет криптографического доказательства в качестве границы, не может быть масштабно развернута и не может создать долгосрочное преимущество в безопасности. Действительно надежные автономные системы обороны должны основываться на проверяемых вычислениях, а не на предположениях доверия. Когда автономные системы становятся базовой способностью, доказать, что они сделали все правильно, так же важно, как и позволить им действовать!