Нещодавнє споживання ВПС США? ВПС США інвестували до 87 мільйонів доларів у дослідження робототехніки та автономних систем, і автономні можливості більше не є доказом концепції, а перейшли на справді стратегічний рівень. Але коли автономні системи починають брати участь у прийнятті та виконанні військових рішень, недостатньо бути швидшими та розумнішими. Автономні системи без перевірених обчислень самі по собі становлять національний ризик. Якщо неможливо підтвердити, чи була модель замінена, чи було змінено обґрунтування і чи рішення виконане відповідно до встановлених правил, то незалежно від того, наскільки розвинений робот, це просто чорна скринька, що не підлягає аудиту. Журнали та виписки постачальників не можуть бути притягнуті до відповідальності на військовому рівні, а вартість безвідповідальної помилки може бути незворотною. Ось чому автономні системи оборони мають ставити валідацію в основу. не переглядати після, а стримувати заздалегідь; Я не вважаю, що система має бути нормальною, але можу довести, що вона справді працює згідно з правилами! У військових сценаріях автономію не можна реалізувати у великому масштабі без криптографічних доказів як меж, не кажучи вже про створення довгострокових переваг безпеки. Справді надійні системи автономії оборони мають будуватися на перевірених розрахунках, а не на довірних припущеннях. Коли автономна система стає базовою здатністю, довести, що вона робить це правильно, так само важливо, як і змусити її діяти! #KaitoYap @KaitoAI #Yap @inference_labs