Nedávná spotřeba amerického letectva? Americké letectvo investovalo až 87 milionů dolarů do výzkumu robotiky a autonomních systémů a autonomní schopnosti již nejsou důkazem konceptu, ale vstoupily na skutečně strategickou úroveň. Ale když autonomní systémy začnou participovat na vojenském rozhodování a realizaci, nestačí být rychlejší a chytřejší. Autonomní systémy bez ověřitelných výpočtů jsou samy o sobě národním rizikem. Pokud není možné potvrdit, zda byl model vyměněn, zda bylo odůvodnění pozměněno a zda je rozhodnutí provedeno podle zavedených pravidel, pak bez ohledu na to, jak pokročilý robot je, je to jen neauditovatelná černá skříňka. Záznamy a výpisy dodavatelů nelze na vojenské úrovni považovat za odpovědné a náklady za nezodpovědnou chybu mohou být nevratné. Proto musí obranné autonomní systémy stavět validaci do jádra. nepřezkoumával se později, ale předem se zdržoval; Nemyslím si, že by systém měl být v pořádku, ale mohu dokázat, že opravdu funguje podle pravidel! V vojenských scénářích nelze autonomii uplatňovat ve velkém bez kryptografických důkazů jako hranic, natož aby tvořila dlouhodobé bezpečnostní výhody. Skutečně spolehlivé systémy obranné autonomie musí být postaveny na ověřitelných výpočtech, nikoli na důvěře. Když se autonomní systém stane základní schopností, je stejně důležité dokázat, že ho dělá správně, jako ho přimět dělat věci! #KaitoYap @KaitoAI #Yap @inference_labs