Můj jednoduchý pohled na agentní věci je, že veškerá práce na modelech vychází z kontextu, takže musíte dát přístup ke všem svým datům, těm nejcitlivějším datům, více, než jste kdy považovali za vhodné je sdílet, a to znamená, že budete chtít hostovat sami ve velkém měřítku

Začnete tím, že si VM / Secrets infrastrukturu budete hostovat sami, pro větší úkoly skončíte u holého metalu, a až se začnete cítit nepříjemně ohledně velkých modelů, koupíte si GPU cluster a sami si budete upravovat jemně vyladěné modely, které budou fungovat pro 90 % vašich úkolů

Když se to pokazí, budete chtít auditní záznamy, upozornění, omezení dosahu výbuchu, prostě takové věci

Takže to není problém "AI inženýrství", je to velmi, velmi tradiční enterprise / zerotrust infrastrukturní problém!