La mia semplice opinione sulle questioni relative agli agenti è che tutte le prestazioni sui modelli derivano dal contesto, quindi è necessario dargli accesso a tutti i tuoi dati, i dati più sensibili tra i sensibili, più di quanto tu abbia mai pensato fosse OK condividere prima, e questo significherà che vorrai ospitare autonomamente su larga scala.

inizierai ospitando autonomamente l'infrastruttura VM / segreti, per svolgere compiti più grandi finirai per passare al bare metal, e poi, quando inizierai a sentirti a disagio riguardo ai grandi modelli, acquisterai un cluster GPU e ospiterai autonomamente modelli fine-tuned che sono buoni per il 90% dei tuoi compiti

quando le cose vanno male, vorrai registri di audit, avvisi, limitare il raggio d'azione, tutto quel genere di cose

quindi questo non è un problema di "ingegneria AI", questo è un problema molto molto tradizionale di infrastruttura enterprise / zerotrust!