Moje proste zdanie na temat agentów jest takie, że cała wydajność modeli opiera się na kontekście, więc musisz dać im dostęp do wszystkich swoich danych, najbardziej wrażliwych z wrażliwych danych, więcej niż kiedykolwiek myślałeś, że jest w porządku, aby udostępnić, a to oznacza, że będziesz chciał hostować to samodzielnie na dużą skalę.

zaczniesz od samodzielnego hostowania infrastruktury VM / sekretów, aby wykonać większe zadania, w końcu przejdziesz do bare metal, a potem, gdy zaczniesz czuć się niekomfortowo z dużymi modelami, kupisz klaster GPU i samodzielnie hostujesz dostosowane modele, które są dobre do 90% twoich zadań

gdy sytuacja się zaostrzy, będziesz potrzebować dzienników audytowych, powiadomień, ograniczenia zasięgu szkód, całej tej otoczki

więc to nie jest problem "inżynierii AI", to jest bardzo, bardzo tradycyjny problem infrastruktury przedsiębiorstw / zerotrust!