Ajanla ilgili basit görüşüm, modellerin üzerindeki tüm performans bağlamdan geliyor, bu yüzden tüm verilerinize, en hassas verilere, daha önce paylaşmanın uygun olduğunu düşündüğünüzden daha fazla erişim vermeniz gerekiyor ve bu da büyük ölçekte kendi kendine barındırmak isteyeceğiniz anlamına gelir
VM / secrets infra'yı kendi başınıza barındırarak başlayacaksınız, daha büyük görevler için tamamen donanıma gireceksiniz, sonra büyük modeller konusunda rahatsız olmaya başladığınızda bir GPU kümesi alıp görevlerinizin %90'ı için iyi olan kendi kendiliğinizde ince ayar edilmiş modelleri barındıracaksınız
Işler ters çıktığında denetim kayıtları, uyarılar, patlama yarıçapını sınırlamak, tüm bunlar gerekecek.
Yani bu bir "yapay zeka mühendisliği" sorunu değil, çok çok geleneksel bir kurumsal / zerotrust altyapı problemi!
131