热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
我对代理事务的简单看法是,所有模型之上的性能都来自于上下文,因此你需要让它访问你所有的数据,包括最敏感的数据,超出你之前认为可以分享的范围,这意味着你会想要在大规模上自我托管。
你将首先自托管虚拟机/秘密基础设施,进行更大的任务时,你最终会转向裸金属,最后当你开始对大型模型感到不安时,你会购买一个GPU集群,自托管经过微调的模型,这些模型适合你90%的任务。
当事情变得糟糕时,你会想要审计日志、警报、限制影响范围,所有这些东西。
所以这不是一个 "人工智能工程" 问题,这是一个非常非常传统的企业 / 零信任基础设施问题!
155
热门
排行
收藏
