吃力,竟然能本地化部署AI?”
周舟说着说着,嘴里啧啧称奇了起来。
老周被说的,也意识到了一些不对劲。
而台上的徐希羽,自然关注不到父子俩的反应,
他继续介绍道:“不仅如此,在实际应用中,我们的训练成本为557.6万美元,远低于同类大模型,是Open AI的30分之一。
同时,我们的API调用成本,较比Open AI低了95%。”
“等等,等一下!”老周眼睛瞬间瞪大了,扭头对着周舟确认道,“照徐希羽的意思,他们这是用了三十分之一的成本,训练出了同水平的AI?”
“我靠???”周舟没有正面回复,而是发出了一声声惊叹,“疯了,这家伙是真的疯了,这也太牛逼了点!”
“不可能?不合理啊!佰度、微软……”老周依旧不可置信。
而周舟却听不下去了,打断道:“哎哟爸,别搁那佰度佰度了,佰度这些年除了放贷和做广告,还做成了什么?
他们内部早烂完了,养了一群吃饱了没事干的副总裁,成天除了搞内斗,正事是一件不干,你等着吧,这公司再这么下去,迟早得黄。”
“那也不该是徐希羽他们啊,你听听MOSS的股东构成,有一个和高科技相关的吗?”老周的表情越来越震惊了。
但让他震惊的事情,还没有结束。
只见,徐希羽继续道:“在我们的邀请测试中,我们成功的在国产显卡中部署了MOSS。
包括華为昇腾系列、摩尔线程MMT系列、海光DCU系列、寒武纪MLU系列等等。其中,MOSS在華为昇腾910B表现尤为出色。
理论算力达到了英伟达禁售芯片A100的95%;在长文本处理上,时延较比A100阉割版芯片A800,快了18%。
而海光DCU在我们的70B小模型训练中,显存占用率达92%,接近A100水平。
我必须要强调的是,MOSS-550B支持跨平台、异构分布式推理,也就是说,在部署的时候,可以选择英伟达和国产显卡的混合部署。
比方说,在测试中,我们的昇腾910B加A100混合部署方案,较比纯英伟达方案,成本降低了25%。
当然,为了抵御更进一步的芯片禁售风险,也可以选择纯国产显卡的部署方案,具体细节,今天就不再多说了。”
确实不用多说了。
因为,现场的人,已经完全被徐希羽给说懵了。
大家大眼瞪小眼的看着台上的徐希羽,懵的连结束的掌声都忘了鼓。
要不是地星文化的员工们反应快的拍起了巴掌,现场怕不是都要“冷场”了。
显然,在场的人是真的没想到,自己来参加个影视集团的成立典礼,能听到这么一番“大地震”般的消息。
“要是真的像徐希羽说的那样,相同的水平,更低的成本,而且可以实现在国产显卡上部署……
那特鲁的星际之门计划,不就直接破产了吗?”老周依旧瞪着俩眼珠子,微张着嘴的喃喃。
本章未完,请点击下一页继续阅读