9月25日,在2024百度云智大会上,百度集团履行副总裁、百度智能云作业群总裁沈抖表明:“2024年大模型的工业落地正在加快,现在在千帆大模型渠道上,文心大模型日均调用量超越7亿次,累计协助用户精调了3万个大模型,开宣布70多万个企业级运用。曩昔一年,文心旗舰大模型降价起伏超越90%,主力模型全面免费,最大极限下降了企业立异试错的本钱。”
沈抖表明,大模型以及配套的算力办理渠道、模型和运用开发渠道,正在敏捷成为新一基础设施。
以中国邮政储蓄银行为例,2023年,为加快大模型运用落地,邮储银行新增很多来自不同厂商的GPU资源,根据大模型为18个中心事务必恭必敬、30多家分行的金融事务供给AI赋能。在百舸的支撑下,邮储银行顺利完结了不相同的类型GPU资源的布置、上线;一起,也完结了GPU、CPU算力的规划重组,有力保证了300多个巨细模型、6000屡次练习使命。模型迭代时刻也从曩昔的一个半月大起伏缩短至半响,并完结了更好的模型作用。
“百舸”是百度AI异构计算渠道,百度智能云晋级发布百舸AI异构计算渠道4.0,面向万卡、十万卡集群全面晋级算力办理才能。现在,百舸在万卡集群上完结了有用练习时长占比99.5%以上,业界抢先。百舸4.0预置了干流的大模型练习东西,将万卡集群运转准备时刻从几周缩减至1小时,极大地提高布置功率,缩短事务上线周期。
不仅是快,百舸还非常安稳。百舸4.0能够主动筛查集群状况,并根据对GPU毛病的精准猜测,及时搬运作业负载,下降毛病产生频次。此外,百舸独有的毛病秒级感知定位、Flash Checkpoint模型使命状况回滚等技能,能够大起伏削减集群毛病处置时刻。
百度还晋级了千帆大模型渠道3.0。在模型调用方面,晋级后的千帆渠道,不仅能调用包括文心系列大模型在内的近百个国内外大模型,还支撑调用语音、视觉等各种传统的小模型。
曩昔一年,文心旗舰大模型降价起伏超越90%、主力模型全面免费,最大极限下降企业立异试错的本钱。
沈抖在大会现场演示了怎么经过对话,在AI速搭渠道上开发一个财物办理运用。只需一句话描绘对方针必恭必敬的需求,包括财物信息、财物入库、财物领用、财物修理、财物作废等功能模块,大模型就能清楚地了解需求并生成运用。曩昔,这样一个运用即运用低代码方法开发也需求几天的时刻,现在只需几分钟就能完结。
南方电网数字电网研究院副总经理胡荣表明,上一年九月,南方电网发布了职业笔直范畴首个自主可控的大模型“大瓦特”。“大瓦特”既是大模型、小模型及智能体构成的模型系统,也是敞开同享的渠道与生态系统。渠道上,南方电网根据百度智能云千帆渠道构建了电力调度值勤帮手。在应对突发事件时,电力调度值勤帮手能够秒级生成处置计划,极大地增强了调度员的应急呼应才能。