百度升级千帆大模型“工具箱”:让客户一天就能跑通一个大模型

沈怡然2023-09-05 20:51

(图片来源:百度智能云千帆大模型官网)

经济观察网 记者 沈怡然 9月5日,百度在2023云智大会上发布了千帆大模型平台2.0版本,升级后内置42个国内外主流大模型。会上,百度集团执行副总裁、百度智能云事业群总裁沈抖表示,过去客户验证大模型的效果至少需要一周时间,升级后基于一站式的工具链,只需一天就可以跑通一个模型并看到效果。

百度智能云千帆大模型平台,相当于集成了多个模型及服务的一站式大模型工具箱,企业可以在平台上自主选择模型和数据集并与自身业务数据结合,最终快速应用到业务流中。

沈抖表示,该平台于今年3月首次上线,目前平台上的月活企业数已近万家,覆盖了从金融、教育、制造、能源、交通、政务等等领域的400多个场景。

沈抖用四个关键词形容升级后的千帆大模型平台,“料多、好用、高效、放心”。他认为,用户对大模型的关注点在于成本和效能,一直以来,大模型的训练成本较高,需要企业在部署、应用、开发等各环节紧密结合。“以前光是调试接入、验证评估就需要算法团队投入一星期的时间,现在基于千帆2.0版本,客户当天就可以跑通一个模型并且看到效果,快速投入到应用的开发阶段”。

沈抖表示,升级后的千帆大模型平台,在底层做了大量的适配和验证工作,兼顾了国内外主流的芯片和操作系统,不同厂商、不同代际的算力资源可以混合部署在同一个平台里,高效地配合使用。与此同时,客户的算法不需要大量改动,只需要少量修改就可以在硬件上运行。

2.0版本内置了42个大模型,这些模型以大语言模型为主,有百度自研、有海外厂商Meta、BigScience等研发并开源、有高校自研并开源的大模型。同时,还预置了41个数据集,预装了知识问答、客服对话、代码助手等10个应用范式。

大科创新闻部记者
关注硬科技领域,包括机器人及人工智能、无人机、虚拟现实(VR/AR)、智能穿戴,以及新材料领域。擅长企业深度报道及上市公司分析报道。发现前沿技术、发展趋势投资价值。