当前位置:首页  资讯大全  科技

豆包大模型全面落地行业 助力企业打造专属智能体

豆包大模型全面落地行业 助力企业打造专属智能体

日期:2024-08-27 22:18:50来源:快科技浏览:

今年5月15日,火山引擎宣布字节跳动旗下“豆包大模型”正式对外开放。而根据QuestMobile报告提供的数据显示,基于豆包大模型打造的豆包APP,月活用户数上半年已达到2752万,是第二名的2.43倍。

更值得一提的是,来自多个行业的企业客户,正在越来越多使用豆包大模型。

在8月21日举行的2024火山引擎AI创新巡展(上海站)上,火山引擎智能算法负责人、火山方舟负责人吴迪表示,目前平均每天都有分布在约30个行业的企业客户使用豆包大模型,日均调用量已达到5000多亿tokens。

针对大模型在具体行业的落地过程,火山引擎副总裁张鑫重点分享了如何助力企业打造智能体(Agent),以及Agent为企业带来的助力。

张鑫表示,火山引擎认为,“更易落地”,与“更强模型”、“更低价格”同等重要,都是推动企业AI转型的关键要素。

在大模型具体的落地过程中,企业不仅需要大模型,还需要一系列的平台工具和工程化操作,才能把好的模型变成好的应用。如提示词工程、检索增强生成(RAG),以及针对行业不同需要,对大模型本身进行的精调等,这需要企业反复权衡和取舍。

在克服所有工程化挑战,并构建好模型之后,需要企业从单点的局部突破,逐渐向企业战略层面演进。通过实际调研发现,除掌握好的模型和技术外,企业落地AI还需要应对来自业务层面的挑战甚至误区,如AI产品的价值如何衡量、数据如何转化、如何选用合适的模型等。

张鑫表示,随着AI应用的深入和跨领域,智能体正越来越多参与到企业的业务运转中,甚至未来会同时出现多个Agent相互协同的状况。

对此,企业可以率先从成熟技术入手,先将其应用到简单的业务场景中,如通过提示词调优调用豆包大模型,就可以构建出简单易用的对话类Agent。而随着对企业积累数据的梳理,企业则可以进一步通过知识库RAG方式,增加回答的稳定性。

[MD:Title]
火山引擎副总裁张鑫

随着业务场景越来越复杂,企业会用到更加复杂的技术和工程化手段,这就需要平台能够支持多Agent编排、多Agent注册甚至多Agent自动发现等。并且在业务上线后,还要持续对模型效果进行测评,通过反馈不断优化,最终构建出完整的大模型应用体系。

张鑫强调,5月15日火山引擎发布的HiAgent产品,就是希望帮助企业用“零代码”或“低代码”方式,一步步实现技术落地。

HiAgent定位为企业专属的AI应用创新平台,向下可兼容多种不同模型。原生整合进来的豆包大模型,还能兼容第三方闭源或开源模型。平台为企业客户提供更为便利的提示词工程、知识库、插件以及工作流的编排。

张鑫表示,通过HiAgent,希望让企业客户的创意和想法不再受到技能的限制,可以实现快速落地,让人人都可以变成开发者。

他说,一个合格的智能体,需要具备对人和环境的感知交互能力,并能够对任务进行意图理解和识别,以及进一步进行规划,推理,最终像人一样使用工具,完成既定的任务。

从具体操作的角度来看,首先在写提示词方面,HiAgent提供一系列场景化模板,并提供一键优化功能。

在挂载知识库方面,HiAgent则支持多种不同数据源文件格式上传,用户无须面对文档解析的分片、语义改写、多路召回混排等复杂操作。

最后,面向不同的行业,HiAgent还预制了常用的企业级插件,并支持企业将内部系统以插件形式对接到平台中。

通过以上三步构建起AI应用后,企业还可以通过工作流创建专家级应用。通过拖拉拽方式,企业可以构建起端对端的、复杂的多Agent编排。针对特定场景,还可以让大模型自动生成一整套工作流,打造更完整的智能体。

张鑫总结到,HiAgent平台将开发的“门槛”降到极低,而当HiAgent将所有的技术难题解决后,各行业“懂业务的人”,就可以用最短时间,打造最适合本行业的应用。

随着AI场景越来越丰富,以及大模型越来越强的泛化能力,企业应尽早打造专属的AI能力中心。智能体的落地,一定要与企业内部系统融合,调用企业内部API,并与内部的IM、CRM、ERP等系统打通,从而实现“飞轮效应”。平台用得越多,就越“厚”,创新也就越快,平台沉淀的知识库、Agent插件模板等也就越多,真正为企业积淀自己专属的知识资产。

* 特别声明:资源收集自网络或用户提供,版权归原作者所有,如侵犯您的权益,请联系我们处理。