如果说2023年是AI大模型元年,那么即将过去的2024年,将是AI大模型应用元年。今年,各行各业都在积极探索AI大模型在各自业务中的应用场景:软件开发、会议总结、智能营销、智能运维、个人助理……无数场景不断涌现。
然而,尽管繁荣,大模型在ToB领域的应用仍然面临很多问题,其核心是:如何实现商业化。
在余友平看来,ToB领域大模型商业化的核心是回归商业本质,帮助企业客户解决实际问题。
本次对话的嘉宾是于友平。现任北京中关村科进科技有限公司(简称“中关村科进”)总裁。毕业于华中科技大学,获博士学位,北京大学光华管理学院EMBA。曾任百度智能云副总裁。拥有17年领先科技公司产品开发和管理经验,在行业内具有广泛影响力。
于友平表示,大模特已经从“风雨飘摇”的阶段走向了“润物无声”的阶段。当前大模型的开发不再需要快速开发,而是需要精细化实施。
12月12日,在2024年大模型技术与应用创新论坛上,中关村科技正式发布德筑大模型平台2.0,并提出“平台+应用+服务”的“三级引擎战略”,余友平在会上表示对话钟表示,“平台+应用+服务是大企业模式落地的最佳路径。平台是大模式落地的技术引擎,应用是产品引擎,服务是价值引擎。”
平台方面,中关村科技通过自主研发的德筑大模型平台2.0,提供快速构建和部署大模型应用的一站式能力,帮助企业客户在大模型实施过程中降低成本、提高效率。
“德筑大模型平台2.0相比其他大模型平台的核心优势之一是,它结合了企业级最佳实践,集成了主流场景中的业务流程、词汇、规则、内容以及各种常用工具等核心元素。行业和领域。通过统一封装,沉淀了上百个全场景套件,让企业在构建和部署类似场景的大型模型应用时真正做到开箱即用。”余友平分享道。
在应用层面,中关村科技基于10年积累的领域和行业产品基础,构建了覆盖客户核心业务流程的产品体系,加上场景应用创新能力,帮助企业实现外部增长并提高内部效率。于友平表示,中关村科技与各行业合作伙伴共同打造了200+大规模模型应用,涵盖智能营销、智能客服、智能运营、知识管理四大核心场景。
在服务层面,中关村科技打造了端到端的全链条交付和服务体系,涵盖从客户咨询、平台建设、应用集成、效果运营等各个环节。中关村科金已服务超过1600家行业领先用户,拥有丰富的交付和服务经验。于友平表示,在大模型落地过程中,中关村科技始终与客户紧密合作,在最后一公里传递价值。
谈及大模型首先可以商用的场景,余友平表示,大模型在企业侧应用最重要的两个场景是:提升客户体验和员工体验。
在提升客户体验方面,在于友平看来,主要着眼于提升企业与企业客户之间连接的效率和效果。以营销场景为例。传统模式下,外呼营销电话需要大量人工坐席,消耗巨大的人力资源。而且,早期的智能机器人大多是基于小型模型。它们在处理简单查询时性能尚可,但难以进行连续操作。进行性对话和回答复杂问题的能力有限,导致与客户的沟通出现明显瓶颈。
某金融机构与中关村科技合作开发大型模型外呼。与传统机器人外呼相比,与客户沟通轮次增加83%,平均通话时长增加50%,显着提升客户体验。客户更喜欢与大型模型进行交互,以提供流畅的对话和有效的问题解决。
该金融机构单日最大外呼次数为1200万次,其中80%以上由大模型完成,其余由人工座席承担。这不仅大大提高了工作效率,而且优化了资源配置。
在提升员工体验方面,一方面,大模型技术可以提高员工工作效率。另一方面,大模型技术可以为员工的个人成长和培训提供更多支持。例如,在陪练场景中,某证券公司通过大模型陪练创新知识训练模式,让账户经理精准获取知识点,知识点掌握效率提升50%以上。同时,他们可以更好地了解产品并获得营销技巧。协助合规展会业务成功率提升15%。
展望未来,于友平认为,大模型将在数据和知识密集型行业和领域“领跑”。中关村科技将持续推进平台+应用+服务三级引擎战略,聚焦提升客户体验和员工体验的核心场景,加快大机型应用落地,帮助企业实现外部增长和提升内部效率。
以下为钛媒体APP整理的谈话实录(有删节):
刘向明:2024年即将结束。您觉得今年大型模型赛道的进展如何?您认为哪些发展较好,哪些低于预期?
于友平:我觉得和预期的差不多。首先,大家对于大模型的认识,无论是它的局限性,还是它所体现的价值,都已经形成了行业共识。 ToC方面,一些大型问答、聊天模式的增长在预期之内。
在ToB端,通过大模型技术和应用,帮助企业与客户的连接变得智能化,在某些场景下也帮助内部员工提高工作效率。这方面也符合预期。
刘向明:今年业界大模型应用特别流行,但还没有出现杀手级应用。您认为原因有哪些?
于友平:大模型应用市场还处于早期阶段。规模还不够大,客户认知尚未形成普遍共识,产品能力仍有优化空间。因此,目前还没有杀手级应用程序。但无论大模型是什么概念,最终目的都是为了给人们带来更大的价值。
刘向明:您如何看待大车型的商业化?
于友平:其实ToC端的商业化不用担心,只要有流量就行。但在ToB方面,大模型的本质是帮助企业解决问题。从目前的应用来看,企业侧的大模型更多的是帮助企业解决与客户的连接问题,包括主动连接,比如营销,也包括被动连接,比如客户服务。
在解决与客户联系的问题时,大型模型确实为企业提供了明确而直接的价值。在提高员工素质和效率方面,比如在客户服务领域,为客服人员提供辅助工具,很多企业都愿意为此付费。还有通讯汇总功能,在一些陪练(培训客服人员提高业务水平)场景中也有一些不错的应用效果。
刘向明:公司提出了“平台+应用+服务”的理念,作为实现大模型的最佳方式。请解释一下这个概念。这三个部分在这组路径中扮演什么角色?
于友平:基于中关村科技过去10年积累的ToB服务经验,加上大车型智能升级过程中的沉淀,我们发布了智能升级的“三级引擎策略”中关村科技大模式时代的企业。
首先是平台。智能平台+数字化平台才能真正让企业的数字化进入智能化阶段。因此,平台本身就是大模型落地的技术引擎。
二是应用。可以利用大模型对整个业务流程的各个环节进行智能化升级,包括营销、运营、服务、知识管理等,甚至生产、供应链、财务等场景都可以使用。智能与数字平台相结合,打造智能应用。因此,应用程序是大模型实施的产品引擎。
三是服务。公司“最后一公里”配送的另一个关键点是服务。服务是价值引擎,最终需要客户和企业使用大模型,包括咨询服务、平台搭建、应用调试和效果运营,缺一不可。
因此,平台+应用+服务才是真正实现大企业模式落地的最佳途径。
刘向明:中关村科技如何将自身通用能力与客户需求精准匹配?
于友平:通过与客户逐步深入的沟通,我们可以找出大模型当前能力与客户当前需求最匹配的场景和价值点。例如,在企业的外呼场景中,需要根据每个用户和不同的场景使用特定的词语。这时就需要给不同类型的人贴上标签,绘制用户画像,洞察客户需求,然后将这些数据和洞察与自身的产品特点和优势相结合,向用户推荐最合适的产品。通过与客户持续联合创新,优化不同场景的服务能力,从而提高外向营销的转化率。例如,某家装行业龙头客户使用了中关村科金的大模外呼产品。经过7~8轮迭代,采用20余种方法,大模型外呼营销转化率提升130%。虽然相对与真人相比还有一定的差距,但明显比传统的AI外呼要好很多。
刘向明:如何实现成功的经验积累和行业复制?
于友平:我们将基于各种场景应用的企业级最佳实践积累成行业包,并将这些包集成到德筑大模型平台中。每个套件都是针对性很强的场景解决方案。通过数据流、Agent流、工作流、大模型、小模型、MoE模型组合、SFT模型的综合运用,每个场景都经过了实践的检验。终于在平台上落下了帷幕。
德筑大模型平台2.0已积累数百个通用包和行业包。有了这样灵活的大模型平台,企业只需5分钟就可以构建自己的专属场景应用。通过德筑大模型平台,我们与各行业合作伙伴共建了200+大模型应用,涵盖智能营销、智能客服、智能运营、知识管理四大核心场景。
刘向明:针对这些场景,中关村科技通过大模型对原有丰富的AI产品进行了升级。如何确定优先顺序?
于友平:关于大模型在企业侧的应用,我认为企业CX、EX场景的应用是最优先考虑的。 CX()指的是客户体验,帮助企业客户为客户提供更好的服务和营销,提升企业营销和服务能力; EX()表示员工体验:帮助企业客户充分利用公司内部的知识和数据,打造企业或行业的知识助手,提高员工的工作体验和效率。
刘向明:目前中关村科技在大模型应用的落地方面,整体大模型产品的复用性如何?
于友平:目前效果比较好的应用有很多,包括智能外呼、反诈骗报警响应、智能陪练、财富助手、政务服务、医保办理等。这些场景复用性高的原因是客户决心拥抱大模型,尝试之后发现大模型的应用确实能给自己带来实用价值。客户拥抱大模型的决心非常坚定,能够投入足够的资源和数据,也愿意和我们一起打磨应用效果。另外,客户拥有相对高质量的数据,并用专有知识训练了基础模型,让大模型学习专业领域的知识,并建立了RAG知识库,使大模型能够回答事实知识和知识。更精确。准确的。
刘向明:中关村科技在解决大模型中的错觉等“小缺陷”方面有哪些经验?
于友平:解决幻觉问题是一项特别复杂的工程任务。中关村科技结合行业、领域的高标准数据,采用检索增强生成(RAG)、工具调用等知识注入技术,以及基于模型微调的领域训练,通过Agent实现更好的模型推理能力和更高的准确率架构(代理)问题的答案。在智能营销、智能客服、智能运营、知识管理等场景中,中关村科技与多个行业领先客户展开合作,多轮对话的结果普遍超出预期。
当新的技术浪潮到来时,每个人都必须适应它并不断调整。从应用层面来说,哪个服务商响应快、距离用户更近,谁解决问题更快,谁就能在这个过程中生存下来。坠落。
刘向明:整个大型模型产业链上有很多公司。在这个过程中中关村科技的核心竞争力是什么?
于友平:市场真正需要的大机型应用,必须能够解决客户的核心问题,提供端到端的解决方案。同时,还必须具备全链条服务。这也是中关村科技的核心竞争力。
基于过去10年积累的ToB服务经验以及大车型智能升级过程中的积累,中关村科技发布了大时代企业智能升级“三级引擎战略”模型。该平台是大型模型的实现。技术引擎、应用是产品引擎、服务是价值引擎。我们相信平台+应用+服务是真正实现大规模企业模式落地的最佳路径。这是我们的经验,希望与各行业分享和探索,让中国的大模式能够更快更好地落地。
刘向明:根据您的观察,结合中关村科技自身的业务,您认为目前哪个行业处于大模型应用的前沿?未来最有可能首先出现在哪个领域的杀手级应用场景?
于友平:首先需要选择有一定数据和知识支撑的场景,因为这些是大模型的“土壤”,比如金融、法律、医疗、教育等,大模型有能力消化这些行业或领域的数据,尤其是非结构化数据,可以提供更加自动化、智能化的服务体验,也可以更好地帮助员工提高效率。
其次,还有一些创意产业,创意的边界正在被大模型无限拓展。例如:在设计、文学等领域,大模型产生的结果并没有绝对正确的答案,但它们带来了更多新的可能性。当然,这些领域最终还是需要人们做出价值判断,我认为这些领域也是最有可能出现杀手级应用场景的。
刘向明:展望2025年,您对大型模型的应用有何期待?
于友平:大模型赛道存在一个确定因素和两个不确定因素。
可以肯定的是,大模型将会更加深入地应用于各个行业和场景。尽管大型车型在行业的渗透仍处于早期阶段,但工业智能化的进程不可阻挡。这是一条螺旋式上升的道路,未来的发展前景非常广阔。目前业界已经出现了很多值得深入研究并具有一定复用性的大模型应用场景,展示了大模型的价值潜力。
不确定因素是目前的大模型技术是否会产生较大的变化;整体经济发展的不确定性会影响大模型的轨道。这两点将从宏观层面影响大模型应用的发展。
中关村科技制定了以“平台+应用+服务”为核心的“三级引擎战略”,推动大模型应用落地,坚持专注于用大模型技术和应用解决客户实际问题。业务问题,帮助客户实现外部增长和内部效能提升。
(本文首发于钛媒体APP,作者|张申宇,编辑|刘向明)
本站候鸟号已成立3年,主要围绕财经资讯类,分享日常的保险、基金、期货、理财、股票等资讯,帮助您成为一个优秀的财经爱好者。本站温馨提示:股市有风险,入市需谨慎。
暂无评论