蜜度刘益东:大模型开始卷场景卷落地 垂类政务该怎么做

蜜度刘益东:大模型开始卷场景卷落地 垂类政务该怎么做

本报记者 李玉洋 上海报道

经历了2023年的“百模大战”后,大模型如何赋能千行百业?于是,2024年被贴上“大模型应用落地元年”的标签。对此,身处行业的大模型公司感受如何?

“从公司经营的思想上看,大家从原来的卷参数、卷性能、卷效果,到卷场景、卷落地、卷商业化。”在2024世界人工智能大会(WAIC)期间,蜜度科技股份有限公司(以下简称“蜜度”)首席技术官(CTO)、蜜度蜜巢总裁刘益东向《中国经营报》记者表达了这样一个关于大模型行业变化的观察。

在他看来,越来越多的大模型公司找到自己的赛道,并在这个赛道里摸索标杆场景,再努力实现规模化。据了解,2023年7月,蜜度蜜巢大模型在WAIC上首次亮相;10月,蜜巢完成了2.0升级;2024年年初,蜜巢完成生成式人工智能备案。

作为国内在政务领域开展大模型开发应用的企业,蜜度于2023年9月成立了独立公司蜜度蜜巢。“为什么要把蜜度蜜巢独立出来做大模型应用?是因为我们看到了生成式大模型在未来的整个技术发展和市场应用上会有很大的空间。”刘益东表示,得益于蜜度所积累的3万多家政务客户的用户基础,蜜度蜜巢则可以专注于开展大模型在政务领域的应用。“大模型虽然去年就有了,但落地重点是在今年。”

刘益东介绍,蜜度蜜巢目前有一支20多人的技术研发团队,除了5人专注模型研发外,其他人都投入到模型应用中去了。此外,蜜度还有其他研发人员配套蜜巢大模型的研发和落地应用。

AI大模型的第一桶金,到底是在2B还是在2C?这是个争论不休的问题。“目前我们没有特别强烈地要对to C场景去开展业务,因为B端虽然是一个需要静下心来、不断积累的市场,但是一旦形成了规模和特色,完成了积累后,其实它的竞争力就会一直在。”刘益东表示,很多巨头或业界知名人士都觉得B端可能短期之内挣不了钱,如同信息化时代,C端市场反而有很大的机会。“这块目前不是我们的发展方向,所以暂时不会切入C端市场。”

而相对其他垂直大模型而言,政务大模型有哪些不同之处?刘益东指出:“政务类客户天然对数据的保密、安全性有很高的要求。另外,基本需要在他的内网去提供服务,不能连互联网,所以我们大模型的服务都是在内网做本地化部署,然后用起来。”

不仅如此,政务场景的业务流非常长。“理论上这个业务流都可运用各种各样的智能技术和手段进行升级,现在是大模型,未来可能有更好的技术去改造、重塑、提升。”刘益东指出。

记者注意到,科大讯飞这些公司也在政务领域开展了相应业务,蜜度蜜巢大模型又将如何和竞品公司形成差异?对此,刘益东表示,科大讯飞这些大厂可能会提供相对成熟完整的方案,而蜜度从小切口单点处去切入,发挥效能,客户满意后自然会把更多的需要交给他们。

从项目成本来看这种差异化,刘益东认为,大模型垂直应用厂商可能更多在几十万元的体量,而大厂可能在百万元级。“这些大厂没有那么多的触角伸到县级、地市级的这种几十万元的大模型落地场景,一是成本太高,二是整个落地化工程没有那么多团队来做。”他说。

刘益东以蜜度蜜巢大模型在市民服务热线12345和市场监督管理两个场景的落地为例,借助蜜巢大模型,12345热线在接线、工单分类、工单分析报告撰写等方面效率得到了提升。“在市场监督管理这个场景,有很多格式化的执法结案报告要撰写,现在可全部由大模型来做,最后人只要看一下、做些简单的修改就可以了。这样的话,整个结案报告的撰写效率会非常高。”刘益东说。

本届WAIC上,蜜度还发布了蜜巢政务大模型3.0,并带来政务热线、政务智能问答、司法文书校对、执法文书辅助写作、智能伴游、宣传稿件辅助撰写等20余个核心应用场景。此外,基于蜜巢3.0的智能应用产品——智能舆情V助手1.0也闪亮登场,为舆情分析领域带来智能、高效的全新体验。

“到目前为止,我们蜜度大模型的应用场景半年多的时间已经沉淀下来了20多个。现在我们正在接触接洽中的或已经落地的客户有40多个。我们希望以这些为基础,继续以‘小切口、大纵深’的扩展思路,在数据、模型以及大模型应用创新这三个方向去发力。未来,我们希望能够在五年左右的时间达到超1万个大模型应用项目落地的这个目标。”刘益东表示。

(编辑:吴清 审核:李正豪 校对:颜京宁)

Tue, 09 Jul 2024 17:32:30 GMT 原文链接🔗: