对话澜码科技创始人周健:AI Agent和SaaS是相辅相成的|《产业AI会客厅》

2024-04-18


做好Agent,重要的事情是定义好,包括希望 Agent 所在的环境,能够关注到哪些内容,并且它能够对什么样的目标负责等等。在业务需要更新的过程中,能够自动获取到这个更新,能改变它的行为,去适应它的行为。有智能性、主动性,而非被动。

作者|皮爷

出品|产业家


开年以来,大模型赛道的一举一动都在成为备受关注的话题。

从 Sora 的发布,Grok 的开源,从多模态的深化到计算存储的新范式等等,大模型在改变着一切,影响着一切。

其中,一个话题备受关注,那就是 AI Agent。即在大模型被定义的应用元年里,AI Agent 是当之无愧的讨论焦点,在业务流程里,在生产场景里,在企业服务里,它都在成为人们看见大模型和应用大模型的最小触点。

但在关注之外,更多的问题也恰在浮现,什么才是真正的 AI Agent?它是如何从大模型中诞生的?以及 AI Agent 的应用场景到底包含哪些?它能做的事情又有哪些?

此外,在 AI Agent 之中,也更被人讨论和关注的话题是,在 AI Agent 时代,新的软件开发范式应该是怎样的?它的出现对现代软件有什么影响?对于 SaaS、企业服务,AI Agent 的定位是重构还是增量?

在4月11日的《产业AI会客厅》第一期,我们邀请到了澜码科技创始人兼CEO周健,一起来聊聊关于 AI Agent 的一切。

人物介绍:周健,2006 年加入谷歌美国总部,此后历任阿里云、MediaV、依图科技、弘玑 RPA 等公司研发总监、CTO 等,如今创办的澜码科技主要面向的正是 AI Agent 领域。

以下为对话摘要(经整理发布,完整版可看视频回放):

产业家 皮爷:现在国内对 Agent 这个事情大家没有很明确的定义,到底什么才是 Agent?或者说在真正的业务里面它到底是怎么发挥作用的?

澜码科技 周健:Agent 能够代表你,能够跟环境进行互动、决策、适应环境,能够去成长、进化。

实际上,在 ToB 的环境中很重要的一个事情其实是组织。像当年我们在做 RPA 的时候,可能因为它的智能程度不够,所以在 RPA 时候它的那个环境更像是员工的这个笔记本电脑。

我觉得现在在业务上面要做好这个 Agent,其实很重要的事情是定义好,包括我们希望这个 Agent 所在的环境,这个 Agent 能够关注到哪些内容,并且它能够对什么样的目标负责等等。按照我们的叫法他其实需要知道这个流程是什么样子的。在业务需要更新的过程中,它能够自动获取到这个更新,就能改变它的行为,去适应它的行为。有智能性、主动性,而非被动。

产业家 皮爷:可以理解为,它比 Copilot 要更高一级别,Agent 其实还有进化的成分,比如说自我训练。我想了解一下现在目前 Agent 的这些东西,就是咱们在基座大模式的上层我们又做了一层,是流程的封装吗?

澜码科技 周健:是的。我其实一直在强调的一个观点叫做专家知识的数字化。我们期待的就是 Agent 其实是要理解这个领域,这个领域包括了企业本身的业务流程的一些要求,以及这个领域里一些专家的知识,辅助这个 Agent 去进化、增强。

现在我觉得还是只能是靠专家去闭环,未来我觉得可能甚至可以再用这些数据进行微调小模型,或者去训练一些机器学习的一些模型。

产业家 皮爷:很多专家知识的这些应用,这个应用的环节是在预训练的时候,还是说是在微调的时候,还是说在什么环节是咱们做的训练吗?还是说企业那边我们教给他们一个方法,还是说让他们自己内部用了相关的知识库,或者用 RAG 的方式把它最终做成这样一个东西。

澜码科技 周健:第一遍一般都是会用 GPT 4 去做验证,确保端到端这个场景确实是能跑通的。可能我们应该会问客户场景当中需求是什么样子的。比如问题集,比如他会给我们所有的政策文件,比如数据库表的定义等等。

企业会给我们很多系统的 API,希望我们能够去尝试,最后我们会再通过技术的实现,把这些知识从我们的数据库里边把它给检索出来,并且按照专家提前制定好的这些模板,然后把它给输出来。

产业家 皮爷:我们都是在公有云上给他去做这个事情吗?

澜码科技 周健:像央国企的话都得私有化部署。如果是零售或者其他的一些,有可能公有云。

产业家 皮爷:我们提供的这个产品,是一个什么样的方式呢?产品还是解决方案?

澜码科技 周健:我们自己垂直纵向做了十几个应用,在我们自己的平台上其实已经沉淀了很多的重点的功能,比如说知识问答,比如说指标查询,比如说任务完成。因为我们第一天就在说我们要做业务流程,而且其实是过去,其实已经有大量的沉淀,知道说 RPA 其实在做自动化的时候,哪些事情是做不了。

现在这些 Agent 的场景一方面客户意愿高,一方面实际上它的价值是比较容易能够去被衡量的,所以我们实际上也是在我们的平台上沉淀了大量跟公司财务或者说金融相关的这些知识模块、一些指标。

但我们现在没有做到开箱即用,就大模型落地的最后一公里,我觉得我们走完了 900 米,最后 100 米可能还需要企业的工程师自己来做。

产业家 皮爷:最近有人会提“RPA +AI”的事情,在 AI 时代,我们应该怎么去理解 RPA 呢?或者说它是不是已经不能完全称之为是 RPA 的东西?

澜码科技 周健:RPA 的价值点在于说我能够打通不同的系统,就像我们过去,不管是说,比如说网上银行对账等等,那他们基本上做到的事情还是说在设计流程当中的一个自动化,要么就是生成流程,要么就是在连接应用上面去处理,那么他们基本上没有进入到去理解文档这个事情。

今天其实这波最大的红利是我们这个AI可以理解我处理的文档了,需要对我们所面对的问题进行语言建模,我们这今天其实自然语言,比 CV (视觉识别)更难。

比如,13B 的模型它能处理的文档有些什么属性?这个问题一定要去解,就是必须要去认真的抽象的去思考,我们现在或者说去评价现有的这些模型,它的在文本,在语言上面的,它的能力的边界在哪里?它是不清晰的。

产业家 皮爷:同规模或者是不同大小的小模型,其实它现在并没有被定义能做哪些事情,或者能不能做,比如目前介绍里面更多也是偏向于简单的 Copilot 这些相关东西。这个事情企业在做相关那个训练的时候,自己不会感知到吗?或者谁来说明?

澜码科技 周健:今天其实很多企业在发布模型的时候,其实并没有一个特别好的一个标准,所以现状确实是,大模型公司今天对于他们发布、售卖的模型,实际产品的描述不到位。本质上也是说整个生态其实没有到位,那我们自己是对于不同参数的,包括不同公司的模型在什么场景下,至少在我们的适用的这些场景之下能发挥怎样的作用,我们是有判断的。但客户是不知晓的。

产业家 皮爷:这个难点在哪呢?是不是因为他们自己没有衡量好场景?还是说是因为基座厂商觉得就是这样的规模化,比如说就像 SaaS 产品一样,推出几个规模化的版本,对企业而言边际成本低,规模效应更强?

澜码科技 周健:我觉得还是他们今天对于场景理解不深,那我听到很多的说法是大模型公司觉得现在没有场景,但是其实从我的视角看起来到处都是场景。

就是我在某个大行里边,我们在帮他们去做智能客服的时候,发现其实某个有很多客服数据的大厂,实际上它的模型在 33B 的这个级别要比很多大厂更大参数的模型效果更好。

本质还是训练语料的问题,它有大量优质的语料来训练。现在市面上其实除了代码生成模型以外,其他的小级别的模型现在都没有被定义出来,应该怎么收费,包括怎么训练、微调等等,都没有明确的标准。

产业家 皮爷:咱们澜码期待怎么样的 AI 大模型的生态,这些基座厂商应做到哪种程度?他们要做的是哪件事情,然后把哪些事情交给咱们?或者说他们生态想搞成什么样子,咱们才更乐于去接受、乐于去进入。

澜码科技 周健:一个很大的问题在于,他们发布出来的模型,对于数据集其实是封闭的,虽然模型是开源的,但无法法确切了解其训练过程中所依赖的具体数据。

那么这些商业化场景当中的这些数据,比如化学、钢材、汽车领域,这些特定领域的文档如何能够开放出来?如何训练出来这样一个模型?

OpenAI 其实定义了一些语料标准和训练方法,中国基座厂商也应该有一些这样的定义或者微调能力,一起帮助客户解决问题,这样才能共赢。但现在大模型公司好像并不太会开放,不愿意跟我们这样的应用或者说中间层的厂商合作。

产业家 皮爷:您提到这个专业的数据集,我理解在国内是不是因为中国的很多企业的数字化,它其实没有到那个程度,很多行业导致它其实一部分的数据集没有出现?那就现在而言,我觉得是不是很多行业它没有办法产出这种很专业的数据集?

澜码科技 周健:在美国,整个软件的发展是一波一波进行的。首先是信息化,其次是互联网化,再次是移动互联网,最后是 AI,那么中国实际上是“四浪叠加”,不够标准化。

产业家 皮爷:目前,Agent 率先会在哪些方向落地?像软件侧的,ERP、CRM 这些,它可能相对而言在企业在过去多少年里经过过比较大场景的训练,很多流程是比较成熟的,咱们 Agent 企业会率先落地这些吗?

澜码科技 周健:实际上,现在我们反而不会去在一些成熟的流程里边去做,比如智能客服。目前Agent一定是要去增收,那增收或者说合规。我为什么说在普惠金融落地,因为普惠金融它本身实际是客户经理他不愿意做,而且之前的质量不够高,单人成本太高。

现在 AI Agent 的个性化定制成本是低的。通过自然语言甚至有些时候都能够把这个代码生成出来,然后改变掉业务的流程,并且回收数据,这其实很特别的。

产业家 皮爷:这个很有意思。像 SaaS 的话软件它可能固化的,做定制化大家都很难去做,这种项目很重,大家亏钱。但是到反正这种大模型时代,就是 Agent 可能具备这种自我进化或者智能的能力,反而做定制化的这种新的尝试会更容易一点。

澜码科技 周健:大家现在其实已经达成共识了,就代码生成在模型能够提高 30% 的效率,我觉得未来这个生产力的提升会进一步的加剧,那么很明显的一个趋势就是个性化定制。

产业家 皮爷:到后面 Agent 相互协作这个阶段,目前就是您觉得这个进程是怎么样的?或者说现在的这些卡点在哪里?以及,未来专业的 Agent 是不是会在 SaaS 的核心环节,比如 ERP、CRM 这些里面率先产生?

澜码科技 周健:首先第一个,今天其实最重要的卡点还是大模型,还是基座大模型的能力,那其实去年我们在 GPT 4 上面已经看到了它的能力,但是在私有化部署成本太高。GPT 5 能够私有化部署,但以智谱的最优模型来看,整个项目所需要的显卡,一套可能就要几千万。

其次,对SaaS企业而言,就拿 HR 举例,它是记录花名册的,那像我们新的Agent的企业,我们也没有必要把它去给替换掉,我们做这个东西没有意义,我们应该更多的是做连接,做个人的助手,把不同的系统最好能够连起来。所以 SaaS 企业应该有这个生态位,我觉得他们应该也会自己去做自己的系统。

产业家 皮爷:未来 SaaS 软件和 Agent 结合的方式,是一起可能为客户会提供这样一个定制化的方案,降低成本。现在关于专业数据集的构建,现在有什么好方法吗?

澜码科技 周健:大企业一定会领先,很多知识和数据在大企业里一定是分门别类整理好的,但是不是能达成共识,这个需要推动。标准其实是一直是软件行业里面的难点,这是很难的一件事情。

产业家 皮爷:未来对于一家公司来说,或者对于一些大型产业公司,它从底层到上层,大概会是一个什么样的形态?

澜码科技 周健:会有三层。首先第一个维度是说从用户的视角去看,一层是说你的用户人机界面,一定会只有几个它常用的,比如钉钉飞书企业微信等。

后面的其实今天的相当于是一个编排层,也叫路由曾,就是它会需要把就是前面的那一层的交互或者个人的一些偏好、喜好能够记录下来,向底层资源层传递。

最后再底层就是算法层、存储层,这个企业不同情况不同,有的需要企业大脑,有的规模比较小的可能就不太需要。

产业家 皮爷:世界模型,在Agent侧有什么价值?

澜码科技 周健:现在要好Agent,一定要有建模能力。我自己觉得说可能世界模型有点大,但我觉得组织模型相对准确,可以帮助我们能够做到更好。

产业家 皮爷:我理解,需要更全局视角、可能更偏底层规律的这样一个东西,而不是说是像单纯的现在一个大家刚才提的是规模法则,大力出奇迹,做到一定程度之后再怎么样。

您觉得现在市面上的 AI应用什么样的才是真正有价值的?或者说是它大概是经过一个怎么样的训练方式,或者说是怎么样的一个表达,它是能够真正在产业领发挥价值。

澜码科技 周健:大模型不是一个商品,是一个产品。它是需要有上层的专家知识的,让专家的这个能力能够帮到我们没有这个专家知识的这些初级、中级的员工。

我觉得其实 AI 应用很重要的一件事情是它必须需要能够去适应人,过去一年多我对这件事是比较失望的,或者说我本来觉得其实大家一开始就已经达成共识了,就是所谓的人机交互的界面会被革命性的重塑,但现在并没有,仍然还是之前的输入框的形态。

未来的挑战还是应该去想怎么样能够让机器跟人去配合,以及新的人机协同、人机融合的关系是怎样的,在交互等等各方面有所突破,我觉得这样的 AI 应用才有更大的价值。



分享
写评论...