我需要分析这段通话纪要,区分两位说话人并理解他们的对话内容。
首先,我来分析这段对话的核心内容和说话人身份:
一位是联想智能云的代表(以下称"联想方"),负责政府和大企业的私有化营销;
另一位是阶跃星辰的AI架构师(以下称"阶跃方"),负责大模型研发与应用。
通过语义和上下文分析,我可以识别出这段对话主要围绕双方可能的合作点展开,涉及大模型技术、应用场景和商业模式等方面。
这段对话中存在许多语音转文字的错误,如"基模"被误转为"鸡膜"、"千问"被误转为"千万"等,我会在分析中进行纠正。
好的,这是一个旨在梳理和总结所提供通话记录的执行计划。
本次对话发生在联想智能云负责政府和大企业私有化营销的代表与阶跃星辰(StepFun)公司的AI架构师之间,主要探讨在AI领域的潜在合作点。通过语义分析,我将对话内容按发言人进行了区分和整理。
联想代表:我们团队主要做私有云以及私有化的一些AI方案。因为创投那周比较忙,我还出差了几天,没有特别去研究各家情况。后来看了清单,我们挑选了一些可能合作的对象。创投鼓励我们业务部门能和被投企业一起做一些事情。
联想代表:我看贵公司有不同类型的人才,有视觉的、图像的、语言的、多模态的、大模型,这些都是自研的对吗?
阶跃星辰代表:对,Step2这个已经不翻了,现在都是Step3了。我们的优势在多模态,是一个大模型厂家。
阶跃星辰代表:我们有一个开放平台,主要提供API,面向开发者、应用或B端客户。这类似于GPT API、豆包的Claude 1.6这种API。我们直接与豆包、阿里千问竞争。这是开放平台的功能和逻辑。
阶跃星辰代表:另外,我们也为客户做模型的定制化服务,这是由我们B端团队单独讨论的项目。包括定制特殊型号的模型适配专门场景,使用特殊芯片,选择特定数据等,这些我们都与大客户有合作和交流。
阶跃星辰代表:基模这一块,目前能做这件事情的基模厂家很少,在国内做得还比较OK的基模厂家也不太多。我们目前在各方面还不错,尤其是最近在开放平台那端,开放的API表现很好。这是很扎实、实打实的技术一线PK。我们在手机大厂最近刚中标,把豆包给比下去了,我们与千问也是这样竞争。这是一个竞争很激烈的模型前线,我们还是比较有竞争力的。
阶跃星辰代表:在私有化和特殊定制模型方面,我们与联想也有合作,直接与联想研究院合作。另外,我们与各大终端厂家的合作包括端模型定制、手机上定制端模型、做海外模型等。我们还有自动控制手机、自动控制电脑的Agent,以及文生图、文生视频等功能。此外,我们还提供云上的知识库方案、工作流等,我们的能力比较全面,各种产品都有。
联想代表:你们的Agent是自己开发的吗?
阶跃星辰代表:我们主要做模型,Agent主要依靠合作伙伴开发,但我们也会开发一些。有些伙伴可能会使用DeepResearch,我们直接交付Agent结果。我们的DeepResearch在国内应该是首屈一指的,与豆包相比,豆包给B端的产品比较差,基本上不行。目前我们比较下来,在DeepResearch领域没有比我们更好的,因为我们接入了很多权威级的信源,在严肃场景上做得比较好,目前主要与四大会计师事务所合作。
联想代表:听起来你们主要是卖模型的定制服务和一些应用,这是你们的主要商业模式?
阶跃星辰代表:对,主要工作是这些。在不同项目中交付的内容不同,有的项目直接交付工作成果,有的交付模型,有的可能是一个小模块。
联想代表:像OPPO、绿色PS、飞书、国泰君安这些都是你们的重点合作伙伴吗?
阶跃星辰代表:对对对。
联想代表:联想除了研究院,你们还与哪个业务部门在合作?
阶跃星辰代表:目前是手机和摩托罗拉。研究院的项目也是我们在做,不清楚你们是哪个部门,是做服务器的吧?
联想代表:是的,就是新出的DGX Spark那种。
阶跃星辰代表:DGX Spark是我们下游公司,我们叫PGX。
联想代表:PGX那不是工作站吗?
阶跃星辰代表:对,它也是一个端侧产品。
联想代表:我了解这个产品,因为我们这个产品的营销在我们工作站营销团队,我们合作非常紧密。我们也在摸索能够做些什么。我们给他们做了一个个性化大模型项目,为vlog做一些视频编辑的功能,好像听说也是要给Y总汇报的。
阶跃星辰代表:就是前英总那边。
联想代表:我知道前英总,他们在定制模型,需要做一系列的训练。
阶跃星辰代表:说实话,对于联想这样的被投企业,我们采取比较开放的态度。首先,我们与你们合作肯定不能挣钱;其次,我们要把最先进的技术提供给联想。因为如果你要定制模型,找阿里或豆包肯定没人理你,他们都只卖标准化产品。但我们正常情况下也不会给普通应用如WPS定制模型,但联想不同,你们有很多端侧需求场景,又是硬件厂商,所以我们可能会有更深入的合作。
联想代表:那我们这种与前英总的合作,是我们和研究院团队一起研发模型后,相应方案有收益再分成吗?
阶跃星辰代表:基本上是直接知识产权交付。我们在这方面完全开放,东西做完后可以全部交给你们,不需要分成。
联想代表:那我们还是要支付一个服务费用吧?
阶跃星辰代表:对对对,就是开发费。
联想代表:明白了。那整个落地后,是按SaaS方式还是按API调用收费,还是直接开发费?
阶跃星辰代表:都可以。
联想代表:你们现在这些多模态模型是开源的吗?
阶跃星辰代表:我们的模型都是闭源的,但如果你们要定制模型,仅限于联想使用,我们可以讨论,可以支持联想。比如我们可以从千问3开始开发一个你们需要的模型。
联想代表:就相当于你们在做,只是替我们做,我们出外包费,大概是这种情况?
阶跃星辰代表:对,这个只限于联想,你们的客户可能未必行。
联想代表:明白了。如果我们有确定的方向,比如想做个法务相关的模型,可以一起来看?
阶跃星辰代表:是的。这对大模型公司来说,在我们能力范围内肯定可以做。虽然这类项目对基模厂家的技术价值或长期价值不高,但对联想,我们肯定要支持。
联想代表:我想想我们这边会有什么场景需要大模型。我们年初做这个事情主要是跟当时最火的DGX工作站差不多,就是提供开源模型结合我们自己的硬件,在工作站上预装大模型及管理工具,让客户使用。客户可以选择使用哪个模型,我们会预装几个。
联想代表:还有一类是基于模型能力构建知识库,类似KB。我们还有一个智能体开发工具IF,用来开发具体的智能体应用。我们主要卖这些应用,另有团队专门售卖各行业的智能体,包括通用的、行业的、自研的和合作伙伴的。通用的有客服、编程、智慧办公类的,行业的有面向政府的公文写作、面向医疗的智慧问卷等。
联想代表:我们两个部分不同,我们这边主要提供云平台的算力,加上模型、智能体和知识库工具;他们主要卖成品化应用。我们团队在SG方案与服务团队里,负责政企业务,基本都是以私有化方式提供,结合我们的服务器和工作站。
联想代表:我想到我们可以做的是,接入你们的模型,如果在某些领域有特色,放到我们的一体机里,一起卖给客户。我看你们有开放平台,应该可以以token方式调用这些模型吧?我不知道你们有没有本地化或一体机方案?
阶跃星辰代表:我们倒没直接做这个。我们的模型大多比较大,最小的也是千亿参数级(100B),还有30B的小一点,但大多数都比较大,有万亿参数的。我们新开源的有3000亿参数的,比GPT-3还多一点。
联想代表:服务器的话我们有NVIDIA的那种服务器,基本像绿色B的DP都没问题。
阶跃星辰代表:我们新出的那个推理模型是按着DPC设计的,包括用国产卡都会有较好支持,NVIDIA卡也有好的支持。不行的话可能需要A100这种,才能提高效率,但一般的服务器就可以了。
联想代表:你们也有开源的模型放出来?
阶跃星辰代表:对,StepFun 3.3就是开源的,专门对标DFCIC,效率比它高很多,成本降到1/3。参数量是300B左右,激活可能没那么大。
联想代表:这个做一体机,尤其是复杂场景,用这个也是个推理模型,而且是多模态推理模型。那这个是文本的吗?
阶跃星辰代表:他没有那么多能力,我们这还包括多模态能力。
联想代表:你觉得有什么合适的模型或应用适合放在DGX Spark这种体量的设备上?
阶跃星辰代表:DGX Spark的带宽有点低。你们见过这产品吗?
联想代表:见过,黄仁勋在发布会上拿出来了,也有相关paper。
阶跃星辰代表:因为它没用HBM,用低点带宽,模型推理会有问题,tokens跑不快,并发不会特别好。如果要跑Agent应用,一个Agent正常几十个token才能形成一个指令,多个指令串起来,用户体验会很慢。
阶跃星辰代表:我们建议在上面跑7B-8B左右的模型,可以多跑几个,串联一些功能,比较复杂的场景也可以。我们直接跑7B的就可以了。
联想代表:放几个7B的模型?
阶跃星辰代表:对,看业务场景。我们专训7B模型。这也是大环境趋势,近期千问和智谱AI可能会通过路由等方式,把简单查询直接用7B模型处理,不同大小的模型应对不同查询。7B模型是蒸馏模型,在某些领域未必比30B-70B模型差,在特定领域跑得也挺快。
联想代表:我现在感觉越来越多专精领域确实需要7-8B或14B端到端的专训模型,体积不那么大,但去掉了不需要的能力,还能消除一些幻觉。
阶跃星辰代表:用7B模型,甚至有客户要求只能引用,不能自己想。他们要求置信度足够高才能输出,不够高就不要说。本质上大模型不结合知识库,在B端或极端应用,包括私有化部署中没什么用,主要都是与知识库结合。
阶跃星辰代表:我有两个比较适合的方向:一是法律法务相关的,二是与德勤等咨询公司合作的私有化部署。DeepResearch需要多个模型,非常重、复杂,资源消耗高。它一轮轮深度查询、筛选、再查询,每次都消耗大量token,支撑这个复杂体系需要多个模型协作。你给它一个问题,它能搜索、写作,半小时出一篇报告。
阶跃星辰代表:这在高精尖或保密性高的场合很有用。普通用户不太用DeepResearch,但500强企业内部使用时,传统workflow或Agent控制不好用。我们现在有调研需求,像传统IG升级版,结合内部需求和外部权威信源写报告。我可以发个DeepResearch邀请码给你试试,它能比较公司差异、分析技术点等,做得很好,我最近基本用它写材料。
联想代表:这种DeepResearch需要的数据源最好有权威性,如何保证?
阶跃星辰代表:我们有专门的信源保证,花很多钱购买国家级信源、ArXiv、Science、Nature这类学术级信源,不会给你随便的互联网信源。它会优先搜索严肃信源,可以直接截图放入材料。
联想代表:这种现在主要是在云端跑,私有化不太容易?
阶跃星辰代表:对,目前是在我们服务上部署,但已看到需求。如博世的研发中心,他们不希望问题流出,因为在高精尖领域,问题本身很有价值。他们还有企业内部文档,更不希望传到我们云上,这催生了私有化部署需求。
联想代表:明白了,就是DeepResearch与私有化知识库结合。
阶跃星辰代表:对,即使本地部署,它还有向外联网的能力,那部分走接口就行。
联想代表:这个DeepResearch不错,如果方便给我一个邀请码,我琢磨琢磨我们这边怎么合作。我先大概了解这些,到时候也发给您我们的材料,然后再琢磨看有什么可以合作的,咱再随时沟通。
阶跃星辰代表:好的,你在北京是吧?下次我到联想那边时约你见面。
联想代表:对,你要是过来,随时找我。
合作背景:联想作为阶跃星辰的被投企业,双方探讨在AI领域的合作可能性。
阶跃星辰优势:
联想需求:
潜在合作点:
合作模式:阶跃星辰愿意为联想提供特殊支持,包括模型定制、知识产权交付等,联想支付开发费用。