一、初衷与愿景:一群平凡的人,怀着善意做事
我,以及我们公司的其他同事,一开始来做这个公司,初衷是没有想到说我最后要赚多少钱,要到资本市场上去,要上市,要怎么样的。我们是没有这个初衷的。最开始的几十个人完全没有这么想过——如果他这么想,他就不会来。
总体讲,我们是怀着一个对这个世界非常大的善意来做这个事情。我们觉得这是对人类有用的,这是一个金钱以外的事情。当然,到了后面,发现这个事情利益非常大之后,又有其他的诱惑,这个是另外的事情。但是我们出发的初衷、我们的愿景,以及我们保持到现在的这个愿景,不是按照一个商业利益最大化的方式来做的。我觉得这点比较关键。
大概二十年前,在管理上我最崇拜的是杰克·韦尔奇,就是 GE 的前 CEO。现在回来看,他说的大部分东西可能都已经不对了,但是他最重要的一点说对了:一个公司最重要的是它的愿景。
管理一个大公司,靠的不是你的规章制度,靠的是愿景。愿景是什么呢?愿景不是挂在墙上的标语,愿景是你怎么做,不是怎么说,是你怎么实际运行。杰克·韦尔奇说的原话我忘了,大概是这个意思。
我们是怎么管理这么多人、怎么组织起来的?其实我们没有组织,就是愿景驱动的,靠一个愿景来组织。这个有好处,也有坏处,未来我们会想办法扬长避短,但这个是我们的特色。我们并不是以一个”我要实现什么 KPI”的方式来做——没有考核,只有愿景。
这个愿景甚至也不是成文的,没有写出来过任何东西。这个愿景是在我们做事情的方法里、在我们对待这个世界的态度里。可能我们公司每个人对这个愿景的理解也不一样,每一个人的愿景也有差别,但是在一个大的方向上是一致的:怀着对这个世界非常大的善意,然后想做一点事情。我们是用这个来组织起来的。
接下来我先讲,讲完之后大家再提问。我会围绕着这个愿景来讲后面的事情。这个愿景是真的,不是编出来的,我们是真的这么想、真的这么做的,否则你没法解释我们的很多事情。
二、为什么坚持开源
为什么我们这么坚持开源?因为这个愿景本身就要求开源。你没有这个愿景,你没法把人组织起来。比如说,智谱也开源,但是智谱的开源跟我们的开源不一样。智谱的开源有一种被迫的感觉,他们觉得这不是本意;但对我们来讲,这就是我们的本意。
在开源这个事情上面,我们一开始就想得非常清楚。第一,是愿景;第二,我们认为要把 AI 这个事情在商业上做成,开源是有好处的。
这听起来有点矛盾,有点违反直觉,因为在历史上,开源跟商业化都是有冲突的。但我觉得 AI 跟以前不一样。在历史上,一个软件公司,它的市场一年可能就几十亿美金,一开源,它就没有了,可能就只剩下几千万或几亿美金了。但是 AI 这个事情足够大,最终它可能得占掉人类社会 GDP 的百分之十,那其实是一个非常大的数字。你不可能独占这个事情,你一定得跟别人分享,否则你肯定活不下来。
这跟之前开源做一个软件是不一样的,那个软件的市场就没那么大,但 AI 这个事情实在太大了。如果说我们想独占这个利益,那么一定是要被历史抛弃的。这是一个客观的规律,这是一个历史观。并不是说我不开源,我就能够独占这个市场——这在理论上就不符合客观事实,你一定会遇到很多阻力,一定会有其他的方法阻止你实现这个目标。
在这种情况下,不一定要按照传统的商业思维。你需要有一套机制来确保你自己能够获得的利益是有限的,那么你才有可能做成。需要克制,我觉得是需要克制。
如果说我们想在我们手上把 AI 这个事情做成,首先我觉得是需要克制。不能够想着人类 GDP 的百分之多少都归我了、中国 GDP 百分之多少都归我了——你越这么想,越做不成。所以我们从一开始就觉得需要克制。你越克制,你越有可能做成。 这是一个商业上的考量,当然这是一个宏观的考虑。
我觉得这是符合直觉的,至少是符合我的直觉,至少我是真的这么想的。我们并没有非常多的其他优势:我们没有什么本事,并没有比别人有钱,也没有说我们人员比其他公司更好,其实没有的。你想,我们两年前成立这个公司的时候,又没有很多钱,又没有很多卡,又没有什么知名度,又没有什么号召力,我们就是一群非常平凡的人。
真的就是一群平凡的人。如果一定要有一个喜欢的叙事,那就是:一群平凡的人做出了不平凡的事情,而不是一群天才做出了不平凡的事情。这个跟我们的克制是很有关系的,跟我们的克制、跟我们的愿景是一脉相承的。
三、克制:API 定价与”十个月回本”
开源跟商业化会不会有冲突?我觉得在 AI 这个事情上面,你不克制,你就起不来。
开源是属于克制的一部分。我们的克制不仅表现在开源上面,还表现在很多方面。总体上来讲,我们不用专门去考虑开源这个事、克制这个事——你越克制,可能就越容易做成,至少到目前为止是印证的,是能解释得通的。否则没有办法解释为什么我们能够做成:我们并没有什么武器,起点又非常低,资源又非常少,我们的人其实就是随机的一群平凡的人,我自己也就是一个大学毕业的学生,也不是最顶级的那个学校毕业的。
这个克制也是我们愿景里的一部分。AI 这个事情太大了,利益太大了。我们非常克制,只要能够做成,最后利益都会非常大。你随便分一点,利益就非常大,所以现在根本不用考虑拿这里面的哪一部分利益、怎么拿,这个利益足够大了,你只要分一点点,就已经很足够了。
所以我们之前说,我们只赚取一个合理的利润,只看你的意愿,而不是利润之大,这是不一样的。我们 API 定价的逻辑是:一个合理的利润,大概是我们到市场上买一批设备回来,十个月收回成本。在当前的情况下,考虑到你有风险、还有前期的投入等等——一个服务器,我们在财务上按照三年或者五年摊销,但在商业上,我们觉得大概十个月收回成本,我们觉得够了。这就是我们现在 API 定价的逻辑,我们的 V3.2 Flash 跟其他的,都是十个月收回设备的成本。
这就是我们的标准。它其实不是利润最大化的——如果利润最大化,应该把价格设得更高。因为在这个价格区间,用户的需求是没有弹性的:我价格再翻一半,或者再抬高一倍,token 的消耗量区别不大;如果我价格再贵一倍,我的总收入接近一倍。
我跟你们讲个故事。我们那个 DDCP,是我们那个模型,一开始我们担心需求太多,所以一开始把价格定得比较高,团队里大家不是很高兴。后来我把价格又降下来了,降到四分之一,大家就很开心。
我觉得这才是我们真实的想法,就是我前面说的愿景:我们还是让这个东西对人是有用的,而不是我们赚最多的钱;是我们在能够赚到合理利润的情况下,大家都用得起。这也是我们公司其他人的想法——我们那时候降价的时候,公司群里面很多人是欢呼的,大家都觉得很开心。因为这是我们花了这么多精力、这么用心把这个模型做好的目的:能够非常便宜、效果非常好,能够让大家都充分地用。我们就觉得这很开心。这是我们的动力,这是我们的愿景,是我们公司能够凝聚到一起去做这个事情的共识。
这点应该是比较特殊的。因为降价对我们其他的竞争对手来讲,肯定不是个好事,他们一定不是欢呼的——你的收入、你的 ARR,降一半,ARR 就掉一半。这是一个我们不一样的地方。
我们觉得这就够了。从公司内部来讲,十个月收回成本,这个商业上我已经非常满意了;对于公司外部来讲,我们也觉得这个价格是大家比较开心、比较乐意看到的,是双赢的——公司跟社会、跟所有人都双赢。
刚刚有人在屏幕上留言说,十个月回本这个利润太高了。确实还有降价的空间,在模型的优化上也还有空间,所以整体降价空间还是比较大的。但是这个成本——十个月回本——我们自己能做到,其他家做不到。像阿里或者腾讯,他不是我们的优化,他的成本应该要比这个高好几倍,这里还是有很多优化的工作。
刚刚说我们为什么不继续降价?是因为它没有弹性:我再降价,需求不会更多了,或者增加得很少。因为这个价格所有人都用得起了,大家都觉得满意,不会因为这个价格贵而不用。所以降价,首先公司不会有更多的收入,对社会来讲也没有更多的价值——这个价格大家都满意了,你再低,对社会的幸福感也没有增加很多。
在定价这个事情上面,我们肯定不是以公司收入最高或者利润最高为出发点。这是我们克制的一部分。从短期来讲,你价格高一点,收入多一点;但从长期来讲,还真不好说。因为我觉得克制是一种策略。对我来讲,克制是一种战略——有时候你可以舍弃一些,来换更多其他的东西。开源这个事,其实也是一样,也可以认为是我们的让利。
首先,这个让利对我们公司内部来讲,我们很高兴,大家都很开心,员工觉得很有成就感,我们会因此有凝聚力;其次,这个让利对社会是有好处的,社会也很高兴,其他同行、普通人都会很高兴。所以这种克制,我理解从长远上来讲,能够增加我们做成 AGI 的概率。
我毫不怀疑 AGI 会有非常大的商业价值。在这个基础上,我优先考虑的不是我怎么多拿一些份额,而是我怎么增加我能够做成的概率。
四、克制的其他体现:不抢用户,不捡光所有芝麻
这个克制还体现在很多其他的方面。比如说,去年春节用户突然很多,但是我们并没有去追求我要留住这些用户、拿这些用户来变现、去抢这些商业利益。我们没有去抢用户,没有去赚钱,但我们很努力想办法把用户服务好。我们并不会有这样的想法:我要做成下一个超级 App,我要去跟谁竞争,我要做成下一个字节、下一个腾讯。完全没有这样的想法。
我们是可以这么做,但是我们没有这么做。我的理解是,这也是克制的一部分。你不要想什么都要赚——好像有了用户之后,就能够做成下一个字节了,然后你就把那个吃了。这个在商业上是行得通的:如果去年我们用了大笔钱跟字节去抢用户,也是一种打法。但是我们选择的是一种非常克制的做法,我不跟你去争这个东西——因为后面还有西瓜,前面的可能都是芝麻。
我不应该什么芝麻都抢。当然,可能这个芝麻比较大,但我觉得跟后面的 AI 比,前面都不算大。现在来看,去年我们没有在 C 端发力,可能是对的,因为能看到后面真的是有更大的西瓜,前面真的只是一些小芝麻。如果去年我就有很多钱、把这个事情做得非常大,有什么好处?你并没有得到什么东西。这些是我的真实想法,因为我觉得后面的 AGI 机会是非常大的,永远是非常大的。
我甚至不用考虑我到时候在里面占一个什么位置、商业模式是什么,根本不用考虑。只要有那么大的商业机会,你一定是有办法的。前面的芝麻,我们也会捡,但只是随手捡一点,并不会停下来、或者把它当成重要事情来做。
所以去年的 C 端日活这些,我觉得可能就是个小事。但我们也捡了,用一个比较低的成本维持了用户的使用,因为有可能以后是有用的——虽然现在不知道这用户有什么用,现在它是一个纯成本的支出,但以后可能有用。既然是随手能够拿到的,我们就顺手拿到。
包括今年来看,很有可能我们在 API 或者 AI 方面的 ARR 收入,也是有一个机会的:如果这个需求可以继续扩大,显卡可以买到更多,那么 ARR 做到几个亿美金是很有可能的。如果 AI 能做到十亿美金,那么基本上我公司的现金流就能回正了,能够 cover 我的研发费用、cover 我的所有费用。这个也是有可能的,但是我们没有把它当一个优先来做。这个我们会做,要把它做好,但它不是第一优先考虑的,也不是我们今天真的关心的。更大的机会应该还在后面——前面的机会,包括去年的 C 端、今年的 B 端,都不是我们的目标。或者说,我们公司大部分人不认为这是一个跟 AGI 同等重要的问题。
五、再谈开源:六倍利润之下,没有冲突
开源可以多说一下,因为之前有很多问题问的都是开源。首先,我们是会开源的,我们最强的模型可能也是会开源的。因为我看不到闭源有什么好处——字节它的模型是闭源的,有什么好处?我看不到。
哪怕是模型开源,你把所有东西都告诉别人,这个门槛也非常高。别人要用起来,就很难;其次,他要用起来,还要成本做得很低,也很难很难,没有那么容易。并不是我开源了,他就能够轻易地做到跟我一样的部署成本,这里边还是有很多工作要做的。虽然这些工作原理都明白,但不是每一家公司都愿意、或者都有这个意愿和能力来组织人力去达到这个目标。它可能不擅长做这个事情,因为阻力太大了,要控制这个成本很难,有很多管理上的、物理上的制约。
这也是创业公司的优势:创业公司如果太小,你没有力量来做这个事情;如果是大公司,你很难组织。这个事情都有难点,所以这是属于我们这个规模公司的一个甜区,sweet point。如果我们更大了,可能就没有这个问题;如果更小,我们的力量又会不足。
至于定价,我也不会收一个非常高的费用,也是按照十个月回本来收。按十个月回本,就已经能够……我按十个月回本,就能够让独立部署的第三方无利可图——第三方做不到,他做不到这个成本,肯定做不到。所以开源并不会影响我的收入。当然,如果我要赚一百倍的利润,那么开源就……(现场视频短暂中断)
开源,我觉得对我们的商业模式是没有任何影响的。前提是我们只赚六倍的利润——十个月收回成本,大概对应的是六倍的利润。在只赚六倍利润的情况下,开源是不会有什么影响的。但如果说你要赚一百倍利润,那么开源确实会影响你赚一百倍利润,因为第三方会部署,他可能是二十倍成本,就比你低了。
这个模式是不是长期可持续的?我觉得是可以的。在我们的愿景下,开源是长期可持续的,我们是打算这么做的。你可以认为,克制也是有利于长期利益的。这个策略能够让我们在技术上有更多的机会,我们做成 AGI 的概率也是更大的,我们更从容。
你想,我们根本都不用加班,因为就没那么难。但是对其他家来讲,可能就很难,因为他想的太多了。其实不难的,根本就不难。外面可能看起来,我们选了一个很难的模式:要做研究,要做最难的事情,好像是个 hard 模式。但其实我们在别的地方舍弃了很多,使得我们还是非常有力的,我们还是做得非常轻松的。
所以对开源这件事情,我的判断是:它是持续的。开源和商业付费之间没有冲突——前提是六倍利润的情况下没有冲突。六倍利润看起来很高,但其实不高。现在 AI 的效率这么高,一个合理利润可能就是这么多。未来它可能会降到四倍、三倍,再到底也不可能再降了,但它还是会有很大的利润——就光看卖 API 这个事情。我并不觉得卖 API 有那么大吸引力,但就这个事情可以说明:我没有看到有什么冲突。
我也不担心别人部署我们的模型来跟我们竞争,一点都不担心,我们还希望他们能够部署起来。我们尽可能给开源社区提供帮助,协助大家能够把我们的模型部署起来。我不担心他跟我抢这个生意,因为这个市场足够大。我只担心他部署不起来——有些细节没做对,效果变得比较差,或者成本会比较高。这里是没有冲突的。
去年有 To B 生意的时候问得比较多的是:我们的 C 端——我开源,那么 C 端是不是跟我自己的 C 端冲突了?因为我没有流量的优势,腾讯自己流量很多,他部署我们的开源模型,把所有的 C 端用户都接过去了,就把我的 C 端用户抢走了。但其实并不会,这里面还是有很多原因的。
还有一个问题:我们给的开源模型,跟我们自己部署的模型是不是一样?是一样的。我们不会开源一个差点的模型、自己部署的时候用一个更好的模型,是不会的,是一样的。这也说明它其实没有冲突。我们去年一整年,C 端基本就是开源的,C 端的服务没有看到冲突,真的没有看到冲突。这是开源的这部分。
六、我们的目标是 AGI:技术路线图
下面是公司的长期 vision。我觉得我们的目标应该是 AGI。每个人对 AGI 的定义不一定一样,但是不妨碍我们把 AGI 当做我们的目标。
从技术路线上来看,AGI 这条路线图是比较清晰的。目前的这一代 AI 技术,如果你能够把一个问题描述得很清楚,给它完整的上下文和指令,它已经超过人类了。但这里有个前提:你给它完整的上下文、完整的指令——这个前提是很难达到的。比如说我们今天开会,我们前面有很长很强的上下文,可能大家有几十年的上下文,这是 AI 不具备的。现在 AI 能具备的是:在一个局限的上下文里面,它能做得比人更好。
但它还是替代不了人类。这里面还差一个地方:持续学习。人能够持续学习。你招一个员工,他可能花两个月熟悉公司的环境、熟悉他的工作,他就可以上手了,能做很多事情。他能够听懂你说的话——你说”叫那个小王来”,他就知道小王是谁。但如果是 AI,因为它前面没有这两个月的学习,你跟它说”叫小王过来”,你得告诉它小王是谁、什么职务、在哪里、要怎么去找他、找的时候注意什么。你得给 AI 所有的上下文。在这种情况下,AI 是能做的,但是你不可能给它所有的上下文,不现实。
所以 AI 并不能够替代你的员工。但如果说 AI 具有持续学习的能力,它跟你的员工一样,到公司学习两个月,那么就可以替代天下的人了。所以我们离下一步还差一个”学习去学习”。
AI 的发展,可以理解成它是一个阶梯。去年走的阶梯是 CoT,就是思维链:我们发现通过思维链的方式,可以让智能达到一个更高的水平,通过它自己思考,可以让 AI 做更多的事情。我们又跨过了一个阶梯。今年的阶梯就是 Agent:用 Agent 的方式,更多的事情也可以做,它的能力范围更大,智能上限更高。
为什么是阶梯?因为后面的每一步都是基于前面的基础。Agent 要用到 CoT,CoT 也要用到前面的阶梯——前面的阶梯就是语言模型。所以它并没有一步是白走的。
AI 智能的走向是有迹可循的。今年走的这个阶梯是 Agent,但 Agent 这个阶梯也是会走完的:它把所有可能解决的问题都解决完之后,还是不能替代你的员工——它已经到它能力的上限了。就好像 CoT 一样,CoT 到它的上限之后,已经超过最顶尖的人类了——做奥数题、写程序,已经超过最顶尖的人类——但是它还是停在那个地方,那个技术并没有能够到达 AGI。
在 Agent 之后,我们觉得应该要解决的问题是持续学习:怎么让模型可以持续地学习,而不是说你要给它一个很强的训练——它应该能够像人一样,做一个比较长时间的持续学习。这个问题跟完成任务等等是同一回事,它们相关,解决的是同一个问题。我们现在站在 Agent 这个地方,能看到的下一个瓶颈就是持续学习。下一个要解决的问题就是怎么持续学习,这个是看得到的,相对来讲比较明确的。这是卡在前面的障碍,你必须要跨过去,而且一定是有办法能跨过去的,但需要时间。
持续学习之后,可能我们就会来到一个奇点:当这个模型能够持续学习之后,它已经能够做人类能做的所有事情了。它能够自己开发自己的版本,自己再研究,开发自己的下一个版本,开发更强的人工智能模型。所以它就会到一个奇点,能够实现自己的迭代。
但这个奇点,它并不是一个奇点,它也是一个渐进的过程,可能是一个比较长的渐变,不是突变。但习惯性地,我们都认为它可能是个奇点——因为在很早之前,那些预言家认为这里会有个奇点。其实它不是一个奇点,它是一个连续的过程。然后这一步走完之后,我觉得才是具身智能。
这是我们的推测,是我们觉得的时间表:先解决”学习去学习”,再到那个智能的奇点——能自我迭代的奇点——然后才是具身智能。 到具身智能之后,它就走进现实世界,可以给你做家务,可以给你养老。
我们觉得这是一个比较理想的路线图。每个人观点不一样,没有对错之分,只是我们觉得,这个路线图是最轻松的:每一步你要做的新东西都很少。这个路线图,我们可以不用加班。但如果路线图是反过来的,比如要先实现具身智能,那就做得很累,这是一个很苦的活。我们不希望是这样的路线图,我们希望做得轻松一点。
先解决持续学习,再解决自我迭代的奇点,再解决具身智能,这条路上就很轻松。因为到后面,你可以用前面的技术来帮助开发后面的技术。奇点之后再做具身智能,就不用人来做了,不用我们来做了,模型自己就可以出来。
所以这是回答我们的长期目标是什么:这就是我们的长期目标,就是我们说的 AGI。
七、降维打击:C 端、B 端都是 AGI 的副产品
大家回到现实。去年最重要的现实是,大家都要做 Chatbot,要抢 C 端的流量;今年的现实是,大家都要抢 To B 的收入,要参与到这里面去——因为如果不参与,根本就不在牌桌上,对不对?
但我们并不认为它是一个重要事情。在我们公司内部,我们真正关心的,其实是刚刚我说的这些 AGI 的路线图,以及下一步技术怎么突破。
有一点很奇怪:最想得到的东西,反而你就得不到;没有那么在意的事情,反而还蛮容易得到。这里边有一个战略上的优势:我们心里面想着 AGI,做的是 AGI,再做那个应用、做 C 端 B 端的时候,根本不用太多的心思,花很少的精力就可以了。
你站在一个技术的高位上,做相对低一级别的技术,是有降维打击的。至少在去年的 C 端,我们看到确实是这样:我们没有在 C 端花很多力气,甚至一度都不想维护那些用户了,但是用户赶都赶不走——真的是赶不走,所以最终都还在。今年 B 端的收入,现在看起来增长还比较乐观,跟同行比应该也是比较好的,我估计。但是我们并没有花很大的精力去做这事情,我们根本就没有专门做,就是顺便做的。
AGI 这一步是我必须走的,是个台阶。通往 AGI 的路上,我要经过这个台阶。我把这些技术通过 API 给大家服务,我没有干额外的事情。我们还是在做 AI,这是一个副产品。我只要搞几个人维护这个 API 就可以了,甚至客服都没有,也不用销售,什么都不需要,用户自己就会来。
C 端和 B 端,都是我们做 AGI 路上的副产物,是一个中间的产出,跟我做 AGI 没有冲突。我并不是为了做 C 端、为了做 B 端而去做它;我们做 AGI 是为了做 AGI,刚好能产出这个东西,我就把它拿来做商业化了。
这跟其他公司不一样。其他公司就是为了服务 C 端用户、服务 B 端用户而去做这个模型;但对我们来讲,初衷不是这样的,我们初衷还是去追求 AGI。
我觉得这个在一定程度上是一种降维打击。AGI 是更大的愿景,这个愿景能够凝聚起更多优秀的人,它有更强的凝聚力。所以我在组织上有优势,我利用这个优势——它就是一种降维打击。
但如果你是一个商业公司,你的愿景就是服务好 C 端用户,那是另外一个故事。他有其他的优势——在产品上、用户服务上、流量上会有优势——但是在技术上没有优势。现在比较有利的形势是,模型技术是最重要的,你要把模型做好。这个可以解释我们之前发展的轨迹:我们真的是选择 AGI,根本没有想着要做很多的用户。
去年春节我们突然火的时候,不在我们的剧本里面,我们完全没有想过那个东西,我们就是想把这个技术做好。但那时候我发现,我们这个组织相对于完全商业化、以产品为目标的组织来讲,在人才跟组织上是有额外优势的。
这也很神奇:那时候 C 端大家都抢得头破血流,结果被一个没有去抢的人牵走了。这个确实说明我前面说的逻辑是有道理的,确实是有人才和组织上的优势。
这个人才优势不是说我的人比他更聪明,而是这些人才我怎么组织起来、怎么激励他、怎么合作,这个东西是有优势的。因为你把聪明的人聚在一起,并不是说他自然而然就能够合作、就能够非常有激情地奔一个目标去完成,所以你需要一个愿景。我们前面的经历给我的启示是:AGI 这个愿景是很强大的。
八、最大的核心利益:团队的稳定性
下一个问题:核心利益的重要性是什么?
我前面说,我们在很多方面都要非常克制。但我们的核心利益是什么?其实只有一点:我们最大的核心利益是要保持团队的稳定性。这是我们最大的核心利益,甚至可以认为是唯一的核心利益。
只要我能够保持团队的稳定性,我一定能做成,一定能做成 AGI,就这么简单。只要大家都不走,我们能够继续做,我就一定能。基本上没有什么风险,只是早点晚一点;如果遇到挫折,大家都不走,那么我又可以继续。钱肯定不是问题,资源不是问题,其他要素都是容易获得的。对我们来讲,只有一个核心利益,只有一个没法退让的:我们必须要保持团队的稳定性。
这也是我们面临的一个非常大的挑战,我觉得是最大的风险。当然,这个风险随着我们近期的这一次融资,得到了比较大的解除——因为大家拿到的期权还是比较多的,金额还是比较大的。
从团队稳定性来讲,只要最重要的一些员工、最老的员工能够稳定,其他人是不太会走的。其他人哪怕期权少一点、收入少一点,他也不会走,因为他不是全奔着钱来的——大家都希望在一个能够做成 AGI 的环境里面做这个事情。所以对人才来讲,还是有吸引力的。从历史上看,我们的人才流动是比较少的,跟同行比,永远是比较少的。但这依然是我们最大的挑战、唯一的挑战,可以这么讲。其他都是时间问题,最多导致我们晚半年、晚一年,但不会说做不出来。肯定不缺钱,肯定不缺资源,这些都是不缺的。
所以我们现在做的很多事情,都是为了保持团队的稳定性。除了这一点以外,其他我觉得我们都是可以不要的,都是可以克制的。我们一直非常克制,不愿意跟任何一家互联网大厂或者小厂成为对手。我希望我能够给他赋能,希望能够协助大家、帮助大家去做这个事情。这也是我们前面说的商业意义的一部分。在这个前提下,我们很愿意协助、帮助任何人——甚至我们的竞争对手,包括阿里、智谱、月之暗面——做得更好。因为我们并不损失什么东西:我们本来也是开源的,开源就要把边界尽可能说清楚,希望你能够复现;你如果复现不了,你讲,我告诉你怎么复现。这本来就是开源的一部分,不会因为你是竞争对手就怎么样。当然,如果是合作伙伴,我会做更多的事情。但是在大的利益上面是没有冲突的。
在对外打交道的时候,我们的态度是:我们只做 AGI 的主线。 就是我刚刚说的语言模型、CoT、Agent 等等,只做主线。AI 领域很广泛,有很多东西我们觉得它不在这个主线上面——比如 3D、视频生成,我觉得可能跟智能的主线没有太大的关系,我们不会去做。还有一些,比如世界模型,我觉得现在跟智能的上限也没有太大的关系,所以我们也不会去做。但是其他人做,我们也很乐意帮忙——有没有时间是一回事,利益上是没有冲突的。
我们也希望这些 AI 技术能够用到各种生产环境里面去,能够提高社会的生产效率,帮助各行各业提高生产效率。我们是非常有动力做这个事情的。我有没有时间、有没有人手,或者我们的同学自己感不感兴趣,那是另外一回事。但是在利益上是没有冲突的,我们希望能够达到这个目的。并且我们认为,这个跟商业没有任何冲突,我该拿到的利益还是没有少。
我们之前秉持这种态度,其实并没有因此而少拿到任何东西——并没有因为我开源、因为我们的善意、因为我对其他人提供帮助,而少拿了任何东西。比如去年的 C 端用户,我们现在 C 端用户还是比较多的,也还是比较稳固的;今年的 B 端,我觉得也是比较乐观的。我并没有因为我们的善意而影响到商业利益,完全没有影响,反而可能还有加分。这个看起来违反直觉,但它确实是这样的。反过来想:如果违背它,我能够拿到更多东西吗?没有。
有个问题:怎么理解”世界模型和 AI 智能上限提高没有关系”?我说的是在现在这个阶段,这是我们的判断。这是我们自己的 AI 路线图,不是唯一的路线图。从我们的理解、我们的判断来看,当前最重要的是把 AI 训练做好。把 AI 训练做好,并不需要世界模型,甚至不用多模态——你把 AI 训练范围缩小一点,没有多模态,只是有一部分任务你做不了,但是不影响这个算法的成立。
多模态最终还是要做的。现在重要的是训练,下一步要解决的是持续学习的问题,再下一步要解决的是它自己问问题。但是这个路线图里面没有世界模型,没有视频生成。
视频生成一开始出来的时候就很火,好像这是必须要做的,你不做就不是一个 AI 公司一样。我就很奇怪:你只要仔细去想一下,它跟智能的路线图是没有什么关系的。事实上你也发现,Sora 出来之后,所有人都做,大公司、小公司都做,但小公司后来都把它砍掉了。它跟智能的上限没有关系。但在商业上,它是个好生意。我们不会因为它是一个好商业而去做它,我们只会因为它是智能路线图上的东西,才会去做。
视频生成相对比较清楚,就拿它举例。世界模型这个含义就没那么清楚,因为很多东西都可以说它是世界模型。从我们的判断,世界模型和智能还不是现在这个阶段最重要的事情。最重要的是 AI 训练,以及 AI 训练之后怎么解决持续学习。这是我们公司的判断,当然每个公司的判断是不一样的。
九、算力:跟美国的差距只在资源
我刚说的是,对公司来讲最重要的问题是人员的稳定性。从另外一个维度来讲,我们缺什么?我们跟美国的差距是什么?其实差距只有一点:资源。
我们没有那么多卡,我们的卡的数量还是比较少的。我们现在大概是两万张 H 等效算力,这其中大部分是刚到,最近一两个月刚到,可能还有很多机器还没有来。我们总的算力去年比较少,今年我们在非常激进地扩充。接下来几个月我们还会有大批量的机器买过来,基本上都是英伟达。
我们需要多少卡?现在肯定是越多越好。在我们能够承受的范围内,卡越多越好,这是毫无疑问的。所以我们现在的策略是:在合理的价格里面,能买到多少卡就买多少卡。这笔融资,我能买多少卡就买多少卡。花钱的速度不在计划里面——只要价格合理,有多少我都买。如果说我在半年之内就把钱花完了,我觉得是个好事,那太幸福了,太理想了。
实际上,要把这么多钱花完非常不容易:买不到那么多卡,很难买,而且价格也很高,也不能说花非常高的价格去买,还得确保这个价格是合理的。
如果我半年之内就把这个钱花完,可能是最理想的。因为把钱变成英伟达卡,肯定是比放在银行里面好——放银行里面,现在存款可能就两个点;但是买英伟达卡,十个月收回成本。
所以肯定是能买到多少就买多少。买了卡之后,我有很多空间,通过提供服务或者怎么样,我总是能够有现金流的。我有现金流我就可以活,就不需要在账上面放很多很多钱。所以我们只担心买不到那么多卡。如果能够把钱都变成卡,我们会毫不犹豫把所有的钱都变成卡,并且在这里面我们愿意付一定的溢价,因为这太划算了。哪怕付完溢价,其实我们也很难实现这个目标。客观上来讲,如果我今年能够花掉两百亿,那就属于我们的采购部门业绩超级好了。
我们跟美国的差距主要在资源上面,人上面差距不是很大,几乎没有差距——因为就是同一批人,都是中国人。有一些人留在国内,有些人去国外,并没有说是聪明的人就去国外,没有的。其实它是比较随机的:最聪明的那些人,可能一半多一点去国外,一半少一点留在国内。国内人才是不缺的,而且我们基数大,每年有那么多人的补充。
人才不是瓶颈,资源是最大的瓶颈。资源首先影响到人才培养:因为算力少,我们能做的实验机会比较少,所以我们的人才整体上比美国有差距。人才的差距,本质上也是因为算力的差距。
在现在最大的模型上,我们其实训不起。哪怕把五百亿全花掉,其实也训不起;哪怕能堆起来,也用不起。现在最大的模型,它激活大概是 800B;国内的话,我们还在几十 B 的这个规模,国内最大模型可能就几十 B 激活——差一个数量级。如果我要训练跟它同样大的模型,应该需要五万张 GB300,或者华为 950 二十万卡。这只是训练,还没有考虑做研究。所以我们跟美国之间最大的差距是在资源上面。
我们现在的资源,以及今年之内、接下来几个月的资源,包括马上到的大资源,也只足够我们在十 B 激活的这个规模里面去做更多的实验。因为在几十 B 激活的规模里面,还有很多实验要做,还有很多事情需要搞清楚。我们应该离能够训 800B 的模型还比较远,没有那么多卡。
所以我们跟美国的区别,我认为就是资源上的区别。我们看到的所有区别——包括人才的区别、模型能力的区别、应用的区别——可以认为都是因为算力资源上的区别。算力资源,一方面是国内本身卡就买不到;另外一方面是我们的资本投入比美国要少,我们在资本投入层面上少了很多。人才的工资在这里面占的比重是很低的——你看他们开的薪水一个亿美金这种,但算起来,人才的薪水还是占比很少,大头还是算力。
这个问题目前基本上无解。
所以我们现在根本就不会考虑到这么大的规模上去跟美国竞争。我们现在还是先在我们能够训练得起、用得起的规模上——几十 B 激活的规模——先把它做好,再等下一步有更多资源的时候,做到 150B、156B,或者 250B 激活的规模。
我们跟美国在这里面有一个目前看起来很难弥补的差距。你硬要训那么大的模型也是能训,但是你没法做充分的研究——在训之前,没法做充分的研究。
十、终局差距:成本、时间、体验
还有个大家比较关心的问题:所有大模型竞争,终局的差距会体现在什么地方?我觉得最终可能是没有太大差距的。最终的差距应该是三方面:成本、时间、用户体验。除此以外,可能是没有什么差距的。
成本比较好理解:你提供同样的服务、同样质量的服务,你能够以什么成本来提供。同样一件服务,比如比亚迪的电池,在同等技术含量的情况下,其他家是不是能够按照这个价格来提供?我觉得这是个较难的事情,不是那么容易做到,肯定是壁垒。所以成本肯定是一个差异,我觉得成本可能排在第一位。
第二个是时间:你什么时候能够做到。你早几个月、晚几个月,就不一样了。
第三个可能是体验,用户体验还是有些不一样的,用户中间还是会有一些用户粘性和用户壁垒,但它可能不本质。本质还是第一成本、第二时间:你先做出来还是后做出来,做到同样的东西,是快点还是慢一点。
十一、商业化:一直在做,但不以它为目标
长期商业化路径和产品线进一步丰富后,怎么定价?我们觉得现在最值得做、最值得花精力的,还是做 AGI。现在要把 AGI 往前推,就是把智能的下限往上推。这个应该是在现阶段,比做更多的产品线、考虑更多商业化路径更划算、收益更大的路径。我觉得在未来的一段时间,以及过去的任何一段时间,可能都是这样的。
如果说我们花了很多时间去思考、丰富我们的产品,有什么用吗?半年前讨论出来的商业化是什么?一定是我要做广告、做电商、在产品里面植入电商,跟本地生活打成一片。肯定没用的,因为变化太快了。你这个产品,在我们现在这个阶段去花很多时间做商业化考虑、商业化路径——产品线的生命周期很短。
我觉得没有到这个时候。这是我们的判断,至少前面的这些经验都是支持这个判断的。在过去三年,任何一个时候你来跟我说商业化路径、产品线,都是浪费时间。因为你并不能够预测、不能够预见未来,你能够预见的很少。
我们在做全球领先的 AGI 研究,并在适当时候进行商业化。我觉得我们一直在做商业化,只是没有以商业化为目标。我们是以 AGI 为目标,但是我们一直在做商业化,所以我们才有 C 端的用户,才有 B 端的收入。从历史经验来看,这个策略是成功的。我们离彻底转向商业化的时间点,应该是很遥远的。最大的还是技术的延伸,做下一代的技术,更多地解决现在的问题。我个人觉得,在现在能看到的未来,任何一个时候你聚焦在产品上都太早了。
这也是我们克制的一部分。我希望这些商业机会能够让其他人来做——怎么用这个 AI,是整个社会、我们所有的合作伙伴一起来做,大家一起来分享这个收益,而不是我想独吞,这不可能。而且我们没有那么多精力,我们的组织也没有那么多人去做这个事情。
对于合作伙伴,其实我们这次融资是精心挑选的。具体的合作提议另说,首先我觉得,利益是比较一致的:跟我们利益最一致的、对我们最没有敌意的,或者说最希望我们能够做成功的。不是所有人都希望我们能做成功,因为我们还是损害了很多其他人的利益。
公司重大战略、技术业务决定的流程和决策机制:我们公司整体上是建立在共识的基础上的。我不是说我一个人决定所有事情,而是我要寻求共识。我在公司内的权威以及影响力,是建立在共识的基础上的。比如说我要做一个事情,我肯定是先看大家的共识是什么,大家想不想做。有可能我会有一些引导或者倾向,但这引导的作用是有限的、非常有限的,还是建立在共识的基础上。这个决策机制其实是一种寻求共识的机制:并不是说我能够推动一个什么事情——一定是共识,我才能够推得下去,然后我才会去推。
目前主要精力基本上都在 DeepSeek 这边。
十二、模型差距与全球分工
各家模型最终效果拉开差距,应该是一个综合上的。比较模型效果,肯定得在相同的成本上来比较,这个才有意义——你比较两辆车,也是同价位的车来比较。做得好的模型跟做得差的模型,差别应该不是在具体某个环节,而是整体上的。
Anthropic 现在超过 OpenAI,这是不是长期的?我觉得这不是长期的,这肯定是阶段性的。OpenAI 和 Google,未来大概率还是会交替上升。其实现在 Anthropic 在 Code Agent 上的优势没有那么大,并没有碾压 OpenAI——我们公司可能有一半的人觉得 OpenAI 是更好的。Anthropic 有先发优势,但这先发优势应该很快就没了,并不是一个它能够长期占得住的优势。这三家都很厉害。Anthropic 是这三家里面效率最高的,它花的成本、烧掉的钱应该是最少的。
在全球 AI 主导分工的时候,中国公司很有可能扮演的角色还是产量最大。常理来讲,我们的产能最大——包括芯片,芯片可能我们的产能最大,我们的电力最多。中国人会把产品做到最便宜;在效果上,现在很多商品中国产跟美国产并没有太大的区别。未来可能 AI 也是这样:中国产的 AI 价格会更便宜。这个便宜可能是系统性的低,就跟其他行业中国提供的服务更便宜是一样的。
我做事情的时候,习惯的思考是:现在这个时候做什么收益最大?如果觉得现在做产品收益最大,我去做产品;如果觉得现在把 AGI 先实现收益最大,我就先去做 AGI。显然,我觉得现在做产品不是收益最大的。
十三、国产芯片与 TileLang:英伟达的护城河在瓦解
国产卡适配的问题:国产卡现在其实是有一个历史性的机遇的。之前国产卡适配有一个难题,叫生态不好——买了卡之后用不起来,它没有英伟达那个生态。所以英伟达的护城河是很强的。
但是这个事情在发生变化。英伟达 CUDA 的护城河在快速地被瓦解。快速被瓦解的原因可能有三方面。
第一,现在有了 AI。有了 AI 之后,我要建立起这个生态比以前容易很多了,因为 AI 可以写代码——我可以用 AI 来构建这个生态,把跟英伟达一模一样的生态构建出来。
第二,有一些新的技术。比如说,我们家出了一个技术叫 TileLang,是一种高级语言。用这个高级语言来写 CUDA 的算子,可以很快地把英伟达的整套生态全部都写一遍,再结合 AI,这个看起来没有什么障碍。现在还没有完成、还没有做完,不过这个技术路线看起来是没有什么障碍的。
第三,CUDA——英伟达是从游戏卡演变出来的,所以它在很多地方跟游戏卡的设计、设置是一脉相承的,CUDA 是兼容游戏卡的。以前因为 AI 计算是一个很小的领域,比游戏卡的市场要小,所以这样是合理的。但是现在计算卡的市场已经比游戏卡更大了,就没有理由这两个还需要耦合起来。现在的趋势是,以后就不再耦合了。那么专用芯片——不管是华为还是英伟达自己——以后都是专用芯片,都不是之前的这些东西了。在这个背景下,原来英伟达生态的作用就大幅度减少了:对于一个专用芯片来讲,跟 CUDA 没有什么关系,不绑定。或者说,这个芯片在设计的时候,就已经考虑到怎么建立这个生态了。
有点复杂,但 anyway:国产 AI 芯片替代现在是有个历史性机会的。我们认为,未来一年之内,我们能够看到有一个事情被验证:国产芯片的生态完全没有问题。之前认为是有问题的,认为用不起来、不好用,但是未来一年之内,我们能够扭转这个认知,会用事实来扭转。
国产 AI 芯片的硬件和生态都没有问题,唯一有问题的是产能不够。国产卡适配这一点,没有障碍,英伟达挡不住。如果是在一个正常的商业环境里面,我能买到英伟达的卡,那么国产替代是比较难的;但是在英伟达的卡买不到的情况下,所有人都迫不得已,都要去做国产芯片。在这个背景下,国产卡的适配是没有任何障碍的。国产卡建立起跟英伟达一样、甚至比英伟达还好的生态,我觉得没有障碍,但还需要时间。
我们现在主要是跟华为合作。华为他们自己适配,但我们自己会参与这个生态,会深入参与到华为这个生态里面去。华为卡适配,我们主要做的工作是把高级语言编译器做好,把 TileLang 做好。把 TileLang 做好之后,问题可能就迎刃而解了。这个事情说起来比较复杂,但是我们在做,做完之后再来解释会清晰很多。
你可以理解:V3 训练的时候,用的还是英伟达的卡,但是已经不用英伟达的生态了。V3 用英伟达的卡,但没有用英伟达的生态,而是我们先写了一个高级编译器叫 TileLang,然后基于 TileLang 的生态来完成其他所有的事情,就已经几乎不依赖英伟达的生态了。只要我把这一套东西、把这个过程在华为卡上重新做一遍,那么就完成了。
我觉得这里可能是一个历史性的使命:可以完全扭转之前大家对国产卡生态不好的认知。现在天时地利基本上都全了,就差时间。我觉得一年之内,应该会有很多人在上面都明白,这个问题算是解决了,剩下就是产能的问题。
我对国产算力是比较乐观的。我觉得在这一点上,英伟达是在掘自己的坟墓。华为的超节点——华为 950 超节点——在性能和价格上可以完全平替英伟达的 GB200、GB300。价格肯定要贵,但贵得有限:贵百分之五十、百分之一百——贵百分之一百无所谓,贵百分之两百都无所谓。比如贵百分之一百,我觉得已经可以认为在价格上可以平替了。在任务上也是可以平替的:所有 GB300 能做的任务,华为超节点都能做,延时什么都一样。
英伟达今年 Q3 可能已经有新一代了。所以我们跟美国在芯片上的差距,我认为:生态上以后不会再有差距,但是在芯片上是四倍加两年。
还有问题:我们会不会向上游进行垂直整合?我希望不要。我们希望不用做这个,我希望是其他人来做这个事情。我不希望我把所有东西都吃了,我只要吃一块就好——吃我最擅长的那一块、我们自己认为最核心的那一块、跟用户直接相关的那一块。对于我们的很多产业伙伴来讲,他们比我们更关注。那应该是别人的生意,不应该我把它全吃了。
未来我们会不会自建大型的集群?自建大型集群是肯定要的,我们自己一直在做这个事情,我们所有的集群都是自己建的。但未来要不要自研芯片,我觉得取决于收益有多大。假如说你是运营发电厂的,你并不一定需要去造发电机,对不对?发电设备可以是别人造的,只要它的价格合理,你为什么要自己造?
所以我希望不用去做芯片,希望能够以合理的价格买到芯片,这样就不用去做芯片。我们希望只做一块。AI 这个事情很大,并不需要我做所有。如果聚焦,并且我认为这里的生意利益已经足够大——如果 AI 时代会产生很多家万亿级别的公司,我觉得我们是其中一家。我们一直做其中一小块,是其中一家已经没有什么问题了,我并不是信心勃勃要做别的。这是我们的态度。
譬如说,至少在 To B、To C 这两个业务上,目前能看到的:真的想做 To C 闭环的,反而我们做得好;真的想做 To B 闭环的,说不定也没有我们做得好。你想要得越多……
To B 可以多说几句。To B 业务的上限应该还是需求。在现在这一代 AI 技术的背景下,To B 的需求应该是有限的:它会快速增长,但并不是一个无穷大的事情,最终还是受制于需求,不是算力。在当前技术条件下,收入有多大,最终还是取决于需求。因为你这样想:我十个月就能收回成本,如果有需求,我肯定一直买卡;现在没有买更多,是因为没有那么多需求。需求应该会越来越大——随着技术持续有突破,需求会越来越大。
十四、多模态、Scaling 与低成本
多模态布局,我们一直在做。对产品来讲、对 C 端用户产品来讲,它很重要。但是对智能的上限,它是一个组件,它不是主线本身。作为组件,多模态我们肯定会做,而且也在做。我们应该会上相关的模型:V4 及 V4 的后续版本会支持原生的多模态。但我们对多模态的理解是:对智能来讲,它是个组件,我们不把它当作智能本身——它的地位跟搜索一样。搜索也是一个组件,多模态也是一个组件。
Scaling,我们信 Scaling:肯定是规模越大,效果越好,能够解锁更多的功能。阻止我们 Scaling 的其实就是算力——并不是我们不想 Scaling,是我们没有那么多的算力去做这个 Scaling。
我们没有触摸到这个上限在哪里。我们训练这么大的模型,并不是因为我觉得这么大的模型就够了,而是我刚好有这么多资源。我是按照我的资源来算:我能够接受、能够训练的模型是多大,是这样算出来的,并不是这个模型就够了。
目前来看,模型的收益还是非常明显的。我们还没有机会碰到这个 Scaling 的墙,这离我们还很远。硅谷在说 Scaling 到头的时候,那是对硅谷来说;对中国人来讲,我们离那个还很远,我们根本就没有 Scaling 到那个程度。这个 Scaling 包括数据的 Scaling、模型规模的 Scaling、训练成本。我们离探索 Scaling 的上限还比较远——没有那么多算力——但我们也会不遗余力地去推进这个 Scaling 的上限。包括融资完之后,我们有更多的算力,可能训练更大的模型,能在越短时间内买到越好;如果能半年内把钱全花完,那是最好的,实际上做不到。
下一代模型的核心能力,我觉得它必须要有持续学习的能力,它才能叫下一代模型。在那之前,我们能做的就是成本,然后效果做得更好,速度做得更快。但是要有大突破,它应该是具备持续学习的。
为什么好像我们特别在乎模型的计算效率?我确实发现,不是所有人都很在乎模型效率。对一个商业化公司来讲,没有动力去追求模型的效率——几个创业公司,你没有听到他们说低成本是他们追求的东西,因为那个不符合他们的利益:低成本了,你还赚什么钱?你就收不到什么钱了。
相反,这是我们愿景的一部分。我们的同学在乎这个成本,因为我们的同学都是普通人,他知道用这个都是要花钱的,他能够有同理心:别人要花钱来用,那么便宜一点,别人能够接受的程度会更高。所以我们有很多同学希望我们能够把成本做到更低。但是如果你从商业角度讲,其实不会这么考虑——从商业、从成本角度讲,这不是第一优先级。
对创业公司也好、大公司也好,这个服务成本根本就不高。但我希望它是比较轻的,希望它是负担得起的——特别是在中国算力紧缺的背景下——负担得起的、能在国产卡上用的。
低成本首先是一个结果。我们的模型确实一直在架构上往一个更低成本的方向走,这跟我们的愿景有关系。我们在算法上还有很多方法,成本还可以往下走。成本往下走还有一个原因:成本越低,我就越能训练更大的模型,越能承担起更大的模型。在同样算力、算力有限的情况下,如果我的计算效率更高,我就能够承担起更大的模型。对大公司来讲,不一定这么考虑——资源是可以加的,可以通过加资源来解决——但我们会优先考虑成本效率。
十五、拿得少的人打败拿得多的人
数据这个范围比较广,数据应该几乎等于模型的一半。
为什么我觉得,假如 AI 能够占 GDP 的百分之二十,如果我想要在这里面占百分之五,绝对行不通?因为我肯定会被另外一个人打败——如果另外一个人说”我只要占百分之一”,那么肯定就会被他打败。如果说我的目标是占全人类 GDP 的百分之五,理论上这个账还是成立的——你看 OpenAI,他算这个账好像是能算得过来的,理论上没问题。但他有个问题:他会被另外一个愿意只占百分之一的人打败。因为另外一个人说,我做得这么好,但我只要拿全球 GDP 的百分之一就可以了,那么就会把他打败。这时候如果又出来另外一个人说,我只要百分之零点一就可以了,那么又会把前面的人给打败。
从宏观上来讲,不管这百分之几是从哪里拿,彼此之间没有区别。拿得多的人会被拿得少的人打败。甚至你还不用真的拿得多——愿景如果是拿得多的话,你就会被愿景是拿得少的人给打败。其实大家都没有拿到钱,只是一个愿景;你愿景是拿得多,你就先输了,你就会面临着更大的困难。这个世界就是这样。
OpenAI 从一开始觉得他真的能够垄断这个世界,但实际上他会遇到很多很多挑战者。他会遇到挑战,他就不会那么轻松。美国遇到过的挑战,他在未来可能还会遇到中国的挑战——因为中国人愿意拿得更少,就可以给你提供这个服务。在中国,也会有人愿意拿得更少一点。但最后这里会有个平衡:因为你拿得太少之后,公司商业逻辑就不成立,就活不下去了。所以你拿得太少,你活不下去;你拿太多了,你会被拿得少的人打败。
所以对我们来讲,我们并不是利润要拿最多的钱、算收益最大化的定价,而是只赚一个合理的收益。这是一个解释。我是相信这个事的,我并不是去为这个事情找理由——没必要找理由。我本来就这么做的,我这么做肯定是有理由的。这个理由可能不是非常惯常,但我觉得公司本来就不惯常。
十六、组织方式:两条线,不加班
我们公司的管理其实是两条线:一条线是从上到下,一条是从下到上。
从下而上:每个人自己想做什么,自己做,没有人管他,没有 KPI。
从上到下:就是正式的——我们要集体做一个什么事情,需要全公司的人一起来配合。比如说我们要发 V4,那么就得分工,每个人得做一部分。那个是从上到下,这个我们叫做”正式”。
一般我们希望正式不要占用员工所有时间的一半——正式不要超过一半。他还有一半的时间,是不被安排的,他想做什么就做什么。这是一个研究的范围,让他可以自己去探索,按照他觉得什么重要,他去探索什么,没有前置的要求。只要公司能够支持、算力能够支持他做;或者说他不需要算力、需要做得很少,那么他根本就不用来协调。我们现在就是这样的一个组织方式。
有些人觉得我们是从上而下的,有些人觉得我们是从下而上的,我觉得两个都对。我的一个标准是:正式最好不要超过一半。
我们一般也不太加班。加班少有两个原因。第一,做研究是需要一个比较松弛的环境。你如果逼得很紧,就没法做研究——就是要你自己有这个兴趣,平时要去想这些问题,所以得是在一个比较松弛的环境里,才有可能能够探索。这是出于研究文化的需要。第二,我们非常聚焦。非常聚焦,就意味着我们要做的事情很少,那我就没那么多事情要做,就不需要加班。
这个跟前面的克制是一脉相承的:因为我克制,所以很多时候我就不做了。我要做的事情少了,每个人分到的工作就少了。你看到我们的产品很多都不完善的,我们也没有去补它。这也是我们的一种文化。
提问环节
问:能分享更多关于持续学习什么时候带来突破的时间线吗?包括实现持续学习,还需要哪些架构、算法的创新,以及其他关键要素?
答: 人少,需要研究。现在全世界都在研究这个问题。对投资人来讲,现在看到最多的是 Agent;但对我们这些研究的人来讲,现在看到更多的是学习,以及怎么解决学习这个问题。
其实学习可能不是一项技术,它是一个问题。怎么解决这个问题,可能有很多种技术——它不是一个东西,会是很多东西。或者说,AGI 是由很多东西组成的,需要模型,然后还需要很多其他东西。它也是一个工程和算法问题。这个问题比较专业,但有很多方法,也有很多研究。
问: 梁总,谢谢。首先想回应和感激一下,您最开始说的让我非常感动,也给我们很多启发:这个团队带着最大的善意,希望对这个社会、人类智能的发展有所推动,做一点点贡献。这跟我们所服务公司的企业文化非常相近,就是”修己达人”。我深刻地理解了为什么您会带领团队做开源。我形象地感觉,像去做一个榕树这样的小鸟天堂生态,利万物而不争,就会被大家接纳,万物共生共存,最终无处不在。我们会以这次投资,同样表达对这个使命和愿景的认可、支持和尊重。
第一个问题,关于生态共建:现在开源之后,这个行业里有多少伙伴、人才、团队,能够比较好地复现咱们开源的模型和成果?未来想让这个生态进一步发展,您感觉在哪几个方面需要更多高质量人才衔接到我们的模型,把它复现?还是说现在 GPU 算力相对有一些稀缺?大家未来会不会是一种模型矩阵的方式——咱们把基模做得越来越好,各行各业的伙伴和团队去做模型矩阵里面的垂直行业模型、应用模型?这块目前发展怎么样?两年、三年,您感觉会长成一个什么样的生态?
第二个问题,关于 AI 硬件:AI 全球大公司,可能单体都会做千亿美元级别的投入,中国目前看起来在硬件算力上有些短板。您感觉这个多长时间可以解决,支撑咱们 AI 的发展,让算力和硬件短板不给 AGI 拖后腿?这是不是中国人未来使命必达,肯定能做出来,只是时间和资金投入的问题?同时它可能是两方面的:一方面,模型的进步会让智能化提升,单一任务或某些智能化单体对硬件、算力的消耗逐渐递减,不再需要那么大算力,因为模型的进步会让它巧算;另一方面,硬件的技术进步会让算力的能效更强大。这会不会是两边相向而行的路径?另外,现在用 960 也好、H200 也好,去做千亿美元级别的算力投入,您刚才提到按三年摊销,它的实际生命周期您觉得是四五年吗?会不会现在建的万卡集群,三年之后其实就是相对不那么先进的算力了?会不会出现现在不够用、三年之后变成冗余的情况?**
答:谢谢。第一个问题是生态的问题。
我们现在觉得,每个企业都面临的问题是人才不够。但我觉得这个人才短缺会是阶段性的。我们在每个行业发展的初期,人才都是不够的。以前刚开始做网站的时候,做网站的人很少,人才很缺;后来互联网要做服务端,人才也是很缺。但是这种人才短缺都非常快会被解决,也就两三年,因为会培养出大量的人。
AI 人才的短缺也是阶段性的,并且我们已经看到大幅度被缓解了。AI 人真的不缺,每个公司很快会把人培养出来,培养人是很快的。所以 AI 这个行业整体上,不管是生态、模型公司还是什么,人才都不缺。人才缺肯定是一个短期现象,历史上从来没有出现过长期缺某一类人的情况。我还记得十几年前说飞行员很缺,飞行员的培养周期很长,但也很快被解决了。
所以大家不用担心缺人才的问题。以及,国内现在做模型的公司有点太多了,还是太多了。美国可能就三家,中国做基模的太多了。最终一定是不需要那么多人去做基模的,一定会收敛。资源也是比较分散,某种程度上也比较浪费——相当于每一家都要做同样的事情,但美国只要三家做,资源只集中在这三家;中国资源分得很散,每一家拿到的资源就更少。我觉得这个肯定是会收敛的,但这需要过程,最终一定会收敛。
不需要那么多家。现在可能大家觉得做这个事情的利润率非常高,所以一定要自己做;但当他发现这个事情可能没有那么高利润的时候,可能就不做了。我不相信有那么高利润,因为这不符合客观规律。这意味着我们是处在一个阶段上:如果有一个非常高的利润率,这一定不符合客观规律,我们应该是一个合理的利润。这是产业的现状,我觉得肯定会收敛。
做大模型的那一部分,不要说某一家独占、”我要拿走全部利润”,这个肯定不行。如果每一家都只拿合理的利润,那么其实不需要那么多人去做大模型。中国最后有个三四家竞争,竞争就很充分了,价格绝对够打价格战了。大模型可能两家大公司、两家小公司,就已经比较够了。
至于生态上的,我没有什么太多的想法。我们希望能够扶持更多的人,但是我们并没有那么多的精力。我们是有这个意愿,并且不会有利益冲突,但是我们有没有去做是另外一回事。但至少这里边是没有利益冲突的,我们是希望合作共赢的。首先,我绝对不认为大模型公司可以拿走大部分利润,这个不可能——这么多家大模型公司,现在差距没那么大。差距只有两个东西:一个是时间,一个是成本。所以不至于哪一家有暴利。成本控制得好的人就多赚一点,成本控制得差的人就少赚一点,仅仅此而已。
问:数据这一块,现在公开的数据相信模型公司都已经有渠道获取,只是时间和成本的问题。后续真正到 AGI 的时候,大家设想理想的状态是,模型可以自我迭代、自我学习,自己训练自己。这一块您感觉仿真数据是不是可以用起来,还是说真实数据的质量最高?如果还是需要来自真实数据,那会不会限制 AI 的智能在人类过往这个层面——因为它依赖的是人类真正曾经有过的真实数据?还是可以突破这个上限,通过模拟数据、仿真数据、创造数据等等方式,让模型能力超越人类过往的所有真实?
答:我觉得是能超越的。有两点。比如说围棋,AlphaGo 下了一手人类从来没有见到过的棋——他肯定是在一定的范围内超越人类的。但是他可能也有上限、有局限性,但是这个局限性我们现在看不到。所以我们笼统地认为:它可以基于人类已经有的、我们已经能说出来的知识上,予以超越。
至于后续是靠真实数据还是仿真数据、它会 work 吗——我觉得会有很多方法。
所以我们跟美国的差距,可能是落后美国 12 个月,12 到 18 个月,或者说 6 到 12 个月。简单说,就是落后美国两年,然后只用美国二十分之一的算力把这个事情做出来。这个叙事就是:落后一到两年,但只用它二十分之一的算力。 未来我们要把这个叙事改写:用它几分之一的算力,但把这个时间缩得更短,缩到 6 个月、3 个月,我觉得这是一个目标。以及我们甚至可以在某一些方面超越他们。但是在总体算力还是有数量级差距的情况下,全面超越是不现实的;但是在某一些重点、有取舍的地方,有一些超越是可以的。
问: 两个快速的技术问题。第一,刚才聊技术路线时提到,我们这一阶段要解决的核心问题是持续学习,这也是目前国外研究的热点,叫 Recursive Improvement。目前来看,从技术上最大的难点是什么?从您的视角,什么时候可以解决?第二,您刚才提到先解决持续学习,然后再去做智能,这背后的技术根源是什么?是不是意味着解决完持续学习问题以后,DeepSeek 后续也会做通用智能?
答:技术问题的难点在于,我们现在还没有找到非常 work 的方法。全世界都还没有找到好的方法,大家都在摸索,现在还在摸索阶段——不知道谁能摸到下一个解决这个问题的方法。我们有很多思路,有很多现在看起来有前途的想法,但是都还没有做通。这是第一个。
第二个,现在我们内部比较看重这样一个叙事:训练我们的下一版模型,我们希望它能够帮助我们自己的开发。它能够提升 DeepSeek 的效率——我们的模型最首先是提高 DeepSeek 自己的工作效率,让我们开发下一版模型的时候,它能够提供更多的帮助。或者简单一点说:我们做的模型,第一目标不是大家用得好用,而是我们自己用得好用。首先是对我们自己有用,之后我在开发下一版模型的时候就会更快。
我们内部很多人的想法是这样的:首先要对我们自己有用,首先是给我们自己用——这是实现 AGI 最快的方法。当我们自己好用,那意味着可能别人也好用,但是首先得保证我们自己好用。这个叙事有点奇怪,但是确实很多人就是这么想的:不是说用户用得好用,而是希望对我们自己帮助更大,这样我们可以实现 AGI,会快很多。这个叙事的逻辑是:来帮助我们实现 AGI——但首先是帮助我们实现,我们实现 AGI 需要这个帮助。现在非常确定,我们确实需要人工智能来帮助我们实现 AGI。虽然说它还不是自主地工作,还只是跟人搭配,但是已经很有用了。
(关于先持续学习、再通用智能)因为解决持续学习这个问题,可以大大加快我们的研发进度。如果我先解决了持续学习,那么通用智能这个问题就不在话下了。我有了 AI 的辅助,如果 AI 能够持续学习,它的能力应该是非常强的。现在的 Agent 能力受限,就是因为它不能持续学习、不能有效地持续学习。如果说能够先把持续学习做完,AI 的能力是非常强的,它能够非常大地提升我们自己研究的效率。持续学习先做出来,通用智能可能就很容易了——用它来做就很容易。所以这是我们比较希望看到的结果:我们比较省力,我们就轻松。否则现在你要人工做通用智能,它是一个比较累、比较苦,是数据密集、人力密集的事情,性价比也不高。我至少觉得,它得能够持续学习吧。
(关于国产硬件能否追上)国产方面可能需要几年的时间。国内首先得解决生态的问题——因为生态是一个信心的问题——然后再解决产能的问题,我觉得应该是能够逐步解决的。我不太相信五年之后我们还卡在产能的问题上。现在肯定是卡在产能问题上,今年、明年、后年,可能都还是卡在产能问题上,但五年之后我觉得可能不一定,我还是比较乐观的。
(关于未来的组织架构和人员规模)我们之前的组织架构是非常分散的,因为没有组织架构。但是人进一步扩大之后,肯定是需要做出一些改变的。现在只能说,这里会需要做很多改变,但现在很难一下子全部表达出来。最后应该还是要分不同的部门:有些部门我们需要建立起比较严谨的层级结构;另外一些部门,可能还是会维持比较松散、比较扁平的结构。随着人员的增加,我们会做这个调整——应该说我们马上就得做这个调整,我已经在做了。不做这个调整的话,很多事情是没法推进下去的。确实有很多部门是应该有组织架构的。
(关于发版节奏)我们现在线上发的 V4 这个版本,还是比较粗糙的,能力方面很多都需要时间。对我来讲,一个比较舒适的发版节奏,大概是两三个月发一版。上次发版可能是四月底,下次发版可能是六月底,大概是这样子。如果没有意外,应该还是会一版比一版好。
在 50B 激活的这个尺度上面,我感觉最终我们跟现在的这波开源不会有太大差别——在推理速度跟效果上,可能就不会有太大的差别。但是跟它那个大尺寸的、没公开的模型,差距应该还是比较大的。那个差距,我们这个激活参数应该是做不到的,肯定得是一个更大尺寸的模型,比如 150B。那么 150B,按照我们现在训练的进度,乐观的话今年年底可以开始去训练,至少是明年四……差距还是比较大的。这是跟 OCE 的差距。
问:您经常说到 AGI 实现的过程是一个渐进式的过程,而不是会有一个突变。所以我可以理解,这是一个没有临界点的过程吗?
答:它没有临界点,但是它是非线性的。我们现在比较相信一个叙事是:AI 可以加速 AI 的研究。它不是线性的,因为你可以用 AI 来加速你自己的研究,所以它到后面可能是非线性的。
问:明白。所以前面的结论就是,语言模型继续 Scaling 是够的,可以做到这个状态?
答:只能说,语言模型的 Scaling,我现在没有看到有上限。我们现在的智力水平,或者说美国的智力水平,都没有看到上限。
问:明白。您说美国 800B 激活的模型,它比我们能训练起,但它也用不起来,所以只能训练出来,很难拿出来给大家用,因为确实有点贵。我之前很好奇的一点:人类拥有语言能力是近十万年的事情,前面可能进化了三十七亿年。但在训练 AI 这个事情上,顺序是可以反过来的,不过最终可能还是会进入——也不一定叫世界模型——物理模型或者具身的那部分,是吧?就是在这个上限之后?
答:对,我觉得具身肯定还是要进入,最终是具身。所以对我们公司来讲,自然而然,终点可能都是具身。因为对一个正常人来讲,他的需求并不是电脑,对不对?正常的人,他吃喝玩乐、衣食住行,不需要电脑。他需要的是解决具体人力的需求。如果目标是解决人力需求的话,具身我觉得就是绕不过去的。
问:明白。阶段性地讲,假如到达可以自进化、可以比较好地自进化的状态,接近那个上升的时点,我很好奇,您希望这个状态的 AI 落地的第一个是什么?
答:可能跟现在不一样。假如说没有具身,我们对 AGI 的定义,或者我们希望 AGI 能做什么呢?它能帮我迭代下一版模型。然后如果有了具身之后,我们希望它做的也是:让它来迭代下一版的具身,它来做下一版机器人。
问:我还是很好奇一点。之前 DeepSeek 的采访里提到,在一些重要的方向选择和研究选择上,品位和直觉是很重要的,而不是简单的工程优化。如果之后 AI 可以自进化,这个品位、taste、直觉这些东西还重要吗?或者说,重要的会是什么?
答:AI 现在不缺品位和直觉,它缺的是持续学习的能力。AI 的品位和直觉没有问题——你让它写个文章,它的品位和直觉,我觉得没有什么问题。
问:continuous learning,持续学习,您也提到,很多研究员也提到是一个还没解决的研究问题。而 coding agent——尤其是追上 MILES,Scaling 到 Office 水平、MIS 水平——是一个比较确定的目标。对于一个还没解决的研究目标和一个比较确定的 Scaling 目标,您认为应该怎么分配研究资源,尤其是研究员这块的人才资源,怎么样才能达到最好的平衡和效果?
答:模型 Office 是一个比较确定的目标;模型 MIS,我觉得还不好说是确定的,只能说是一个目标。模型 Office,我觉得应该是比较确定的。
这个(持续学习)不占资源。做这种自由研究,它不消耗卡,只需要很少的卡,它需要的是想法;它也不消耗人才资源,因为不需要有人一直在那里做。它不是一个项目,而是需要有很多人都在那里想这个问题。所以并不需要给它分配什么资源,因为它不需要资源。你要训模型、做模型、发模型、做模型的效率实验,才需要资源。刚才讲的这个,对人、对卡的资源消耗都不多。
我们叫这个叫”摸奖”:门槛很低,谁都可以去摸,但是谁能摸出什么来,可能我也不知道是看天赋还是看什么。
所以这里并不需要我们去分配资源。只是说,我们跟其他公司不一样的地方,就是我们会花时间去讨论这个问题、想这个问题,把它当做一个重要的事情。在公司里,它是一个重要的问题,我们会花时间去思考,但是并不需要花很多资源去做。
大模型的幻觉问题比较影响用户的体验。幻觉问题也是有一个方法可以解决的,但这是一个长期命题。幻觉问题可以认为是一个可以通过更好的 Post-training 解决的问题,是一个能解、能够改善的问题,只是大家没有花很大的力气去做。或者说,对我来讲,幻觉是一个问题,但我们归结可能是产品问题。我们会去解决它,但是不是重点的问题。
还有一个标数据的问题。我们在数据标注方面,跟我们的资本投入有关:以我们这个资本投入的结构,支撑不起那么多高质量数据标注的成本,因为成本很高。美国数据标注的成本跟中国没有什么区别,中国标数据并没有成本优势,尤其是标高端数据上并不会有成本优势,使得我们很难像美国这样投入去标数据。这条路在中国是很难的,因为标数据实在太贵了——不管是我们外标还是我们自己标,都很难受。
所以现在基本上是两条腿走路。并不是说我们完全不能标,而是标数据有一些成本低、有一些成本高,我们先标成本低的。所以你也可以认为,现在我们公司有一半的人在标数据:有一半的核心研究员、最重要的人,有一半在标数据,我们就集中在标数据。解决 AI 这个问题,在现在这个阶段,靠的就是标数据。核心就是数据。
问:第一个问题。您刚才讲,中国的模型比美国的模型在效率上肯定是强的,还有一些其他方面未来也有可能比美国强。您觉得是哪些方面,我们在智能或者其他方面会比美国强?
答:我觉得在很多体验方面,有可能我们是能比美国做得好的。不说自己的体验——自己的产品体验觉得挺好的——我觉得我们在用户体验方面不一定会比美国差。产品方面、产品能力上不一定比美国差,成本应该也会比美国低,所以中国有可能还是会有竞争力的。
其他方面,如果说有结构性的优势,我觉得可能也没有。但是在成本和产品这两方面,我觉得确实是有一定的结构性优势的。成本这个很好理解:他们都不用做,所以他们就不发展这个能力,他们肯定没有我们重视这个事情——我们可以把它当做一个非常重要的事情,但对他们来讲,这个是不重要的。产品也是,很多公司产品能力还是可以的。所以这两方面可能是有结构性优势的。
问:第二个问题。您刚刚讲到后训练,我们投入相对成本又高,像 Anthropic 和 OpenAI 都投入巨大的金额。这次融资以后,我们会在后训练方面加大投入吗?
答:差距主要是在高质量数据的标注上,主要是在 AI 研究里面。肯定会加大投入。但是高质量数据的标注,瓶颈不是资本投入,我觉得是时间,就是需要时间。对 OpenAI、对国外、对 Anthropic 来讲,他们都更早,然后资本更多,卡也更多。我们国内可以认为是最近半年才开始做,所以在时间上,我觉得是需要更多时间的。这个跟资本投入关系不太大——哪怕没有更多的资本投入,原来的资本也够它以最快的速度在扩张。但是这个速度是有上限的,瓶颈不是卡在钱上,也不卡在卡上。它确实是在一个快速扩张的过程。所以我们觉得一年之内,高质量数据这个问题做得比较好,国内应该是可以预期的。我觉得可能没有那么难,但它确实是需要时间。
问:第三个问题。我们看到 Anthropic 他们用自己的模型做自己的产品,推出了很多纵向的金融、法律……甚至未来要往医疗方向走。在这种纵向应用方面,某个阶段我们也会考虑吗?
答:我还没有想得很明白,未来国内的商业模式是怎么样的,或者说最顺利的路径是怎样的,我们还没有到那个阶段。国内情况和国外情况不一定一样,国内到时候是什么样,我觉得现在还比较难判断。以目前的情况来看,我觉得最合理的做法应该是全力做通用的 Agent,其他的 Agent 优先级应该更低,包括金融、医生这些 Agent。要先做 Coding,因为 Coding Agent 能够做到很多,还有很多垂直的 Agent。现阶段我们觉得最重要的,应该还是 Coding Agent。
问:其实我们也做 DeepSeek 相关的事情,很佩服您一直以非常纯粹的科研方式来做 DeepSeek。但现在这个行业确实走到了资本市场、走到了资本化这条路上。您又是一个非常负责任的人,无论对小伙伴还是对投资人。在纯粹科研、纯粹做 AGI 的方向和资本市场之间——您未来肯定还要走资本市场,肯定还有公众股东——您觉得以后怎么 balance?这个您是怎么考虑的?
答:我现在觉得应该是能够做到的,就都要。假如说我今年能够有几个亿美金的 B 端收入,再加上我们 C 端有用户,那么这本身就已经有一定的商业基础。明年我们 B 端有收入,如果这个需求可以再增大,公司离净利润已经不远了,可能就已经是净利润了,可能就已经不是一个纯烧钱的阶段了。所以我感觉后面能做的、能操作的动作应该还是比较大的。
或者说,最坏情况:卖 API,可能都能够支撑一个上市公司。如果技术后面没有新的进步了,我们的技术就冻结在这里了,那么最后我们就全力卖 API、把这些服务做好,我觉得也够的。
所以我觉得还是有信心的,确实没有那么难。因为确实是在一个杠杆高的地方,又在一个发展非常快的领域,它可能就是没有那么难。只能讲,我们希望有更大的梦想,但是我们也有保底可以拿出来的业绩。
问:我觉得 DeepSeek 最大的和其他公司的区别在于,我们的组织跟其他人不一样。但组织形式既跟目标相关,也要考虑组织自身的边界和效率。从宏观的角度考虑,这个组织形式会有一个好的学习对象吗?历史上可能 Bell Labs,还是一个什么样的形态是比较理想的?还是说我们自己觉得也没有理想的,更多要靠我们逐渐去探索?可能在一个新的时期,只能靠我们自己来做探索——因为我们的组织形式跟美国的几家公司肯定都不一样,那三家公司自己也不一样,但他们至少会从一个商业公司的角度出发去探索。我主要想问一下组织这个问题。
答:首先,我们没有模仿的对象。每一步都是我们从实际情况出发,实事求是,根据实际情况来做决策,找到我们应该怎么做。所以它是一个时代的产物,是现实情况的一个反应,并不是一个模仿的结果。
在这个情况下,最优解可能就是这样;我们自己选的路就是这样。每一步我们肯定都是思考过的、选过的,选的结果就是这么选的。它并不是因为看到谁这么选、我们这么选,而是因为我们分析了利弊而这么选。未来可能也是一样,我们并没有去模仿谁。
我觉得我们跟 Bell Labs 还是不一样的:它明确是不需要有商业化的,但我们明确是要有商业化的。我们最终还是要能活下去——我们毕竟是一个公司,政府不会给我一分钱。所以我们可以有非常远大的使命,但归根结底是一个公司,要考虑怎么活着。所以 B 端对我们肯定是重要的,因为以后可能得靠它活着。只是说现在不重要,因为它现在是个成本线。
所以我觉得跟 Bell Labs 还是不一样的,我们本质上还是一个公司。历史上也有很多公司,它有利润以外的追求,但并不能说它有利润以外的追求,它就不是个公司。很多公司做得很伟大,因为它有一种利润以外的追求;那个追求最后不但没有影响到它的商业化,反而能让它商业化得更好。我们本质上还是一个公司,只是说我们在考虑赚哪些钱、什么时候赚钱、赚多少钱、靠什么赚钱——只是说我们有取舍。
问:两个小问题。第一,您提到 MILOS 可能不是一个很确定的目标,但肯定会往这个方向去做,也提到下一代激活参数可能会在 150 到 250B 左右——您觉得 150 到 250B 是对标 O4.7,还是可能会对标到别的?第二,我们现在在整个 inference 上面用了一些 CUDA 以外的编译语言。原来基于英伟达生态,可能用 PTX 这些比较多;现在用上更多 TileLang 这些,是不是会大幅降低我们在 inference 上面的效率,或者短期降低效率?您怎么看编译语言的这种变化带来的效率损失,还是说长期其实是一个可以提高效率的状态?
答:是提高效率,是大幅提高效率。
问:反倒没有什么负面的影响?
答:对,是大幅提高效率。所以说这是一个机遇。相当于以前你是离不开 CUDA 的生态的,现在我们可以抛弃它的生态,用一个更简单的方法,就用 TileLang。它是高级语言,写程序也是很快的,要写的代码量很小,我可以把它重写一遍。
问:明白。所以这两个其实都是像您提到的、AI 带来的比较大的机会,不是一个短期需要去弥补的缺点。
答:对,它是技术发展的大机会。我们还有一个项目,在用 AI 来写 TileLang。
问:那是不是更快?
答:现在所有 TileLang 都是人写的,但是它已经比原来写 CUDA 的要快很多了。
问:明白。所以哪怕是对于硬件底层的执行效率,也没有影响?
答:损失 1% 到 2%,我觉得是可以接受的。
问:明白,理解了。谢谢您,很清晰。
其他人还有没有什么问题?……没问题,我们今天就先这样。非常感谢大家的时间。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END





暂无评论内容