最初の意図とビジョン:善意で物事を行う普通の人々のグループ。
私や他の同僚はこの会社を始めましたが最終的にいくら稼ぐか資本市場に出て上場するかどうかは考えずにですその意図はありません。最初の数十人は全く考えていませんでしたもしそう思ったら来なかったでしょう
全体として、私たちはこの世界に対して非常に大きな善意を持ってこれを行っています。それは人類にとって有益であり、お金以外のものだと感じています。もちろん、后面になって、このことを発見して利益が非常に大きい後、また他の誘惑がありますが、これは別のことです。しかし、私たちが始めた理由、ビジョン、そして今まで維持してきたビジョンは、ビジネスの利益を最大化する方法ではありませんでした。それはもっと重要だと思います。
20年ほど前、私が最も尊敬していた経営陣はGEの元CEOジャック·ウェルチでした。今振り返ってみると、彼が言ったことのほとんどは間違っているかもしれませんが、彼は最も重要なことを正しかったのです。会社にとって最も重要なのはビジョンです。
大企業を経営するには、ルールや規制ではなく、ビジョンである。ビジョンとは何か。ビジョンは壁に掲げられたスローガンではありませんビジョンとは何をするか何を言うかではなく実際にどのように運営するかですジャック·ウェルチが言った言葉を忘れましたが、そういう意味です。
どうやって多くの人を管理し組織するのか?私たちには組織がありませんビジョン主導でビジョンによって組織されますこれは良いことも悪いこともありますが、将来的には弱点を避ける方法を見つけますが、これは私たちの特性です。“達成したいKPI”という考え方ではなく、評価はなく、ビジョンだけです。
このビジョンは文書化されておらず、何も書かれていない。このビジョンは、私たちのやり方、世界に対する態度にあります。私たちの会社の誰もがこのビジョンを理解していないかもしれませんし、誰もが異なるビジョンを持っていますが、大きな方向性では同じです。世界に対して非常に大きな善意を持ち、何かをしたいと思うことです。これで組織化しました。
私が話した後に質問します。私はこのビジョンの背後にあることを話します。このビジョンは本物であり、でっち上げではなく、私たちは本当にそう考え、実際にやっています。そうでなければ、私たちの多くを説明できません。
2.なぜソースに固執するか
なぜオープンソースにこだわるのでしょう?このビジョン自体がオープンソースを必要とするからですビジョンがなければ人を組織化することはできません例えば、知恵スペクトルもオープンソースですが、知恵スペクトルのオープンソースは私たちのオープンソースとは異なります。スマートフォンのオープンソース化には強制感があります。彼らはそれが意図していないと感じていますが、私たちにとってはそれが私たちの意図です。
オープンソースについては、最初からはっきりと考えていました。1つ目はビジョンです2つ目はAIを商業的に実現するためにはオープンソースが良いと考えています
歴史的にオープンソースと商業化は対立してきたので、これは少し逆説的で直感に反して聞こえます。AIは以前とは違うと思います。歴史的には、ソフトウェア会社は、その市場は年間数十億ドルになるかもしれませんが、オープンソースは、それがなく、数千万ドルから数億ドルになるかもしれません。しかし、AIは十分に大きく、最終的にはGDPの10%を占める可能性があります。これは非常に大きな数字です。独占することはできません他の人と共有しなければ生き残れません
これは、オープンソースがソフトウェアを行う前とは異なり、ソフトウェアの市場はそれほど大きくはありませんが、AIはあまりにも大きいです。この利益を独占したければ、歴史によって放棄されなければならない。これは客観的な法則であり、歴史的な見解です。私がオープンソースでなければ、市場を独占できるというわけではありません。これは理論的には客観的な事実と一致しておらず、多くの抵抗に遭遇し、その目標を達成するのを妨げる他の方法があるはずです。
この場合、必ずしも従来のビジネス思考に従う必要はありません。あなたが得ることができる利点が限られていることを保証するメカニズムが必要ですそうすればそれを可能にします自制が必要だと思います。
AIを手に入れたいのであれば、まず自制する必要があると思います。人類のGDPの何パーセントが私のものか、中国のGDPの何パーセントが私のものかとは考えられません。考えれば考えるほど、実現できません。だから最初から自制が必要だと感じていました。自制すればするほど、そうする可能性が高まります。 これは商業的な考慮事項ですが、もちろんマクロ経済的な考慮事項です。
少なくとも私の直感に沿って、少なくとも私の直感に沿って、少なくとも私はそう思っています。私たちには他に多くの利点がありません。私たちにはスキルがなく、他の人よりもお金がなく、従業員が他の会社よりも優れているとは言いません。2年前にこの会社を設立したときは、お金もなく、カードもなく、知名度もなく、魅力もなく、ごく普通の人々のグループでした。
本当に普通の人々のグループです。好きな物語があるとすれば、天才の集団ではなく、普通の人々が並外れたことをしたということです。これは私たちの自制と非常に関係があり、私たちの自制とビジョンと密接に関係しています。
制限:API価格と“10 ヶ月のリターン”
オープンソースと商業化は対立するのか?AIに関しては、自制しなければ立ち上がることができないと思います。
オープンソースは拘束の一部です。私たちの制約はオープンソースだけでなく、多くの方法で現れます。一般的に、オープンソースについて特に考える必要はありません。抑制すればするほど、おそらくそれが簡単になるでしょう。少なくとも今のところ証明されており、説明できます。そうでなければ、私たちが行うことができる理由を説明する方法はありません:我々は武器を持っていない、出発点は非常に低く、リソースは非常に少ない、私たちの人々は実際には普通の人々のランダムなグループです、私は大学を卒業した学生ですが、最高の学校ではありません。
この制約も私たちのビジョンの一部です。これはあまりにも大きく、利益はあまりにも大きい。私たちは非常に抑制されており、それができれば、最終的な利益は非常に大きい。あなたが少し分けると、利益は非常に大きいので、今はこの利益のどの部分を取るか、どのように取るかを考える必要はありません。この利益は十分に大きいです。
だから私たちは前に言った、私たちは合理的な利益だけを得る、あなたの意志だけを見て、利益の大きさではなく、それは同じではない。APIの価格設定のロジックは合理的な利益です市場に出てデバイスを購入して戻ってくることです10 ヶ月のコスト回収。現在の状況では、リスクや先行投資などを考慮すると、サーバーは財務的には3 ~ 5年で償却しますが、商業的には10 ヶ月ほどで回収できると思います。これが現在のAPI価格のロジックです。V 3.2 Flashなどは、デバイスのコストを10 ヶ月で回収しています。
それが私たちの基準です。利益を最大化するのではなく、利益を最大化するためには価格を高く設定する必要がある。この価格帯では、ユーザーの需要は弾力的ではありません。価格を半分にしたり、2倍にしたりしても、トークンの消費量はほとんど変わりません。価格が2倍になれば、総収入はほぼ2倍になります。
話をしましょう。私たちのDDCPは私たちのモデルで、最初は需要が多すぎることを心配していたので、最初は価格を高く設定し、チームの誰もが満足していません。その後、価格を4分の1に下げ、みんなが喜んでくれました。
これが私たちの本当の考え方であり先ほどお話ししたビジョンです私たちはまだ人々の役に立つものにします最大のお金を稼ぐのではなく合理的な利益が得られるときに誰もが使えるようにするのですこれは私たちの会社の他の人たちの考えでもありました。私たちが価格を下げたとき、会社の多くの人が歓声を上げ、誰もがとても幸せでした。これが私たちがこのモデルをうまく作るために多くの労力と注意を払ってきたことです非常に安価で効果的で誰もが十分に使えるようにすることですこれは楽しいと思いましたそれが私たちの原動力でありビジョンであり会社が一緒になってこれを成し遂げることができるというコンセンサスです
これはもっと特別なものです。価格引き下げは他の競合他社にとって良いことではありません彼らは歓迎しません収益やARRが半分になればARRも半分になりますここは私たちが違う場所です。
それで十分だと思います。社内からは、コスト回収の10 ヶ月、私はこのビジネスに非常に満足しています。社外からは、この価格は誰もがより幸せであり、見て喜んでいると感じています。ウィンウィンです。会社と社会、そして誰もがウィンウィンです。
ちょうど誰かが画面にメッセージを残して、10 ヶ月のリターンは高すぎると言った。確かに値下げの余地があり、モデル最適化の余地もあるので、全体的な値下げの余地はまだ比較的大きいです。しかし、10 ヶ月というコストは、私たち自身ではできますが、他の家族ではできません。アリやテンセントのように、彼は私たちの最適化ではなく、彼のコストはこれよりも数倍高くなければなりませんが、最適化の仕事がたくさんあります。
価格を下げ続けない理由を教えてください。柔軟性がないからです価格を下げても需要は増えないかほとんど増えませんこの価格は誰もが利用できるので、誰もが満足しており、この価格が高いからといって使用しない。だから、価格を下げると、まず第一に、会社はより多くの収益を持たず、社会にとってより多くの価値を持っていません。この価格は誰もが満足していますが、あなたが低くなっても、社会の幸福感はあまり高まりません。
価格設定に関しては、企業の収益や利益が最も高いことから始めるわけではありません。それは私たちの抑制の一部です。短期的には価格が高くなり、収入も多くなりますが、長期的には言うのは難しいことです。抑制は戦略だと思います。私にとって、自制は戦略です。時には何かを捨てて他のものに変えることもありますオープンソースの問題は、実際には同じであり、私たちの利益と考えることができます。
まず第一に、この利益は社内で、私たちは非常に幸せで、従業員は非常に達成感を感じ、私たちは結束力を持っています。第二に、利益は社会にとって有益であり、社会は非常に幸せであり、他のピア、普通の人々は非常に幸せになります。ですからこの抑制は長期的には人工知能を作る可能性を高めると思います
AGIが大きな商業的価値を持つことは間違いありません。それに基づいて、私の優先順位は、どのように多くのシェアを取るかではなく、どのようにできるかを高めるかです。
4、拘束の他の症状:ユーザーを盗まない、すべてのゴマを拾わない
この制約は他の多くの方法でも現れます。例えば、昨年の春祭りには突然多くのユーザーがいましたが、これらのユーザーを維持し、収益化し、これらの商業的利益を奪うことを追求しませんでした。ユーザーを奪うつもりはなく、お金を稼ぐつもりもありませんが、ユーザーに良いサービスを提供する方法を見つけようとしています。次のスーパーアプリを作りたい、誰と競争したいか、次のバイト、次のテンセントを作るという考えはありません。そんな考えは全くない。
私たちにはできましたがしませんでしたこれも抑制の一環だと思います。すべてを稼ぐ必要はありません。ユーザーがいれば、次のバイトを作って、それを食べるようなものです。これは商業的にはうまくいきます。昨年、ユーザーを獲得するために多くのお金とバイトを費やしたとしたら、それもゲームです。しかし、私たちは非常に抑制的なアプローチを選び、私はあなたと議論しません。後ろにスイカがあるので、前にはゴマかもしれません。
私はすべてのゴミを盗むべきではない。もちろん、このゴマは大きいかもしれませんが、後ろのAIは前のAIよりも大きくないと思います。今のところ、昨年はC側に力を入れなかったのは正しいかもしれません。後ろには本当に大きなスイカがあり、前には本当に小さなゴマがあることがわかるからです。去年たくさんのお金があってこれを大きくしたとしたら何の役に立つでしょう?何も得られません。これらは私の本当の考えですなぜならAGIの背後にある可能性は非常に大きくこれからもずっと大きいと思うからです
自分がどこにいるのか、ビジネスモデルが何なのかを考える必要はありません。このような大きなビジネスチャンスがあれば、何かをする必要があります。ゴマの前にも拾いますが、少し拾うだけで、停止したり、重要なこととしてそれを行うことはありません。
去年のCのことは、ちょっとしたことかもしれません。しかし、私たちはまた、比較的低コストでユーザーの使用を維持しました。なぜなら、後で役に立つ可能性があるからです。今はユーザーが何をするのかわかりませんが、今は純粋なコストの支出ですが、後で役に立つかもしれません。手に入れることができれば手に入れます。
今年を含めて、APIやAIにおけるARRの収益にもチャンスがある可能性があります。この需要が拡大し続け、グラフィックカードがより多くを購入できる場合、ARRが数億ドルを達成する可能性は非常に高いです。AIが10億ドルを達成できれば、基本的に会社のキャッシュフローはプラスになり、研究開発費をカバーし、すべての費用をカバーできます。それも可能ですが、優先順位を付けていません。私たちはそれを正しくするつもりですが、それは最優先事項ではなく、今日本当に気にかけていることでもありません。より大きなチャンスはまだ先にあるはずです。昨年のCエンド、今年のBエンドを含めた先のチャンスは、私たちの目標ではありません。というか、私たちの会社のほとんどは、AGIほど重要な問題ではないと考えています。
オープンソースに戻る:6倍の利益の下で競合はない
オープンソースについてもっと言うことができますなぜならオープンソースについての質問の多くはオープンソースだからですまず第一に、私たちはオープンソースであり、私たちの最も強力なモデルもオープンソースになるでしょう。クローズドソースの利点が見えないので、モデルがクローズドソースであることの利点は何ですか?見えません。
モデルがオープンソースであっても、すべてを誰かに伝えることは非常に高いハードルです。他の人がそれを使うのは難しい。第二に、彼はそれを使いたいが、コストは非常に低く、非常に難しく、簡単ではない。私はオープンソースではなく、彼は私と同じデプロイメントコストで簡単に行うことができます。まだやるべきことがたくさんあります。これらの原則は理解されていますが、すべての企業がこの目標を達成するために人員を組織する意欲や能力を持っているわけではありません。抵抗が大きすぎてコストをコントロールするのが難しく管理上や物理的な制約が多いのでうまくできないかもしれません
これはスタートアップの利点でもあります。スタートアップが小さすぎるとそれをする力がありません。大企業であれば組織化するのは難しいです。これには難しいことがあるので、これは私たちの規模の会社のスイートスポットです。私たちが大きければ、この問題はないかもしれません。小さければ、私たちの力は不足します。
価格に関しては、私は非常に高い料金を請求しませんが、10 ヶ月で元の料金を請求します。按十个月回本,就已能能够我按十个月回本,就能让独立配置的第三者不利益可以利益-第三者ができない,他不能这个コスト,确确实做出来ない。オープンソースは私の収入に影響しませんもちろん、100倍の利益を上げるつもりなら、オープンソースは...(ライブビデオでは短い中断)
オープンソースは私たちのビジネスモデルには影響しません。6倍の利益しか得られないと仮定します。10 ヶ月でコストを回収すると、約6倍の利益になります。6倍の利益しか得られないのに、オープンソースはほとんど影響を与えない。しかし100倍の利益を上げたいと思っているならオープンソースは100倍の利益を上げますなぜならサードパーティがそれを展開するからです彼はおそらく20倍のコストがかかりますあなたよりも安くなります
このモデルは長期的に持続可能か?可能だと思います。私たちのビジョンでは、オープンソースは長期的に持続可能であり、そうする予定です。自制は長期的な利益にもつながると考えられます。この戦略は私たちに技術的な機会を与えることができますAGIを作る可能性も高くなります
そんなに難しくないので、残業する必要はないと思います。しかし、他の人にとっては、考えすぎて難しいかもしれません。それは難しくありません。外から見ると、私たちは難しいパターンを選んでいるように見えるかもしれません。研究をするために、最も難しいことをするために、それは難しいパターンのようです。でも実際には他の場所で多くをあきらめているので私たちはまだ非常に強力で簡単にできます
オープンソースについての私の判断は継続的であるということですオープンソースと商用支払いの間に矛盾はありません-利益が6倍になる場合に限ります。6倍の利益は高く見えるが、実際には高くない。AIが非常に効率的になった今、合理的な利益はそれだけになります。将来的には4倍、3倍になるかもしれませんが、APIを売るだけで大きな利益を上げることができます。私はAPIを売ることにそれほど魅力的ではないと思いますが、これは矛盾を見ていません。
他社が私たちと競争するために私たちのモデルを導入することは心配しません。全く心配しません。オープンソースコミュニティを可能な限り支援し、モデルを展開できるようにしています。市場が大きいので、私は彼が私にビジネスを盗む心配はありません。私は彼が展開できないことを心配しています-いくつかの詳細が正しく行われなかったり、結果が悪くなったり、コストが高くなります。ここでは対立はない。
昨年、To Bビジネスがあったとき、より多くの質問がありました。私たちのCエンド-私はオープンソースなので、Cエンドは私自身のCエンドと競合していますか?私はトラフィックの利点がないので、Tencent自身のトラフィックが多いので、彼はオープンソースモデルを展開し、すべてのCエンドユーザーをピックアップし、私のCエンドユーザーを奪いました。しかし、実際には違います。多くの理由があります。
もう一つの質問は、私たちが提供するオープンソースモデルは、私たち自身が展開するモデルと同じですか?同じことです。私たちはほとんどのモデルをオープンソース化し、より良いモデルを自分たちでデプロイするつもりはありません。いいえ、同じです。これは紛争がないことを意味します。昨年、Cサイドは基本的にオープンソースであり、Cサイドのサービスは競合を見ておらず、競合を見ていませんでした。これがソースの一部です。
私たちの目標はAGIです:技術ロードマップ
以下は、同社の長期ビジョンです。私たちの目標はAGIですAGIの定義は人によって異なるかもしれませんが、AGIを目標にすることを妨げません。
技術的なロードマップの観点からは、AGIのロードマップは比較的明確です。現在の世代のAI技術は、問題を明確に記述し、完全なコンテキストと指示を与えることができれば、すでに人間を凌駕しています。しかしここに前提があります完全なコンテキストと完全な指示を与えるのですこの前提は達成するのが難しいのです例えば今日のミーティングでは非常に長く強力なコンテキストがありますAIにはない何十年ものコンテキストがあるかもしれませんAIにできることは限られたコンテキストで人間よりも優れたことができることです
しかし、人間を置き換えることはできません。もう一つの問題があります継続的な学習です人は学び続けます。従業員を雇うと、彼は会社の環境に精通し、彼の仕事に精通するために2 ヶ月を費やすかもしれません。彼は始め、多くのことをすることができます。彼はあなたの言うことを理解できます。あなたが“王を呼べ”と言えば、王が誰かを知っています。しかし、AIがこの2 ヶ月前に学習していないので、“王を呼んでください”と言ったら、王が誰で、どんな役職で、どこにいるのか、どのように探すべきか、探しているときに注意を払うべきかを伝えなければなりません。AIにすべての文脈を与えなければならない。この場合、AIはそれをすることができますが、現実的ではないすべてのコンテキストを与えることはできません。
AIは従業員を置き換えません。しかし、AIが継続的に学習する能力を持ち、従業員と同じように2 ヶ月間会社で勉強すれば、世界中の人を置き換えることができます。だから、次のステップは“学ぶ”ことです。
AIの開発は、はしごとして理解することができる。昨年のステップはCoTです思考の連鎖です思考の連鎖によって知能をより高いレベルに引き上げることができ自分で考えることによってAIにより多くのことができることがわかりましたまた階段を越えた。今年のはしごはエージェントです。エージェントのやり方では、より多くのことができ、能力の範囲が大きく、知能の上限が高くなります。
なぜ階段なの?すべてのステップは、前のステップに基づいています。エージェントはCoTを使い、CoTは前の階段を使います。前の階段は言語モデルです。だから、一歩も無駄ではなかった。
知恵の道は確かに見えます。今年のはしごはエージェントですが、エージェントのはしごも終わります。解決できるすべての問題を解決した後、従業員を置き換えることはできません。能力の限界に達しています。CoTと同じように、CoTは限界に達した後、数学をしたり、プログラムを書いたり、最高の人間を上回ったりしましたが、それでもそこで止まり、その技術はAGIには届きませんでした。
エージェントの後、私たちが取り組むべき問題は継続的な学習です。モデルを継続的に学習させる方法です。強力なトレーニングを与えるのではなく、人間と同じように長期間継続的に学習できるはずです。この問題はタスクを完了することと同じものであり、関連しており、同じ問題を解決します。エージェントの場合、次のボトルネックは継続的な学習です。解決すべき次の問題は、どのように学習を続けるかです。これは目に見え、比較的明確です。これは前に立ち往生した障害物であり、乗り越えなければならないし、乗り越える方法はあるはずだが、時間がかかる。
学習を続けると特異点にたどり着くかもしれませんモデルが学習を続けると人間ができることは何でもできるようになります独自のバージョンを開発し、独自の研究を行い、次のバージョンを開発し、より強力なAIモデルを開発することができます。そこで特異点に到達し独自の反復を実行できるようになります
しかしこの特異点は特異点ではなく漸進的な過程であり突然変異ではなく比較的長い勾配かもしれませんしかし慣習的に私たちはそれが特異点かもしれないと考えていました昔の予言者は特異点があると考えていたからですそれは特異点ではなく、連続的なプロセスです。その一歩を踏み出した後、私は知的だと思います。
これが私たちの推測であり、私たちが考えるタイムラインです。まず“学ぶために学ぶ”ことから始めて知的な特異点―自己反復的な特異点―そして身体的知能に移ります 物理的な知性を持った後、それは現実世界に入り、家事をし、あなたを年金することができます。
これはより理想的なロードマップです。誰もが意見が異なり、正しいことも間違っていませんが、このロードマップが最も簡単だと感じています。各ステップで新しいことをすることはほとんどありません。このロードマップでは、残業はありません。しかし、ロードマップが逆である場合、例えば、まず身体的知能を達成するためには、それは非常に疲れ、これは非常に困難な作業です。私たちはロードマップを望んでいません。簡単にしたいのです。
最初に継続的な学習を解決し、次に自己反復の特異点を解決し、次に身体的知能を解決することは、この道は非常に簡単です。後ろに行くと前の技術を使って後ろの技術を開発することができるからです特異点の後に身体的知能を行うと、人間がやる必要はなく、私たちがやる必要もなく、モデル自体が出てくる。
これが私たちの長期目標に対する答えですこれが私たちの長期目標ですこれが人工知能と呼ばれています
次元低減打撃:CエンドとBエンドはAGIの副産物です。
現実に戻ってください昨年の最も重要な現実は、誰もがチャットボットを作ってCサイドのトラフィックをつかむことでした。今年の現実は、誰もがBサイドの収入をつかんで参加することです。参加しなければ、テーブルにはいませんよね。
しかし、それは重要なことではありません。私たちの社内では本当に気にかけているのは先ほどお話ししたAGIのロードマップとテクノロジーがどのように進歩するかです
奇妙なことに、最も欲しいものは、あなたが得ることができません。それほど気にしないものは、まだかなり簡単に得ることができます。ここには戦略的な利点があります。私たちはAGIを考え、AGIを行い、そのアプリケーションを行い、CエンドとBエンドを行うとき、あまり考えず、ほとんどのエネルギーを費やすことができます。
あなたは技術の高いレベルに立って、比較的低いレベルの技術を行うと、次元低減があります。少なくとも昨年のC側では、これが本当だとわかりました。C側に多くの労力を費やしていないし、一度でもユーザーを維持したくないのですが、ユーザーは追い出すことができません。本当に追い出すことができないので、最終的にはまだそこにあります。今年のBエンドの収益は、成長はまだ比較的楽観的に見え、ピアよりも良いはずです、私は推測します。しかし、私たちはそれに多くのエネルギーを費やしていません。私たちは単にそれをしていません。
AGIは私が行かなければならないステップです。AGIへの道は、この階段を通ります。私はこれらの技術をAPI経由で提供し、余分なことはしません。私たちはまだAIをやっていますそれは副産物です私はこのAPIを維持するために数人を雇う必要があります。カスタマーサービスもなく、販売もなく、何も必要ありません。ユーザー自身が来ます。
CエンドとBエンドは、AGIを行う過程での副産物であり、中間出力であり、私のAGIと競合しません。CサイドやBサイドを作るためにやっているのではありませんAGIを作るためにAGIをやっていますこの製品を生産できるようになりましたそれを商品化しました
他の会社とは違う。他の企業はCエンドのユーザーやBエンドのユーザーにサービスを提供するためにこのモデルを行っていますが、私たちにとっては、本来の意図はそうではなく、AGIを追求することです。
ある程度、これは破壊だと思います。AGIはより大きなビジョンであり、より多くの優れた人々を結びつけるビジョンであり、より大きな結束力を持っています。私には組織的な利点があり、それを利用しています。次元縮小の打撃です。
しかし、あなたがビジネス企業で、あなたのビジョンがCエンドユーザーに良いサービスを提供することであれば、それはまた別の話です。彼には他の利点があります-製品、顧客サービス、トラフィック-がありますが、技術的にはありません。より有利な状況では、モデル技術が最も重要であり、モデルをうまく行う必要があります。これは私たちの開発の軌跡を説明することができます。私たちは本当にAGIを選び、多くのユーザーになるつもりはありません。
昨年の春祭りに突然火がついたとき、私たちの脚本の中ではなく、私たちはそのことを全く考えていませんでした。しかし、私たちの組織には、完全に商業的で製品志向の組織に比べて、人材と組織の面でさらなる利点があることに気づきました。
これも驚くべきことです。その時、Cエンドの誰もが頭をつかんで、強盗に行かなかった人に奪われてしまいました。これは、先ほど述べたロジックが理にかなっていることを示しています。本当に才能と組織の利点があります。
この才能の優位性は、私の部下が彼より賢いということではなく、私がどのように組織し、どのように彼を動機づけ、どのように協力するか、これが利点です。賢い人たちを集めても、自然に協力して情熱を持って目標を達成できるわけではありません。だからビジョンが必要です。これまでの経験から学んだことは、AGIのビジョンは非常に強力です
最大のコア利益:チームの安定性
次の質問:コア利益の重要性は何ですか?
先ほども言いましたが、多くの点で自制しなければなりません。しかし、私たちの主な関心事は何ですか?実際には少しだけ:私たちの最大の関心事は、チームの安定性を保つことです。これは私たちの最大のコア利益であり、唯一のコア利益と考えることもできます。
チームを安定させることができる限り、私はそれをすることができます。AGIを作ることができます。誰も行かない限り、私たちが続けられる限り、私もできます。基本的にリスクはありませんが、少し早く遅くなるだけです。挫折して誰も行かなければ、私は続けることができます。お金は問題ではなく、資源は問題ではなく、他の要素は簡単に入手できます。私たちにとって、コアバリューは1つしかありません。チームの安定性を維持することです。
これは私たちが直面している大きな課題であり、最大のリスクだと思います。もちろん、今回の資金調達では、このリスクは比較的大きく解消されました。誰もが得るオプションはまだ比較的多く、金額はまだ比較的大きいからです。
チームの安定性の観点からは、最も重要な従業員や最年長の従業員が安定している限り、他の従業員は去りません。他の人は選択肢が少なく、収入が少なくても行かないでしょう。なぜなら、彼はお金だけではないからです。誰もがAGIができる環境でそれをしたいからです。だから、人には魅力的です。歴史的に、私たちの人材の流れは比較的少なく、同業他社と比較して、常に比較的少ないです。しかし、それは私たちの最大の課題であり、唯一の課題です。他のすべては時間の問題であり、せいぜい半年、1年遅れにつながりますが、できないとは言いません。確かにお金も資源もありませんこれらはすべて不足していません
今やっていることの多くは、チームを安定させるためです。それ以外のことは、私たちはすべて不要であり、すべて抑制できると思います。私たちは常に非常に抑制されており、インターネットの大企業や小規模企業と競争することはありません。私は彼に力を与え、皆さんを助け、皆さんを助けたいと思います。これは、前述した商業的意義の一部です。この前提の下で、私たちは誰もがより良い仕事をするのを助け、助けたいと思っています。Ali、Zhai、Dark Side of the Moonなどの競合他社でさえも。私たちは何も失うことはありません私たちはオープンソースですオープンソースは境界をできるだけ明確にして再現できることを願っています再現できなければ再現方法を教えてあげますこれはオープンソースの一部であり、競合他社だからといってそうではありません。もちろん、パートナーだったらもっとやりたいです。しかし、大きな利害の対立はありません。
外部との取引に関しては、私たちの態度は:私たちはAGIの主要なラインです。 先ほどお話しした言語モデルCoTエージェントなどはメインラインにすぎませんAIの分野は非常に広く、3 Dやビデオ生成など、このメインラインの上にないと感じていることがたくさんあります。私たちはそれをしないかもしれません。世界モデルのようなものもありますが知能の限界とはあまり関係がないと思いますので私たちはやりませんしかし、他の人たちがやっているので、私たちも喜んでお手伝いします。時間は一つのことであり、利害の衝突はありません。
また、これらのAI技術が様々な生産環境で活用され、社会の生産効率を向上させ、あらゆる産業の生産効率向上に貢献できることを期待しています。私たちはこれをする意欲があります時間があるかどうか、スタッフがいるかどうか、クラスメートが興味を持っていないかどうかは別の問題です。しかし、利害の対立はなく、それを達成したいと考えています。ビジネスとの衝突はなく、私が得るべき利益は少なくないと考えています。
私たちはこの姿勢を取っていましたが、それによって何も得られませんでした。オープンソースから、私たちの善意から、他の人を助けたから、何も得られません。例えば、昨年のCエンドユーザーは、今のCエンドユーザーはまだ比較的多く、まだ比較的安定しています。今年のBエンドも、私はより楽観的だと思います。私たちの善意のためにビジネス上の利益に影響を与えたわけではありません。全く影響はありませんが、プラスポイントがあるかもしれません。直感に反するようですが、そうです。逆に考えてみてくださいもし違反したらもっと手に入れられるでしょうか?いいえ。
質問:“世界モデルはAIの知能上限上昇とは関係がない”とはどういう意味ですか?今の段階では、それが私たちの判断です。これはAIのロードマップであり、唯一のロードマップではありません。私たちの理解と判断から判断すると、今最も重要なことはAIを正しく訓練することです。AIのトレーニングをうまく行うには、ワールドモデルやマルチモーダルは必要ありません。AIのトレーニングを少し絞り込むと、マルチモーダルはありません。できないタスクがいくつかありますが、アルゴリズムの確立には影響しません。
マルチモーダルは最終的に行われる。今重要なのは訓練です次のステップは学習を続けることですそして次のステップは自分自身に質問をすることですしかしこのロードマップにはワールドモデルもビデオ生成もありません
動画生成は最初から熱く、やらなければならないことで、やらなければAI企業ではないかのようでした。私は不思議に思いましたよく考えてみてくださいそれは知的なロードマップとは何の関係もありません実際、スーラが出てきたとき、大企業も小企業も誰もがやっていましたが、小企業はそれをカットしました。知性の限界とは関係ありません。しかし、商業的には良いビジネスです。良いビジネスだからといってやるのではなく、スマートなロードマップに載っているからやるのです。
ビデオ生成は比較的明確で、例を見てください。世界モデルの意味はそれほど明確ではありませんなぜなら多くのことが世界モデルだからです私たちの判断では、世界モデルと知性は、現時点では最も重要なことではありません。最も重要なのは、AIトレーニングと、AIトレーニング後の継続的学習の解決方法です。これは当社の判断であり、当然、各社の判断は異なります。
計算能力:米国とのギャップは資源にある
先ほど申し上げたように、企業にとって最も重要な課題は、人材の安定性です。別の次元では何が欠けているのか?米国とのギャップは何でしょうか。唯一の違いは、リソースです。
私たちはそんなに多くないし、カードの数も少ない。私たちは今約20,000 H相当の計算能力を持っていますそのほとんどは到着したばかりですここ1 〜 2 ヶ月でまだ多くのマシンが到着していません昨年は全体的なハッシュレートが少なかったのですが、今年は大幅に拡大しています。今後数ヶ月で大量のマシンが購入される予定です基本的にはNVIDIAです
カードは何枚必要ですか?確かに今はもっと良いです。私たちが余裕がある範囲では、カードが多ければ多いほど良いことは間違いありません。だから今の戦略は、リーズナブルな価格でできるだけ多くのカードを買うことです。私が購入できるカードはいくらでも購入できます。お金を使うスピードは計画にはありません。リーズナブルな価格であれば、いくらでも買います。半年以内にお金を使ってしまったら、それは良いことだと思います。それはとても幸せで、理想的です。
実際には、これだけのお金を費やすことは非常に簡単ではありません。そんなに多くのカードを買うことはできません。購入するのは難しく、価格も非常に高いです。
6 ヶ月以内にこのお金を使うのが理想かもしれません。Nvidiaカードにお金を入れることは確かに銀行に入れるよりも良いので、銀行に入れると、預金は今2ポイントになるかもしれませんが、Nvidiaカードを購入すると、10 ヶ月でコストを回収します。
だから、できるだけ買うことができます。カードを買った後は、たくさんのスペースがあり、サービスを提供することでいつでもキャッシュフローを得ることができます。キャッシュフローがあれば生きられるので、多額のお金を入れる必要はありません。だからそんなに多くは買えないと思った。すべてのお金をカードに変えることができれば、私たちはすべてのお金をカードに変えることを躊躇しません。それは非常に費用対効果が高いので、その中にプレミアムを支払う意思があります。プレミアムを支払っても、この目標を達成するのは難しいです。客観的に言えば、今年200億ドルを費やすことができれば、購買部門の業績は非常に良いものになります。
米国とのギャップは主に資源にあり、人々の間のギャップはそれほど大きくはなく、ほとんどギャップがありません。なぜなら、同じ人々のグループは、すべての中国人だからです。国内に残る人もいれば海外に行く人もいます賢い人と言わずに海外に行く人もいます実際には比較的ランダムです最も賢い人は半分以上が海外に行き半分以下が国内にいます国内の才能には事欠きませんし、私たちの基盤は大きく、毎年多くの人が補充されています。
人材はボトルネックではなく、資源が最大のボトルネックです。リソースはまず人材育成に影響を与えます。計算能力が少ないため、実験の機会が少ないため、全体的に人材には米国に比べて格差があります。人材の格差は、本質的には計算能力の格差によるものです。
現在の最大のモデルでは、私たちは実際に訓練できません。たとえ500億を使っても、実際には訓練できず、積み上げても使えません。今、最大のモデルは、その活性化は約800Bです。国内では、我々はまだ数十Bの規模にあり、国内最大のモデルは、数十Bの活性化になる可能性があります。同じサイズのモデルをトレーニングするには、5万GB300、またはHuawei 950万カードが必要です。これは訓練であり、研究は考えていません。米国と米国の最大の違いは資源です。
現在のリソース、そして今年、そして今後数ヶ月間のリソースは、すぐに利用可能になる大規模なリソースを含めて、10 Bの活性化の規模でさらに多くの実験を行うのに十分です。なぜなら、数十Bの活性化のスケールでは、まだ多くの実験があり、明らかにする必要があるからです。我々は800Bを訓練できるモデルからはまだ遠いはずで、それほどドーカルではない。
アメリカとアメリカの違いは資源の違いだと思います私たちが見てきたすべての違い-才能、モデル能力、アプリケーションの違い-は、計算リソースの違いによるものと考えることができます。ハッシュリソースは、一方では、国内カード自体では購入できません。他方では、当社の設備投資は米国よりも少なく、設備投資レベルでははるかに少ないです。この中での人材の給与の割合は非常に低いです。彼らが開いた給与は1億ドルですが、計算すると、人材の給与はまだ非常に小さく、大きな頭や計算能力です。
この問題は現在ほとんど未解決です。
だから、米国と競争するためにこれほど大きな規模になるとは考えていません。私たちは今、訓練できる手頃な規模、すなわち数十Bの活性化の規模でそれを行い、次により多くのリソースが利用可能になったら150B、156B、または250Bの活性化の規模にします。
米国との間には、現在埋めるのが難しいギャップがあります。このような大きなモデルを訓練することはできますが、十分な研究をすることはできません。訓練の前に十分な研究をすることはできません。
10.エンド·ギャップ:コスト、時間、経験
もう一つの大きな問題は、すべての主要なモデルの競争の最終的なギャップはどこに反映されるのか?最終的には大きなギャップはないかもしれません。最終的なギャップは3つあります:コスト、時間、ユーザー体験。それ以外は、おそらくギャップはないでしょう。
コスト:同じサービス、同じ品質のサービスを提供し、どのようなコストで提供できるかを理解してください。BYDのバッテリーのような同じサービスは、同じ技術的内容の場合、他の家庭はこの価格で提供できますか?それは難しいことだと思います。簡単ではなく、間違いなく障壁になります。だからコストは確かに違いがあり、コストが第一かもしれないと思います。
2つ目は時間です。いつできるのか。数ヶ月前と数ヶ月後は違います。
3つ目は、エクスペリエンス、ユーザーエクスペリエンスはまだ少し異なり、ユーザーの間にはまだいくつかのユーザー粘着性とユーザー障壁がありますが、本質的ではないかもしれません。本質は第一のコストと第二の時間です最初にやるか後でやるか同じことをするか速くやるか遅くやるかです
商業化:常にやっているが、目標ではない。
長期的な商業化パスと製品ラインをさらに豊かにした後の価格設定は?今やる価値があり、最も努力する価値があると感じています。AGIを前進させることは知能の下限を上に押し上げることですこれは、現段階では、より多くの製品ラインを行い、より多くの商業化パスを検討するよりも費用対効果が高く、より収益性の高いパスであるべきです。未来のある時期、そして過去のどの時期でも、そうだったかもしれないと思います。
製品の充実に多くの時間を費やしているとしたら、何の役に立つでしょうか。半年前に話題になった商業化とは?広告を出したり、電子商取引をしたり、製品に電子商取引を入れたり、地域の生活と交流しなければなりません。変化が早すぎるので、それは間違いなく役に立たない。あなたの製品は、私たちの現在の段階では、商業化の検討と商業化のパスに多くの時間を費やしています-製品ラインのライフサイクルは非常に短いです。
私はこの時点ではないと思う。それは私たちの判断であり、少なくとも過去の経験はそれを支持しています。過去3年間、商業化の道筋や製品ラインについて私に話してきたときはいつでも、時間の無駄でした。未来を予測することはできないので、予測することはほとんどありません。
世界をリードするAGI 研究を行っており、やがて商業化に向けて取り組んでいます。私たちは商業化を目指していますが、商業化を目指していません。私たちはAGIを目指していますが、商業化を行っているので、CエンドのユーザーとBエンドの収益があります。歴史的には、この戦略は成功した。完全な商業化への移行はまだ遠いはずです。最大のものは、技術の拡張であり、次世代の技術を行い、現在の問題をより解決します。個人的には、今見られる未来では、製品に集中するのは早すぎると思います。
これも私たちの自制の一部です。私はこれらのビジネスチャンスが他の人たちにもできることを願っていますこのAIを使う方法は社会全体やパートナー全員が一緒にやって利益を分かち合うことです私が一人で食べるのではなく不可能です私たちにはエネルギーがなく、組織にはそれを行う人があまりいません。
パートナーについては、この資金調達は慎重に選択されました。具体的な協力提案は、まず第一に、利害関係は比較的一致していると思います。私たちの利益に最も合致している人、私たちに最も敵対的ではない人、または私たちが成功することを最も望んでいる人。私たちはまだ多くの人を犠牲にしているので、誰もが私たちの成功を望むわけではない。
会社の主要な戦略、技術的なビジネス決定のプロセスと意思決定メカニズム:当社は全体としてコンセンサスに基づいています。すべてを決めるのは私だけではなく、コンセンサスを求めています。社内での私の権威と影響力は、コンセンサスに基づいています。例えば、私が何かをしたいとしたら、まずみんなのコンセンサスが何かを見て、みんながやりたいかどうかを見なければなりません。ガイダンスや傾向があるかもしれませんが、そのガイダンスの役割は限られているか、非常に限られているか、コンセンサスに基づいています。この意思決定メカニズムはコンセンサスを求めるメカニズムです何かを押し進めることができるというわけではありませんコンセンサスがなければなりません私は押し進めることができますそして私は押し進めるのです
今のところ、主な焦点はDeepSeek側にあります。
XII.モデル·ギャップとグローバル分業
各モデルの最終的な効果は、ギャップを開く包括的なものであるべきです。モデルの効果を比較するには、同じコストで比較する必要があります。これは理にかなっています。2台の車を比較すると、同じ価格の車を比較します。良いモデルと悪いモデルの違いは、特定のリンクではなく、全体的にあるべきです。
AnthropicがOpen AIを追い越した、それは長期的なものか?これは長期的なものではなく、確かに段階的なものです。Open AIとGoogleは、将来的に大きな可能性が交互に上昇します。AnthropicのCode Agentに対する優位性はそれほど大きくなく、Open AIを凌駕していません。おそらく当社の半数の従業員はOpen AIの方が優れていると考えています。Anthropicには先発優位性がありますが、この先発優位性はすぐになくなるはずで、長期的に維持できるものではありません。この3人は強い。Anthropicはこれら3つの中で最も効率的であり、コストと燃焼コストが最も少ないはずです。
世界のAIが分業を支配する中で、中国企業が最大の役割を果たす可能性が高い。常識的に言えば私たちは最大の生産能力を持っていますチップを含めてチップはおそらく私たちが最大の生産能力を持ち最大の電力を持つでしょう中国人は製品を最も安くするでしょう。効果的には、多くの製品は中国製とアメリカ製のものとあまり変わらない。将来的にはAIも同じかもしれません中国製のAIは安くなりますこの低さは体系的に低い可能性があり、中国が提供する他の産業と同じくらい安い。
私が何かをするとき、私の習慣的な考えは、この時間に最も有益なことは何ですか?今製品を作ることで最大の利益を得られると思えば製品を作ります今AGIが最大の利益を得られると思えばまずAGIをやります明らかに、今は製品が最大の利益ではないと思います。
13、国内のチップとTileLang:Nvidiaの堀が崩壊している
国内カード適応の問題:国内カードは実際に歴史的な機会を持っている。以前、国内のカード適応には悪い生態系と呼ばれる問題がありました。カードを購入した後に使用できず、Nvidiaの生態系がありません。Nvidiaの堀はとても強いです。
しかしこれは変わりつつありますNVIDIA CUDAの堀は急速に崩壊している。急速な崩壊の理由は3つあります。
まず、AIがあります。AIがあれば、このエコシステムを構築するのは以前よりもはるかに簡単になりました。AIはコードを書くことができ、AIを使ってエコシステムを構築し、Nvidiaと同じエコシステムを構築できます。
第二に、新しい技術があります。例えば、私たちの家族はTileLangという高級言語を開発しました。CUDA演算子を書くためのこの高水準言語では、NVIDIAのエコシステム全体をすばやく書き直すことができ、AIと組み合わせると、障害はないようです。まだ完成していませんが、この技術的なルートには障害はないようです。
第三に、CUDA-Nvidiaはゲームカードから進化したので、多くの場所でゲームカードの設計と設定と一致しており、CUDAはゲームカードと互換性があります。以前は、AIコンピューティングはゲームカードの市場よりも小さな領域であったため、これは合理的でした。しかし、コンピューティングカードの市場はゲームカードよりも大きくなったので、この2つを組み合わせる必要はありません。現在の傾向は、もはや結合されないことです。その後、専用チップ-HuaweiまたはNvidia自体-は専用チップになり、以前のものではありません。この文脈では、元のNvidiaエコシステムの役割は大幅に減少しました。専用チップの場合、CUDAとは何の関係もなく、バインドされません。というか、このチップが設計されたとき、このエコシステムを構築する方法を考慮していました。
少し複雑ですが、いずれにせよ、国内のAIチップを置き換える歴史的な機会があります。1年以内に、1つのことが確認されると信じています。国産チップの生態系は全く問題ありません。以前は問題があると思っていました役に立たないと思っていましたが1年以内にこの認識を逆転させることができます事実を逆転させます
国内のAIチップのハードウェアとエコロジーに問題はありませんが、唯一の問題は容量が十分ではありません。国内カードはこれに適応し、障害物はなく、NVIDIAは止めることができません。それが通常のビジネス環境であれば、私はNvidiaカードを購入することができ、国内の代替はより困難ですが、Nvidiaカードを購入できない場合は、誰もが国内のチップを作らなければなりません。この文脈では、国内のカードの適応に障害はありません。Nvidiaと同じ、あるいはNvidiaよりも良いエコシステムを構築するためには、障害はないと思いますが、時間がかかります。
現在は主にHuawei社と協力しています。Huawei社は独自に適応していますが、私たち自身がこのエコシステムに参加し、Huawei社のエコシステムに深く参加します。Huaweiカード適応、私たちが行う主な仕事は、高水準言語コンパイラをうまく行い、TileLangをうまく行うことです。TileLangがうまくいけば、問題は解決するかもしれません。言うのは少し複雑ですが、やっていますし、終わったら説明がはっきりします。
理解できる:V 3トレーニングでは、まだNvidiaカードを使用していますが、Nvidiaのエコロジーは使用していません。V 3はNvidiaカードを使用しますが、Nvidiaのエコシステムは使用しませんが、まずTileLangという高レベルのコンパイラを書き、TileLangのエコシステムに基づいて他のすべてを行い、Nvidiaのエコシステムにほとんど依存しませんでした。私がこのセットを作り、Huaweiカードでプロセスをやり直すとすぐに、それは完了です。
これは歴史的な使命かもしれないと思います。国内カードエコロジーに対する以前の悪い認識を完全に逆転させることができます。天気は基本的に完全で、時間が足りません。私は1年以内に、上記の多くの人々がこの問題を解決し、残りは生産能力の問題であることを理解する必要があると思う。
私は国内生産について楽観的です。この時点で、NVIDIAは自分の墓を掘っているように感じます。HuaweiのスーパーノードであるHuawei 950スーパーノードは、性能と価格の面でNVIDIAのGB200とGB300を完全に同等にすることができます。価格は確かに高価ですが、それは限られています。50%、100%、100%、200%でも構いません。例えば、100%高いので、価格では同等に置き換えられると考えられると思います。タスクでもフラットに置き換えることができます。GB300が行うことができるすべてのタスクは、Huaweiのスーパーノードが行うことができ、遅延はすべて同じです。
Nvidiaは今年第3四半期に新世代を持つかもしれない。チップ上の米国とのギャップは、私は考えます:生態学的にはギャップはありませんが、チップ上では4倍2年です。
問題は、上流に垂直統合するのか?私は望まない。私たちはそれをしたくありません他の誰かがやってほしいのですすべてを食べたくないのではなく、自分が一番得意なもの、自分が一番コアだと思っているもの、ユーザーに直接関係するものを食べるだけです。多くの業界パートナーにとって、彼らは私たちよりも心配している。それは他人のビジネスであり、私はそれをすべて食べるべきではない。
将来的には大規模なクラスターを構築するのか?大規模なクラスターを構築することは間違いありません私たち自身がこれを行ってきましたすべてのクラスターは自分たちで構築されていますしかし、将来的に自己開発チップを持つかどうかは、収益の大きさによると思います。発電所を運営しているなら、発電機を作る必要はありませんよね。発電設備は他人が作ってもいいのに、リーズナブルな価格であれば、なぜ自分で作るのでしょうか。
だからチップを作らなくてもいいのでチップをリーズナブルな価格で手に入れられることを願っています一つだけ作りたいです。これは大きな問題で、私がすべてをする必要はありません。焦点を当てていれば、ここでのビジネスの利益は十分に大きいと思います。AI時代に多くの兆規模の企業が生まれるとすれば、私たちもその一つだと思います。私たちは小さなことをしてきましたが、そのうちの1つは問題なく、私は他のことをする自信はありません。これが私たちの態度です。
例えば、少なくともBに、Cに、これらの2つのビジネスでは、現在見ることができます:本当にCにクローズドループを行いたいが、我々はうまくやっている;本当にBにクローズドループを行いたい、おそらく我々はうまくやっていない。あなたが望むほど···。
Bについてもう少し説明してください。Bビジネスの上限は需要です。この世代のAI技術の文脈では、To Bの需要は限られているはずです。急速に成長しますが、無限大のものではなく、最終的にはコンピューティングパワーではなく需要に左右されます。現在の技術条件では、収益の大きさは最終的に需要に依存します。10 ヶ月で費用を回収できるし、需要があれば必ずカードを買っています。需要がないので、今はもっと買わない。技術が進歩し続けるにつれて、需要はますます大きくなるはずです。
マルチモーダル、スケーリング、低コスト
マルチモーダルレイアウト私たちがやってきましたこれは、製品やCエンドユーザー製品にとって重要です。しかし、インテリジェンスの上限に関しては、それはコンポーネントであり、メインラインそのものではありません。コンポーネントとして、マルチモーダルは間違いなくやっています。関連するモデルについて説明する必要があります:V 4とその後継バージョンはネイティブマルチモーダルをサポートします。しかし、マルチモーダルについての私たちの理解は、それは知性のコンポーネントであり、知性そのものとはみなさず、探索と同じ位置にあるということです。サーチもコンポーネントであり、マルチモーダルもコンポーネントです。
スケーリングは、スケーリングを信じています。確かに、規模が大きければ大きいほど、より多くの機能をアンロックできます。スケーリングを妨げているのは計算能力です。スケーリングしたくないわけではなく、スケーリングを行う計算能力があまりないからです。
天井がどこにあるかはわかりません。このような大きなモデルを訓練したのは大きなモデルで十分だと思ったからではなくリソースがたくさんあるからです私は自分のリソースから計算します:私が受け入れ、訓練できるモデルはどれくらいか、このように計算され、モデルだけで十分ではありません。
今のところ、モデルの利点は非常に明白です。このスケーリングの壁にぶつかるチャンスはまだありません。まだ遠いです。シリコンバレーがスケーリングの終わりを言っているとき、それはシリコンバレーにとってです。中国人にとっては、我々はまだそこから遠く、そこまでスケーリングすることはできません。このスケーリングには、データのスケーリング、モデルサイズのスケーリング、トレーニングコストが含まれます。私たちはスケーリングの上限を探求するにはまだほど遠いですが、スケーリングの上限を押し上げるためにも努力を惜しみません。資金調達後も含めて、より多くの計算能力があり、より大きなモデルを訓練することができ、より短い時間で購入できるほど良いです。6 ヶ月以内にすべてのお金を使うことができれば、それは最善ですが、実際にはできません。
次世代モデルのコアコンピタンスは、次世代モデルと呼ばれるためには継続的に学習する能力が必要だと思います。それまでは、コストをかけ、結果をより良く、より速く行うことができます。しかし、大きなブレークスルーがあるためには、継続的な学習が必要です。
なぜモデルの計算効率を重視するのでしょうか?誰もがモデルの効率性を気にしないことがわかりました商業化された企業にとっては、モデルの効率性を追求するインセンティブはありません。いくつかのスタートアップでは、低コストが彼らの利益にならないからだと言うのを聞きません。低コストで、他に何を稼ぐのか?あなたはお金を受け取らない。
むしろ、それは私たちのビジョンの一部です。私たちのクラスメートはこのコストを気にしますなぜなら私たちのクラスメートは普通の人でお金がかかることを知っているからです共感を持つことができます他の人は使うためにお金を使わなければならないので安く他の人は受け入れられるレベルが高くなります多くの学生はコストを下げたいと考えていますしかし、ビジネスの観点から見ると、それは実際には考えられません。ビジネスの観点から、コストの観点から、それは最優先事項ではありません。
スタートアップや大企業にとっては、このサービスのコストはまったく高くありません。しかし、私はそれが比較的軽く、手頃な価格であることを願っています-特に中国のコンピューティング不足の文脈で-手頃な価格で、国内のカードで使用できます。
低コストは、まず第一に結果です。私たちのモデルは、私たちのビジョンに関連して、より低コストのアーキテクチャの方向に進んでいます。アルゴリズムにはまだ多くの方法があり、コストは下がります。コストが下がったもう一つの理由は、コストが下がれば下がるほど、より大きなモデルを訓練できるようになり、より大きなモデルに対応できるようになります。同じ計算能力と計算能力が限られていても、計算効率が良ければ、より大きなモデルを引き受けることができます。大企業では、必ずしもそうではありません。リソースは追加でき、リソースを追加することで解決できますが、コスト効率を優先します。
15:少ないものが多いものを打ち負かす
データの範囲は比較的広く、データはモデルのほぼ半分に等しいはずです。
なぜAIがGDPの20%を占めることができ5%を占めることができればうまくいかないと思うのでしょうか?私は他の人に必ず打ち負かされるからですもし他の人が“私は1%しか持っていない”と言えば彼に打ち負かされるでしょうもし私の目標が人類のGDPの5%になるとしたら理論的にはまだ成り立つでしょうOpen AIを見てください彼は計算できるようです理論的には問題ありませんしかし、彼には問題があります。彼は1%の人にしかなりたくない人に打ち負かされるでしょう。他の人が言いました“私はとてもうまくやっているが世界のGDPの1%を取るだけで彼を打ち負かすことができる”この時、別の人が出てきて、“私は0.1%しか必要ない”と言えば、前の人たちを打ち負かします。
マクロ的には、その数パーセントがどこから来ても、違いはありません。多く取る者は少ない者に敗北する。実際に多くを取らなくても、ビジョンが多くを取ることであれば、ビジョンが少ない人に打ち負かされることになります。実際には、誰もがお金を得ていない、ただのビジョンです。あなたのビジョンは、より多くを取ることです、あなたは最初に負け、あなたはより大きな困難に直面します。この世界はこんな感じです。
Open AIは最初から世界を独占できると思っていましたが、実際には多くの挑戦者がいました。彼は挑戦に直面し、容易ではない。米国が直面した課題は、彼が将来中国の課題に直面するかもしれません。中国人はより少なく受け取る意思があるので、あなた方にサービスを提供できます。中国では、より少ないものを好む人もいるでしょう。しかし、最終的にはバランスがあります。あまり取りすぎてしまうと、会社のビジネスロジックが成り立たなくなり、生き残ることができません。だから、取りすぎて生きていけない。取りすぎて、取りすぎて、取らすぎて、取らない者に負けてしまう。
だから私たちにとっては、利益を最大化するために最大のお金を取るのではなく、合理的な利益を得るだけです。それは説明です。私はそれを信じています。理由を探していません。理由を探す必要はありません。私はそうしましたし、それには理由がありました。これはあまり一般的ではないかもしれませんが、会社では珍しいと思います。
十六、組織方式:2行、残業なし
私たちの会社の経営は、実際には2つのラインです。1つは上から下へ、もう1つは下から上へです。
下から上へ:誰もがやりたいことを自分でやり、誰も気にしない、KPIもない。
上から下へ:フォーマルです。私たちは集団で何かをしたいので、全社的な協力が必要です。例えば、V 4をリリースしたい場合は、分業が必要です。誰もがその一部をしなければなりません。上から下へ、これを“フォーマル”と呼びます。
従業員の時間の半分を使わないようにしたいのですが公式には半分以上。彼にはまだ半分の時間があり、スケジュールされておらず、やりたいことをすることができます。それは、彼が重要だと思うこと、彼が探求することに応じて、事前の要件なしに、彼自身が探求できる研究の範囲です。会社がサポートでき、コンピューティングパワーが彼をサポートできる限り、またはコンピューティングパワーを必要とせず、ほとんど何もしない限り、彼は調整する必要はありません。私たちは今、そのような組織です。
上から下にいると思う人もいれば下から上にいると思う人もいますがどちらも正しいと思います私の基準の1つは、公式には半分以上ではないことです。
普段は残業しません。残業は2つの理由である。まず、研究にはリラックスした環境が必要です。非常に強く押すと、研究をすることができません。自分に興味を持ち、普段はこれらの問題について考えなければならないので、比較的リラックスした環境でなければならないので、探求することができます。これは文化研究の必要性からです。次に集中しています集中力があるということは、やることがほとんどなく、やることがあまりなく、残業する必要もありません。
これは前の自制と同じです。私は自制しているので、何度もやめます。やるべきことが少なく、みんなの仕事が少なくなります。私たちの製品の多くは不完全であり、私たちはそれを修正しません。それも私たちの文化です。
質問コーナー。
Q:継続的学習がブレークスルーにつながる時期について詳しく教えてください。継続的学習を実現するために必要なアーキテクチャ、アルゴリズム、その他の重要な要素は何でしょうか。
答えは: 人が少なく、研究が必要です。世界中がこの問題を研究しています。投資家にとってはエージェントが最も多く見られますが、研究を行っている私たちにとっては学習と学習の問題を解決する方法が多く見られます。
学習は技術ではなく、問題です。この問題を解決する方法については、多くのテクニックがあります。1つのことではなく、多くのことになります。AGIは多くのもので構成されており、モデルが必要ですが、他にもたくさんのものが必要です。工学的·アルゴリズム的な問題でもある。この問題は比較的専門的ですが、多くの方法と多くの研究があります。
質問: レオンさん、ありがとう。まず、あなたが最初に言ったことは私を非常に感動させ、私たちに多くのインスピレーションを与えました。このチームは最大の善意を持って、この社会と人間の知性の発展を促進し、少し貢献したいと思います。これは、私たちがサービスを提供する会社の企業文化に非常に近いです。チームをオープンソースにしている理由がよくわかります。私はイメージ的に、ガジュマルの木のような鳥の楽園の生態系を行うように、すべてのものと紛れもなく、誰もが受け入れられる、すべての共生、最終的にはユビキタスに感じる。この投資により、私たちはこのミッションとビジョンへの認識、支持、尊敬を表明します。
第一の問題エコロジカル·ビルディングについて:オープンソース化の後、オープンソースのモデルと結果を再現できるパートナー、才能、チームはどれくらいいるでしょうか?今後、このエコシステムをさらに発展させるためには、私たちのモデルに接続し、再現するために、より質の高い人材が必要だと感じている分野は何ですか?それとも、GPUは比較的少ないのでしょうか。将来的には、モデルマトリックスのアプローチになるのでしょうか。ベースモデルをどんどん良くし、あらゆる業界のパートナーやチームがモデルマトリックス内の垂直産業モデルやアプリケーションモデルを作るのでしょうか。現在の開発はどうですか?2年後、3年後にはどんな環境になっているでしょうか。
第二の問題AIハードウェアについて:AIグローバル大手企業は、単一のユニットが数千億ドルレベルの投資を行う可能性があり、中国は現在、ハードウェアコンピューティングパワーにいくつかの欠点があるようです。AIの開発をサポートし、コンピューティングパワーとハードウェアの欠点がAGIを妨げないように、これをどのくらいの時間で解決できると思いますか。これは中国の将来の使命であり、確かにそれを行うことができますが、時間とお金の問題ですか?同時に、それは2つの側面になる可能性があります。一方では、モデルの進歩はインテリジェンスを向上させ、単一のタスクまたは特定のインテリジェントなモノマーのハードウェアとコンピューティングパワーの消費を徐々に減少させ、モデルの進歩はそれをスマートにするため、もはやそれほど大きなコンピューティングパワーを必要としません。他方では、ハードウェア技術の進歩はコンピューティングパワーのエネルギー効率をより強力にします。これは両側の方向性でしょうか。また、今960、H200、1000億ドルレベルの計算能力投資を行うために、3年で償却するとおっしゃいましたが、実際のライフサイクルは4、5年だと思いますか?現在構築されているワンカードクラスターは、3年後には比較的高度なコンピューティングパワーではないのでしょうか?今では足りない、3年後には冗長になるのでしょうか。
答えは:ありがとうございます。1つ目はエコロジーです。
あらゆる企業が直面する問題は人材不足だと考えています。しかし、この不足は段階的なものだと思います。あらゆる産業の初期段階では、人材が不足しています。ウェブサイトを始めたばかりの頃は、ウェブサイトを行う人は少なく、才能は非常に不足していました。その後、インターネットがサービスサイドを行うには、才能も非常に不足していました。しかし、この不足は非常に迅速に解決されます。2、3年です。なぜなら、多くの人が生まれるからです。
AI人材の不足も段階的なものであり、すでに大幅に緩和されています。AI人材は本当に不足しておらず、どの企業もすぐに人材を育成し、人材を育成するのは非常に速いです。AI業界全体として、エコロジー、モデル会社など、人材には事欠きません。人材不足は確かに短期的な現象であり、歴史上、長期的な人材不足はありません。10年前、パイロット不足、パイロットの訓練サイクルは非常に長いが、すぐに解決されたと言ったことを覚えています。
人材不足の心配はありません。また、現在の国内モデル会社は少し多すぎます。米国は3つしかないかもしれませんが、中国はベースモデルが多すぎます。最終的には、基本モデルを作るためにそれほど多くの人を必要とせず、収束するはずです。資源も比較的分散しており、ある程度無駄になっています。どの国も同じことをしなければならないのと同じですが、米国は3つしかできず、資源はこの3つに集中しています。中国の資源は非常に分散しており、それぞれが受け取る資源は少ないです。これは収束すると思いますが、最終的には収束するプロセスが必要です。
そんなに多くは必要ない。今では利益率が非常に高いと思っているかもしれないので、自分でやらなければならないが、それほど利益がないかもしれないと分かったら、やらないかもしれない。客観的な法則に合わないので、利益が高いとは思いません。つまり、非常に高い利益率があれば、それは客観的な法則に従わず、合理的な利益であるべきであるという段階にいることを意味する。これが業界の現状であり、間違いなく収束すると思います。
大きなモデルの部分は、特定の独占と言わないでください、“私はすべての利益を取る”、これは確かにできません。誰もが合理的な利益しか得ていなければ、大きなモデルを作る人はそれほど多くありません。中国は最終的に3つか4つの競争を持っており、競争は非常に完全であり、価格は絶対に価格戦争を戦うのに十分です。2つの大企業と2つの中小企業で十分です。
エコロジーに関しては、あまり考えていません。もっと多くの人を助けたいのですが、エネルギーがありません。私たちにはその意志があり、利益相反はありませんが、それをするかどうかは別の問題です。しかし、少なくとも利益相反はありません。ウィンウィンの協力を望んでいます。まず第一に、大規模なモデル会社が利益の大部分を取ることはできないと思います。それは不可能です。大規模なモデル会社の数は、今はそれほど大きくありません。違いは2つしかありません。1つは時間、もう1つはコストです。どちらの家族も利益を得ない。コスト管理の良い人はより多くを稼ぎ、コスト管理の悪い人はより少なく稼ぐ、それだけです。
質問する。データのこの部分は、現在のオープンデータは、モデル会社がすでにアクセスするチャネルを持っていると信じていますが、時間とコストの問題です。AGIに移行すると、理想的な状態はモデルが自己反復し、自己学習し、自己学習することができることです。シミュレーションデータが使えると思いますか?それとも実際のデータが最高品質ですか?それでも実際のデータから得られる必要があるのであれば、人間が実際に持っていた実際のデータに依存しているため、AIの知能は人間の過去のレベルに制限されるのでしょうか。それとも、シミュレーションデータ、シミュレーションデータ、作成データなどを通じて、この限界を超えてモデル能力を人間の過去のすべての現実を超えることができるのでしょうか。
答えは答え“乗り越えられると思います。2点あります。例えば、囲碁では、AlphaGoは人間が見たことのないチェスをしました。ある程度の範囲で人間を凌駕しています。しかし、彼には限界があるかもしれませんが、今はその限界が見えません。ですから一般的に言えば人類がすでに持っている知識や話すことができる知識に基づいて超越できると思います
実際のデータかシミュレーションデータか、うまくいくのか、いろいろな方法があると思います。
米国との差は12 ヶ月、12 ~ 18 ヶ月、6 ~ 12 ヶ月になるかもしれません。簡単に言えば、米国から2年遅れて、米国の20分の1の計算能力でこれを行うことです。この物語は、1年から2年遅れていますが、計算能力は20分の1です。 将来的にはこの物語を書き換えなければなりません計算能力の数分の1を使いますがこの期間をさらに短く6 ヶ月か3 ヶ月に短縮することが目標だと思いますある意味ではそれを上回ることもできますしかし、全体的な計算能力にまだ桁違いのギャップがある場合、完全なオーバーテイクは現実的ではありませんが、いくつかのポイントとトレードオフがある場合、オーバーテイクは可能です。
質問: 2つの技術的な問題まず、技術ルートについて話したとき、この段階で解決しなければならない核心的な問題は継続的な学習であり、これは現在の海外研究のホットスポットでもあります。今のところ、技術的に最も難しいことは何ですか?あなたの視点からは、いつ解決できますか?第二に、継続的学習を解決し、次にインテリジェンスを行うという話ですが、その背後にある技術的なルーツは何ですか。継続的学習問題を解決した後、DeepSeekは一般知能を行うということでしょうか。
A:技術的な問題の問題は、まだうまくいく方法が見つかっていないことです。世界はまだ良い方法を見つけておらず、誰もが模索しています。まだ模索段階にあります。誰がこの問題を解決する次の方法に触れることができるかわかりません。多くのアイデアがあり、有望に見えるアイデアがたくさんありますが、まだうまくいっていません。これが最初です。
2つ目は、社内ではストーリーを重視しています。次のバージョンのモデルをトレーニングし、自分たちの開発に役立つことを願っています。DeepSeekの効率化-私たちのモデルはまずDeepSeek自身の生産性を向上させ、次のバージョンのモデルを開発する際にさらに役立つでしょう。簡単に言えば私たちが作るモデルの第一の目標は皆がうまく使うことではなく自分たちがうまく使うことです最初は自分たちのために働き、次のバージョンのモデルに取り組むときにはもっと速くなります。
社内の多くの人が考えているのは、まず自分のために使い、まず自分のために使うこと、それがAGIを実現する最速の方法だということです。自分が役に立つということは、他人も役に立つかもしれませんが、まずは自分が役に立つことを確認する必要があります。この話は少し奇妙ですが、多くの人がそう思っているのは、ユーザーがうまく使うのではなく、自分たちをもっと助けたいので、AGIをもっと早く実現できるようにしたいのです。この物語の論理は、AGIを実現する手助けをするということです。しかし、まずAGIを実現するためには、この助けが必要です。AGIの実現には人工知能が必要だと確信していますそれはまだ自律的に動作していない、まだ人と一緒に働くだけですが、すでに非常に有用です。
(最初の継続的学習、次に一般的知能について)継続的学習の問題を解決することで、研究開発の進捗を大幅に加速できます。継続的学習を最初に解くと、一般知能の問題は問題ありません。私はAIの助けを借りています。AIが学習を続けることができれば、その能力は非常に強いはずです。今日のエージェントの能力は限られていますなぜなら継続的に学習できず効果的に学習できないからです継続的な学習を最初に行うことができれば、AIの能力は非常に強く、私たち自身の研究の効率を大幅に向上させることができます。継続的な学習が最初に行われれば、一般知能は簡単になるかもしれません。これは私たちが望んでいる結果です私たちはより多くの労力を節約し簡単になりますそうでなければ、人工知能を行いたいのですが、それは比較的疲れた、より苦い、データ集約的で、労働集約的なものであり、費用対効果は高くありません。少なくとも学び続ける必要があると思います。
(国産ハードウェアが追いつくかどうかについて)国産側は数年かかるかもしれない。まずエコロジーの問題を解決しなければなりませんエコロジーは自信の問題ですから生産能力の問題を解決しましょう徐々に解決できると思います5年経っても生産能力の問題に行き詰まっているとは思えません。今は確かに生産能力の問題に立ち往生しています今年、来年、来年、来年、来年、まだ生産能力の問題に立ち往生するかもしれませんが、5年後、私は必ずしもそうではないと思う、私はまだ比較的楽観的です。
(将来の組織構造と人員規模について)これまでの組織構造は、組織構造がなかったので、非常に分散していました。しかし、人々が成長するにつれて、確かにいくつかの変更が必要です。多くの変更が必要だと言うことができますが、すべてを一度に表現するのは難しいです。最後に、異なる部門に分ける必要があります。いくつかの部門は、より厳格な階層構造を確立する必要があります。他の部門は、まだ比較的緩やかでフラットな構造を維持するかもしれません。人員が増えるにつれて、この調整を行います。すぐに行わなければならないというべきですが、私はすでに行っています。この調整がなければ、多くのことは前進しません。多くの部門が組織化されるべきです。
(リリースのリズムについて)私たちは現在オンラインでV 4このバージョンをリリースしていますが、まだ比較的粗く、多くの機能に時間がかかります。私にとって、より快適なリリースペースは、おそらく2、3 ヶ月に1回リリースされます。最後のリリースは4月下旬で、次のリリースは6月下旬で、おそらくこのようになります。事故がなければ、1つのバージョンは1つのバージョンより良いはずです。
50Bの活性化のスケールでは、最終的には現在のオープンソースの波とそれほど変わらないと思います。推論のスピードと効果の面では、おそらくそれほど変わらないでしょう。しかし、その大規模で非公開のモデルとは、ギャップはまだかなり大きいはずです。そのギャップは、アクティベーションパラメータでは達成できないはずですが、確かに150Bのような大きなモデルになるはずです。それでは150B、私たちの现在训练の进捗によると、楽観的なら今年末に训练を始めることができます。少なくとも来年の四差はまだ比較的大きいです。これはOCEとの違いです。
AGIの実装は突然変異ではなく、漸進的なプロセスであるとよく言われます。これは限界点のないプロセスなのでしょうか?
A:臨界点はありませんが、非線形です。AIはAI研究を加速できるという話があります。AIを使って独自の研究を加速できるので線形ではありません後方には非線形になる可能性があります
Q:わかります。つまり、言語モデルのスケーリングを続けるだけで、この状態を達成できるのでしょうか?
A:言語モデルのスケーリングについては、現時点では上限は見られません。私たちの現在の知能レベルやアメリカの知能レベルには上限がありません
Q:わかりました。米国の800B活性化モデルは、我々よりも訓練できますが、それも使用できないので、訓練することしかできません。確かに少し高価なので、皆に使うのは難しいです。私が興味を持っていたのは人類が言語能力を持つのは10万年近く前のことでしたおそらく37億年前のことですAIの訓練に関しては順番は逆になりますが最終的には必ずしも世界モデルとは呼ばない物理モデルや身体の一部になるかもしれませんこの上限の後?
A:はい、身体は絶対に入ってくると思います。私たちの会社にとっては、当然、終わりは物理的です。普通の人にとって、コンピュータは必要ありませんよね。普通の人は食べたり食べたり食べたりしますコンピュータは必要ありません必要なのは、特定の人材のニーズを満たすことです。目標が人材ニーズを解決することであれば、私はそれを乗り越えられないと思います。
Q:わかりました。段階的に言えば、自己進化できる、より良い自己進化できる状態に達し、その上昇点に近づいたとしたら、この状態のAIに最初に着陸したいものは何でしょうか。
A:今とは違うかもしれません。身体がないとしたら、AGIの定義は何でしょうか、AGIに何ができるでしょうか。次のモデルを作るのに役立ちます。そして身体ができたらそれにも同じことをしてほしいのです次の身体を反復させ次のロボットを作るのです
Q:まだちょっと気になります。DeepSeekの以前のインタビューでは、いくつかの重要な方向性と研究の選択において、単純なエンジニアリング最適化ではなく、味と直感が重要であると述べた。AIが進化するとしたら、味、味、直感はまだ重要でしょうか?または、何が重要でしょうか?
A:AIには味覚や直感が欠けていません。欠けているのは継続的に学習する能力です。AIの味や直感に問題はありません。記事を書かせても、その味や直感に問題はないと思います。
Q:継続的な学習、継続的な学習は、多くの研究者が未解決の研究課題として言及しているとおっしゃいました。コーディングエージェント、特にMILESに追いつき、Officeレベル、MISレベルにスケーリングすることは、より明確な目標です。未解決の研究目標と比較的確立されたスケーリング目標について、研究資源、特に研究者の人材資源をどのように配分し、最適なバランスと結果を得ることができると思いますか。
A:モデルオフィスは比較的明確な目標です。モデルMISは、まだ明確とは言えないと思いますが、目標としか言えません。モデルオフィスは、より確実だと思います。
これは(継続的な学習)リソースではありませんこのような自由な研究を行うには、カードを消費するのではなく、必要なのはアイデアだけです。人材も消費しません。なぜなら、常にそこにいる必要はないからです。これはプロジェクトではなく、多くの人がそこにいることを考える必要がある。資源を必要としないので資源を割り当てる必要はありません。モデルを訓練し、モデルを作成し、モデルを開発し、モデルの効率を実験するには、リソースが必要です。先ほど述べたように、人やカードの資源消費はあまりありません。
私たちはこれを“賞”と呼んでいます。しきい値は低く、誰でも触れることができますが、誰が何を感じるか、才能を見るか、何を見るかわからないかもしれません。
資源を配分する必要はありません“私たちが他の会社と違うのは、時間をかけてこの問題について話し合い、考え、重要なこととして捉えていることです。これは会社にとって重要な問題であり、時間をかけて考えることができますが、多くのリソースを費やす必要はありません。
ビッグモデルの錯覚問題は、ユーザーエクスペリエンスに影響を与えます。幻覚の問題にも解決策がありますが、これは長期的な問題です。幻覚の問題は、より良いポストトレーニングによって解決できる問題と考えることができ、解決し、改善することができる問題ですが、誰もがそれに多くの努力をしていません。私にとっては錯覚は問題ですが製品の問題かもしれません私たちはそれを解決しますが、焦点ではありません。
データの問題があります。データラベリングに関しては、設備投資と関係があります。設備投資の構造では、コストが高いため、高品質のデータラベリングのコストを多くサポートすることはできません。米国のデータラベル付けのコストは中国と変わらず、中国の標準データにはコスト優位性がなく、特に標準ハイエンドデータにはコスト優位性がなく、米国のように標準データに投資することは困難です。中国では、標準データが非常に高価であるため、この道は非常に困難です。外部規格でも自社規格でも、非常に困難です。
現在は基本的に2本足歩行。完全に標準化できないというわけではありませんが標準化データには低コストと高コストがあります低コストを最初に標準化しますですから私たちの会社の半分は標準データに取り組んでいますコア研究者の半分は最も重要な人たちの半分は標準データに取り組んでいます私たちは標準データに集中していますAIの問題を解決するには、この段階では標準データに依存しています。コアはデータです。
Q:最初の質問です。中国のモデルは確かに効率的に米国のモデルよりも優れているとおっしゃいましたが、将来的には米国よりも優れている可能性がある分野もあります。私たちは知的でその他の点でアメリカより優れていると思いますか。
A:多くの経験において、米国よりも優れている可能性があると思います。私たちの経験はさておき、製品の経験は素晴らしいと思いますが、ユーザーエクスペリエンスに関しては必ずしも米国より悪くなるとは思いません。製品と製品能力は必ずしも米国よりも悪くないし、コストも米国よりも低くなるはずなので、中国は依然として競争力がある可能性が高い。
他の面では、構造的な利点があるとすれば、おそらくないでしょう。しかし、コストと製品の両面で、構造的な利点があると思います。コストはよく理解されています彼らはそれをする必要がないので彼らはこの能力を開発しません彼らは確かに私たちがそれに注意を払っていません私たちはそれを非常に重要なこととして扱うことができますが彼らにとっては重要ではありません製品もありますが、多くの企業の製品能力もあります。この2つには構造的な利点がある。
Q:2番目の質問です。トレーニング後のトレーニングについて話しましたが、AnthropicやOpen AIのように、比較的高いコストを投資しています。今回の資金調達後、トレーニングにもっと投資するのでしょうか。
A:ギャップは主にAI 研究における質の高いデータのラベル付けにあります。間違いなく入力を増やします。しかし、質の高いデータのラベル付け、ボトルネックは資本投資ではなく、時間だと思います。Open AI、海外、Anthropicにとっては、彼らはすべて早く、資本とカードが増えました。国内ではこの半年しかやっていないと思いますので、時間的にはもっと時間が必要だと思います。これは資本投入とはあまり関係がなく、資本投入がなくても、元の資本で十分な速度で拡大しています。しかし、この速度には上限があり、ボトルネックはお金ではなく、カードではありません。本当に急速な拡大の過程にあります。したがって、1年以内に、質の高いデータの問題は比較的良くなり、国内でも期待できるはずです。それほど難しくないかもしれませんが、時間がかかります。
Q:3つ目の質問です。Anthropicは独自のモデルを使って製品を作り、金融、法律、さらには将来的には医療の方向にも多くの垂直方向を展開しています。このような垂直応用についても、ある段階で検討するのでしょうか。
A:将来の国内ビジネスモデルがどのようになるのか、最もスムーズな道がどのようになるのか、まだその段階には至っていません。国内の状況と海外の状況は必ずしも同じではなく、国内がどのようなものか、今は判断が難しいと思います。現在の状況では、最も合理的なアプローチは、一般的なエージェントに全力を尽くすことであり、財務や医師を含む他のエージェントの優先順位は低くなるべきだと思います。コーディングエージェントは多くのことができ、多くの垂直エージェントがあるので、コーディングから始めてください。現時点では、最も重要なのはコーディングエージェントです。
Q:実は私たちもDeepSeek関連のことをやっていますが、純粋な科学的アプローチでDeepSeekをやっていることに感心します。しかし、今、業界は資本市場に行き、資本化の道に進んでいます。あなたは投資家やパートナーにとって非常に責任のある人です。純粋な科学研究、純粋なAGIの方向性、そして資本市場、すなわち資本市場、そしてもちろん公開株主の方向性の間で、今後のバランスはどのようにお考えですか?これをどう思いますか?
A:今ならできると思います。今年はBサイドで数億ドルの収益を上げることができ、Cサイドでユーザーがいれば、それ自体が一定のビジネス基盤を持っています。来年、我々はB側の収益を持っている、この需要を増やすことができる場合は、会社は純利益から遠くない、それはすでに純利益かもしれない、それは純粋な燃焼段階ではないかもしれない。だから、後ろでできることや操作できることはまだまだ大きいと感じています。
最悪の場合、APIを売ることは公開会社を支えることができるかもしれません。テクノロジーの背後に新しい進歩がなければ、私たちのテクノロジーはここで凍結してしまい、最終的にはAPIを販売し、これらのサービスをうまく機能させることに全力を尽くしています。
だから私はまだ自信を持っている、本当にそんなに難しくないと思う。なぜなら、レバレッジが高く、急速に成長している分野では、それほど難しくないかもしれないからです。ただ言えることは、私たちはより大きな夢を持ちたいのですが、保証された結果もあります。
Q:DeepSeekと他の企業の最大の違いは、私たちの組織が他の企業とは異なることだと思います。しかし、組織の形態は、目的だけでなく、組織自体の境界と効率性にも関係します。マクロ的な観点から考えると、この組織形態は良い学習対象になるでしょうか。歴史的にはベル研究所かもしれませんが、どのような形が理想的ですか?それとも、理想的なものはなく、徐々に探求することに依存していると思うのでしょうか。新しい時代には、私たち自身が探求するしかないかもしれません。私たちの組織は確かにアメリカのいくつかの企業とは異なり、3社も異なりますが、少なくとも1つの商業企業の観点から探求するでしょう。主に組織について質問したい。
A:まず第一に、模倣対象がありません。それぞれのステップは、現実から始め、現実に基づいて意思決定を行い、何をすべきかを見つけることです。したがって、それは時代の産物であり、現実の状況への反応であり、模倣の結果ではない。
この場合、最適な解決策はこれかもしれません。私たち自身が選んだ道です。すべてのステップは確かに考え、選択し、選択し、選択した結果はこのように選択されます。誰が選ぶかを見るからではなく、長所と短所を分析したからです。未来も同じかもしれません誰の真似もしません
私たちはベル研究所とは違います商業化する必要はありませんが商業化したいのは明らかです結局、私たちは生き残ることができます。私たちは会社であり、政府は私にお金を与えません。だから私たちは非常に大きなミッションを持つことができますが、最終的には会社であり、生き方を考える必要があります。だから、Bエンドは確かに私たちにとって重要です。後で生きなければならないかもしれないから。今は重要ではありませんなぜなら今はコストラインだからです
ベル研究所とは違いますが、私たちは基本的に会社です。歴史上、利益以外の追求を持つ企業はたくさんありますが、利益以外の追求があるからといって、会社ではありません。多くの企業が素晴らしいことをしているのは、利益以外の追求があるからです。その追求は最終的には商業化に影響しないだけでなく、より良い商業化につながります。私たちは本質的に会社であり、何を、いつ、どれだけ、何で稼ぐかを考えていますが、選択肢があるだけです。
Q:2つの小さな質問。まず、MILOSはあまり明確なターゲットではないかもしれませんが、確かにその方向に進むとおっしゃいました。また、次世代のアクティベーションパラメータは150 ~ 250B程度になるとおっしゃいましたが、150 ~ 250BはO 4.7に匹敵すると思いますか?それとも他のものに匹敵すると思いますか?次に、参照全体でCUDA 以外のコンパイル言語を使用しています。もともとはNvidiaエコシステムに基づいて、PTXをもっと使用するかもしれません。TileLangをもっと使用すると、推論の効率が大幅に低下したり、短期的に効率が低下したりしますか?このコンパイル言語の変更による効率の低下についてどう思いますか?それとも長期的には効率を向上させることができる状態ですか?
A:効率の向上、効率の向上です。
Q:ネガティブな影響はありませんか?
A:はい、効率が向上しました。だからチャンスだと言ってください以前はCUDAの生態系から切り離すことができませんでしたが、今ではその生態系を捨てて、より簡単な方法でTileLangを使うことができます。高水準言語であり、プログラムを書くのは非常に速く、書くコードの量は非常に少ないので、書き直すことができます。
Q:わかりました。ですから、どちらもAIがもたらす大きな機会であり、短期的に補う必要がある欠点ではありません。
A:はい、これは技術開発の大きなチャンスです。AIでTileLangを書くプロジェクトもあります。
Q:それは速いですか。
A:TileLangはすべて人間によって書かれていますが、CUDAを書いたものよりもはるかに高速です。
Q:わかりました。ハードウェアの実装効率にも影響はないのでしょうか?
A:1 ~ 2%の損失は許容できると思います。
Q:分かりました。ありがとうございますはっきりしています
他の人には何か問題はありませんか?問題ありません今日から始めましょう皆さんの時間をありがとうございました。