1. Intention und Vision: Eine Gruppe von gewöhnlichen Menschen, die mit guten Absichten arbeiten
Ich und die anderen Kollegen in unserem Unternehmen haben am Anfang dieses Unternehmens gegründet, ohne daran zu denken, wie viel Geld ich am Ende verdienen würde, an den Kapitalmarkt gehen, an die Börse gehen und wie es aussehen würde. Wir hatten diese ursprüngliche Absicht nicht. Die ersten Dutzend Leute hatten das überhaupt nicht gedacht - wenn er es so dachte, wäre er nicht gekommen.
Im Allgemeinen tun wir dies mit einem sehr großen guten Willen gegenüber der Welt. Wir fühlten, dass es für die Menschheit nützlich ist, und es ist etwas anderes als Geld. Natürlich, nach dem Rücken, nachdem ich feststellte, dass dieser Vorteil sehr groß war, gab es noch andere Versuchungen, das ist eine andere Sache. Aber unsere ursprüngliche Absicht, unsere Vision und die Vision, die wir bis heute beibehalten, wurden nicht auf eine Weise durchgeführt, die den kommerziellen Nutzen maximiert. Ich denke, das ist wichtiger.
Vor ungefähr zwanzig Jahren war ich am meisten bewundert in der Führung Jack Welch, der ehemalige CEO von GE. Wenn ich jetzt zurückblicke, ist das meiste, was er gesagt hat, vielleicht falsch, aber er hat am wichtigsten Recht:Das Wichtigste bei einem Unternehmen ist seine Vision.
Die Führung eines großen Unternehmens hängt nicht von den Regeln ab, sondern von der Vision. Was ist Vision? Die Vision ist nicht ein Schlagwort an der Wand, die Vision ist, wie man es tut, nicht wie man es sagt, sondern wie man es tatsächlich läuft. Was Jack Welch gesagt hat, habe ich vergessen, das meinte ich wahrscheinlich.
Wie organisieren wir so viele Menschen und wie organisieren wir uns? Wir haben keine Organisation, sondern eine Vision, die wir organisieren. Das hat Vorteile und Nachteile, in Zukunft werden wir versuchen, die Stärken zu vermeiden, aber das ist unsere Eigenschaft. Wir machen das nicht mit einem „Welche KPI werde ich erreichen" - es gibt keine Beurteilung, nur eine Vision.
Diese Vision ist nicht einmal aufgeschrieben, es ist nichts geschrieben. Diese Vision liegt in der Art und Weise, wie wir Dinge tun, in unserer Haltung gegenüber der Welt. Vielleicht versteht jeder in unserem Unternehmen diese Vision anders, jeder Mensch hat eine andere Vision, aber in einer großen Richtung ist es übereinstimmend: mit sehr großem Wohlwollen für die Welt, und dann wollen Sie etwas tun. Wir haben uns damit organisiert.
Ich spreche zuerst, dann stellen wir alle Fragen. Ich werde im Hintergrund dieser Vision darüber reden. Diese Vision ist wahr, nicht erfunden, wir denken wirklich so und tun wirklich so, sonst könnt ihr uns viele Dinge nicht erklären.
2. Warum man sich auf Open Source hält
Warum bleiben wir so auf Open Source? Denn diese Vision selbst erfordert Open-Source. Du hast keine Vision, du kannst die Leute nicht organisieren. Zum Beispiel ist das Spektrum auch Open-Source, aber das Open-Source - Spektrum ist anders als unser Open-Source - Spektrum. Die Open-Source - Intelligenzen haben ein gezwungenes Gefühl, dass sie das nicht wollen, aber für uns ist es unsere Absicht.
In Bezug auf Open Source haben wir uns von Anfang an sehr klar darüber nachgedacht. Erstens ist es die Vision; zweitens glauben wir, dass es gut ist, Open Source zu machen, um diese Sache in der Wirtschaft zu machen.
Das klingt ein bisschen widersprüchlich, ein bisschen gegen die Intuition, denn in der Geschichte standen Open Source und Commercialisierung im Konflikt. Aber ich glaube, dass AI anders ist als früher. In der Geschichte, ein Software-Unternehmen, sein Markt könnte ein paar Milliarden Dollar pro Jahr sein, sobald es Open Source ist, es ist nicht mehr, kann es nur noch mehrere hundert Millionen oder Hunderte Millionen Dollar übrig bleiben. Aber die KI ist groß genug, dass sie letztendlich 10% des BIP der menschlichen Gesellschaft ausmachen könnte, was eine sehr große Zahl ist.Du kannst diese Sache nicht monopolisieren, du musst es mit anderen teilen, sonst wirst du sicher nicht überleben.
Dies ist anders als früher Open Source eine Software zu machen, der Markt für diese Software ist nicht so groß, aber die KI ist wirklich zu groß. Wenn wir dieses Interesse monopolisieren wollen, dann müssen wir es von der Geschichte verwerfen. Das ist eine objektive Regel, das ist eine historische Sicht. Das heißt nicht, dass ich den Markt monopolisieren kann, wenn ich nicht Open-Source mache - das ist theoretisch nicht mit der objektiven Tatsache übereinstimmend, dass Sie auf viele Widerstände stoßen und es andere Möglichkeiten geben werden, Sie davon abzuhalten, dies zu erreichen.
In diesem Fall ist es nicht unbedingt notwendig, das traditionelle Geschäftsdenken zu befolgen. Sie müssen einen Mechanismus haben, um sicherzustellen, dass die Vorteile, die Sie selbst haben können, begrenzt sind, damit Sie es schaffen können. Ich glaube, es braucht Zurückhaltung, ich denke, es braucht Zurückhaltung.
Wenn wir diese Sache in unseren Händen machen wollen, denke ich, dass wir zunächst Zurückhaltung brauchen. Ich kann nicht darüber nachdenken, wie viel Prozent des menschlichen BIP mir gehören, wie viel Prozent des chinesischen BIP mir gehören - je mehr man so denkt, desto mehr kann man es nicht schaffen. Wir haben von Anfang an das Gefühl, dass wir Zurückhaltung brauchen.Je mehr Zurückhaltung du hast, desto wahrscheinlicher wirst du es schaffen. Das ist eine wirtschaftliche Überlegung, natürlich ist es eine makroökonomische Überlegung.
Ich glaube, dass es intuitiv ist, zumindest meine Intuition, zumindest das denke ich wirklich. Wir haben nicht sehr viele andere Vorteile: Wir haben keine Fähigkeiten, wir sind nicht reicher als andere, und wir sagen nicht, dass wir besser sind als andere Unternehmen, in der Tat nicht. Denken Sie daran, als wir vor zwei Jahren dieses Unternehmen gründeten, hatten wir nicht viel Geld, nicht viele Karten, nicht viel Bekanntheit, nicht viel Anziehungskraft, wir waren nur eine Gruppe von sehr gewöhnlichen Menschen.
Es ist wirklich eine Gruppe von gewöhnlichen Menschen. Wenn es eine Lieblings-Erzählung geben sollte, dann ist es: Eine Gruppe von gewöhnlichen Menschen, die Außergewöhnliche getan haben, und nicht eine Gruppe von Genieen, die Außergewöhnliche getan haben. Das hat mit unserer Zurückhaltung zu tun, mit unserer Zurückhaltung, mit unserer Vision.
3. Zurückhaltung: API-Preise und „Zehnmonatige Rückzahlung"
Gibt es einen Konflikt zwischen Open Source und kommerzialisiert? Ich denke, dass man sich in dieser Sache nicht zurückhält, kann man nicht aufstehen.
Open-Source ist Teil der Zurückhaltung Unsere Zurückhaltung zeigt sich nicht nur in Open Source, sondern auch in vielerlei Hinsicht. Im Allgemeinen müssen wir uns nicht speziell um Open Source und Reservationsfragen kümmern - je mehr Reservationsfragen Sie haben, desto leichter wird es möglicherweise zu tun, zumindest bis jetzt nachgewiesen und erklärt werden. Sonst gibt es keine Möglichkeit zu erklären, warum wir es geschafft haben: Wir haben keine Waffen, der Ausgangspunkt ist sehr niedrig, die Ressourcen sind sehr wenig, und unsere Leute sind in Wirklichkeit eine zufällige Gruppe von gewöhnlichen Menschen, ich selbst bin auch ein College-Absolvent, auch nicht die höchste Schule Absolvent.
Diese Zurückhaltung ist auch Teil unserer Vision. Die Sache ist zu groß, der Nutzen ist zu groß. Wir sind sehr zurückhaltend, solange wir es tun können, werden letztendlich die Vorteile sehr groß sein. Wenn du ein bisschen teilst, dann ist der Nutzen sehr groß, also musst du jetzt überhaupt nicht darüber nachdenken, welchen Teil des Interesses darin zu nehmen und wie er es zu nehmen hat, dieser Nutzen ist groß genug, wenn du nur ein bisschen teilst, dann ist es schon sehr genug.
Also haben wir zuvor gesagt, dass wir nur einen vernünftigen Gewinn verdienen, nur nach Ihrem Willen, nicht nach der Größe des Gewinns, das ist nicht dasselbe. Die Logik unserer API-Preise ist: ein vernünftiger Gewinn, wahrscheinlich ist, dass wir auf dem Markt eine Reihe von Geräten kaufen zurück,Zehn Monate Kostenrückerstattung。In der gegenwärtigen Situation, wenn man bedenkt, dass Sie Risiken haben, dass es Vorabinvestitionen gibt usw. - ein Server, die wir finanziell auf drei oder fünf Jahre amortisieren, aber kommerziell, wir denken, dass etwa zehn Monate die Kosten amortisieren, wir denken, genug. Das ist die Logik unserer API-Preise, unsere V3.2 Flash und die anderen, die Kosten für das Gerät in zehn Monaten zurückgewinnen.
Das sind unsere Kriterien. Es ist nicht die Maximierung des Profits - wenn der Profit maximiert wird, sollte der Preis höher sein. Weil die Nachfrage der Benutzer in dieser Preisspanne nicht elastisch ist: Ich halbiere den Preis oder verdoppelle den Token-Verbrauch, der Unterschied ist nicht groß; Wenn ich den Preis noch einmal verdoppelte, mein Gesamteinnahmen fast verdoppelt.
Ich erzähle Ihnen eine Geschichte. Unser DDCP ist unser Modell, am Anfang befürchteten wir, dass die Nachfrage zu viel ist, also setzten wir den Preis am Anfang relativ hoch, und das Team war nicht sehr zufrieden. Später habe ich den Preis wieder auf ein Viertel gesenkt, und alle waren sehr glücklich.
Ich denke, das ist unsere wahre Idee, die Vision, von der ich bereits gesprochen habe: Wir machen das Ding für die Menschen nützlich, nicht für das Geld, das wir am meisten verdienen; wir machen es für alle, wenn wir einen vernünftigen Gewinn erzielen können. Das ist auch die Idee der anderen Leute in unserem Unternehmen - als wir die Preise senken, sind viele Leute in der Unternehmensgruppe jubeln, und alle fühlen sich sehr glücklich. Denn das ist der Zweck, für den wir so viel Energie und so viel Aufmerksamkeit für dieses Modell investiert haben: sehr billig, sehr gut wirkt und kann jeder voll nutzen. Wir fanden das sehr glücklich. Das ist unsere Motivation, das ist unsere Vision, der Konsens, der unser Unternehmen zusammenbringen kann, um das zu tun.
Das sollte etwas Besondereres sein. Weil die Preissenkung für den Rest unserer Konkurrenten sicherlich keine gute Sache ist, müssen sie nicht jubeln - Ihr Einkommen, Ihr ARR, halbiert, ARR halbiert. Es ist ein Ort, an dem wir anders sind.
Wir glauben, dass das reicht. Von dem Unternehmen aus, zehn Monate die Kosten zurückzugewinnen, bin ich sehr zufrieden mit diesem Geschäft; Für das Unternehmen außen, fühlen wir auch, dass dieser Preis ist jeder glücklicher, glücklicher zu sehen, ist ein Win-Win - Unternehmen und Gesellschaft, mit allen Win-Win.
Soeben hat jemand eine Nachricht auf dem Bildschirm hinterlassen, dass der Gewinn in zehn Monaten zu hoch ist. Es gibt tatsächlich Raum für die Preissenkung, und es gibt Raum für die Optimierung des Modells, so dass der Gesamtpreissenkungsraum relativ groß ist. Aber diese Kosten - zehn Monate Rückzahlung - können wir uns selbst leisten, andere können es nicht. Wie Ali oder Tencent, er ist nicht unsere Optimierung, seine Kosten sollten mehrere Mal höher sein als diese, hier gibt es noch eine Menge Optimierung.
Warum sollten wir die Preise nicht weiter senken? Weil es nicht elastisch ist: Ich senke die Preise, und die Nachfrage wird nicht mehr oder nur wenig steigen. Weil dieser Preis alle leisten können, alle zufrieden sind, nicht weil dieser Preis teuer ist, nicht zu benutzen. Also reduzieren Sie die Preise, zunächst wird das Unternehmen nicht mehr Einkommen haben, für die Gesellschaft gibt es keinen Mehrwert - dieser Preis ist jeder zufrieden, egal wie niedrig Sie sind, das Wohlbefinden der Gesellschaft hat nicht viel zugenommen.
Bei der Preisgestaltung gehen wir sicherlich nicht vom höchsten Umsatz oder dem höchsten Gewinn des Unternehmens als Ausgangspunkt. Das ist ein Teil unserer Zurückhaltung. Kurzfristig sind Sie ein bisschen höher und ein bisschen mehr Einkommen, aber langfristig ist das nicht so gut.Weil ich glaube, dass Zurückhaltung eine Taktik ist. Zurückhaltung ist eine Strategie.Manchmal kannst du etwas weglassen, um etwas anderes zu tauschen. Das gleiche gilt auch für uns, und wir können es als Vorteil ansehen.
Zunächst einmal, diese Profit für unser Unternehmen, wir sind sehr glücklich, alle sind sehr glücklich, die Mitarbeiter fühlen sich sehr erfolgreich, wir werden daher Kohäsion haben; Zweitens, diese Profit für die Gesellschaft ist gut, die Gesellschaft ist auch sehr glücklich, andere Kollegen, gewöhnliche Menschen werden sehr glücklich sein. Diese Zurückhaltung erhöht also, wie ich verstehe, die Wahrscheinlichkeit, dass wir langfristig AGI werden.
Ich bezweifle nicht, dass AGI einen großen kommerziellen Wert haben wird. Auf dieser Grundlage habe ich keine Priorität darauf, wie ich mehr Aktien nehme, sondern wie ich die Wahrscheinlichkeit erhöhe, dass ich es schaffen kann.
4. Andere Ausdrücke der Zurückhaltung: Nicht den Benutzer rauben, nicht alle Sesame sammeln
Diese Zurückhaltung spiegelt sich auch in vielen anderen Aspekten wider. Zum Beispiel, im letzten Frühlingsfest waren plötzlich viele Nutzer, aber wir haben nicht verfolgt, um diese Nutzer zu behalten, diese Nutzer zu realisieren, um diese kommerziellen Vorteile zu rauben. Wir gehen nicht, um die Nutzer zu rauben, nicht, um Geld zu verdienen, aber wir sind sehr bemüht, einen Weg zu finden, um den Nutzer-Service gut zu bringen. Wir haben nicht die Idee, dass ich die nächste Super-App sein werde, mit wem ich konkurrieren werde, dass ich das nächste Byte, das nächste Tencent sein werde. Solche Ideen gibt es überhaupt nicht.
Wir könnten das tun, aber wir haben es nicht getan. Ich verstehe, dass dies auch Teil der Zurückhaltung ist. Du willst nicht alles verdienen - es ist so, als ob du mit einem Benutzer das nächste Byte machen kannst, und dann kannst du es essen. Das funktioniert kommerziell: Wenn wir letztes Jahr eine Menge Geld und Bytes ausgeben, um Benutzer zu berauben, ist es auch eine Art zu spielen. Aber wir haben uns für eine sehr zurückhaltende Vorgehensweise entschieden, und ich werde nicht mit Ihnen darüber streiten -Da es hinten Wassermelone gibt, kann es vorne Sesame sein.
Ich sollte keine Sesame rauben. Natürlich kann dieser Sesam größer sein, aber ich denke, dass die AI im Hintergrund nicht groß ist. Nun, letztes Jahr haben wir nicht am C-End gearbeitet, vielleicht richtig, weil man sehen kann, dass es wirklich eine größere Wassermelone gibt und wirklich nur ein paar kleine Sesame vorne. Wenn ich letztes Jahr viel Geld hatte und das so groß gemacht habe, was nützt es? Du bekommst nichts. Das sind meine wahren Gedanken, weil ich das Gefühl habe, dass die AGI-Chancen dahinter sehr groß sind und immer sehr groß sein werden.
Ich muss nicht einmal darüber nachdenken, welche Position ich dort einnehmen werde, was das Geschäftsmodell ist, überhaupt nicht darüber nachdenken. Solange es so eine große Geschäftsmöglichkeit gibt, gibt es eine Möglichkeit. Auch das Sesam, das vor uns steht, werden wir aufnehmen, aber nur ein bisschen, ohne aufzuhören oder es als etwas Wichtiges zu tun.
Das war letztes Jahr ein C-Tag, und ich denke, das ist ein kleines Ding. Aber wir haben auch geholt, mit einem relativ niedrigen Kosten, um die Nutzung des Benutzers zu erhalten, weil es möglich ist, später nützlich zu sein - obwohl ich jetzt nicht weiß, was dieser Benutzer nützlich ist, jetzt ist es eine reine Kosten-Ausgabe, aber später nützlich sein könnte. Wenn wir das bekommen können, bekommen wir es einfach.
Auch in diesem Jahr ist es sehr wahrscheinlich, dass unsere ARR-Einnahmen in API oder AI auch eine Chance haben: Wenn diese Nachfrage weiter ausgeweitet werden kann, können mehr Grafikkarten gekauft werden, dann ist es sehr wahrscheinlich, dass ARR mehrere Milliarden US-Dollar erreicht. Wenn die KI eine Milliarde US-Dollar verdienen könnte, könnte der Cashflow meines Unternehmens im Grunde wieder positiv sein und meine Forschungskosten decken und alle meine Ausgaben decken. Das ist auch möglich, aber wir haben es nicht als Priorität getan. Das werden wir tun, es wird gut gemacht werden, aber es ist nicht die erste Priorität, und es ist nicht das, was wir heute wirklich interessieren. Größere Chancen sollten noch hinter uns liegen - die Chancen, die vor uns liegen, einschließlich des C-Ends im letzten Jahr und des B-Ends in diesem Jahr, sind nicht unser Ziel. Oder die meisten von uns in unserem Unternehmen halten das nicht für eine so wichtige Frage wie AGI.
V. Open Source: Sechs Mal Gewinn, kein Konflikt
Das kann man noch mehr sagen, denn es gibt viele Fragen, die man schon einmal gestellt hat, die Open Source sind. Zunächst einmal sind wir Open Source, und vielleicht sind auch unsere stärksten Modelle Open Source. Weil ich keinen Nutzen von Closed-Source - Byte sehen kann, das Modell ist Closed-Source, was ist der Nutzen? Ich kann nicht sehen.
Selbst wenn das Modell Open Source ist und man anderen alles erzählt, ist diese Schwelle sehr hoch. Wenn andere es benutzen wollen, ist es sehr schwierig; zweitens, wenn er es benutzen will, muss es auch sehr niedrig kostenlos machen, es ist auch sehr schwierig, sehr schwer, nicht so einfach. Es ist nicht so, dass ich Open Source habe, dass er leicht die gleichen Bereitstellungskosten wie ich erreichen kann, und es gibt noch viel Arbeit zu tun. Obwohl diese Funktionsprinzipien verständlich sind, ist nicht jedes Unternehmen bereit oder hat die Bereitschaft und die Fähigkeit, die Arbeitskraft zu organisieren, um dieses Ziel zu erreichen. Es ist möglicherweise nicht gut darin, weil der Widerstand zu groß ist, es ist schwierig, diese Kosten zu kontrollieren, und es gibt viele administrative und physische Einschränkungen.
Das ist auch der Vorteil eines Startups: Wenn das Startup zu klein ist, haben Sie nicht die Kraft, das zu tun; wenn es ein großes Unternehmen ist, können Sie es schwierig organisieren. Diese Sache hat Schwierigkeiten, so dass dies ein süßer Punkt ist, der zu unserer Größe gehört. Wenn wir größer wären, gäbe es dieses Problem vielleicht nicht; wenn wir kleiner wären, wären wir nicht stark genug.
Was die Preise betrifft, werde ich auch nicht eine sehr hohe Gebühr berechnen, sondern auch auf der Grundlage von zehn Monaten zurück.按十个月回本，就已经能够……我按十个月回本，就能够让独立部署的第三方无利可图--第三方做不到，他做不到这个成本，肯定做不到。Open Source hat also keinen Einfluss auf mein Einkommen. Natürlich, wenn ich hundertmal mehr Gewinn machen will, dann ist Open Source...
Open Source hat keinen Einfluss auf unser Geschäftsmodell. " Vorausgesetzt, wir machen nur sechsmal mehr Gewinn - zehn Monate Kostenrückerstattung entspricht wahrscheinlich sechsmal mehr Gewinn. Bei einem sechsfachen Gewinn hat Open Source keinen Einfluss. Aber wenn Sie sagen, dass Sie hundertmal Gewinn machen, dann wird Open Source Sie wirklich beeinflussen, um hundertmal Gewinn zu verdienen, weil ein Dritter die Bereitstellung, er könnte zwanzigmal niedriger kosten als Sie.
Ist das Modell langfristig nachhaltig? Ich denke, es ist möglich. Unsere Vision ist, dass Open Source langfristig nachhaltig ist, und wir wollen es tun. Man könnte argumentieren, dass Zurückhaltung auch langfristig vorteilhaft ist. Diese Strategie gibt uns mehr Möglichkeiten in der Technik, wir haben eine größere Wahrscheinlichkeit, die AGI zu machen, und wir sind ruhiger.
Wir müssen keine Überstunden machen, denn es ist nicht so schwer. Aber für andere Familien könnte es schwierig sein, weil er zu viel denkt. Es ist nicht schwer, überhaupt nicht schwer. Es mag von außen aussehen, dass wir uns für ein schwieriges Modell entschieden haben: um zu forschen, um die schwierigsten Dinge zu tun, scheint es ein hartes Modell zu sein. Aber in der Tat haben wir anderswo viel aufgegeben, so dass wir immer noch sehr stark sind, und wir haben es immer noch sehr entspannt gemacht.
Mein Urteil bezüglich Open Source ist also: Es ist dauerhaft.Es gibt keinen Konflikt zwischen Open-Source und kommerziellen Zahlungen - vorausgesetzt, es gibt keinen Konflikt bei sechsfachen Gewinnen.Ein sechsfacher Gewinn scheint hoch zu sein, aber nicht wirklich. Jetzt, da die KI so effizient ist, könnte ein vernünftiger Gewinn so viel sein. In der Zukunft könnte es auf das Vierfache, das Dreifache sinken, und es ist nicht möglich, dass es noch mehr sinken wird, aber es wird immer noch einen großen Gewinn erzielen - nur die Sache, die die API verkauft. Ich finde es nicht so attraktiv, APIs zu verkaufen, aber das kann es sagen: Ich sehe keinen Konflikt.
Ich mache mir keine Sorgen darüber, dass andere unsere Modelle implementieren, um mit uns zu konkurrieren, und wir hoffen, dass sie es implementieren können. Wir helfen der Open-Source - Community so weit wie möglich, um unsere Modelle zu implementieren. Ich mache mir keine Sorgen, dass er mit mir das Geschäft raubt, weil der Markt groß genug ist. Ich mache mir nur Sorgen, dass er nicht einsatzfähig ist - einige Details sind nicht richtig, die Wirkung ist schlechter oder die Kosten sind höher. Es gibt hier keinen Konflikt.
Letztes Jahr, als ich To B-Geschäft hatte, habe ich mehr gefragt: Unser C-End - ich bin Open-Source, ist das C-End mit meinem eigenen C-End in Konflikt? Da ich keinen Verkehrsvorteil habe, Tencent selbst hat viel Verkehr, er hat unser Open-Source - Modell eingesetzt, alle C-End - Benutzer übernommen haben und meinen C-End - Benutzer weggenommen. Aber das ist ja nicht, es gibt viele Gründe dafür.
Eine weitere Frage: Ist das Open-Source - Modell, das wir anbieten, dasselbe wie das, was wir selbst bereitstellen? Es ist dasselbe. Wir werden nicht ein schlechtes Modell open-source, wenn wir ein besseres Modell verwenden, das ist nicht das Gleiche. Das zeigt auch, dass es tatsächlich keinen Konflikt gibt. Wir haben letztes Jahr das ganze Jahr über C-End im Grunde genommen Open-Source, und der C-End - Dienst hat keinen Konflikt gesehen, wirklich keinen Konflikt. Das ist der Teil der Open Source.
6. Unser Ziel ist AGI: Technologie-Roadmap
Im Folgenden ist die langfristige Vision des Unternehmens. Unser Ziel ist die AGI. Die Definition von AGI ist für alle nicht unbedingt die gleiche, aber das hindert uns nicht daran, AGI als unser Ziel zu betrachten.
Aus technischer Sicht ist die Fahrplanung von AGI ziemlich klar. Die aktuelle Generation von KI-Technologie, wenn Sie in der Lage sind, ein Problem klar zu beschreiben und ihm einen vollständigen Kontext und Anweisungen zu geben, hat es den Menschen übertroffen. Aber es gibt eine Voraussetzung: Sie geben ihm den vollständigen Kontext, die vollständigen Anweisungen - eine Voraussetzung, die schwer zu erreichen ist. Zum Beispiel haben wir heute ein Treffen, und wir haben einen sehr langen, starken Kontext vor uns, vielleicht haben wir jahrzehntelangen Kontext, der von KI nicht verfügt. Was KI jetzt hat: In einem begrenzten Kontext kann sie es besser machen als ein Mensch.
Aber sie kann den Menschen nicht ersetzen. Da fehlt noch ein Platz: Lernen. Menschen können kontinuierlich lernen. Wenn Sie einen Mitarbeiter einstellen, kann er zwei Monate damit verbringen, sich mit dem Umfeld des Unternehmens vertraut zu machen, mit seiner Arbeit vertraut zu machen, und er kann viele Dinge tun. Er konnte dich verstehen, wenn du sagst: » Rufe den kleinen König «, und er wußte, wer der kleine König war. Aber wenn es eine KI ist, weil sie diese zwei Monate nicht zuvor studiert hat, sagen Sie zu ihr: "Rufen Sie Xiao Wang her", müssen Sie ihm sagen, wer Xiao Wang ist, welche Position, wo, wie Sie ihn suchen, was beachten, wenn Sie suchen. Sie müssen den gesamten Kontext geben. In diesem Fall ist KI in der Lage, es zu tun, aber man kann es nicht in einem vollen Kontext geben, unrealistisch.
Sie können Ihre Mitarbeiter nicht ersetzen. Aber wenn KI die Fähigkeit hat, kontinuierlich zu lernen, so wie Ihre Mitarbeiter, um das Unternehmen für zwei Monate zu studieren, dann kann es die Menschen auf der ganzen Welt ersetzen.Bis zum nächsten Schritt haben wir noch einen „Lernen zum Lernen".
Die Entwicklung von AI kann als eine Leiter verstanden werden. Die Leiter, die wir im letzten Jahr gegangen sind, ist CoT, die Denkkette: Wir haben herausgefunden, dass die Intelligenz durch die Denkkette auf ein höheres Niveau erreicht werden kann, indem sie selbst denkt, kann KI mehr tun. Wir überqueren noch einmal eine Treppe. Die diesjährige Leiter ist der Agent: Mit dem Weg des Agenten können mehr Dinge getan werden, seine Fähigkeiten sind größer, die Intelligenz ist höher.
Warum Treppen? Denn jeder Schritt nach hinten basiert auf der Grundlage von vorne. Der Agent verwendet CoT, und CoT verwendet auch die vordere Stufe - die vordere Stufe ist das Sprachmodell. Es ist also kein Schritt frei.
Der Weg der Intelligenz ist auf dem Weg. Die Leiter dieses Jahres ist der Agent, aber auch die Leiter des Agenten wird zu Ende gehen: Nachdem er alle möglichen Probleme gelöst hat, kann er Ihre Mitarbeiter noch nicht ersetzen - er hat die Grenze seiner Fähigkeiten erreicht. Es ist so, als ob CoT, nachdem CoT seine Höchstgrenze erreicht hat, die besten Menschen überholt hat - Mathematik, Programmierung, die besten Menschen - aber es bleibt dort, und die Technologie ist nicht in der Lage, die AGI zu erreichen.
Nach dem Agenten haben wir das Problem, dass wir uns mit dem kontinuierlichen Lernen beschäftigen sollten: Wie man das Modell dazu bringt, kontinuierlich zu lernen, anstatt dass man es stark trainieren muss - es sollte in der Lage sein, ein längeres kontinuierliches Lernen zu leisten, wie ein Mensch. Dieses Problem ist dasselbe wie das Erfüllen von Aufgaben usw., sie beziehen sich auf das gleiche Problem und lösen es. Der nächste Engpass, den wir jetzt an diesem Ort sehen können, ist das kontinuierliche Lernen. Die nächste Frage, die wir lösen müssen, ist, wie man kontinuierlich lernt, das ist sichtbar, relativ klar. Es ist ein Hindernis vor Ihnen, die Sie überqueren müssen, und es muss einen Weg geben, es zu überqueren, aber es braucht Zeit.
Nach dem kontinuierlichen Lernen kommen wir vielleicht zu einer Singularität: Wenn das Modell kontinuierlich lernt, kann es alles tun, was ein Mensch tun kann. Es ist in der Lage, seine eigene Version zu entwickeln, selbst zu erforschen, seine nächste Version zu entwickeln und ein stärkeres KI-Modell zu entwickeln. So wird es zu einer Singularität kommen, um seine eigene Iteration zu erreichen.
Aber diese Singularität ist nicht eine Singularität, es ist auch ein allmählicher Prozess, ein relativ langer Abstieg sein könnte, nicht eine Mutation. Aber gewöhnlich glauben wir alle, dass es eine Singularität sein könnte - weil die Propheten vor langer Zeit dachten, dass es hier eine Singularität geben würde. Es ist keine Singularität, es ist ein kontinuierlicher Prozess. Nachdem ich diesen Schritt erreicht habe, habe ich das Gefühl, dass ich intelligent bin.
Dies ist unsere Vermutung, ist der Zeitplan, den wir fühlen:Zuerst lösen Sie das „Lernen, um zu lernen", dann die Singularität der Intelligenz - die Singularität, die sich selbst wiederholen kann - und dann die verkörperte Intelligenz. Nachdem sie Intelligenz verkörpert hat, geht sie in die reale Welt, kann sie dir Hausaufgaben erledigen und dir eine Altersvorsorge geben.
Ich finde das eine ideale Roadmap. Jeder hat eine andere Sicht, es gibt keinen Unterschied zwischen Recht und Falsch, nur dass wir glauben, dass diese Roadmap die einfachste ist: Sie müssen mit jedem Schritt nur sehr wenig Neues tun. Mit dieser Roadmap können wir nicht überstunden werden. Aber wenn die Roadmap umgekehrt ist, zum Beispiel zuerst verkörperte Intelligenz zu erreichen, dann ist es sehr müde, es ist eine sehr harte Arbeit. Wir wollen nicht, dass es so eine Roadmap ist, wir wollen, dass es ein bisschen leichter ist.
Zuerst das kontinuierliche Lernen zu lösen, dann die Singularität der Selbst-Iteration zu lösen und dann die verkörperte Intelligenz zu lösen, ist es auf diesem Weg sehr einfach. Denn nach hinten können Sie die Technologie von vorne verwenden, um die Technologie von hinten zu entwickeln. Wenn wir nach der Singularität eine verkörperte Intelligenz machen, brauchen wir keine Menschen, um es zu tun, ohne dass wir es tun, kann das Modell selbst herauskommen.
Das ist also die Antwort, was unser langfristiges Ziel ist: das ist unser langfristiges Ziel, das nennen wir AGI.
7. Dimension Reduzierung: C-End und B-End sind Nebenprodukte von AGI.
Alle zurück in die Realität. Die wichtigste Realität des letzten Jahres war, dass jeder Chatbot sein musste, um den Traffic am C-End zu rauben; die Realität dieses Jahres ist, dass jeder To B Einnahmen rauben musste, um daran teilzunehmen - denn wenn man nicht teilnimmt, ist man nicht am Tisch, oder?
Aber wir halten das nicht für eine wichtige Sache. Innerhalb unseres Unternehmens interessieren wir uns wirklich für die Fahrplanung dieser AGI, von der ich gerade gesprochen habe, und wie die nächste Technologie durchbrechen kann.
Es ist etwas seltsames: Was man am meisten wünscht, bekommt man nicht; was man nicht so sehr interessiert, bekommt man leicht. Hier gibt es einen strategischen Vorteil: Wir denken an AGI im Herzen, tun AGI, dann machen Sie diese Anwendung, machen Sie C-End B-End, brauchen Sie nicht zu viel Gedanken, verbringen Sie sehr wenig Energie.
Sie stehen auf einer hohen Position in der Technologie und tun eine relativ niedrige Ebene der Technologie, ist es eine reduzierte Dimension Schlag. Zumindest am C-End im letzten Jahr haben wir gesehen, dass es so ist: Wir haben nicht viel Mühe auf dem C-End ausgeben, und wir wollten nicht einmal die Benutzer aufrechterhalten, aber die Benutzer konnten nicht wegziehen - wirklich nicht wegziehen, also waren sie am Ende immer noch da. Das Einkommen des B-Ends in diesem Jahr sieht jetzt aus, dass das Wachstum noch relativ optimistisch ist, und im Vergleich zu den Kollegen sollte es auch besser sein, schätze ich. Aber wir haben nicht viel Energie darauf verbracht, es zu tun, wir haben es überhaupt nicht speziell getan, nur durch Zufall.
Das ist der Schritt, den ich gehen muss, ein Schritt. Auf dem Weg nach AGI, werde ich diese Treppe passieren. Ich habe diese Techniken für alle über die API bereitgestellt, und ich habe nichts zusätzliches getan. Wir arbeiten immer noch mit AI, das ist ein Nebenprodukt. Ich brauche nur ein paar Leute, um diese API zu pflegen, sogar der Kundendienst ist nicht, muss nicht verkaufen, braucht nichts, wird der Benutzer selbst kommen.
Das C-End und das B-End sind Nebenprodukte, die wir auf dem Weg zu AGI machen, ein Zwischenprodukt, und es gibt keinen Konflikt mit meinem AGI zu machen. Ich mache es nicht, um das C-End zu machen, um das B-End zu machen; wir machen AGI, um AGI zu machen, und ich kann es produzieren, und ich mache es kommerziell.
Das ist anders als bei anderen Firmen. Andere Unternehmen sind es, um den C-End - Benutzer zu bedienen, den B-End - Benutzer zu bedienen, um dieses Modell zu tun; aber für uns ist das nicht so, was wir ursprünglich wollen, um AGI zu verfolgen.
Ich glaube, dass dies in gewisser Weise ein Rückschlag war. AGI ist eine größere Vision, diese Vision kann mehr ausgezeichnete Menschen zusammenführen, es hat einen stärkeren Zusammenhalt. Also habe ich einen organisatorischen Vorteil, und ich nutze diesen Vorteil - es ist eine Art Schlag reduziert.
Aber wenn Sie ein Unternehmen sind und Ihre Vision ist es, C-End - Benutzer zu bedienen, ist das eine andere Geschichte. Er hat andere Vorteile - im Produkt, im Kundendienst, im Traffic - aber keine Technik. Jetzt ist die günstigere Situation, dass die Modelltechnik ist die wichtigste, Sie müssen das Modell gut machen. Das erklärt unsere bisherige Entwicklung: Wir haben uns wirklich für AGI entschieden und haben einfach nicht daran gedacht, viel für den Nutzer zu tun.
Letztes Frühlingsfest, als wir plötzlich brannten, war es nicht in unserem Drehbuch, wir haben überhaupt nicht daran gedacht, wir wollten einfach diese Technologie gut machen. Aber damals stellte ich fest, dass unsere Organisation einen zusätzlichen Vorteil in Bezug auf Talente und Organisation gegenüber einem vollständig kommerzialisierten, produktorientierten Unternehmen hat.
Das war auch erstaunlich: Damals hatten alle am C-End den Kopf gebrochen und wurden von einem Mann mitgenommen, der nicht gestohlen hatte. Das zeigt, dass die Logik, die ich zuvor gesagt habe, sinnvoll ist, und es gibt tatsächlich einen Vorteil in Bezug auf Talent und Organisation.
Dieser Talentvorteil bedeutet nicht, dass meine Leute klüger sind als er, sondern dass diese Talente, wie ich organisiere, wie ich ihn motiviere, wie ich zusammenarbeite, diese Sache hat einen Vorteil. Weil man intelligente Menschen zusammenbringt, bedeutet das nicht, dass sie natürlich zusammenarbeiten können und mit Leidenschaft ein Ziel erreichen können, also braucht man eine Vision. Was uns die Erfahrung zuvor gelehrt hat, ist:Die Vision von AGI ist sehr stark.
Hauptvorteil: Stabilität des Teams
Nächste Frage: Was ist die Bedeutung von Kerninteressen?
Ich habe bereits gesagt, dass wir in vielerlei Hinsicht sehr zurückhaltend sein müssen. Aber was sind unsere Kerninteressen? Eigentlich nur eine Sache:Unser wichtigstes Interesse ist es, die Stabilität des Teams zu erhalten. Das ist unser größtes Kerninteresse, man kann es sogar als einziges Kerninteresse betrachten.
Solange ich die Stabilität des Teams aufrechterhalten kann, kann ich es definitiv schaffen, kann es definitiv AGI machen, so einfach. Solange wir alle nicht gehen können, kann ich es weitermachen. Grundsätzlich gibt es keine Risiken, nur ein bisschen früher und später; wenn es Rückschläge gibt und niemand geht, dann kann ich weitermachen. Geld ist sicherlich kein Problem, Ressourcen sind kein Problem, andere Elemente sind leicht verfügbar. Für uns gibt es nur ein zentrales Interesse, das wir nicht aufzugeben können: Wir müssen die Stabilität der Mannschaft bewahren.
Das ist auch eine sehr große Herausforderung, vor der wir stehen, und ich glaube, dass das größte Risiko ist. Natürlich wurde dieses Risiko mit unserer jüngsten Finanzierung relativ groß gelöscht - weil wir noch mehr Optionen erhalten haben und der Betrag noch relativ groß ist.
In Bezug auf die Stabilität des Teams, solange einige der wichtigsten Mitarbeiter, die ältesten Mitarbeiter, stabil sind, sind die anderen nicht sehr gut gehen. Auch wenn die anderen weniger Optionen und weniger Einkommen hatten, würde er nicht gehen, weil er nicht mit dem Geld gekommen war - jeder wollte es in einer Umgebung tun, in der es AGI war. Für die Menschen ist es aber trotzdem attraktiv. Historisch gesehen war unser Talentfluss vergleichsweise geringer, im Vergleich zu Kollegen, immer weniger. Aber das ist unsere größte Herausforderung, die einzige Herausforderung, sozusagen. Die anderen sind eine Frage der Zeit, die höchstens dazu führt, dass wir ein halbes Jahr später, ein Jahr später, aber nicht sagen, dass es nicht möglich ist. Es fehlt nicht an Geld, es fehlt nicht an Ressourcen, es fehlt nicht an Ressourcen.
Viele Dinge, die wir jetzt tun, sind, um die Stabilität des Teams zu erhalten. Abgesehen davon, ich glaube, dass wir alles andere nicht wollen können, alles kann zurückgehalten werden. Wir sind sehr zurückhaltend und sind nicht bereit, mit irgendeinem großen oder kleinen Internet-Fabrik gegnerisch zu werden. Ich hoffe, ich kann ihm helfen, und ich hoffe, ich kann Ihnen helfen, dies zu tun. Das ist auch ein Teil der kommerziellen Bedeutung, die wir zuvor erwähnt haben. Unter dieser Voraussetzung sind wir bereit, jedem zu helfen - sogar unseren Konkurrenten, einschließlich Ali, Zhige und Dunkle Seite des Mondes -, besser zu machen. Denn wir verlieren nichts: wir sind auch Open Source, Open Source muss die Grenzen so klar wie möglich machen, und ich hoffe, dass Sie es reproduzieren können; wenn Sie es nicht reproduzieren können, sagen Sie es, ich sage Ihnen, wie Sie es reproduzieren können. Das ist ein Teil der Open-Source, nicht nur weil Sie ein Konkurrent sind. Wenn ich Partner wäre, würde ich mehr tun. Es gibt jedoch keinen Konflikt zwischen den großen Interessen.
Im Umgang mit Außen ist unsere Haltung:Wir machen nur die Hauptlinie von AGI. Das sind die Sprachenmodelle, CoT, Agent usw., die ich gerade gesprochen habe, nur die Hauptlinie. Es gibt viele Dinge, von denen wir glauben, dass sie nicht in dieser Hauptlinie stehen - wie 3D, Videogeneration, die ich denke, wahrscheinlich nicht viel mit der intelligenten Hauptlinie zu tun haben, und wir werden es nicht tun. Und es gibt einige, wie das Weltmodell, das ich glaube, nicht viel mit der Obergrenze der Intelligenz zu tun hat, also werden wir es auch nicht tun. Aber andere tun es, und wir helfen gerne - es gibt keine Zeit ist eine Sache, es gibt keinen Interessenkonflikt.
Wir hoffen auch, dass diese KI-Technologien in verschiedenen Produktionsumgebungen eingesetzt werden können, um die Produktionseffizienz der Gesellschaft zu verbessern und allen Branchen zu helfen, die Produktionseffizienz zu verbessern. Wir sind sehr motiviert, dies zu tun. Ob ich keine Zeit habe, keine Arbeitskräfte habe, oder ob unsere Klassenkameraden selbst kein Interesse daran haben, das ist eine andere Sache. Aber es gibt keinen Interessenkonflikt, und wir hoffen, dass wir dieses Ziel erreichen können. Und wir glauben, dass es keinen Konflikt mit dem Handel gibt, und ich sollte noch nicht weniger Vorteile bekommen.
Wir hatten diese Einstellung und haben nichts weniger bekommen - nichts weniger bekommen, weil ich Open-Source gemacht habe, weil wir gut waren, weil ich anderen geholfen habe. Zum Beispiel letztes Jahr C-End - Benutzer, wir sind jetzt C-End - Benutzer noch mehr, aber auch noch relativ stabil; das diesjährige B-End, ich denke, ist auch relativ optimistisch. Ich habe keine Auswirkungen auf die geschäftlichen Interessen wegen unserer guten Absichten, völlig keinen Einfluss, sondern es könnte einen Bonuspunkt geben. Das scheint kontraintuitiv zu sein, aber es ist so. Denken Sie umgekehrt: Wenn ich gegen sie verstoße, kann ich mehr bekommen? Nein, nein.
Es gibt eine Frage: Wie versteht man, dass „das Weltmodell und die Erhöhung der Obergrenze der KI nichts zu tun haben"? Ich sage es in dieser Phase, das ist unser Urteil. Dies ist unsere eigene KI-Roadmap, nicht die einzige. Aus unserem Verständnis und unserem Urteil geht es derzeit am wichtigsten darum, die KI-Schulung gut zu machen. Um das KI-Training gut zu machen, brauchen Sie kein Weltmodell, nicht einmal mehrmode - Sie verringern den Umfang des KI-Training ein wenig, es gibt keine Multimodalität, es gibt nur einen Teil der Aufgaben, die Sie nicht tun können, aber nicht die Einrichtung dieses Algorithmus beeinflussen.
Letztendlich muss man mehrere Modelle machen. Jetzt ist das Training wichtig, der nächste Schritt ist das Problem des kontinuierlichen Lernens zu lösen, und der nächste Schritt ist es selbst Fragen zu stellen. Aber in dieser Roadmap gibt es kein Modell der Welt, keine Video-Generierung.
Die Videogeneration war von Anfang an sehr heiß, als wäre es ein Muss, und Sie wären kein KI-Unternehmen, wenn Sie es nicht tun. Ich bin seltsam: Sie müssen nur darüber nachdenken, dass es nichts mit der Roadmap für Intelligenz zu tun hat. In der Tat haben Sie auch festgestellt, dass alle, nachdem Sora herauskam, es taten, große Unternehmen und kleine Unternehmen, aber die kleinen Unternehmen haben es später abgeschnitten. Das hat nichts mit der Höchstgrenze der Intelligenz zu tun. Aber im Geschäft ist es ein gutes Geschäft.Wir werden es nicht tun, weil es ein gutes Geschäft ist, wir werden es nur tun, weil es etwas auf der intelligenten Roadmap ist.
Das Video ist relativ klar, ich nehme es als Beispiel. Die Bedeutung des Weltmodells ist nicht so klar, weil man vieles davon sagen kann, dass es ein Weltmodell ist. Nach unserem Urteil sind Weltmodelle und Intelligenz noch nicht die wichtigsten Dinge in diesem Stadium. Das Wichtigste ist das KI-Training und wie man nach dem KI-Training kontinuierliches Lernen löst. Das ist das Urteil unserer Firma, natürlich ist das Urteil jedes Unternehmens anders.
Die Unterschiede zu den USA liegen nur in den Ressourcen.
Das wichtigste Thema für das Unternehmen ist die Stabilität der Mitarbeiter. Was fehlt uns in der anderen Dimension? Was ist der Unterschied zwischen uns und den USA? Es gibt nur eine Lücke: die Ressourcen.
Wir haben nicht so viele Karten und die Anzahl unserer Karten ist noch relativ gering. Wir haben jetzt ungefähr zwanzigtausend H-äquivalente Rechenleistung, die meisten von ihnen sind gerade angekommen, in den letzten ein oder zwei Monaten angekommen, und wahrscheinlich gibt es noch viele Maschinen, die noch nicht angekommen sind. Wir hatten im vergangenen Jahr insgesamt weniger Rechnerkraft und in diesem Jahr haben wir sehr radikal erweitert. In den nächsten Monaten werden wir eine große Anzahl von Maschinen kaufen, im Grunde genommen Nvidia.
Wie viele Karten benötigen Sie? Je mehr es jetzt ist, desto besser. Je mehr Karten wir uns leisten können, desto besser ist es kein Zweifel. Unsere Strategie ist also: Kaufen Sie so viele Karten, wie Sie zu einem vernünftigen Preis kaufen können. Ich kann mir die Karten kaufen, wie viele Karten ich kaufen kann. Die Geschwindigkeit, das Geld auszugeben, war nicht im Plan - solange der Preis vernünftig war, kaufte ich alles. Wenn ich mein Geld in einem halben Jahr ausgegeben habe, denke ich, dass es eine gute Sache ist, das wäre zu glücklich, zu ideal.
In der Tat, um so viel Geld auszugeben, ist es sehr nicht einfach: nicht so viele Karten zu kaufen, ist es schwer zu kaufen, und der Preis ist sehr hoch, kann nicht sagen, dass es einen sehr hohen Preis gibt, um zu kaufen, muss sicherstellen, dass der Preis angemessen ist.
Wenn ich das Geld in einem halben Jahr ausgeben würde, wäre es wahrscheinlich am besten. Denn es ist sicher besser, das Geld in eine Nvidia-Karte zu verwandeln, als in eine Bank zu legen - in eine Bank zu legen, und jetzt kann die Einzahlung zwei Punkte sein; aber wenn Sie eine Nvidia-Karte kaufen, erhalten Sie die Kosten in zehn Monaten zurück.
Natürlich kaufen Sie so viel wie Sie kaufen können. Nachdem ich die Karte gekauft habe, habe ich viel Platz, um durch Dienstleistungen oder so etwas zu haben, ich war immer in der Lage, einen Cashflow zu haben. Ich habe einen Cashflow, den ich leben kann, und ich muss nicht viel Geld auf dem Konto legen. Wir haben Angst, nicht so viele Karten zu kaufen. Wenn wir das ganze Geld in Karten umwandeln könnten, würden wir nicht zögern, das ganze Geld in Karten umzuwandeln, und wir sind bereit, eine gewisse Prämie dafür zu zahlen, weil es zu günstig ist. Selbst wenn wir die Prämie bezahlen, ist es schwer, dieses Ziel zu erreichen. Objektiv betrachtet, wenn ich in diesem Jahr 20 Milliarden ausgeben kann, wäre das eine super gute Leistung für unsere Einkaufsabteilung.
Die Lücke zwischen uns und den Vereinigten Staaten liegt hauptsächlich in den Ressourcen, die Lücke zwischen den Menschen ist nicht sehr groß, es gibt kaum eine Lücke - weil es dieselbe Gruppe von Menschen sind, alle Chinesen. Manche bleiben zu Hause, manche gehen ins Ausland, und es ist nicht so, dass es kluge Menschen sind, ins Ausland zu gehen, nicht. In Wirklichkeit ist es eher zufällig: Die klügsten Leute gehen vielleicht etwas mehr als die Hälfte ins Ausland, die Hälfte weniger im Inland. Inländische Talente fehlen nicht, und wir haben eine große Basis, jedes Jahr gibt es so viele Menschen ergänzt.
Die Menschen sind kein Flaschenhals, die Ressourcen sind der größte Flaschenhals. Die Ressourcen wirken sich in erster Linie auf die Ausbildung von Talenten aus: Weil wir weniger Rechenleistung haben, können wir relativ weniger Experimente machen, so dass unsere Talente insgesamt eine Lücke gegenüber den Vereinigten Staaten haben.Die Unterschiede zwischen den Mitarbeitern sind im Wesentlichen auch auf die Unterschiede zwischen den Fähigkeiten zurückzuführen.
Mit dem aktuell größten Modell können wir uns das nicht leisten. Selbst wenn man fünf Milliarden ausgibt, kann man es sich nicht leisten, selbst wenn man es auftapelt, kann man es sich auch nicht leisten. Jetzt ist das größte Modell, das es aktiviert, ungefähr 800B; inländische Worte, wir sind immer noch in dieser Skala von Dutzenden B, das größte Modell inländisches kann auf Dutzenden B aktiviert werden - ein Unterschied von einer Größenordnung. Wenn ich ein Modell der gleichen Größe trainieren wollte, würde ich 50.000 GB300 oder 900.000 Huawei-Karten benötigen. Es ist nur ein Training, es ist noch nicht in Betracht gezogen, um zu forschen. Der größte Unterschied zwischen uns und den USA liegt in den Ressourcen.
Unsere derzeitigen Ressourcen und die Ressourcen für dieses Jahr und die nächsten Monate, einschließlich der großen Ressourcen, die bald kommen, reichen nur aus, um weitere Experimente in der Größe durchzuführen, die 10B aktiviert hat. Denn in der Größe von Dutzenden von B-Aktivierungen gibt es noch viele Experimente zu tun, und es gibt noch viele Dinge, die es zu klären gibt. Wir sollten weit davon entfernt sein, das Modell 800B zu trainieren, ohne so viele Karten.
Der Unterschied zwischen uns und den USA liegt in der Ressourcendifferenzierung. Alle Unterschiede, die wir sehen - Unterschiede in Talenten, Modellfähigkeiten, Anwendungen - können auf Unterschiede in Rechenleistung zurückzuführen sein. Rechenleistung Ressourcen, auf der einen Seite ist das Land selbst Karte nicht kaufen; auf der anderen Seite ist unsere Kapitalinvestitionen weniger als die Vereinigten Staaten, wir haben viel weniger in der Ebene der Kapitalinvestitionen. Der Anteil der Gehälter von Talenten ist hier sehr niedrig - Sie sehen, dass sie 100 Millionen US-Dollar verdienen, aber wenn man zählt, ist der Anteil der Gehälter von Talenten noch sehr gering, und der Kopf ist noch rechnerfähig.
Diese Frage ist derzeit weitgehend ungelöst.
Wir wollen jetzt nicht in der Lage sein, mit den USA in so großem Umfang zu konkurrieren. Wir machen es jetzt auf dem Maßstab, das wir uns leisten können - Dutzende von B-Aktivierungen - und warten dann, wenn wir mehr Ressourcen haben, um 150B, 156B oder 250B zu erreichen.
Wir haben eine Lücke mit den USA, die derzeit nur schwer zu überbrücken scheint. Sie müssen ein so großes Modell trainieren, aber Sie können nicht genug recherchieren - Sie können nicht genug recherchieren, bevor Sie trainieren.
10. Endlücke: Kosten, Zeit, Erfahrung
Es gibt eine weitere Frage, die alle interessiert ist: Wo wird sich die große Modell-Wettbewerb, die endgültige Lücke widerspiegeln? Ich denke, dass es am Ende keine große Lücke geben wird. Die endgültige Lücke sollte dreierlei sein:Kosten, Zeit, Benutzererfahrung.Abgesehen davon gibt es wahrscheinlich keine Lücke.
Die Kosten sind besser zu verstehen: Sie bieten den gleichen Service, die gleiche Qualität, zu welchen Kosten Sie bieten können. Sind die gleichen Dienstleistungen, wie die Batterie von BYD, bei dem gleichen technischen Inhalt, andere Häuser in der Lage, diesen Preis zu bieten? Ich denke, es ist eine schwierige Sache, nicht so einfach zu tun, und es ist sicherlich eine Barriere. Also die Kosten sind sicherlich ein Unterschied, ich denke, dass die Kosten an erster Stelle stehen könnten.
Die zweite ist die Zeit: Wann können Sie das tun? Ein paar Monate früher, ein paar Monate später, das ist anders.
Das dritte kann die Erfahrung sein, die Benutzererfahrung ist noch etwas anders, und es wird immer einige Benutzerklebrigkeit und Benutzerbarrieren zwischen den Benutzern geben, aber es kann nicht wesentlich sein. Die Essenz ist die erste Kosten, die zweite Zeit: Du machst es zuerst oder später, machst es dasselbe, schneller oder langsamer.
11. Kommerzialisierung: Wir tun es immer, aber nicht als Ziel
Wie werden die Preise nach der langfristigen Vermarktung und Produktlinie weiter bereichert? Wir sind der Meinung, dass es sich am besten lohnt, es zu tun, oder es lohnt sich, AGI zu tun. Nun, um die AGI nach vorne zu schieben, heißt es, die untere Grenze der Intelligenz nach oben zu schieben. Dies sollte in der gegenwärtigen Phase sein, als mehr Produktlinien zu machen, mehr kommerzielle Wege in Betracht zu ziehen, kostengünstiger und profitabeler Weg. Ich denke, dass es in der Zukunft und in jeder Zeit in der Vergangenheit so sein könnte.
Was nützt es, wenn wir viel Zeit damit verbringen, über unsere Produkte nachzudenken und zu bereichern? Was ist die Vermarktung, die vor einem halben Jahr gesprochen wurde? Ich muss Werbung machen, E-Commerce betreiben, E-Commerce in Produkte einbauen und mit dem lokalen Leben integrieren. Das ist nicht sinnvoll, denn es ändert sich zu schnell. Sie dieses Produkt, in diesem Stadium verbringen wir viel Zeit, um die kommerzielle Überlegung, den kommerziellen Weg - der Lebenszyklus der Produktlinie ist sehr kurz.
Ich glaube nicht zu dieser Zeit. Das ist unser Urteil, und zumindest diese bisherigen Erfahrungen haben dieses Urteil unterstützt. In den letzten drei Jahren, wann immer Sie mir über den kommerziellen Weg oder die Produktlinie sprechen, ist es Zeitverschwendung. Weil du nicht vorhersehen kannst, weil du die Zukunft nicht voraussagen kannst, kannst du sehr wenig vorhersehen.
Wir betreiben weltweit führende AGI-Forschung und werden sie zu gegebener Zeit kommerzialisiert. Ich habe das Gefühl, dass wir die ganze Zeit kommerzialisiert haben, nur nicht auf die kommerzialisierung gerichtet. Wir haben AGI als Ziel, aber wir haben die kommerzialisiert, so dass wir nur C-End - Benutzer haben, um B-End - Einnahmen zu haben. Nach historischen Erfahrungen war diese Strategie erfolgreich. Wir sind weit davon entfernt, vollständig zu kommerzialisieren. Die größte ist noch die Erweiterung der Technologie, um die nächste Generation von Technologie zu tun, um mehr gegenwärtige Probleme zu lösen. Ich persönlich denke, dass es in der Zukunft zu früh ist, wenn man sich auf das Produkt konzentriert.
Das ist auch Teil unserer Zurückhaltung. Ich hoffe, dass diese Geschäftsmöglichkeiten anderen ermöglichen werden, dies zu tun - wie man diese KI nutzt, die gesamte Gesellschaft, alle unsere Partner, zusammen zu tun, um die Gewinne zu teilen, anstatt mich alleine zu nehmen, das ist unmöglich. Und wir haben nicht so viel Energie, und unsere Organisation hat nicht so viele Leute, um das zu tun.
Für unsere Partner sind wir diese Finanzierung sehr sorgfältig ausgewählt. Konkrete Kooperationsvorschläge: Zunächst einmal denke ich, dass die Interessen relativ übereinstimmen: die, die mit unseren Interessen am meisten übereinstimmen, uns am wenigsten feindselig gegenüberstehen oder am meisten hoffen, dass wir erfolgreich sein können. Nicht alle wollen, dass wir erfolgreich sind, weil wir den Interessen vieler anderer schädigen.
Wichtige Unternehmensstrategien, technische Geschäftsentscheidungsprozesse und Entscheidungsmechanismen: Unser Unternehmen als Ganzes basiert auf Konsens. Ich sage nicht, dass ich alleine entscheide, sondern dass ich nach einem Konsens suche. Meine Autorität und mein Einfluss innerhalb des Unternehmens basieren auf Konsens. Wenn ich zum Beispiel etwas mache, werde ich sicherlich zuerst sehen, was der Konsens von allen ist, ob alle es tun wollen. Es ist möglich, dass ich eine Orientierung oder eine Neigung habe, aber diese Orientierung ist begrenzt, sehr begrenzt oder basiert auf einem Konsens. Dieser Entscheidungsmechanismus ist ein Mechanismus, der nach Konsens sucht: nicht, dass ich etwas vorantreiben kann - es muss Konsens sein, bevor ich es vorantreiben kann, und dann werde ich es vorantreiben.
Derzeit liegt die Hauptsache auf der Seite der DeepSeek.
12. Modelllücke und globale Arbeitsteilung
Die endgültige Wirkung jedes Modells sollte eine umfassende Lücke sein. Wenn Sie die Modellwirkung vergleichen, müssen Sie sicherlich die gleichen Kosten vergleichen, das ist sinnvoll - Sie vergleichen zwei Autos, aber auch Autos mit dem gleichen Preis. Der Unterschied zwischen gutem Modell und schlechtem Modell sollte nicht in einem bestimmten Teil, sondern im Ganzen sein.
Anthropic überholt jetzt OpenAI, ist es nicht langfristig? Ich glaube, dass es nicht langfristig ist, es ist definitiv phasiert. OpenAI und Google werden sich in Zukunft abwechselnd entwickeln. Die Implementierung von Anthropic über den Code-Agent hat nicht so viel Vorteil, dass sie OpenAI nicht überwältigt - wahrscheinlich die Hälfte der Leute in unserem Unternehmen denkt, dass OpenAI besser ist. Anthropic hatte einen Vorteil, aber dieser Vorteil sollte bald verschwinden, und es war kein Vorteil, den es langfristig halten konnte. Die drei sind sehr gut. Anthropic ist das effizienteste unter diesen drei, es kostet und verbrennt das geringste Geld.
In einer Zeit, in der die globale KI die Arbeitsteilung dominiert, spielen chinesische Unternehmen wahrscheinlich die größte Rolle in der Produktion. Normalerweise haben wir die größte Produktionskapazität - einschließlich Chips, die wahrscheinlich unsere größte Produktionskapazität haben und unsere größte Stromleistung haben. Die Chinesen werden ihre Produkte am billigsten machen; in der Tat unterscheiden sich viele Waren in China nicht sehr viel von den US-Produkten. Das könnte auch in Zukunft passieren: Die in China hergestellten KI-Preise werden billiger sein. Diese Billigkeit kann systematisch niedrig sein, genauso wie die in anderen Branchen in China angebotenen Dienstleistungen billiger sind.
Wenn ich etwas mache, denke ich gewohnt: Was ist der größte Gewinn in diesem Moment? Wenn ich das Gefühl habe, jetzt das Produkt zu machen, um den größten Gewinn zu erzielen, werde ich das Produkt machen; Wenn ich das Gefühl habe, jetzt die AGI zuerst den größten Gewinn zu erzielen, werde ich zuerst AGI machen. Natürlich denke ich, dass die Produkte jetzt nicht die größten Gewinnsätze sind.
13. Inländische Chips und TileLang: Der Graben von Nvidia zerfällt
Das Problem der Anpassung der inländischen Karte: Die inländische Karte hat jetzt tatsächlich eine historische Chance. Vor der inländischen Karte Adaption hat ein schwieriges Problem, genannt die Ökologie ist schlecht - nach dem Kauf der Karte kann nicht verwendet werden, es hat nicht die Ökologie von Nvidia. Der Graben von Invidas ist also sehr stark.
Aber das ändert sich.Der Graben von Nvidia CUDA wird schnell zerfallen.Die Ursachen für den schnellen Aufbau können dreierlei sein.
Zunächst einmal gibt es jetzt die AI. Mit KI ist es viel einfacher für mich, dieses Ökosystem aufzubauen als zuvor, weil KI Code schreiben kann - ich kann das Ökosystem aufbauen, genau das gleiche wie Nvidia.
Zweitens gibt es einige neue Technologien. Zum Beispiel entwickelt unsere Familie eine Technologie namens TileLang, eine High-Level - Sprache. Mit dieser High-Level - Sprache zu schreiben CUDA-Operator, kann schnell die gesamte Nvidia - Ökosysteme zu schreiben, und dann kombinieren mit KI, das scheint keine Hindernisse. Es ist noch nicht fertig, noch nicht fertig, aber diese technische Route scheint keine Hindernisse zu haben.
Drittens, CUDA - Nvidia ist von der Spielkarte entwickelt, so dass es an vielen Orten mit dem Design der Spielkarte, Einstellungen in einem Strang vererbt, CUDA ist mit der Spielkarte kompatibel. Früher war dies gerechtfertigt, da KI-Computing ein sehr kleiner Bereich war, kleiner als der Markt für Spielkarten. Aber jetzt, wo der Markt für Rechnerkarten größer ist als für Spielkarten, gibt es keinen Grund, warum die beiden noch gekoppelt werden müssen. Der Trend ist, dass es nicht mehr zu koppeln gibt. Dann werden spezielle Chips - ob es sich um Huawei oder Nvidia selbst handelt - in der Zukunft spezielle Chips sein, nicht mehr die Dinge, die sie zuvor hatten. Vor diesem Hintergrund hat sich die Rolle der ursprünglichen Nvidia Ecology erheblich reduziert: Für einen speziellen Chip hat es nichts mit CUDA zu tun und ist nicht gebunden. Oder, wenn dieser Chip entworfen wurde, wurde bereits darüber nachgedacht, wie man diese Ökosysteme aufbauen kann.
Ein bisschen kompliziert, aber sowieso: Inländische KI-Chip - Ersatz hat jetzt eine historische Chance. Wir glauben, dass wir im nächsten Jahr sehen können, dass es eine Sache gibt, die bestätigt wird:Die Ökologie des inländischen Chips ist absolut kein Problem.Früher hielten wir es für problematisch, für unbrauchbar und nicht einfach, aber innerhalb des nächsten Jahres können wir diese Wahrnehmung umkehren, um sie mit Fakten umkehren zu können.
Die inländische KI-Chip hat keine Hardware und Ökosysteme, das einzige Problem ist die unzureichende Produktionskapazität. Die inländische Karte passt dies an, es gibt keine Hindernisse, Nvidia kann nicht aufhalten. Wenn es in einem normalen Geschäftsumfeld ist, kann ich Nvidia-Karten kaufen, dann ist der heimische Ersatz schwieriger; aber in der Lage, die Nvidia-Karten nicht kaufen zu können, sind alle gezwungen, inländische Chips zu machen. Vor diesem Hintergrund gibt es keine Hindernisse für die Anpassung der inländischen Karte. Die inländische Karte hat das gleiche oder sogar bessere Ökosystem wie Nvidia aufgebaut, ich denke, dass es keine Hindernisse gibt, aber es braucht Zeit.
Wir arbeiten derzeit vor allem mit Huawei zusammen. Huawei hat sich anpasst, aber wir selbst werden an diesem Ökosystem teilnehmen und werden tief in dieses Ökosystem von Huawei eingebunden sein. Huawei Karte Anpassung, unsere Hauptaufgabe ist es, den High-Level - Sprachen-Compiler gut zu machen, TileLang gut zu machen. Wenn Sie TileLang fertig sind, kann das Problem gelöst werden. Das ist kompliziert zu sagen, aber wir machen es, und es wird viel klarer sein, wenn wir es erklären, nachdem wir es getan haben.
Sie können verstehen: V3 - Trainings, verwenden Sie noch NVIDIA Karte, aber nicht mehr NVIDIA Ökosystem. V3 verwendet Nvidia Karten, aber nicht Nvidia Ökosystem, sondern wir haben zuerst einen hochwertigen Compiler namens TileLang geschrieben, und dann basieren auf TileLang Ökosystem, um alles andere zu tun, ist fast nicht abhängig von Nvidia Ökosystem. Sobald ich diesen Satz von Dingen und diesen Prozess auf der Huawei-Karte wiederholen, ist es fertig.
Ich denke, dass hier eine historische Mission sein könnte: die vorherige Wahrnehmung von schlechten Ökosystemen für inländische Karten vollständig umzukehren. Jetzt ist die Zeit fast voll, es fehlt Zeit. Ich denke, innerhalb eines Jahres sollte es viele Leute oben verstehen, dass dieses Problem gelöst ist, der Rest ist das Problem der Kapazität.
Ich bin eher optimistisch für die inländische Produktion. Ich habe das Gefühl, dass Nvidia in diesem Moment sein eigenes Grab gräbt. Der Superknoten von Huawei - der Superknoten von Huawei 950 - kann die GB200 und GB300 von Nvidia in Leistung und Preis vollständig ersetzen. Der Preis ist sicherlich teuer, aber nur begrenzt teuer: fünfzig Prozent, hundert Prozent - hundert Prozent ist egal, zweihundert Prozent ist egal. Wenn ich zum Beispiel 100% teurer bin, kann ich schon denken, dass es im Preis vergleicht werden kann. In der Aufgabe kann es auch austauschbar sein: Alle Aufgaben, die GB300 tun kann, können Huawei Superknoten tun, und die Verzögerung ist gleich.
Im Q3 dieses Jahr könnte Nvidia eine neue Generation haben. Die Unterschiede zwischen den USA und den USA in Bezug auf den Chip, denke ich:Ökologisch gibt es keine Lücke mehr, aber auf dem Chip ist es viermal mehr als zwei Jahre.
Die Frage ist: Werden wir noch vertikal integriert werden? Ich hoffe, nicht. Ich wünschte, wir würden das nicht tun, ich wünschte, es würde jemand anderes tun. Ich will nicht, dass ich alles essen werde, ich will nur ein Stück essen - das Stück, das ich am besten kann, das Stück, das wir für uns selbst als das Kernstück betrachten, das direkt mit dem Benutzer zusammenhängt. Für viele unserer Partner in der Industrie sind sie mehr besorgt als wir. Das sollte jemandes Geschäft sein, ich sollte nicht alles essen.
Werden wir in Zukunft große Gruppen bauen? Es ist sicher, dass wir selbst große Cluster bauen, wir haben das selbst gemacht, und alle unsere Cluster werden selbst gebaut. Aber ob wir in Zukunft einen eigenen Chip entwickeln wollen oder nicht, hängt davon ab, wie groß die Gewinne sind. Wenn du ein Kraftwerk betreibst, brauchst du nicht unbedingt einen Generator zu bauen, oder? Stromerzeugungsanlagen können von anderen hergestellt werden, solange es vernünftig ist, warum sollten Sie es selbst bauen?
Ich hoffe, dass ich keine Chips machen muss, ich hoffe, dass ich einen Chip zu einem vernünftigen Preis kaufen kann, so dass ich keine Chips machen muss. Wir möchten nur ein Stück machen. Das Ding ist groß und ich muss nicht alles machen. Wenn die Fokussierung, und ich denke, dass die Geschäftsvorteile hier groß genug sind - wenn das KI-Zeitalter viele Billionen-Unternehmen hervorbringen wird, denke ich, dass wir eines davon sind. Wir haben ein kleines Stück davon gemacht, ist eines von ihnen hat kein Problem, ich bin nicht zuversichtlich, etwas anderes zu tun. Das ist unsere Haltung.
Zum Beispiel, zumindest in To B, To C diese beiden Geschäfte, kann man derzeit sehen: Wir wollen wirklich zu C geschlossene Schleife zu tun, im Gegenteil, wir tun es gut; Wir wollen wirklich zu B geschlossene Schleife zu tun, vielleicht nicht wir tun es gut. Je mehr Sie wollen...
B kann man noch ein paar Worte sagen. Die Obergrenze des Geschäfts zu B sollte immer noch die Nachfrage sein. Vor dem Hintergrund der heutigen Generation von KI-Technologie sollte die Nachfrage nach To B begrenzt sein: Es wird schnell wachsen, aber es ist keine unendliche Sache, die letztendlich von der Nachfrage und nicht von der Rechenleistung bedingt ist. Wie groß das Einkommen unter den aktuellen technischen Bedingungen ist, hängt letztlich von der Nachfrage ab. Weil Sie so denken: Ich kann die Kosten in zehn Monaten zurückholen, und wenn es Nachfrage gibt, werde ich sicherlich immer Karten kaufen; jetzt nicht mehr kaufen, weil es nicht so viel Nachfrage gibt. Die Nachfrage sollte immer größer werden - und die Nachfrage wird immer größer werden, wenn die Technologie weiter Durchbrüche macht.
Multimodale, Skalierung und niedrige Kosten
Multimodal Layout, das haben wir schon immer getan. Für das Produkt, für das C-End - Benutzerprodukt, ist es wichtig. Aber an der Obergrenze der Intelligenz, ist es eine Komponente, es ist nicht die Hauptlinie selbst. Als Komponente werden wir Multimodalität auf jeden Fall tun und tun. Wir sollten auf die entsprechenden Modelle treffen: V4 und die späteren Versionen von V4 werden native Multimodalität unterstützen. Aber unser Verständnis von Multimodalität ist, dass es eine Komponente der Intelligenz ist, und wir betrachten sie nicht als Intelligenz selbst - sie ist auf dem gleichen Platz wie die Suche. Die Suche ist auch eine Komponente und die Multimodalität ist auch eine Komponente.
Scaling, wir glauben an Scaling: Je größer die Skala, desto besser die Wirkung und in der Lage, mehr Funktionen freizuschalten. Was uns daran hindert, zu skalieren, ist die Rechenleistung - nicht, dass wir nicht skalieren wollen, sondern dass wir nicht so viel Rechenleistung haben, um diese Skalierung zu tun.
Wir haben nicht angerührt, wo diese Obergrenze liegt. Wir trainieren so große Modelle nicht, weil ich denke, dass so große Modelle ausreichen, sondern weil ich so viele Ressourcen habe. Ich berechne anhand meiner Ressourcen: Wie groß das Modell ist, das ich akzeptieren und trainieren kann, so berechne ich es, es reicht nicht aus.
Die Vorteile des Modells sind bislang sehr offensichtlich. Wir haben noch keine Gelegenheit, diese Scaling-Wände zu treffen, die weit von uns entfernt sind. Wenn das Silicon Valley von Scaling spricht, ist das für das Silicon Valley; für die Chinesen sind wir weit davon entfernt, wir haben überhaupt kein Scaling in diesem Maße. Diese Skalierung umfasst die Skalierung der Daten, die Skalierung der Modellskala und die Trainingskosten. Wir sind noch weit davon entfernt, die Grenzen von Scaling zu erforschen - nicht so viel Rechenleistung - aber wir werden keine Mühe scheuen, um diese Grenzen zu erweitern. Einschließlich, nachdem die Finanzierung abgeschlossen ist, haben wir mehr Rechenleistung, können größere Modelle trainieren, können sie in kürzerer Zeit kaufen, desto besser; Wenn wir das ganze Geld in einem halben Jahr ausgeben können, ist das am besten, kann es nicht wirklich tun.
Die Kernkompetenz des Modells der nächsten Generation, ich denke, dass es die Fähigkeit zum kontinuierlichen Lernen haben muss, um es als Modell der nächsten Generation bezeichnet zu werden. Bis dahin können wir nur die Kosten reduzieren, dann die Effekte besser und schneller. Aber um einen großen Durchbruch zu erzielen, sollte es kontinuierliches Lernen sein.
Warum scheint es, dass wir uns besonders um die Berechnungseffizienz des Modells kümmern? Ich habe festgestellt, dass nicht jeder sich sehr um die Modelleffizienz kümmert. Für ein kommerzielles Unternehmen gibt es keinen Anreiz, die Effizienz des Modells zu verfolgen - ein paar Startups, die Sie nicht hören, sagen, dass niedrige Kosten etwas sind, was sie verfolgen, weil das nicht in ihren Interessen ist: niedrige Kosten, was verdienen Sie noch? Du bekommst kein Geld.
Es ist vielmehr Teil unserer Vision. Unsere Klassenkameraden kümmern sich um diese Kosten, weil unsere Klassenkameraden sind gewöhnliche Menschen, er weiß, dass dies alles kostet, er kann Mitgefühl haben: andere müssen Geld ausgeben, um zu benutzen, so billiger, andere akzeptieren können, wird höher sein. Viele Schüler wünschen sich, dass wir die Kosten senken können. Aber wenn man es aus geschäftlicher Sicht betrachtet, würde man es nicht so betrachten - aus geschäftlicher Sicht, aus kostengünstiger Sicht, ist es nicht die erste Priorität.
Auch für große Unternehmen und Unternehmen sind die Kosten für diese Dienstleistungen nicht hoch. Aber ich hoffe, es ist relativ leicht, ich hoffe, es ist erschwinglich - vor allem vor dem Hintergrund der Knappheit in China - erschwinglich, für inländische Karten.
Die niedrigen Kosten sind in erster Linie ein Ergebnis. Unser Modell hat sich in der Architektur in eine kostengünstigere Richtung bewegt, was mit unserer Vision zusammenhängt. Es gibt noch viele Möglichkeiten in der Algorithmus, und die Kosten können noch sinken. Es gibt einen weiteren Grund, warum die Kosten sinken: Je niedriger die Kosten sind, desto mehr kann ich größere Modelle trainieren, desto mehr kann ich mich leisten. Bei der gleichen Rechenleistung und begrenzter Rechenleistung kann ich ein größeres Modell leisten, wenn meine Rechenleistung effizienter ist. Für große Unternehmen ist das nicht unbedingt so - Ressourcen können hinzugefügt werden, sie können durch Hinzufügen gelöst werden - aber wir legen Priorität auf die Kosteneffizienz.
15. Wer weniger hat, schlägt den, der mehr hat.
Die Daten sind sehr breit, und die Daten sollten fast die Hälfte des Modells betragen.
Warum denke ich, wenn KI 20 Prozent des BIP ausmachen kann, wenn ich 5 Prozent davon machen möchte, wird das nicht funktionieren? Denn ich werde sicherlich von einem anderen besiegt werden - wenn der andere sagt: „Ich will nur ein Prozent", dann werde ich sicherlich von ihm besiegt. Wenn mein Ziel fünf Prozent des BIP der Menschheit ist, dann ist das theoretisch gut - man sieht OpenAI an, er scheint das zu berechnen, theoretisch kein Problem. Aber er hatte ein Problem: Er würde von jemandem besiegt werden, der nur ein Prozent bereit war. Weil der andere sagt, ich mache es so gut, aber ich brauche nur ein Prozent des globalen BIP, um ihn zu schlagen. Wenn zu diesem Zeitpunkt ein anderer Mensch herauskommt und sagt, ich brauche nur 0,1 Prozent, dann werde ich den vorherigen Mann erneut besiegen.
Ganz gleich, wo diese Prozent kommen, gibt es keinen Unterschied.Wer mehr bekommt, wird von denen besiegt, die weniger bekommen.Selbst du brauchst nicht wirklich viel zu nehmen - wenn die Vision viel zu nehmen ist, wirst du von jemandem besiegt werden, der weniger zu nehmen hat. In Wirklichkeit haben alle kein Geld bekommen, es ist nur eine Vision; Ihre Vision ist, mehr zu nehmen, Sie werden zuerst verlieren, Sie werden größere Schwierigkeiten haben. So ist diese Welt.
OpenAI hatte von Anfang an das Gefühl, dass er die Welt wirklich monopolisieren könnte, aber in Wirklichkeit würde er viele, viele Herausforderer treffen. Er wird eine Herausforderung haben, und er wird es nicht so leicht machen. Die Herausforderungen, die die Vereinigten Staaten haben, werden sie wahrscheinlich in Zukunft mit China konfrontiert sein - weil die Chinesen bereit sind, weniger zu nehmen, um Ihnen diesen Service anzubieten. Auch in China würde man sich etwas weniger wünschen. Aber letztendlich wird es hier ein Gleichgewicht geben: Wenn Sie zu wenig bekommen, wird die Geschäftslogik des Unternehmens nicht funktionieren und nicht mehr überleben. Wenn du zu wenig nimmst, kannst du nicht überleben; wenn du zu viel nimmst, wirst du von denen besiegt, die zu wenig nehmen.
Also für uns, wir sind nicht die Gewinn, um die meisten Geld zu nehmen, Maximierung des Gewinns zu berechnen, sondern nur einen vernünftigen Gewinn zu verdienen. Das ist eine Erklärung. Ich glaube daran, ich suche keine Gründe dafür - es gibt keine Notwendigkeit, eine Gründe dafür zu finden. Ich habe das getan, und es gibt einen Grund, warum ich das tue. Dieser Grund ist vielleicht nicht sehr üblich, aber ich denke, dass das Unternehmen nicht üblich ist.
16. Organisation: Zwei Linien ohne Überstunden
Das Management unseres Unternehmens besteht aus zwei Linien: eine Linie von oben nach unten und eine von unten nach oben.
Von unten nach oben: Jeder macht selbst, was er will, niemand kümmert sich um ihn, es gibt keine KPI.
Von oben nach unten: Es ist offiziell - wir wollen etwas gemeinsam tun, das das ganze Unternehmen zusammenarbeiten muss. Zum Beispiel, wenn wir V4 veröffentlichen, dann müssen wir die Arbeit aufteilen, jeder muss einen Teil tun. Das ist von oben nach unten, das nennen wir "offiziell".
Im Allgemeinen möchten wir offiziell nicht die Hälfte der gesamten Zeit unserer Mitarbeiter einnehmen -Offiziell nicht mehr als die Hälfte!Er hat noch die Hälfte der Zeit, ist nicht geplant, und er kann tun, was er möchte. Es ist ein Forschungsbereich, den er selbst erforschen kann, nach dem, was er für wichtig hält, was er erforschen möchte, ohne Voranforderungen. Solange die Firma ihn unterstützen kann und die Rechnerkraft ihn unterstützen kann, oder er braucht keine Rechnerkraft und braucht sehr wenig zu tun, dann braucht er es überhaupt nicht zu koordinieren. So organisieren wir uns heute.
Manche glauben, dass wir von oben nach unten kommen, andere glauben, dass wir von unten nach oben kommen, und ich denke, dass beides richtig ist. Einer meiner Kriterien ist: offiziell ist es besser, nicht mehr als die Hälfte zu sein.
Normalerweise arbeiten wir nicht viel Überstunden. Es gibt zwei Gründe für die Überstunden. Zunächst einmal ist es notwendig, eine relativ entspannte Umgebung zu machen. Wenn du dich sehr fest drängst, kannst du keine Forschung machen - du musst dieses Interesse haben, normalerweise musst du über diese Fragen nachdenken, also musst du in einer relativ entspannten Umgebung sein, um es zu erforschen. Das ist die Notwendigkeit der Kulturforschung. Zweitens sind wir sehr fokussiert. Sehr konzentriert zu sein, bedeutet, dass wir sehr wenig zu tun haben, dann habe ich nicht so viel zu tun, dass ich keine Überstunden brauche.
Dies ist mit der vorherigen Zurückhaltung in Verbindung: Weil ich Zurückhaltung habe, habe ich es oft nicht getan. Wir haben weniger zu tun, und jeder hat weniger zu tun. Sie sehen, dass viele unserer Produkte unvollkommen sind, und wir haben es auch nicht zu reparieren. Das ist auch eine unserer Kulturen.
Frage-Reihe
F: Kannst du mehr darüber erzählen, wann kontinuierliches Lernen einen Durchbruch bringt? Welche Architekturen, Algorithmen und andere Schlüsselfunktionen sind erforderlich, um kontinuierliches Lernen zu erreichen?
Antworten: Wenige Menschen brauchen Recherche. Die ganze Welt untersucht das Problem. Für Anleger ist es jetzt am meisten Agenten zu sehen; aber für diejenigen von uns, die es forschen, ist es mehr zu lernen und wie man das Lernen lösen kann.
Das Lernen ist keine Technik, es ist ein Problem. Wie man dieses Problem lösen kann, gibt es viele Techniken - es ist nicht eine Sache, es werden viele Dinge sein. Oder AGI besteht aus vielen Dingen und braucht Modelle und dann viele andere Dinge. Es ist auch ein technisches und algorithmisches Problem. Das Problem ist relativ professionell, aber es gibt viele Methoden und es gibt auch viele Studien.
Frage: General Liang, danke. Zuerst möchte ich antworten und danken, was Sie zu Beginn gesagt haben, hat mich sehr berührt und uns auch inspiriert: Dieses Team mit größter Güte und Hoffnung, die Entwicklung dieser Gesellschaft und der menschlichen Intelligenz zu fördern und einen kleinen Beitrag zu leisten. Dies ist sehr ähnlich der Unternehmenskultur der Unternehmen, die wir betreuen, das heißt „Selbstbekenntnis". Ich verstehe sehr gut, warum Sie Ihr Team für Open Source leiten. Ich fühle mich visuell, wie ein Vogelparadies wie ein Banyan zu machen, die Ökologie von allen, die von allen akzeptiert werden, alle Dinge koexistieren und schließlich überall sind. Mit dieser Investition zeigen wir unsere Anerkennung, Unterstützung und Respekt für diese Mission und Vision.
Die erste FrageWie viele Partner, Talente und Teams gibt es in der Branche, die jetzt nach Open Source unsere Open-Source - Modelle und Ergebnisse besser reproduzieren können? Möchten Sie in Zukunft diese Ökosysteme weiterentwickeln, in welchen Bereichen brauchen Sie mehr qualifizierte Talente, um unser Modell zu integrieren und es zu reproduzieren? Oder gibt es derzeit noch ein paar wenige GPs? Wird die Zukunft eine Art Modellmatrix sein - wir machen das Grundmodell immer besser, Partner und Teams aus verschiedenen Branchen, um das vertikale Industriemodell und das Anwendungsmodell in der Modellmatrix zu erstellen? Wie entwickelt sich das gegenwärtig? In zwei, drei Jahren, was für ein Ökologen fühlst du dich?
Zweite Frage.In Bezug auf KI-Hardware: AI-Großunternehmen weltweit, die Einzelpersonen werden wahrscheinlich Hunderte von Milliarden Dollar Investitionen, China scheint derzeit in der Hardware-Rechenleistung einige Schwächen. Wie lange glauben Sie, dass dies gelöst werden kann, um die Entwicklung unserer KI zu unterstützen, so dass die Rechenleistung und die Hardware nicht für die AGI zurückhalten? Ist das nicht eine Frage der Zeit und des Geldes, das die Chinesen in die Zukunft verwirklichen können? Zur gleichen Zeit kann es zwei Aspekte sein: Auf der einen Seite wird der Fortschritt des Modells die Intelligenz verbessern, die Verbrauch von Hardware und Rechenleistung für eine einzelne Aufgabe oder bestimmte intelligente Einheiten allmählich verringern und nicht mehr so viel Rechenleistung benötigen, weil der Fortschritt des Modells es schlau berechnen lässt; Auf der anderen Seite wird der technische Fortschritt der Hardware die Energieeffizienz der Rechenleistung stärker machen. Ist das ein Weg, den beide Seiten gegenseitig gehen? Darüber hinaus verwenden Sie jetzt 960 oder H200, um Hunderte von Milliarden Dollar in Rechenleistung zu investieren, Sie haben gerade erwähnt, dass es drei Jahre abschreiten wird, ist der tatsächliche Lebenszyklus Ihrer Meinung nach vier oder fünf Jahre? Ob die jetzt gebaute Wanka-Cluster in drei Jahren relativ weniger fortgeschritten sein wird? Wird es jetzt nicht ausreichen und in drei Jahren redundant werden? *
Antworten:Vielen Dank! Das erste Problem ist das ökologische Problem.
Das Problem, mit dem sich jedes Unternehmen konfrontiert hat, ist, dass es nicht genug Personal gibt. Ich glaube, dass dieser Mangel an Personal phasiert sein wird. Im Anfangsjahr der Entwicklung jeder Branche reicht es nicht. Früher begann, eine Website zu machen, die Website zu machen, sehr wenige Menschen, Talent ist sehr mangelnd; Später das Internet, um den Service zu machen, Talent ist auch sehr mangelnd. Aber dieser Mangel an Talenten wird sehr schnell gelöst werden, also in zwei oder drei Jahren, weil es eine große Anzahl von Menschen ausbilden wird.
Der Mangel an KI-Talenten ist auch phasional, und wir haben bereits gesehen, dass es erheblich gelindert ist. KI-Menschen fehlen wirklich nicht, jedes Unternehmen wird schnell Menschen ausbilden, die Ausbildung von Menschen ist sehr schnell. Daher fehlt die KI-Industrie als Ganzes, unabhängig davon, ob es sich um Ökosysteme, Modellunternehmen oder was auch immer handelt, nicht an Talenten. Der Mangel an Talenten ist sicherlich ein kurzfristiges Phänomen, in der Geschichte gab es nie einen langfristigen Mangel an einer bestimmten Art von Menschen. Ich erinnere mich noch, dass ich vor mehr als einem Jahrzehnt gesagt habe, dass es einen Mangel an Piloten gibt, dass die Ausbildung von Piloten sehr lang ist, aber auch schnell gelöst wurde.
Sie müssen sich keine Sorgen um den Mangel an Personal machen. Und es gibt jetzt zu viele Modelle in der heimischen Firma, oder zu viel. Die USA haben vielleicht nur drei, und China hat zu viele Grundmodelle. Am Ende braucht es nicht so viele Leute, um das Modell zu machen, wird sicher konvergieren. Die Ressourcen sind auch vergleichsweise verteilt und in gewissem Maße verschwenderisch - das bedeutet, dass jeder das gleiche tut, aber solange die Vereinigten Staaten es tun, konzentrieren sich die Ressourcen nur auf diese drei; die Ressourcen Chinas sind sehr verteilt, und jeder bekommt weniger Ressourcen. Ich denke, das wird definitiv konvergieren, aber es braucht einen Prozess und wird letztendlich konvergieren.
So viele Häuser brauchen wir nicht! Jetzt mag jeder denken, dass die Gewinnmarge für diese Sache sehr hoch ist, also muss er es selbst tun; aber wenn er herausfindet, dass diese Sache möglicherweise nicht so hoch profitiert, kann er es nicht tun. Ich glaube nicht, dass es so einen hohen Gewinn gibt, weil das nicht mit objektiven Gesetzen übereinstimmt. Das bedeutet, dass wir uns in einer Phase befinden: Wenn es eine sehr hohe Gewinnmarge gibt, muss dies nicht mit den objektiven Gesetzen übereinstimmen, sollten wir einen vernünftigen Gewinn erzielen. Das ist die aktuelle Situation in der Branche, und ich denke, dass es sich sicherlich verschwindet.
Der Teil des großen Modells, nicht sagen, dass ein bestimmtes Unternehmen Monopol, "Ich nehme alle Gewinne", das ist sicherlich nicht funktionieren. Wenn jedes Haus nur einen vernünftigen Gewinn erzielt, braucht es nicht so viele Leute, um ein großes Modell zu bauen. China hat schließlich drei oder vier Wettbewerbe, der Wettbewerb ist sehr ausreichend, der Preis ist absolut genug, um einen Preiskrieg zu führen. Zwei große Unternehmen, zwei kleine Unternehmen, reichen schon aus.
Was die Ökologie angeht, habe ich nicht viele Ideen. Wir wünschen uns, dass wir mehr Menschen unterstützen können, aber wir haben nicht so viel Energie. Wir haben diesen Willen und es wird keinen Interessenkonflikt geben, aber ob wir es tun oder nicht, ist eine andere Sache. Aber zumindest gibt es hier keinen Interessenkonflikt, wir hoffen, eine win-win - Zusammenarbeit. Zunächst einmal glaube ich definitiv nicht, dass große Modellfirmen den Großteil der Gewinne nehmen können, das ist unmöglich - so viele große Modellfirmen, jetzt ist die Lücke nicht so groß. Es gibt nur zwei Unterschiede: Eine ist die Zeit und eine ist die Kosten. Es gibt also keine Gewinne, die von einer Familie gehabt werden. Wer gute Kostenkontrolle hat, verdient etwas mehr, wer schlechte Kostenkontrolle hat, verdient etwas weniger, das ist alles.
fragtDieses Stück Daten, jetzt öffentliche Daten glauben, dass Modellunternehmen bereits Zugang zu Kanälen haben, es ist nur eine Frage von Zeit und Kosten. Wenn wir wirklich nach AGI gehen, ist der ideale Zustand, dass das Modell sich selbst iterativ, selbst lernt und sich selbst trainiert. Sind diese Daten von der richtigen Qualität, oder sind diese Daten von der richtigen Qualität? Wenn wir noch Daten aus echten Daten benötigen, würde das die Intelligenz der KI auf der Ebene der menschlichen Vergangenheit einschränken - da sie auf echten Daten angewiesen ist, die die Menschheit wirklich jemals hatte? Oder kann man diese Obergrenze überwinden und die Modellfähigkeit durch Simulation von Daten, Simulation von Daten, Erstellung von Daten und so weiter übersteigen lassen, die alle Realität der menschlichen Vergangenheit?
antwortenIch glaube, dass es überschritten werden kann. Es gibt zwei Punkte. AlphaGo spielte eine Hand, die die Menschheit noch nie gesehen hatte - und er übertraf die Menschheit in gewisser Weise. Aber er hat vielleicht auch eine Obergrenze und eine Grenze, aber diese Grenze können wir jetzt nicht sehen. So glauben wir allgemein, dass es auf dem Wissen basieren kann, das die Menschheit bereits besitzt, das wir bereits sagen können, übersteigen kann.
Ob es nun mit echten Daten oder simulierten Daten funktioniert - ich denke, es gibt viele Möglichkeiten.
Wir haben also eine Lücke zu den USA, die vielleicht 12 Monate, 12 bis 18 Monate oder 6 bis 12 Monate hinter den USA liegt. Einfach ausgedrückt, das bedeutet, zwei Jahre hinter den Vereinigten Staaten zurückzukehren und diese Sache mit nur einem zwanzigsten der Rechenleistung der Vereinigten Staaten zu tun. Diese Narrative ist:Ein bis zwei Jahre zurück, aber nur mit einem zwanzigsten seiner Rechnenleistung. In Zukunft werden wir diese Erzählung umschreiben: mit einem Bruchteil ihrer Rechenleistung, aber diese Zeit kürzer zu verkürzen, auf sechs Monate, drei Monate, ich denke, das ist ein Ziel. Und wir können sie sogar in gewisser Hinsicht übertreffen. Aber in der Lage, dass die Gesamtrechnerleistung noch eine Größenordnung Lücke gibt, ist es unrealistisch, umfassend zu übertreffen; aber an bestimmten Schwerpunkten und Kompromissplätzen ist es möglich, einige Überschreiten zu haben.
Frage: Zwei schnelle technische Probleme. Erstens, gerade als ich über die technische Linie sprach, erwähnt, dass das Kernproblem, das wir in dieser Phase lösen müssen, kontinuierliches Lernen ist, das ist auch der aktuelle Hotspot der ausländischen Forschung, genannt rekursive Verbesserung. Was ist die größte technische Herausforderung derzeit? Wann kann es aus Ihrer Sicht gelöst werden? Zweitens, Sie haben gerade erwähnt, dass Sie sich zunächst mit Continuous Learning beschäftigen und dann mit Intelligenz umgehen, was ist die technische Wurzel dahinter? Bedeutet das, dass DeepSeek nach der Lösung des Problems des kontinuierlichen Lernens auch allgemeine Intelligenz entwickelt?
A: Die Schwierigkeit mit der technischen Frage ist, dass wir noch keine sehr funktionierende Methode gefunden haben. Die ganze Welt hat noch keine gute Lösung gefunden, und alle haben es gemerkt, und es ist immer noch in der Phase des gemerkt - es ist nicht bekannt, wer die nächste Lösung für dieses Problem finden wird. Wir haben viele Ideen, viele Ideen, die jetzt vielversprechend erscheinen, aber noch nicht umgesetzt werden. Das ist das erste.
Zweitens, jetzt schätzen wir intern eine solche Erzählung: Trainingsmodelle für unsere nächste Version, und wir hoffen, dass es uns helfen wird, unsere eigene Entwicklung. Es verbessert die Effizienz von DeepSeek - unser Modell verbessert in erster Linie die Produktivität von DeepSeek selbst, sodass es uns bei der Entwicklung der nächsten Version des Modells noch mehr helfen kann. Oder einfach ausgedrückt: Das erste Ziel, das wir mit dem Modell gemacht haben, ist nicht, dass alle gut benutzen, sondern dass wir es selbst gut benutzen. Zuerst ist es für uns selbst nützlich und dann werde ich schneller sein, wenn ich die nächste Version des Modells entwickle.
Viele Menschen in uns denken, dass es zuerst für uns selbst nützlich ist, zuerst für uns selbst - das ist der schnellste Weg, um AGI zu erreichen. Wenn wir es für uns selbst gut benutzen, bedeutet das, dass es für andere gut sein kann, aber wir müssen zuerst sicherstellen, dass wir es für uns selbst gut benutzen. Diese Erzählung ist ein bisschen seltsam, aber es ist wirklich so, dass viele Leute denken: nicht, dass die Benutzer es gut benutzen, sondern dass wir uns selbst mehr helfen wollen, damit wir AGI realisieren können, das viel schneller wird. Die Logik dieser Erzählung lautet: Hilf uns, AGI zu erreichen - aber zuerst hilf uns, AGI zu erreichen, und wir brauchen diese Hilfe, um AGI zu erreichen. Jetzt ist es ziemlich sicher, dass wir wirklich künstliche Intelligenz brauchen, um uns zu helfen, AGI zu realisieren. Obwohl es noch nicht unabhängig arbeitet, ist es nur mit Menschen zusammenarbeiten, aber es ist schon sehr nützlich.
(Über kontinuierliches Lernen, dann allgemeine Intelligenz) Durch die Lösung dieses Problems des kontinuierlichen Lernens können wir unseren Fortschritt erheblich beschleunigen. Wenn ich das kontinuierliche Lernen zuerst löse, dann würde das Problem der allgemeinen Intelligenz nicht mehr in Frage kommen. Ich habe die Unterstützung von KI, wenn die KI weiterhin lernen kann, sollte ihre Fähigkeit sehr stark sein. Die Fähigkeiten des Agenten sind eingeschränkt, weil sie nicht fortwährend lernen können, nicht effektiv. Wenn wir das kontinuierliche Lernen zuerst erledigen können, ist die Fähigkeit der KI sehr stark und kann die Effizienz unserer eigenen Forschung sehr verbessern. Wenn man kontinuierlich lernt, kann es einfach sein, allgemeine Intelligenz zu erledigen - es ist einfach, es mit ihr zu tun. Das ist also das Ergebnis, das wir eher sehen wollen: Wir sparen weniger Arbeit, wir sind leichter. Sonst müssen Sie künstlich allgemeine Intelligenz tun, es ist ein relativ müde, mehr bitter, ist datenintensive, arbeitsintensive Dinge, die Kosteneffizienz ist auch nicht hoch. Zumindest denke ich, dass es weiter lernen kann.
(Wenn die inländische Hardware aufholen kann) kann es einige Jahre dauern, wenn die inländische Hardware aufholt. Zuerst müssen wir das ökologische Problem im Inland lösen - denn das Problem der Ökologie ist eine Frage des Vertrauens - und dann müssen wir das Problem der Produktionskapazität lösen, und ich denke, es sollte schrittweise gelöst werden. Ich glaube nicht, dass wir in fünf Jahren noch in der Produktion stecken bleiben. Jetzt ist es sicherlich in der Kapazitätsfrage stecken, in diesem Jahr, nächstes Jahr, nächstes Jahr, kann immer noch in der Kapazitätsfrage stecken, aber nach fünf Jahren denke ich, dass es möglicherweise nicht unbedingt ist, ich bin immer noch relativ optimistisch.
(In Bezug auf die zukünftige Organisationsstruktur und Personalgröße) Unsere vorherige Organisationsstruktur war sehr dezentral, weil es keine Organisationsstruktur gab. Aber wenn die Menschen weiter ausgeweitet werden, müssen sicherlich einige Änderungen vorgenommen werden. Ich kann nur sagen, dass hier viele Veränderungen nötig sein werden, aber es ist jetzt schwer, alles auf einmal auszudrücken. Schließlich sollte man noch verschiedene Abteilungen aufteilen: Manche müssen eine strenge Hierarchie aufbauen, andere können eine lockere und flache Struktur beibehalten. Wenn das Personal zunimmt, werden wir diese Anpassung vornehmen - ich würde sagen, wir müssen diese Anpassung sofort vornehmen, und ich mache es bereits. Ohne diese Anpassung kann man vieles nicht weitermachen. Es gibt tatsächlich viele Abteilungen, die eine organisatorische Struktur haben müssen.
(Über den Release Rhythmus) Wir haben jetzt online veröffentlicht V4 diese Version, noch relativ grob, die Fähigkeit, viele brauchen Zeit. Für mich ist ein relativ angenehmer Veröffentlichungsrhythmus, wahrscheinlich zwei oder drei Monate eine Veröffentlichung. Die letzte Veröffentlichung könnte Ende April sein, die nächste Veröffentlichung könnte Ende Juni sein, wahrscheinlich so. Wenn es keine Überraschungen gäbe, wäre es besser als eine andere Version.
Auf dieser Skala der 50B-Aktivierung habe ich das Gefühl, dass wir letztendlich nicht viel von der aktuellen Open-Source - Welle unterscheiden werden - in Bezug auf die Geschwindigkeit und die Wirksamkeit der Argumentation, es wird wahrscheinlich nicht viel Unterschied geben. Aber mit seinem großen, nicht öffentlich zugänglichen Modell sollte die Lücke noch größer. Diese Lücke, die wir mit diesem Aktivierungsparameter nicht tun können, muss sicherlich ein größeres Modell sein, wie z. B. 150B. Nun, 150B, nach dem Fortschritt unseres Trainings jetzt, optimistisch, können wir Ende dieses Jahres beginnen, um zu trainieren, zumindest im nächsten Jahr vier... die Lücke ist noch relativ groß. Das ist die Lücke zu der OCE.
F: Sie haben oft gesagt, dass der Prozess der Implementierung von AGI ein progressiver Prozess ist und dass es keine Mutation geben wird. Also kann ich verstehen, dass es ein Prozess ohne kritische Punkte ist?
Antwort: Es gibt keinen kritischen Punkt, aber es ist nichtlinear. Wir glauben jetzt eher an eine Erzählung: KI kann die Forschung in KI beschleunigen. Es ist nicht linear, da Sie KI verwenden können, um Ihre eigene Forschung zu beschleunigen, so dass es nicht linear sein kann, um nach hinten.
F: Klar. Also ist die frühere Schlussfolgerung, dass das Sprachmodell weiterhin Scaling ausreicht, um diesen Zustand zu erreichen?
A: Ich kann nur sagen, dass es eine Obergrenze für das Scaling-Sprachmodell gibt, das ich jetzt nicht sehe. Unser aktuelles Intelligenzniveau, oder das amerikanische Intelligenzniveau, sieht keine Obergrenze.
F: Klar. Sie sagen, das US 800B aktivierte Modell, es ist besser als wir trainieren können, aber es kann auch nicht verwendet werden, so dass es nur trainiert werden kann, es ist schwierig, es für alle zu verwenden, weil es wirklich ein bisschen teuer ist. Ich war neugierig: Die menschliche Sprachfähigkeit ist eine Sache von fast 100.000 Jahren, und es könnte 3,7 Milliarden Jahre zuvor entwickelt. Aber wenn es darum geht, KI zu trainieren, kann die Reihenfolge umgekehrt sein, aber am Ende geht es vielleicht immer noch in das - nicht unbedingt das Weltmodell - das physische Modell oder den Teil der Incarnation, oder? Nach dieser Obergrenze?
Antwort: Ja, ich denke, dass es definitiv eintritt und letztendlich eine verkörperte Person ist. Für unsere Firma kann natürlich das Ende sein. Denn für einen normalen Menschen ist sein Bedürfnis nicht der Computer, oder? Ein normaler Mensch, der essen und trinken und spielen, Kleidung und Unterkunft, braucht keinen Computer. Es geht darum, spezifische Personalbedürfnisse zu lösen. Wenn das Ziel darin besteht, die menschlichen Bedürfnisse zu lösen, kann ich mich nicht umgehen.
F: Klar. Wenn wir phasenweise einen Zustand erreichen, in dem wir uns selbst entwickeln können, in dem wir sich relativ gut entwickeln können, und näher an diesem Aufstiegspunkt kommen, bin ich neugierig, was wünschen Sie, dass die KI zuerst in diesem Zustand landen wird?
A: Vielleicht ist das anders als heute. Was ist unsere Definition von AGI, wenn es keine Inkarnation gibt, oder was können wir von AGI erwarten? Es hilft mir, die nächste Version des Modells zu iteren. Und wenn es eine Inkarnation gibt, dann wollen wir, dass es das gleiche tut: Lassen Sie es die nächste Version der Inkarnation iterieren, und es wird die nächste Version des Roboters machen.
F: Ich bin ein wenig neugierig. In einem früheren DeepSeek-Interview wurde erwähnt, dass Geschmack und Intuition bei einigen wichtigen Richtungs - und Forschungswahlen wichtig sind, nicht nur eine einfache Engineering-Optimierung. Wenn die KI sich später selbst entwickeln kann, sind diese Geschmack, Geschmack und Intuition noch wichtig? Oder was ist das Wichtigste?
Antwort: KI fehlt heute nicht an Geschmack und Intuition, sondern an der Fähigkeit, kontinuierlich zu lernen. Es gibt kein Problem mit dem Geschmack und der Intuition der KI - man lässt sie einen Artikel schreiben, und es gibt kein Problem mit ihrem Geschmack und ihrer Intuition.
F: Kontinuierliches Lernen, das Sie auch erwähnt haben, ist ein ungelöstes Forschungsproblem, das viele Forscher auch erwähnen. Und der Coding-Agent - insbesondere die Aufholung von MILES, Scaling auf Office-Ebene und MIS-Ebene - ist ein ziemlich klares Ziel. Für ein noch ungelöstes Forschungsziele und ein ziemlich festes Scaling-Ziel, wie sollten Sie die Forschungressourcen, insbesondere die Talente der Forscher, verteilen, wie kann das beste Gleichgewicht und die Wirkung erzielt werden?
A: Das Office-Modell ist ein relativ bestimmtes Ziel; das MIS-Modell, das ich nicht finde, ist sicher, kann nur als ein Ziel bezeichnet werden. Das Office-Modell ist mir ziemlich sicher.
Das (kontinuierliche Lernen) kostet keine Ressourcen. Diese freie Forschung zu tun, verbraucht es keine Karten, es braucht nur sehr wenige Karten, es braucht Ideen; es verbraucht auch keine Talentressourcen, weil es nicht nötig ist, dass jemand da ist, um es zu tun. Es ist kein Projekt, sondern es braucht viele Leute, die darüber nachdenken. Es braucht keine Ressourcen, weil es keine Ressourcen benötigt. Sie müssen Modelle trainieren, Modelle erstellen, Modelle ausführen, Modelle Effizienz-Experimente durchführen, um Ressourcen zu benötigen. Das, was gerade gesagt wurde, verbraucht kaum Ressourcen für Menschen und Karten.
Wir nennen das „Touch Prize": Die Schwelle ist niedrig, jeder kann es anfassen, aber wer etwas anfassen kann, weiß ich vielleicht nicht, ob ich Talent oder was sehe.
Wir brauchen hier nicht, Ressourcen zu verteilen. Was uns von anderen Unternehmen unterscheidet, ist, dass wir uns die Zeit nehmen, darüber zu diskutieren, darüber nachzudenken und es als eine wichtige Sache zu betrachten. In einem Unternehmen ist es ein wichtiges Thema, das wir uns Zeit nehmen, um darüber nachzudenken, aber nicht viel Ressourcen aufwenden müssen, um es zu tun.
Das Problem der Halluzination des großen Modells beeinflusst die Benutzererfahrung. Es gibt auch eine Lösung für das Problem der Halluzination, aber es ist ein langfristiges Problem. Halluzinationsprobleme können als ein Problem betrachtet werden, das durch besseres Post-Training gelöst werden kann, ein Problem, das gelöst und verbessert werden kann, nur dass wir uns nicht sehr bemüht haben, es zu tun. Oder, für mich ist die Halluzination ein Problem, aber wir können es auf ein Produktproblem zurückführen. Wir werden es lösen, aber nicht das Schwerpunktproblem.
Es gibt auch ein Problem mit den Daten. In Bezug auf die Datenmarkierung haben wir mit unseren Investitionen zu tun: Mit der Struktur unserer Investitionen können wir uns die Kosten für so viele hochwertige Datenmarkierungen nicht leisten, weil die Kosten sehr hoch sind. Die Kosten für die Kennzeichnung von Daten in den Vereinigten Staaten unterscheiden sich nicht von China, und die chinesischen Standarddaten haben keinen Kostenvorteil, insbesondere die High-End - Daten haben keinen Kostenvorteil, was uns schwierig macht, wie die Vereinigten Staaten Daten auszuzeichnen. Dieser Weg ist in China sehr schwierig, weil die Angebote zu teuer sind - ob es sich um unsere externen Angebote handelt oder um unsere eigenen Angebote, das ist sehr unangenehm.
Heute geht man im Grunde auf zwei Beinen. Das heißt nicht, dass wir überhaupt nicht bieten können, aber die Daten haben einige niedrige Kosten, einige hohe Kosten, wir bieten die niedrigen Kosten zuerst. So können Sie auch denken, dass jetzt die Hälfte unserer Unternehmen in den Daten: die Hälfte der Kernforscher, die wichtigsten Menschen, die Hälfte in den Daten, konzentrieren wir uns auf die Daten.Die Lösung dieses Problems ist in dieser Phase auf die Daten angewiesen. Der Kern sind Daten.
Frage: Die erste Frage. Sie haben gerade gesagt, dass das chinesische Modell in Bezug auf die Effizienz sicherlich stärker ist als das amerikanische Modell, und es gibt einige andere Aspekte, die in Zukunft stärker sein könnten als das amerikanische. Was glauben Sie, dass wir in der Intelligenz oder in anderen Bereichen besser sind als die USA?
A: Ich denke, dass wir es in vielerlei Hinsicht besser machen können als die USA. Ganz abgesehen von meiner eigenen Erfahrung - meine eigene Produkterfahrung fühlt sich gut an - ich denke, dass wir nicht unbedingt schlechter sein werden als die USA in Bezug auf die User Experience. Die Produkte und die Produktkapazität sind nicht unbedingt schlechter als die USA, und die Kosten sollten niedriger sein als die USA, so dass China möglicherweise noch wettbewerbsfähig sein wird.
Und wenn es aber strukturelle Vorteile gibt, dann gibt es wohl auch nicht. In Bezug auf die Kosten und das Produkt gibt es aber einen gewissen Vorteil. Die Kosten sind gut verständlich: Sie müssen es nicht tun, also entwickeln sie diese Fähigkeit nicht, und sie haben sicherlich nicht den Wert, den wir auf diese Sache legen - wir können es als eine sehr wichtige Sache betrachten, aber für sie ist es nicht wichtig. Auch die Produkte sind in vielen Unternehmen möglich. Beides kann einen strukturellen Vorteil bieten.
Frage: Zweite Frage. Nach dem Training, das Sie gerade erwähnt haben, investieren wir relativ teuer, wie Anthropic und OpenAI, die große Summen investieren. Werden wir nach dieser Finanzierung mehr in die Weiterbildung investieren?
A: Die Lücke liegt hauptsächlich in der Kennzeichnung von hochwertigen Daten, vor allem in der KI-Forschung. Sicherlich wird der Einsatz gesteigert. Aber die Kennzeichnung von qualitativ hochwertigen Daten, Engpässe sind nicht Kapitalinvestitionen, ich denke, es ist Zeit, es braucht Zeit. Für OpenAI, im Ausland, für Anthropic, sie sind früher, dann mehr Kapital, mehr Karten. Wir können in unserem Land denken, dass es in den letzten sechs Monaten erst begonnen hat, also in der Zeit, denke ich, dass es mehr Zeit braucht. Das hat nicht viel mit dem Kapital zu tun - selbst ohne mehr Kapital, reicht das ursprüngliche Kapital aus, um es mit der schnellsten Geschwindigkeit zu expandieren. Aber diese Geschwindigkeit hat eine Obergrenze, und der Engpass ist nicht auf dem Geld stecken, noch auf der Karte stecken. Sie befindet sich in einem raschen Expansionsprozess. Also glauben wir, dass innerhalb eines Jahres die Frage der hochwertigen Daten relativ gut gemacht wird, sollte im Inland erwartet werden. Ich denke, es ist vielleicht nicht so schwer, aber es dauert wirklich Zeit.
Frage: Die dritte Frage. Wir haben Anthropic gesehen, dass sie ihre eigenen Produkte mit ihren eigenen Modellen entwickeln und eine Menge vertikaler Finanzen, Rechtsvorschriften... und sogar in die Zukunft in die medizinische Richtung gehen. Werden wir in dieser Phase auch über die vertikale Anwendung nachdenken?
Antwort: Ich habe noch nicht ganz klar darüber nachgedacht, wie das inländische Geschäftsmodell in der Zukunft aussehen wird, oder was der reibungslosste Weg ist, wir sind noch nicht in diesem Stadium. Die Situation im Inland und im Ausland ist nicht unbedingt dasselbe, was im Inland zu der Zeit ist, finde ich, dass es noch schwieriger ist, zu beurteilen. Angesichts der gegenwärtigen Situation denke ich, dass es am vernünftigsten ist, einen universellen Agenten zu machen, und andere Agenten sollten weniger Priorität haben, einschließlich Finanzen und Ärzte. Zuerst geht es um Coding, da Coding-Agenten viel leisten können, und es gibt viele vertikale Agenten. Das Wichtigste, was wir in dieser Phase halten, ist der Coding Agent.
F: Wir arbeiten auch mit DeepSeek zusammen und ich bewundere Sie, dass Sie DeepSeek so wissenschaftlich gemacht haben. Aber jetzt ist diese Industrie tatsächlich auf dem Kapitalmarkt, auf dem Weg der Kapitalisierung. Sie sind eine sehr verantwortungsbewusste Person, sowohl gegenüber kleinen Partnern als auch gegenüber Investoren. Zwischen rein wissenschaftlicher Forschung, rein AGI-Richtung und Kapitalmarkt - Sie werden sicherlich auch Kapitalmarkt in der Zukunft gehen, sicherlich gibt es öffentliche Aktionäre - wie denken Sie, in Zukunft Balance? Wie denkt ihr darüber nach?
Antwort: Ich denke, dass es jetzt alles geben kann. Wenn ich in diesem Jahr mehrere Milliarden Dollar am B-End erzielen kann, und wir haben Benutzer am C-End, dann gibt es bereits eine gewisse kommerzielle Grundlage für das. Nächstes Jahr haben wir ein Einkommen am B-End, wenn diese Nachfrage weiter erhöht werden kann, ist das Unternehmen nicht weit vom Nettogewinn entfernt, kann es bereits ein Nettogewinn sein, kann es nicht mehr eine reine Geldverbrennung Phase sein. Ich denke, dass die Handlungen, die man hinterher machen kann, noch größer sind.
Oder, im schlimmsten Fall: Der Verkauf von APIs könnte eine börsennotierte Firma unterstützen. Wenn es keine neuen Fortschritte hinter der Technologie gibt, ist unsere Technologie hier eingefroren, dann werden wir schließlich die API verkaufen und diese Dienstleistungen gut machen, denke ich, es reicht.
Ich bin zuversichtlich, dass es wirklich nicht so schwer ist. Weil es tatsächlich an einem Ort mit hoher Hebelwirkung ist und in einem sehr schnell wachsenden Bereich ist, ist es wahrscheinlich nicht so schwierig. Ich kann nur sagen,Wir wollen größere Träume haben, aber wir haben auch eine Leistung, die wir erzielen können.
F: Ich denke, der größte Unterschied zwischen DeepSeek und anderen Unternehmen ist, dass unsere Organisation anders ist als andere. Die Organisationsform hängt jedoch nicht nur mit den Zielen zusammen, sondern berücksichtigt auch die Grenzen und die Effizienz der Organisation selbst. Wird diese Form aus makroökonomischer Sicht ein gutes Lernobjekt haben? Ist es in der Geschichte möglich, Bell Labs, oder was für eine Form ist es besser? Oder haben wir das Gefühl, dass wir nicht selbst ideal sind und dass wir mehr nach und nach entdecken müssen? Vielleicht werden wir es in einer neuen Zeit nur selbst erforschen können - denn unsere Organisationsform ist sicherlich anders als einige amerikanische Unternehmen, die drei Unternehmen selbst sind nicht anders, aber sie werden es zumindest aus der Perspektive eines kommerziellen Unternehmens erforschen. Ich möchte vor allem die Frage der Organisation stellen.
Antwort: Zunächst einmal haben wir keine Nachahmungsobjekte. Jeder Schritt ist, dass wir von der tatsächlichen Situation ausgehen, die Wahrheit suchen, basierend auf der tatsächlichen Situation Entscheidungen treffen und herausfinden, was wir tun sollten. Es ist also ein Produkt der Epoche, eine Reaktion auf die Realität und nicht das Ergebnis einer Nachahmung.
In diesem Fall könnte die optimale Lösung so sein; so ist der Weg, den wir selbst wählen. Wir haben jeden Schritt nachgedacht, gewählt, und das Ergebnis der Wahl ist so gewählt. Es ist nicht, weil wir sehen, wer so wählt, sondern weil wir die Vor - und Nachteile analysieren. Die Zukunft könnte genauso sein, und wir wollen niemanden nachahmen.
Ich denke, wir sind noch anders als Bell Labs: Es muss eindeutig nicht kommerzialisiert werden, aber wir müssen es definitiv kommerzialisieren. Wir müssen am Ende überleben - wir sind schließlich ein Unternehmen und die Regierung gibt mir keinen Cent. So können wir eine sehr ehrgeizige Mission haben, aber letztendlich sind wir ein Unternehmen, das überlegen muss, wie man am Leben ist. Das B-End ist also für uns sicher wichtig, weil wir später davon leben müssen. Das ist jetzt nicht wichtig, weil es jetzt eine Kostenlinie ist.
Ich denke, dass wir bei Bell Labs im Wesentlichen noch ein Unternehmen sind. In der Geschichte gibt es viele Unternehmen, die außerhalb des Profit-Streben profitieren, aber nicht sagen, dass es außerhalb des Profit-Streben profitieren, es ist kein Unternehmen.Viele Unternehmen machen es großartig, weil sie ein Streben haben, das über den Profit hinausgeht; und dieses Streben hat letztendlich nicht nur ihre Vermarktung nicht beeinträchtigt, sondern es sogar besser zu machen.Wir sind im Wesentlichen ein Unternehmen und sagen nur, dass wir darüber nachdenken, was wir verdienen, wann wir verdienen, wie viel wir verdienen und was wir verdienen - sagen nur, dass wir Optionen haben.
F: Zwei kleine Fragen. Erstens haben Sie erwähnt, dass MILOS vielleicht nicht ein bestimmtes Ziel ist, aber es wird definitiv in diese Richtung gehen, und dass die Aktivierungsparameter der nächsten Generation etwa 150 bis 250B sein könnten - denken Sie, dass 150 bis 250B für O4.7 oder vielleicht für etwas anderes sein könnten? Zweitens verwenden wir jetzt einige kompilierte Sprachen außer CUDA für die gesamte Inferenz. Ursprünglich basierend auf der Nvidia Ökosysteme, kann es mehr PTX verwenden; jetzt verwenden Sie mehr TileLang, wird es unsere Effizienz in der Inferenz drastisch reduzieren oder kurzfristig reduzieren? Wie sehen Sie den Effizienzverlust, der durch diese Veränderung der kompilierenden Sprache verursacht wird, oder ist es langfristig ein Zustand, in dem Sie die Effizienz steigern können?
Antwort: Wirkungsgrad deutlich steigern.
F: Haben Sie keine negativen Auswirkungen?
Antwort: Ja, es ist eine erhebliche Effizienzsteigerung. Das ist also eine Chance.Äquivalent zu früher waren Sie nicht ohne CUDA Ökosystem, jetzt können wir es Ökosystem zu werfen, mit einer einfacheren Methode, einfach mit TileLang. Es ist eine High-Level - Sprache, das Schreiben von Programmen ist sehr schnell, die Menge an Code zu schreiben ist sehr klein, ich kann es umschreiben.
F: Klar. Beide sind also, wie Sie erwähnt haben, relativ große Chancen, die KI bringt, nicht ein kurzfristiger Nachteil, der behoben werden muss.
A: Ja, es ist eine große Chance für die technologische Entwicklung. Wir haben auch ein Projekt, um TileLang mit KI zu schreiben.
F: Ist das schneller?
A: Alle TileLang werden jetzt von Menschen geschrieben, aber es ist viel schneller als ursprünglich CUDA geschrieben.
F: Klar. Und das hat auch keine Auswirkungen auf die Effizienz der Hardware?
Ein Verlust von 1 bis 2 Prozent ist akzeptabel.
F: Versteht, versteht. Danke, sehr klar.
其他人还有没有什么问题？……Kein Problem, wir haben es heute erstmal gemacht. Vielen Dank an alle für die Zeit.