In diesen zwei Tagen, wenn Sie regelmäßig brüsten Tech-Circles und Entwickler-Community, haben Sie eine hohe Wahrscheinlichkeit, dass Jew Der Name ist auf dem Bildschirm geschliffen.
Seltsamerweise sieht es gar nicht aus wie das „große Modell", das wir kennen.
Es wird nicht mit Ihnen chatten, nicht für das Schreiben von Artikeln verantwortlich sein, und es ist auch nicht geeignet, einen Code zu schreiben. Sie können es nicht einmal als Produkt wie ChatGPT oder Claude verstehen.
Aber es ist ein solches "nichts schreiben" - Modell, das in letzter Zeit schnell die Aufmerksamkeit der Entwicklergemeinschaft erregt hat.
Der Grund ist eigentlich einfach:
Jev schreibt nicht Antworten für Menschen, sondern Urteile für das Verfahren.
Wenn die traditionellen Big-Modelle gut sind, um "generieren", dann versucht Jev zu lösen, ist eine andere Art von Problemen, die in Software-Systemen eine große Anzahl von, aber oft übersehen:
Wie wählen Sie den nächsten Schritt?
Das scheint nur eine kleine Änderung zu sein, aber es könnte tatsächlich eine sehr wichtige Richtung in der Architektur von AI-Agenten bedeuten.
Was ist denn eigentlich Jeev?
Zuerst werden die am leichtesten verwirrenden Fragen klärt.
Jev kommt aus dem San Francisco AI-Startup TypSafeEs handelt sich um ein geschlossenes Modell
Es ist nicht dasselbe wie die Produktpositionierung von ChatGPT und Claude, und es ist nicht einfach, ein herkömmliches Chat-Modell in eine API-Verpackung zu ersetzen.
Jev hat sich von Anfang an auf einen sehr engen Aufgabenbereich konzentriert:
Ermöglicht es Modellen, schnell zu klassifizieren, zu wählen, zu beurteilen und zu bewerten.
So werden Sie nicht wie mit einem normalen LLM machen, es:
„Helf mir, einen Artikel über AI zu schreiben."
Was sie wirklich gut macht:
"Ist diese Benutzernachricht eine Rückerstattung, eine Logistik oder ein anderes Problem?"
oder:
„Welcher Schaltfläche auf dieser Webseite passt am besten zur aktuellen Aufgabe?"
noch einmal oder:
„Sollte dieser Export überprüft werden?"
Mit anderen Worten:
Das traditionelle große Modell ist eher wie ein sprechender Experte, und Jeff ist eher wie ein Hochgeschwindigkeits-Entscheidungsmodul.
Derzeit bietet Jev hauptsächlich Dienstleistungen über APIs an und hat keine öffentlichen Modellgewichte. Daher sind die meisten der relevanten Projekte, die Sie auf GitHub sehen, Anwendungen und Tools, die von Entwicklern rund um die Jev-API gebaut wurden, und nicht die Open-Source - Gewichte des Jev-Modells selbst.
Der wichtigste Unterschied: Es ist überhaupt nicht für das „Schreiben" verantwortlich.
Der einfachste Weg, um Jev zu verstehen, besteht darin, einen traditionellen LLM mit einem Jev zusammenzustellen.
Nehmen wir an, Ihr Programm erhält eine Kundendienstnachricht:
„Wann werden Sie mir die Rückerstattung geben? Ich habe schon eine Woche gewartet! "
Wenn Sie ChatGPT oder Claude verwenden, müssen Sie das Modell normalerweise sagen:
- Analyse der Absichten der Benutzer
- Urteil über Emotionen
- Export klassifiziert
- Rückkehr im angegebenen JSON-Format
Schließlich extrahiert das Programm das Ergebnis aus dem vom Modell erzeugten Text.
Das Problem besteht darin:
Was das Programm wirklich wissen möchte, ist wahrscheinlich nur eine Sache:
refund
oder:
true
Sogar:
0.93
Die vorangegangene langwierige Analyse ist für das Verfahren zusätzliche Kosten.
Jews Meinung ist das Gegenteil.
Da das Programm letztendlich nur ein Urteil benötigt, lassen Sie das Modell nicht überflüssigen Text erzeugen.
Das ist auch der wichtigste Punkt, an dem sich Jeev interessiert.
Es löst hauptsächlich drei Kategorien von Problemen.
Wenn man Jev als eine API und nicht als Chatbot betrachtet, kann man seine Fähigkeiten einfach in drei Themenformen verstehen.
1. Beurteilung: Ja oder Nein
Die erste Kategorie ist das Boolean-Urteil.
Zum Beispiel,
"Enthält dieser Kommentar einen Angriff auf das Kundendienstpersonal?"
Das Modell braucht keine Erklärung der Gründe und keine Analyse.
Es gibt direkt eine Wahrscheinlichkeit, zum Beispiel:
true: 0.94
false: 0.06
Nach dem Ergebnis können Sie sich selbst entscheiden:
confidence > 0.8
Anschließend werden entsprechende Prozesse ausgelöst.
Dies ist besonders praktisch für Aufgaben wie Inhaltsüberprüfung, Spamfilterung und automatische Umleitung.
2. Auswahl: Wählen Sie eine aus den festen Optionen
Die zweite Kategorie ist näher an den traditionellen Klassifizierungsaufgaben.
Zum Beispiel ist ein System vorgegeben:
0 = 账单问题
1 = 物流问题
2 = 退款问题
3 = 其他
Die Aufgabe des Modells ist es nicht, eine Kategorie selbst zu erstellen, sondern:
Wählen Sie zwischen diesen Optionen.
Dies ist sehr wichtig für das Engineering-System.
Der traditionelle LLM erfordert häufig die Anforderung durch Prompt:
Bitte folgen Sie dem JSON-Format.
Aber das Modell ist schließlich in der Erzeugung von Text, die theoretisch immer noch möglich ist:
- Mehr Export zu erklären.
- JSON-Formatfehler
- Erstellen Sie eine nicht existierende Kategorie.
- Export mit unterschiedlichen Etiketten
Das Modell mit festen Optionen kann den Ausgaberaum direkt auf die vom Entwickler angegebene Kandidatenmenge beschränken.
Für das Programm bedeutet dies einen großen Unterschied:
Die KI ist nicht mehr für das „Schreiben der Ergebnisse" verantwortlich, sondern für die „Auswahl der Ergebnisse".
3. Schätzungsstufe: Einen Gegenstand zu bewerten
Die dritte Kategorie ist der Score.
Zum Beispiel möchten Sie die emotionale Intensität einer Kundennachricht beurteilen:
1 = 非常平静
2 = 有些不满
3 = 明显不满
4 = 愤怒
5 = 极度愤怒
Das Modell gibt nicht eine Stimmungsanalyse zurück, sondern eine gesamte Verteilung der Bewertung.
Das Programm kann seine eigene Strategie entwickeln:
- 1 - 2: Automatische Verarbeitung
- 3: Übernehmen Sie den normalen Service
- 4 - 5: Aufstieg des Personalchefs
Er ist zuständig für das Urteil.
Die Betriebsregeln werden weiterhin von den Verfahrensregeln geregelt.
Das ist eigentlich eine sehr wichtige Ingenieuridee.
4. Was wirklich interessant ist: Sie können viele Fragen gleichzeitig beantworten.
Ein weiteres Merkmal von Jev ist die Möglichkeit, mehrere Entscheidungen gleichzeitig um die gleiche Eingabe zu treffen.
Zum Beispiel eine Kundenbetreuung, die Sie gleichzeitig interessieren könnten:
- In welcher Geschäftsklasse gehört es?
- Wie hoch ist der Notfall?
- Wie sind die Kunden-Stimmungen?
- Braucht es eine manuelle Prüfung?
Herkömmliche Szenarien erfordern möglicherweise mehrere Aufrufe des Modells.
Dieses speziell entscheidungsorientierte Modell kann diese Fragen kombinieren.
Ein Import ist also nicht mehr:
Lesen Sie einmal → Erstellen Sie eine Antwort → Lesen Sie erneut → Erstellen Sie eine Antwort
Mehr wie:
Lesen Sie einmal → mehrere Urteile gleichzeitig abschließen.
Für Systeme, die mit einer großen Anzahl von Ereignissen umgehen müssen, kann dieses Design wichtiger sein als bloß nach der Frage, ob das Modell besser geschrieben wird.
5. Warum ist es so schnell?
Hier geht es um einen grundlegenden Unterschied zwischen dem jev-Modell und dem traditionellen generativen Big-Modell in der Art und Weise, wie es sich um die Argumentation handelt.
Unsere vertrauten Modelle wie GPT, Claude und andere sind im Wesentlichen stark auf Autoregression angewiesen.
Einfach verstanden:
Das Modell generiert das erste Token, dann generiert es das nächste Token basierend auf dem vorherigen Inhalt und setzt dann fort.
Wenn es einen Satz schreiben soll, muss es kontinuierlich Token-by - Token decodieren.
Aber für viele programmatische Entscheidungen ist es einfach nicht notwendig, Dutzende, Hunderte oder sogar Tausende von Token zu generieren.
Angenommen, das Problem ist nur:
„Es gibt 30 Schaltflächen auf dieser Webseite, auf welchen sollte ich klicken?"
Das Ergebnis, das das Programm wirklich benötigt, kann einfach sein:
button_17
Warum sollte man das Modell dann erst denken lassen, dann die Sprache organisieren und dann eine Erklärung ausgeben?
Genau hier versucht Jeev, einzuschneiden.
Der Ausgangsraum der KI wird auf den begrenzten Entscheidungsraum beschränkt.
Aus technischer Sicht entspricht dies:
„Eine Antwort erstellen"
zu werden:
„Wahrscheinlichkeiten unter begrenzten Kandidaten berechnen und wählen".
Die Aufgabe ist einfach, die Ausgabe ist kurz, und die Inferenz-Links können natürlich stark komprimiert werden.
Die Kernmetrik, die von Jeff offiziell betont wird, ist also nicht "wie lange es schreiben kann", sondern:
Wie viel Verzögerung, wie viel Rechenleistung und wie viel Geld für eine Entscheidung benötigt.
6. Wahrscheinlich ist der wahre Killer nicht „schnell", sondern „wahrscheinlich"
Wenn Jev nur ein Merkmal hat:
„Die Klassifizierungsmodelle sind schnell."
Eigentlich ist das nicht so überraschend.
Was wirklich bemerkenswert ist, ist, dass es versucht, ein weiteres langjähriges Problem zu lösen:
Ist das Vertrauen des Modells unsicher?
Bei traditionellen Klassifikationsmodellen gibt es häufig ein Problem:
Das Modell ist sich sicher, dass es recht hat.
Aber in Wirklichkeit kann es sehr falsch sein.
Zum Beispiel,
预测：退款问题
置信度：99%
Nach einer manuellen Untersuchung wurde festgestellt:
Der Nutzer fragt nach dem Transport.
Wenn ein solches Modell in ein Automatisierungssystem eingesetzt wird, ist das Problem problematisch.
Ein Ingenieur könnte schreiben:
confidence > 95%
→ 自动执行
Wenn die Konfidenz nicht kalibriert ist, ist diese Schwelle nicht sehr sinnvoll.
Einer der Punkte, die JV betont hat, istWahrscheinlichkeitskalibration。
Im Idealzustand:
Das Modell sagt, dass es 80% sicher ist, und wenn es langfristig zählt, sollte es ungefähr 80% genau sein.
So haben die Wahrscheinlichkeiten der Modell-Ausgabe wirklich einen Ingenieurwert.
Denn die AI sagt nicht nur zum Programm:
„Die Antwort ist A."
Er sagt auch dem Verfahren:
„Wie sicher bin ich mir von A?"
Der Unterschied zwischen den beiden ist eigentlich sehr groß.
7. Was hat das mit dem Agent zu tun?
Vielleicht ist das der wahre Grund, warum Jev in letzter Zeit die Aufmerksamkeit der Entwickler erlangt hat.
In der Vergangenheit haben wir über KI-Agenten gesprochen und haben oft den Fokus auf das Gehirn gelegt:
- Stärkere Vernunftfähigkeiten
- Ein größerer Kontext
- Ein längerer Denkprozess
- Komplexere Werkzeuge verwenden
Aber ein wirklich funktionierender Agent muss viele sehr triviale Entscheidungen treffen.
Zum Beispiel,
Möchten Sie eine Suche anrufen?
Welches Werkzeug wechseln?
Ist die aktuelle Aufgabe bereits abgeschlossen?
Ist dieses Ergebnis glaubwürdig?
Wollt ihr den Kreislauf fortsetzen?
Zu welchem Workflow gehört diese Benutzeranfrage?
Diese Fragen scheinen nicht kompliziert zu sein.
Aber ein Agent kann es Dutzende oder sogar Hunderte Mal pro Minute tun.
Wenn ein Schwergewicht LLM jedes Mal aufgerufen wird, können sich Verzögerungen und Kosten schnell anhäufen.
In diesem Moment hat sich ein Modell wie Jev einen eigenen Platz:
Große Modelle sind für komplexe Argumentation verantwortlich, während kleine Modelle für Hochfrequenzentscheidungen verantwortlich sind.
Das könnte eher mit der realen Softwarearchitektur übereinstimmen als mit der Idee, "alle Probleme in einem Modell zu lösen".
8. Wie haben die Entwickler damit begonnen?
In der Gemeinde gibt es bereits einige repräsentative Versuche.
1. Browser-Agent: Lassen Sie AI für „Wo" zuständig sein
Die Automatisierung des Browsers ist ein typisches Szenario.
Wenn ein Agent eine Webseite öffnet, muss er sich oft mit Dutzenden oder sogar hunderten DOM-Elementen konfrontieren.
Das wahre Problem ist eigentlich:
"Welches Element sollte ich für die aktuelle Aufgabe wählen?"
Natürlich ist das ein Auswahlthema.
Die Browser Use Community hat den Namen Jev Ultrafast Das Projekt verwendet Jev in der Entscheidungsfindung des Browser Agents.
browser-use /jev-ultrafast GitHub-Projekt
Die Idee ist nicht, dass Jev den gesamten Browser-Agent übernimmt, sondern dass er eine sehr spezifische Ebene übernimmt:
Wählen Sie schnell den nächsten Schritt aus.
Die komplexe Texterzeugung lässt sich den klassischen Modellen überlassen.
Diese Struktur ist sehr repräsentativ:
Ein Agent braucht nicht unbedingt ein Modell, das von Anfang bis Ende verantwortlich ist.
2. Spiele Agent: Hochfrequente Entscheidungen
Das Spiel ist ein weiteres Szenario, das sehr gut für dieses Modell geeignet ist.
Nehmen wir an, dass eine KI Doom spielt, und sie muss wahrscheinlich jeden Moment urteilen:
- Links oder rechts?
- Schießen Sie?
- Wollen Sie die Waffen wechseln?
- Versteckt werden?
- Oder weiter vorwärts?
Diese Aktionen erfordern nicht unbedingt eine lange Argumentation.
Es ist eher wie:
Geben Sie den aktuellen Zustand ein → Wählen Sie die nächste Aktion aus.
Wenn Modelle in der Lage sind, solche Entscheidungen mit sehr geringer Verzögerung wiederholt zu treffen, eröffnen sich neue Möglichkeiten für Echtzeit-Szenarien, die mit einem traditionellen LLM nur schwer abgedeckt werden können.
3. Agent Routing: Entscheiden Sie, "Wem Sie als nächstes nennen"
Diese Fähigkeit ist besonders in Multi-Agent - Systemen unmittelbar.
Nehmen wir an, dass es im System:
搜索 Agent
代码 Agent
数据库 Agent
客服 Agent
人工审核
Sobald der Benutzer eingegeben ist, muss das System entscheiden:
An wen sollte diese Anfrage übergeben werden?
Das ist ein Klassifizierungsthema.
Noch ein bisschen weiter:
Sollte der aktuelle Agent das Suchwerkzeug oder das Datenbankwerkzeug aufrufen?
Wieder ein Thema der Auswahl.
Wenn bei jedem Routing ein großes Sprachmodell ausgeführt werden würde, würde der Agent wahrscheinlich viel Zeit damit verbringen, "zu entscheiden, was er als nächstes macht".
Ein Hochgeschwindigkeitsmodell, das sich für das Routing spezialisiert hat, kann diese Schicht unabhängig machen.
9. Das bedeutet tatsächlich: künftige KI-Systeme könnten zunehmend „schichtlich" werden.
In der Vergangenheit haben wir gerne diskutiert:
„Welches Modell ist das stärkste?
Aber bei echten Produktionssystemen kann das Problem langsam zu:
"Welches Modell ist für welche Aufgabe zuständig?"
Ein typisches KI-System könnte so aussehen:
用户请求
↓
高速决策模型
↓
┌────────┬────────┬────────┐
↓ ↓ ↓ ↓
搜索工具 数据库 Agent 人工审核
↓
复杂任务
↓
大型推理模型
↓
最终结果
In dieser Struktur:
Das große Modell übernimmt nicht mehr alles.
Es ist für die Teile verantwortlich, die wirklich Argumentation, Kreation und Erzeugung erfordern.
Das Hochgeschwindigkeitsmodell ist für eine große Anzahl von finell fragmentierten Steuerungsströmen verantwortlich.
Aus Sicht der Software-Ingenieurwissenschaften ist das natürlich.
Denn Computerprogramme werden nicht von natürlicher Sprache betrieben.
Viele Geschäftslogik lässt sich letztendlich zusammenfassen:
if
else
switch
route
score
filter
Das, was Jev getan hat, ist im Wesentlichen der Versuch, einen Teil davon zu bringen. if / switch Wir werden „intelligenter"
10. Aber er ist auch nicht allmächtig.
Hier ist eine besondere Erinnerung erforderlich:
Der Wert von Jev liegt gerade in seiner Spezialisierung, die auch Einschränkungen bedeutet.
Es ist kein ersatz für chatgpt oder claude.
Wenn die Aufgabe erforderlich ist:
- Langes Schreiben
- Komplexer Code generieren
- Mehrere Runden Dialog
- Offene Wissensfragen.
- Lange Kette Argumentation
- Präzise mathematische Berechnungen
Dieses ausschließlich entscheidungsorientierte Modell eignet sich nicht für die direkte Übernahme der gesamten Arbeit.
Darüber hinaus sollten Aufgaben wie Sprachabdeckung, komplexe Argumentation, Mathematik und Arithmetik sowie Datumsbeziehungen durch eigene Testsets überprüft werden, anstatt nur anhand von Modellpropagandamaterialien zu beurteilen.
Ein weiteres Problem, das leicht übersehen werden kann:
Das Modell kann Fehler machen.
Selbst wenn das Modell einen hohen Vertrauensgrad liefert, bedeutet das nicht:
„Das Verfahren kann bedingungslos durchgeführt werden."
Insbesondere bezieht sich auf:
- Rückzahlung
- Zahlung
- Daten löschen
- Befugnis ändern
- Datenbank-Betrieb
Bei diesen riskanten Aktionen sollte die traditionelle Software-Berechtigungskontrolle, die Regelnprüfung und die manuelle Absicherung beibehalten werden.
AI ist verantwortlich für das Urteil.
Aber die endgültige Sicherheitsgrenze sollte immer noch in den Händen des Prozesses liegen.
11. Was ist also wirklich interessant an Jev?
Wenn man nur Jev versteht:
„Ein schnelleres Klassifizierungsmodell."
Eigentlich ist es sehr leicht, sie zu unterschätzen.
Das Interessante daran ist, dass es eine sehr einfache Frage stellt:
Brauchen wir wirklich ein Modell, das lange Artikel schreibt und jedes Mal in das Urteil einbezieht?
Oftmals kann die Antwort Nein sein.
In einem ausgereiften KI-Agenten - System sind es nicht unbedingt die komplexesten Argumentungsaufgaben, die wirklich sehr kostengünstig sind.
Vielleicht sind es nur einige kleinere Entscheidungen:
要不要搜索？
选哪个工具？
是不是垃圾信息？
属于哪个类别？
要不要继续？
需要不需要人工？
Alleine betrachtet ist jedes Thema sehr einfach.
Aber wenn man sie mit Millionen von Anrufen multipliziert, werden Kosten und Verzögerungen zu einem echten Engineeringproblem.
Dies ist auch der wichtigste Punkt, an dem sich die Modelle von Jev bemühen:
Es versucht nicht, ein größeres „Gehirn" zu sein, sondern eine Nervenendung in einem KI-System zu sein.
Schrieben am Ende.
In den letzten zwei Jahren hat die KI-Industrie ein immer größeres Modell verfolgt.
Größere Anzahl von Parametern, längere Kontextzahlen, komplexere Argumentation, bessere Code-Funktionen.
Aber wenn die KI wirklich in das Software-System kommt, können wir feststellen:
Viele Interaktionen zwischen Computern benötigen keine natürliche Sprache.
Das Programm braucht kein Modell, um ein Papier zu schreiben.
Sie benötigen vielleicht nur:
true
oder:
refund
oder:
tool_7
noch einmal oder:
confidence = 0.91
Das ist auch der interessanteste Punkt in der Richtung, die Jev repräsentiert.
Es sollte nicht chatgpt ersetzen, noch sollte es mit claude, der mehr schreiben kann, geschrieben werden.
Was er zu tun versucht, ist etwas anderes:
Die KI wird von einem „Sprecher" zu einem „Programmbereich, der Entscheidungen trifft".
Wenn sich diese Idee weiterentwickelt, werden künftige KI-Anwendungen möglicherweise nicht mehr ein „Supermodellpaket für die Welt" sein.
Wahrscheinlicher ist es:
Einer ist für das Denken verantwortlich, einer für die Erzeugung verantwortlich, einer für das Urteilen verantwortlich, einer für die Routing verantwortlich, einer für die Prüfung verantwortlich.
Das große Modell ist verantwortlich für komplexe Probleme.
Das kleine Modell ist für die Hochfrequenzentscheidung verantwortlich.
Der traditionelle Code ist für die endgültigen Einschränkungen verantwortlich.
Zusammen bilden diese drei Systeme ein wirklich langfristig funktionierendes KI-Software - System.
Also, wenn wir uns in einem Satz an Jev erinnern müssen:
ChatGPT gibt Antworten, und Jeff gibt die Wahl.
Und das ist vielleicht der wahre Grund, warum es in letzter Zeit plötzlich die Aufmerksamkeit der Entwickler erregt hat.