El AI

El discurso interno de cuatro horas de Liang Wenfeng

I, intención original y visión: un grupo de personas comunes, con buena voluntad para hacer las cosas, así como otros colegas de nuestra empresa, al principio para hacer esta empresa, la intención original es no pensar en decir que yo [...]

Catálogo de artículos
I. Intención original y visión: un grupo de personas ordinarias que hacen las cosas con buena voluntad
Yo, y otros colegas de nuestra compañía, al principio para hacer esta compañía, la intención original es no pensar en decir cuánto dinero voy a ganar al final, ir al mercado de capitales, ir a la bolsa, lo que va a ser. No teníamos esa intención original. Las primeras docenas de personas no lo habían pensado en absoluto, si lo hubiese pensado, no habría venido.
En general, estamos haciendo esto con una buena voluntad muy grande hacia el mundo. Creemos que esto es útil para la humanidad, que es algo más que el dinero. Por supuesto, después de encontrar que el interés de esta cosa es muy grande, hay otras tentaciones, esto es otra cosa. Sin embargo, la intención original con la que comenzamos, nuestra visión y la visión que mantenemos hasta ahora, no se hace de una manera que maximiza los beneficios comerciales. Creo que ese es el punto más importante.
Hace unos veinte años, mi mayor admiración en términos de gestión fue Jack Welch, el ex CEO de GE. Mirando hacia atrás ahora, la mayor parte de lo que dijo puede estar equivocada, pero lo más importante es que tiene razón:Lo más importante en una empresa es su visión.
Gestionar una gran empresa no depende de sus reglas y regulaciones, sino de su visión.¿Qué es la visión? La visión no es un eslogan que cuelga en la pared, la visión es cómo lo haces, no cómo lo dices, es cómo realmente lo ejecutas. Lo que Jack Welch dijo, lo olvidé, probablemente significa eso.
¿Cómo manejamos a tanta gente, cómo nos organizamos? De hecho, no tenemos organización, es impulsado por la visión, dependiendo de una visión para organizar. Esto tiene ventajas y desventajas.En el futuro, trataremos de aprovechar nuestras fortalezas y evitar nuestras debilidades, pero esta es nuestra característica. No lo hacemos de una manera de "qué KPI voy a lograr ": no hay evaluaciones, solo una visión.
Esta visión ni siquiera está escrita, nada se ha escrito. Esta visión está en la forma en que hacemos las cosas, en nuestra actitud hacia el mundo. " Tal vez la comprensión de esta visión de cada persona en nuestra empresa es diferente, la visión de cada persona es diferente, pero es consistente en una dirección grande: con una gran bondad hacia el mundo y luego querer hacer algo. Esto es lo que usamos para organizar.
Voy a hablar primero, y después de que termine, todos harán preguntas. Voy a centrarme en esta visión. Esta visión es verdadera, no inventada, realmente pensamos así, realmente hacemos esto, de lo contrario no puedes explicar muchas de nuestras cosas.
Por qué insistir en el código abierto
¿Por qué insistimos tanto en el código abierto? Porque esta visión en sí misma requiere de código abierto. No tienes esa visión, no puedes organizar a la gente. Por ejemplo, Zhi谱 también es de código abierto, pero el código abierto de Zhi谱 no es el mismo que el nuestro. Hay una sensación de compulsión en el código abierto de Zhipo, que no sienten que eso es lo que pretendemos; pero para nosotros, eso es lo que pretendemos.
En el tema del código abierto, lo pensamos muy claramente desde el principio. En primer lugar, es la visión; en segundo lugar, creemos que es bueno que el código abierto se haga comercialmente con IA.
Esto suena un poco contradictorio, un poco contraintuitivo, porque históricamente, el código abierto y la comercialización han estado en conflicto. Pero creo que la IA no es la misma. En la historia, una compañía de software, su mercado puede ser de miles de millones de dólares al año, una vez que el código abierto, se va, puede dejar solo decenas de millones o cientos de millones de dólares. Pero la IA es lo suficientemente grande como para que eventualmente tenga que representar el 10% del PIB de la sociedad humana, que es en realidad un número muy grande.No puedes monopolizar esto, debes compartirlo con otros, de lo contrario definitivamente no sobrevivirás.
Esto es diferente de hacer un software de código abierto antes. El mercado de ese software no es tan grande, pero la IA es demasiado grande. Si queremos monopolizar este interés, entonces debemos ser abandonados por la historia. Esta es una ley objetiva, esta es una perspectiva histórica. No es que si no soy de código abierto, voy a ser capaz de monopolizar este mercado - esto no está en línea con los hechos objetivos en teoría, usted debe encontrar mucha resistencia, debe haber otras maneras de evitar que usted logre este objetivo.
En este caso, no es necesario seguir el pensamiento comercial tradicional. Necesita tener un mecanismo para asegurarse de que los beneficios que puede obtener por sí mismo son limitados para que sea posible hacerlo. Se requiere moderación, creo que es moderación.
Si queremos hacer la IA en nuestras manos, primero creo que es necesario restringirnos. No puedo pensar en el porcentaje del PIB humano que me pertenece, el porcentaje del PIB de China que me pertenece, cuanto más lo pienses, más difícil será hacerlo. Así que desde el principio sentimos la necesidad de contención.Cuanto más se abstenga, más probable será que lo haga. Esta es una consideración comercial, y por supuesto es una consideración macro.
Sentí que era intuitivo, al menos con mi intuición, al menos eso es lo que realmente pienso. No tenemos muchas otras ventajas: no somos capaces, no somos más ricos que los demás, no decimos que nuestro personal es mejor que otras compañías, en realidad no lo son. Usted piensa, cuando fundamos esta compañía hace dos años, no teníamos mucho dinero, no teníamos muchas tarjetas, no teníamos mucha popularidad, no teníamos ningún atractivo, éramos un grupo de personas muy comunes.
Realmente es un grupo de personas ordinarias. Si tiene que haber una narrativa favorita, es esta: un grupo de personas ordinarias que hacen cosas extraordinarias, no un grupo de genios que hacen cosas extraordinarias. Esto está muy relacionado con nuestra moderación, con nuestra moderación, con nuestra visión.
Moderación: Precios de API y "retorno de 10 meses "
¿Hay conflictos entre el código abierto y la comercialización? Creo que en la IA, si no te abstenes, no puedes levantarte.
El código abierto forma parte de la moderación. Nuestra moderación no solo se manifiesta en el código abierto, sino de muchas maneras. En general, no tenemos que pensar específicamente en el código abierto y la moderación: cuanto más se abstenga, más fácil puede ser hacerlo, al menos hasta ahora, probado y explicable. De lo contrario, no hay manera de explicar por qué podemos hacerlo: no tenemos armas, el punto de partida es muy bajo, los recursos son muy pocos, nuestra gente es en realidad un grupo aleatorio de personas ordinarias, yo mismo soy un estudiante graduado de la universidad, no es la escuela más alta graduada.
Esta moderación también es parte de nuestra visión. La IA es demasiado grande, y los beneficios son demasiado grandes. Estamos muy contenidos, siempre y cuando podamos hacerlo, los beneficios finales serán muy grandes. Si se divide un poco al azar, el beneficio será muy grande, por lo que ahora no es necesario considerar qué parte del beneficio y cómo tomarlo. Este beneficio es lo suficientemente grande. Mientras se divida un poco, ya es suficiente.
Así que antes dijimos que solo ganamos una ganancia razonable, solo viendo su voluntad, no la magnitud de la ganancia, que no es lo mismo. La lógica del precio de nuestra API es: un beneficio razonable, probablemente es que vamos al mercado para comprar un lote de equipos de vuelta,Recuperación de costos en 10 meses。En la situación actual, teniendo en cuenta el riesgo, la inversión inicial y así sucesivamente, un servidor, financieramente lo amortizamos en tres o cinco años, pero comercialmente, pensamos que unos diez meses para recuperar el costo, pensamos que es suficiente. Esta es la lógica de nuestros precios de API ahora, nuestro V3.2 Flash y el resto, es el costo de diez meses de recuperación del dispositivo.
Ese es nuestro estándar. En realidad no es la maximización de las ganancias: si las ganancias son maximizadas, el precio debe ser establecido más alto. Debido a que en este rango de precios, la demanda de los usuarios no es elástica: si duplico el precio a la mitad o duplico el precio, el consumo de tokens no hace mucha diferencia; si duplico el precio, mi ingreso total se acerca al doble.
Te voy a contar una historia. Nuestro DDCP, es nuestro modelo, al principio nos preocupamos de que la demanda fuera demasiado alta, así que al principio fijamos el precio relativamente alto, y todos en el equipo no estaban muy contentos. Luego bajé el precio de nuevo, a un cuarto, y todo el mundo estaba muy feliz.
Creo que esa es nuestra verdadera idea, la visión que dije antes: todavía hacemos que esta cosa sea útil para la gente, no que ganemos más dinero; somos nosotros, si podemos obtener un beneficio razonable, que todos puedan pagar. Esto también es lo que el resto de nuestra compañía piensa: cuando recortamos los precios en ese momento, muchas personas en el grupo de la compañía estaban animando, todos se sentían muy felices. Porque este es el propósito por el que gastamos tanta energía y cuidadosamente en hacer este modelo: puede ser muy barato, muy bueno y puede ser utilizado por todos. Y pensamos que es divertido. Esa es nuestra motivación, esta es nuestra visión, es el consenso por el que nuestra empresa es capaz de unirse para hacer esto.
Esto debería ser algo más especial. Debido a que la reducción de precios para el resto de nuestros competidores, ciertamente no es una buena cosa, no deben aplaudir: sus ingresos, su ARR, se reducen a la mitad, y el ARR se reduce a la mitad. Es un lugar en el que somos diferentes.
Pensamos que eso es suficiente. Desde el punto de vista interno de la compañía, 10 meses de recuperación de costos, este negocio ya estoy muy satisfecho; Para el exterior de la compañía, también pensamos que este precio es más feliz, más feliz de ver, es ganar-ganar: la compañía y la sociedad, y ganar-ganar con todos.
Alguien acaba de dejar un mensaje en la pantalla diciendo que la ganancia de diez meses de retorno es demasiado alta. De hecho, hay espacio para reducir los precios, y hay espacio para la optimización del modelo, por lo que el espacio general para reducir los precios es relativamente grande. Pero este costo - diez meses de reembolso del capital - podemos hacerlo nosotros mismos, otras familias no pueden. Al igual que Ali o Tencent, él no es nuestra optimización, su costo debería ser varias veces más alto que esto, todavía hay mucho trabajo de optimización.
Acabo de decir, ¿por qué no seguimos bajando los precios? Es porque no es elástico: si recorte el precio de nuevo, la demanda no será más, o aumentará muy poco. Debido a que este precio es asequible para todos, todos se sienten satisfechos y no lo usarán porque este precio es caro. Por lo tanto, la reducción de precios, en primer lugar, la compañía no tendrá más ingresos, no hay más valor para la sociedad: este precio está satisfecho con todos, no importa cuán bajo sea, la felicidad de la sociedad no ha aumentado mucho.
En la fijación de precios, ciertamente no tomamos los mayores ingresos o las mayores ganancias de la compañía como punto de partida. Es parte de nuestra moderación. A corto plazo, usted tiene un precio un poco más alto y un ingreso un poco más; pero a largo plazo, es realmente difícil decirlo.Porque creo que la moderación es una estrategia. Para mí, la contención es una estrategia.A veces puedes renunciar a algo y cambiar por más otras cosas. El código abierto es, de hecho, lo mismo, también puede considerarse como nuestra ventaja.
En primer lugar, esta transferencia de ganancias para el interior de nuestra empresa, estamos muy contentos, todos están muy contentos, los empleados se sienten muy satisfechos, por lo que tendremos cohesión; En segundo lugar, esta transferencia de ganancias es buena para la sociedad, la sociedad también es muy feliz, otros colegas, la gente común será muy feliz. Así que esta restricción, entiendo que a largo plazo, puede aumentar nuestras probabilidades de convertirnos en AGI.
No tengo dudas de que AGI tendrá un valor comercial muy grande. Sobre esta base, mi prioridad no es cómo puedo tomar más acciones, sino cómo puedo aumentar la probabilidad de que pueda hacerlo.
Otras manifestaciones de moderación: no robar a los usuarios, no recoger todo el sésamo
Esta moderación se manifiesta en muchas otras maneras. Por ejemplo, de repente hubo muchos usuarios en el Festival de Primavera el año pasado, pero no perseguimos que retengamos a estos usuarios, tomemos a estos usuarios para monetizarlos y agarramos estos intereses comerciales. No vamos a agarrar a los usuarios, no vamos a ganar dinero, pero estamos tratando de encontrar una manera de servir a los usuarios bien. No vamos a tener esta idea: voy a hacer la próxima súper aplicación, con quién voy a competir, voy a hacer el próximo byte, el próximo Tencent. No hay ninguna idea de ello.
Podríamos hacer esto, pero no lo hicimos. Mi entendimiento es que también es parte de la moderación. No piensas en ganar todo, es como si tuvieras un usuario y pudieras hacer el siguiente byte, y luego te lo comieras. Esto funciona comercialmente: si gastamos una gran cantidad de dinero y bytes el año pasado para robar a los usuarios, también es una forma de jugar. Pero lo que elegimos es un enfoque muy modesto, y no voy a discutir con usted sobre esto -Debido a que hay sandía en la parte posterior, es probable que todo el sésamo en el frente.
No debería haberme robado el sésamo. Por supuesto, puede que este sésamo sea más grande, pero creo que en comparación con la IA detrás, el frente no es grande. Ahora bien, el año pasado no hicimos esfuerzos en el extremo C, y probablemente teníamos razón, porque se puede ver que realmente hay sandías más grandes en la parte trasera y realmente solo un poco de sésamo en la parte delantera. Si el año pasado tuve mucho dinero y hice esto muy grande, ¿qué beneficio tiene? No estás obteniendo nada. Estos son mis verdaderos pensamientos, porque siento que la oportunidad de AGI detrás es muy grande, siempre será muy grande.
Ni siquiera tengo que pensar en el lugar que ocuparé en ese momento, cuál es el modelo de negocio, ni siquiera tengo que pensar en ello. Mientras haya una gran oportunidad de negocio, debe tener una manera. También recogeremos el sésamo por delante, pero solo recogeremos un poco a mano, no nos detendremos o lo haremos como algo importante.
Así que el día de C-terminal del año pasado, creo que puede ser un asunto menor. Sin embargo, también lo recogimos y mantenemos el uso de los usuarios a un costo relativamente bajo, porque es posible que sea útil en el futuro, aunque no sé qué es útil para este usuario ahora, ahora es un gasto de costo puro, pero puede ser útil en el futuro. Ya que es fácil de conseguir, lo vamos a conseguir.
Incluido este año, es probable que nuestros ingresos ARR en API o AI también tengan una oportunidad: si esta demanda continúa expandiéndose y se pueden comprar más tarjetas gráficas, es probable que ARR alcance varios millones de dólares. Si la IA puede llegar a mil millones de dólares, básicamente el flujo de caja de mi compañía puede volver a ser positivo, puede cubrir mis gastos de I + D y cubrir todos mis gastos. Esto también es posible, pero no lo hicimos como una prioridad. Esto lo haremos, lo haremos bien, pero no es la primera prioridad, ni es lo que realmente nos importa hoy. Las oportunidades más grandes deben estar por venir: las oportunidades por delante, incluido el C-terminal del año pasado, el B-terminal de este año, no son nuestro objetivo. O, en otras palabras, la mayoría de nuestra compañía no lo considera un problema tan importante como AGI.
V. Hablando de código abierto: bajo seis veces las ganancias, no hay conflicto
El código abierto se puede decir más, porque antes había muchas preguntas que se hacían de código abierto. Primero, somos de código abierto, y nuestros modelos más fuertes probablemente también lo serán. Porque no veo ningún beneficio en el código cerrado - bytes, su modelo es de código cerrado, ¿qué beneficio tiene? No puedo verlo.
Incluso si el modelo es de código abierto, se lo dice todo a la gente, el umbral es muy alto. Si otros quieren usarlo, es muy difícil; en segundo lugar, si quiere usarlo, también tiene que hacerlo a un costo muy bajo, también es muy difícil, no es tan fácil. No es que sea de código abierto, que pueda hacer fácilmente el mismo costo de implementación que yo, todavía hay mucho trabajo por hacer aquí. Aunque estos principios de funcionamiento son claros, no todas las empresas están dispuestas, o tienen la voluntad y la capacidad de organizar la mano de obra para lograr este objetivo. Puede que no sea bueno para hacer esto porque la resistencia es demasiado grande, es difícil controlar este costo, hay muchas restricciones administrativas y físicas.
Esta también es la ventaja de una startup: si la startup es demasiado pequeña, no tienes la fuerza para hacer la cosa; si es una empresa grande, es difícil organizarse. Todo esto tiene dificultades, por lo que este es un punto dulce que pertenece a nuestra empresa de esta escala. Si fuéramos más grandes, tal vez no habría este problema; si fuéramos más pequeños, nuestra fuerza sería insuficiente de nuevo.
En cuanto a los precios, tampoco cobraría una tarifa muy alta, que también se cobraría de acuerdo con un reembolso de diez meses. Presione diez meses de vuelta, ya puede... Presione diez meses de vuelta, puede hacer que el despliegue independiente de terceros no sea rentable - el tercero no puede hacerlo, no puede hacer este costo, ciertamente no puede hacerlo. Así que el código abierto no afecta a mis ingresos. Por supuesto, si voy a ganar cien veces más dinero, entonces el código abierto es...
El código abierto, no creo que haya tenido ningún impacto en nuestro modelo de negocio. La premisa es que solo ganamos seis veces el beneficio: diez meses de recuperación de costos, que probablemente corresponden a seis veces el beneficio. El código abierto no tendrá ningún impacto en la ganancia de solo seis veces el beneficio. Pero si quieres ganar cien veces las ganancias, entonces el código abierto realmente te afectará a ganar cien veces las ganancias, porque el tercero lo implementará, y puede costar veinte veces más, es decir, menos que tú.
¿Es sostenible este modelo a largo plazo? Creo que es OK. Bajo nuestra visión, el código abierto es sostenible a largo plazo, y vamos a hacerlo. Se puede argumentar que la moderación también es beneficiosa para los beneficios a largo plazo. Esta estrategia nos da más oportunidades tecnológicas, la probabilidad de que hagamos AGI también es mayor, estamos más tranquilos.
No tenemos que trabajar horas extras en absoluto, ya que no es tan difícil. Pero para otras familias, puede ser difícil, porque piensa demasiado. En realidad, no es difícil, no es difícil en absoluto. En el exterior, puede parecer que elegimos un modo difícil: para hacer la investigación, para hacer lo más difícil, parece que es un modo duro. Pero de hecho, renunciamos a mucho en otros lugares, lo que nos hace muy fuertes, y lo hacemos muy fácilmente.
Así que mi juicio sobre el tema del código abierto es: es continuo.No hay conflicto entre el código abierto y el pago comercial, siempre y cuando no haya conflicto con ganancias seis veces mayores.Seis veces la ganancia parece alta, pero no es. Ahora que la IA es tan eficiente, una ganancia razonable podría ser mucho. En el futuro, puede caer a cuatro veces, tres veces, y no puede caer de nuevo, pero todavía tendrá una gran ganancia, solo mire la venta de API. No creo que vender API sea tan atractivo, pero esto es lo que dice: no veo ningún conflicto.
Y no me preocupa que otros implementen nuestro modelo para competir con nosotros, no me preocupa en absoluto, y esperamos que puedan implementarlo. Ayudamos a la comunidad de código abierto en la medida de lo posible para que puedan implementar nuestros modelos. No estoy preocupado por que me atraiga por el negocio, porque el mercado es lo suficientemente grande. Solo me preocupaba que no se despliegue, que algunos detalles no se hicieran correctamente, que funcionaran mal o que el costo fuera más alto. Aquí no hay conflicto.
El año pasado, cuando tenía negocios To B, lo que pregunté más era: nuestro C-terminal, soy de código abierto, así que ¿el C-terminal está en conflicto con mi propio C-terminal? Debido a que no tengo la ventaja del tráfico, Tencent tiene mucho tráfico. Implementó nuestro modelo de código abierto, se hizo cargo de todos los usuarios C-end y se llevó a mis usuarios C-end. Pero en realidad no, todavía hay muchas razones para esto.
Otra pregunta: ¿el modelo de código abierto que damos es el mismo que el modelo que implementamos nosotros mismos? Eso es lo mismo. No vamos a abrir un modelo de desventaja, usamos un modelo mejor cuando lo implementamos nosotros mismos, no, es lo mismo. Esto también significa que no hay conflicto. Durante todo el año pasado, el lado C fue básicamente de código abierto, y el servicio en el lado C no vio conflictos, realmente no vio conflictos. Esta es la parte de código abierto.
Nuestro objetivo es AGI: la hoja de ruta tecnológica
A continuación se muestra la visión a largo plazo de la empresa. Creo que nuestro objetivo debe ser AGI. La definición de AGI no es necesariamente la misma para todos, pero eso no nos impide que tomemos AGI como nuestro objetivo.
Desde el punto de vista de la ruta técnica, la hoja de ruta de AGI es relativamente clara. La tecnología de IA de la generación actual, si es capaz de describir un problema con claridad y darle contexto completo e instrucciones, ha superado a los humanos. Pero hay una premisa aquí: le das todo el contexto, toda la instrucción, esta premisa es difícil de alcanzar. Por ejemplo, si tenemos una reunión hoy, tenemos un contexto muy largo y fuerte por delante, y tal vez todos tenemos décadas de contexto, que la IA no tiene. Lo que la IA puede tener ahora es que en un contexto limitado, puede hacerlo mejor que las personas.
Sin embargo, todavía no reemplaza a los humanos. Hay un lugar que falta: el aprendizaje continuo. La persona puede aprender continuamente. Si recluta a un empleado, puede pasar dos meses familiarizarse con el entorno de la empresa, familiarizarse con su trabajo, y puede comenzar y hacer muchas cosas.Él puede entender lo que dices - cuando dices "Llame a ese Wang ", él sabe quién es Wang. Pero si es una IA, porque no tiene estos dos meses de estudio por delante, le dices: "Llame a Xiao Wang", tienes que decirle quién es Xiao Wang, qué posición, dónde está, cómo encontrarlo, qué prestar atención cuando lo encuentras. Tienes que darle a la IA todo el contexto. En este caso, la IA es capaz de hacerlo, pero no es posible darle todo el contexto, es poco realista.
Así que la IA no reemplaza a sus empleados. Sin embargo, si la IA tiene la capacidad de aprender continuamente, al igual que sus empleados, estudiará en la empresa durante dos meses, entonces puede reemplazar a las personas en el mundo.Por lo tanto, nos falta un paso más para aprender.
El desarrollo de la IA, puede entenderse como una escalera. La escalera que tomamos el año pasado es CoT, es decir, la cadena de pensamiento: descubrimos que a través de la cadena de pensamiento, podemos permitir que la inteligencia llegue a un nivel más alto, y a través de pensar por sí misma, podemos permitir que la IA haga más cosas. Hemos cruzado otro escalón. La escalera de este año es el Agente: con el método del Agente, se pueden hacer más cosas, su rango de capacidad es más amplio y su límite superior de inteligencia es mayor.
¿Por qué escaleras? Porque cada paso que sigue se basa en la base que está por delante. El agente debe usar CoT, y CoT también debe usar la escalera anterior, la escalera anterior es el modelo de lenguaje. Por lo tanto, no ha dado un paso en vano.
La dirección de la inteligencia de la IA es rastreada. La escalera de este año es el Agente, pero la escalera del Agente también terminará: después de resolver todos los problemas posibles, todavía no puede reemplazar a su empleado: ha alcanzado el límite superior de su capacidad. Es como si CoT, después de que CoT llegó a su límite superior, ya había superado a los humanos superiores - haciendo problemas de matemáticas, escribiendo programas, ya había superado a los humanos superiores - pero todavía se detuvo allí, esa tecnología no pudo llegar a AGI.
Después de Agente, pensamos que el problema que debemos resolver es el aprendizaje continuo: cómo hacer que el modelo aprenda continuamente, en lugar de darle un entrenamiento fuerte, debería ser capaz de aprender continuamente durante un período de tiempo relativamente largo, como lo hacen las personas. Este problema es lo mismo que completar una tarea, etc., están relacionados, resuelven el mismo problema. Ahora estamos de pie en este lugar del agente, y el siguiente cuello de botella que podemos ver es el aprendizaje continuo. El siguiente problema a resolver es cómo continuar aprendiendo. Esto se puede ver y es relativamente claro. Este es un obstáculo atrapado por delante, tienes que cruzarlo, y debe haber una manera de cruzarlo, pero tomará tiempo.
Después del aprendizaje continuo, tal vez llegemos a una singularidad: cuando este modelo pueda aprender continuamente, ya puede hacer todo lo que los humanos pueden hacer. Es capaz de desarrollar su propia versión, investigar de nuevo por sí mismo, desarrollar su próxima versión, desarrollar modelos de inteligencia artificial más fuertes. Así que llegará a una singularidad y será capaz de realizar su propia iteración.
Pero esta singularidad, no es una singularidad, también es un proceso gradual, puede ser un gradiente relativamente largo, no una mutación. Pero habitualmente, todos pensamos que podría ser una singularidad, porque hace mucho tiempo, los videntes pensaban que habría una singularidad aquí. De hecho, no es una singularidad, es un proceso continuo. Y luego, después de este paso, creo que es la inteligencia encarnada.
Esta es nuestra especulación y es la línea de tiempo que sentimos:Primero se trata de aprender a aprender, luego se trata de esa singularidad de la inteligencia, la singularidad de la auto-iteración, y luego se trata de la inteligencia encarnada. Después de encarnar la inteligencia, entrará en el mundo real, puede hacer las tareas domésticas para usted y puede darle una pensión.
Creemos que es una hoja de ruta ideal. Todos tienen diferentes puntos de vista, no hay razón o error, solo que sentimos que esta hoja de ruta es la más fácil: hay muy pocas cosas nuevas que debes hacer en cada paso. Esta hoja de ruta, podemos hacerlo sin trabajar horas extras. Pero si la hoja de ruta es al revés, por ejemplo, para lograr la inteligencia encarnada primero, entonces es muy cansativo, es un trabajo muy amargo. No queremos que sea esa la hoja de ruta, queremos que sea un poco más fácil.
Primero resolver el aprendizaje continuo, luego resolver la singularidad de la auto-iteración, y luego resolver la inteligencia encarnada, es fácil en este camino. Porque en la parte posterior, puedes usar la tecnología delantera para ayudar a desarrollar la tecnología posterior. Después de la singularidad para hacer la inteligencia encarnada, no es necesario que las personas lo hagan, no es necesario que lo hagamos, el modelo puede salir por sí mismo.
Así que esta es la respuesta a cuál es nuestro objetivo a largo plazo: ese es nuestro objetivo a largo plazo, lo que llamamos AGI.
VII. Reducción de dimensiones: C-terminal y B-terminal son subproductos de AGI.
Volvamos a la realidad. La realidad más importante del año pasado es que todo el mundo tiene que ser un chatbot para agarrar el tráfico en el extremo C; la realidad de este año es que todo el mundo tiene que agarrar los ingresos de To B para participar en esto, porque si no lo haces, no estás en la mesa, ¿verdad?
Pero no lo consideramos un asunto importante. Dentro de nuestra compañía, lo que realmente nos preocupa es la hoja de ruta de estas AGI que acabo de decir y cómo avanzar en la próxima tecnología.
Una cosa es muy extraña: lo que más quieres, en cambio, no puedes obtenerlo; no te importa tanto, en cambio, es bastante fácil obtenerlo. Hay una ventaja estratégica aquí: pensamos en AGI en nuestro corazón, lo que hacemos es AGI, y cuando hacemos esa aplicación y el extremo C y el extremo B, no tenemos que pensar mucho y gastar poca energía.
Estás de pie en una posición alta de tecnología, haciendo una tecnología de nivel relativamente bajo, y hay un golpe de reducción de dimensión. Al menos en el C-end del año pasado, vimos que era así: no gastamos mucho esfuerzo en el C-end, ni siquiera queríamos mantener a esos usuarios por un tiempo, pero los usuarios no podían irse, realmente no podían irse, así que al final todavía estaban allí. Los ingresos del extremo B de este año, ahora parece que el crecimiento es relativamente optimista, y en comparación con sus pares, también debería ser relativamente bueno, creo. Pero no gastamos mucha energía en hacer esto, no lo hicimos específicamente, lo hicimos de paso.
AGI Este paso es lo que tengo que tomar, es un paso. En el camino a AGI, voy a pasar por este escalón. Puse estas tecnologías al servicio de todos a través de la API y no hice nada extra. Todavía estamos haciendo IA, que es un subproducto. Sólo tengo que tener unas pocas personas para mantener esta API, incluso el servicio al cliente no tiene, no tiene que vender, no necesita nada, el usuario vendrá por sí mismo.
El extremo C y el extremo B son subproductos en nuestro camino de hacer AGI. Es un producto intermedio, y no hay conflicto conmigo haciendo AGI. No lo hice para hacer el C-terminal, para hacer el B-terminal; hicimos AGI para hacer AGI, y simplemente pude producir esto, y lo hice comercialmente.
No es como otras compañías. Otras compañías están haciendo este modelo para servir a los usuarios C-end y B-end; pero para nosotros, la intención original no es esta, nuestra intención original es perseguir AGI.
Creo que esto es un golpe de reducción de dimensiones hasta cierto punto. AGI es una visión más grande, esta visión puede reunir a más personas excelentes, tiene una mayor cohesión. Así que tengo una ventaja en la organización, y aprovecho esa ventaja, es un golpe de reducción de dimensiones.
Pero si es una empresa comercial y su visión es servir a los usuarios C-end, esa es otra historia. Tiene otras ventajas - en el producto, en el servicio al usuario, en el tráfico - pero no en la tecnología. Ahora la situación más favorable es que la tecnología del modelo es lo más importante, debe hacer un buen modelo. Esto puede explicar la trayectoria de nuestro desarrollo anterior: realmente elegimos AGI y no pensamos en hacer mucho para los usuarios.
Cuando de repente nos incendiamos el Festival de Primavera pasado, no estaba en nuestro guión, no pensamos en esa cosa en absoluto, simplemente queríamos hacer bien esta tecnología. Pero en ese momento descubrí que nuestra organización tenía ventajas adicionales en talento y organización en comparación con una organización completamente comercial y orientada al producto.
Esto también es mágico: en ese momento, todo el mundo en el extremo C estaba agarrado y sangriento, y fue llevado por una persona que no fue a agarrarlo. Esto realmente demuestra que la lógica que dije anteriormente tiene sentido, y es realmente una ventaja en el talento y la organización.
Esta ventaja de talento no significa que mi gente es más inteligente que él, sino que estos talentos cómo organizo, cómo lo incentivo, cómo cooperar, esta cosa tiene una ventaja. Debido a que juntas a personas inteligentes, no significa que puedan cooperar naturalmente, que puedan correr muy apasionadamente hacia un objetivo para lograrlo, por lo que necesitas una visión. La lección que me dieron nuestras experiencias anteriores fue:La visión de AGI es muy poderosa.
El mayor interés central: la estabilidad del equipo
La siguiente pregunta: ¿Cuál es la importancia de los intereses centrales?
Como dije anteriormente, debemos ser muy modestos en muchos aspectos. Pero ¿cuáles son nuestros intereses centrales? En realidad, solo hay un punto:Nuestro mayor interés central es mantener la estabilidad del equipo. Este es nuestro mayor interés central, incluso puede considerarse el único interés central.
Siempre y cuando pueda mantener la estabilidad del equipo, definitivamente puedo hacerlo, definitivamente puedo hacer AGI, es tan simple. Mientras todo el mundo no se vaya, podemos seguir haciéndolo, definitivamente puedo. Básicamente no hay ningún riesgo, solo un poco más temprano y tarde; si hay un revés y todos no se van, entonces puedo continuar de nuevo. El dinero ciertamente no es un problema, los recursos no son un problema, y otros elementos son fáciles de obtener. Para nosotros, solo hay un interés central, solo uno que no se puede renunciar: debemos mantener la estabilidad del equipo.
Este es también un desafío muy grande que enfrentamos y creo que es el mayor riesgo. Por supuesto, este riesgo se ha aliviado en gran medida con nuestra financiación reciente, porque todos obtienen más opciones y la cantidad es relativamente grande.
En términos de estabilidad del equipo, mientras algunos de los empleados más importantes y los empleados más antiguos puedan estabilizarse, otros no son muy buenos para irse. Incluso si los demás tienen menos opciones y ganan menos, no se irá porque no está corriendo por el dinero, todo el mundo quiere hacer esto en un entorno que pueda ser AGI. Por lo tanto, todavía es atractivo para el talento. Históricamente, nuestro flujo de talentos es relativamente pequeño, y en comparación con nuestros pares, siempre es relativamente pequeño. Pero este sigue siendo nuestro mayor desafío, el único desafío, por así decirlo. El resto es una cuestión de tiempo, lo que nos lleva a medio año o un año más tarde, pero no podemos decir que no podemos hacerlo. Ciertamente no hay escasez de dinero, ciertamente no hay escasez de recursos, estos no son escasez.
Así que muchas de las cosas que estamos haciendo ahora, es para mantener el equipo estable. Aparte de esto, creo que todos podemos no tener, todos podemos restringir. Hemos sido muy restringidos y no estamos dispuestos a ser oponentes con ninguna gran o pequeña fábrica de Internet. Espero que pueda empoderarlo, espero que pueda ayudar a todos, ayudar a todos a hacer esto. Esto también es parte de la importancia comercial de lo que hablamos anteriormente. Bajo esta premisa, estamos dispuestos a ayudar y ayudar a cualquiera, incluso a nuestros competidores, incluidos Ali, Zhipo y el lado oscuro de la luna, a hacerlo mejor. Porque no perdemos nada: originalmente también somos de código abierto, el código abierto tiene que dejar los límites lo más claros posible, espero que puedas reproducir; si no puedes reproducir, dices, te digo cómo reproducir. Esto es parte del código abierto, no solo porque eres un competidor. Por supuesto, si fuera un socio, haría más. Pero no hay conflicto en los grandes intereses.
Al tratar con el mundo exterior, nuestra actitud es:Sólo hacemos la línea principal de AGI. Es el modelo de lenguaje que acabo de decir, CoT, Agente, etc., solo como la línea principal. El campo de la IA es amplio, y hay muchas cosas que no pensamos que estén en esta línea principal, como 3D y generación de video.Creo que probablemente no tengan mucho que ver con la línea principal de la inteligencia.No lo haremos. Hay algunos, como el modelo mundial, que no creo que tenga mucho que ver con el límite superior de la inteligencia en este momento, así que no lo haremos. Pero otros lo hacen, y estamos encantados de ayudar: tener tiempo es una cosa, no hay conflictos de intereses.
También esperamos que estas tecnologías de IA se puedan utilizar en varios entornos de producción, mejorar la eficiencia de la producción social y ayudar a todos los ámbitos de la vida a mejorar la eficiencia de la producción. Estábamos muy motivados para hacer esto. Si tengo tiempo, si tengo mano de obra, o si nuestros compañeros de clase sienten interés en sí mismos, esa es otra cosa. Pero no hay conflictos de intereses, y esperamos lograr este objetivo. Y creemos que esto no tiene ningún conflicto con los negocios, y debo obtener muchos beneficios.
Hemos mantenido esta actitud antes, y en realidad no hemos perdido nada por eso, no porque estoy abierto, porque nuestra buena voluntad, porque estoy ayudando a otros, y no hemos perdido nada. Por ejemplo, los usuarios del extremo C del año pasado, todavía tenemos más usuarios del extremo C y todavía son relativamente estables; el extremo B de este año, creo que también es relativamente optimista. No he afectado a los intereses comerciales debido a nuestra buena voluntad, no tengo ningún impacto en absoluto, sino que puede haber puntos adicionales. Esto puede parecer contraintuitivo, pero lo es. Piensa en el contrario: ¿puedo obtener más si lo desobedece? No, no.
Una pregunta: ¿cómo entender que "el modelo mundial no tiene nada que ver con el aumento del techo de la inteligencia de la IA"? Estoy hablando de esto en esta etapa, y ese es nuestro juicio. Esta es nuestra propia hoja de ruta para la IA, no la única. A juzgar por nuestra comprensión y nuestro juicio, lo más importante en la actualidad es hacer un buen entrenamiento de IA. Para entrenar bien en IA, no necesita un modelo mundial, ni siquiera multimodal: se reduce un poco el alcance de la capacitación de IA, no hay multimodal, solo hay algunas tareas que no puede hacer, pero no afectará el establecimiento de este algoritmo.
La multimodalidad es lo que se hace en última instancia. Lo que importa ahora es la capacitación, el siguiente paso a resolver es el problema del aprendizaje continuo, y el siguiente paso a resolver es hacer preguntas por sí mismo. Sin embargo, no hay un modelo del mundo en esta hoja de ruta, no hay generación de video.
La generación de video fue muy caliente cuando comenzó, como si fuera una necesidad y no fuera una compañía de IA si no lo hicieras. Me sorprendió: solo tienes que pensar en ello, no tiene nada que ver con la hoja de ruta de la inteligencia. De hecho, también descubres que después de que Sorá salió, todo el mundo lo hizo, las grandes compañías, las pequeñas compañías lo hicieron, pero las pequeñas compañías lo cortaron después. No tiene nada que ver con el límite superior de la inteligencia. Pero en el negocio, es un buen negocio.No lo haremos porque sea un buen negocio, solo lo haremos porque es algo en la hoja de ruta inteligente.
La generación de video es relativamente clara, así que tome como ejemplo. El significado de este modelo mundial no es tan claro, porque muchas cosas se pueden decir que es un modelo mundial. Por nuestra opinión, el modelo mundial y la inteligencia no son todavía las cosas más importantes en esta etapa. Lo más importante es la capacitación de IA y cómo resolver el aprendizaje continuo después de la capacitación de IA. Este es el juicio de nuestra empresa, y por supuesto, el juicio de cada empresa es diferente.
Potencia informática: la brecha con los Estados Unidos solo está en los recursos
Lo que acabo de decir es que el problema más importante para la empresa es la estabilidad del personal.¿Qué nos falta en la otra dimensión?¿Cuál es la brecha entre nosotros y Estados Unidos? De hecho, solo hay una brecha: los recursos.
No teníamos tantas tarjetas, y todavía teníamos un número relativamente pequeño de tarjetas. Ahora tenemos alrededor de 20,000 piezas de poder de cálculo equivalente a H, la mayoría de los cuales acaban de llegar, acaban de llegar en el último mes o dos, y pueden haber muchas máquinas que aún no han llegado. Nuestra capacidad de cálculo total fue relativamente pequeña el año pasado, y este año estamos expandiendo muy agresivamente. En los próximos meses, tendremos una gran cantidad de máquinas compradas, básicamente Nvidia.
¿Cuántas tarjetas necesitaremos? Ahora, ciertamente, cuanto más mejor. No hay duda de que cuantas más tarjetas hay, mejor, dentro de los límites que podemos permitirnos. Así que nuestra estrategia ahora es: comprar tantas tarjetas como pueda a un precio razonable. Con esta financiación, puedo comprar tantas tarjetas como pueda. La velocidad con la que gastar el dinero no estaba en el plan, siempre y cuando el precio sea razonable, lo compro. Si gasté el dinero en medio año, creo que es algo bueno, es demasiado feliz, demasiado ideal.
De hecho, no es fácil gastar tanto dinero: no puede comprar tantas tarjetas, es difícil comprarlas, y el precio es alto, tampoco puede decir que pague un precio muy alto para comprarlas, pero también debe asegurarse de que el precio sea razonable.
Si gastara todo este dinero en medio año, probablemente sería ideal. Porque convertir el dinero en una tarjeta Nvidia, ciertamente es mejor que ponerlo en el banco, ponerlo en el banco, ahora el depósito puede ser de dos puntos; pero comprar una tarjeta Nvidia, diez meses para recuperar el costo.
Por lo tanto, debe comprar todo lo que pueda. Después de comprar la tarjeta, tengo mucho espacio y siempre puedo tener un flujo de efectivo ofreciendo servicios o algo así. Tengo un flujo de efectivo y puedo vivir, no tengo que poner mucho, mucho dinero en la cuenta. Así que solo nos preocupamos por no poder comprar tantas tarjetas. Si pudiéramos convertir todo el dinero en tarjetas, no dudaríamos en convertir todo el dinero en tarjetas, y en esto estaríamos dispuestos a pagar una cierta prima, porque es demasiado rentable. Incluso después de pagar la prima, de hecho, es difícil lograr este objetivo. Objetivamente hablando, si puedo gastar 20 mil millones de yuanes este año, el rendimiento de nuestro departamento de compras es súper bueno.
La brecha entre nosotros y los Estados Unidos se encuentra principalmente en los recursos, y la brecha entre las personas no es muy grande, casi no hay brecha, porque es el mismo grupo de personas, todos chinos. Hay algunas personas que se quedan en el país, algunas personas que se van al extranjero, y no dicen que son personas inteligentes que se van al extranjero, no. De hecho, es más aleatorio: las personas más inteligentes, probablemente un poco más de la mitad se van al extranjero, y un poco menos de la mitad se quedan en casa. No hay escasez de talentos nacionales, y tenemos una gran base, cada año hay tantas personas para complementar.
El talento no es un cuello de botella, los recursos son el mayor cuello de botella. Los recursos afectan primero el cultivo de talento: debido a la poca potencia de cálculo, podemos hacer menos oportunidades de experimentación, por lo que nuestro talento en general tiene una brecha con los Estados Unidos.La brecha de talentos es esencialmente debido a la brecha de poder de cálculo.
En el modelo más grande de la actualidad, no podemos permitirnos el entrenamiento real. Incluso si gastamos cincuenta mil millones de yuanes, en realidad no podríamos permitirte entrenarlos; incluso si pudiéramos apilarlos, no podríamos permitirte usarlos. Ahora, el modelo más grande, que se activa es aproximadamente 800B; en términos nacionales, todavía estamos en esta escala de docenas de B, y el modelo más grande en China puede activarse en docenas de B, una diferencia de un orden de magnitud. Si voy a entrenar un modelo del mismo tamaño que él, debería necesitar 50.000 GB300, o Huawei 950 200.000 tarjetas. Esto es solo entrenamiento, no se ha considerado hacer investigación todavía. Así que la mayor brecha entre nosotros y Estados Unidos es en los recursos.
Nuestros recursos actuales, así como los recursos de este año y los próximos meses, incluidos los grandes recursos que llegarán de inmediato, son solo suficientes para que hagamos más experimentos dentro de la escala de activación de Diez B. Porque dentro de la escala de docenas de activaciones B, todavía hay muchos experimentos por hacer, y todavía hay muchas cosas por averiguar. Debemos estar lejos de un modelo capaz de entrenar 800B, no hay tantas tarjetas.
Así que la diferencia entre nosotros y los Estados Unidos, creo que es la diferencia de recursos. Todas las diferencias que vemos, incluidas las diferencias en el talento, las diferencias en la capacidad del modelo, las diferencias en las aplicaciones, se pueden suponer que se deben a diferencias en los recursos de computación. Los recursos de potencia de computación, por un lado, no se pueden comprar en la tarjeta nacional en sí; por otro lado, nuestra inversión de capital es menor que la de los Estados Unidos, y tenemos mucho menos inversión de capital. La proporción de los salarios de los talentos aquí es muy baja: se les da un salario de 100 millones de dólares, pero en términos de cálculo, los salarios de los talentos todavía representan una pequeña proporción, y la cabeza grande todavía tiene poder de cálculo.
El problema está en gran medida sin solución.
Por lo tanto, no estamos pensando en competir con los Estados Unidos a una escala tan grande ahora. Ahora todavía lo hacemos en la escala que podemos entrenar y usar - docenas de B-activación - primero, y luego esperamos a la siguiente etapa cuando tengamos más recursos, 150B, 156B, o 250B-activación.
Tenemos una brecha con los Estados Unidos aquí que parece difícil de cerrar en este momento. Tienes que entrenar a un modelo tan grande, pero no puedes investigar lo suficiente, no puedes investigar lo suficiente antes de entrenarlo.
X. Brecha final: costo, tiempo y experiencia
También hay una pregunta de mayor interés para todos: ¿Dónde se reflejará la brecha final de todas las grandes competiciones de modelos? No creo que haya una gran brecha en el final. La brecha final debe ser de tres maneras:Costo, tiempo, experiencia de usuario.Aparte de eso, puede que no haya ninguna brecha.
El costo es más comprensible: usted ofrece el mismo servicio, la misma calidad de servicio, a qué costo puede ofrecer.¿Otros hogares pueden ofrecer el mismo servicio, como la batería de BYD, a este precio con el mismo contenido técnico? Creo que es algo más difícil, no es tan fácil de hacer, ciertamente es una barrera. Así que el costo es definitivamente una diferencia, y creo que el costo podría estar en primer lugar.
El segundo es el tiempo: cuándo puedes hacerlo. Unos meses antes, unos meses después, es diferente.
La tercera puede ser la experiencia, la experiencia del usuario todavía es algo diferente, todavía habrá algunas pegajosas de usuario y barreras de usuario entre los usuarios, pero puede no ser esencial. La esencia sigue siendo el primer costo, la segunda vez: lo haces primero o lo haces después, haces lo mismo, rápido o lento.
XI. Comercialización: Hacerlo todo el tiempo, pero no con ello como objetivo
Después de que la ruta de comercialización a largo plazo y la línea de productos se enriquecen aún más, ¿cómo fijar el precio? Creemos que lo que más vale la pena hacer, lo que más vale la pena gastar energía, o hacer AGI. Ahora empujar AGI hacia adelante es empujar el límite inferior de la inteligencia hacia arriba. Esto debería ser en esta etapa, que es más rentable y más rentable que hacer más líneas de productos y considerar más caminos de comercialización. Siento que en algún momento en el futuro, así como en cualquier momento en el pasado, podría ser así.
¿De qué sirve decir que pasamos mucho tiempo pensando y enriqueciendo nuestro producto?¿Qué es la comercialización que se discutió hace seis meses? Debe ser que quiero hacer publicidad, hacer comercio electrónico, implantar comercio electrónico en los productos y integrarse con la vida local. Definitivamente no sirve, porque los cambios son demasiado rápidos. Usted, este producto, en nuestra etapa actual para pasar mucho tiempo haciendo consideraciones de comercialización, camino de comercialización: el ciclo de vida de la línea de productos es muy corto.
No creo que haya llegado a este punto. Este es nuestro juicio, y al menos estas experiencias anteriores respaldan este juicio. En los últimos tres años, en cualquier momento que vinieras a decirme sobre el camino de comercialización, la línea de productos, es una pérdida de tiempo. Debido a que no puedes predecir, no puedes predecir el futuro, puedes predecir poco.
Estamos realizando la investigación AGI líder mundial y comercializándola en su momento oportuno. Siento que hemos estado haciendo la comercialización, simplemente no apuntamos hacia la comercialización. Estamos apuntando a AGI, pero hemos estado haciendo la comercialización, por lo que tenemos usuarios en el lado C y los ingresos en el lado B. A juzgar por la experiencia histórica, esta estrategia es exitosa. Deberíamos estar muy lejos de un punto en el que se cambiará completamente a la comercialización. Lo más grande es una extensión de la tecnología, hacer la tecnología de próxima generación y resolver más los problemas actuales. Personalmente, creo que es demasiado pronto para centrarse en el producto en cualquier momento en el futuro que se puede ver ahora.
Esto también forma parte de nuestra moderación. Espero que estas oportunidades de negocio permitan que otros lo hagan: cómo usar esta IA, es toda la sociedad, todos nuestros socios para hacerlo juntos, todos juntos para compartir los beneficios, en lugar de querer tomarlos solo, esto es imposible. Y no tenemos tanta energía, y nuestra organización no tiene tantas personas para hacer esto.
Para los socios, de hecho, nuestra financiación fue cuidadosamente seleccionada. Además, en primer lugar, creo que los intereses son relativamente consistentes: los que están más en línea con nuestros intereses, los que no son hostiles a nosotros, o los que más esperan que podamos tener éxito. No todo el mundo quiere que lo hagamos, porque todavía estamos dañando a muchos otros.
La estrategia corporativa, el proceso de toma de decisiones tecnológicas y los mecanismos de toma de decisiones: Nuestra empresa en su conjunto se basa en el consenso. No estoy diciendo que yo decido todo por mi cuenta, sino que voy a buscar el consenso. Mi autoridad e influencia dentro de la empresa se basa en el consenso. Por ejemplo, si voy a hacer algo, definitivamente voy a ver primero cuál es el consenso de todos, si todos quieren hacerlo. Es posible que tenga alguna orientación o inclinación, pero el papel de esta orientación es limitado, muy limitado o se basa en el consenso. Este mecanismo de toma de decisiones es en realidad un mecanismo de búsqueda de consenso: no es que pueda empujar algo, debe haber consenso para que pueda empujar, y luego empujar.
En la actualidad, la energía principal está básicamente en el lado de DeepSeek.
La brecha del modelo y la división global del trabajo
El efecto final de cada modelo abre la brecha y debe ser un síntese. Comparar el efecto del modelo, definitivamente debe compararse en el mismo costo, esto tiene sentido: se comparan dos coches, pero también los coches del mismo precio para comparar. La diferencia entre un modelo bien hecho y un modelo mal hecho no debe estar en un enlace específico, sino en el conjunto.
Anthropic ahora superó a OpenAI, ¿no es esto a largo plazo? No creo que sea a largo plazo, ciertamente es escalonado. OpenAI y Google, es probable que aumenten alternativamente en el futuro. La ventaja de su implementación sobre el agente de código de Anthropic no es tan grande, y no aplastó a OpenAI: probablemente la mitad de la gente en nuestra compañía piensa que OpenAI es mejor. Anthropic tiene una ventaja de titular, pero esta ventaja de titular debería desaparecer pronto, no es una ventaja que pueda mantener a largo plazo. Los tres son muy buenos. Anthropic es el más eficiente de los tres, y el costo y el dinero que quema deben ser mínimos.
En un momento en que la IA domina la división global del trabajo, es probable que las empresas chinas jueguen el papel de mayor producción. En términos generales, tenemos la mayor capacidad de producción, incluidos los chips, los chips pueden tener nuestra mayor capacidad de producción, nuestra mayor electricidad. Los chinos harán que los productos sean más baratos; en efecto, muchos productos chinos y estadounidenses no son muy diferentes ahora. Lo mismo puede ocurrir con la IA en el futuro: el precio de la IA hecha en China será más barato. Este barato puede ser sistemáticamente bajo, al igual que los servicios que ofrece China en otras industrias son más baratos.
Cuando hago las cosas, mi hábito de pensar es: ¿Qué es lo más rentable hacer en este momento? Si siento que ahora es el producto más rentable, voy a hacer el producto; si siento que ahora es AGI primero para lograr el mayor beneficio, voy a hacer AGI primero. Obviamente, no creo que sea el mejor beneficio hacer productos ahora.
XIII, chips nacionales y TileLang: el foso de Nvidia se desintegra
Problema de la adaptación de la tarjeta doméstica: la tarjeta doméstica ahora tiene una oportunidad histórica. Antes, la tarjeta doméstica tenía un problema difícil, llamado la mala ecología: no se puede usar después de comprar la tarjeta. Así que el foso de Nvidia es muy fuerte.
Pero esta cosa está cambiando.El foso de Nvidia CUDA se está desintegrando rápidamente.La rápida desintegración puede haber sido causada por tres razones.
En primer lugar, ahora tenemos AI. Con la IA, es mucho más fácil para mí construir este ecosistema de lo que era antes, porque la IA puede escribir código, puedo usar la IA para construir este ecosistema, construir exactamente el mismo ecosistema que Nvidia.
Segundo, hay algunas nuevas tecnologías. Por ejemplo, nuestra familia ha desarrollado una tecnología llamada TileLang, que es un lenguaje de alto nivel. Usando este lenguaje de alto nivel para escribir el operador de CUDA, puede escribir rápidamente todo el conjunto de ecología de Nvidia, y luego combinar con la IA. Todavía no está terminado, todavía no está terminado, pero esta ruta técnica parece no tener ningún obstáculo.
En tercer lugar, CUDA-Nvidia evolucionó de la tarjeta de juego, por lo que está en la misma línea que el diseño y la configuración de la tarjeta de juego en muchos lugares. Anteriormente, esto era razonable porque la computación de IA era un campo muy pequeño, más pequeño que el mercado de las tarjetas de juego. Pero ahora que el mercado de tarjetas de computación es más grande que las tarjetas de juego, no hay razón por la que los dos deben acoplarse. Ahora la tendencia es que ya no se acoplará más tarde. Entonces, los chips dedicados, ya sea Huawei o Nvidia en sí, serán chips dedicados en el futuro, y no son las cosas anteriores. En este contexto, resulta que el papel de la ecología original de NVIDIA se ha reducido en gran medida: para un chip dedicado, no tiene nada que ver con CUDA y no está vinculado. O, cuando este chip fue diseñado, ya se había considerado cómo establecer esta ecología.
Un poco complicado, pero de todos modos: el reemplazo de chips de IA nacionales ahora tiene una oportunidad histórica. Creemos que dentro del próximo año podremos ver que hay algo que se verifica:La ecología de los chips nacionales no tiene ningún problema.Antes pensaba que era problemático, pensaba que no funcionaba y no era fácil de usar, pero dentro del próximo año, podemos revertir esta cognición y usaremos los hechos para revertirla.
El hardware y la ecología de los chips de IA nacionales no tienen problemas, y el único problema es que la capacidad de producción no es suficiente. La tarjeta doméstica se adapta a esto, sin obstáculos, Nvidia no puede detenerlo. Si en un entorno comercial normal, puedo comprar la tarjeta de Nvidia, entonces es más difícil reemplazar la tarjeta doméstica; pero en el caso de que la tarjeta de Nvidia no esté disponible, todos se verán obligados a hacer chips nacionales. En este contexto, la adaptación de las tarjetas nacionales no tiene obstáculos. Las tarjetas nacionales han establecido una ecología igual o mejor que Nvidia. No creo que haya obstáculos, pero aún toma tiempo.
Ahora trabajamos principalmente con Huawei. Huawei se adapta a sí mismo, pero participaremos en esta ecología y participaremos profundamente en esta ecología de Huawei. El trabajo principal que hacemos es hacer un buen compilador de lenguaje de alto nivel y hacer un buen trabajo de TileLang. Después de hacer bien TileLang, el problema puede ser resuelto de un lado a otro. Esto es complicado de decir, pero lo estamos haciendo y será mucho más claro después de que lo hagamos.
Puedes entender: cuando entrenamos en V3, usamos tarjetas de NVIDIA, pero ya no usamos la ecología de NVIDIA. V3 utiliza la tarjeta de Nvidia, pero no la ecología de Nvidia, en lugar de escribir un compilador de alto nivel llamado TileLang primero, y luego basamos la ecología de TileLang para hacer todo el resto, ya no dependiendo casi de la ecología de Nvidia. Tan pronto como ponga este conjunto de cosas y vuelva a hacer el proceso en la tarjeta Huawei, está terminado.
Creo que aquí puede ser una misión histórica: puede revertir completamente la percepción anterior de la mala ecología de la tarjeta doméstica. Ahora el tiempo y el lugar están básicamente llenos, sólo falta tiempo. Creo que dentro de un año, muchas personas deben entender que este problema se ha resuelto, y el resto es el problema de la capacidad de producción.
Soy más optimista sobre la capacidad de cálculo nacional. Siento que Nvidia está cavando su propia tumba en este momento. El supernodo de Huawei, el supernodo 950 de Huawei, puede reemplazar completamente a los GB200 y GB300 de NVIDIA en rendimiento y precio. El precio es ciertamente caro, pero es limitado: el cincuenta por ciento, el cien por ciento, no importa el cien por ciento, no importa el dosciento. Por ejemplo, es cien por ciento más caro, creo que ya puedo pensar que el precio puede ser reemplazado. También se puede reemplazar en la tarea: todas las tareas que GB300 puede hacer, el supernodo de Huawei puede hacer, y el retraso es lo mismo.
Nvidia podría haber tenido una nueva generación en el Q3 de este año. Así que la brecha entre nosotros y los Estados Unidos en el chip, creo:Ecológicamente, no habrá brecha en el futuro, pero en el chip es cuatro veces más dos años.
Y la pregunta: ¿vamos a integrar verticalmente aguas arriba? Espero que no lo haga. Esperamos que no tengamos que hacer esto, espero que otra persona haga esto. No quiero que me coma todo, solo necesito comer una pieza: la que mejor hago, la que pensamos que es la pieza más central, la que está directamente relacionada con el usuario. Para muchos de nuestros socios de la industria, se preocupan más que nosotros. Eso debería ser el negocio de otra persona, no debería haberme comido todo.
¿Construiremos nuestros propios grandes clústeres en el futuro? Definitivamente es necesario construir clústeres grandes por sí mismos. Hemos estado haciendo esto por nosotros mismos. Todos nuestros clústeres se construyen por nosotros mismos. Sin embargo, creo que dependerá de cuán grandes sean los ingresos si queremos desarrollar chips por nosotros mismos en el futuro. Supongamos que usted opera una planta de energía, no necesariamente necesita construir un generador, ¿verdad? El equipo de generación de energía puede ser hecho por otra persona, siempre y cuando sea razonable, ¿por qué lo harías tú mismo?
Así que espero no tener que hacer chips, espero poder comprar chips a un precio razonable, así que no tengo que hacer chips. Esperamos hacer una sola pieza. La IA es una gran cosa, no necesito que lo haga todo. Si el enfoque, y creo que los beneficios comerciales aquí son lo suficientemente grandes, si la era de la IA va a producir muchas compañías de billones de dólares, creo que somos una de ellas. Hemos estado haciendo una pequeña pieza de uno de ellos, no hay ningún problema con uno de ellos, no estoy seguro de hacer otra cosa. Esta es nuestra actitud.
Por ejemplo, al menos en los dos negocios de To B y To C, lo que se puede ver en la actualidad es que realmente queremos hacer un bucle cerrado de To C, pero lo hacemos bien; realmente queremos hacer un bucle cerrado de To B, tal vez no lo hacemos bien. Cuanto más deseas...
A B puede decir algo más. El límite superior del negocio de To B debe ser la demanda. En el contexto de la tecnología de IA de la generación actual, la demanda de To B debería ser limitada: crecerá rápidamente, pero no es una cosa infinita y, en última instancia, está sujeta a la demanda, no al poder de cálculo. En las condiciones tecnológicas actuales, la cantidad de ingresos en última instancia depende de la demanda. Porque lo piensas así: puedo recuperar el costo en diez meses, si hay demanda, definitivamente siempre compro tarjetas; ahora no compro más porque no hay tanta demanda. La demanda debería crecer, a medida que continúen los avances tecnológicos, la demanda será cada vez mayor.
XIV. Multimodalidad, escala y bajo costo
Layout multimodal, lo hemos estado haciendo. Es muy importante para el producto, para los productos de usuario C-end. Pero para el límite superior de la inteligencia, es un componente, no es la línea principal en sí misma. Como componente, la multimodal definitivamente lo haríamos y lo estamos haciendo. Debemos conocer los modelos relevantes: V4 y las versiones posteriores a V4 admitirán la multimodalidad nativa. Pero lo que entendemos de la multimodal es que para la inteligencia, es un componente, no lo consideramos como la inteligencia en sí misma, es igual que la búsqueda. La búsqueda también es un componente y la multimodal también es un componente.
Scaling, creemos en Scaling: sin duda, cuanto mayor sea la escala, mejor será el efecto y ser capaz de desbloquear más funciones. Lo que nos impide escalar es el poder de cálculo, no es que no queramos escalar, es que no tenemos tanta potencia de cálculo para escalar.
No hemos tocado dónde está este límite superior. Entrenamos a un modelo tan grande, no porque creo que un modelo tan grande sea suficiente, sino porque tengo tantos recursos. Calculé de acuerdo con mis recursos: ¿Qué tan grande es el modelo que puedo aceptar y entrenar, se calcula de esta manera, no es suficiente con este modelo.
Por ahora, los beneficios del modelo son muy obvios. Todavía no hemos tenido la oportunidad de tocar la pared de esta escala, que está muy lejos de nosotros. Cuando Silicon Valley está hablando de escalar, eso es para Silicon Valley; para los chinos, estamos muy lejos de eso, simplemente no tenemos escalar a ese nivel. Esta escala incluye la escala de los datos, la escala de la escala del modelo, los costos de entrenamiento. Todavía estamos lejos de explorar los límites de la escala, no tenemos tanta potencia de cálculo, pero no escatimaremos esfuerzos para empujar los límites de la escala. Incluido después de que se haya financiado, tenemos más poder de cálculo, podemos entrenar modelos más grandes, y cuanto más corto sea el tiempo que podamos comprar, mejor; si podemos gastar todo el dinero dentro de seis meses, eso es lo mejor, en realidad no podemos hacerlo.
La capacidad central del modelo de próxima generación, creo que debe tener la capacidad de aprendizaje continuo, puede llamarse modelo de próxima generación. Hasta entonces, todo lo que podemos hacer es el costo, y luego los efectos se hacen mejor y se hacen más rápido. Sin embargo, para tener un gran avance, debe tener un aprendizaje continuo.
¿Por qué parece que nos preocupamos particularmente por la eficiencia computacional de los modelos? Descubrí que no a todos les importa mucho la eficiencia del modelo. Para una empresa comercial, no hay incentivo para perseguir la eficiencia del modelo: varias startups, no escuchas que dicen que el bajo costo es algo que buscan, porque eso no es de su interés: ¿Qué dinero ganas con el bajo costo? No recibirás nada de eso.
Más bien, es parte de nuestra visión. Nuestros compañeros de clase se preocupan por este costo, porque nuestros compañeros de clase son personas comunes, sabe que usar esto es todo para gastar dinero, puede tener empatía: otros tienen que gastar dinero para usarlo, así que un poco más barato, otros pueden aceptar el grado será mayor. Por lo tanto, muchos de nuestros compañeros de clase quieren que podamos reducir los costos. Pero si hablas desde un punto de vista comercial, en realidad no lo consideras así: desde un punto de vista comercial, desde un punto de vista de costo, esta no es la primera prioridad.
Para las startups y las grandes empresas, el costo de este servicio no es alto en absoluto. Pero espero que sea relativamente ligero, espero que sea asequible, especialmente en el contexto de la escasez de poder de cálculo en China, asequible y utilizable en tarjetas nacionales.
Los bajos costos son, ante todo, un resultado. Nuestro modelo ha ido arquitectónicamente en una dirección de menor costo, que tiene que ver con nuestra visión. Todavía tenemos muchas maneras en el algoritmo y el costo puede bajar. Hay otra razón por la que los costos bajan: cuanto más bajos sean los costos, más puedo entrenar modelos más grandes y más puedo pagarlos. Con el mismo poder de cálculo y el poder de cálculo limitado, si mi eficiencia de cálculo es mayor, puedo llevar un modelo más grande. Para las grandes empresas, no necesariamente pensar de esa manera - los recursos se pueden agregar, se pueden resolver agregando recursos - pero daremos prioridad a la eficiencia de costos.
15 El que tiene poco vence al que tiene mucho
El rango de datos es amplio y los datos deben ser casi la mitad del modelo.
¿Por qué creo que si la IA puede representar el 20 por ciento del PIB, si quiero representar el 5 por ciento de esto, no va a funcionar? Porque definitivamente voy a ser derrotado por otra persona, si la otra persona dice: "Yo sólo quiero ser el 1 por ciento ", entonces definitivamente voy a ser derrotado por él. Si mi objetivo es representar el cinco por ciento del PIB de toda la humanidad, en teoría, esta cuenta todavía está establecida: mira OpenAI, parece que puede calcular esta cuenta, en teoría no hay problema. Pero tiene un problema: será derrotado por otra persona que solo está dispuesta a representar el 1 por ciento. Porque el otro hombre dijo que lo estoy haciendo tan bien, pero solo tengo que tomar un por ciento del PIB mundial y luego lo venceré. En este momento, si otra persona sale y dice, solo tengo un 0,1 por ciento, entonces derrotará a la persona delante.
Macroscópicamente hablando, no importa de dónde se obtiene este porcentaje, no hay diferencia entre sí.Quien toma más será derrotado por quien toma menos.Incluso no tienes que tomar mucho, si la visión es tomar mucho, serás derrotado por alguien cuya visión es tomar menos. De hecho, todos no obtienen dinero, es solo una visión; su visión es tomar más, perderá primero y enfrentará mayores dificultades. Así es como el mundo.
Desde el principio, OpenAI sintió que realmente podía monopolizar el mundo, pero en realidad se encontraría con muchos, muchos retadores.Él tendrá desafíos, y no será tan fácil. Los desafíos que Estados Unidos ha enfrentado, puede enfrentarse a los desafíos de China en el futuro, porque los chinos están dispuestos a tomar menos y pueden proporcionarle este servicio. En China, también habrá personas que estarán dispuestas a tomar un poco menos. Pero al final habrá un equilibrio aquí: porque después de tomar demasiado poco, la lógica comercial de la compañía no se establece y no sobrevivirá. Así que tomas demasiado poco y no sobrevives; tomas demasiado y serás derrotado por aquellos que toman poco.
Por lo tanto, para nosotros, no estamos tomando la mayor cantidad de dinero para obtener ganancias y calcular el precio de maximizar las ganancias, sino que solo ganamos una ganancia razonable. Esto es una explicación. Yo creo en esto, no estoy tratando de encontrar una razón para esto, no hay necesidad de encontrar una razón. Lo hice, y definitivamente lo hice por una razón. Esta razón puede no ser muy convencional, pero creo que la compañía no es muy convencional.
Modo de organización: dos líneas sin horas extras
La gestión de nuestra empresa es en realidad dos líneas: una línea es de arriba hacia abajo, y la otra es de abajo hacia arriba.
De abajo hacia arriba: todo el mundo quiere hacer lo que quiere, lo hace por sí mismo, nadie se importa con él, no hay KPI.
De arriba a abajo: es formal: vamos a hacer algo colectivamente, y necesitamos que toda la compañía coopere. Por ejemplo, si queremos enviar V4, entonces tenemos que dividir el trabajo, y todos tienen que hacer su parte. Esto es de arriba hacia abajo, lo llamamos "oficial ".
Por lo general, no esperamos que formales ocupen la mitad de todo el tiempo de los empleados.Oficialmente no más de la mitad.Todavía tiene la mitad del tiempo, no está programado, puede hacer lo que quiera. Se trata de un ámbito de estudio que le permite explorar por sí mismo, de acuerdo con lo que le parece importante, lo que va a explorar, sin requisitos previos. Mientras la compañía pueda apoyarlo, el poder de cálculo puede apoyarlo para hacerlo; o no necesita poder de cálculo y necesita hacer muy poco, entonces no lo utiliza para coordinar. Así es como estamos organizados en este momento.
Algunas personas piensan que estamos de arriba hacia abajo, otras piensan que estamos de abajo hacia arriba, y creo que ambas tienen razón. Uno de mis criterios es: formalmente es mejor no más de la mitad.
Por lo general, no trabajamos mucho tiempo extra. Hay dos razones para trabajar horas extras. En primer lugar, hacer investigación requiere un ambiente relativamente relajado. Si lo presiona muy apretadamente, no puede hacer investigación, es decir, debe tener este interés y pensar en estas preguntas en tiempos normales, por lo que debe estar en un entorno relativamente relajado para poder explorar. Esto se debe a la necesidad de estudiar la cultura. En segundo lugar, estamos muy enfocados. Estar muy enfocado significa que tenemos muy pocas cosas que hacer, así que no tengo tantas cosas que hacer y no tengo que trabajar horas extras.
Esto está en línea con la moderación anterior: porque me abstengo, muchas veces no lo hago. Cuanto menos cosas tengo que hacer, cada uno tiene menos trabajo asignado. Usted ve que muchos de nuestros productos son imperfectos, y no lo reparamos. Es también una parte de nuestra cultura.
Sección de preguntas
P: ¿Puedes compartir más sobre la línea de tiempo en la que el aprendizaje continuo trae un avance? Incluyendo la implementación del aprendizaje continuo, ¿qué más arquitecturas, innovaciones en algoritmos y otros elementos clave se necesitan?
Respuesta: Hay pocas personas y necesita investigación. Ahora todo el mundo está estudiando este tema. Para los inversores, lo que más se ve ahora es el agente; pero para aquellos de nosotros que estudiamos, lo que más se ve ahora es el aprendizaje y cómo resolver este problema de aprendizaje.
De hecho, el aprendizaje puede no ser una tecnología, es un problema. Puede haber muchas técnicas para resolver este problema, no es una cosa, va a ser muchas cosas. O mejor dicho, AGI está compuesto de muchas cosas, requiere modelos y luego muchas otras cosas. También es una cuestión de ingeniería y algoritmo. Esta pregunta es más profesional, pero hay muchos métodos y también hay mucha investigación.
Pregunta: Sr. Liang, gracias. Lo que dijiste al principio me conmovió mucho y nos inspiró mucho: este equipo, con la mayor buena voluntad, espera promover el desarrollo de esta sociedad y la inteligencia humana y hacer una pequeña contribución. Esto es muy similar a la cultura corporativa de las empresas a las que servimos, es decir, "Cultivar a la gente ". Entiendo profundamente por qué está liderando el equipo para hacer código abierto. Siento visualmente que la ecología del paraíso de las aves, como hacer un banyan, beneficiará a todas las cosas sin competir, será aceptada por todos, todas las cosas coexisten y finalmente están en todas partes. Con esta inversión, expresaremos nuestro reconocimiento, apoyo y respeto por esta misión y visión.
La primera preguntaAhora, después del código abierto, ¿cuántos socios, talentos y equipos hay en esta industria que pueden reproducir mejor nuestro modelo y logros de código abierto? En el futuro, ¿en qué aspectos siente que necesita más talento de alta calidad para unirnos a nuestro modelo y reproducirlo?¿O la potencia de cálculo de la GPU es relativamente escasa ahora?¿Será una forma de matriz de modelos en el futuro? Vamos a hacer el modelo básico cada vez mejor, socios y equipos de todas las industrias para hacer el modelo vertical de la industria y el modelo de aplicación dentro de la matriz de modelos?¿Cómo está el progreso de este bloque?¿Qué tipo de ecología crees que crecerá en dos o tres años?
El segundo problemaSobre el hardware de AI: Las grandes empresas globales de AI pueden invertir cientos de miles de millones de dólares en un solo individuo.¿Cuánto tiempo crees que esto puede resolverse, apoyar el desarrollo de nuestra IA, para que la potencia de cálculo y la placa de hardware no retrasen a AGI?¿Es esto una cuestión de tiempo y inversión de capital que los chinos deben cumplir con su misión futura y ciertamente pueden hacerlo? Al mismo tiempo, puede ser dos aspectos: por un lado, el progreso del modelo hará que la inteligencia mejore, una sola tarea o ciertas unidades inteligentes para el consumo de hardware y potencia de cálculo disminuyen gradualmente, ya no necesitan tanta potencia de cálculo, porque el progreso del modelo lo hará inteligente; por otro lado, el progreso de la tecnología del hardware hará que la eficiencia energética de la potencia de cálculo sea más fuerte.¿Podría ser este un camino que va en lados opuestos? Además, ya sea 960 o H200 ahora, para hacer una inversión de potencia informática de cientos de miles de millones de dólares. Usted acaba de mencionar la amortización de tres años.¿Podría el clúster Wanka construido ahora, en realidad, después de tres años, ser relativamente menos avanzado?¿Podría haber una situación en la que no es suficiente ahora y se vuelve redundante en tres años? * *
Respuesta:Gracias, señor. El primer problema es el de la ecología.
Ahora sentimos que el problema que enfrenta cada empresa es que no hay suficiente talento. Pero creo que esta escasez de talento va a ser periódica. En el comienzo del desarrollo de cada industria, no hay suficiente talento. Cuando comenzó a hacer sitios web en el pasado, había pocas personas que hacían sitios web y escasez de talentos; más tarde, Internet quería hacer el lado del servicio y los talentos también eran muy escasez. Sin embargo, esta escasez de talentos se resolverá muy rápidamente, es decir, en dos o tres años, porque se formará un gran número de personas.
La escasez de talentos de IA también es periódica, y hemos visto que se ha mitigado en gran medida. Realmente no hay escasez de personas de IA, y cada compañía pronto cultivará personas, y es rápido cultivar personas. Por lo tanto, la industria de IA en general, no importa la ecología, la empresa modelo o lo que sea, no hay escasez de talentos. La escasez de talentos es ciertamente un fenómeno a corto plazo, y nunca ha habido una escasez a largo plazo de un determinado tipo de personas en la historia. Recuerdo que hace más de una década se dijo que había una escasez de pilotos y que el ciclo de entrenamiento de pilotos era largo, pero también se resolvió rápidamente.
Así que no hay que preocuparse por la escasez de talento. Además, hay un poco demasiadas empresas que hacen modelos en China ahora, o demasiadas. Los Estados Unidos pueden ser tres, y China hace demasiado modelo básico. Al final, no debe ser necesaria tanta gente para hacer el modelo básico, y definitivamente convergerá. Los recursos también son relativamente dispersos y, hasta cierto punto, son relativamente desperdiciados, lo que equivale a que todos deben hacer lo mismo, pero mientras los Estados Unidos lo hagan, los recursos se concentran solo en estos tres; los recursos de China están muy dispersos, y cada uno obtiene menos recursos. Creo que esto definitivamente va a convergir, pero esto requiere un proceso y definitivamente va a convergir.
No necesitamos tantas familias. Ahora puede que todos sientan que el margen de beneficio de hacer esto es muy alto, por lo que debe hacerlo por sí mismo; pero cuando descubra que esto puede no ser tan alto en beneficio, puede no hacerlo. No creo que haya ganancias tan altas porque no está de acuerdo con la ley objetiva. Esto significa que estamos en una etapa: si hay un margen de beneficio muy alto, que no debe estar de acuerdo con la ley objetiva, debemos tener un beneficio razonable. Este es el estado actual de la industria, y creo que definitivamente convergerá.
En cuanto a la parte del modelo más grande, no diga que un monopolio en particular, "Me voy a tomar todas las ganancias", esto ciertamente no funcionará. Si cada uno solo toma una ganancia razonable, entonces en realidad no necesita tanta gente para hacer un modelo grande. China finalmente tiene tres o cuatro competidores, y la competencia es suficiente, y el precio es absolutamente suficiente para luchar contra la guerra de precios. El modelo grande puede tener dos grandes empresas y dos pequeñas empresas, que ya son suficientes.
En cuanto a lo ecológico, no tengo muchas ideas. Nos gustaría poder ayudar a más personas, pero no tenemos tanta energía. Tenemos la intención de hacerlo y no habrá conflictos de intereses, pero si lo hacemos es otra cosa. Pero al menos no hay conflictos de intereses aquí, y esperamos cooperar para ganar-ganar. En primer lugar, definitivamente no creo que las grandes compañías de modelos puedan tomar la mayoría de las ganancias, esto es imposible: tantas grandes compañías de modelos, la brecha no es tan grande ahora. La brecha es sólo dos cosas: una es el tiempo y otra es el costo. Por lo tanto, ninguno de ellos tiene ganancias repentinas. Las personas con un buen control de costos ganan un poco más, y las personas con un control de costos pobre ganan un poco menos, eso es todo.
PreguntaLos datos que ahora se publican creen que las empresas modelo ya tienen canales para obtenerlos, es solo una cuestión de tiempo y costo. Cuando el seguimiento realmente llega a AGI, todos imaginan que el estado ideal es que el modelo puede auto-iterarse, autoaprendizaje y entrenarse por sí mismo.¿Crees que los datos de simulación se pueden usar, o que los datos reales son de la más alta calidad? Si todavía necesita datos reales, ¿limitará la inteligencia de la IA a este nivel del pasado humano, porque se basa en los datos reales que la humanidad realmente ha tenido?¿O puede romper este límite superior y hacer que la capacidad del modelo supere toda la realidad del pasado humano a través de datos simulados, datos simulados, datos creados, etc.?
RespuestaCreo que se puede superar. Dos puntos. Por ejemplo, Go, AlphaGo juega una mano de ajedrez que los humanos nunca han visto antes: ciertamente superó a los humanos dentro de un cierto rango. Pero él también puede tener un límite superior y una limitación, pero esta limitación no podemos ver ahora. Por lo tanto, creemos en términos generales que puede basarse en el conocimiento que la humanidad ya tiene y que ya podemos decir, y superarlo.
En cuanto a si el seguimiento se basa en datos reales o datos simulados, ¿funcionará?
Por lo tanto, nuestra brecha con los Estados Unidos puede estar 12 meses detrás de los Estados Unidos, 12 a 18 meses, o de seis a 12 meses. En pocas palabras, es estar dos años detrás de los Estados Unidos y luego hacer esto con solo una veinte parte del poder de cálculo de los Estados Unidos. Esta narrativa es:Uno o dos años atrás, pero con sólo una veinte parte de su poder de cálculo. En el futuro, vamos a reescribir esta narrativa: usar una fracción de su poder de cálculo, pero reducir este tiempo aún más corto, a seis meses, tres meses, creo que este es un objetivo. Incluso podemos superarlos de alguna manera. Sin embargo, cuando todavía hay una brecha de orden de magnitud en el poder de cálculo general, no es realista superar completamente; pero en algunos puntos clave, hay compensaciones, hay algunas superaciones.
Pregunta: Dos preguntas técnicas rápidas. En primer lugar, cuando hablamos de la ruta técnica hace poco, mencionamos que el problema central que debemos resolver en esta etapa es el aprendizaje continuo, que también es el punto caliente de la investigación en el extranjero en la actualidad, llamado mejora recursiva.¿Cuáles son las mayores dificultades tecnológicas en este momento? Desde tu punto de vista, ¿cuándo se puede resolver? En segundo lugar, acaba de mencionar que primero se debe abordar el aprendizaje continuo y luego hacer inteligencia.¿Significa que DeepSeek también hará Inteligencia General después de resolver el problema de aprendizaje continuo?
R: La dificultad con el problema técnico es que no hemos encontrado una manera de trabajar muy bien. El mundo aún no ha encontrado una buena manera de hacerlo, todo el mundo está a tiendas, todavía en la etapa de tiendas, no sé quién puede encontrar la próxima solución a este problema. Tenemos muchas ideas, muchas ideas que ahora parecen prometedoras, pero no han llegado a ninguna de ellas. Este es el primero.
En segundo lugar, ahora valoramos internamente esta narrativa: entrenamos nuestro modelo de próxima versión, y esperamos que ayude a nuestro propio desarrollo. Ha sido capaz de mejorar la eficiencia de DeepSeek: nuestro modelo está mejorando la productividad de DeepSeek en primer lugar, lo que nos permitirá ayudar aún más cuando desarrollemos la próxima versión del modelo. O simplemente: el modelo que hacemos, el primer objetivo no es que todos lo utilicen bien, sino que lo usamos bien nosotros mismos. En primer lugar, es útil para nosotros mismos, después de lo cual voy a ser más rápido al desarrollar la próxima versión de los modelos.
La idea de muchas personas dentro de nosotros es que primero ser útil para nosotros mismos, primero ser útil para nosotros mismos, esta es la forma más rápida de lograr AGI. Cuando somos fáciles de usar, eso significa que otros pueden ser fáciles de usar, pero primero debemos asegurarnos de que somos fáciles de usar. Esta narrativa es un poco extraña, pero es cierto que muchas personas piensan así: no que los usuarios lo utilicen bien, sino que quieren ayudarnos más a nosotros mismos para que podamos implementar AGI, que será mucho más rápido. La lógica de esta narrativa es: ven y nos ayudan a lograr AGI, pero primero nos ayudan a lograr, y necesitamos esta ayuda para lograr AGI. Ahora es muy seguro que necesitamos la IA para ayudarnos a implementar AGI. Aunque todavía no funciona de forma autónoma, solo funciona con la gente, pero ya es muy útil.
(Sobre el aprendizaje continuo primero, luego la inteligencia general) Debido a la resolución de este problema de aprendizaje continuo, podemos acelerar en gran medida nuestro progreso de investigación y desarrollo. Si me hubiera ocupado del aprendizaje continuo primero, entonces el problema de la inteligencia general no habría sido mencionado. Tengo la ayuda de la IA, y si la IA puede aprender continuamente, su capacidad debería ser muy fuerte. La capacidad actual del agente está limitada porque no puede aprender continuamente, no puede aprender continuamente de manera efectiva. Si podemos terminar el aprendizaje continuo primero, la capacidad de la IA es muy fuerte, puede mejorar en gran medida la eficiencia de nuestra propia investigación. Haga el aprendizaje continuo primero, y la inteligencia general puede ser fácil, fácil de hacer con ella. Así que este es el resultado que queremos ver: ahorramos menos esfuerzo y nos relajamos. De lo contrario, ahora tienes que hacer inteligencia general artificialmente. Es un asunto más cansado y amargo, intensivo en datos y mano de obra, y la rentabilidad no es alta. Al menos creo que debe ser capaz de seguir aprendiendo.
(En cuanto a si el hardware doméstico puede ponerse al día) La fabricación doméstica puede tardar varios años. En primer lugar, el problema de la ecología debe resolverse en el país, porque la ecología es una cuestión de confianza, y luego resolver el problema de la capacidad de producción. No creo que estemos atrapados en la capacidad después de cinco años. Este año, el próximo año y el próximo año, todavía pueden estar atascados en el problema de la capacidad, pero después de cinco años, creo que puede no ser necesariamente, sigo siendo más optimista.
(Con respecto a la futura estructura organizativa y tamaño de personal) Nuestra estructura organizativa anterior era muy descentralizada porque no había estructura organizativa. Sin embargo, después de una mayor expansión de las personas, ciertamente es necesario hacer algunos cambios. Todo lo que puedo decir ahora es que habrá que hacer muchos cambios aquí, pero ahora es difícil expresarlos todos de una vez. Al final, debemos dividir diferentes departamentos: algunos departamentos deben establecer una estructura jerárquica más estricta; otros departamentos pueden mantener una estructura más floja y plana. A medida que aumentemos el personal, haremos este ajuste, debo decir que tendremos que hacerlo de inmediato, y ya lo estoy haciendo. Sin este ajuste, muchas cosas no pueden avanzar. De hecho, hay muchos departamentos que deberían tener una estructura organizativa.
(Sobre el ritmo de distribución) La versión V4 que enviamos en línea ahora es relativamente áspera, y muchas capacidades toman tiempo. Para mí, un ritmo de publicación más cómodo es aproximadamente dos o tres meses para publicar una edición. La última edición puede ser a finales de abril, la próxima edición puede ser a finales de junio, es más o menos así. Si no hay accidentes, todavía debería ser mejor que una versión.
En la escala de activación de 50B, creo que no habrá mucha diferencia entre nosotros y la ola actual de código abierto: en la velocidad de razonamiento y el efecto, puede que no haya mucha diferencia. Sin embargo, la brecha con su modelo de gran tamaño y no revelado todavía debería ser relativamente grande. Esa brecha, nuestro parámetro de activación no debería ser capaz de hacerlo, debe ser un modelo de tamaño más grande, como 150B. Entonces, 150B, de acuerdo con nuestro progreso de entrenamiento actual, optimista puede comenzar a entrenar a finales de este año, al menos el próximo año... la brecha es relativamente grande. Esta es la diferencia con la OCE.
P: Usted ha dicho a menudo que el proceso de implementación de AGI es un proceso gradual, en lugar de que haya una mutación. Así que puedo entender que es un proceso sin un punto de inflexión?
R: No tiene un punto crítico, pero no es lineal. Ahora estamos más convencidos de que una narrativa es que la IA puede acelerar la investigación de IA. No es lineal, ya que puedes usar IA para acelerar tu propia investigación, por lo que puede ser no lineal en el futuro.
Pregunta: Entiendo. Así que la conclusión anterior es que el modelo de lenguaje continúa Scaling es suficiente, ¿se puede lograr este estado?
R: Sólo puedo decir que el modelo de lenguaje de escala, que no veo ahora, tiene un límite superior. Nuestro nivel actual de inteligencia, o el nivel de inteligencia de los Estados Unidos, no ve un límite superior.
Pregunta: Entiendo. Usted dijo que el modelo activado por el 800B de los Estados Unidos puede ser entrenado más que nosotros, pero tampoco puede ser usado, por lo que solo puede ser entrenado, es difícil sacarlo para que todos lo usen, porque es realmente un poco caro. Un punto que estaba curioso antes: los humanos tienen capacidad de lenguaje es una cuestión de casi 100.000 años, posiblemente evolucionando por 3.700 millones de años. Pero cuando se trata de entrenar AI, la secuencia se puede invertir, pero eventualmente todavía puede entrar en - no necesariamente en el modelo del mundo - el modelo físico o la parte encarnada, ¿verdad?¿Después de ese límite?
Respuesta: Sí, creo que la encarnación debe entrar, y finalmente es la encarnación. Por lo tanto, para nuestra empresa, naturalmente, el punto final puede estar encarnado. Porque para una persona normal, su necesidad no es una computadora, ¿verdad? Las personas normales comen, beben y se divierten, viven y viven, no necesitan una computadora. Lo que necesita es abordar las necesidades específicas de mano de obra. Si el objetivo es resolver las necesidades humanas, creo que la encarnación no puede ser eludida.
Pregunta: Entiendo. En términos de etapas, si llegamos a un estado que puede autoevoluirse, que puede autoevoluirse mejor, cerca de ese punto de ascenso, estoy curioso, ¿cuál es el primero en que espera que la IA aterrice en este estado?
R: Puede que no sea lo mismo que ahora. Suponiendo que no hay encarnación, ¿qué es nuestra definición de AGI, o qué es lo que esperamos que pueda hacer AGI? Me ayudará a iterar con la próxima versión del modelo. Y luego, si hay encarnación después de eso, queremos que haga lo mismo: deje que itere la próxima versión de la encarnación, que haga la próxima versión del robot.
P: Todavía tengo un poco de curiosidad. En una entrevista anterior con DeepSeek, se mencionó que el gusto y la intuición son muy importantes en algunas opciones de dirección importantes y opciones de investigación, en lugar de una simple optimización de ingeniería. Si la IA puede autoevoluirse más tarde, ¿esto gusto, sabor e intuición todavía importan? O, ¿qué es lo que importa?
R: La IA no carece de gusto e intuición ahora, lo que le falta es la capacidad de aprender continuamente. No hay problema con el gusto e intuición de la IA: si le pides que escriba un artículo, su gusto e intuición, no creo que haya ningún problema.
P: El aprendizaje continuo, usted también mencionó, y muchos investigadores también mencionaron que es un problema de investigación que aún no se ha resuelto. Y el agente de codificación, especialmente ponerse al día con MILES, escalar al nivel de Office, nivel MIS, es un objetivo relativamente seguro. Para un objetivo de investigación que aún no se ha resuelto y un objetivo de escalación relativamente determinado, ¿cómo cree que los recursos de investigación, especialmente los recursos de talento de los investigadores, deben asignarse, y cómo lograr el mejor equilibrio y efecto?
R: El modelo Office es un objetivo relativamente determinado; el modelo MIS, no creo que sea seguro, solo puedo decir que es un objetivo. El modelo de oficina, creo que debería ser más seguro.
Este (aprendizaje continuo) no ocupa recursos. Hacer este tipo de investigación gratuita no consume tarjetas, solo requiere muy pocas tarjetas, lo que requiere son ideas; tampoco consume recursos de talento, porque no hay necesidad de que alguien esté allí todo el tiempo para hacerlo. No es un proyecto, es necesario que haya mucha gente ahí fuera pensando en el tema. Por lo tanto, no hay necesidad de asignar recursos a él, porque no necesita recursos. Necesitas recursos para entrenar modelos, hacer modelos, enviar modelos y hacer experimentos de eficiencia de modelos. Esto que acabo de decir, no consume muchos recursos para las personas y las tarjetas.
Llamamos a esto « premio de toque »: el umbral es muy bajo, cualquiera puede tocarlo, pero quien puede tocarlo, tal vez no sé si mira por el talento o por qué.
Así que aquí no tenemos que asignar recursos. Solo que lo que es diferente de otras compañías es que tomamos el tiempo para discutir el tema, pensar en el tema y tratarlo como algo importante. En la empresa, es un tema importante que nos tomamos el tiempo para pensar, pero no es necesario gastar muchos recursos para hacerlo.
El problema de la alucinación del modelo grande afecta la experiencia del usuario. El problema de las alucinaciones también tiene una forma de resolverlo, pero es una proposición a largo plazo. El problema de la alucinación puede ser considerado como un problema que puede ser resuelto a través de un mejor post-entrenamiento, un problema que puede ser resuelto y mejorado, solo que no se ha gastado mucho esfuerzo en hacerlo. O, para mí, las alucinaciones son un problema, pero podemos reducirlo a un problema de producto. Vamos a resolverlo, pero no es el punto.
También hay un problema con los datos de marca. En términos de etiquetado de datos, estamos relacionados con nuestra inversión de capital: con nuestra estructura de inversión de capital, no podemos soportar el costo de tantas etiquetas de datos de alta calidad, porque el costo es alto. Los datos estándar de China no tienen ventajas de costo, especialmente los datos de alta calidad no tendrán ventajas de costo, lo que hace que sea difícil invertir en datos de desetiqueta como los Estados Unidos. Este camino es muy difícil en China, porque los datos de la licitación son demasiado caros, ya sea que la licitación externa o la nuestra, es muy difícil.
Así que básicamente es caminar sobre dos piernas ahora. No es que no podamos marcar en absoluto, sino que los datos de marca tienen algunos costos bajos y algunos costos altos, por lo que primero tenemos un costo bajo. Por lo tanto, también puede pensar que ahora la mitad de la gente de nuestra compañía está en los datos de licitación: la mitad de los investigadores centrales, las personas más importantes, la mitad de los datos de licitación, nos centramos en los datos de licitación.Para resolver el problema de la IA, en esta etapa, se basa en los datos estándar. El núcleo es los datos.
Pregunta: La primera pregunta. Usted acaba de decir que el modelo chino es ciertamente más eficiente que el modelo estadounidense, y hay algunos otros aspectos que también pueden ser más fuertes que los Estados Unidos en el futuro.¿En qué aspectos crees que seríamos mejores que los Estados Unidos en inteligencia u otros aspectos?
R: Creo que es posible que podamos hacerlo mejor que los Estados Unidos en muchas experiencias. Y sin mencionar mi propia experiencia, la experiencia de mi producto es bastante buena, no creo que necesariamente vamos a ser peores que los Estados Unidos en términos de experiencia de usuario. En términos de productos, la capacidad del producto no es necesariamente peor que la de los Estados Unidos, y el costo también debe ser más bajo que el de los Estados Unidos, por lo que China todavía puede ser competitiva.
Otros aspectos, si hay ventajas estructurales, creo que probablemente tampoco. Sin embargo, en términos de costo y producto, creo que hay ciertas ventajas estructurales. El costo es muy comprensible: ninguno de ellos tiene que hacerlo, por lo que no desarrollan esta capacidad, ciertamente no le prestamos atención a esta cosa, podemos considerarla como algo muy importante, pero para ellos, esto no es importante. Los productos también lo son, y la capacidad de productos de muchas empresas todavía está bien. Por lo tanto, estos dos aspectos pueden tener ventajas estructurales.
Pregunta: La segunda pregunta. Acabas de hablar de post-entrenamiento, y estamos invirtiendo en un costo relativamente alto, como Anthropic y OpenAI, que están invirtiendo grandes cantidades. Después de esta financiación, ¿aumentaremos la inversión en post-entrenamiento?
R: La brecha está principalmente en el etiquetado de datos de alta calidad, principalmente en la investigación de IA. Ciertamente aumentará la inversión. Sin embargo, el etiquetado de datos de alta calidad, el cuello de botella no es la inversión de capital, creo que es tiempo, es tiempo. Para OpenAI, para el extranjero y para Anthropic, todos fueron anteriores, luego más capital y más tarjetas. En nuestro país se puede considerar que ha comenzado a hacerlo en el último semestre, por lo que en términos de tiempo, creo que necesito más tiempo. Esto no tiene mucho que ver con la inversión de capital: incluso si no hay más inversión de capital, el capital original es suficiente para que se expanda a la velocidad más rápida. Sin embargo, esta velocidad tiene un límite superior, y el cuello de botella no está atascado en el dinero ni en la tarjeta. De hecho, está en un proceso de rápida expansión. Por lo tanto, creemos que dentro de un año, el problema de los datos de alta calidad se ha hecho bien, y se debe esperar en el país. Creo que puede que no sea tan difícil, pero sí que toma tiempo.
Pregunta: Tercera pregunta. Vemos a Anthropic que usan su modelo para hacer sus propios productos, lanzando muchas finanzas verticales, legales... incluso en el futuro para ir en la dirección médica.¿También lo consideraremos en algún momento en términos de esta aplicación longitudinal?
R: Todavía no he pensado muy claramente cuál será el modelo de negocio doméstico en el futuro, o cuál es el camino más suave, no hemos llegado a esa etapa. La situación nacional y la situación en el extranjero no son necesariamente las mismas, lo que es cuando el país es, creo que todavía es difícil juzgar ahora. De acuerdo con la situación actual, creo que el enfoque más razonable debería ser hacer todo lo posible para ser un agente general, y la prioridad de otros agentes debería ser menor, incluidos los agentes financieros y médicos. Primero debes hacer la codificación, porque los agentes de codificación pueden hacer mucho, y hay muchos agentes verticales. En esta etapa, sentimos que lo más importante, todavía debería ser el agente de codificación.
P: De hecho, también hacemos cosas relacionadas con DeepSeek, y admiro que haya estado haciendo DeepSeek de una manera muy pura de investigación científica. Pero ahora esta industria ha llegado al mercado de capitales y ha llegado al camino de la capitalización. Usted es una persona muy responsable de nuevo, tanto con los socios como con los inversores. Entre la investigación científica pura, la dirección pura de AGI y el mercado de capitales, definitivamente seguirá el mercado de capitales en el futuro, y definitivamente habrá accionistas públicos, ¿cómo cree que equilibra en el futuro?¿Cómo lo piensas sobre esto?
R: Creo que ahora debería ser capaz de hacerlo, así que lo haré. Supongamos que puedo tener varios millones de dólares en ingresos en el extremo B este año, además de que tenemos usuarios en el extremo C, entonces esto ya tiene cierta base comercial en sí. El próximo año tendremos ingresos en el extremo B. Si esta demanda puede aumentar nuevamente, la compañía no está lejos del beneficio neto. Puede que ya sea un beneficio neto, y puede que no sea una etapa de quema pura de dinero. Por lo tanto, siento que el movimiento que puedo hacer y operar detrás de mí debería ser relativamente grande.
O, en el peor de los casos: vender API, puede ser capaz de apoyar a una empresa pública. Si no hay nuevos avances detrás de la tecnología, nuestra tecnología se congelará aquí, entonces al final nos esforzaremos por vender API y hacer estos servicios bien, creo que es suficiente.
Así que siento que todavía tengo confianza, realmente no es tan difícil. Debido a que es cierto que está en un lugar con un alto apalancamiento y en un campo de rápido crecimiento, puede que no sea tan difícil. Sólo puedo decir que,Queremos tener un sueño más grande, pero también tenemos un rendimiento que podemos sacar.
P: Creo que la mayor diferencia entre DeepSeek y otras compañías es que nuestra organización es diferente de las demás. Sin embargo, la forma de organización no solo está relacionada con los objetivos, sino que también tiene en cuenta los límites y la eficiencia de la propia organización. Desde un punto de vista macro, ¿tendrá esta forma de organización un buen objeto de aprendizaje?¿Históricamente posiblemente Bell Labs, o qué tipo de forma es más ideal?¿O nos sentimos no ideales, más dependiendo de nosotros para explorar gradualmente? Tal vez en un nuevo período, solo podemos depender de nosotros mismos para explorar, porque nuestra forma de organización es ciertamente diferente de varias compañías en los Estados Unidos, y las tres compañías no son las mismas, pero al menos explorarán desde el punto de vista de una empresa comercial. Me gustaría preguntar principalmente sobre la organización.
Respuesta: En primer lugar, no tenemos objetos para imitar. Cada paso es que comenzamos a partir de la situación real, buscamos la verdad de los hechos, tomamos decisiones de acuerdo con la situación real y encontramos lo que debemos hacer. Por lo tanto, es producto de una época, una reacción a una situación real, no el resultado de una imitación.
En este caso, la solución óptima puede ser así; el camino que escogimos por nosotros mismos es así. En cada paso, definitivamente hemos pensado y elegido, y el resultado de la elección es elegido de esta manera. No se trata de ver quién elige de esta manera, elegimos de esta manera, sino de analizar los pros y los contras y elegimos de esta manera. El futuro puede ser lo mismo, y no estamos imitando a quién.
Creo que somos diferentes de Bell Labs: claramente no necesita ser comercial, pero claramente lo hacemos. Al final, tenemos que sobrevivir, somos una empresa, después de todo, y el gobierno no me dará un centavo. Así que podemos tener una misión muy ambiciosa, pero en última instancia, ser una empresa, pensar en cómo vivir. Por lo tanto, el extremo B ciertamente es importante para nosotros, porque podemos tener que vivir de él en el futuro. Solo digo que no importa ahora, porque ahora es una línea de costo.
Así que creo que todavía no es lo mismo que Bell Labs, todavía somos esencialmente una compañía. Hay muchas empresas en la historia que buscan más allá de las ganancias, pero no puede decirse que buscan más allá de las ganancias, por lo que no es una empresa.Muchas empresas lo hacen muy bien porque tienen una búsqueda más allá de las ganancias; esa búsqueda no solo no afecta su comercialización, sino que lo hace mejor.Todavía somos esencialmente una compañía, simplemente diciendo que estamos pensando en qué dinero ganar, cuándo ganar, cuánto ganar, con qué ganar, simplemente diciendo que tenemos una elección.
Pregunta: Dos pequeñas preguntas. En primer lugar, mencionó que MILOS puede no ser un objetivo muy seguro, pero definitivamente lo haría en esta dirección, y también mencionó que los parámetros de activación de próxima generación podrían estar alrededor de 150 a 250B. ¿Crees que 150 a 250B es el estándar O4.7, o puede ser el estándar a otra cosa? En segundo lugar, ahora usamos algunos lenguajes compilados que no sean CUDA en toda la inferencia. Originalmente, basado en la ecología de Nvidia, puede usar más PTX; ahora usar más TileLang, ¿reducirá en gran medida nuestra eficiencia en la inferencia, o reducirá la eficiencia a corto plazo?¿Qué opina de la pérdida de eficiencia que trae este cambio en el lenguaje compilador, o es que a largo plazo es realmente un estado que puede mejorar la eficiencia?
Respuesta: Mejorar la eficiencia, es mejorar en gran medida la eficiencia.
P: ¿No tiene ningún efecto negativo?
R: Sí, es una gran mejora de la eficiencia. Así que esto es una oportunidad. Equivalente a que antes no podías prescindir de la ecología de CUDA, ahora podemos descartar su ecología y usar un método más simple, simplemente usar TileLang. Es un lenguaje de alto nivel, también es rápido para escribir programas, la cantidad de código a escribir es pequeña, puedo reescribirlo de nuevo.
Pregunta: Entiendo. Por lo tanto, estos dos son en realidad, como mencionaste, una gran oportunidad que trae la IA, no una desventaja que debe compensarse a corto plazo.
R: Sí, es una gran oportunidad para el desarrollo de la tecnología. También tenemos un proyecto en el que estamos usando AI para escribir TileLang.
Pregunta: ¿Es más rápido?
R: Ahora todos los TileLang están escritos por humanos, pero ya es mucho más rápido que el original que escribió CUDA.
Pregunta: Entiendo. Entonces, incluso para la eficiencia de ejecución del hardware subyacente, ¿no tiene ningún impacto?
R: Una pérdida del 1 al 2 por ciento, creo que es aceptable.
P: Lo entiendo, lo entiendo. Gracias, es muy claro.
¿Hay algún problema con los demás?... No hay problema, vamos a hacer esto hoy. Muchas gracias a todos por su tiempo.