Первое намерение и видение: группа простых людей, работающих с доброй волей
Я и другие коллеги в нашей компании начали работать в этой компании, не думая, сколько денег я в конечном итоге заработаю, что я буду выходить на рынок капитала, что я буду публиковать, что я буду делать.У нас не было такого первоначального намерения.Первые десятки людей вообще не думали об этом - если бы он так думал, он бы не пришел.
В целом, мы делаем это с очень большим желанием добраться до мира.Мы считаем, что это полезно для человечества, что это нечто большее, чем деньги.Конечно, после того, как выяснилось, что это очень важно, есть и другие соблазны, это другое дело.Но мы пришли изначально, наше видение, и это видение, которое мы поддерживаем до сих пор, не было сделано таким образом, чтобы максимизировать коммерческие выгоды.Я думаю, что это более критическое.
Около двадцати лет назад я больше всего восхищался Джеком Уэлчем, бывшим генеральным директором GE.Теперь, оглядываясь назад, большинство из того, что он сказал, возможно, было неверно, но он был прав в наиболее важном:Самое главное для компании - это ее видение.
Управление большой компанией зависит не от ваших правил, а от видения.Что такое видение?Видение - это не плакат, висящий на стене, видение - это то, что вы делаете, а не то, что вы говорите, а то, как вы действительно управляете.Я забыл, что сказал Джек Уэлч, но, вероятно, это имел в виду.
Как мы управляем столь большим количеством людей, как мы организуем их?На самом деле, у нас нет организации, это движущаяся видением, организация основана на видении.Это имеет свои преимущества и недостатки, и в будущем мы будем искать пути для того, чтобы использовать свои сильные стороны и избежать недостатков, но это наша особенность.Мы делаем это не с помощью «каких КПИ я хочу достичь» - нет оценки, только видение.
Это видение даже не было записано, и ничего не было написано.Это видение заключается в том, как мы делаем вещи, в том, как мы относимся к миру.Возможно, каждый в нашей компании понимает это видение по-разному, у каждого есть разное видение, но оно едино в одном большом направлении: с очень большой доброй волей к миру, а затем хочет что-то сделать.Мы используем это, чтобы организоваться.
Теперь я буду говорить, и после того, как я закончу, я буду задавать вопросы.Я расскажу о том, что происходит вокруг этой концепции.Это видение реально, а не выдуманное, мы действительно думаем и делаем так, иначе вы не сможете объяснить нам многое.
2 Почему выбираете источник?
Почему мы столь настаиваем на открытом источнике?Потому что это видение само по себе требует открытого исходного кода.У вас нет этого видения, вы не можете организовать людей.Например, Смартфон также открытый исходный код, но Смартфон отличается от нашего открытого исхода.У интеллектуалов открытого источника есть ощущение принуждения, что они не думают, что это было намерение; но для нас это было намерение.
Мы с самого начала очень четко думали о открытом исходе.Во-первых, это видение; во-вторых, мы считаем, что открытый исходный код полезен для того, чтобы сделать ИИ коммерческим.
Это звучит немного парадоксально, немного неинтуитивно, потому что исторически открытый исходный код и коммерциализация были в конфликте.Но я думаю, что AI не такой, как раньше.Исторически, компания, занимающаяся разработкой программного обеспечения, может иметь рынок в несколько миллиардов долларов в год, и, как только открытый исходный код исчезнет, она может остаться только десятками или сотенми миллионов долларов.Но ИИ настолько велика, что в конечном итоге он может составлять 10% ВВП человечества, что на самом деле это очень большая цифра.Вы не можете монополизировать это, вы должны поделиться с другими, иначе вы точно не выживете.
Это не то же самое, что ранее делать программное обеспечение с открытым исходным кодом, рынок этого программного обеспечения не такой большой, но ИИ действительно слишком большой.Если мы хотим монополизировать этот интерес, то мы должны быть брошены историей.Это объективный закон, это исторический взгляд.Это не означает, что я могу монополизировать этот рынок, если я не буду открытым исходным кодом - это теоретически не соответствует объективным фактам, вы обязательно столкнетесь с большим сопротивлением, и обязательно будут другие способы помешать вам достичь этой цели.
В этом случае не обязательно следует следовать традиционному деловому мышлению.Вам нужно иметь механизм, который гарантирует, что выгоды, которые вы можете получить, ограничены, чтобы вы могли сделать это.Необходимо сдержанность, я думаю, что это необходимо.
Если мы хотим сделать ИИ в наших руках, то, прежде всего, я думаю, нужно сдержанность.Я не могу думать о том, какой процент ВВП человечества принадлежит мне, какой процент ВВП Китая принадлежит мне - чем больше вы думаете об этом, тем больше это не будет.Поэтому мы с самого начала почувствовали необходимость сдержанности.Чем больше вы сдержанны, тем больше шансов вы это сделаете. Это коммерческое соображение, но, конечно, это макроэкономическое соображение.
Я думаю, что это интуитивно, по крайней мере, моя интуиция, по крайней мере, я действительно так думаю.У нас не так много других преимуществ: у нас нет никаких навыков, мы не богаче других, и мы не говорим, что у нас есть лучшие сотрудники, чем у других компаний, на самом деле нет.Вы думаете, когда мы основали эту компанию два года назад, у нас не было большого количества денег, не было большого количества карт, не было славы, не было привлекательности, мы были очень обычными людьми.
Это действительно группа обычных людей.«Если бы существовал любимый нарратив, то он был бы: группа обычных людей сделала необычные вещи, а не группа гениев, которые сделали необычные вещи.Это связано с нашей сдержанностью, с нашей сдержанностью, с нашей концепцией.
Сдержанность: ценообразование API и «десятимесячный возврат»
Есть ли конфликт между коммерциализацией и открытым исходным кодом?Я думаю, что в ИИ, если вы не сдерживаетесь, вы не можете встать.
Открытые исходные коды являются частью сдержанности.Наша сдержанность проявляется не только в отношении открытого исходного кода, но и во многих других аспектахВ целом, нам не нужно думать о открытых исходных кодах, о сдерживании - чем больше вы сдерживаете, тем легче это сделать, по крайней мере, до сих пор, это подтверждается и объясняется.В противном случае невозможно объяснить, почему мы смогли это сделать: у нас было мало оружия, начало было очень низким, ресурсы были очень мало, и наши люди были случайной группой простых людей, и я сам был выпускником университета, а не высшей школы.
Эта сдержанность является также частью нашего видения.Это слишком большое дело, и выгоды слишком большие.Мы очень сдержанны, и, если мы сможем это сделать, конечная выгода будет очень велика.Если вы поделить немного, выгоды будут очень большими, поэтому сейчас вам вообще не нужно думать, какую часть выгоды из этого, как взять, этот выгод достаточно большой, вы просто поделить немного, и это будет достаточно.
Так что мы ранее говорили, что мы зарабатываем только разумную прибыль, смотря только на ваши пожелания, а не на большую прибыль, это разное.Логика ценообразования наших API заключается в том, что разумная прибыль, вероятно, от того, что мы выходим на рынок и покупаем партию оборудования,10 месяцев возмещения расходов.。В нынешних условиях, учитывая риски, первоначальные затраты и т. д. - сервер, мы амортизируем его в финансовом плане на три или пять лет, но в коммерческом плане мы считаем, что для возмещения расходов нам достаточны примерно десять месяцев.Вот логика ценообразования наших API - наши V3.2 Flash и все остальное - это стоимость 10 месяцев для восстановления устройства.
Таков наш стандарт.Это не максимизация прибыли - если максимизация прибыли, то цены должны быть выше.Поскольку в этом ценовом диапазоне спрос пользователей не является гибким: если я увеличу цену вдвое или вдвое, то количество токенов, потребляемых, не имеет большого значения; если я увеличу цену вдвое, то мой общий доход почти удваивается.
Я вам расскажу историю.Наш DDCP, наша модель, сначала мы были обеспокоены слишком большим спросом, поэтому сначала установили цену довольно высокой, и все в команде не были очень довольны.Потом я снова снизил цену, до четверти, и все были счастливы.
Я думаю, что это и есть наше истинное видение, о котором я говорил ранее: мы делаем это полезным для людей, а не для того, чтобы мы зарабатывали больше денег; мы делаем это доступным для всех при разумной прибыли.Это было то, что думали остальные в нашей компании - когда мы снизили цены, многие в нашем сообществе аплодировали, и все чувствовали себя счастливыми.Потому что именно для этого мы потратили столько энергии и столько внимания, чтобы сделать эту модель очень дешевой, очень эффективной и доступной для всех.Мы считаем, что это очень приятное.Это наша мотивация, это наше видение, это консенсус, с которым наша компания может объединиться, чтобы сделать это.
Это должно быть более специфическим.Поскольку снижение цен, безусловно, не является хорошим делом для остальных наших конкурентов, они не должны приветствовать - ваш доход, ваш ARR, снижается наполовину, и ARR падает наполовину.Это то место, где мы отличаемся.
Мы считаем, что этого достаточно.Внутри компании, 10 месяцев возмещения затрат, в этом бизнесе я уже очень доволен; для внешней компании, мы также чувствуем, что цена более счастливая, более счастливая, чтобы увидеть, это беспроигрышная - компания и общество, и все выигрышные.
Только что кто-то оставил сообщение на экране, что 10 месяцев возвращения капитала эта прибыль слишком высока.Действительно, есть пространство для снижения цен, есть также пространство для оптимизации модели, поэтому общее пространство для снижения цен по-прежнему достаточно большое.Но эта стоимость - 10 месяцев возврата - мы можем это сделать сами, а другие не могут.Подобно Али или Tencent, он не наша оптимизация, его стоимость должна быть в несколько раз выше, чем это, и здесь все еще много работы по оптимизации.
Я только что сказал, почему мы не продолжаем снижать цены?Это потому, что он не гибкий: если я еще раз снижу цены, спрос не будет больше или увеличится очень мало.Потому что эта цена доступна всем, все чувствуют себя удовлетворенными, не потому, что эта цена дорогая, чтобы не использовать.Так что снижение цены, во-первых, не будет больше доходов для компании, не будет больше ценности для общества - цена, которую все удовлетворяют, как ниже вы можете, не увеличивает счастье общества.
В вопросе о ценообразовании мы, конечно, не исходим из наиболее высокого дохода или прибыли компании в качестве отправной точки.И это часть нашей сдержанности.В краткосрочной перспективе у вас будет немного больше цен, а вы получите немного больше доходов; но в долгосрочной перспективе это будет очень сложно сказать.Потому что я считаю, что сдержанность - это стратегия.Для меня сдержанность - стратегия.Иногда вы можете отказаться от чего-то, чтобы обменять больше чего-то еще.Это открытый исходный код, на самом деле, тоже может считаться нашей выгодой.
Во-первых, это прибыль для нашей компании, мы очень счастливы, все очень счастливы, сотрудники чувствуют себя очень успешными, поэтому у нас будет сплоченность; во-вторых, это прибыль полезна для общества, общество также очень счастливо, другие коллеги, простые люди будут очень счастливы.Поэтому я понимаю, что такая сдержанность в долгосрочной перспективе может увеличить вероятность того, что мы станем АГИ.
У меня нет сомнений в том, что AGI будет иметь большую коммерческую ценность.Исходя из этого, мой приоритет заключается не в том, как я могу получить больше долей, а в том, как я могу увеличить вероятность того, что я могу сделать это.
IV. Другие проявления сдержанности: не грабить пользователей, не собирать все сезам
Эта сдержанность также проявляется во многих других аспектах.Например, в прошлом году на Весенний праздник внезапно было много пользователей, но мы не стремились удержать этих пользователей, использовать их для денежной реализации, грабить эти коммерческие выгоды.Мы не пытаемся грабить пользователей, не пытаемся зарабатывать деньги, но мы стараемся найти способы обслуживать пользователей хорошо.Мы не думаем, что я буду следующим супер-приложением, с кем я буду конкурировать, что я буду следующим байтом, следующим Tencent.Такой идеи совершенно нет.
Мы могли бы это сделать, но мы этого не сделали.Насколько я понимаю, это тоже часть сдержанности.Вы не должны думать о том, чтобы заработать все - как будто с пользователями, вы можете сделать следующий байт, и вы съедете его.Это работает с коммерческой точки зрения: если в прошлом году мы потратили большие деньги и байты, чтобы ограбить пользователей, то это тоже была игра.Но мы выбрали очень сдержанный подход, и я не буду спорить с вами об этом -Потому что позади есть арбуза, а спереди может быть сезам.
Я не должен грабить все сезам.Конечно, может быть, этот сезам больше, но я думаю, что передняя часть не так велика по сравнению с ИИ за спиной.Теперь, в прошлом году мы не работали на C-конец, и, возможно, мы были правы, потому что можно увидеть, что на самом деле есть большие арбузы позади, а на самом деле есть небольшой сезам спереди.Если у меня было много денег в прошлом году и я сделал это очень большим, что было бы полезно?Вы ничего не получили.Это мои реальные мысли, потому что я чувствую, что возможности AGI впереди очень большие, и всегда будут очень большие.
Мне даже не нужно думать о том, какое место я буду занимать в нем, какая будет бизнес-модель, вообще не нужно думать.Пока есть такая большая бизнес-возможность, у вас должно быть решение.Мы тоже собираем сежу, но только немного, не останавливаясь и не делая этого важным делом.
Так что в прошлом году в день C-конца это было, я думаю, что это было небольшое дело.Но мы также взяли и поддерживали пользователей за относительно низкую стоимость, потому что, возможно, они будут полезны в будущем, хотя мы не знаем, какой пользы этот пользователь будет иметь, сейчас это чистая стоимость расходов, но они могут быть полезны в будущемПоскольку это легкодоступно, мы его получим.
В том числе и в этом году, вполне вероятно, что у нас есть шанс для доходов от API или AI: если спрос будет продолжать расти, и графические карты будут покупаться больше, то вполне вероятно, что ARR достигнет нескольких миллионов долларов.Если ИИ получит миллиард долларов, то в основном мой денежный поток будет положительным, и он покроет мои расходы на исследования и разработки, покроет все мои расходы.Это тоже возможно, но мы не делаем этого в качестве приоритета.Это мы сделаем, мы сделаем это хорошо, но это не первоочередное значение и не то, что нас действительно волнует сегодня.Более широкие возможности должны оставаться впереди, - возможности, которые предстоят нам, в том числе в прошлом году в конце C, в этом году в конце B, не являются нашей целью.Или большинство людей в нашей компании не считают это столь же важным вопросом, как AGI.
Открытый исходный код: прибыль в шесть раз, без конфликтов
Открытый исходный код можно сказать больше, потому что много вопросов, задаваемых раньше, были открытыми исходными кодами.Во-первых, мы являемся открытыми исходными кодами, и наши самые сильные модели могут быть открытыми исходными кодами.Потому что я не вижу преимущества в закрытом исходе - байт, его модель закрытого исхода, что преимущества?Я не вижу этого.
Даже если модель с открытым исходным кодом, вы рассказываете всем другим, порог очень высокий.Другим сложно использовать их; во-вторых, он должен использовать их, а также сделать это очень дешево, также очень трудно, очень трудно, не так легко.Не то, что я открыл исходный код, и он мог бы легко получить такую же стоимость развертывания, что и я, и здесь еще много работы предстоит сделать.Несмотря на то, что эти принципы работы понятны, не все компании готовы или имеют желание и способность организовать рабочую силу для достижения этой цели.Он может быть не очень хорош в этом, потому что сопротивление слишком большое, трудно контролировать эти затраты, и есть много управленческих и физических ограничений.
Это также преимущество стартапа: если стартап слишком мал, у вас нет сил, чтобы сделать это; если это большая компания, вам трудно организовать.Все это имеет сложности, поэтому это сладкая точка, принадлежащая компании нашего размера.Если бы мы были больше, то, возможно, не было бы этой проблемы; если бы мы были меньше, то у нас было бы недостаточно сил.
Что касается цены, то я также не взимаю очень высокую плату, и взимаю плату на основе десятимесячного возврата.Если бы я взял десять месяцев назад, я бы мог сделать это невыгодным для независимой третьей стороны, которая не сможет сделать это, она не сможет покрыть эту стоимость, конечно, она не сможет.Таким образом, открытый источник не повлияет на мой доход.Конечно, если я хочу зарабатывать в сто раз больше прибыли, то открытый исходный код будет...
Открытый исходный код, я не чувствую, что это окажет какого-либо влияния на нашу бизнес-модель.При условии, что мы получаем только шесть раз больше прибыли - десять месяцев возмещения расходов, что, вероятно, соответствует шесть раз большей прибылиОткрытые исходные коды не будут иметь большого влияния, если вы получаете только шестькратную прибыль.Но если вы хотите зарабатывать в сто раз прибыль, то открытый исходный код действительно повлияет на то, чтобы вы зарабатывали в сто раз прибыль, потому что третьи стороны развернут, и он может стоить в двадцать раз дешевле, чем вы.
Является ли эта модель устойчивой в долгосрочном плане?Я думаю, что это вполне возможно.В соответствии с нашим видением, открытые исходные коды являются устойчивыми в долгосрочной перспективе, и мы готовы сделать это.Можно утверждать, что сдержанность также отвечает долгосрочным интересам.Эта стратегия дает нам больше возможностей в техническом плане, и мы имеем больше шансов стать АГИ, и мы более спокойны.
Вы думаете, нам вообще не нужно работать сверхурочно, потому что это не так сложно.Но для других семей это может быть трудно, потому что он слишком много думает.На самом деле, это не сложно, совсем не сложно.Внешне может показаться, что мы выбрали очень сложную модель: делать исследования, делать самые сложные вещи, как бы это была жесткая модель.Но на самом деле, мы многое отдали в других местах, что делает нас очень сильными, мы все еще делаем это очень легко.
Так что, по поводу открытого исходного кода, мое суждение: это постоянное.Нет никакого конфликта между открытым исходным кодом и коммерческими платежами - при условии, что прибыль в шесть раз не будет конфликта.Шестькратная прибыль кажется высокой, но на самом деле не высокой.Теперь, когда ИИ настолько эффективен, разумная прибыль может быть такой большой.В будущем он может упасть в четыре раза, в три раза, и вряд ли упадет, но он все равно будет иметь большую прибыль - просто смотреть на продажу API.Я не думаю, что продажа API так привлекательна, но я могу сказать об этом: я не вижу никаких конфликтов.
Я также не обеспокоен тем, что другие развернут нашу модель, чтобы конкурировать с нами, и мы надеемся, что они будут развертывать ее.Мы помогаем сообществу с открытыми исходными кодами, когда это возможно, в развертывании нашей модели.Я не боюсь, что он у меня будет этот бизнес, потому что рынок достаточно большой.Я просто беспокоился, что он не сможет развернуть его - что некоторые детали будут неправильно, что это будет плохо или что это будет дороже.Здесь конфликта не было.
В прошлом году, когда мы работали с To B, мы задавали следующий вопрос: наш C-конец -- я открытый исходный код, так что C-конец конфликтует с моим собственным C-конецом?Поскольку у меня нет преимуществ в трафике, Tencent сам имеет много трафика, он развернул нашу модель с открытым исходным кодом, взял всех пользователей C-конец, отобрал моих пользователей C-конец.Но на самом деле нет, и есть много причин.
Еще один вопрос: будет ли модель с открытым исходным кодом, которую мы предлагаем, такой же, как и модель, которую мы развертываем сами?Это одно и то же.Мы не будем использовать плохую модель с открытым исходным кодом, чтобы развернуть свою собственную, используя лучшую модель, нет, все равно.Это также свидетельствует о том, что на самом деле нет конфликта.В течение всего прошлого года мы в основном работали с открытым исходным кодом, и сервисы на стороне C не видели конфликтов, действительно не видели конфликтов.Это часть открытого исхода.
VI. Наша цель AGI: технологическая дорожная карта
Ниже представлена долгосрочная концепция компании.Я думаю, что наша цель должна быть АГИ.Определение AGI может быть разным для всех, но это не мешает нам сделать AGI нашей целью.
С технической точки зрения дорожная карта AGI довольно ясна.Нынешнее поколение технологий ИИ, если вы сможете четко описать проблему, дать ей полный контекст и инструкции, уже превосходит людей.Но здесь есть предпосылка: вы даете ему полный контекст, полные инструкции - это предпосылка, которую трудно достичь.Например, мы собрались сегодня, и у нас есть очень длинный, очень сильный контекст впереди, возможно, у вас есть контекст на несколько десятилетий, которого нет у ИИ.Теперь ИИ может сделать это лучше, чем человек в ограниченном контексте.
Но она не может заменить человека.Здесь еще не хватает одного места: постоянное обучение.Люди могут постоянно учиться.Вы нанимаете сотрудника, он может потратить два месяца, чтобы ознакомиться с условиями работы, знакомятся с работой, и он может начать работать и многое сделать.Он понимает то, что вы говорите - вы говорите: «Призовите этого маленького короля», и он знает, кто это маленький король.Но если это искусственный интеллект, потому что у него не было этих двух месяцев обучения, вы говорите ему: «Призовите Вана», вы должны сказать ему, кто он, какова должность, где он, как его найти и на что обратить внимание, когда он ищет.Вы должны дать AI все контекст.В этом случае, ИИ может сделать это, но вы не можете дать ему все контекст, что нереально.
И ИИ не может заменить ваших сотрудников.Но если искусственный интеллект способен непрерывно учиться, то он, как и ваш сотрудник, будет учиться в компании в течение двух месяцев, тогда он может заменить людей во всем мире.Таким образом, нам остается еще один шаг «учиться».
Развитие искусственного интеллекта можно понимать как лестницу.Лестница, которую мы вышли в прошлом году, была CoT, или цепочка мышления: мы обнаружили, что с помощью цепочки мышления мышления мы можем выйти на более высокий уровень интеллекта, мысляя самостоятельно, позволяя ИИ делать больше.Мы перешли еще одну ступеньку.В этом году лестница - агент: с помощью агента можно сделать больше, его возможности больше, его интеллект выше.
Почему лестницы?Каждый шаг вперед основывается на предыдущем.Агент использует CoT, и CoT также использует лестницу, которая находится перед ним - это языковая модель.Поэтому ни один шаг не был безнадежным.
Умный путь - это путь к истине.В этом году эта лестница - агент, но и агент - это лестница, которая закончится: он не заменит ваших сотрудников после того, как решит все возможные проблемы - он достиг верхнего предела своих возможностей.Как и CoT, когда CoT достиг своего верхнего предела, он превзошел лучших людей - в математике, в программировании, он превзошел лучших людей - но он остался там, и эта технология не достигла AGI.
После создания агента мы решили вопрос о непрерывном обучении: как заставить модель непрерывно обучаться, а не просто дать ей сильную тренировку - она должна быть в состоянии непрерывно обучаться в течение длительного времени, как и человек.Это то же самое, что и выполнение задач и т. д., они связаны и решают одну и ту же проблему.Следующее узкое место, которое мы видим сейчас в Агентстве, - это постоянное обучение.Следующий вопрос, который необходимо решить, - это как непрерывно учиться, и это очевидно, но относительно ясно.Это препятствие впереди, которое вы должны преодолеть, и есть способ преодолеть, но это займет время.
После непрерывного обучения, возможно, мы придем к сингулярности: когда эта модель сможет непрерывно обучаться, она будет способна делать все, что может сделать человек.Он может разрабатывать свою собственную версию, исследовать ее самостоятельно, разрабатывать свою следующую версию, разрабатывать более мощные модели искусственного интеллекта.Таким образом, он достигнет сингулярности и сможет осуществить свою собственную итерацию.
Но эта сингулярность, это не сингулярность, это также постепенный процесс, может быть, довольно длинный градиент, а не мутация.Но по привычке мы все думаем, что это может быть сингулярность, потому что раньше пророки думали, что здесь будет сингулярность.На самом деле, это не сингулярность, это непрерывный процесс.И после этого шага, я чувствую, что это воплощенный интеллект.
Вот наши предположения, это график, который мы считаем:Во-первых, мы должны решить вопрос «учиться, чтобы учиться», затем мы должны прийти к сингулярности интеллекта - к самоитерационной сингулярности - и затем мы должны прийти к воплощенному интеллекту. После того, как он воплотился в интеллект, он вошел в реальный мир, мог бы сделать вам домашнее дело, мог бы дать вам пенсию.
Мы считаем, что это более идеальная дорожная карта.У каждого нет единого мнения, нет правильного или неправильного мнения, только мы считаем, что эта дорожная карта является наиболее легкой: на каждом этапе вы должны сделать очень мало новых вещей.Эта дорожная карта, мы можем не работать сверхурочно.Но если дорожная карта обратная, например, чтобы сначала достичь воплощенного интеллекта, то это очень устало, это очень тяжелая работа.Мы не хотим, чтобы это была такая дорожная карта, мы хотим, чтобы это было немного легче.
Сначала речь идет о непрерывном обучении, затем речь идет о самоитерационной сингулярности, а затем речь идет о воплощенном интеллекте, и это очень легко.Потому что вы можете использовать предыдущие технологии, чтобы помочь в разработке технологий задним.Если мы сделаем воплощенный интеллект после сингулярности, то мы не должны делать это людям, не должны делать это нам, и модель может выйти сама.
Итак, это ответ на наши долгосрочные цели: это наша долгосрочная цель, что мы называем AGI.
VII. Уменьшение размеров удара: C-конец и B-конец являются побочными продуктами AGI
Все вернемся к реальности.Реальность прошлого года заключалась в том, что все должны были быть чат-ботами, чтобы захватить трафик на стороне C; реальность в этом году заключалась в том, что все должны были захватить доход от To B, чтобы участвовать в этом, потому что если они не участвуют, то они вообще не на столе, верно?
Но мы не считаем, что это важное дело.В нашей компании мы действительно заинтересованы в дорожной карте AGI, о которой я только что говорил, и в том, как мы продвигаемся вперед.
Странно: то, что вы больше всего хотите получить, вы не можете получить; то, что вам не так важно, довольно легко получить.Здесь есть стратегическое преимущество: мы думаем о AGI, делаем это AGI, и когда мы делаем это приложение, делаем C-концовку B-концовку, мы не должны слишком много думать, тратим очень мало энергии.
Вы стоите на высоком уровне технологии, делаете относительно низкий уровень технологии, есть удары по снижению измерения.По крайней мере, в прошлом году мы видели, что это действительно так: мы не тратили много усилий на C-конец, даже на один момент не хотели поддерживать пользователей, но пользователи не могли уйти - действительно, не могли уйти, поэтому в конечном итоге все остались.В этом году доходы в конце B, сейчас, кажется, рост еще более оптимистичный, по сравнению с коллегами, я думаю, также должен быть более хорошим.Но мы не тратили на это большого количества энергии, мы просто не делали это специально, мы делали это случайно.
АГИ этот шаг, который я должен пройти, это ступень.По дороге в АГИ, я собираюсь пройти через эту ступень.Я предоставляю все эти технологии через API, и я не делаю никаких дополнительных действий.Мы все еще работаем над ИИ, это побочный продукт.Мне просто нужно несколько человек поддерживать этот API, даже нет обслуживания клиентов, не нужно продавать, ничего не нужно, пользователи придут сами.
С-конец и B-конец являются побочными продуктами нашего пути к AGI, это промежуточный результат, и я не вступаю в конфликт с AGI.Я не делаю это для C-конца или для B-конца; мы делаем AGI для AGI, и мы можем сделать это, и я выпускаю его на коммерческую основу.
Это отличается от других компаний.Другие компании делают эту модель, чтобы обслуживать пользователей C-коне, обслуживать пользователей B-коне; но для нас это не было первоначальным намерением, мы преследовали AGI.
Я считаю, что это в определенной степени удар по уменьшению. AGI - это более широкое видение, которое может объединить больше хороших людей, и у него есть больше сплоченности.Так что у меня есть организационное преимущество, и я использую это преимущество - это удар по снижению размеров.
Но если вы коммерческая компания, и ваше видение - обслуживать пользователей C-коне, это другая история.У него есть другие преимущества - в продуктах, в обслуживании пользователей, в трафике - но нет преимуществ в технологии.Сейчас более благоприятная ситуация заключается в том, что технология модели является наиболее важной, и вы должны сделать модель хорошо.Это объясняет нашу предыдущую траекторию: мы действительно выбрали AGI, не думая о том, чтобы сделать много пользователей.
Когда мы внезапно пожарили в прошлом весеннем празднике, это не было в нашем сценарии, мы вообще не думали об этом, мы просто хотели сделать эту технологию хорошо.Но тогда я понял, что наша организация имеет дополнительные преимущества в плане талантов и организации по сравнению с полностью коммерческими, ориентированными на продукты организациями.
Это также было волшебным: в то время все были граблены в крови, и в итоге был унесен человеком, который не был ограблен.Это действительно подтверждает логику, которую я говорил ранее, и действительно есть преимущество в плане талантов и организации.
Преимущество талантов не в том, что мои люди умнее его, а в том, как я организую этих талантов, как вдохновляю их, как сотрудничать с ними, это преимущество.То, что вы собираете умных людей вместе, не означает, что они естественно готовы сотрудничать и быть очень страстными к достижению цели, поэтому вам нужно видение.Наш предыдущий опыт показал мне следующее:Это видение AGI очень сильное.
Основные преимущества: стабильность команды
Следующий вопрос: каково значение основных интересов?
Как я уже говорил, нам необходимо быть очень сдержанными во многих отношениях.Но в чем наши основные интересы?На самом деле, есть только одно:Главная цель - сохранить стабильность команды.Это наш самый главный и, возможно, единственный основной интерес.
Пока я могу поддерживать стабильность команды, я обязательно смогу сделать это, обязательно смогу сделать AGI, так просто.До тех пор, пока все не уйдут, мы можем продолжать это делать, я обязательно смогу.В основном не было никакого риска, только немного раньше или позже; если у меня возникнет неудача, и все не уйдут, то я могу продолжать.Деньги, конечно, не являются проблемой, ресурсы не являются проблемой, и все остальные элементы легко доступны.Для нас есть только один главный интерес, и только один, который нельзя уступить: мы должны поддерживать стабильность команды.
Это также очень большой вызов, с которым мы сталкиваемся, и я считаю, что это самый большой риск.Разумеется, этот риск был значительно уменьшен с нашим недавним финансированием - потому что у всех осталось больше опционов и большая сумма.
С точки зрения стабильности команды, до тех пор, пока некоторые из наиболее важных сотрудников, самые старые сотрудники, могут быть стабильными, остальные менее склонны уходить.Он не уйдет, даже если у других будет меньше опционов и меньше доходов, потому что он не идет за деньгами - все хотят сделать это в среде, в которой можно сделать AGI.Поэтому для людей он привлекателен.Исторически, мы имеем меньше потоков талантов, и всегда меньше, чем наши коллеги.Но это остается нашей самой большой проблемой, единственной проблемой, так сказать.Все остальное - это вопрос времени, что в лучшем случае приведет к опозданию на полгода или год, но не могу сказать, что мы не можем сделать это.Конечно, нет нехватки денег, нет нехватки ресурсов, это не хватает.
Поэтому многое, что мы делаем сейчас, это для того, чтобы сохранить стабильность команды.Помимо этого, я думаю, что все остальные мы можем отказаться от них и сдерживаться от них.Мы всегда были очень сдержанными и не хотели быть противниками ни одного крупного или небольшого интернет-компании.Я надеюсь, что могу дать ему возможность помочь вам, помочь вам сделать это.Это также часть коммерческого смысла, о котором мы говорили ранее.Исходя из этого, мы готовы помочь кому-либо - даже нашим конкурентам, включая Али, Мужчины и Темную сторону Луны - сделать это лучше.Потому что мы ничего не теряем: мы также являемся открытым исходным кодом, и мы должны максимально четко определить границы, и мы надеемся, что вы сможете восстановить их; если вы не можете, вы говорите, и я покажу вам, как это сделать.Это часть открытого исходного кода, и это не потому, что вы конкуренты.Конечно, если бы я был партнером, я делал бы больше.Однако конфликта между большими интересами не существует.
В наших отношениях с внешним миром наша позиция заключается в следующем:Мы просто делаем основную линию AGI. Модель языка, CoT, Agent и т. д., которые я только что упомянул, являются только основными линиями.ИИ - это широкая область, и есть много вещей, которые мы не считаем на этой основной линии - например, 3D, видеогенерация, и я думаю, что это может иметь мало общего с интеллектуальной основной линии, и мы не будем делать это.Есть и другие, например, мировые модели, которые, как мне кажется, не имеют большого отношения к верхнему пределу интеллекта, поэтому мы не будем делать это.Но другие делают это, и мы с радостью помогаем - это одно, когда есть время, и нет конфликта интересов.
Мы также надеемся, что эти технологии ИИ могут быть использованы в различных производственных средах, чтобы повысить производительность общества и помочь всем отраслям повысить производительность.Мы очень мотивированы, чтобы это сделать.Есть ли у меня время, есть ли у меня рабочие силы, или наши одноклассники сами не заинтересованы, это другое дело.Однако конфликта интересов не существует, и мы надеемся, что это будет достигнуто.И мы считаем, что это не имеет никакого конфликта с бизнесом, и я все еще должен получить немало выгод.
Мы не потеряли ничего из-за того, что мы занимались этим подходом - не из-за того, что я открыл исходный код, из-за нашей доброй воли, из-за того, что я помогал другим.Например, в прошлом году пользователи C-конец, у нас сейчас пользователи C-конец все еще относительно много, но также относительно стабильный; в этом году B-конец, я думаю, также более оптимистичный.Я не затрагивал коммерческие интересы из-за наших добрых намерений, никакого влияния не было, скорее всего, было плюсом.Это может показаться неинтуитивно, но это так.Подумайте наоборот: если я нарушу это, могу ли я получить больше?Нет.
Вопрос: как понять, что «модель мира не имеет отношения к повышению пределов интеллекта ИИ»?Я говорю это на данном этапе, и это наше суждение.Это наша собственная дорожная карта ИИ, а не единственная.С точки зрения нашего понимания, нашего суждения, самое важное в настоящее время - это хорошо обучить ИИ.Для того чтобы обучить ИИ, не требуется модель мира, даже не мультимодальность - вы можете немного сузить обучение ИИ, не мультимодальность, есть только часть задач, которые вы не можете сделать, но не влияют на алгоритм.
Многообразие в конечном итоге должно быть сделано.Сейчас важное значение имеет обучение, а следующий шаг - это непрерывное обучение, а затем само задание вопросов.Но в этой дорожной карте нет мировой модели, нет видеогенерации.
Видеогенерация была очень жаркой, когда она появилась, как будто это должно быть сделано, и вы не являетесь компанией ИИ, если не это делаете.Я был удивлен: если вы только подумали, это не имеет ничего общего с дорожной картой интеллекта.На самом деле, вы также обнаружили, что после выхода Соры все делали это, большие и малые компании, но малые компании позже отрезали его.Это не имеет ничего общего с верхним уровнем интеллектаНо в бизнесе это хороший бизнес.Мы не будем делать это потому, что это хороший бизнес, мы будем делать это только потому, что это что-то на умной дорожной карте.
Создание видео относительно понятно, возьмем его в качестве примера.То, что означает модель мира, не так понятно, потому что многое может быть сказано о ней как о модели мира.По нашему мнению, мировая модель и интеллект еще не являются наиболее важными на данном этапе.Самое главное - это обучение ИИ и то, как решать непрерывное обучение после обучения ИИ.Это суждение нашей компании, конечно же, суждение каждой компании разное.
У США есть разрыв только в ресурсах.
Я только что сказал, что наиболее важным вопросом для компании является стабильность персонала.Что нам не хватает в другом измерении?В чем разрыв с США?На самом деле существует только один разрыв: ресурсы.
У нас не так много карт, и количество наших карт все еще относительно мало.Сейчас у нас около 20 000 H-эквивалентов, большинство из которых только что прибыли, только за последний месяц или два, и, возможно, еще много машин еще не прибыли.В прошлом году мы имели небольшие расчеты, а в этом году мы очень активно расширяем их.В ближайшие месяцы у нас будет большое количество машин, которые будут покупаться, в основном от Nvidia.
Сколько карточек нам нужно?Сейчас, конечно, чем больше, тем лучше.Нет сомнения в том, что чем больше карт, тем лучше, в той мере, в какой мы можем позволить себе.Так что наша стратегия состоит в том, чтобы купить столько карт, сколько можно купить по разумной цене.Это финансирование, я могу купить столько карт, сколько могу.Скорость траты денег не в плане - я покупаю сколько угодно, если цена разумна.Если я потратил деньги за полгода, я думаю, что это хорошо, это слишком счастливо, слишком идеально.
На самом деле, очень трудно потратить столько денег: не так много карт, трудно купить, и цена очень высока, не говоря уже о том, чтобы потратить очень высокую цену, чтобы купить, но нужно убедиться, что цена является разумной.
Если бы я потратил эти деньги за полгода, это было бы, наверное, идеально.Потому что, конечно, лучше, чтобы деньги были переведены в карту Nvidia, чем в банк - в банк, и сейчас депозит может быть всего два пункта; но купить Nvidia, и вы получите 10 месяцев для возмещения расходов.
Так что, конечно, покупать столько, сколько можно.После покупки карты у меня было много пространства, и я всегда мог иметь денежный поток, предоставляя услуги или что-то еще.У меня есть денежный поток, и я могу жить, и мне не нужно ставить много денег на счет.Поэтому мы просто беспокоимся, что не сможем купить столько карт.Если бы мы могли превратить все деньги в карты, мы бы без колебаний превратили все деньги в карты, и мы были бы готовы платить определенную премию за это, потому что это было бы очень выгодно.Даже если мы заплатим премию, нам будет очень трудно достичь этой цели.Если бы я мог потратить 20 миллиардов долларов в этом году, то наши закупки были бы супер хороши.
Разрыв между нами и Соединенными Штатами в основном заключается в ресурсах, а разрыв между людьми не очень большой, почти нет, потому что это одна и та же группа людей, все китайцы.Некоторые люди остаются в стране, некоторые уходят за границу, и не говорят, что умные люди уходят за границу, нет.На самом деле, это довольно случайный случай: более половины самых умных людей, вероятно, уезжают за границу, а меньше половины остаются дома.У нас нет недостатка в отечественных талантах, и у нас большая база, и ежегодно пополняется так много людей.
Таланты не являются узким местом, ресурсы являются наиболее большим узким местомРесурсы, прежде всего, влияют на развитие талантов: из-за меньшей вычислительной мощности, мы имеем меньше возможностей для экспериментов, поэтому у нас в целом есть разрыв в талантах по сравнению с США.Разрыв в талантах, по сути, также обусловлен разрывом в вычислениях.
Мы не можем позволить себе обучение на самой большой модели на данный моментДаже если потратить все пятьдесят миллиардов долларов, на самом деле, это не позволит себе обучить; даже если можно накопить, это не позволит себе использовать.Сейчас самая большая модель, она активируется примерно 800B; если говорить о отечественном, мы все еще находимся в этом масштабе десятков B, самая большая отечественная модель может активироваться на десятки B - на порядок величины.Если бы я тренировал свою модель такого же размера, то мне понадобилось бы 50 000 карт GB300 или 950 200 000 карт Huawei.Это только обучение, исследования еще не рассматривались.«Самый большой разрыв между нами и США - это ресурсы.
Наши ресурсы сегодня, а также ресурсы в течение этого года и в ближайшие месяцы, включая большие ресурсы, которые будут прибывать, будут достаточно для того, чтобы провести еще больше экспериментов в масштабах, которые мы активировали в рамках ДесятиВ.Потому что в масштабе десятков B-активаций, еще много экспериментов, которые нужно сделать, еще многое, что нужно выяснить.Мы должны быть еще далеко от модели, которая может обучать 800B, не так много карт.
Поэтому разница между нами и Соединенными Штатами, на мой взгляд, в ресурсахВсе различия, которые мы видим - в том числе в талантах, в моделях, в приложениях - можно рассматривать как различия в вычитывающих ресурсах.С одной стороны, мы не можем купить собственные внутренние карты, а с другой стороны, наши капитальные вложения меньше, чем в Соединенных Штатах, и мы значительно меньше в плане капитальных вложенийДоля талантов в этой зарплате очень мала - вы видите, что они получают около 100 миллионов долларов, но в расчетах, доля талантов в этой зарплате все еще очень мала, и они все еще имеют большую силу.
В настоящее время этот вопрос в значительной степени остается нерешенным.
Поэтому мы не думаем сейчас о том, чтобы конкурировать с США в таком масштабе.Теперь мы должны сделать это в том масштабе, который мы можем обучить и использовать - в масштабе десятков B-активаций - и затем подождать, когда у нас будет больше ресурсов, в масштабе 150 B, 156 B или 250 B-активаций.
У нас есть разрыв с Соединенными Штатами в этом вопросе, который в настоящее время кажется сложным.Вы хотите обучить большую модель, но вы не можете сделать достаточное исследование - вы не можете сделать достаточное исследование до обучения.
X. Конечный разрыв: стоимость, время, опыт
Еще один вопрос, который интересует всех: где будет отражен разрыв в конечном итоге во всех крупных моделях конкуренции?Я думаю, что в конечном итоге не будет большого разрыва.В конечном счете, этот разрыв должен быть трехмерным:Стоимость, время, опыт пользователя.Помимо этого, возможно, не существует никаких пробелов.
Стоимость лучше понять: вы предоставляете те же услуги, те же услуги качества, по какой цене вы можете их предоставить.Могут ли другие дома предложить ту же услугу, например батарею BYD, по той же цене при одинаковом технологическом содержании?Я думаю, что это более сложная вещь, не так легко сделать, это определенно барьер.Так что стоимость, безусловно, есть разница, и я думаю, что стоимость может быть первой.
Во-вторых, это время: когда вы сможете сделать это?Ты на несколько месяцев раньше, на несколько месяцев позже, это будет разное.
Третье может быть опытом, пользовательский опыт все еще несколько разный, среди пользователей все еще будет некоторая вязкость пользователя и пользовательские барьеры, но это может быть не существенным.Суть - это первая стоимость, второе время: вы делаете это сначала или позже, делаете то же самое, быстрее или медленнее.
XI. Коммерциализация: делается все время, но не ставит целью
Как будет установлена цена после дальнейшего обогащения долгосрочного пути коммерциализации и линейки продуктов?Мы считаем, что сейчас самое лучшее, что стоит потратить усилия, или сделать AGI.Теперь, чтобы подтолкнуть AGI вперед, это значит подтолкнуть нижнюю границу интеллекта вверх.На данном этапе это должно быть более экономичным и выгодным путем, чем создание большей линейки продуктов и рассмотрение большего числа путей коммерциализации.Я думаю, что это может быть так в будущем, а также в любой момент времени в прошлом.
Какова польза, если мы тратим много времени на размышления и обогащение наших продуктов?Что такое коммерциализация, о которой говорили полгода назад?Должно быть, я хочу заниматься рекламой, электронной коммерцией, внедрить электронную коммерцию в свои продукты, интегрироваться с местной жизнью.Конечно, это бесполезно, потому что изменения происходят слишком быстро.Вы, продукт, на данном этапе мы тратим много времени на коммерциализацию, путь коммерциализации - жизненный цикл линейки продуктов очень короткий.
Я не думаю, что в это время.Это наше суждение, по крайней мере, этот предыдущий опыт поддерживает это суждение.В течение последних трех лет, когда бы вы ни говорили мне о коммерциализации, о линейке продукции, это была пустая трата времени.Поскольку вы не можете предсказать, не можете предсказать будущее, вы можете предсказать очень мало.
Мы занимаемся ведущими мировыми исследованиями AGI и в надлежащее время их коммерциализируем.Я думаю, что мы занимаемся коммерциализацией, но не стремимся к коммерциализации.Мы стремимся к AGI, но мы занимаемся коммерциализацией, поэтому у нас есть пользователи на стороне C и доходы на стороне B.Судя по историческому опыту, эта стратегия была успешнойМы должны быть очень далеки от момента полного перехода к коммерциализации.Самое большое - это расширение технологий, создание технологий следующего поколения, которые больше решают текущие проблемы.Я лично считаю, что в будущем, которое можно увидеть сейчас, слишком рано сосредоточиться на продукте в любой момент.
Это также часть нашей сдержанности.Я надеюсь, что эти бизнес-возможности позволят другим сделать это - как использовать этот ИИ, это общество, все наши партнеры, чтобы мы могли делиться преимуществами вместе, а не просто, чтобы я взял их в одиночку, что невозможно.И у нас не было столько энергии, и у нашей организации не было столько людей для этого.
Что касается партнеров, то мы тщательно выбрали финансирование.Конкретные предложения о сотрудничестве говорят также, что, во-первых, мне кажется, интересы более совпадают: те, кто наиболее совпадает с нашими интересами, наименее враждебно настроен по отношению к нам, или же наиболее желает, чтобы мы добились успеха.Не все хотят, чтобы мы добились успеха, потому что мы все еще ущемляем интересы многих других.
Основные стратегии компании, процессы принятия технологических бизнес-решений и механизмы принятия решений: наша компания в целом основана на консенсусе.Я не говорю, что я сам решаю все, но я хочу добиться консенсуса.Мое влияние и авторитет в компании основаны на консенсусе.Например, если я собираюсь сделать что-то, я обязательно сначала посмотрим, каков консенсус у всех, хотите ли вы сделать это.Возможно, у меня есть какие-то ориентиры или тенденции, но будет ли это ориентирование ограниченным, очень ограниченным или основанным на консенсусе.Этот механизм принятия решений, по сути, является механизмом поиска консенсуса: не то, что я могу продвигать что-то - должен быть консенсус, чтобы я мог продвигать, а затем я буду продвигать.
В настоящее время основная энергия в основном находится на стороне DeepSeek.
XII. Пробелы в модели и глобальное разделение труда
Конечный эффект каждой модели сокращает разрыв и должен быть комплексным.Для сравнения эффективности моделей, обязательно, нужно сравнивать их по той же цене, чтобы это имело смысл - вы сравниваете два автомобиля, а также автомобиль с той же ценой.Различия между хорошо выполненной моделью и плохо выполненной моделью должны быть не в конкретном звено, а в целом.
Anthropic теперь превзошел OpenAI, это не долгосрочное?Я думаю, что это не долгосрочное, это, безусловно, поэтапное. OpenAI и Google, вероятно, в будущем будут расти попеременно.Преимущество реализации Anthropic по сравнению с Code Agent было не столь значительным, что оно не подавляло OpenAI - около половины людей в нашей компании считают, что OpenAI лучше. Anthropic имеет преимущество первых, но это преимущество должно исчезнуть в ближайшее время, и это не преимущество, которое он может сохранить в долгосрочной перспективе.Все трое очень сильные. Anthropic является наиболее эффективным из трех, и он должен тратить меньше затрат и сжигать деньги.
В то время, когда ИИ доминирует в глобальном разделении труда, китайские компании, скорее всего, будут играть самую большую роль по производству.В общем, у нас самые большие производственные мощности, включая чипы, которые, возможно, являются самыми большими, и у нас самыми большими электроэнергиями.Китайцы делают товары дешевле; в результате многие товары, произведенные в Китае, не сильно отличаются от американских.Возможно, то же самое будет и с ИИ в будущем: цена на ИИ из Китая будет дешевле.Эта дешевость может быть систематически низкой, так же, как и другие отрасли, предоставляемые Китаем услуги дешевле.
Когда я делаю что-то, я привык думать: «Что лучше всего делать в это время?Если я думаю, что сейчас выгоднее сделать продукт, я сделаю его; если я думаю, что сейчас выгоднее сделать AGI, я сделаю AGI.Очевидно, что я думаю, что сейчас делать продукты не самый выгодный.
XIII, отечественный чип и TileLang: рв Nvidia в распад
Проблема адаптации отечественных карт: у отечественных карт теперь на самом деле есть историческая возможность.Ранее у внутренней карты была сложная проблема, называемая плохой экологией - после покупки карты не может быть использован, у нее нет экологии NVIDIA.Так что ров Инведы очень силен.
Но это происходит.Рогов в Nvidia CUDA быстро разрушается.Быстрое распадание может быть обусловлено тремя причинами.
Во-первых, сейчас есть AI.С ИИ мне было гораздо легче построить эту экологию, потому что ИИ мог писать код, и я мог построить эту экологию с помощью ИИ, точно так же, как и в Nvidia.
Во-вторых, существуют новые технологииНапример, у нас есть технология под названием TileLang, язык высокого уровня.На этом языке высокого уровня, чтобы написать оператора CUDA, можно быстро написать всю экологию Nvidia, а затем в сочетании с ИИ, это не кажется препятствием.Это еще не завершено, еще не завершено, но этот технический маршрут, похоже, не имеет препятствий
В-третьих, CUDA-Nvidia эволюционировала из игровой карты, поэтому она во многих местах наследует дизайн и настройки игровой карты, CUDA совместим с игровыми картами.Раньше это было разумно, потому что вычисления ИИ были небольшой областью, меньше, чем рынок игровых карт.Но сейчас, когда рынок вычислительных карт больше, чем игровых карт, нет никаких причин, чтобы они были связаны.В настоящее время тенденция заключается в том, что в дальнейшем они больше не будут связаны.Тогда специальные чипы - будь то Huawei или сама Nvidia - будут специальными чипами, а не теми, что были раньше.На этом фоне роль экологии Nvidia значительно уменьшилась: для специального чипа, не имеет ничего общего с CUDA, не связано.Или, когда этот чип был спроектирован, он уже учитывал, как создать эту экологию.
Немного сложно, но в любом случае: замена внутренних чипов искусственного интеллекта теперь имеет исторический шанс.Мы считаем, что в следующем году мы можем увидеть, что одна вещь подтвердится:У отечественных чипов экологические проблемы не возникли.То, что раньше считалось проблематичным, неприемлемым и нелегким, мы можем изменить это в течение следующего года, и мы можем изменить это с помощью фактов.
У отечественных чипов ИИ нет проблем с аппаратным обеспечением и экологией, единственная проблема заключается в недостаточной производственной мощности.Внутренние карты адаптируются к этому, нет препятствий, NVIDIA не может остановить.Если бы в нормальной деловой среде я мог купить карты Nvidia, то замена отечественного производства было бы сложнее; но в случае, когда карты Nvidia не доступны, все были вынуждены делать чипы отечественного производства.В этом контексте не существует никаких препятствий для адаптации внутренних картДля создания такой же экологии, как и NVIDIA, или даже лучше, чем NVIDIA, у меня нет препятствий, но потребуется время.
Сейчас мы в основном сотрудничаем с Huawei. Huawei адаптируется к себе, но мы сами будем участвовать в этой экологии, мы будем глубоко вовлечены в эту экологию Huawei.Карта Huawei адаптируется, наша основная работа заключается в том, чтобы сделать компилятор высокопоставленных языков, сделать TileLang хорошо.После того, как TileLang будет хорошо выполнен, проблема может быть решена.Это сложно говорить, но мы делаем это, и объяснить это будет намного яснее, когда мы закончим.
Вы можете понять: во время тренировок V3, я использовал карты Nvidia, но больше не использовал Nvidia Eco.В V3 используются карты Nvidia, но не Nvidia экология, а мы сначала написали высокопоставленный компилятор под названием TileLang, а затем сделали все остальное на основе экологии TileLang, почти не завися от экологии Nvidia.Как только я погружу этот набор вещей, повторяю этот процесс на карте Huawei, то это закончено.
Я думаю, что здесь может быть историческая миссия: можно полностью обратить вспять предыдущее восприятие плохой экологии отечественных карт.Сейчас в основном все, время и место, недостаточно времени.Я думаю, что в течение года многие люди наверху поймут, что эта проблема решена, а остальная часть - это проблема производственных мощностей.
Я более оптимистично отношусь к национальной экономике.Я думаю, что в данный момент Инведия копает свою могилу.Суперузлы Huawei - суперузлы Huawei 950 - могут полностью заменить GB200 и GB300 от Nvidia по производительности и цене.Стоимость, конечно, дорогая, но ограниченная: на пятьдесят процентов, на сто процентов - на сто процентов не имеет значения, на два сто процента не имеет значения.Например, сто процентов дорого, я думаю, что уже можно считать, что в цене можно заменить.В заданиях также можно заменять: все задачи, которые может сделать GB300, могут быть выполнены суперузлами Huawei, и задержка все одинакова.
В этом году у Nvidia может появиться новое поколение в Q3.Так что мы имеем разрыв с США в чипах, я думаю:В экологическом плане больше не будет разрыва, но на чипе это в четыре раза плюс два года.
Вопрос: Будем ли мы вертикально интегрироваться вверх по потоку?Я надеюсь, что нет.Мы надеемся, что это не нужно делать, я надеюсь, что это сделают другие.Я не хочу съесть все, я просто съеду один кусочек - то, что я лучше всего умею, то, что мы считаем самым важным, то, что имеет непосредственное отношение к пользователям.Для многих наших партнеров в промышленности они более обеспокоены, чем мы.Это должно быть чье-то дело, я не должен съесть его все.
Будем ли мы в будущем строить собственные крупные кластеры?Создание собственных крупных кластеров, безусловно, должно быть, мы делаем это сами, все наши кластеры создаются сами.Но я думаю, что в будущем будет ли разрабатываться собственный чип, зависит от того, насколько велика выгода.Если вы управляете электростанцией, то вам не обязательно нужно строить генераторы, верно?Электрогенерационное оборудование может быть сделано кем-то другим, если его цена является разумной, почему вы должны сделать это сами?
Так что я надеюсь, что не нужно делать чипы, надеюсь, что я могу купить чипы по разумной цене, так что не нужно делать чипы.Мы хотим сделать только одну часть.ИИ - это большая работа, и мне не нужно делать все.Если это сосредоточено, и я думаю, что бизнес-выгоды здесь достаточно велики - если эпоха ИИ породит много триллионных компаний, я думаю, что мы являемся одной из них.Мы делаем один из них, и у одного из них нет проблем, и я не уверен, что буду делать что-то другое.Это и есть наше отношение
Например, по крайней мере, в двух операциях To B и To C, в настоящее время можно увидеть: если мы действительно хотим сделать закрытый цикл To C, то мы делаем это хорошо; если мы действительно хотим сделать закрытый цикл To B, то, возможно, мы не делаем это хорошо.Чем больше вы хотите ...
В B можно сказать несколько слов.То, что верхний предел бизнеса To B должен быть спросом.На фоне нынешнего поколения технологий ИИ спрос на To B должен быть ограниченным: он будет расти быстро, но не бесконечно, и в конечном итоге будет зависеть от спроса, а не от вычислительной мощности.При нынешних технологических условиях доходы в конечном счете зависят от спроса.Потому что вы думаете так: я смогу возместить расходы за десять месяцев, и я, конечно, всегда буду покупать карты, если будет спрос; сейчас я больше не покупаю, потому что спрос не так много.Спрос должен расти - по мере того, как технологии продолжают прорывываться, спрос будет расти.
Многомодальность, масштабирование и низкие затраты
Многомодальный макет, мы делаем это всегда.Это очень важно для продукта, для потребительского продукта C-конец.Но верхний предел интеллекта - это компонент, а не сама по себе основная линия.Как компоненты, мультимодальность мы определенно делаем, и делаем это.Мы должны встретиться на соответствующих моделях: V4 и последующие версии V4 будут поддерживать встроенный мультимодальный режим.Но мы понимаем мультимодальность как компонент интеллекта, а не как интеллект сам по себе - как поиск.Поиск также является компонентом, а мультимодальность - компонентом.
Масштабирование, мы верим в Масштабирование: конечно, чем больше масштаб, тем лучше это работает, и можно разблокировать больше функций.То, что мешает нам масштабировать, - это вычислительная мощность - не то, что мы не хотим масштабировать, а то, что у нас нет достаточно вычислительной мощности для этого масштабирования.
Мы не коснулись того, где этот верхний предел.Мы обучаем такие большие модели не потому, что я думаю, что таких больших моделей достаточно, а потому, что у меня просто так много ресурсов.Я исчисляю по своим ресурсам: какую модель я могу принять и обучить, это исчисляется так, а не по этой модели.
В настоящее время преимущества этой модели все еще очень очевидны.Мы еще не имели возможности коснуться этой скалингской стены, которая еще очень далеко от нас.Когда Кремниевая долина говорит о масштабировании, это для Кремниевой долины; для китайцев, мы еще далеки от этого, у нас нет масштабирования на такой степени.Это масштабирование включает в себя масштабирование данных, масштабирование моделей, затраты на обучение.Мы еще далеки от изучения верхних границ масштабирования - не так много вычислительной мощности - но мы также не жалеем усилий, чтобы продвинуть этот верхний границ масштабирования.В том числе, после того, как мы закончим финансирование, у нас будет больше вычислительной мощности, возможно, мы сможем обучить более крупные модели, и чем быстрее мы сможем купить их, тем лучше; если мы сможем потратить все деньги за полгода, это будет лучше, но на самом деле это невозможно.
Я думаю, что основная способность модели следующего поколения должна быть способностью к непрерывному обучению, чтобы она могла быть названа моделью следующего поколения.До этого все, что мы можем сделать, - это снизить стоимость, а затем сделать это лучше и быстрее.Но для того, чтобы добиться большого прорыва, это должно быть непрерывное обучение
Почему мы так заботимся о вычислительной эффективности модели?Я обнаружил, что не всем очень важно эффективность моделей.Для коммерциализированной компании нет стимула к достижению эффективности модели -- несколько стартапов, которые вы не слышали, говорят, что низкая стоимость - это то, что они стремятся, потому что это не в их интересах: низкая стоимость, что вы еще зарабатываете?Вы не получите денег.
Скорее, это часть нашего видения.Наши одноклассники заботятся об этой стоимости, потому что наши одноклассники являются обычными людьми, он знает, что использовать это все будет стоить денег, он может быть сочувствующим: другие должны платить деньги, чтобы использовать это, тогда дешевле, другие могут принять более высокий уровень.Поэтому у нас есть много студентов, которые хотят, чтобы мы могли снизить стоимость.Но если вы будете говорить с коммерческой точки зрения, то это не является первоочередным приоритетом с коммерческой точки зрения, с точки зрения затрат.
Для стартапов и крупных компаний стоимость этой услуги просто не высока.Но я надеюсь, что он будет легким, что он будет доступным, особенно на фоне нехватки вычислительной мощности в Китае, что он будет доступным, что он будет работать на внутренних картах.
Низкая стоимость - это прежде всего результат.Наша модель действительно идет в сторону более дешевой архитектуры, и это связано с нашим видением.У нас есть еще много способов в алгоритме, и стоимость может снизиться.Еще одна причина снижения стоимости: чем ниже стоимость, тем больше я могу обучать большие модели и позволить себе больше.При той же ограниченной вычислительной мощности, если бы я был более эффективным в вычислениях, я мог бы позволить себе большую модель.Для крупных компаний это не обязательно так - ресурсы можно добавить, их можно решить путем добавления ресурсов - но мы отдаем приоритет эффективности с точки зрения затрат
Пятнадцатый: Тот, кто имеет меньше, побеждает тех, кто имеет больше.
Диапазон данных довольно широкий, и данные должны составлять почти половину модели.
Почему я думаю, что если ИИ может составлять 20% ВВП, если я хочу добавить 5% из этого, то это не получится?Потому что я определенно побежден другим человеком - если другой человек скажет: «Я хочу иметь только один процент», то я определенно побежден.Если бы моя цель была 5% от ВВП человечества, то теоретически это было бы хорошо - вы посмотрите на OpenAI, он, кажется, мог бы это сделать, теоретически это было бы хорошо.Но у него была проблема: он будет побежден другим человеком, который готов быть только одним процентом.Потому что другой человек сказал, что я делаю это хорошо, но мне нужно всего лишь один процент мирового ВВП, и я победую его.Если в этот момент выйдет другой человек и скажет: «Я должен иметь только 0,1%», то я снова победую предыдущего.
В макроэкономическом плане, независимо от того, откуда взяты эти проценты, нет никакой разницы между ними.Те, кто получает больше, будут побеждены теми, кто получает меньше.Даже вам не нужно принимать больше - если видение больше, вы будете побеждены тем, кто имеет видение меньше.На самом деле, все не получают денег, это только видение; если вы получаете больше, вы проиграете сначала, и вы столкнетесь с еще большими трудностями.Таков и мир.
OpenAI с самого начала думал, что он действительно может монополизировать мир, но на самом деле он столкнется с множеством и множеством конкурентов.Он столкнется с вызовами, и он не будет так легко.Вызовы, с которыми сталкивались Соединенные Штаты, могут также столкнуться с вызовами Китая в будущем, потому что китайцы готовы взять меньше, чтобы предоставить вам эту услугу.В Китае тоже есть люди, которые готовы брать меньше.Но в конечном итоге здесь будет баланс: потому что если вы получаете слишком мало, бизнес-логика компании не работает и не выживает.Так что вы принимаете слишком мало, чтобы выжить; вы принимаете слишком много, и вы побеждены теми, кто принимает меньше.
Таким образом, для нас это не максимальная цена прибыли, которую мы должны получить, а только разумный доход.Это было объяснениемЯ верю в это, и я не собираюсь искать оправдания для этого - нет необходимости искать оправдания.Я уже сделал это, и я сделал это, наверняка, по какой-то причине.Возможно, эта причина не очень привычна, но я думаю, что компании уже не привычны.
16. Способ организации: две линии, без сверхурочных
Управление нашей компанией на самом деле состоит из двух линий: одна линия сверху вниз, а другая снизу вверх.
Снизу вверх: каждый сам делает то, что хочет, никто не заботится о нем, нет KPI.
Сверху вниз: это формально - мы собираемся делать что-то коллективно, и нам нужно сотрудничать со всей компанией.Например, если мы собираемся выпустить V4, то у нас будет разделение труда, и каждый должен сделать свою часть.Это сверху вниз, и мы называем это «официальным».
Как правило, мы не хотим официально занимать половину всего времени наших сотрудников --Официально не более половины.У него остается половина времени, он не планируется, он может делать, что хочет.Это сфера исследования, которую он может исследовать самостоятельно, в соответствии с тем, что он считает важным, что он должен исследовать, без предварительных требований.До тех пор, пока компания может поддержать его, а вычислительные возможности могут поддержать его; или если он не нуждается в вычислительных возможностях и должен делать очень мало, то он вообще не использует координацию.Сейчас мы имеем такой организационный образ.
Некоторые думают, что мы сверху вниз, другие думают, что мы сверху вверх, и я думаю, что оба правы.Один из моих критериев: формально лучше не превышать половины.
Обычно мы не работаем слишком много сверхурочно.Сверхурочные работы по двум причинам.Во-первых, для проведения исследований требуется более спокойная среда.Вы не можете исследовать, если вы заставляете это сделать очень сильно - вы должны иметь собственный интерес, думать об этих вопросах, поэтому вы должны быть в более свободной обстановке, чтобы исследовать.Это обусловлено необходимостью исследования культуры.Во-вторых, мы очень сфокусированы.Быть очень сосредоточенным означает, что у нас очень мало работы, поэтому у меня не так много работы, что мне не нужно работать сверхурочно.
Это совпадает с предыдущей сдержанностью: потому что я сдерживаюсь, я часто не делаю этого.У меня будет меньше дел, и у каждого будет меньше дел.Вы видите, что многие из наших продуктов несовершенны, и мы не исправляем их.Это тоже наша культура.
Раздел вопросов
Вопрос: Не могли бы вы поделиться большей временной линией, когда непрерывное обучение приводит к прорыву?Включая непрерывное обучение, какие дополнительные архитектуры, алгоритмы и другие ключевые элементы необходимы?
Ответы: Мало людей, нужны исследования.В настоящее время этот вопрос изучается во всем мире.Для инвесторов, больше всего мы видим агентов, но для тех из нас, кто занимается исследованиями, больше всего мы видим обучение и то, как решать эту проблему.
На самом деле, обучение может быть не технологией, это проблема.Как решить эту проблему, может быть много технологий - это не одна вещь, это много вещей.Или, например, AGI состоит из множества вещей, требует модели, а затем и много других вещей.Это также инженерная и алгоритмическая проблема.Этот вопрос довольно специализирован, но есть много методов, есть много исследований.
Вопросы: Генерал Лян, спасибо.Прежде всего, я хочу ответить и поблагодарить вас за то, что вы начали с того, что меня очень тронули и вдохновили: эта команда с максимальной доброй волей надеется внести свой вклад в развитие этого общества, человеческого интеллекта.Это очень близко к корпоративной культуре компании, которую мы обслуживаем, а именно «учитывать себя».Я глубоко понимаю, почему вы возглавляете команду, которая работает с открытым исходным кодомЯ визуально чувствую, что экология небольшого рая птиц, подобного банану, принесет пользу всем без борьбы, будет принята всеми, все сосуществовало, в конечном итоге повсюду.Мы также выражаем признание, поддержку и уважение этой миссии и видения, в результате чего мы вложим свои средства.
Первый вопрос:Что касается эко-создания: Сколько партнеров, талантов и команд в этой отрасли, когда мы имеем открытый исходный код, можем лучше воспроизвести наши модели и результаты с открытым исходным кодом?В будущем вы хотите, чтобы эта экология развивалась еще больше, в каких областях вы чувствуете, что нам нужно больше высококачественных талантов, чтобы интегрировать нашу модель, воспроизвести ее?Или сейчас у GPU есть относительно ограниченная вычислительная мощность?Будет ли в будущем матрица моделей -- мы будем делать базовую модель все лучше и лучше, и партнеры и команды из разных отраслей будут делать вертикальные отраслевые модели, прикладные модели в матрице моделей?Как развивается эта область в данный момент?Какой экологической структурой вы будете жить через 2 - 3 года?
Вопрос второй.Что касается аппаратного обеспечения ИИ: крупные глобальные компании ИИ, возможно, сделают инвестиции в размере сотен миллиардов долларов, Китай в настоящее время, похоже, имеет некоторые недостатки в вычислительной мощности аппаратного обеспечения.Как долго, как вы думаете, это может быть решено, чтобы поддержать развитие нашего ИИ, чтобы вычислительная мощность и аппаратные недостатки не отставали от AGI?Является ли это вопросом времени и инвестиций в инвестирование денег, что китайцы обязательно смогут достичь своей будущей миссии и, безусловно, смогут ее осуществить?В то же время это может быть двумя аспектами: с одной стороны, прогресс модели позволит повысить интеллектуальность, одна задача или некоторые интеллектуальные единицы постепенно снижают потребление оборудования и вычислительной мощности, больше не требуют такой большой вычислительной мощности, потому что прогресс модели сделает ее умной; с другой стороны, технический прогресс аппаратного обеспечения сделает вычислительную мощность более энергоэффективной.Может ли это быть путь, идущий в обоюдном направлении?Кроме того, если вы используете 960 или H200 для вычисления на уровне сотен миллиардов долларов, вы только что упомянули об амортизации на основе трех лет, а вы думаете, что его реальный жизненный цикл составляет четыре или пять лет?Может ли кластер Ванка, построенный сейчас, через три года на самом деле будет относительно менее продвинутым вычислительным потенциалом?Возможно ли, что это будет недостаточно и через три года станет избыточным? * *
Ответы:Спасибо.Первая проблема - это экологическая.
Сейчас мы считаем, что проблема, с которой сталкивается каждый бизнес, заключается в недостаточности талантов.Но я думаю, что этот дефицит талантов будет поэтапным.На начальном этапе развития каждой отрасли у нас недостаточно талантов.Когда раньше начали создавать веб-сайты, было очень мало людей, которые делали веб-сайты, и не хватало талантов; позже, когда Интернет стал сервером, также не хватало талантов.Но этот дефицит талантов будет устранен очень быстро, всего за два-три года, потому что будет подготовлено большое количество людей.
Нехватка талантов в области ИИ также носит поэтапный характер, и мы уже наблюдаем значительное смягчение.Люди ИИ действительно не хватает, каждая компания скоро выращивает людей, и выращивать людей очень быстро.Таким образом, в отрасли ИИ в целом, независимо от экологии, модельной компании или чего-то еще, не хватает талантов.Нехватка талантов, безусловно, является краткосрочным явлением, и в истории никогда не наблюдалось долгосрочной нехватки определенной категории людей.Я помню, что десять лет назад говорили о нехватке пилотов и длительных циклах подготовки пилотов, но это было быстро решено.
Поэтому не нужно беспокоиться о нехватке кадров.Кроме того, в настоящее время в Китае немного слишком много компаний, которые делают модели, или слишком много.Соединенные Штаты могут иметь три, а Китай делает слишком много базовых моделей.В конечном итоге не нужно так много людей, чтобы сделать базовую модель, обязательно сходится.Ресурсы также более рассредоточены и, в некоторой степени, расточительны - это означает, что каждый делает одинаковое, но если США делают это три, ресурсы концентрируются только в этих трех; в Китае ресурсы распределены, и каждая получает меньше ресурсовЯ думаю, что это, безусловно, сблизится, но это требует процесса, и в конечном итоге это сблизится.
Не нужно столько домов.Возможно, сейчас каждый считает, что это очень высокая прибыль, поэтому он должен сделать это сам; но когда он обнаружит, что это может быть не так высокая прибыль, он может отказаться от этого.Я не верю в такую высокую прибыль, потому что это не соответствует объективному закону.Это означает, что мы находимся на этапе, когда, если существует очень высокая прибыль, это должно не соответствовать объективному закону, мы должны иметь разумную прибыль.Это нынешнее состояние промышленности, и я думаю, что оно определенно сблизится.
В той части, в которой вы делаете большую модель, не говорите о монополии какой-то компании: «Я беру всю прибыль», это, конечно, не получится.Если бы каждая семья получала только разумную прибыль, то на самом деле не нужно было бы так много людей, чтобы сделать большую модель.В конце концов, в Китае есть три или четыре конкурента, конкуренция будет очень достаточной, и цены будут абсолютно достаточными для ценовой войны.Большой модели может быть двух крупных компаний, двух малых компаний, и достаточно.
Что касается экологии, то у меня нет много мыслей.Мы надеемся, что сможем помочь большему числу людей, но у нас нет такой энергии.У нас есть такая воля, и не будет никакого конфликта интересов, но мы делаем это или нет - это другое дело.Но, по крайней мере, здесь нет конфликта интересов, и мы надеемся на взаимовыгодное сотрудничество.Во-первых, я абсолютно не думаю, что крупные модели могут взять большую часть прибыли, это невозможно - с таким количеством крупных модельных компаний, разрыв сейчас не так большой.Существует только два разрыва: во-первых, время, а во-вторых, стоимость.Поэтому ни один из них не получает прибыли.Те, кто хорошо контролирует расходы, зарабатывают немного больше, а те, кто плохо контролирует расходы, зарабатывают немного меньше, и все.
ВопросДанные, которые сейчас открыты для общественности, полагают, что у модельных компаний уже есть доступ к ним, это просто вопрос времени и затрат.Когда мы действительно переходим к AGI, мы предполагаем, что в идеале модель может самоитераться, самообучаться и самостоятельно обучаться.По вашему мнению, можно ли использовать данные моделирования, или реальные данные наиболее высокого качества?Если бы это все еще требовалось от реальных данных, ограничило бы это интеллект ИИ на уровне человеческого прошлого - потому что он полагается на реальные данные, которые люди действительно когда-либо имели?Или можно ли преодолеть этот предел и позволить моделировать, моделировать, создавать данные и т. д., чтобы превзойти все реальности прошлого человечества?
ОтветыЯ думаю, что это может быть превышено.Есть два момента.Например, в Go, AlphaGo сыграл такую игру, которую человек никогда не видел - он, безусловно, превзошел людей в определенной степени.Но у него может быть и верхний предел, и есть ограничения, но мы не видим этого ограничения сейчас.Поэтому мы в целом полагаем, что она может быть превышена, основываясь на знаниях, которые уже имеются у человечества и которые мы уже можем выразить.
Что касается того, будет ли это работать на основе реальных данных или моделированных данных, то я думаю, что есть много способов.
Таким образом, мы отстаем от США на 12 месяцев, от 12 до 18 месяцев, от 6 до 12 месяцев.Проще говоря, это на два года отставание от Соединенных Штатов, а затем сделать это с использованием всего лишь одной двадцатой вычислительной мощности США.Этот рассказ:на один-два года отстает, но используя лишь одну двадцатую его вычислительной мощности. В будущем мы должны переписать этот рассказ: использовать лишь одну долю его вычислительной мощности, мы можем сократить это время до шести месяцев, трех месяцев, и я думаю, что это цель.И мы можем даже превзойти их в некоторых отношениях.Вместе с тем, если сохраняется существенный разрыв в общем расчетном потенциале, то полное превышение является нереалистичным; однако в некоторых приоритетных областях и в некоторых случаях возможны компромиссы.
Вопросы: Два быстрых технических вопроса.Во-первых, когда я только что говорил о технологическом направлении, я упомянул, что ключевой проблемой, которую мы должны решить на этом этапе, является непрерывное обучение, которое также является горячей точкой исследований за рубежом в настоящее время, называется рекурсивное совершенствование.Какова самая большая трудность с технической точки зрения на данный момент?С вашей точки зрения, когда это можно решить?Во-вторых, что вы только что упомянули о том, что сначала нужно решить вопрос о непрерывном обучении, а затем сделать его интеллектуальным, и каковы технологические корни?Означает ли это, что DeepSeek будет работать с общим интеллектом после того, как он решит проблему непрерывного обучения?
Ответ: Трудность технического вопроса заключается в том, что мы еще не нашли очень рабочего способа.Весь мир еще не нашел хорошего решения, и все пытаются, и все еще на этапе, когда неизвестно, кто может найти следующее решение этой проблемыУ нас много идей, много идей, которые сейчас кажутся перспективными, но все еще не реализованы.Это первая.
Во-вторых, сейчас у нас есть внутреннее значение для того, чтобы обучить нашу следующую версию модели, и мы надеемся, что она поможет нам в разработке.Это повышает эффективность DeepSeek - наша модель, прежде всего, повышает эффективность самого DeepSeek, и она поможет нам еще больше, когда мы разрабатываем следующую версию модели.Или, проще говоря, мы создали модель, первая цель которой не была, чтобы все использовали ее, а чтобы мы использовали ее.Во-первых, это будет полезно для нас самих, а затем я буду быстрее при разработке следующей версии модели.
Многие из нас думают, что сначала мы должны быть полезными для себя, сначала мы должны быть полезными для себя - это самый быстрый способ достижения AGI.Когда мы сами хорошо используем это, это означает, что, возможно, другие тоже хорошо используют это, но сначала мы должны убедиться, что мы сами хорошо используем это.Это довольно странный рассказ, но многие думают именно так: не что пользователи используют его хорошо, а что мы хотим помочь нам больше, чтобы мы могли сделать AGI гораздо быстрее.Логика этого повествования заключается в том, чтобы помочь нам достичь AGI - но прежде всего помочь нам достичь AGI, и нам нужна эта помощь для достижения AGI.Теперь совершенно очевидно, что нам действительно нужен искусственный интеллект, чтобы помочь нам в реализации AGI.Хотя он еще не работает автономно, он работает только с людьми, но уже очень полезен.
(О непрерывном обучении, а затем общем интеллекте) Решая проблему непрерывного обучения, мы можем значительно ускорить наши исследования и разработки.Если бы я сначала решил непрерывное обучение, то вопрос об общем интеллекте не был бы решен.У меня есть ИИ, и если он может постоянно учиться, его способности должны быть очень сильными.Сегодня возможности агента ограничены именно потому, что он не может непрерывно учиться, не может эффективно учиться.Если мы можем начать с непрерывного обучения, то возможности ИИ очень сильны, и они могут значительно повысить эффективность наших собственных исследований.Сделайте это непрерывное обучение, и общий интеллект может быть легко - легко сделать это с ним.Так что это результат, который мы хотели бы видеть: мы меньше работаем, и нам легче.В противном случае теперь вы должны сделать искусственный общий интеллект, это более усталое, более горькое, информационно-емкое, трудоемкое дело, а рентабельность также невысока.По крайней мере, я думаю, что он должен быть способен продолжать учиться.
На отечественное производство может потребоваться несколько лет (что касается того, сможет ли отечественное оборудование догнать его).Во-первых, на национальном уровне необходимо решить экологическую проблему, поскольку экология - это вопрос доверия, а затем проблему производственных мощностей, и я думаю, что это должно быть постепенно решено.Я не очень верю, что через пять лет мы все еще застряем в производственных возможностях.Сейчас, безусловно, проблема производственных мощностей застряет, в этом году, в следующем году, в следующем году, возможно, все еще застряет проблемами производственных мощностей, но через пять лет я думаю, что это может быть и не обязательно, и я по-прежнему настроен оптимистично.
(Что касается будущей организационной структуры и численности персонала) Наша прежняя организационная структура была очень децентрализованной, потому что не было никакой организационной структуры.Но после дальнейшего расширения населения, безусловно, потребуются некоторые изменения.Сейчас я могу только сказать, что здесь потребуется много изменений, но сейчас трудно выразить все это сразу.Наконец, следует разделить отдельные секторы: в некоторых секциях нам нужно создать более строгую иерархию, в других, возможно, сохранить более свободную и плоскую структуру.По мере увеличения численности персонала мы сделаем эту корректировку- надо сказать, что нам придется сделать это немедленно, и я уже делаю этоБез этой корректировки многие вещи невозможно продвинуть вперед.Действительно, есть много секторов, которые должны иметь организационную структуру.
(От скорости выпуска) В настоящее время мы выпускаем в Интернете эту версию V4, все еще довольно грубую, много возможностей требует времени.Для меня, более комфортный ритм публикации, вероятно, два-три месяца.Последний выпуск, возможно, был в конце апреля, а следующий - в конце июня, примерно.Если бы не было неожиданностей, то версия все равно должна быть лучше, чем версия.
На этом уровне 50B-активации, я думаю, что в конечном итоге мы не будем сильно отличаться от этой волны открытого исходного кода - в скорости рассуждений и эффективности, возможно, не будет сильно отличаться.Но разрыв с его крупной, не раскрытой моделью должен быть все еще большим.Этот разрыв, этот параметр активации, мы должны быть не в состоянии сделать, должно быть большего размера модели, например, 150B.Итак, 150B, исходя из нашего нынешнего прогресса в обучении, если мы оптимистично настроены, мы можем начать обучение в конце этого года, по крайней мере, в следующем году ... Разрыв все еще довольно большой.Это разрыв с ОЭС.
Вопрос: Вы часто говорите о том, что процесс реализации AGI является постепенным, а не о том, что происходит резкое изменение.Так что я могу понять, что это процесс без критической точки?
Ответ: У нее нет критической точки, но она нелинейна.Теперь мы более убеждены в том, что ИИ может ускорить исследования ИИ.Это не линейное, потому что вы можете использовать ИИ для ускорения своих собственных исследований, поэтому это может быть нелинейным.
Вопрос: Ясно.Таким образом, вывод, что языковой модели продолжить масштабирование достаточно, чтобы сделать это состояние?
Ответ: Могу только сказать, что языковой модели Scaling, которую я сейчас не вижу, есть верхний предел.У нашего нынешнего уровня интеллекта, или у американского интеллекта, нет пределов.
Вопрос: Ясно.Вы сказали, что модель, активированная американским 800B, может быть обучена намного лучше, но она также не может использоваться, поэтому ее можно только обучить, и трудно вывести ее для использования, потому что она действительно немного дорогая.Мне было интересно, что человечество приобрело языковую способность почти 100 000 лет назад, и это может быть 3,7 миллиарда лет эволюции вперед.Но в случае обучения ИИ, порядок может быть обратным, но в конечном итоге мы все равно можем перейти -- и не обязательно в модель мира -- в физическую модель или воплощенную часть, верно?После этого лимита?
Ответ: Да, я думаю, что воплощение обязательно все равно должно войти, в конечном итоге воплощение.Поэтому для нашей компании, естественно, конец может быть воплощённым.Потому что для нормального человека, его потребность не в компьютере, верно?Нормальный человек ест, пьет и играет, одевается и живет, не нуждается в компьютере.Он нуждается в удовлетворении конкретных человеческих потребностей.Если цель состоит в том, чтобы удовлетворить потребности людей, то я думаю, что воплощение не может быть обобщено.
Вопрос: Ясно.Поэтапно, если мы достигнем состояния, которое может самоэволюционировать, которое может самоэволюционировать, приближается к этапу подъема, мне интересно, что вы хотите сделать первым, когда ИИ приземлится в этом состоянии?
Ответ: Может быть, это не так, как сейчас.Если бы не было воплощения, то какое наше определение AGI, или что мы ожидаем, что AGI будет делать?Это поможет мне итерать следующую версию модели.И если у него будет воплощение, то мы хотим, чтобы он сделал то же самое: позвольте ему итераровать следующую версию воплощения, и он сделает следующую версию робота.
Вопрос: Я все еще немного любопытно.В предыдущем интервью DeepSeek было отмечено, что вкус и интуиция важны при выборе ключевых направлений и выборах исследований, а не простой инженерной оптимизации.Если ИИ сможет эволюционировать, то будет ли этот вкус, вкус, интуиция все еще важны?Или, что может быть важным?
Ответ: В ИИ сейчас не хватает вкуса и интуиции, ему не хватает способности непрерывного обучения.У ИИ нет проблем с вкусом и интуицией - вы даете ему написать статью, его вкус и интуиция, я думаю, что нет проблем.
Вопрос: Вы упомянули непрерывное обучение, и многие исследователи также упомянули о нем как о нерешенной проблеме исследований.Кодирующий агент - особенно догнать MILES, масштабирование до уровня Office, уровня MIS - является более определенной целью.Как вы думаете, как распределить ресурсы для исследований, особенно ученых, чтобы достичь наилучшего баланса и эффекта с учетом нерешенной цели исследования и более определенной цели масштабирования?
Ответ: Модель Office - это довольно определенная цель; модель MIS, я не думаю, что это определенная цель, я могу сказать только, что это цель.Модель Office, я думаю, должна быть более определенной.
Это (непрерывное обучение) не затрачивает ресурсов.Проведение такого свободного исследования не требует карты, требует лишь небольшого количества карты, требует идей, и не требует кадровых ресурсов, потому что не требуется, чтобы кто-то постоянно работал там.Это не проект, а необходимо, чтобы там было много людей, которые думали об этом.Таким образом, не требуется выделять ему какие-либо ресурсы, поскольку он не нуждается в ресурсах.Вы должны обучать модели, делать модели, выпускать модели, делать эксперименты с эффективностью модели, прежде чем вам нужны ресурсы.Это, о чем только что говорилось, не требует много ресурсов для людей и карт.
Мы называем это «прикосновением»: порог очень низкий, и каждый может прикоснуться к нему, но кто может прикоснуться к чему-то, я, возможно, даже не знаю, это талант или что-то.
Так что нам не нужно распределять ресурсы.Мы просто отличаемся от других компаний в том, что мы тратим время на обсуждение этого вопроса, думаем об этом и считаем это важным делом.В компании это важный вопрос, и мы потратим время на его размышление, но не должны тратить много ресурсов на это.
Проблемы с галлюцинациями больших моделей влияют на опыт пользователя.Существует также способ решения проблемы галлюцинаций, но это долгосрочная идея.Галлюцинации можно рассматривать как проблему, которую можно решить с помощью более эффективной пост-тренировки, как проблему, которую можно решить и улучшить, только что мы не приложили больших усилий для этого.Или, для меня, галлюцинация является проблемой, но мы можем прийти к проблеме продукта.Мы будем решать это, но это не ключевая проблема.
Еще одна проблема заключается в данных.Что касается маркировки данных, то мы имеем дело с капитальными вкладами: с нашей структурой капитальных вкладов мы не можем позволить себе столько высококачественной маркировки данных, поскольку стоимость такой маркировки высока.Стоимость маркировки данных в США не отличается от стоимости маркировки данных в Китае, у стандартных данных в Китае нет преимуществ в плане стоимости, особенно у высококачественных данных нет преимуществ в плане стоимости, что делает нам сложным вкладывать в маркировку данных, как у США.В Китае этот путь очень сложный, потому что данные о тендере слишком дороги - это неприятно для нас, будь то внешние или наши собственные тендеры.
В настоящее время мы ходим по сути на двух ногахЭто не значит, что мы не можем торговать, но есть некоторые дешевые данные, есть некоторые высокие затраты, мы сначала торгуем низкими затратами.Так что вы можете подумать, что половина людей в нашей компании работают над данными: половина основных исследователей, самые важные люди, половина работают над данными, и мы сосредоточены на данных.Решение проблемы ИИ на данном этапе зависит от базовых данных.Основная часть - данные.
Вопрос: Вопрос первой.Вы только что сказали, что китайская модель, безусловно, более эффективна, чем американская, и в некоторых других аспектах она может быть более эффективной, чем американская.Как вы думаете, в каких областях мы были бы лучше, чем США в интеллектуальном или ином отношении?
Ответ: Я думаю, что во многих отношениях мы можем сделать это лучше, чем Соединенные Штаты.Не говоря уже о своем собственном опыте - опыте с продуктами, который мне кажется хорошим - я не думаю, что мы обязательно хуже, чем в США, в плане пользовательского опыта.С точки зрения продукции, производительность продукции не обязательно хуже, чем в США, и стоимость также должна быть ниже, чем в США, поэтому Китай, возможно, все еще будет конкурентоспособным.
В других аспектах, если есть структурные преимущества, то я думаю, что их нет.Однако, как с точки зрения затрат, так и с точки зрения продукции, я считаю, что действительно есть определенные структурные преимущества.Расходы понятны: им не нужно делать это, поэтому они не развивают эту способность, и они, конечно, не уделяют этому внимания, как мы - мы можем считать это очень важной вещью, но для них это не важно.Продукция тоже, многие компании могут производить продукты.Таким образом, оба эти аспекта могут иметь структурные преимущества.
Вопрос: Второй вопрос.Вы только что упомянули о пост-обучении, и мы вкладываем относительно большие затраты, как Anthropic и OpenAI, и огромные суммы.Будем ли мы увеличить инвестиции в последующую подготовку после этого финансирования?
Ответ: Пробелы в основном заключаются в маркировке высококачественных данных, в основном в исследованиях ИИ.Увеличение инвестиций, безусловно, будет.Но отмечается, что узкое место в высококачественных данных не является капитальными инвестициями, я думаю, что это время, это время.Для OpenAI, за рубежом, для Anthropic они были раньше, а затем больше капитала, больше карт.В нашей стране можно считать, что это было начато только в последние полгода, поэтому с точки зрения времени, я думаю, что нужно больше времени.Это имеет мало общего с капиталовложением - даже без дополнительных капиталовложений, исходного капитала достаточно для того, чтобы расширяться максимально быстро.Но у этой скорости есть верхний предел, и узкое место не застряло ни в деньгах, ни в картах.Действительно, он находится в процессе быстрого расширенияПоэтому мы считаем, что в течение года проблема высококачественных данных будет выполнена довольно хорошо, и это можно ожидать в стране.Я думаю, что это не так сложно, но это действительно требует времени.
Вопрос: Третий вопрос.Мы видим, что Anthropic использует свои собственные модели для создания собственных продуктов, запуская много вертикальных финансовых, юридических... и даже в будущем в медицинском направлении.Будем ли мы также рассматривать это вертикальное применение на каком-то этапе?
Ответ: Я еще не очень четко думал о том, какая будет будущая отечественная бизнес-модель, или какой будет наиболее гладкий путь, мы еще не достигли этого этапа.Ситуация внутри страны и за рубежом не обязательно одинакова, и мне кажется, что сейчас еще сложно судить о том, какая будет ситуация внутри страны.С учетом нынешней ситуации, я думаю, что наиболее разумный подход должен быть полностью универсальным агентом, а другие агенты должны иметь более низкий приоритет, включая финансовых агентов, врачей и т. д.Сначала нужно кодировать, потому что кодирующие агенты могут сделать многое, есть много вертикальных агентов.На данном этапе мы считаем, что наиболее важным является агент кодирования.
Вопрос: На самом деле, мы также работаем над DeepSeek, и я восхищаюсь тем, что вы работаете над DeepSeek с очень чистым научным подходом.Однако сейчас эта отрасль действительно вышла на рынок капитала, на путь капитализации.Вы очень ответственный человек, как по отношению к партнерам, так и по отношению к инвесторам.Между чисто научными исследованиями, чисто ориентацией AGI и рынком капитала - вы, конечно, будете идти на рынок капитала в будущем, и, конечно, будут публичные акционеры - как вы думаете, как балансировать в будущем?Как вы об этом думаете?
Ответ: Я думаю, что сейчас это должно быть сделано, нужно все.Если бы я мог получить несколько миллионов долларов в этом году на B-terminal, плюс у нас есть пользователи на C-terminal, то это уже имеет определенную коммерческую основу.В следующем году у нас есть доход на B-конец, если этот спрос может быть еще больше увеличен, компания уже недалеко от чистой прибыли, возможно, это уже чистая прибыль, возможно, это уже не стадия чистого сжигания денег.Поэтому я чувствую, что движение, которое можно сделать и управлять, должно быть еще более большим.
Или, в худшем случае, продажа API может поддержать публичную компанию.Если не будет новых технологических достижений, наша технология заморозится здесь, тогда в конечном итоге мы будем продавать API и делать эти услуги хорошо, я думаю, что это будет достаточно.
Так что я все еще чувствую себя уверенным, действительно не так сложно.Поскольку это действительно место с высоким рычагом заемных средств и в очень быстро развивающемся секторе, это может быть не так сложно.Я могу только сказать,Мы мечтаем больше, но у нас есть и результаты, которые мы можем достичь.
Вопрос: Я думаю, что самое большое отличие DeepSeek от других компаний заключается в том, что наша организация отличается от других.Вместе с тем организационная форма не только связана с целями, но и учитывает границы и эффективность организации.С макроуровневой точки зрения, будет ли эта организационная форма хорошим объектом для обучения?Исторически возможно, Bell Labs, или какой формат является более идеальным?Или мы сами чувствуем, что нет идеала, и больше зависит от нас постепенно исследовать?Возможно, в новую эпоху мы сами будем исследовать это, потому что мы, конечно, не похожи на некоторые американские компании, и эти три компании сами не похожи, но они будут исследовать это, по крайней мере, с точки зрения коммерческой компании.Я хотел бы в первую очередь задать вопрос об организации.
Ответ: Во-первых, у нас нет подражающих объектов.На каждом этапе мы исходим из реальных обстоятельств, добиваемся правды, принимаем решения на основе реальных обстоятельств и выясняем, что мы должны делать.Таким образом, он является продуктом эпохи и является реакцией на реалии, а не результатом имитации.
В данном случае это может быть оптимальным решением; это путь, который мы сами выбрали.Каждый шаг мы, безусловно, продумывали и выбирали, и именно такой выбор был результатом.Это не потому, что мы видим, кто выбирает это, а потому, что мы анализируем преимущества и недостатки.В будущем может быть то же самое, и мы не должны подражать кому.
Я думаю, что мы все еще отличаемся от Bell Labs: она, безусловно, не должна быть коммерциализирована, но мы, безусловно, должны быть коммерциализованы.В конце концов, мы должны выжить - мы, в конце концов, компания, и правительство не даст мне ни копейки.Так что у нас может быть очень амбициозная миссия, но в конечном итоге это компания, которая должна думать, как жить.Поэтому B-конец, безусловно, важен для нас, потому что в дальнейшем мы можем жить на нем.Просто сказать, что сейчас не важно, потому что это сейчас линия затрат.
Так что я думаю, что мы все еще отличаемся от Bell Labs, мы все еще, по сути, компания.В истории было много компаний, которые преследовали не только прибыль, но не только прибыль, но и не компания.Многие компании преуспевают, потому что у них есть стремление выходить за рамки прибыли, и это стремление не только не влияет на их коммерциализацию, но и делает их более коммерческими.Мы по сути все еще являемся компанией, и мы просто думаем о том, что мы зарабатываем, когда, сколько и чем зарабатываем деньги - просто мы говорим, что у нас есть выбор.
Вопрос: Два небольших вопроса.Во-первых, вы упомянули, что MILOS, возможно, не является определенной целью, но определенно будет двигаться в этом направлении, и вы упомянули, что параметры активации следующего поколения могут быть около 150 - 250B - вы думаете, что 150 - 250B является стандартом O4.7, или может быть, что-то еще?Во-вторых, теперь мы используем некоторые компиляционные языки, помимо CUDA, для всего вывода.Основываясь на экологии Nvidia, мы могли бы использовать больше PTX; теперь больше TileLang, это значительно снизит нашу эффективность на выводах, или снизит эффективность в краткосрочной перспективе?Что вы думаете о потере эффективности, связанной с такими изменениями в языке компиляции, или это на самом деле долгосрочное состояние, в котором можно повысить эффективность?
Ответ: Это повышение эффективности, это значительное повышение эффективности.
Вопрос: Нет никаких негативных последствий?
Ответ: Да, это значительно повысило эффективность.Так что это возможность.Это эквивалентно тому, что раньше вы не могли жить без экологии CUDA, теперь мы можем отказаться от нее и использовать более простой способ, используя TileLang.Это язык высокого уровня, он также очень быстрый для написания программ, и нужно написать очень мало кода, и я могу переписать его.
Вопрос: Ясно.Таким образом, как вы упомянули, это большие возможности, которые предоставляет ИИ, а не недостатки, которые необходимо исправить в краткосрочном плане.
Ответ: Да, это большая возможность для развития технологий.У нас есть еще один проект, где мы используем ИИ для написания TileLang.
Вопрос: Это быстрее?
Ответ: Теперь все TileLang написаны человеком, но они намного быстрее, чем первоначальные CUDA.
Вопрос: Ясно.Так что даже для эффективности выполнения базового оборудования это не повлияет?
Ответ: Потеря от 1 до 2%, я думаю, что это приемлемо.
Вопрос: Я понимаю, я понимаю.Спасибо, ясно.
Есть ли проблемы с другими?...Нет проблем, мы сегодня это сделаем.Большое спасибо всем за время.