Skill

L'agent d'IA commence à être un réalisateur : comment un projet GitHub permet à Claude Code de créer automatiquement des vidéos de produits cinématiques

Si vous demandez à l'IA de faire un film de produit, vous pourriez penser à ce processus : Donner à l'IA une présentation du produit → L'IA génère plusieurs images → [...]

Catalogue des articles

Si vous demandez à l'IA de faire un film de produit, vous pourriez penser à ce processus :

Donnez à l'IA une présentation du produit → L'IA génère plusieurs images → Accompagnez de la musique → Exportez la vidéo.

Mais les gens qui ont réellement réalisé des vidéos de produits trouveront,« Être capable de générer des vidéos » et « Être capable de faire un bon produit » sont deux choses différentes.

Ce qui est vraiment difficile avec la vidéo de produit, ce n'est pas seulement l'animation, mais aussi la façon d'organiser la page de produit, le langage de l'objectif, la conception visuelle, le rythme, le son et la post-production dans un processus de production complet.

Les projets open source que j'ai vus récemment Vidéo-ShotcraftC'est précisément pour résoudre ce problème.

Ce n'est pas un simple générateur de vidéo, mais une "bibliothèque de compétences de production vidéo de produit cinématographique" pour Claude Code, Codex et d'autres agents d'IA : un grand nombre de modes de mouvement de l'objectif matures sont organisés en recette de prise de vue réutilisable, puis coopèrent avec la mise en œuvre de Remotion, le modèle vidéo complet, les effets sonores et le processus de production, de sorte que l'agent d'IA ne se contente pas d'écrire du code pour faire de l'animation, mais peut compléter la vidéo de produit selon un ensemble relativement complet de méthodes de production de films et de télévision.

Jusqu'à présent, le projet contient déjà 152 cartes de recettes d'objectifs, 209 prévisualisations dynamiques, 209 styles de mouvement et un ensemble complet de modèles de vidéos exploitables。L'entrepôt GitHub a actuellement reçu plus de 6200 étoiles et compte plus de 500 forks.

Vidéo-shotcraft GitHub Warehouse


Premièrement, quels problèmes résolve-t - il ?

La production vidéo traditionnelle de produits peut être divisée en plusieurs étapes :

Compréhension du produit → Créativité → Styleframe → Spécifications → Capture de matériaux → Animation → Effets sonores → Clips → Rendering → QA

Si l'un des liens n'est pas bien fait, l'effet final sera compromis.

Par exemple :

  • La capture d'écran du produit est fausse, et le public peut le voir en un coup d'œil ;
  • L'animation est superbe, mais ne met pas en évidence les fonctions du produit ;
  • Il n'y a pas de rythme entre les coups ;
  • Il n'y a pas de point de carte BGM et d'image ;
  • SFX est ajouté au hasard, et le son devient bon marché ;
  • Tous les éléments sont en mouvement, sans « pause » et « respiration » ;
  • Les polices, les couleurs et le système de conception du produit lui-même sont totalement incohérents.

Donc, le vrai problème n'est pas :

« Peut-on créer une animation ? »

Mais plutôt :

L'IA peut-elle comprendre le produit et choisir le langage de prise de vue approprié pour relier l'ensemble du processus de production vidéo ?

L'idée de video-shotcraft est très intéressante :Plutôt que de laisser l'agent inventer l'animation à partir de zéro à chaque fois, donnez-lui un ensemble de "langages de l'image" qu 'il peut récupérer, combiner et réutiliser.


Transformer l'expérience de production vidéo en recette de tir

La conception principale de video-shotcraft est la recette de tir.

Le projet rassemble actuellement 152 cartes de recettes d'objectifs, chacune d'entre elles ne dit pas simplement à l'IA :

« Faites une animation de vol. »

Il s'agit plutôt de structurer les informations clés dont a besoin un objectif, y compris :

  • Utilisation de lentilles
  • Émotions et énergie
  • Durée recommandée
  • Paramètres d'animation
  • Implémentation
  • Précautions
  • Démo Remotion existant
  • Preview dynamique

En fait, il fait quelque chose de très important :

Transformer la « connaissance du design de mouvement », qui s'appuyait à l'origine sur l'expérience du concepteur, en une base de connaissances que l'agent peut appeler.

Par exemple, un plan de présentation de fonctionnalités de produit peut nécessiter :

Pages apparaissent → Cartes volent dans → Arrangement → Lentille progressive → Focus du sujet → Résidence de l'information

Si vous laissez le LLM jouer tout seul, il apparaît facilement :

Zoom + Rotation + Lumière + Particules + Rebond + Blur + Camera Shake...

On dirait « très AI », mais pas nécessairement avancé.

Le rôle de la recette de tir est de dire à l'agent :

Quelle grammaire de mouvement devrait être utilisée pour ce scénario et comment ce mouvement devrait être implémenté.

C'est très similaire à un programmeur appelant une bibliothèque de composants.

Auparavant, c'était :

Animation à partir de zéro.

Il devient maintenant :

Sélectionnez un langage de mouvement dans la bibliothèque de lentilles → Ajustez les paramètres → Adaptez le matériel du produit.


Pourquoi avoir choisi Remote ?

L'implémentation vidéo sous-jacente de video-shotcraft utilise Remote。

L'idée principale de Remotion est d'utiliser React / TypeScript pour décrire la vidéo.

C'est très important pour les agents d'IA.

De nombreuses opérations dans un logiciel vidéo traditionnel sont :

Timeline → glisser → ajuster les paramètres → aperçu → réajuster.

Et pour un agent de codage, la façon plus naturelle de fonctionner est :

Lire le code → modifier les paramètres → rendre → vérifier → modifier à nouveau.

Ainsi, Remotion est parfaitement adapté comme couche d'exécution vidéo pour l'agent AI.

La démonstration de video-shotcraft est elle-même une implémentation TSX, et de nombreuses animations utilisent la norme TSX. t(Progress normalisé) pour conduire.

Ainsi, un plan peut être abstrait comme :

Matériaux d'entrée + paramètres d'animation + progression du temps → écran de sortie

Cela fait de « lentille » un actif programmable.


Quatrièmement, le point le plus remarquable : la page de produit réelle, pas l'interface utilisateur manuelle de l'IA

C'est l'un des principes de conception les plus précieux que je pense pour le video-shotcraft.

Le projet souligne explicitement :

Les répliques des pages existantes doivent utiliser des captures d'écran réelles.

Cela dit, si la vidéo présente un produit SaaS, l'IA ne devrait pas être autorisée à redessiner un tableau de bord « ressemblant » à elle-même.

La bonne chose à faire est :

Pages de produits réels → Automatisation du navigateur → Captures d'écran HD → Matériaux élémentaires → Mirror à distance

Le processus de production du projet démarre le serveur de développement local du produit, puis utilise le navigateur sans tête pour acquérir les pages et obtenir les données de texture de la page et de localisation des éléments.

Il y a un avantage très évident à faire cela :

Le produit dans la vidéo est vraiment le produit utilisé par l'utilisateur.

Cela améliore considérablement la crédibilité de la vidéo du produit.


V. 2.5D : pourquoi les captures d'écran de produits peuvent-elles être « cinématographiques » ?

S'il n'y a qu 'une seule capture d'écran de la page Web, la pratique courante pourrait être :

Zoom en avant → Zoom en arrière → Déplacez-vous à gauche et à droite.

Bientôt, ça va devenir un PPT.

La méthode de video-shotcraft est plus proche de la photographie 2.5D.

Une page Web peut être comprise en plusieurs couches visuelles différentes :

Camera
  │
  ├── Background
  │
  ├── Page
  │    ├── Header
  │    ├── Content
  │    └── Cards
  │
  └── Foreground

Puis passe :

  • Caméra Zoom
  • Pan
  • Orbit
  • Perspective
  • profondeur
  • parallaxe
  • rotation

Laissez la page à l'origine plane produire un sens de l'espace.

Par exemple :

L'objectif voit d'abord toute la page → progresse lentement → la zone du corps entre au centre visuel → le contenu environnant produit une légère parallaxe → s'arrête finalement sur la fonction de base du produit.

À ce moment-là, ce que le public voit n'est plus une « capture d'écran de page », mais plutôt une caméra qui prend un véritable espace de produit.


Un vrai film, pas plus d'effets spéciaux.

Il y a une phrase dans les principes de conception du projet qui mérite une attention particulière :

Le sens du film provient de la combinaison du miroir, de la lumière et de l'ombre, du rythme et du son, plutôt que de l'animation spectaculaire.

C'est un pit facile à piétiner pour beaucoup de vidéos d'IA.

Il est facile de penser :

Avancé = plus d'animation.

Et donc :

  • Chaque élément vole ;
  • Chaque élément est lumineux ;
  • Chaque mot est joué ;
  • Blur est ajouté à chaque transition ;
  • Chaque prise de vue est Camera Shake.

Le résultat est souvent le contraire.

Video-shotcraft met plus l'accent sur :

Un film ne parle qu 'un mouvement.

Par exemple, un plan sélectionné "voler dans", alors le voler dans est le protagoniste de ce plan.

Au lieu de :

Voler dans + Rotation + Lumière + Particules + Bounce + Shake.

Cette retenue est en fait très proche de l'approche traditionnelle du Motion Design.

Le sentiment de hauteur vient souvent de « faire moins », plutôt que de « ajouter quoi ».


7 - Une autre clé : laissez l'image "arrêter"

L'IA a une tendance naturelle à générer des animations :

Toujours bouger.

Parce que pour le modèle, « mouvement » semble signifier « contenu ».

Mais les vidéos professionnelles nécessitent juste beaucoup de Hold.

Video-shotcraft a des règles très claires à ce sujet :

  • Hold pendant au moins 1 seconde après que le logo de la marque est fixé ;
  • Laisser un temps de repos après la fin de l'animation par lots ;
  • Le mouvement du corps principal d'ouverture doit donner suffisamment de temps ;
  • Réservez des frames de repos à l'avance sur la ligne de temps.

La raison est très simple.

Si l'image continue à bouger :

Le public n'a pas le temps de comprendre le message.

Le vrai rythme de la vidéo du produit devrait être :

Action → Settle → Comprendre → Action suivante

Au lieu de :

Action → Action → Action → Action → Action → Action ...

La « pause » en elle-même est un design.


BGM n'est pas seulement la musique de fond, mais aussi la chronologie.

Une autre partie très intéressante, c'est la gestion de Beat Sync par video-shotcraft.

Beaucoup de vidéos appelées « points de carte », en fait juste :

Animer tous les quelques images.

Ce n'est pas vraiment un point de carte musicale.

L'idée du projet est d'abord d'analyser la musique elle-même, y compris :

  • BPM
  • Phase
  • Kick
  • Snare
  • Hi-Hat
  • Transient

Cette information est ensuite mappée sur la ligne temporelle vidéo.

En fin de compte, le temps de prise de vue n'est plus simplement écrit :

0s
2s
4s
6s

Et plus proche :

beatF(1)
beatF(2)
beatF(4)
beatF(8)

Cela permet :

Commutation d'objectif, apparition d'éléments, mouvement de caméra, impact, SFX

Cela se passe vraiment au nœud rythmique de la musique.

Le projet a également proposé l'idée de rétro-test de l'erreur de tangence après le rendu, l'objectif est de contrôler l'erreur dans une petite plage de nombre d'images.

En fait, cela dit une chose :

Le rythme vidéo peut également être ingénieur.


Conception du son : SFX n'est pas un « dernier ajout ».

Beaucoup de vidéos générées automatiquement ignorent le son.

En fait, le même tableau :

Pas de son.

et

Impact / Riser / Sparkle / UI Click précis

C'est exactement deux sensations.

Video-shotcraft a même classé le SFX par scène et par matériau.

Actuellement, le projet contient 149 SFX et suit :

  • Transition
  • Impact
  • Riser
  • caméra
  • UI
  • Textes
  • Papier
  • Film
  • Lumière
  • Données
  • sci-fi
  • Mechanique
  • Glass
  • fluide
  • Crowd
  • Counter

organisations de catégorie.

Cette catégorisation ressemble à un « dictionnaire sonore » du concepteur.

Par exemple :

L'élément UI apparaît → UI sound
Étiquette : paper sound
L'impact → Impact
Lumière apparaît → sparkle / light
Riser de propulsion

La voix fait donc partie du langage de la caméra.


Les 152 cartes d'objectif ne sont que des mots, pas un miroir complet.

C'est un point très important pour comprendre le projet.

Shot Recipe n'est pas égal à une vidéo complète.

C'est plus comme :

Vocabulaire dans le langage du cinéma.

Par exemple :

  • Fly-in
  • Stack
  • Orbit
  • Zoom
  • Flip
  • Révélation
  • Spotlight
  • parallaxe

Ce sont des "paroles".

La vraie vidéo est :

Mots → Phrases → Paragraphes → Histoires

Ainsi, video-shotcraft propose également un pipeline de production complet.

Il veut que l'agent comprenne d'abord le produit :

产品是什么?
      ↓
最值得展示什么?
      ↓
视觉方向是什么?
      ↓
哪些功能适合哪些镜头?
      ↓
完整 Storyboard
      ↓
素材采集
      ↓
动画实现
      ↓
声音设计
      ↓
渲染
      ↓
QA

C'est un niveau plus élevé que simplement « laisser l'IA écrire le code de Remotion ».


XI, il fournit en fait trois modes de création

Le projet n'a pas forcé toutes les vidéos à suivre le même processus, mais a conçu trois modes.

1. Template de presse Ink

C'est la route la plus adaptée pour un film rapide.

Le projet fournit un ensemble de modèles de vidéos complets qui ont été validés :

  • 36.2 secondes
  • 1920 × 1080
  • 30fps
  • 10 shots
  • 2.5D Page miroir
  • Carte de titre
  • Transition de champ
  • SFX

L'utilisateur a simplement besoin de dire à l'agent :

Utilisez le modèle Ink Press de video-shotcraft pour faire un film promotionnel pour mon produit.

Ensuite, remplacez :

  • Screenshot produit
  • Produit Copy
  • Le logo
  • Marque couleur

Vous pouvez obtenir rapidement une vidéo structurée.


2. Création indépendante et libre

Si vous ne souhaitez pas utiliser un modèle fixe, vous pouvez laisser l'agent décider lui-même :

  • Structure vidéo
  • Orientation visuelle
  • Sélection de lentilles
  • Matériaux de traitement
  • audio
  • Le rythme
  • Réalisation finale

C'est plus comme :

Le mode Directeur.

L'utilisateur donne le produit et les objectifs, l'Agent lui-même complète tout le lien de création.


3. co-création

Si vous souhaitez participer vous-même à la prise de décisions créatives, vous pouvez adopter le mode de co-création.

L'agent s'arrête à plusieurs nœuds clés :

Présentation du produit → Décision des exigences → Direction visuelle → Shot Mapping → Storyboard

Et ensuite confirmé par l'homme.

Après cela :

Acquisition de matériaux → Implémentation à distance → SFX → Render → QA

Il est confié à l'agent pour l'exécution.

Cela résout un problème très réel :

L'IA ne doit pas prendre toutes les décisions par elle-même.

La direction créative et les objectifs commerciaux nécessitent souvent la participation humaine.

Et la mise en œuvre concrète peut être hautement automatisée.


La galerie est une autre conception très intelligente de ce projet.

Il serait très douloureux de laisser l'utilisateur lire directement les 152 cartes de lentilles Markdown.

Le projet propose donc une galerie en ligne.

L'utilisateur peut :

  • parcourir les shots ;
  • Voir Dynamic Preview ;
  • Recherche ;
  • Filtrer par catégorie ;
  • Voir différentes variantes ;
  • Copiez le nom de la carte de tir.

Galerie de mouvement en ligne

Cette conception met en fait :

« Quel genre d'animation veux-je ? »

C'est devenu une question de choix visuel.

L'utilisateur n'a pas besoin de description :

« Je voulais un peu de sens de l'espace 3D, puis un accès rapide à partir de la droite, puis une pile de cartes légèrement lentement... »

Il suffit de :

« Je veux ça. »

Le nom de la carte de tir est ensuite donné à l'agent.

C'est très important pour la collaboration humaine-IA.


De l'ingénierie rapide à l'ingénierie d'actifs

Je pense que la chose la plus intéressante à propos de Video-Shotcraft n'est pas en fait 152 cartes d'objectif.

Mais plutôt la méthode derrière elle :

Ne vous contentez pas d'optimiser Prompt, préparez les actifs invocables de l'IA.

Workflows traditionnels :

Prompt
  ↓
LLM
  ↓
代码
  ↓
结果

Alors que le video-shotcraft est plus proche :

Product
   ↓
Knowledge / Rules
   ↓
Shot Recipes
   ↓
Reference Implementations
   ↓
Assets
   ↓
Agent
   ↓
Remotion
   ↓
Render
   ↓
QA

C'est une sorte de typique Agent Skill Ingénierie。

Les capacités de l'IA ne dépendent plus entièrement du modèle lui-même.

Mais plutôt :

Modèle + outils + connaissances + modèles + actifs réutilisables + règles d'acceptation

Ensemble, ils constituent la capacité finale.


Pourquoi ce mode pourrait-il être plus pratique que « générer des vidéos en un clic » ?

Beaucoup d'outils vidéo AI soulignent maintenant :

Entrez une phrase → sortie d'une vidéo.

Cette méthode est très appropriée pour :

  • exploration créative ;
  • Vidéo conceptuelle ;
  • contenu des médias sociaux ;
  • Atmosphère ;
  • contenu non structuré.

Mais la vidéo produit a une exigence particulière :

Il doit être exact.

La page produit ne peut pas être modifiée à volonté.

Le logo ne peut pas changer.

La fonction ne peut pas être modifiée.

L'interface utilisateur ne peut pas afficher un bouton inexistant.

Les mots ne peuvent pas être scrawlés.

Donc, les vidéos de produits sont en fait mieux adaptées :

Agent + Code + Actifs réels

Plutôt que de dépendre entièrement :

Texte → Vidéo générative

L'itinéraire du video-shotcraft, essentiellement :

Laissez l'IA s'occuper de l'organisation créative et d'ingénierie, laissez les actifs de produits réels s'occuper de l'exactitude factuelle et laissez Remotion s'occuper de la génération d'images déterministes.

Ceci est particulièrement précieux pour le SaaS, les outils de développement, les logiciels de bureau, les produits d'IA.


15, à partir de ce projet peut également voir une tendance plus grande

Si vous placez le video-shotcraft dans l'ensemble de l'écosystème des agents d'IA, il ne représente probablement pas seulement « l'IA fait de la vidéo ».

Mais dans une direction plus large :

Agent Skill passe de « prompt » à « workflow » professionnel

Une compétence d'agent mature qui peut inclure :

Skill
├── Rules
├── Knowledge
├── Templates
├── Recipes
├── Components
├── Assets
├── Tools
├── Examples
└── QA

C'est très similaire à l'ingénierie logicielle traditionnelle.

Dans le passé, nous avions donné aux programmeurs :

API + SDK + Bibliothèque de composants

Vous pouvez également donner à l'agent :

Compétence + Recette + Modèle + Bibliothèque d'actifs + Chaîne d'outils

Ensuite, laissez l'agent se tenir au-dessus de ces capacités pour faire le travail.

Video-shotcraft en est un exemple très intuitif.


16 Comment commencer à utiliser ?

La solution la plus simple, c'est en fait de communiquer directement l'adresse de l'entrepôt à Claude Code ou Codex :

Install this skill for me:
https://github.com/Vincentwei1021/video-shotcraft

Vous pouvez également utiliser la CLI des compétences :

npx skills add Vincentwei1021/video-shotcraft

ou clonage :

git clone https://github.com/Vincentwei1021/video-shotcraft.git

cd video-shotcraft

Ensuite, un lien de compétence est établi en fonction de l'agent utilisé.

Une fois l'installation terminée, vous pouvez directement poser une demande similaire à celle-ci :

Use video-shotcraft to create a promo for my desktop product.

Ou spécifier une lentille :

Use the deck-deal-flyin and row-embed shot cards
to present this feature.

On pourrait même dire directement :

Use video-shotcraft to make a promo for my product
with the Ink Press template.

L'installation complète et les instructions d'utilisation données par le projet README sont également plus claires.


17, quelle scène est-elle la plus adaptée à l'heure actuelle ?

Du positionnement du projet lui-même, il convient le mieux à :

Les produits SaaS

Par exemple :

  • Outils AI
  • Gestion de projet logiciel
  • Le CRM
  • Plateforme d'analyse de données
  • Outils de collaboration

Outils de développement

Par exemple :

  • IDE
  • Plateforme API
  • Clique
  • DevTool
  • Produits AI Coding

Application Desktop

Particulièrement adapté pour les produits avec beaucoup d'interface utilisateur réelle et nécessitant une expérience interactive accentuée.

Vidéos de lancement de produits

Par exemple :

Nouveau lancement de fonctionnalités
Mise à jour produit
Version libéré
Produit Demo
Landing Page Hero vidéo

Et la recette de tir unique elle-même n'est pas limitée à la vidéo promotionnelle du produit, mais peut également être appliquée dans :

  • Brand film
  • Caractéristique Demo
  • Lancement de vidéo
  • Vidéos sociales
  • Motion de UI

Attends la scène.


18, où je pense qu 'il vaut vraiment

Si vous considérez Video-Shotcraft comme :

« Un projet de Remotion avec 152 animations »

En fait, je l'ai sous-estimé.

Ce qui est vraiment intéressant, c'est de décomposer un domaine qui a été fortement dépendant de l'expérience humaine en un système de production qui peut être exécuté par un agent :

设计经验
   ↓
镜头配方
   ↓
代码实现
   ↓
模板
   ↓
素材库
   ↓
声音设计
   ↓
生产流程
   ↓
自动化 QA

C'est un type très typique :

Connaissances → Workflow → Agent → Production

chemin.

Ce qui a vraiment changé à la fin, ce n'est peut - être pas « laisser l'IA faire plus de choses », mais :

Transformer le flux de travail implicite dans l'esprit d'un professionnel en un système explicite que la machine peut exécuter.


Conclusion : la vidéo AI du futur peut ne pas être « générée », mais « produite »

Dans le passé, nous parlions de vidéos d'IA, souvent autour d'un problème :

Quel modèle produit la vidéo la plus réaliste ? »

Mais les questions vraiment importantes pour l'équipe produit peuvent être :

« L'IA peut-elle commencer à partir de mon produit et compléter une vidéo qui peut être publiée ? »

Ces deux questions sont très différentes.

Le premier se concentre sur génération。

Ce dernier s'intéresse à Production。

C'est précisément la deuxième route que video-shotcraft a choisie.

Plutôt que d'essayer de faire imaginer une belle vidéo à partir de rien, il donne à l'agent un ensemble de langage de prise de vue, de matériel de produit réel, d'implémentations de Remotion, d'actifs sonores, de modèles et de normes de qualité.

En fin de compte, laissez AI passer d'un :

Générateur de code animé.

Devenir progressivement :

« Assistant de production de produits vidéo qui comprend le langage de l'objectif ».

C'est probablement une direction très intéressante pour les compétences d'agents :

L'IA professionnelle du futur n'est pas nécessairement un modèle plus grand, mais peut être un « modèle + flux de travail + outils + actifs + système d'acceptation » soigneusement conçu.

Et le video-shotcraft fournit un cas très spécifique et très beau.

Page d'accueil du projet : Vincentwei1021 / video-shotcraft