News · Il progetto 'Dear Upstairs Neighbors' di Google mostra la plancia di controllo, non il campo per i prompt

Jan, 264 min di lettura
Frontend

Il progetto 'Dear Upstairs Neighbors' di Google mostra la plancia di controllo, non il campo per i prompt

Un cortometraggio presentato a Sundance, realizzato con modelli Veo e Imagen sottoposti a fine-tuning, rivela come si presenta davvero un'interfaccia di produzione per il video generativo: input visivo, editing localizzato e revisione iterativa.

Il team ha dichiarato apertamente che il prompt testuale non ha funzionato

La maggior parte delle demo di video generativo parte dal prompt. Questa parte dalla sua bocciatura. Il post afferma senza mezzi termini che usare il text-to-video con un modello Veo sottoposto a fine-tuning 'produceva scene che sembravano Ada, ma il cui movimento era casuale, incontrollato e spesso bizzarro'.

Il testo da solo non riesce a trasmettere la sfumatura e la precisione necessarie per un'animazione narrativa.Montana Labs

È un'ammissione significativa, considerando che arriva dall'azienda che sviluppa il modello. Gli animatori dovevano controllare 'il ritmo delle dita assonnate di Ada mentre digitava, il timing comico delle sue espressioni facciali, o l'inquadratura esatta di una rivelazione della telecamera' — e l'interfaccia che ha permesso tutto questo si è rivelata essere un'animazione grezza disegnata in Maya e TV Paint, non un paragrafo di descrizione. Il frontend per la generazione video professionale è una tela, non una chat.

Il video-to-video metterebe lo strumento dell'artista in primo piano

Il workflow che il team chiama 'mostra, non scrivere' ha permesso agli animatori di lavorare nei propri software abituali e di inserire animazioni grezze in modelli fine-tuned che le ristilizzano. Gli esempi sono precisi: la 3D grezza di Ben Knight in Maya ristilizzata da Andy Coenen; il 2D di Mattias Breitholtz in TV Paint trasformato fotogramma per fotogramma da Forrester Cole tramite un workflow ComfyUI personalizzato con Imagen fine-tuned; gli effetti low-poly di Steven Chao convertiti nello stile espressionista da Ellen Jiang e Connie He.

Il dettaglio ricorrente è che ogni artista è rimasto 'nella propria zona di comfort, usando i suoi strumenti di animazione preferiti'. Il modello diventa una fase di trasformazione all'interno di un workflow già esistente, non il punto di partenza. Il post descrive inoltre 'un equilibrio regolabile tra controllo rigoroso e improvvisazione creativa' — il che significa che l'interfaccia espone una manopola di controllo, non un comportamento fisso. Questa regolabilità è la vera funzionalità che sta dietro al film.

La rifinitura localizzata e le revisioni quotidiane sostituiscono la generazione con un solo clic

Il post è categorico sul fatto che 'nessuna delle scene finali è stata creata con un'unica generazione a un clic'. Il team ha invece condotto tradizionali revisioni 'dailies' su più cicli di feedback, e ha costruito strumenti per la rifinitura localizzata — modificando regioni specifiche di un video con un livello di controllo regolabile. L'esempio concreto è quello di Erika Lu, che ha aggiunto una maschera grezza per indicare dove la silhouette dei capelli di Ada aveva bisogno di più volume, e Veo ha improvvisato una ciocca in più che si adattava perfettamente all'inquadratura.

Si tratta di editing basato su regioni applicato al video, lo stesso schema di interazione che ha rendo utilizzabile l'inpainting negli strumenti per immagini. Applicato a un mezzo temporale, risolve il problema fondamentale del video generativo in produzione: l'impossibilità di correggere un solo elemento senza rigenerare tutto. Il workflow ha inoltre permesso al team di 'passare liberamente tra Veo e strumenti tradizionali come Premiere', il che significa che l'output del modello è rimasto un asset modificabile, non un elaborato bloccato.

Il fine-tuning ha insegnato una struttura profonda, non solo lo stile superficiale

Il team ha sottoposto a fine-tuning modelli Veo e Imagen personalizzati 'a partire da poche immagini di esempio' delle illustrazioni di Yingzong Xin. Il risultato messo in luce dal post non è la corrispondenza di colori e texture, ma la capacità del modello di risolvere una contraddizione di design: il personaggio di Ada segue regole 2D rigide secondo cui il suo ciuffo di capelli deve restare in silhouette e non coprire mai il viso, un vincolo che una scultura 3D letterale non può soddisfare da ogni angolazione. Il modello Veo fine-tuned 'adatta con fluidità le forme per mantenere corretta la silhouette mentre la testa gira'.

È l'affermazione tecnica più interessante, perché suggerisce che il fine-tuning ha colto una regola sul design, non solo un aspetto visivo. Per i team che valutano workflow di custom-tuning, questo ridefinisce il valore in gioco: un piccolo set di esempi può codificare un'intenzione che sarebbe impraticabile specificare in modo procedurale.

L'unico elemento pronto per il rilascio: l'upscaling 4K di Veo

La maggior parte di quello che questo film dimostra — gli strumenti di fine-tuning, i workflow video-to-video, l'editing locale mascherato — viene descritta come funzionalità che i ricercatori 'hanno dovuto sviluppare' per la produzione, non prodotti con una data di lancio. L'unica eccezione è l'upscaling 4K di Veo, che secondo il post è già disponibile in Flow e 'arriverà su Google AI Studio e Vertex AI entro la fine del mese'.

Quindi l'implicazione pratica per chi costruisce sullo stack di Google è ristretta e precisa: il risultato immediato di questa vetrina a Sundance è uno strumento di finitura, non la plancia di controllo che ha reso possibile il film. Gli schemi di interazione che hanno davvero risolto i problemi più complessi — input visivo come punto di partenza, controllo regolabile, iterazione a livello di regione all'interno di un ciclo di revisione quotidiana — restano prototipi di ricerca. Il film è un'anteprima dell'interfaccia di cui il video generativo professionale avrà bisogno; l'API che potrai chiamare il mese prossimo è solo l'upscaler alla fine della catena.

Find this story relevant to you?

Contact us to find a unique solution

Contact us

Cerchi un partner di ingegneria AI capace di costruire davvero?

Aiutiamo le aziende a integrare l AI nei prodotti, automatizzare i flussi di lavoro ad alto valore e modernizzare i sistemi software che sostengono la crescita.

Get in touch

Letture correlate

Altre analisi su delivery di prodotto, IA operativa e il lavoro sui sistemi che fa reggere il deployment alla prova dei fatti.

Jul, 134 min di lettura
Frontend

DNP ha messo ChatGPT Enterprise davanti a dieci dipartimenti e ha trattato la finestra di chat come interfaccia

Jul, 134 min di lettura
Frontend

AdventHealth distribuisce ChatGPT in nove stati trattando l'adozione come il vero prodotto

Jul, 134 min di lettura
Frontend

AP+ usa Codex per costruire prototipi di pagamento che si comportano come il sistema reale, non solo schermate cliccabili