Link:motiondirector
MotionDirector是一種能夠自定義文字到影片擴散模型以生成具有所需動作的影片的技術。它採用雙路徑LoRAs架構,以解耦外觀和運動的學習,並設計了一種新穎的去偏置時間損失,以減輕外觀對時間訓練目標的影響。該方法支援各種下游應用,如混合不同影片的外觀和運動,以及用定製動作為單個影象新增動畫。
需求人群:
"MotionDirector可用於自定義文字到影片擴散模型,生成具有所需動作的影片,適用於影片生成和動畫製作領域。"
使用場景示例:
電影製作中,定製車輛移動及特定鏡頭運動的影片
創作者靈感來源,定製熊舉重的影片
將不同影片的外觀和動作混合生成新影片
產品特色:
學習參考影片的外觀和動作
在訓練階段,空間LoRAs學習適應參考影片的外觀,而時間LoRAs學習它們的運動動態
在推斷階段,將訓練後的時間LoRAs注入基礎模型,使其將學習的動作推廣到不同的外觀