WonderWorld:從單張圖片生成互動式3D場景

連結:https://wonderworld-2024.github.io/

WonderWorld是一個創新的3D場景擴充框架,允許使用者基於單張輸入圖片和使用者指定的文本探索和塑造虛擬環境。它透過快速高斯體素和引導擴散的深度估計方法,顯著減少了計算時間,生成幾何一致的擴充,使3D場景的生成時間少於10秒,支援實時使用者互動和探索。這為虛擬實境、遊戲和創意設計等領網網域提供了快速生成和導覽沉浸式虛擬世界的可能性。

需求人群:

  • 目標受眾包括虛擬實境開發者、遊戲設計師、創意設計師等,他們需要快速生成和探索3D虛擬環境。WonderWorld的實時互動和快速生成能力特別適合需要即時反饋和創意實作的專業使用者。

使用場景示例:

  • 使用者透過文本描述和相機移動,在Marienplatz生成一個虛擬市場。
  • 在Forbidden City生成一個歷史場景,並透過不同視角探索。
  • 在Taj Mahal建立一個虛擬旅遊體驗,讓使用者能夠從各個角度欣賞建築之美。

產品特色:

  • 實時渲染和快速場景生成,允許使用者導覽現有內容並指定生成位置和內容。
  • 使用者可以透過文本指定新的場景內容和風格,並透過相機移動指定新場景的生成位置。
  • 基於單個視圖生成場景,而不是為每個場景生成多個視圖,減少大的不連續空洞。
  • 在單個A6000 GPU上,少於10秒生成連線且多樣化的3D場景。
  • 支援使用者在虛擬實境、遊戲和創意設計等領網網域快速生成和導覽沉浸式虛擬世界。
  • 技術背景為使用者驅動的內容創作和虛擬環境中的探索提供了新的可能性。
  • 承諾釋出完整程式碼和軟體以供複製。

使用教學:

載入WonderWorld模型並選擇一個輸入圖片。

使用文本描述指定想要生成的場景內容和風格。

透過移動相機來確定新場景的生成位置。

觀察實時渲染的3D場景,並根據需要進行調整。

利用’W/A/S/D’鍵移動場景,使用’I/J/K/L’鍵環顧四周。

點選畫布啟用控制,開始探索和互動。

根據個人需求,進一步定製和擴充虛擬環境。

返回頂端