阿里巴巴淘系开源大型3D家具数据集(3D-FUTURE)推动3D家居智能研究
出品 | 阿里巴巴新零售淘系技術部&躺平
阿里巴巴淘系技術部與英國倫敦大學伯貝克學院 Steve Maybank 教授(Fellow of the IEEE and a Member of the Academia Europaea, the Koenderink Prize in 2008)、悉尼大學陶大程教授(Fellow of the ?IEEE, ACM and Australian Academy of Science)等國際知名學者合作,與3月30日正式開源業界首個飽含紋理細節的大型3D家具數據集(3D-FUTURE),共同推動3D家居智能研究。并面向全球3D幾何與視覺研究愛好者同步啟動第一屆阿里巴巴3D人工智能挑戰賽暨IJCAI-PRICAI 2020 Workshop。
什么是3D-FUTURE?
在過去十多年里,科學家們在 3D 視覺及幾何的研究投入了巨大的努力,但是 3D 人工智能的工業落地任然困難重重,尤其是在家居家裝行業。
阿里巴巴淘系技術部協同躺平設計家也在持續不斷地探索數字化家居建設。以真實家居場景為背景,定義了許多新問題,進行了大量的知識重建,并結合 3D 人工智能技術初步打造了場景化數字營銷,推出了智能設計搭配服務。
同時,在相關團隊的技術研發過程中發現,海量的高質量 3D 模型與紋理,以及專業的房屋設計布局是推動未來數字化家居建設的基礎。為了啟發高質量 3D 模型理解與重建,并且建立學術研究與工業應用的橋梁。阿里巴巴針對家居場景開源大型3D數據集3D-FUTURE(3D Furniture shape with TextURE)。
其初版包含 20,000+ 高清室內場景專業設計渲染圖,與?10,000+?精細的高質量?3D?家具模型及對應的高清且飽含信息的紋理,數據積累沉淀于阿里巴巴官方家裝家居設計平臺-躺平設計家。目前提供家具實例分割標注,完全真實的 2D 到 3D 的對準標注,以及專業的細粒度家具屬性標注。
阿里巴巴希望持續建設 3D-FUTURE ,不斷為 3D 幾何及視覺研究提供需求的標注以及新特征,包括但不限于已有數據擴充,完整房屋布局信息提供,3D 模型分割標注等,以推進學術尖端科技的工業落地。
?
為什么需要3D-FUTURE?
當前大型開源 3D 數據集都存在一些不足,不足以支持工業級的 3D 模型重建與紋理恢復等領域的深入細致研究。
首先,已開源數據集的大多數 3D CAD 模型 (家具類) 都是從網上收集的,因此普遍存在細節缺失以及無紋理或紋理信息度低等問題,且沒有多樣專業的屬性標簽。針對此現象,3D-FUTURE 提供多種不同風格且帶有豐富細節的高質量 3D 家具模型,并配備了高清飽含信息的紋理以及多樣化的屬性標簽。
其次,目前學界暫無組織較好的大規模室內仿真圖像數據集。3D-FUTURE 通過最先進的工業 3D 渲染引擎,在專業設計師所設計的 5,000 多個場景中渲染產生了 20,000+ 圖像,填補了這一空白。
最后,現有數據集只提供 2D-3D 偽匹配,即根據 2D 圖中物體,人工從開源 3D 模型池里選擇與之相似的 3D 模型作為匹配結果。這種標注過程極有可能忽視掉一些局部的形狀細節特征,導致提供的 2D-3D 匹配結果并非完全一致。因此難以支持數據驅動的高質量三維重建以及高精度形狀檢索等相關3D研究。與之相比,3D-FUTURE 提供的 10,000+ 3D 模型都是與 2D 渲染圖中的物體真實配對的。
我們相信,3D-FUTURE 這些特性可以啟發高質量 3D 模型理解和重建等領域的創新研究。
阿里巴巴3D人工智能挑戰賽暨IJCAI-PRICAI 2020 Workshop
阿里巴巴淘系技術部聯合來自于悉尼大學、英國倫敦大學伯貝克學院、墨爾本大學、中國科學院計算所的頂尖學者舉辦基于 3D-FUTURE 的第一屆 3D 人工智能挑戰賽暨 IJCAI-PRICAI 2020 Workshop。?
3D 幾何與視覺研究是廣受關注的基礎研究領域,是建設未來3D智能世界必經之路。淘系技術部在人工智能國際頂級會議 IJCAI-PRICAI 舉辦 workshop 及競賽,旨在總結目前最先進的 3D 幾何與視覺技術,啟發高質量 3D 模型理解與重建,并且建立學術研究與工業應用的橋梁。
競賽內容包括三個項目,分別是基于圖片的3D模型推薦,基于單張圖的3D模型重建,實例分割。信息如下:
基于圖片的 3D 模型推薦:在該項挑戰賽中,參賽者被要求根據 2D 圖片在給定 3D 池中檢索出對應的 3D 模型。隨著極速增長的3D模型數量,建立一個可靠的IBSR(image-based 3D shape retrieval)系統不管在工業界還是在學術界都非常重要。
比如用戶 3D 場景布局重建的基礎就是根據 2D 圖中物體,從大型 3D 池中找出對應的 3D 模型。該項競賽最大的挑戰是針對 2D 與 3D 是完全不同域以及表征信息的差距,提取具有域不變性且紋理抑制的的特征表示。我們希望參賽者能充分探索最先進的解決方案,并基于此設計出更加精準可靠的IBSR算法。
另外,我們也期望通過這項比賽來促進具有魯棒性的形狀檢索發展,即在圖片中物體存在輕微遮擋以及具有復雜背景的情況下實現較高精度的檢索。我們將用 TopK 召回率以及 TopK 平均 F-score 作為主要性能衡量指標。
基于單張圖的 3D 模型重建:在該項挑戰賽中,參賽者被要求從單張RGB圖像重建對應的 3D 模型,這些圖片主物體可能存在輕微遮擋以及少部分殘缺。眾所周知,3D 模型的數量與質量是數據驅動的 3D 理解研究以及 3D 相關人工智能應用的基礎,比如虛擬場景搭建。
然而,目前海量的網絡圖片中的物體都沒有或很難收集到對應的 3D CAD 模型。另一方面,目前工業界高質量 3D 模型生產效率很低,無法支持大規模高效生產。
這項獎賽旨在總結目前最先進的單目圖像 3D 重建方案,并啟發工業級 mesh 表面細節重建的研究探索思路。Chamfer Distance(CD)以及 F-score 將作為重建結果質量的評價標準。
實例分割:在該項挑戰賽中,參賽者被要求對渲染的室內場景圖進行實例分割。
在訓練集中,3D-FUTURE 將提供場景圖中部分物體所對應的帶有紋理的 3D模型作為輔助信息,期望能提升邊緣分割精度。實例分割是學界的基礎研究問題,也是室內場景理解的關鍵之一。高精度尤其是邊緣魯棒的實例分割不僅有利于啟發高質量圖像合成相關工業應用,例如有潛力部分取代昂貴低效的渲染過程,從而實現高效自動化用戶室內搭配編輯生成;也有潛力大幅提升 IBSR, 3D 重建等基礎 3D 問題的效果。該項挑戰賽的評估指標為被廣泛認可的 Mask Average Precision (mAP)。
附workshop及競賽重要信息
重要日程節點:
3月30日競賽開啟報名,并開放部分示例數據集。
4月03日開放完整訓練集與驗證集。
5月31日開放相關測試集。
6月05日競賽結束。
6月12日潛在優勝者報告提交截止日期。
6月17日報告審核以及競賽最終結果公開。
7月13日3D-FUTURE Workshop at IJCAI-PRICAI 2020。
- ?
優勝者獎勵:
第一名1500美金,第二名1000美金,第三名500美金。
受邀請到國際人工智能頂會IJCAI-PRICAI 2020 Workshop進行報告。
受邀合著Workshop報告。
?
Workshop以及競賽主頁:
https://tianchi.aliyun.com/specials/promotion/ijcai-alibaba-3d-future-workshop
3D-FUTURE數據集主頁:
https://tianchi.aliyun.com/specials/promotion/alibaba-3d-future
????
現在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
總結
以上是生活随笔為你收集整理的阿里巴巴淘系开源大型3D家具数据集(3D-FUTURE)推动3D家居智能研究的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 信用卡每年刷几次免年费
- 下一篇: 网易 Filmly 播放器 Apple