阿里巴巴淘系开源大型3D家具数据集（3D-FUTURE）推动3D家居智能研究
出品 | 阿里巴巴新零售淘系技術(shù)部&躺平
阿里巴巴淘系技術(shù)部與英國倫敦大學(xué)伯貝克學(xué)院 Steve Maybank 教授（Fellow of the IEEE and a Member of the Academia Europaea, the Koenderink Prize in 2008）、悉尼大學(xué)陶大程教授（Fellow of the ?IEEE, ACM and Australian Academy of Science）等國際知名學(xué)者合作，與3月30日正式開源業(yè)界首個(gè)飽含紋理細(xì)節(jié)的大型3D家具數(shù)據(jù)集（3D-FUTURE），共同推動(dòng)3D家居智能研究。并面向全球3D幾何與視覺研究愛好者同步啟動(dòng)第一屆阿里巴巴3D人工智能挑戰(zhàn)賽暨IJCAI-PRICAI 2020 Workshop。
什么是3D-FUTURE？
在過去十多年里，科學(xué)家們在 3D 視覺及幾何的研究投入了巨大的努力，但是 3D 人工智能的工業(yè)落地任然困難重重，尤其是在家居家裝行業(yè)。
阿里巴巴淘系技術(shù)部協(xié)同躺平設(shè)計(jì)家也在持續(xù)不斷地探索數(shù)字化家居建設(shè)。以真實(shí)家居場景為背景，定義了許多新問題，進(jìn)行了大量的知識(shí)重建，并結(jié)合 3D 人工智能技術(shù)初步打造了場景化數(shù)字營銷，推出了智能設(shè)計(jì)搭配服務(wù)。
同時(shí)，在相關(guān)團(tuán)隊(duì)的技術(shù)研發(fā)過程中發(fā)現(xiàn)，海量的高質(zhì)量 3D 模型與紋理，以及專業(yè)的房屋設(shè)計(jì)布局是推動(dòng)未來數(shù)字化家居建設(shè)的基礎(chǔ)。為了啟發(fā)高質(zhì)量 3D 模型理解與重建，并且建立學(xué)術(shù)研究與工業(yè)應(yīng)用的橋梁。阿里巴巴針對家居場景開源大型3D數(shù)據(jù)集3D-FUTURE（3D Furniture shape with TextURE）。
其初版包含 20,000+ 高清室內(nèi)場景專業(yè)設(shè)計(jì)渲染圖，與?10,000+?精細(xì)的高質(zhì)量?3D?家具模型及對應(yīng)的高清且飽含信息的紋理，數(shù)據(jù)積累沉淀于阿里巴巴官方家裝家居設(shè)計(jì)平臺(tái)-躺平設(shè)計(jì)家。目前提供家具實(shí)例分割標(biāo)注，完全真實(shí)的 2D 到 3D 的對準(zhǔn)標(biāo)注，以及專業(yè)的細(xì)粒度家具屬性標(biāo)注。
阿里巴巴希望持續(xù)建設(shè) 3D-FUTURE ，不斷為 3D 幾何及視覺研究提供需求的標(biāo)注以及新特征，包括但不限于已有數(shù)據(jù)擴(kuò)充，完整房屋布局信息提供，3D 模型分割標(biāo)注等，以推進(jìn)學(xué)術(shù)尖端科技的工業(yè)落地。
?
為什么需要3D-FUTURE？
當(dāng)前大型開源 3D 數(shù)據(jù)集都存在一些不足，不足以支持工業(yè)級的 3D 模型重建與紋理恢復(fù)等領(lǐng)域的深入細(xì)致研究。
首先，已開源數(shù)據(jù)集的大多數(shù) 3D CAD 模型 (家具類) 都是從網(wǎng)上收集的，因此普遍存在細(xì)節(jié)缺失以及無紋理或紋理信息度低等問題，且沒有多樣專業(yè)的屬性標(biāo)簽。針對此現(xiàn)象，3D-FUTURE 提供多種不同風(fēng)格且?guī)в胸S富細(xì)節(jié)的高質(zhì)量 3D 家具模型，并配備了高清飽含信息的紋理以及多樣化的屬性標(biāo)簽。
其次，目前學(xué)界暫無組織較好的大規(guī)模室內(nèi)仿真圖像數(shù)據(jù)集。3D-FUTURE 通過最先進(jìn)的工業(yè) 3D 渲染引擎，在專業(yè)設(shè)計(jì)師所設(shè)計(jì)的 5,000 多個(gè)場景中渲染產(chǎn)生了 20,000+ 圖像，填補(bǔ)了這一空白。
最后，現(xiàn)有數(shù)據(jù)集只提供 2D-3D 偽匹配，即根據(jù) 2D 圖中物體，人工從開源 3D 模型池里選擇與之相似的 3D 模型作為匹配結(jié)果。這種標(biāo)注過程極有可能忽視掉一些局部的形狀細(xì)節(jié)特征，導(dǎo)致提供的 2D-3D 匹配結(jié)果并非完全一致。因此難以支持?jǐn)?shù)據(jù)驅(qū)動(dòng)的高質(zhì)量三維重建以及高精度形狀檢索等相關(guān)3D研究。與之相比，3D-FUTURE 提供的 10,000+ 3D 模型都是與 2D 渲染圖中的物體真實(shí)配對的。
我們相信，3D-FUTURE 這些特性可以啟發(fā)高質(zhì)量 3D 模型理解和重建等領(lǐng)域的創(chuàng)新研究。
阿里巴巴3D人工智能挑戰(zhàn)賽暨IJCAI-PRICAI 2020 Workshop
阿里巴巴淘系技術(shù)部聯(lián)合來自于悉尼大學(xué)、英國倫敦大學(xué)伯貝克學(xué)院、墨爾本大學(xué)、中國科學(xué)院計(jì)算所的頂尖學(xué)者舉辦基于 3D-FUTURE 的第一屆 3D 人工智能挑戰(zhàn)賽暨 IJCAI-PRICAI 2020 Workshop。?
3D 幾何與視覺研究是廣受關(guān)注的基礎(chǔ)研究領(lǐng)域，是建設(shè)未來3D智能世界必經(jīng)之路。淘系技術(shù)部在人工智能國際頂級會(huì)議 IJCAI-PRICAI 舉辦 workshop 及競賽，旨在總結(jié)目前最先進(jìn)的 3D 幾何與視覺技術(shù)，啟發(fā)高質(zhì)量 3D 模型理解與重建，并且建立學(xué)術(shù)研究與工業(yè)應(yīng)用的橋梁。
競賽內(nèi)容包括三個(gè)項(xiàng)目，分別是基于圖片的3D模型推薦，基于單張圖的3D模型重建，實(shí)例分割。信息如下：
基于圖片的 3D 模型推薦：在該項(xiàng)挑戰(zhàn)賽中，參賽者被要求根據(jù) 2D 圖片在給定 3D 池中檢索出對應(yīng)的 3D 模型。隨著極速增長的3D模型數(shù)量，建立一個(gè)可靠的IBSR（image-based 3D shape retrieval）系統(tǒng)不管在工業(yè)界還是在學(xué)術(shù)界都非常重要。
比如用戶 3D 場景布局重建的基礎(chǔ)就是根據(jù) 2D 圖中物體，從大型 3D 池中找出對應(yīng)的 3D 模型。該項(xiàng)競賽最大的挑戰(zhàn)是針對 2D 與 3D 是完全不同域以及表征信息的差距，提取具有域不變性且紋理抑制的的特征表示。我們希望參賽者能充分探索最先進(jìn)的解決方案，并基于此設(shè)計(jì)出更加精準(zhǔn)可靠的IBSR算法。
另外，我們也期望通過這項(xiàng)比賽來促進(jìn)具有魯棒性的形狀檢索發(fā)展，即在圖片中物體存在輕微遮擋以及具有復(fù)雜背景的情況下實(shí)現(xiàn)較高精度的檢索。我們將用 TopK 召回率以及 TopK 平均 F-score 作為主要性能衡量指標(biāo)。
基于單張圖的 3D 模型重建：在該項(xiàng)挑戰(zhàn)賽中，參賽者被要求從單張RGB圖像重建對應(yīng)的 3D 模型，這些圖片主物體可能存在輕微遮擋以及少部分殘缺。眾所周知，3D 模型的數(shù)量與質(zhì)量是數(shù)據(jù)驅(qū)動(dòng)的 3D 理解研究以及 3D 相關(guān)人工智能應(yīng)用的基礎(chǔ)，比如虛擬場景搭建。
然而，目前海量的網(wǎng)絡(luò)圖片中的物體都沒有或很難收集到對應(yīng)的 3D CAD 模型。另一方面，目前工業(yè)界高質(zhì)量 3D 模型生產(chǎn)效率很低，無法支持大規(guī)模高效生產(chǎn)。
這項(xiàng)獎(jiǎng)賽旨在總結(jié)目前最先進(jìn)的單目圖像 3D 重建方案，并啟發(fā)工業(yè)級 mesh 表面細(xì)節(jié)重建的研究探索思路。Chamfer Distance（CD）以及 F-score 將作為重建結(jié)果質(zhì)量的評價(jià)標(biāo)準(zhǔn)。
實(shí)例分割：在該項(xiàng)挑戰(zhàn)賽中，參賽者被要求對渲染的室內(nèi)場景圖進(jìn)行實(shí)例分割。
在訓(xùn)練集中，3D-FUTURE 將提供場景圖中部分物體所對應(yīng)的帶有紋理的 3D模型作為輔助信息，期望能提升邊緣分割精度。實(shí)例分割是學(xué)界的基礎(chǔ)研究問題，也是室內(nèi)場景理解的關(guān)鍵之一。高精度尤其是邊緣魯棒的實(shí)例分割不僅有利于啟發(fā)高質(zhì)量圖像合成相關(guān)工業(yè)應(yīng)用，例如有潛力部分取代昂貴低效的渲染過程，從而實(shí)現(xiàn)高效自動(dòng)化用戶室內(nèi)搭配編輯生成；也有潛力大幅提升 IBSR， 3D 重建等基礎(chǔ) 3D 問題的效果。該項(xiàng)挑戰(zhàn)賽的評估指標(biāo)為被廣泛認(rèn)可的 Mask Average Precision (mAP)。
附workshop及競賽重要信息
重要日程節(jié)點(diǎn)：
3月30日競賽開啟報(bào)名，并開放部分示例數(shù)據(jù)集。
4月03日開放完整訓(xùn)練集與驗(yàn)證集。
5月31日開放相關(guān)測試集。
6月05日競賽結(jié)束。
6月12日潛在優(yōu)勝者報(bào)告提交截止日期。
6月17日報(bào)告審核以及競賽最終結(jié)果公開。
7月13日3D-FUTURE Workshop at IJCAI-PRICAI 2020。
- ?
優(yōu)勝者獎(jiǎng)勵(lì)：
第一名1500美金，第二名1000美金，第三名500美金。
受邀請到國際人工智能頂會(huì)IJCAI-PRICAI 2020 Workshop進(jìn)行報(bào)告。
受邀合著Workshop報(bào)告。
?
Workshop以及競賽主頁：
https://tianchi.aliyun.com/specials/promotion/ijcai-alibaba-3d-future-workshop
3D-FUTURE數(shù)據(jù)集主頁：
https://tianchi.aliyun.com/specials/promotion/alibaba-3d-future
????
現(xiàn)在，在「知乎」也能找到我們了
進(jìn)入知乎首頁搜索「PaperWeekly」
點(diǎn)擊「關(guān)注」訂閱我們的專欄吧
關(guān)于PaperWeekly
PaperWeekly 是一個(gè)推薦、解讀、討論、報(bào)道人工智能前沿論文成果的學(xué)術(shù)平臺(tái)。如果你研究或從事 AI 領(lǐng)域，歡迎在公眾號后臺(tái)點(diǎn)擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。
總結(jié)
以上是生活随笔為你收集整理的阿里巴巴淘系开源大型3D家具数据集（3D-FUTURE）推动3D家居智能研究的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 信用卡每年刷几次免年费
- 下一篇： PW Live直播 | 清华大学NLP组