Fork me on GitHub

针对户型图数据集的调研

阅读数：14171次
字数统计: 2.8k字   |   阅读时长≈ 11分

针对户型图数据集的调研

最近要做一个多媒体领域的方向综合设计，题目是基于扩散模型的户型图数据增强系统设计与实现，所以目前对现有的数据集进行调研。

之前的博客有对最基本的DDPM的详细说明，包括数学原理、公式推导、代码详解，现在我们将目光聚焦到数据集，一个标准的扩散模型需要什么样的数据集呢？很显然，如果你只是想做 Img-to-Img，那你的数据集就是单纯的img就好了，不需要额外的标注；如果你想做Text-to-Image，那么你就需要文本和图像成对的数据集进行训练，其他的多模态也同理。

ok，我们现在已经确定需要的是纯图片数据集，其实我们知道，像户型图这种小众的数据集，纯图的还是比较难找的，我们可以找一些之前做户型图任务的相关工作，看看他们用的是什么数据集，如果是纯图的，那最好，如果不是，那我们就想办法把它变成纯图的。当然，也要做好最坏的打算，如果真的很难找到，那就写个爬虫，从一些售房的网站上爬取一些户型图下来。

之前关于户型图的工作

HouseDiffusion（CVPR 2023 SFU）

论文地址

HouseDiffusion: Vector Floorplan Generation via a Diffusion Model with Discrete and Continuous Denoising，22年完成，今年中稿CVPR的一篇工作，先不用管这篇工作的核心贡献是什么，我们只需要关注他用了什么数据集训练？用什么数据集评估？

ok，找到了：

image-20231118160123017

image-20231118160152852

作者用了 RPLAN ，并且在此基础上提出了一个 Non-ManhattanRPLAN （在RPLAN基础上，在外墙随机添加两个角）

image-20231118160354149

通过后面的Experiment可以看出来，基本都是围绕RPLAN这个数据集进行测试的。那我们标记一下RPLAN这个数据集，再看看别的。

Diffusion Models for Computational Design at the Example of Floor Plans

论文地址

Diffusion Models for Computational Design at the Example of Floor Plans，这个是今年7月的一篇比较新的工作，我们还是只关注数据集，具体这篇工作的创新点，有空再看。

ok，虽然这篇工作中并没有提到他具体用了什么数据集，但是通过读论文后我们可以知道，Nbimer（毕马汇）提供了一个5000+的CAD户型图数据集，ok，我们也标注一下这个数据集。

Nbimer

Residential floor plan recognition and reconstruction

论文地址

Residential floor plan recognition and reconstruction收录于CVPR 2019，由阿里巴巴的团队提出。

这篇文章提出的数据集是居住房屋平面图数据集(RFP)。研究者从互联网搜索引擎中爬取了7000个居住房屋平面图数据，这些数据主要是中国城市建筑的家庭平面图。研究者通过手动标注来标记墙壁的起始端点、终止端点和厚度。每个墙壁的每个部分都用一条带有宽度的线表示。他们还标注了门、窗户和门口的起始点、终止点和厚度。门、窗户和门口都位于特定的墙壁上。每个房间由多个墙壁的部分环绕，研究者也手动标注了房间类型，包括客厅、卧室、浴室、阳台、厨房、图书馆和其他类型的房间。研究者使用栅格化将当前标注转换为逐像素的注释，其中每个像素表示一种类型。

很可惜的是，作者并没有提供数据集的下载链接，只是提供了爬取数据的网址，我想可能是因为版权费用的原因吧。

CubiCasa5K: A Dataset and an Improved Multi-task Model for Floorplan Image Analysis

论文地址

CubiCasa5K: A Dataset and an Improved Multi-task Model for Floorplan Image Analysis这篇论文由cubicasa公司在2019年发表，比较可惜的是，截止到目前我并没有查询到这篇论文中稿的信息，不过比较好的是cubicasa公司开源了该数据集，这个数据集看起来也很不错，可以重点标记一下。

数据集下载地址

数据集汇总

RPLAN

这个数据集在户型图的相关工作中出现的次数可谓太多了，我们重点看一下这个数据集。

RPLAN数据集来源自论文：Data-driven Interior Plan Generation for Residential Buildings SIGGRAPH 2019 USTC

论文链接

平面图数据集的英文是Floor Plan Dataset，我觉得作者给这个数据集命名时应该是提取了其中的RPLAN四个字母。

我仔细一看才发现，这篇论文的一作就是我这个综合设计的指导老师吴文明老师，这篇论文是SIGGRAPH（图形学顶中顶中顶刊，国内能发这个刊的组凤毛麟角），我们就来详细看看这个数据集。

作者从亚洲房地产市场的真实住宅楼中收集了超过12万份平面图。每个平面图在18m×18m的正方形区域内都有一个矢量图形表示，包括几何和语义信息。为了应用学习方案，作者将每个平面图转换为256×256的图像。

image-20231118204254227

数据集下载地址

我们来看下这个数据集吧

image-20231118205116343

image-20231118205131775

image-20231118205151809

image-20231118205209928

image-20231118205232738

image-20231118205249719

看起来和论文里的效果还是有区别的，具体的问题我再探究一下。

Nbimer

这个数据集纯纯耍流氓，不仅得一个一个下，一天的免费下载额度只有3次，纯纯恰烂钱，直接pass掉。

image-20231118214939140

CubiCasa5K

数据集下载地址

这个数据集大概5.5G，其中每张数据的质量还是很高的：

image-20231118222838105

image-20231118222929266

不过比较可惜的是数据的一致性并不高，将其作为扩散模型的原料，效果不一定好，而且其中出现的标注，对于diffusion model的生成来说可能还是要求过高了，具体效果我还需要试一试。

InteriorNet

数据集下载地址

该数据由论文 InteriorNet: Mega-scale Multi-sensor Photo-realistic Indoor Scenes Dataset 提出，由Imperial College London提出。

image-20231118215738603

这个数据集主要是3D的数据，不太适合此次的任务，所以先pass掉。

构建自己的数据集

爬取一些网站的户型图数据

直接用其他研究工作者的数据集有点不好意思，我寻思还是自己爬取一些数据，插在里面，填补一下我小小的自尊心

爬虫代码如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
##正式版
#导入所需要的包
import requests
import re
from bs4 import BeautifulSoup
import time
from lxml import etree
import pandas as pd
import aiohttp
import asyncio


#查看一下robots协议
res = requests.get("https://bj.lianjia.com/ershoufang/robots.txt")
print(res.text)

#选择要查询的城市
q=input("请输入你想查询的城市的拼音首字母")

#用于存放房屋信息的列表
htmldata = []

#用于存放异步协程时所需要的图片下载链接
hreff = []

#爬取第1,2页
for i in range(1,3):
    pg="pg"+str(i)
    url = f"https://{q}.lianjia.com/ershoufang/{pg}/"
    headers = {
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.198 Safari/537.36"
    }
    print(q)

    resp = requests.get(url,headers=headers)
    resp.encoding="utf-8"

    if resp.status_code==200:
        print("访问正常！")

        main_page = BeautifulSoup(resp.text,"html.parser")
        alist=main_page.find("ul",class_="sellListContent").find_all("div",class_="title")
        #用BeautifulSoup找到ul属性为sellListContent下所有div属性为title的内容

        obj = re.compile(r'.*?href="(?P<href>.*?)"',re.S)
        obj2 = re.compile(r'.*?blank">(?P<name>.*?)</a>',re.S)
        #用正则表表达式去匹配子页面的url（href）和标题（name）

        alist2=str(alist)
        #将列表变为字符串方便正则表达式去匹配

        result = obj.finditer(alist2)
        result2 = obj2.finditer(alist2)
        a=[]
        for it2 in result2:
            name=it2.group("name")
            a.append(name+".jpg")
        #用于存放图片的名字（name.jpg）

        k=0
        # filename = 'E:\\大三上\\课程\\数据抓取与数据清洗\\期末作业\\期末大作业\\bj二手房.csv'
        filename = 'D:\\CodingObjects\\Diffusion-Model\\信息.csv'
        #存放二手房详细信息csv的路径

        for it in result:
            ##############################################
            #part1 提取房屋的信息

            href = it.group("href")
            html_resp = requests.get(url=href,headers=headers)

            #用xpath去提取信息
            html = etree.HTML(html_resp.text)

            #标题
            bt = html.xpath("/html/body/div[3]/div/div/div[1]/h1/text()")
            #总价
            zj = html.xpath("/html/body/div[5]/div[2]/div[3]/span[1]/text()")
            #每平方的单价
            dj = html.xpath("/html/body/div[5]/div[2]/div[3]/div[1]/div[1]/span/text()")
            #地段
            dd = html.xpath("//div[@class='overview']//div/span/a/text()")
            ## 房屋基本属性
            #基本信息的标题
            bt2 = html.xpath("//div[@class='base']//span/text()")
            #基本信息的内容
            nr2 = html.xpath("//div[@class='base']//li/text()")
            ## 房源交易属性
            # 交易标题
            bt3 =html.xpath("//div[@class='transaction']//span[1]//text()")
            # 交易信息内容
            nr3 = html.xpath("//div[@class='transaction']//span[2]//text()")
            ## 特色信息
            # 特色标题
            bt4 = html.xpath("//div[@class='baseattribute clear']/div[@class='name']/text()")
            # 特色内容
            nr4 = html.xpath("//div[@class='baseattribute clear']/div[@class='content']/text()")
            #把信息都存放到htmldict字典中
            htmldict=dict(zip(['标题', '总价格', '单价', '地段'] + bt2 + bt3 + bt4,[bt, zj, dj, dd] + nr2 + nr3 + nr4))

            #存到htmldata中
            htmldata.append(htmldict)

            ##############################################
            #part2 提取户型图

            href=it.group("href")

            child_page_resp = requests.get(href)
            child_page_resp.enconding = "utf-8"
            child_page_text = child_page_resp.text

            child_page = BeautifulSoup(child_page_text,"html.parser")

            img = child_page.find("div",class_="m-content").find("div",class_="layout").find("img")
            #print(img.get("src"))
            src = img.get("src")
            hreff.append(src)
            img_resp = requests.get(src)
            img_resp.content

            #有的名字里带有XXX元/月，其中/会影响路径，因此把/替换为空
            img_name = a[k].replace("/","")
            path="D:\\CodingObjects\\Diffusion-Model\\户型图bj1\\"
            # filename = 'D:\\CodingObjects\\Diffusion-Model\\信息.csv'
            with open(path+img_name,mode="wb") as f:
                f.write(img_resp.content)
            print("over",img_name)

            #设置一个间隔
            time.sleep(0.5)

            #k是用来控制第几个名字的（a[k]）
            k=k+1

        f.close()
        print("over"+pg)

    #将房屋详细信息存入csv
    pd.DataFrame(htmldata).to_csv(filename, encoding='GB18030')
    print("csv over")

    #关闭所有请求
    res.close()
    resp.close()
    html_resp.close()
    child_page_resp.close()

    if resp.status_code==404:
        print("页面不存在")

    if resp.status_code==403:
        print("页面禁止访问")

#############################方法二 ：用异步协程来抓取图片
async def aiodownload(urlhref):
    path1 = "D:\\CodingObjects\\Diffusion-Model\\户型图bj2\\"
    name1 = urlhref.rsplit("/",1)[1]
    async with aiohttp.ClientSession() as session:
        async with session.get(urlhref) as resp1:
            with open(path1+name1,mode="wb") as f1:
                f1.write(await resp1.content.read())
    print(urlhref,"完成")

async def main():
    tasks = []
    for urlhref in hreff:
        tasks.append(aiodownload(urlhref))
    await asyncio.wait(tasks)


if __name__=='__main__':
    time1 = time.time()
    await main()
    time2 = time.time()
    print(time2-time1)

结果如下：

image-20231118231208989

最终数据集

目前我都想法是使用两个版本的数据集：

  • 第一个版本用：RPLAN
  • 第二个版本用：CubiCasa5K + 自己爬取的数据集

具体最后验收时用那个，还得看具体训练出来的效果而定。

扫一扫，分享到微信

Related Issues not found

Please contact @libaolu312 to initialize the comment