112年_艾鍗學院_數據分析暨機器學習應用班 組員：李O隆 王O翰 石O瑋 專題網頁：https://bit.ly/3RTkyMc 艾鍗官網：https://bit.ly/3ESwHdW 聯絡信箱：service@ittraining.com.tw <專題摘要> 本專案小組參加「 永豐AI GO競賽-攻房戰」 競賽活動作為期末課程專題。 房市一直是市場高度關注的話題之一，大家都希望能準確掌握房屋之合理價格來選擇自己的夢中情屋，然而台灣房價居高不下的背後，很可能是膨脹房屋的真實價值，如何透過影響房價高低的關鍵因素，包括坪數大小、屋齡屋況、地段環境及居住條件等，找出房屋的真正價值，是本次技術主題競賽的活動目標。 本組利用既有的資訊(主辦單位提供之原始資料集)進行資料處理及特徵工程，使用機器學習方法如Xgboost、Lightgbm等梯度提升方法，訓練模型以預測目前該房地產物件的市價。後續進一步探討影響房價的其他因素，透過公開收集資料的方式來補充有用的資料集(不在主辦單位提供的原始資料集內)，以提升預測的精準度。

1. 永豐AI GO競賽
攻房戰
Dr. House Team
組員: 李O隆 王O翰 石O瑋

2. 競賽介紹
資料介紹
模型選擇
特徵篩選&結果
大綱
如何訓練模型
資料預處理

3. 競賽介紹

4. 目標
地區
樓層
大小
屋齡
經度
緯度
…
地區
樓層
大小
屋齡
經度
緯度
…
預測

5. 拿主辦單位提供資料
訓練模型
模型
房屋特徵,房價
訓練模型

6. 拿訓練好的模型
預測房價
訓練好的模型
預測房價
房屋特徵

7. Training
Goal
Information
MAPE
主辦單位提供資料
【房屋估價訓練資料集】
【房屋估價預測資料集】
【外部輔助資料集】
【平均絕對百分比誤差】

8. 如何判斷結果好壞
評分方式：
本次競賽以MAPE (Mean Absolute Percentage Error)
作為評估模型優劣的方法。
房價實際值
房價實際值
房價預估值
房價實際值
房價預估值
N
N
房子資料筆數
N
房子真實的價格
模型預測房子的價格
房屋條件
房價預估值 房價實際值

9. 影響房價的四大因素
4.市場
3.周遭
2.物件
1.地區
面積 屋齡 座標 ….
縣市鄉鎮區 學校 醫院 捷運
便利商店....
市場供需 餘屋庫存
新屋供給.....
(外部輔助資料集)

10. 如何訓練模型

11. 訓練模型
多種模型訓練
參數選擇 篩選模型
利用模型預測房價
模型訓練結果
3
資料預處理

12. 資料集介紹

13. 主辦單位提供的原始資料說明
欄位名稱 欄位說明
ID 流水號
*縣市 該筆不動產所在之縣市
*鄉鎮市區 該筆不動產所在之行政區
*路名 該筆不動產所在路名
橫坐標
該筆不動產橫坐標
(TWD97 二度分帶座標值)
縱坐標
該筆不動產縱坐標
(TWD97 二度分帶座標值)
移轉層次 該筆不動產所在樓層
總樓層數 該筆不動產總樓層
屋齡 該筆不動產屋齡
未去識別化
*表示欄位為非數值型資料需額外處理；備註欄位多空白且訊息
雜亂，因此捨棄不用
欄位名稱 欄位說明
土地面積 該筆不動產的土地面積
建物面積 該筆不動產建物面積
車位面積 該筆不動產車位面積
主建物面積 該筆不動產主建物面積
陽台面積 該筆不動產陽台面積
附屬建物面積 該筆不動產附屬建物面積
*使用分區 有關都市計劃使用分區
*主要用途 該筆不動產的用途
*主要建材 該筆不動產使用的建材
*建物型態 該筆不動產種類
車位個數 該筆不動產車位個數
*備註 該筆不動產之備註內容
單價
該筆不動產單價
(新台幣/坪)

14. ID 縣市 鄉鎮市區 路名 土地面積 使用分區 移轉層次 總樓層數 主要用途 主要建材 建物型態
TR-1 台北市 大安區 敦化南路二段 -0.256715997None 11 11住家用 鋼筋混凝土造 住宅大樓(11層含以上有電梯)
TR-2 台北市 萬華區 水源路 0.100134332None 7 12住家用 鋼筋混凝土造 住宅大樓(11層含以上有電梯)
TR-3 高雄市 鳳山區 北忠街 0.181920543None 10 15集合住宅 其他 住宅大樓(11層含以上有電梯)
屋齡 建物面積 車位面積 車位個數 橫坐標 縱坐標 備註 主建物面積 陽台面積 附屬建物面積 單價
32.58333333 -0.174153728 -0.819325686 0 305266 2768378 0.39392595 0.183700022 -0.438451903 4.627714498
24.16666667 0.314203765 -0.819325686 0 300677 2767990 -0.316131226 0.60857713 -0.438451903 1.887258145
6.166666667 0.423366029 0.161624325 1 184815 2504666 -0.098870704 -0.36062045 1.525881231 1.489072179
Training dataset: 以下藍框欄位已標準化
Public dataset: 無單價欄位，其餘同training dataset
ID 縣市 鄉鎮市區 路名 土地面積 使用分區 移轉層次 總樓層數 主要用途 主要建材 建物型態
PU-1 新北市 樹林區 大有路 2.039378416None 3 7住家用 鋼筋混凝土造 華廈(10層含以下有電梯)
PU-2 新北市 三重區 力行路一段 -0.077786128None 5 5住家用 鋼筋混凝土造 公寓(5樓含以下無電梯)
PU-3 新北市 板橋區 民生路三段 -0.555765609None 2 20集合住宅 鋼筋混凝土造 住宅大樓(11層含以上有電梯)
屋齡 建物面積 車位面積 車位個數 橫坐標 縱坐標 備註 主建物面積 陽台面積 附屬建物面積
13.91666667 0.472201778 0.146176293 1 288745 2760266 0.849663843 0.146160679 -0.438451903
40.83333333 -0.5464545 -0.819325686 0 298751 2773492 -0.004102117 0.064256658 -0.438451903
1.333333333 0.124031612 -0.16741875 1 297000 2769106 -0.285861857 -0.775259555 1.323042484
主辦單位提供的原始資料範例

15. 資料預處理

16. 物件地區的處理
County
(縣市)
Count
(計數)
y_avg
(平均單價)
County2
(新欄位)
County3
(新欄位)
台北市 2382 3.395855 10 3.395855
新北市 4302 1.976991 9 1.976991
新竹縣 347 1.839481 8 1.839481
新竹市 246 1.670579 7 1.670579
台中市 996 1.473137 6 1.473137
桃園市 1178 1.32287 5 1.32287
高雄市 1328 1.252643 4 1.252643
台南市 478 1.233745 3 1.233745
金門縣 30 1.171773 2 1.171773
宜蘭縣 76 1.098314 2 1.098314
苗栗縣 43 1.078903 2 1.078903
花蓮縣 12 1.0538 2 1.0538
基隆市 233 1.036863 2 1.036863
彰化縣 23 0.927538 1 0.927538
嘉義市 27 0.816754 1 0.816754
嘉義縣 2 0.809814 1 0.809814
屏東縣 46 0.791844 1 0.791844
雲林縣 2 0.528741 1 0.528741
County
(縣市)
District
(區域)
Count
(計數)
y_avg
(平均單價)
county_district2
(新欄位)
county_district3
(新欄位)
台北市 大安區 347 4.524506 20 4.524506
台北市 中正區 170 3.833712 20 3.833712
台北市 松山區 174 3.791416 20 3.791416
台北市 信義區 202 3.673529 20 3.673529
台北市 中山區 308 3.58837 20 3.58837
台北市 南港區 98 3.322496 20 3.322496
台北市 內湖區 285 3.060399 19 3.060399
台北市 大同區 112 2.971353 19 2.971353
台北市 士林區 189 2.935604 19 2.935604
台北市 北投區 173 2.588748 19 2.588748
台北市 文山區 183 2.575809 19 2.575809
台北市 萬華區 141 2.521631 19 2.521631
新北市 永和區 221 2.464305 18 2.464305
新北市 板橋區 560 2.32676 18 2.32676
新北市 新店區 257 2.198261 18 2.198261
新北市 中和區 433 2.195259 18 2.195259
新北市 三重區 432 2.097878 18 2.097878
新竹縣 竹北市 277 2.025173 18 2.025173
新北市 新莊區 498 1.992058 17 1.992058
新北市 蘆洲區 200 1.964811 17 1.964811
新北市 土城區 243 1.914112 17 1.914112
新北市 汐止區 340 1.867087 17 1.867087
新北市 林口區 238 1.808251 17 1.808251
新竹市 新竹市 246 1.670579 17 1.670579
縣市： 區域：
依縣市的平均單價由高
到低分成1-10個等級
各別縣市的平均單價
依縣市/區域的平均單價由
高到低分成1-20個等級
各別縣市/區域的平均單價
地區
1 物件
2 周遭環境設施
3 市場
4

17. 物件本身條件的處理
usage_type
(使用分區)
Count
(計數)
y_avg
(平均單價)
usage_type2
(使用分區2)
商 86 2.946509 5
住 308 2.386937 4
None 11156 1.984964 3
其他 149 1.506081 2
工 25 1.455718 1
農 27 1.116391 1
main_use
(主要用途)
Count
(計數)
y_avg
(平均單價)
main_use2
(主要用途2)
一般事務所 59 3.291668 5
商業用 263 2.827533 5
工業用 11 2.306737 4
辦公室 11 2.201122 4
住商用 11 2.102321 4
其他 471 2.032583 4
住家用 8230 1.997874 3
店鋪 2 1.969238 3
集合住宅 2660 1.868529 2
住工用 3 1.49688 1
國民住宅 29 1.168423 1
廠房 1 0.762968 1
main_materials
(主要建材)
Count
(計數)
y_avg
(平均單價)
main_materials2
(主要建材2)
鋼骨造 419 3.095042 4
其他 145 2.386469 3
加強磚造 251 2.198192 2
磚造 1 1.957526 2
鋼筋混凝土造 10923 1.942209 1
鋼筋混凝土加強磚造 12 1.038185 1
building_type
(建物型態)
Count
(計數)
y_avg
(平均單價)
building_type2
(建物型態2)
華廈(10層含以下有電梯) 2158 2.069607 3
住宅大樓(11層含以上有電梯) 7148 1.99488 2
公寓(5樓含以下無電梯) 2437 1.922345 1
透天厝 8 1.675283 1
使用分區： 主要用途： 主要建材：
建物型態：
依使用分區的平均單價
由高到低分成1-5個等級
依主要用途的平均單價
由高到低分成1-5個等級
依主要建材的平均單價
由高到低分成1-4個等級
依建物型態的平均單價
由高到低分成1-3個等級
地區
1 物件
2 周遭環境設施
3 市場
4

18. 資料集名稱 筆數 經緯度座標
ATM 21,931 有提供
金融機構 4,869 有提供
便利商店 13,097 有提供
郵局 1,298 有提供
醫療機構 23,299 有提供
捷運站 239 有提供
公車站 111,761 有提供
火車站 242 有提供
腳踏車站點 6,276 有提供
大學 791 有提供
高中 529 有提供
國中 965 有提供
國小 2,668 有提供
1,000公尺
ATM_in_range Bank_in_range Post_in_range Uni_in_range SHS_in_range JHS_in_range ES_in_range Con_in_range Hos_in_range Bike_in_range MRT_in_range Train_in_range Bus_in_range
14 3 0 4 0 0 1 5 13 9 0 0 0
物件周遭環境設施的處理
該物件附近區域相關設施的數目
地區
1 物件
2 周遭環境設施
3 市場
4

19. County
(縣市)
District
(區域)
income_median
(所得中位數)
income_avg
(所得平均)
income_cv
(所得變異係數)
salary_to_income
(薪資所得佔比)
dividend_to_income
(股利所得佔比)
新竹縣 竹北市 88.6 149.8 23.1 86.6 7.2
台北市 大安區 69 138.8 24.1 59.1 27.4
台北市 中正區 65.4 122 20.1 61.1 26.4
連江縣 東引鄉 65 73.9 7.2 92.7 2.3
台北市 松山區 62.8 118.7 21.4 66.5 21.6
連江縣 南竿鄉 62.7 80.9 9.3 89.3 3.9
連江縣 莒光鄉 61.3 79.7 9 89.2 3.6
台北市 內湖區 59 108.9 18 77.3 12.7
金門縣 烏坵鄉 58 72 8.3 85.9 4.2
新北市 林口區 57.5 100 14.6 79.8 11.2
台北市 文山區 57.4 101.3 16.6 80.3 10.2
台北市 中山區 56.1 110.2 23.6 63.2 23.6
澎湖縣 馬公市 54.7 71.9 10.1 86.3 4.1
金門縣 金湖鎮 54.4 73 11.5 86.7 4.7
台中市 南屯區 54.4 94.1 16.1 71.8 16.1
台北市 信義區 54.4 102.8 23.8 67.5 21.1
台南市 善化區 53.6 87.9 12.3 86.6 7.1
思考：
各縣市區域所得是否影
響房價？
資料來源(財政部)：
https://service.mof.gov.tw/public/Data/statistic/d3.js/demo/tax02/index.html
地區
1 物件
2 周遭環境設施
3 市場
4
所得因素(房屋購買力)

20. 思考：
各縣市市場供需是否影
響房價？
資料來源(財經M平方)：
https://www.macromicro.me/collections/15/tw-housing-relative/124/tw-housing-price-sinyi
County
(縣市)
house_price_index
(房價指數)
presale_unit_price
(預售屋價格)
second_unit_price
(二手屋價格)
Presale_minus_
existing
(預售屋vs成屋價差)
second_inventory
(二手屋待售庫存)
台北市 127.28 142.45 73.94 23.41 8,558
新北市 140.45 46.92 49.12 10.18 12,669
新竹縣 213.07 47.28 19.73 13.95 4,260
新竹市 213.07 47.28 19.73 13.95 4,260
台中市 168.72 48.87 22.39 13.36 17,874
桃園市 159.07 35.54 25.81 9 9,987
高雄市 155.99 34.61 17.24 10.07 8,621
台南市 188.74 34.51 21.22 10.43 4,033
金門縣 147.11 34.51 17.24 9 0
宜蘭縣 147.11 34.51 17.24 9 0
苗栗縣 147.11 34.51 17.24 9 0
花蓮縣 147.11 34.51 17.24 9 0
基隆市 147.11 34.51 17.24 9 0
彰化縣 147.11 34.51 17.24 9 0
嘉義市 147.11 34.51 17.24 9 0
嘉義縣 147.11 34.51 17.24 9 0
屏東縣 147.11 34.51 17.24 9 0
雲林縣 147.11 34.51 17.24 9 0
地區
1 物件
2 周遭環境設施
3 市場
4
市場供需因素

21. 思考：原始資料集僅1.17萬筆，近一年
實價登錄比數卻有9.64萬筆；若能
leverage實價登錄資料，是否將有機會可
以更準確預測房價？
挑戰：原始資料集已去識別化，無法直
接判斷每坪單價實際代表數值。
解決方案：利用原始資料集的各縣市區
域筆數作為權重，加權模擬實價登錄的
平均單價與原始資料集的單價尺度的換
算比例。
換算結果：
原始資料集每坪單價的一個度量單位，
相當於實價登錄每坪199,841元。
原始資料集
(1.17萬筆；已去識別化)
實價登錄資料集
(9.64萬筆；每平方公尺單價)
假設：
1. 原始資料集與實價登錄資料皆為近期
相近的資料(因此差異有限)
2. 實價登錄資料筆數遠大於原始資料集
，在房價預測的解釋能力上也會大於
原始資料集
地區
1 物件
2 周遭環境設施
3 市場
4
市場因素(實價登錄資料)

22. 縣市
實價登錄資料集
筆數權重
實價登錄每平方公
尺平均單價
原始資料集
筆數權重
實價加權平均
原始資料集
加權後原始度量
新北市 19261 121307.1 4302 1.73E+09 8505.016
台中市 13393 84340.39 996 2.78E+08 1467.245
高雄市 12851 71689.52 1328 3.15E+08 1663.509
桃園市 12426 75475.79 1178 2.94E+08 1558.341
台北市 8954 214541.2 2382 1.69E+09 8088.927
台南市 6808 66886.89 478 1.06E+08 589.7302
新竹縣 2476 88050.09 347 1.01E+08 638.3
彰化縣 2456 60772.49 23 4620739 21.33338
屏東縣 2399 49049.44 46 7458791 36.42485
宜蘭縣 2385 66043.66 76 16592863 83.47184
基隆市 2236 56720.86 233 43689318 241.5891
苗栗縣 1978 54685.55 43 7773518 46.39281
新竹市 1971 95904.04 246 77991736 410.9625
花蓮縣 1265 60948.35 12 2417797 12.6456
雲林縣 1264 46413.34 2 306866.4 1.057483
嘉義市 1185 61774.32 27 5513766 22.05235
嘉義縣 956 44987.75 2 297441 1.619628
金門縣 251 68157.97 30 6759498 35.15318
總計 94515 95621.54 11751 398351 1.993343
原始資料目標單價與實價登錄每
平方公尺平均單價皆以相同的權
重予以計算加權平均
實價登錄平均每坪單價398,351元，相當於原始資料目標單價1.99；亦即：
原始資料目標單價1單位=實價登錄每坪199,840元
county district y_avg 每坪單價(萬元)
台北市 大安區 4.524506 90.42
台北市 中正區 3.833712 76.61
台北市 松山區 3.791416 75.77
台北市 信義區 3.673529 73.41
台北市 中山區 3.58837 71.71
台北市 南港區 3.322496 66.40
台北市 內湖區 3.060399 61.16
台北市 大同區 2.971353 59.38
台北市 士林區 2.935604 58.67
台北市 北投區 2.588748 51.73
台北市 文山區 2.575809 51.47
台北市 萬華區 2.521631 50.39
新北市 永和區 2.464305 49.25
新北市 板橋區 2.32676 46.50
新北市 新店區 2.198261 43.93
新北市 中和區 2.195259 43.87
新北市 三重區 2.097878 41.92
推測原始資料各縣市區域平均單價：
地區
1 物件
2 周遭環境設施
3 市場
4
市場因素(實價登錄資料)

23. ID county district road total_floor building_age2
TR-1 台北市 大安區 敦化南路二段 11 32
TR-2 台北市 萬華區 水源路 12 24
TR-3 高雄市 鳳山區 北忠街 15 6
TR-4 新北市 新莊區 福前街 14 8
TR-5 新北市 板橋區 文化路一段 43 11
TR-6 台北市 萬華區 國興路 12 39
TR-7 新北市 樹林區 信義街 4 46
TR-8 桃園市 平鎮區 中庸路 13 17
TR-9 新北市 永和區 民樂街 5 42
TR-10 桃園市 中壢區 龍仁路 15 6
TR-11 新北市 泰山區 泰林路二段 13 28
TR-12 台中市 南區 五權南路 14 29
TR-13 台北市 士林區 中山北路七段 5 33
TR-14 台中市 南屯區 向上路二段 25 7
TR-15 新北市 新店區 北宜路二段 18 21
TR-16 台北市 文山區 新光路一段 12 26
TR-17 台中市 西屯區 工業區一路 12 30
TR-18 新北市 新莊區 天祥街 18 5
TR-19 新北市 深坑區 文化街 14 27
TR-20 新北市 土城區 裕民路 16 28
county district county_district_road total_floor building_age unit_price_std
台北市 大安區 台北市大安區敦化南路二段 4 52 4.7680
台北市 大安區 台北市大安區敦化南路二段 4 55 4.1276
台北市 大安區 台北市大安區敦化南路二段 4 3.5971
台北市 大安區 台北市大安區敦化南路二段 6 28 5.5021
台北市 大安區 台北市大安區敦化南路二段 7 4.2580
台北市 大安區 台北市大安區敦化南路二段 12 37 4.7289
台北市 大安區 台北市大安區敦化南路二段 16 44 4.8835
台北市 大安區 台北市大安區敦化南路二段 16 48 5.3309
台北市 大安區 台北市大安區敦化南路二段 17 37 4.2917
台北市 大安區 台北市大安區敦化南路二段 18 35 5.5465
台北市 大安區 台北市大安區敦化南路二段 19 38 4.2497
台北市 大安區 台北市大安區敦化南路二段 21 33 4.3168
台北市 大安區 台北市大安區敦化南路二段 21 34 5.5000
台北市 大安區 台北市大安區敦化南路二段 26 37 4.7681
台北市 大安區 台北市大安區敦化南路二段 35 32 5.1469
實價登錄資料groupby之後結果：
原始資料集：
找出最接近的一筆，在原始資料
集新增特徵欄位”unit_price_std”
代表實價登錄模擬原始資料集的
目標值
地區
1 物件
2 周遭環境設施
3 市場
4
市場因素(實價登錄資料)

24. 加入實價登錄的新特徵，新特
徵立即竄升為最重要的特徵，
對改善模型有顯著效果
次要欄位: (20)
unit_price_std 0.4303
county_district3 0.2707
building_age 0.0659
lng 0.0270
total_floor 0.0200
parking_square 0.0180
lat 0.0156
building_square 0.0124
land_square 0.0121
balcony_square 0.0112
main_square 0.0097
floor 0.0096
Hos_in_range 0.0084
income_cv 0.0083
ATM_in_range 0.0069
Bank_in_range 0.0063
Bus_in_range 0.0057
main_materials2 0.0055
attached_square 0.0050
salary_to_income 0.0039
Bike_in_range 0.0037
Con_in_range 0.0036
presale_minus_existing 0.0034
dividend_to_income 0.0033
income_avg 0.0029
county_district2 0.0105
county2 0.0037
income_median 0.0025
building_type2 0.0021
house_price_index 0.0020
road2 0.0014
second_unit_price 0.0013
ES_in_range 0.0010
main_use2 0.0010
Post_in_range 0.0009
JHS_in_range 0.0008
county3 0.0008
parking_no 0.0007
presale_unit_price 0.0007
usage_type2 0.0005
SHS_in_range 0.0003
MRT_in_range 0.0003
second_inventory 0.0002
Uni_in_range 0.0001
Train_in_range 0.0000
主要欄位: (25)
整理後所有特徵(原始/衍生/新增)
Top 10 特徵欄位
實價登錄模擬目標值
縣市+區域平均單價
屋齡
經度
總樓層
車位面積
緯度
建物面積
土地面積
陽台面積
地區
1 物件
2 周遭環境設施
3 市場
4

25. 模型選擇

26. Multi-layer Perceptron regression
參考 KAGGLE上的模型
Light GBM
Cat boost
Decision trees
XGBRegressor
Support Vector Regression
11.15%
12.17%
12.26%
10.11%
32.66%
43.77%

27. 編碼過的原始欄位
編碼過的原始欄位
周遭因素13個欄位
編碼過的原始欄位
周遭因素13個欄位
市場因素10個欄位
編碼過的原始欄位
周遭因素13個欄位
市場因素10個欄位
實價登陸價格反推1個欄位
9.34%
9.51%
9.52%
9.89%
9.51%
9.89%
9.34%
9.52%
加入其他特徵欄位

28. LinearRegressor
Ridge
Lasso
KNN
SGDRegressor
Gaussian Process Regression
RandomForestRegressor
ExtraTreesRegressor
GradientBoostingRegressor
HistGradientBoostingRegressor
MLPRegressor
從ScikitLearn增加模型選項

29. LightGBM
ExtraTreesRegressor
RandomForestRegressor
HistGradientBoostingRegressor
GradientBoostingRegressor
9.32%
9.23%
8.70%
9.34%
9.23
%
9.32
%
9.34
%
8.68
%
8.70
%
8.68%
訓練結果比較

30. 特徵篩選

31. 篩選特徵方法
unit_price_std 0.4303
county_district3 0.2707
building_age 0.0659
lng 0.0270
total_floor 0.0200
parking_square 0.0180
lat 0.0156
building_square 0.0124
land_square 0.0121
balcony_square 0.0112
main_square 0.0097
floor 0.0096
Hos_in_range 0.0084
income_cv 0.0083
ATM_in_range 0.0069
Bank_in_range 0.0063
Bus_in_range 0.0057
main_materials2 0.0055
attached_square 0.0050
salary_to_income 0.0039
Bike_in_range 0.0037
Con_in_range 0.0036
presale_minus_existing 0.0034
dividend_to_income 0.0033
income_avg 0.0029
county_district2 0.0105
county2 0.0037
income_median 0.0025
building_type2 0.0021
house_price_index 0.0020
road2 0.0014
second_unit_price 0.0013
ES_in_range 0.0010
main_use2 0.0010
Post_in_range 0.0009
JHS_in_range 0.0008
county3 0.0008
parking_no 0.0007
presale_unit_price 0.0007
usage_type2 0.0005
SHS_in_range 0.0003
MRT_in_range 0.0003
second_inventory 0.0002
Uni_in_range 0.0001
Train_in_range 0.0000
# Method 1:
SelectBest
由ScikitLearn的演算法
篩選最佳的幾項特徵
# Method 2:
FeatureImportance from
GradientBoostingRegressor
根據特徵的重要性
人工篩選使用的特徵
Features
abandoned
Features
used

32. # Method 3:
對一個特徵欄位的值作亂數處理
觀察對MAPE的影響
來判斷該特徵的重要性
# Method 4:
每次捨棄一個特徵欄位
觀察對MAPE的影響
來判斷被捨棄特徵的重要性
篩選特徵方法

33. 最終結果
經過特徵篩選
使用ExtraTreesRegressor
得到最佳分數8.59
unit_price_std 0.4303
county_district3 0.2707
building_age 0.0659
lng 0.0270
total_floor 0.0200
parking_square 0.0180
lat 0.0156
building_square 0.0124
land_square 0.0121
balcony_square 0.0112
main_square 0.0097
floor 0.0096
Hos_in_range 0.0084
income_cv 0.0083
ATM_in_range 0.0069
Bank_in_range 0.0063
Bus_in_range 0.0057
main_materials2 0.0055
attached_square 0.0050
salary_to_income 0.0039
Bike_in_range 0.0037
Con_in_range 0.0036
presale_minus_existing 0.0034
dividend_to_income 0.0033
income_avg 0.0029
Features
used

34. 目前成績【Dr. House Team ranked as 20th/ 218 teams】
目前已順利打進Top10%!
….
持續嘗試不同的特徵組合
Ensemble 不同模型
優化訓練結果