【Tech Trend Talk vol.7】社外向け勉強会「スコア予測の実践 -（GIG）」
•
0 likes•2,213 views
「スコア予測の実践」を公開 ※ 株式会社GIGでは毎月社内外に向けた勉強会を実施しています
Recommended
More Related Content
Similar to 【Tech Trend Talk vol.7】社外向け勉強会「スコア予測の実践 -（GIG）」
Similar to 【Tech Trend Talk vol.7】社外向け勉強会「スコア予測の実践 -（GIG）」 (20)
More from GIG inc.
More from GIG inc. (20)
Recently uploaded
Recently uploaded (10)
【Tech Trend Talk vol.7】社外向け勉強会「スコア予測の実践 -（GIG）」
- 1. Tech Trend Talk 7 2018年10月3日（水）
- 2. WIFI SSID : GIG_GUEST_A PW : gigguest
- 5. 中島正成 株式会社GIG 取締られ役 Institution for a Global Society株式会社 取締役CTO 人材データの分析・機械学習、人工知能をつかった評価システム GROW360開発、作文採点システム開発 エン・ジャパン株式会社 株式会社不満買取センターCTO 自然言語処理によるマーケティングデータ分類 株式会社メタップス 取締役CTO 広告プラットフォームmetapsリワード開発 メタップスアナリティクスプロトタイプ開発 決済プラットフォームSpikeプロトタイプ開発
- 6. “ ▪ 第一回 機械学習の概要 ▪ 第二回 環境準備と教師なし学習の実践 ▪ 第三回 教師あり学習とプロダクトへの活用 ▪ 第四回 スコア予測の実践 ▪ 第五回 適切なアルゴリズムの探索 ▪ 第六回 自然言語処理の入り口
- 7. 前回までのおさらい
- 8. 回帰と判別 回帰モデル 判別（分類）モデル 回帰（かいき、英 : regression）とは、 統計学において、 Y が連続値の時に データに Y = f(X) というモデル(「定量 的な関係の構造 [1]」)を当てはめる 事。別の言い方では、連続尺度の従 属変数（目的変数） Y と独立変数（説 明変数）X の間にモデルを当てはめる こと。X が1次元ならば単回帰、 X が2 次元以上ならば重回帰と言う。 Y が離 散の場合は分類と言う。 判別分析は、事前に与えられている データが異なるグループに分かれる 場合、新しいデータが得られた際に、 どちらのグループに入るのかを判別 するための基準（判別関数）を得るた めの正規分布を前提とした分類の手 法。英語では線形判別分析を LDA、二 次判別分析をQDA、混合判別分析を MDAと略す。
- 9. 回帰モデル
- 10. 判別モデル
- 13. • 回帰 • 線形回帰 • ロジスティック回帰 • SVM • ツリー • 決定木 • 回帰木 • ランダムフォレスト • 勾配ブースティング • ニューラルネットワーク • CNN • RNN • パーセプトロン 教師あり学習 • 階層型クラスタリング • 非階層型クラスタリング • K-means • トピックモデル • LDA • 協調フィルタリング • 自己組織化マップ 教師なし学習 覚えておくとドヤれるおさらい
- 14. 事前準備 Pythonをいれる
- 15. Pythonをいれよう ① ● pyenvはpythonの複数のバージョンをインストールして、用途に応じて切り替えることができる python環境 管理ツールです。 本日はmacとubuntuのインストール方法だけさらっと説明します。 pyenv をいれるのがおすすめです！ 初心者はとりあえず pyenvとanaconda2, anaconda3をいれましょう！ # pyenvのインストール brew install pyenv # anacondaのインストール pyenv install anaconda2-5.0.1 pyenv install anaconda3-5.0.1 # インストール確認 pyenv versions # anaconda3利用の設定 pyenv global anaconda3-5.0.1 # 必要パッケージのインストール sudo apt-get install git gcc make openssl libssl-dev libbz2-dev libreadline-dev libsqlite3-dev # pyenvのインストール sudo git clone git://github.com/yyuu/pyenv.git ./pyenv # .bash_profile export PYENV_ROOT=$HOME/.pyenv export PATH=$PYENV_ROOT/bin:$PATH eval "$(pyenv init -)” # anacondaのインストール pyenv install anaconda2-5.0.1 pyenv install anaconda3-5.0.1 # ..あとはmacと同じ
- 16. Pythonをいれよう ② gist for mac os https://bit.ly/2KLwk5E gist for ubuntu https://bit.ly/2rZOZ6J
- 17. jupyter-notebookをいれよう ● jupyterはpythonのcliを気軽に試して保存できる便利なノートブックツールです。 # pyenvのインストール pip install jupyter # jupyter notebook起動 jupyter notebook
- 21. “ ランダムフォレストとは？ ランダムフォレスト（英: random forest, randomized trees）は、2001年に Leo Breiman によって提案 された機械学習のアルゴリズムであり、分類、回帰、クラスタリングに用いられる。決定木を弱学習器とする 集団学習アルゴリズムであり、この名称は、ランダムサンプリングされたトレーニングデータによって学習し た多数の決定木を使用することによる。ランダムフォレストをさらに多層にしたアルゴリズムにディープ・フォ レスト (機械学習)がある。対象によっては、同じく集団学習を用いるブースティングよりも有効とされる。 wikipedia
- 24. ボストンデータセット CRIM 人口 1 人当たりの犯罪発生数 ZN 25,000 平方フィート以上の住居区画の占める割合 INDUS 小売業以外の商業が占める面積の割合 CHAS チャールズ川によるダミー変数(1: 川の周辺, 0: それ以外) NOX NOx の濃度 RM 住居の平均部屋数 AGE 1940 年より前に建てられた物件の割合 DIS 5 つのボストン市の雇用施設からの距離(重み付け済) RAD 環状高速道路へのアクセスしやすさ TAX $10,000 ドルあたりの不動産税率の総計 PTRATIO 町毎の児童と教師の比率 B 町毎の黒人 (Bk) の比率を次の式で表したもの。1000(Bk – 0.63)^2 LSTAT 給与の低い職業に従事する人口の割合(%) これらのパラメータから住宅の 価格を予想する！ 楽しそう！
- 27. import pandas as pd from sklearn import datasets from sklearn.ensemble import RandomForestRegressor from sklearn.metrics import accuracy_score from sklearn.model_selection import train_test_split boston = datasets.load_boston() pd.DataFrame(boston.data, columns=boston.feature_names) とりあえず必要なライブラリと データを読み込んでみよう
- 28. “ 結果を表示してみよう
- 29. from sklearn import datasets train_data_bs, test_data_bs, train_labels_bs, test_labels_bs = train_test_split(boston.data, boston.target, test_size=0.2) pd.DataFrame(train_data_bs, columns=boston.feature_names) 結果変数と説明変数を 取り出して表示してみよう
- 30. “ 結果を表示してみよう
- 31. forest = RandomForestRegressor() forest.fit(train_data_bs, train_labels_bs) train_labels_pred = forest.predict(train_data_bs) test_labels_pred = forest.predict(test_data_bs) pd.DataFrame(train_labels_pred) さっそくランダムフォレストで 学習してみよう
- 32. “ 結果を表示してみよう
- 33. import matplotlib.pyplot as plt %matplotlib inline plt.figure(figsize=(20,10)) plt.plot(test_labels_bs,label="True") plt.plot(test_labels_pred, label="predicted") スコアの予測をして 実際の値と比べてみよう
- 34. “ 結果を表示してみよう
- 35. 割とズレが多い感じに見える
- 37. ランダムフォレストのハイパーパラメータ パラメータ 説明 n_estimators バギングに用いる決定木の個数 max_features 最適な分割をするために考慮するフィーチャーの数 max_depth 決定木の深さの最大値、過学習対策にこの値の調整が有効。 min_samples_split ノードを分割するために必要な最小サンプルサイズ min_samples_leaf 葉を構成するのに必要な最小限のサンプルの数 max_leaf_nodes 生成される決定木における最大の葉の数 n_jobs フィットおよび予測の際に用いるスレッド数 random_state 乱数シード warm_start True を設定すると既にフィットしたモデルに学習を追加
- 39. from sklearn.grid_search import GridSearchCV params = {'n_estimators' : [3, 10, 100, 1000, 10000], 'n_jobs': [-1]} cv = GridSearchCV( RandomForestRegressor(), params, cv = 10, scoring= 'mean_squared_error', n_jobs = -1, verbose=True ) cv.fit(train_data_bs, train_labels_bs) GridSearchCVでパラメータチューニング
- 41. train_labels_pred = cv.best_estimator_.predict(train_data_bs) test_labels_pred = cv.best_estimator_.predict(test_data_bs) plt.figure(figsize=(20,10)) plt.plot(test_labels_bs,label="True") plt.plot(test_labels_pred, label="predicted") 予測してmatplotlibでグラフ表示
- 42. “ 結果を表示してみよう
- 49. GIG INC. 社員、業務委託 全職種積極採用中です！ 経験者採用（1年以上） ● ディレクター / マーケター / 編集者 ● フロントエンド / バックエンド / インフラ ● デザイナー / アートディレクター ● 人事 / 財務 職種未経験者も検討 ● ディレクター / マーケター / 編集者 ● バックエンド 新卒も検討 ● マーケター / 編集者 GIG INCのこと
- 51. 11/7（水）Emotion Intelligence × GIG ● GIG：機械学習の理論的な部分を噛み砕いてみる(仮) ● Emotion Intelligence：JavaScriptを使って実践的な機械学習(仮) 明日connpassにて公開予定！