Downloaded 246 times
![「ルール」とは
将来的にいろいろな抽象化がされるが
今のところは「TrueかFalseを返すコード」
と思っていい。
3
if (これはルール) { … }
def foo(x):
… return True
return False
# これもルール
*.py[cod]
*$py.class
*.so
env/
.eggs/
正規表現の羅列もルール](https://image.slidesharecdn.com/random-150926113541-lva1-app6891/85/slide-3-320.jpg)
![正解データを読んでLRを学習
40
file_yes = codecs.open(‘XXX.txt', 'r', 'utf-8')
file_no = codecs.open('not_XXX.txt', 'r', 'utf-8')
xs = []
ys = []
for line in file_yes:
line = preprocess(line)
xs.append(make_feature_vector(line))
ys.append(1)
for line in file_no:
line = preprocess(line)
xs.append(make_feature_vector(line))
ys.append(0)
from sklearn.linear_model import LogisticRegression
model = LogisticRegression()
model.fit(xs, ys)](https://image.slidesharecdn.com/random-150926113541-lva1-app6891/85/slide-40-320.jpg)
![特徴ベクトルの作り方
41
from rules import rules
def make_feature_vector(s):
fv = []
for f in rules:
rs = f(s)
if rs:
fv.append(1)
else:
fv.append(0)
return fv](https://image.slidesharecdn.com/random-150926113541-lva1-app6891/85/slide-41-320.jpg)
![対話的に学習データを追加
44
unknown = codecs.open(‘SOMETHING.txt', 'r', 'utf-8')
buf = []
for line in unknown:
s = preprocess(line)
v = make_feature_vector(s)
score = model.predict_proba(v)[0][1]
buf.append((abs(0.5 - score), score, s, line))
buf.sort()
for _dum, score, s, line in buf:
print u"{:.2f}".format(score),
print line.strip()
yn = raw_input('y/n?>')
if yn == 'y':
codecs.open(‘XXX.txt', 'a', 'utf-8').write(line)
elif yn == 'n':
codecs.open('not_XXX.txt', 'a', 'utf-8').write(line)
else:
print 'passed'](https://image.slidesharecdn.com/random-150926113541-lva1-app6891/85/slide-44-320.jpg)
More Related Content
![SSII2021 [OS2-01] 転移学習の基礎：異なるタスクの知識を利用するための機械学習の方法](https://cdn.slidesharecdn.com/ss_thumbnails/os2-02final-210610091211-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]Revisiting Deep Learning Models for Tabular Data (NeurIPS 2021) 表形式デー...](https://cdn.slidesharecdn.com/ss_thumbnails/dl20220318dlfin-220322065433-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]Deep Learning 第15章 表現学習](https://cdn.slidesharecdn.com/ss_thumbnails/deeplearning15-180601023904-thumbnail.jpg?width=640&height=640&fit=bounds)
![[第2版] Python機械学習プログラミング 第1章](https://cdn.slidesharecdn.com/ss_thumbnails/python-machine-learning-2nd-edition-01-180905090109-thumbnail.jpg?width=640&height=640&fit=bounds)
![[輪講] 第1章](https://cdn.slidesharecdn.com/ss_thumbnails/random-171231020415-thumbnail.jpg?width=640&height=640&fit=bounds)
ルールベースから機械学習への道 公開用
- 1.
- 2.
- 3. 「ルール」とは 将来的にいろいろな抽象化がされるが 今のところは「TrueかFalseを返すコード」 と思っていい。 3 if (これはルール) {… } def foo(x): … return True return False # これもルール *.py[cod] *$py.class *.so env/ .eggs/ 正規表現の羅列もルール
- 4.
- 5.
- 6.
- 7.
- 8.
- 9. あいまいさの表現 「ルールx1, x2, x3…は時々誤爆するから 単体ではあんまり信用出来ないけど、 3個以上Trueになってる時はTrueを返したい」 ＝Σ(xi) > 2.5 これを論理式で書こうとするとめんどくさい。 シンプルに表現できる表現方法を使うことで 思考を節約する。 9
- 10.
- 11. 例1 一部信用出来ないルール 「ルールx1, x2,…は十分信用できるので どれか一つがTrueならTrueを返していいけど ルールx5, x6, …はn個以上Trueじゃないと 信用出来ない」 これのシンプルな例としてx1 or (x2 and x3)を考 える。x1は単体で信用できるが、x2とx3信頼出来 ないので両方Trueの時だけにしたい。 11
- 12.
- 13.
- 14. 例2 例外があるルール 「ルールx1, x2…のどれかがTrueならTrueを返す ただし例外としてルールx5がTrueの時を除く」 これのシンプルな形として(x1or x2) and (not x3) を考える。x3がTrueの場合を例外として、x1かx2 がTrueならTrueを返す。 14
- 15.
- 16.
- 17.
- 18. 例3 もっと複雑なルール Q: 任意の論理式が重み付き和の方法で表現できる？ →YesともNoとも言える、ちょっと補足が必要。 例として x1 xorx2 = (x1 or x2) and not (x1 and x2) を考えてみよう。 18
- 19.
- 20. ルールを追加する たとえば新しくx3というルールを追加する x3 = x1and x2 そうすると x1 xor x2 = (x1 or x2) and not (x1 and x2) = (x1 or x2) and (not x3) これは例2と同じになる。 20
- 21.
- 22.
- 23.
- 24.
- 25.
- 26.
- 27.
- 28. 重みの調整の例 1. 正解はFなのにTと予測した 2. つまりΣの結果が大きすぎる 3.wi * xi が大きいiについて wiをちょっと減らす 28 雑な方法だけど これでもちゃんと学習する
- 29. 元祖人工ニューロン 1943年、McCullochとPittsが神経細胞の振る舞い にヒントを得て論理計算が可能なモデルを提案* それは「入力に重みを付けて足しあわせ、閾値を 超えたら1の出力を出す」というものだった。 つまりここまで「重み付き和の方法」と呼んでき たものは実は「McCulloch&Pitts型人工ニューロ ン」(MCP)だった。 29 * ‘A logicalcalculus of the ideas immanent in nervous activity’
- 30.
- 31.
- 32.
- 33.
- 34. 実際の流れ 3. とりあえず適当にXXXっぽいキーワードで検索 して眺めた 4. XXXっぽい発言がたくさんあるスレッドを発見 したのでファイルに書き出した 5.それを眺めながら適当にルールを書いた 34
- 35.
- 36.
- 37.
- 38.
- 39.
- 40. 正解データを読んでLRを学習 40 file_yes = codecs.open(‘XXX.txt','r', 'utf-8') file_no = codecs.open('not_XXX.txt', 'r', 'utf-8') xs = [] ys = [] for line in file_yes: line = preprocess(line) xs.append(make_feature_vector(line)) ys.append(1) for line in file_no: line = preprocess(line) xs.append(make_feature_vector(line)) ys.append(0) from sklearn.linear_model import LogisticRegression model = LogisticRegression() model.fit(xs, ys)
- 41. 特徴ベクトルの作り方 41 from rules importrules def make_feature_vector(s): fv = [] for f in rules: rs = f(s) if rs: fv.append(1) else: fv.append(0) return fv
- 42.
- 43.
- 44. 対話的に学習データを追加 44 unknown = codecs.open(‘SOMETHING.txt','r', 'utf-8') buf = [] for line in unknown: s = preprocess(line) v = make_feature_vector(s) score = model.predict_proba(v)[0][1] buf.append((abs(0.5 - score), score, s, line)) buf.sort() for _dum, score, s, line in buf: print u"{:.2f}".format(score), print line.strip() yn = raw_input('y/n?>') if yn == 'y': codecs.open(‘XXX.txt', 'a', 'utf-8').write(line) elif yn == 'n': codecs.open('not_XXX.txt', 'a', 'utf-8').write(line) else: print 'passed'
- 45.