Recommended
More Related Content
Similar to AIと金融
Similar to AIと金融 (20)
More from Takatsugu Nokubi
More from Takatsugu Nokubi (6)
Recently uploaded
Recently uploaded (9)
AIと金融
- 2. 人工知能(AI: Artificial Intelligence)の定義 『計算（computation）』という概念と 『コンピュータ（computer）』という道具 を用いて『知能』を研究する計算機科学 （computer science）の一分野」を指す語 出典: 『日本大百科全書(ニッポニカ)』小学館・朝日新聞社・VOYAGE GROUP(2018) Wikipediaより 深層学習 (Deep Neural Network) 近年の特徴 データから特徴を自動的に得る → end-to-end学習 量・質が重要 ● 言語読解等のベンチマーク ● 囲碁・ポーカー等のゲーム 人間超え
- 3. 中 間 タ ス ク end-to-end学習 I read a book yesterday 私 は きのう 本 を 読んだ 名詞 助詞 名詞 名詞 名詞 動詞 私はきのう本を読んだ I read a book yesterday DNN 例: 機械翻訳 統計ベース翻訳 ニューラル翻訳 深層学習以前 深層学習以降 単語分割 品詞推定 対応関係推定 単語翻訳 中間タスクなし ブラックボックス
- 4. 金融領域での活用事例 ● 信用スコアリング ○ 組織・個人の信用力を推定 ● リスク管理 ○ 市場環境分析・予測 ● 不正検出 ○ マネーロンダリング・詐欺検出 ● 自動トレード ○ 高速取引・ポートフォリオ管理 ● パーソナライズ ○ 財務アドバイス ● RPA (Robotic Process Automation) ○ プロセス自動化
- 5. 金融領域での活用事例 ● 信用スコアリング ○ 組織・個人の信用力を推定 ● リスク管理 ○ 市場環境分析・予測 ● 不正検出 ○ マネーロンダリング・詐欺検出 ● 自動トレード ○ 高速取引・ポートフォリオ管理 ● パーソナライズ ○ 財務アドバイス ● RPA (Robotic Process Automation) ○ プロセス自動化 負荷・コストの削減
- 6. AI活用時の課題 ● 正しいデータ ○ 間違いはノイズ ○ 量も必要 ● 機械読み取り可能形式 データの質 データの偏り ブラックボックス ● 偏見の助長 ○ データ内の偏見を そのまま学習 ● 説明の難しさ ○ 手法の複雑さに比例 ● 説明可能なAI ○ XAI: Explainable AI ■ LIME, SHAP
- 7. XAIの例 ● LIMEの例(論文より) ○ 予測に貢献する領域 ● SHAPの例 (githubより) ○ 要素ごとの貢献度合いを表示
- 8. 自然言語処理活用事例 非構造化データである自然言語(日本語)で記述されたデータを扱う ● 値動き要因ニュース抽出 ● 要約 ● 類似ファンドベクトル作成 ○ word2vec アプローチ ○ アセット特徴ベース
- 9. 値動き要因ニュース抽出 投信の資産ごとに値動きの貢献度を分析 ● 回帰分析 ○ 分析対象のアセットに基づき参照指数を エキスパートが選定 ○ 株式要因・債券要因・為替要因等 要因を解説しているニュース記事抽出 ● 類似文を探すタスク ○ 典型的な要因となる文をエキスパート が選定 ■ 「株式市場の上昇」等 ○ ニュース本文で類似したものを探す
- 10. 類似文抽出処理ステップ ● 各文章を固定長ベクトルで表現 ○ word2vecベース ● ベクトル同士の類似度に基づいて類似判定を行う (候補文の抽出) ○ コサイン類似度 ● 正確な候補のみ抽出 ○ BERT ○ 含意関係認識
- 12. word2vec 埋め込みベクトル (Embedding Vector)・分散表現 (Distribution Representation) ● 狭い (200~1000次元程度)空間に埋め込む ● 単語の性質を保持 ○ 演算が可能 (例: king - man + woman ~= queen) 犬 猫 円 200~300次元 man woman king queen 似ている部分
- 13. word2vec ● 単語の密なベクトル表現 ○ cf. Bag of Words (疎なベクトル) ■ すべての語彙に一意なIDを振る 犬 猫 … 円 ドル … 1 2 … 101 102 … 0 1 … 0 0 … 1 0 … 0 0 … 犬 猫 0 0 … 0 1 … 0 0 … 1 0 … 円 ドル ID Bag of Words (BoW) 犬 猫 円 word2vec
- 14. word2vecによる文ベクトル 構成される単語群の組み合わせを持ちいる ● 単純合計 ● 最大値のみの要素を集める ○ 単語の各次元での最大値のみを採用 ● 単純平均 ○ こちらを採用 犬 猫 円 文 最大値のみ
- 15. 分布仮説 (distribution hypothesis) ● 似た意味を持つ単語は同じような使われ方をする ○ 意味的に似た単語は、出現する文脈の分布も似ている ● 例 ○ 「犬」「猫」等の動物 ○ 「円」「ドル」等の通貨 ● word2vecでの応用 ○ 単語に対し、周辺に出現する単語を予測 (skip-gram) ○ 周辺の単語から、当該の単語を予測 (CBOW) 庭で猫が寝ている 道端を犬が歩いている 猫 庭 寝る skip-gram 道端 歩く 犬 CBOW ニューラルネットワーク
- 16. コサイン類似度 ● ベクトル間の角度による類似度判定 ○ 2つのベクトルの角度 θ ○ cos(θ)によって [0, 1] の値が得られる ■ 1に近いほど角度に差がない -> 類似している ● 類似文の抽出に利用 ○ 文ベクトルをword2vecに基づき作成 ○ 文ベクトルのコサイン類似度を比較 ■ 値の高いものを類似文とみなす ● 課題 ○ 反対の意味の文も高い類似度が出る ■ 「使われ方の似た単語は類似度の高いベクトルになる」
- 17. 含意関係認識 ● 文 A, B について、BにAの意味が含まれているかどうかを判定 ● 含意関係例 ● 反対の意味をもつ候補、無関係な候補の除去に利用 文A 文B 含意関係 円安・ドル高の 進行 ９日のニューヨークドル／円相場は、前日比０．４２円の 円安・ドル高となる１０９．６６円 あり 予想を下回る米 国の経済指標 朝方発表になった３月の米消費者物価指数（ＣＰＩ）、総 合指数は前年比で２．６％、コア指数も１．７％の上昇と 予想を上回る伸びを示し、インフレ上昇の兆候を示した なし
- 18. BERT 自然言語処理で大きな飛躍をもたらした手法 ● 大量のテキストから自己学習を行い、ある種の常識を理解 ○ 主にMasked Language Modelによる ■ 文の単語の一部をマスクし、それを予測する学習 ● cf. word2vec 周辺の出現単語を予測 庭 で [MASK] が いる て 寝 庭 で 猫 が いる て 寝
- 19. BERTの応用 大量のテキストから自己学習を行う ● Wikipedia等をデータセットとすることが多い ● 自己学習済みのモデルをfine tuningし、下流タスクに適応させる ○ 訓練データが少なくても高い性能を実現 ■ 含意関係認識向けに fine tuning して利用 訓練済み BERTモデル 含意関係認識 訓練データ 含意関係認識 モデル 訓練
- 20. BERTは処理が重い ● パラメータ数が多い ○ オリジナルのBERT (base)モデルでも1.1億 ■ 一回の処理におおよそそれだけの乗算を行う ■ 秒単位の処理時間がかかる ● すべてのニュースソースに対する処理は非現実的 ○ 1週間で数万オーダーの文がある ● より軽い手法(word2vecベース)を前段階で実施 ○ 300次元ベクトル同士の演算で済む ○ ただし精度は不十分 ■ 候補を絞るために利用する
- 22. 文書要約 - 文書の意味を保ちつつ短い文章で表現 ● 抽出型要約 ○ 原文にある複数の(重要な)文をピックアップして短い文書を生成 DNN 電気自動車（ＥＶ）大手テスラのイーロ ン・マスク最高経営責任者（ＣＥＯ）は ツイッターに買収案を提示した テスラ社CEOマスク氏 ツイッター 買収を提案 ● 抽象型要約 ○ 原文にない単語も使って短い文書を生成 ○ 深層学習により伸びてきた手法 電気自動車（ＥＶ）大手テスラのイーロ ン・マスク最高経営責任者（ＣＥＯ）は ツイッターに買収案を提示した マスクCEOはツイッター買収案を提示
- 23. 重要文の抽出 ● TextRankとその派生 ○ Web検索で使われるPageRankを自然文に応用 ■ 単語の関係性をグラフ化してスコアリング ● 接続関係が多い物ほど高スコア ● PageRankでいう被リンク数 ○ 教師データ不要 ○ 実装も豊富 ■ PyTextRank ■ pke (キーフレーズ抽出)
- 24. 文圧縮 - 長い文章を短い文で表現 ● 抽象型・抽出型がある ● 抽出型を実装 ○ TF-IDFに基づいた文節削除 ■ GiNZAによる係り受け解析 ■ 期待する文の長さを定義 ● TF-IDFの合計値が最大になる文節の組み合わせを求める また、グローバルリーディング企業の分 析・面談を通じて得られた知見や洞察は、 投資仮説の検証、投資確信度の見定めに加 え、当ファンドの特色の一つである「対話 による価値創出」の面からも、投資先企業 に対して「意味のある気づき」を与えるこ とに具体的に資しています。 投資仮説の検証、投資確信度の見定めに加え、 当ファンドの特色の一つである「対話による 価値創出」の面からも、資しています。 例 (40~60文字の範囲に圧縮)
- 25. TF-IDF (Term Frequency - inverse document frequency) TF: 単語の出現頻度 ● 頻出する単語ほど大きい値 IDF: 文書における単語の出現頻度の逆数 ● 多くの文書に出現するほど小さい値 ○ ありふれた単語にペナルティ TF-IDF: TFとIDFの積 ● 単語の重要度 ● 頻出するが、一般的ではない単語が大きい値になる ● 対象とする文書集合によって値は異なる ○ 処理対象ニュースを用いて算出 TF(A, d) = 全ての文書で単語Aが出現する回数 文書d上で単語Aが出現する回数 IDF(A, D) = log 全ての文書Dの数 (|D| = N) 単語Aが出現する文書の数
- 26. 文節選択 また、 グローバル リーディング 企業の 分析・ 面談を 通じて 得られた 知見や 洞察は、 資しています。 (中略) TF-IDFスコアの高い文節の組み合わせ をピックアップ 根となる述語は常に採用
- 27. ファンドのベクトル表現 ● 投信の銘柄をベクトルで表現する ○ 特徴量ベース ■ Bag of Feature ■ ポートフォリオに組み込まれたアセット情報等をベクトル化 ○ 埋め込みベクトル ■ word2vecに近い ● 検索クエリを用いて求める方法 ● 値動きの特徴を用いて求める方法 ファンド名 日本株 日本債券 … 先進国株 先進国債券 バランスファンドA 1 1 1 1 日本ファンドB 1 1 0 0
- 28. 検索履歴の応用 ● 仮説 ○ 「あるユーザーが短時間に行った複数の検索はある目的に合致する投信を探している」 ○ ある期間内に出現した検索クエリに基づいて ■ 周辺の検索クエリを予測する ■ word2vecと同じ手法 ● 実験 ○ word2vec実装の一つgensimを利用 ■ “EMAXIS”に類似している上位 ● それなりに機能していそう ● 入力ミスを見つけられている
- 29. まとめ ● 金融におけるAI概要 ● 自然言語処理の応用事例紹介 ○ 応用可能なツールは多い ● エキスパートの知識が重要 ○ アセットと指数の組み合わせ ○ 値動き要因分の定義 ○ いかに知識を仕組みに組み込むか
- 30. 参考資料 ● AI to Transform The Financial Services: Six Examples ● "Why Should I Trust You?": Explaining the Predictions of Any Classifier (2016, ACM) ○ Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin ● A unified approach to interpreting model predictions (2017, NeurIPS) ○ Scott M. Lundberg, Su-In Lee
- 31. 参考資料 ● Distributional Structure (1954, Word) ○ Zellig S. Harris ● Efficient Estimation of Word Representations in Vector Space (2013, ICLR) ○ Tomas Mikolov, Kai Chen, Greg Corrado, Jeffrey Dean ● BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding (2018 arXiv:1810.04805) ○ Devlin, Jacob and Chang, Ming-Wei and Lee, Kenton and Toutanova, Kristina ● TextRank: Bringing Order into Text (2004, EMNLP) ○ Rada Mihalcea, Paul Tarau ● MMRによる文選択とTF-IDFによる文圧縮を用いたニュース記事要約 (2021年 度人工知能学会全国大会) ○ 石原 祥太郎, 澤 紀彦
- 33. BERT系モデルの日本語評価 JGLUE - https://github.com/yahoojapan/JGLUE ● 言語処理のベンチマーク GLUE の日本語版 ○ Yahooクラウドソーシングにより構築 ○ 分類・類似度推定・含意関係・質問応答等のタスク ○ 人間を超える精度を出しているタスクもある JGLUE: 日本語言語理解ベンチマーク 栗原健太郎, 河原大輔, 柴田知秀 (言語処理学会第28回年次大会, 2022)