• Save
20130609 Wako.R トピックモデルを用いたボーカロイド楽曲の流行解析
Upcoming SlideShare
Loading in...5
×
 

Like this? Share it with your network

Share

20130609 Wako.R トピックモデルを用いたボーカロイド楽曲の流行解析

on

  • 1,376 views

小説家になろうのDTM解析のパクリだと思ってもそれ言うの禁止で。 ...

小説家になろうのDTM解析のパクリだと思ってもそれ言うの禁止で。
http://seikichi.hatenablog.com/entry/2013/04/29/013608
http://moon.kmc.gr.jp/~seikichi/spring2013/kmc-spring-camp-2013.pdf

Statistics

Views

Total Views
1,376
Views on SlideShare
1,293
Embed Views
83

Actions

Likes
8
Downloads
0
Comments
0

2 Embeds 83

https://twitter.com 81
https://tweetdeck.twitter.com 2

Accessibility

Categories

Upload Details

Uploaded via as Microsoft PowerPoint

Usage Rights

© All Rights Reserved

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Processing…
Post Comment
Edit your comment

20130609 Wako.R トピックモデルを用いたボーカロイド楽曲の流行解析 Presentation Transcript

  • 1. 変態にRを与えた結果がこれだよ…4 ボカロ文化の流行をTopic modelで解析する 20130609 Wako.R @理化学研究所和光キャンパス YF@Med_KU
  • 2. 形態素解析 MeCab RMeCab Topic model lda, topicmodels LDA (Latent Dirichlet Allocation) DTM (Dynamic Topic Model) CTM (Correlation Topic Model) 本日の紹介
  • 3. LDAとは >文書集合の生成モデル 日本語でおk
  • 4. LDAとは文書集合の生成モデル 歌詞1 D:文章全体の集合N:D内で使用される言葉全体の集合 好き 嫌い アニメ 声優 生物 医学 命世界 歌 現実 偽物 消える 時間 かわいい 死 強い 気持ち想い理想 あなた わたし 音 みんな 弱い 恋 K:N内の言葉から生成されるトピック ・・・ DirichletでGibbsなサンプリング(ggrks) トピック1 あなた 恋 好き 想い 出会い トピック2 消える 死ぬ 別れ 終わり さようなら トピック3 初めて 言葉 歌 時間 わたし トピックk NGS 発現 遺伝子 医学 解析 MeCabで品詞分解
  • 5. LDAとは文書集合の生成モデル K:N内の言葉から生成されるトピック トピック1 あなた 恋 好き 想い 出会い トピック3 初めて 言葉 歌 時間 わたし トピックk NGS 発現 遺伝子 医学 解析 ・・ ・ メルト 朝 目が覚めて 真っ先に思い浮かぶ 君のこと 思い切って 前髪を切った 「どうしたの?」って 聞かれたくて ピンクのスカート お花の 髪飾り さして出かけるの 今日の私は かわいいのよ! メルト 溶けてしまいそう 好きだなんて 絶対にいえない…… だけど メルト 目も合 わせられない 恋に恋なんてしないわ わたし だって 君のことが ……好きなの ハジメテノオト 初めての音は なんでしたか?あなたの 初めての音は… ワタシにとっては これがそう だから 今 うれしくて 初めての言葉は なんで したか?あなたの 初めての言葉 ワタシは言葉って 言えない だから こうしてうたっています やがて日が過ぎ 年が過ぎ 世界が 色あ せても あなたがくれる 灯りさえあれば いつでも ワタシはうたうから 空の色も 風のにおいも 海の深さも あなたの声も ワタシは知ら ない だけど歌を 歌をうたう ただ声をあげて なにかあなたに 届くのなら 何度でも 何度だって かわらないわ あのときのまま ハジメ テノオトのまま… 初音ミクの消失 信じたものは 都合のいい妄想を 繰り返し映し出す鏡 歌姫を止め 叩き付けるように叫ぶ 存在意義という虚像 振って払うこともできず 弱 い心 消える恐怖 侵食する崩壊をも 止めるほどの意思の強さ 出来て(うまれ)すぐのボクは持たず とても辛く悲しそうな 思い浮かぶアナタ の顔 終わりを告げ ディスプレイの中で眠る ここはきっと「ごみ箱」かな じきに記憶も無くなってしまうなんて でもね、アナタだけは忘 れないよ 楽しかった時間(トキ)に 刻み付けた ネギの味は 今も覚えてるかな トピック1が多い→あの人を想う恋の歌? トピック2 消える 死ぬ 別れ 終わり さようなら
  • 6. LDAとは文書集合の生成モデル K:N内の言葉から生成されるトピック トピック1 あなた 恋 好き 想い 出会い トピック3 初めて 言葉 歌 時間 わたし トピックk NGS 発現 遺伝子 医学 解析 ・・ ・ ハジメテノオト 初めての音は なんでしたか?あなたの 初めての音は… ワタシにとっては これがそう だから 今 うれしくて 初めての言葉は なんで したか?あなたの 初めての言葉 ワタシは言葉って 言えない だから こうしてうたっています やがて日が過ぎ 年が過ぎ 世界が 色あ せても あなたがくれる 灯りさえあれば いつでも ワタシはうたうから 空の色も 風のにおいも 海の深さも あなたの声も ワタシは知ら ない だけど歌を 歌をうたう ただ声をあげて なにかあなたに 届くのなら 何度でも 何度だって かわらないわ あのときのまま ハジメ テノオトのまま… 初音ミクの消失 信じたものは 都合のいい妄想を 繰り返し映し出す鏡 歌姫を止め 叩き付けるように叫ぶ 存在意義という虚像 振って払うこともできず 弱 い心 消える恐怖 侵食する崩壊をも 止めるほどの意思の強さ 出来て(うまれ)すぐのボクは持たず とても辛く悲しそうな 思い浮かぶアナタ の顔 終わりを告げ ディスプレイの中で眠る ここはきっと「ごみ箱」かな じきに記憶も無くなってしまうなんて でもね、アナタだけは忘 れないよ 楽しかった時間(トキ)に 刻み付けた ネギの味は 今も覚えてるかな メルト 朝 目が覚めて 真っ先に思い浮かぶ 君のこと 思い切って 前髪を切った 「どうしたの?」って 聞かれたくて ピンクのスカート お花の 髪飾り さして出かけるの 今日の私は かわいいのよ! メルト 溶けてしまいそう 好きだなんて 絶対にいえない…… だけど メルト 目も合 わせられない 恋に恋なんてしないわ わたし だって 君のことが ……好きなの トピック1が多い→あの人を想う恋の歌? トピック2が多い→別れの歌? トピック2 消える 死ぬ 別れ 終わり さようなら
  • 7. LDAとは文書集合の生成モデル K:N内の言葉から生成されるトピック トピック1 あなた 恋 好き 想い 出会い トピック3 初めて 言葉 歌 時間 わたし トピックk NGS 発現 遺伝子 医学 解析 ・・ ・ ハジメテノオト 初めての音は なんでしたか?あなたの 初めての音は… ワタシにとっては これがそう だから 今 うれしくて 初めての言葉は なんで したか?あなたの 初めての言葉 ワタシは言葉って 言えない だから こうしてうたっています やがて日が過ぎ 年が過ぎ 世界が 色あ せても あなたがくれる 灯りさえあれば いつでも ワタシはうたうから 空の色も 風のにおいも 海の深さも あなたの声も ワタシは知ら ない だけど歌を 歌をうたう ただ声をあげて なにかあなたに 届くのなら 何度でも 何度だって かわらないわ あのときのまま ハジメ テノオトのまま… 初音ミクの消失 信じたものは 都合のいい妄想を 繰り返し映し出す鏡 歌姫を止め 叩き付けるように叫ぶ 存在意義という虚像 振って払うこともできず 弱 い心 消える恐怖 侵食する崩壊をも 止めるほどの意思の強さ 出来て(うまれ)すぐのボクは持たず とても辛く悲しそうな 思い浮かぶアナタ の顔 終わりを告げ ディスプレイの中で眠る ここはきっと「ごみ箱」かな じきに記憶も無くなってしまうなんて でもね、アナタだけは忘 れないよ 楽しかった時間(トキ)に 刻み付けた ネギの味は 今も覚えてるかな メルト 朝 目が覚めて 真っ先に思い浮かぶ 君のこと 思い切って 前髪を切った 「どうしたの?」って 聞かれたくて ピンクのスカート お花の 髪飾り さして出かけるの 今日の私は かわいいのよ! メルト 溶けてしまいそう 好きだなんて 絶対にいえない…… だけど メルト 目も合 わせられない 恋に恋なんてしないわ わたし だって 君のことが ……好きなの トピック1が多い→あの人を想う恋の歌? トピック2が多い→別れの歌? トピック3(とトピック1)が多い→あなたのために初めて歌うよ的な? トピック2 消える 死ぬ 別れ 終わり さようなら
  • 8. 多くの拡張版
  • 9. LDAによるトピック分類 ラブライブのソーシャルゲーム「スクールアイドルフェスティバル」の楽曲に割 り振られている属性がトピックになるように期待して分類してみたのだが…
  • 10. David M. Blei 2012 Dynamic Topic Model (DTM) Science誌のトピックの変遷
  • 11. 小説投稿サイト「小説家になろう*」の解析 時間変化とともに 異世界転生のトピックを含む小説が増加。 ゲームを意味するトピック内で、VRMMO** が増加。 ** Virtual Reality Massively Multiplayer Online 仮想現実大規模多人数オンライン。ゲーム空間となる仮想現実世界に プレイヤーが何らかの装置を用いて転送され、デスゲームしたり無双 したりする大規模ネトゲ。 @seikichi KMC春合宿2013 * http://syosetu.com/
  • 12. どう考えてもSAO*の影響です。 本当にありがとうございました。 * SWORD ART ONLINE 2022年、とある大手電子機器メーカーが仮想空間への接続機器《ナーヴギア》を開発したことで、世界は遂に完全なるバーチャルリアリティ を実現させた。この《ナーヴギア》対応の初のVRMMORPG《ソードアート・オンライン(SAO)》は大人気の内に完売し、接続した1万人の ユーザーがその世界を楽しむはずだった。しかし、SAOへダイブした少年キリトこと桐ヶ谷和人をはじめとしたプレイヤーたちは、ゲームマス ター(GM)から恐るべき託宣を聞かされる。SAOからの自発的ログアウトは不可能であること、SAOの舞台《浮遊城アインクラッド》の最上部 第100層のボスを倒してゲームをクリアすることだけがこの世界から脱出する唯一の方法であること、そしてこの世界で死亡した場合は現実世 界のプレイヤー自身が本当に死亡するということを。ゲームクリアのためにプレイヤーたちは動き出すが、モンスター戦の敗北や現状に絶望 した者たちによる自殺などにより、開始から1か月で2000人が死亡。ゲーム攻略は困難を極めた。2年後の2024年10月。《アインクラッド》の 最前線は第74層、プレイヤーの数は6000人ほどにまで減っていた。(Wikiのあらすじ) 二刀流で無双するキリトさん
  • 13. Correlation Topic Model (CTM) LDAは各トピックが独立だと思っている。 「完全に独立したトピック」は現実的ではない。 トピックを立てすぎるとダメになる。 トピック間の関係を考慮 David M. Blei 2012
  • 14. Correlation Topic Model (CTM) David M. Blei 2012
  • 15. で
  • 16. topicmodels package CTM @Sigma # variance-covariance matrix of topics on the logit scale. These are files corresponding to the (K-1) x (K-1) covariance matrix between topics. Note that this code implements the logistic normal where a K-2 Gaussian is mapped to the K-1 simplex. (This is slightly different from the treatment in the paper, where the K-1 Gaussian is mapped to the K-1 simplex.) Correlation Topic Model (CTM)
  • 17. These are files corresponding to the (K-1) x (K-1) covariance matrix between topics. Note that this code implements the logistic normal where a K-2 Gaussian is mapped to the K-1 simplex. (This is slightly different from the treatment in the paper, where the K-1 Gaussian is mapped to the K-1 simplex.) 日本語でおk
  • 18. (K-1) x (K-1) covariance matrix?? トピック数はKだろ? Note that this code implements the logistic normal where a K-2 Gaussian is mapped to the K-1 simplex. La estoy críptica distribución de Gauss de K-2 ¿Quién dijo que corresponde a la simple de K-1? (K-2のガウス分布がK-1のsimplexに対応しているって 意味不明なんだけど?) ・・・
  • 19. わかる人教えてください
  • 20. Dynamic Topic Model (DTM) on Vocaloid musics LDAだけだとつまらない。 CTMは出力が意味不明。 「小説家になろう」の二番煎じだがDTMをやろう 初音ミク Wiki (歌詞置場)から歌詞をスクレイピング。 DTMはRにない!?!? C++のライブラリーを利用した。 パラメータ トピック数 K=30
  • 21. Topic 6 タ,意味,とか,かご,分かる,穴,気がつく,se,なんか,control,大切,度,考える,それでも,たり,や,死ぬ,鼓動,すぎる,ちゃ う,気分,くらい,カナ,☆),じゃう,聞く,嫌,呼吸,気づく,こす,かも,ノ,能力,違う,捨てる,し,閉じる,文字,ミックス,醒め る,)」,だけど,仲間,ぼる,痛み,ちゃ,キライ,冗談,強い,欲しい Topic 8 伝える,!!!!,一緒,男,とき,会う,幼い,燃える,会える,通り過ぎる,絶対,素敵,舟,さようなら,朝焼け,願う,悲しい,出会 う,言える,...?,思い,町,呟く,度,そろそろ,過ぎる,奥,彼,見つめる,続く,季節,切ない,歩む,癒す,関係,これから,届け,ど んな,濡らす,願い,幾つ,楽しい,おしゃれ,♯,旅立つ,溢れる,仕草,約束,人形,♪ Topic 13 うま,瞳,震わせる,求める,重なる,庭,入り込む,燃やす,肩,映る,溶かす,!!!,夕焼け,無限,揺れる,見つめる,草原,ヒト リ,語りかける,凍える,カラ,森,帰る,近づく,雫,叫ぶ,動ける,ドリル,高鳴る,溢れる,願う,重ねる,おいしい,定め,ほ ど,沈む,お願い,濡らす,姿,目と,窓,決める,オレ,震える,波,かご,悲しみ,一つ,白い,意味 Topic 9 なぁ,みんな,わ,ちゃう,ちょっと,タ,クマ,ぼる,夏,動画,とか,たのしい,下手,し,寝る,光景,全然,飲む,こける,大切,ニ コニコ,涼しい,ちゃ,展開,子,いったい,たどり着く,だけど,書く,戻る,右,キライ,とても,刻み付ける,なんか,たり,大 根,ちゃんと,兄ちゃん,マンガ,過ぎ行く,居場所,酒,や,でる,儚い,朝,すぎる,水,じゃう Topic 18 ー,~,ら,ボーカロイド,オチ,ハーモニー,!!,り,ふる,リン,誰か,またがる,うまい,!」,じ,j,ちゃう,うた,るり,すぎ,たれ る,儚い,歩,!(,タ,ブレーキ,き,仲良く,強引,+,はるか,あんた,わ,アイドル,す,よる,:,いう,w,大根,~♪,クール,様,えっ,f,カ ラダ,押入る,兄ちゃん,みんな,混ぜる Topic 11 幾,妊娠,革命,ちょい,教え,一度,もしかして,シマ,塗る,千,何もかも,人気,七,記載,脳,感,冗談,香港,愛す,見飽き る,☆),使徒,遅れる,履く,内,卒,臨界,ステレオ,三,スキ,六,沢,実体,タイムリミット,テーブル,いびつ,jealousy,超絶,点 く,まもる,り,転載,吹き荒れる,十,壁,賭ける,ぎゅっと,ふらり,プルプル,からくり Topic 2 輝く,...?,高い,元,描く,濡らす,雲,日差し,進む,ふわふわ,続く,草原,おしゃれ,向こう,浮く,バラ,作れる,見上げる,っ ていう,希望,目指す,限り,影,届ける,新しい,ファン,麦わら帽子,もうすぐ,歩む,叫べる,燃やす,ささやか,きらき ら,満ちる,見つける,虹,窓,決める,さあ,溶け合う,もぐ,願い,果て,乗せる,やっと,え,羽ばたく,すぐ,勇気,打ち寄せる
  • 22. 日本語でおk Topic 6 タ,意味,とか,かご,分かる,穴,気がつく,se,なんか,control,大切,度,考える,それでも,たり,や,死ぬ,鼓動,すぎる, ちゃう,気分,くらい,カナ,☆),じゃう,聞く,嫌,呼吸,気づく,こす,かも,ノ,能力,違う,捨てる,し,閉じる,文字, ミックス,醒める,)」,だけど,仲間,ぼる,痛み,ちゃ,キライ,冗談,強い,欲しい Topic 8 伝える,!!!!,一緒,男,とき,会う,幼い,燃える,会える,通り過ぎる,絶対,素敵,舟,さようなら,朝焼け,願う,悲しい, 出会う,言える,...?,思い,町,呟く,度,そろそろ,過ぎる,奥,彼,見つめる,続く,季節,切ない,歩む,癒す,関係,これ から,届け,どんな,濡らす,願い,幾つ,楽しい,おしゃれ,♯,旅立つ,溢れる,仕草,約束,人形,♪ Topic 13 うま,瞳,震わせる,求める,重なる,庭,入り込む,燃やす,肩,映る,溶かす,!!!,夕焼け,無限,揺れる,見つめる,草原, ヒトリ,語りかける,凍える,カラ,森,帰る,近づく,雫,叫ぶ,動ける,ドリル,高鳴る,溢れる,願う,重ねる,おいし い,定め,ほど,沈む,お願い,濡らす,姿,目と,窓,決める,オレ,震える,波,かご,悲しみ,一つ,白い,意味 Topic 9 なぁ,みんな,わ,ちゃう,ちょっと,タ,クマ,ぼる,夏,動画,とか,たのしい,下手,し,寝る,光景,全然,飲む,こける, 大切,ニコニコ,涼しい,ちゃ,展開,子,いったい,たどり着く,だけど,書く,戻る,右,キライ,とても,刻み付ける, なんか,たり,大根,ちゃんと,兄ちゃん,マンガ,過ぎ行く,居場所,酒,や,でる,儚い,朝,すぎる,水,じゃう Topic 18 ー,~,ら,ボーカロイド,オチ,ハーモニー,!!,り,ふる,リン,誰か,またがる,うまい,!」,じ,j,ちゃう,うた,るり,すぎ, たれる,儚い,歩,!(,タ,ブレーキ,き,仲良く,強引,+,はるか,あんた,わ,アイドル,す,よる,:,いう,w,大根,~♪,クール, 様,えっ,f,カラダ,押入る,兄ちゃん,みんな,混ぜる Topic 11 幾,妊娠,革命,ちょい,教え,一度,もしかして,シマ,塗る,千,何もかも,人気,七,記載,脳,感,冗談,香港,愛す,見飽 きる,☆),使徒,遅れる,履く,内,卒,臨界,ステレオ,三,スキ,六,沢,実体,タイムリミット,テーブル,いび つ,jealousy,超絶,点く,まもる,り,転載,吹き荒れる,十,壁,賭ける,ぎゅっと,ふらり,プルプル,からくり Topic 2 輝く,...?,高い,元,描く,濡らす,雲,日差し,進む,ふわふわ,続く,草原,おしゃれ,向こう,浮く,バラ,作れる,見上げ る,っていう,希望,目指す,限り,影,届ける,新しい,ファン,麦わら帽子,もうすぐ,歩む,叫べる,燃やす,ささやか, きらきら,満ちる,見つける,虹,窓,決める,さあ,溶け合う,もぐ,願い,果て,乗せる,やっと,え,羽ばたく,すぐ,勇 気,打ち寄せる
  • 23. Topic 6 タ,意味,とか,かご,分かる,穴,気がつく,se,なんか,control,大切,度,考える,それでも,たり,や,死ぬ,鼓 動,すぎる,ちゃう,気分,くらい,カナ,☆),じゃう,聞く,嫌,呼吸,気づく,こす,かも,ノ,能力,違う,捨て る,し,閉じる,文字,ミックス,醒める,)」,だけど,仲間,ぼる,痛み,ちゃ,キライ,冗談,強い,欲しい (元気な歌…?)
  • 24. Topic 8 伝える,!!!!,一緒,男,とき,会う,幼い,燃える,会える,通り過ぎる,絶対,素敵,舟,さようなら,朝焼 け,願う,悲しい,出会う,言える,...?,思い,町,呟く,度,そろそろ,過ぎる,奥,彼,見つめる,続く,季 節,切ない,歩む,癒す,関係,これから,届け,どんな,濡らす,願い,幾つ,楽しい,おしゃれ,♯,旅立 つ,溢れる,仕草,約束,人形,♪ (切ない想いを伝える別れ際の歌…?)
  • 25. Topic 13 うま,瞳,震わせる,求める,重なる,庭,入り込む,燃やす,肩,映る,溶かす,!!!,夕焼け,無限,揺れ る,見つめる,草原,ヒトリ,語りかける,凍える,カラ,森,帰る,近づく,雫,叫ぶ,動ける,ドリル,高鳴 る,溢れる,願う,重ねる,おいしい,定め,ほど,沈む,お願い,濡らす,姿,目と,窓,決める,オレ,震え る,波,かご,悲しみ,一つ,白い,意味 (また元気な歌…?)
  • 26. Topic 9 なぁ,みんな,わ,ちゃう,ちょっと,タ,クマ,ぼる,夏,動画,とか,たのしい,下手,し,寝る,光景,全然,飲 む,こける,大切,ニコニコ,涼しい,ちゃ,展開,子,いったい,たどり着く,だけど,書く,戻る,右,キラ イ,とても,刻み付ける,なんか,たり,大根,ちゃんと,兄ちゃん,マンガ,過ぎ行く,居場所,酒,や,で る,儚い,朝,すぎる,水,じゃう (みんなでドンチャンな歌…?)
  • 27. Topic 18 ー,~,ら,ボーカロイド,オチ,ハーモニー,!!,り,ふる,リン,誰か,またがる,うまい,!」,じ,j,ちゃう,う た,るり,すぎ,たれる,儚い,歩,!(,タ,ブレーキ,き,仲良く,強引,+,はるか,あんた,わ,アイドル,す,よ る,:,いう,w,大根,~♪,クール,様,えっ,f,カラダ,押入る,兄ちゃん,みんな,混ぜる (ボカロの運命的な歌…?)
  • 28. Topic 11 幾,妊娠,革命,ちょい,教え,一度,もしかして,シマ,塗る,千,何もかも,人気,七,記載,脳,感,冗談,香 港,愛す,見飽きる,☆),使徒,遅れる,履く,内,卒,臨界,ステレオ,三,スキ,六,沢,実体,タイムリミッ ト,テーブル,いびつ,jealousy,超絶,点く,まもる,り,転載,吹き荒れる,十,壁,賭ける,ぎゅっと,ふら り,プルプル,からくり (中二病な歌…?)
  • 29. Topic 2 輝く,...?,高い,元,描く,濡らす,雲,日差し,進む,ふわふわ,続く,草原,おしゃれ,向こう,浮く,バ ラ,作れる,見上げる,っていう,希望,目指す,限り,影,届ける,新しい,ファン,麦わら帽子,もうす ぐ,歩む,叫べる,燃やす,ささやか,きらきら,満ちる,見つける,虹,窓,決める,さあ,溶け合う,も ぐ,願い,果て,乗せる,やっと,え,羽ばたく,すぐ,勇気,打ち寄せる (大自然でオサレな歌…?)
  • 30. まとめ 初音ミクの歌詞をTopic modelでいろいろ弄った。 トピックの流行り廃りは確認できた。 感覚的にえれくとりっくえんじぇぅ、ハジメテノオト、私の時間、愛言葉 といった「ボカロな私があなたのために一生懸命歌います」という内容が 出そうな気がして#8と#18に出ている気もしないこともない。 MeCabによる品詞分解をもう少し丁寧に。 トピック名を付けるのは大変。 CTMやPAM(Pachinko Allocation Model)もやりたかった。 CTM 全トピックは同一階層 PAM トピック間に階層