yamagata presentation M2 2013

1. 調和系工学研究室
修士２年山形聖志
事例分析に基づく
炎上対策モデルの提案とシステム化
Systemization Of Measurement Model Against Flaming
Based On Case-Based Analization

2. SNS炎上の社会問題化
SNS上の不適切な投稿がネット住人に発見・拡散され、取り返しのつかない事態へ発展する事案が多発
・コンビニ店員がアイス冷凍庫に横たわる写真を投稿して炎上フランチャイズ契約解消
・スポーツ店店員が来店したサッカー選手の同伴者を中傷店員の個人情報が晒され店は謝罪
・USJでの迷惑行為を写真付きで暴露し炎上大学生が停学処分、大学は会見し謝罪
・看護学生が患者の臓器写真を投稿して炎上学生は退学処分
・ホテル従業員が宿泊したアイドル写真を投稿し炎上ホテル側は謝罪するも、風評被害に
典型的な事例
炎上
投稿者個人：退学、解雇…
投稿者に関係する団体：風評被害、倒産…
不 適 切 な 投 稿
は主に研修、投稿監視
大 き な 被 害
既存の炎上への取り組み
学術的な調査はほとんど行われておらず、効果的な対策の確立が望まれている

3. 炎上の性質を調査
炎上対策モデルを設計
対策をシステム化
SNSの利便性を損なわずに炎上を抑止すること
過去に発生した炎上事例 のデータを収集し、分析
分析を基に炎上に対す る適切な対策を設計
効果的な対策を取る 事ができるシステムを 設計、開発
研究目標

4. 炎上の特性とデータ収集方法
未来に発生する炎上
過去に発生した炎上
多くのデータは変化・消失する
断片的な情報から分析しなければいけない
いつどこで起きるか分からない
ネット上を常にモニターしリアルタイムに追跡できる様にしておく必要がある
BBSアーカイブ：2ちゃんねる, ハムスター速報
今回はデータが変化・消失しない、ニュースサイト、Webアーカイブを利用
60件分の事例データを下記から収集
炎上ニュースを専門に扱うサイト：炎上速報, 炎上.Bot, フェニックス炎上
Webアーカイブ：ウェブ魚拓, ツイッ拓, Archive.is
今回は炎上についての情報をいち早く配信しているサイトを利用する事で炎上を察知
1件分の事例データを下記から収集
分析対象：Twitterでの投稿が原因となった炎上

5. 事例60件から傾向を分析結果の一部を紹介
0
2
4
6
8
10
12
14
16
18
20
~2011/12/31
2011/1/1
…
2011/4/1
…
2011/7/1
…
2011/10/1
…
2012/1/1
…
2012/4/1
…
2012/7/1
…
2012/10/1
…
2013/1/1
…
2013/4/1
…
2013/7/1
…
2013/10/1
…
該当する事例数
不適切投稿の投稿日
写真あり
写真無し
2012年以前
・2012年に一旦下火に
・写真が付与されていない割合が多い
2013年以降
・発生件数急増
・写真が付与されている割合が多い
・“犯罪行為”、”職場の問題行為”が多い
・“他人への誹謗中傷”が少ない
投稿内容の分類
炎上発生件数の遷移
炎上傾向の流動性

6. 0
2000
4000
6000
8000
3:00
7:48
12:36
17:24
22:12
3:00
RT数
リアルタイムに炎上のダイナミクス
アカウント
の削除
測定開始
21:37
ニュース記事に
5:30
２ちゃんねるの 書き込み
から確認
1:09
16:25
２ちゃんねるで
話題に
・炎上したら、かなりの数拡散される
・2ちゃんねるに飛び火する前に、ある程度RTは伸びる

7. 炎上の進行プロセス
発見
拡散
本人特定
メディア
無 免 許 運 転 を 暴 露
2570RT
BBSに 掲 載
ブロ グが 特 定
学 歴 が 特 定
交 際 相 手 が 特 定
年 齢 が 特 定
ニュ ー ス 記 事 に 掲 載
名 前 が 特 定
自 動 車 学 校 に 抗 議 のメ ー ル
23:25
23:49
00:04
00:20
00:21
00:27
00:28
00:44
01:04
02:52
晒しあげ
顔 写 真 が 特 定
00:36
投稿を削除
・進行プロセスは４つの段階に分けられる
・晒しあげは、主にBBS（２ちゃんねる）で行われる(60件中60件)
・多くの場合、対処が間に合っていない
対処

8. 発見
フェーズ
不 適 切 な 投 稿
拡散
フェーズ
本人特定
フェーズ
メディア
フェーズ
ア カ ウン ト の 炎上
内容の不適切さ を把握
投稿・アカウント情報を適切に管理
拡散状況を把握
社会的 な対処
謝罪の投稿
個人情報が暴かれ ている事実を把握
個人情報の漏洩を把握
拡散に関わる
設定状況を把握
公開範囲の把握
炎上対策モデル
正常な状態
不 適 切 な 投 稿
を 抑 止
発 見
を 抑 止
拡 散
を 抑 止
本 人 特 定
を 抑 止
情報リテラシー
内容の適切さを把握
注意散漫な時に 利用しない

9. 発見
フェーズ
不 適 切 な 投 稿
拡散
フェーズ
本人特定
フェーズ
メディア
フェーズ
ア カ ウン ト の 炎上
内容の不適切さ を把握
投稿・アカウント情報を適切に管理
拡散状況を把握
社会的 な対処
謝罪の投稿
個人情報が暴かれ ている事実を把握
個人情報の漏洩を把握
拡散に関わる
設定状況を把握
公開範囲の把握
炎上対策システムの機能
正常な状態
不 適 切 な 投 稿
を 抑 止
発 見
を 抑 止
拡 散
を 抑 止
本 人 特 定
を 抑 止
個人情報推定に役立ちそうな情報 が露呈されている事を察知し、 ユーザーに提示する機能
ユーザーの個人情報が暴かれて いる事実を察知し、ユーザーに提 示する機能
拡散に寄与しそうな設定を提示す る機能
投稿の拡散を察知し、 ユーザーに通知する機能
アカウント情報や投稿が 閲覧可能なアカウント（数） を、ユーザーに提示する 機能
情報リテラシー
内容の適切さを把握
注意散漫な時に 利用しない
投稿文章の危険性を投稿前に把 握する事ができる機能
過去の投稿の傾向を確認すること ができる機能

10. 投稿文章の危険性を投稿前に把握する事ができる機能
判定結果

11. 過去の投稿の傾向を確認することができる機能
B. Jリーグ選手のアカウント
A. 炎上寸前を経験したアカウント
”放送禁止用語”
を含む投稿が多い
“都市・駅名”
を含む投稿が多い
ポジティブな投稿
が多い
ネガティブな投稿
が多い
日々の利用状況を把握し、改善に活かす事ができる

12. システムアーキテクチャと運用実績
XML
HTTPアクセス
クライアント
Webブラウザや
専用アプリから利用
HTML, XML
HTTPアクセス
DB サーバー
クロ ー ラ ー
XML
HTTPアクセス
SQL
AP
サ ー バ ー
オブジェクト
SQL
Web
サ ー バ ー
ユーザー登録数:３６９
ユーザー警告数:２２９５９
判定した投稿数：４４４００６
誹謗中傷と判定:９４６
Amazon EC2 Large
64bit, vCPU2, ECU4, mem7.5G, strage2 x 420G
MySQL
サーバー
ツイートから問題が検出されました:
(@kazu535012)のツイート「@tomo95_25 し ばくぞ！！」
-ツイート分類結果: 誹謗中傷
実際に送信された警告メール
運用実績
システムアーキテクチャ
インターネット
2012/11/11 〜2014/02/05
4月からiPhoneアプリで使える様になります

13. 発見
フェーズ
不 適 切 な 投 稿
拡散
フェーズ
本人特定
フェーズ
メディア
フェーズ
ア カ ウン ト の 炎上
内容の不適切さ を把握
投稿・アカウント情報を適切に管理
拡散状況を把握
社会的 な対処
謝罪の投稿
個人情報が暴かれ ている事実を把握
個人情報の漏洩を把握
拡散に関わる
設定状況を把握
公開範囲の把握
炎上対策システム
Ver. 2
正常な状態
不 適 切 な 投 稿
を 抑 止
発 見
を 抑 止
拡 散
を 抑 止
本 人 特 定
を 抑 止
個人情報推定に役立ちそうな情報 が露呈されている事を察知し、 ユーザーに提示する機能
ユーザーの個人情報が暴かれて いる事実を察知し、ユーザーに提 示する機能
投稿内容をチェックし結果を提示 する機能
拡散に寄与しそうな設定を提示す る機能
投稿の拡散を察知し、 ユーザーに通知する機能
アカウント情報や投稿が 閲覧可能なアカウント（数） を、ユーザーに提示する 機能
情報リテラシー
内容の適切さを把握
注意散漫な時に 利用しない
炎上傾向の流動性に対応

14. $user = new YMGT_Post();
$post =
$user
->filterByKeywordsToDesc(array(“北大"))
->getPosts()
->filterByKeywords(array(“盗んだ”, “パクった”))
->filterByMinRetweetedCount(5)
->find();
（使用例）プロフィールに”北大”が含まれるユーザーが行った投稿の中で、”盗んだ”,”パ クった”を含み、5RT以上された投稿の情報を取得
SNS炎上の分析や、実装のための予備実験を
効率的に行う事が可能
SELECT * FROM tweet_constantsC
LEFT JOIN tweet_analyticsA ON C.tweet_id=A.tweet_id
LEFT JOIN twitter_usersU ON C.tweet_user_id=U.twitter_user_id
INNER JOIN tweet_variablesV ON C.tweet_id=V.tweet_idWHERE NOT EXISTS(SELECT * FROM tweet_variablesV2 WHERE V.tweet_id=V2.tweet_id AND V.observed_time<V2.observed_time)
AND U.descriptionLIKE '%北大%'
AND (C.textLIKE '%盗んだ%' OR C.textLIKE '%パクった%') AND '5' < V.retweet_count;
システムVer. 2炎上傾向の流動性に対応

15. まとめ
•事例分析を実施することで、炎上の性質について調査した
•調査を基に、炎上に対する適切な対策を設計した
•炎上から個人を守る事に主眼をおいた“炎上対策を支援するシステム”を実現した
（株式会社調和技研と協同で運用）
実証実験中ですが
最終的なサービス化に向けて頑張っています