Successfully reported this slideshow.
Your SlideShare is downloading. ×

Yay!(イェイ)を安心安全に使うために

Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Loading in …3
×

Check these out next

1 of 32 Ad
Advertisement

More Related Content

Recently uploaded (20)

Advertisement

Yay!(イェイ)を安心安全に使うために

  1. 1. Yay!(イェイ)を安心安全に使うために
  2. 2. 1.Yay!とは
  3. 3. 1-1. Yay!(イェイ)とは? 世代と趣味で出会った人とグループ通話を楽しむコミュニティーサービス 同世代の人たちが 音声と趣味でつながる コミュニティーサービス 1日に500万投稿、 85%のユーザーが 22歳未満の若者である 次世代SNS リアルな知り合いではなく、 ネットの友達と使うサービス
  4. 4. 1-2. Yay!の特徴 グループ通話 好きが見つかる、多種多様なサークル グループで リアルタイム通話 サークルで自分の 趣味趣向に合わせて交流
  5. 5. 1-3. Yay!が目指す世界 すべての人に、居場所のある世界を 人生は人間関係が全てです。 将来の夢や進路といった人生を左右する決断、いじめ・不登校・自殺と行った社会問題。 毎日感じる幸せや寂しさ、苦しさ、そのすべてが自分を取り巻く周りの環境、人間関係が作用していると僕たちは考えています。 美味しいご飯を食べたり、広い家に住んだり、そうした幸せも、大前提は「良い人間関係」があってこそ。 信頼できる仲間やパートナー家族に恵まれていれば、たとえ貧しくても人は幸せでいられます。 反対に、悩んだり苦しむ原因もほとんどが「悪い人間関係」によるものです。 しかし、残念ながらこの人間関係は「運」によって作られています。人生を左右するほどに大きなことにも関わらず、です。 例えば学校という小さな空間では、家が近い、年齢が同じといった要素だけで集められ、その中でクラスが割り振られ、 何年もの間生きていかなければなりません。ランダムに形成された小さなコミュニティで、本当に気の合う可能性が低く選択肢が限られた中で、 無理やり友達を見つけ、その後長い時を過ごしていくのです。 僕たちはこうした限られた小さな選択肢だけではなく、テクノロジーを駆使した大きな世界の中で、自分の勝ちを表現できる世界を、 そして幸せな人間関係を作りたいです。 周りの環境に依存した運で決まる人間関係でなく、自分の意志で選択を、そして心から尊敬できる一生モノの友だち・仲間と過ごせる世界作りたい。 Yay!にはそういった願いが込められています。
  6. 6. 1-4. インターネットというコミュニケーションの世界 インターネットの負の側面を理解し、うまく付き合うには インターネット環境も時代とともに変わり、さまざまなインターネットサービス、情報端末の登場など、ネット社会のライフスタイルも変遷を遂げています。 外的環境が多様化し、ライフスタイルが豊かになる一方で、インターネットサービスを悪用したトラブルや利用者が危険に晒されてしまうケースも依然なくなら ないのが現状です。 Yay!では、システムの強化やサイトの監視活動、捜査機関との連携を通じて、インターネット犯罪や被害発生を防ぎ、安心安全にご利用いただくための取組み を続けています。 AIと複合した目視監視によるサービスパトロールでは、つながりの関係性や感情の正負を把握したうえで総合的に判断し、適切な対応を行うために、投稿やコ ミュニケーション文脈をきめ細やかに確認しながら、監視活動を行っています。 こうした取組みを通じて、ユーザーの利用実態や課題も浮き彫りになってきており、大人の世界への興味や好奇心から年齢を詐称したり、隠語を用いて大人と積 極的に接触機会をもつことで、結果的にコミュニケーションリスク(利用者の被害発生)をうんでしまうケースも見受けられます。 Yay!は、インターネットというコミュニケーションの世界で「すべての人に、居場所のある世界を」を提案してまいりましたが、このような負の側面ではな く、インターネットがもつ利便性と可能性を知ることで、コミュニケーションの楽しさと自分の居場所を体感していただきたいと願っています。 このような課題や思いを抱き、ユーザーが安心して利用できる場所であるよう、これからもさまざまな取組みを積み重ねてまいります。
  7. 7. 2.Yay!を安心安全にご利用いただくための仕組み
  8. 8. 2-1. ユーザーコンテンツの監視運用 ユーザーの投稿 ユーザーへの啓発・注意喚起 利用規約に違反する 書き込みの監視 独自システムによる 不適切な書き込み 行動のチェック 人的パトロールとAIシステムによる自動監視 Yay!のルール(利用規約)を守って、皆さまに安全にサービスを ご利用いただくために、サイトのパトロールを24時間行っています。
  9. 9. 2-2. ユーザーからの通報への対応 通報されたコンテンツ (写真動画、投稿など) を目視で運営が確認 通報 処理 アカウント凍結もしくは停止 投稿の非表示もしくは削除 全ての方に安心してご利用いただくために、ルール違反をした利用者の投稿や コミュニケーションに対しては、サイト内で通報いただける機能を設けています。 該当者にはYay!より注意喚起や警告、アカウントの一時的停止処分や凍結を行う など、悪用への抑止を行っています。
  10. 10. 3.Yay!でのトラブル発生事例
  11. 11. 3-1. コミュニケーションリスク(利用者の被害発生)を生んでしまうケース① はじめまして!●●サークルから来ました! 可愛いね!絡んでー はじめまして!ありがとうございますー! こう見えてjk1です❤ そうなんだ!よかったら、Yay!じゃなく て直メしない? いいよー! ××××@▲▲▲▲.ne.jp 青少年へのコンタクト 隠語 ・jk1 : 女子高生1年生 電話番号やメールアドレスなどの個人情報を教えてしまったことにより、 自宅に押しかけられたり、いたずら電話がきたり、個人情報を握られて お金を要求されるケースも見受けられます。 見ず知らずの人と連絡を取ってしまい、実際に会うことで事件や事故の トラブルに巻き込まれないためにも、少しでも違和感を感じたときは、 ブロック/通報機能で自分の身を守る行動をしてください。 見ず知らずの人とつながらないためのブロック/通報機能
  12. 12. ユーザーができる対策
  13. 13. 3-2. トラブルにあわないための使い方 オンラインでのコミュニケーションのリスクを常に考える ・Yay!のMyアカウントのプライバシー設定から、フォローを許可制に するなど、自分の情報をどこまで公開するかコントロールする ・パスワードを正しく管理し、第三者が推測できるようなものにしない ・個人情報を聞いてくるメッセージは無視する。何度も聞いてくる場合 は通報をしブロックする プロフィールやタイムラインに何かを書き込む前に、考えてください。 個人情報や個人を特定されるであろう内容をタイムラインなど不特定多 数が閲覧する画面では書き込んではいけません オンラインのコミュニケーションだからこそ、相手から返事がこない場 合でも相手の事情を考えて返事の催促などはせず、 相手の気持ちを考え ることが大切です 3 ネット上で個人情報を賢く守る 自分の行動に責任を持つ 2 1 気持ちのよいコミュニケーションを意識する ON:年齢が離れているユーザーとはレターの送受信ができませ ん。 OFF:すべてのユーザーとレターのやり取りができます。 年齢が離れたユーザーとレターをしない ON:相互フォローのみから受け取ります OFF:すべてのユーザーから受け取ります 相互フォローのみからチャットを受け取る プライバシー設定 プライバシー設定 ON: 相手の足あとページに足あとを表示しません。 OFF: 相手の足あとページにあなたがページに訪れた記録を表示 します。 足あとを残さない(VIP専用ステルスモード) ON:Yeyを使用する度にパスコードを要求します。 OFF:パスコードを要求しません パスコードロックを設定 ON:このアカウントはユーザー検索の結果に表示されなくなり ます。 OFF:ユーザー検索の結果に表示されます。 ユーザー検索の結果に表示しない ON: あなたの投稿はあなたにのみ「同世代」のタイムラインで 表示されます。 OFF: あなたの投稿は全ユーザーに公開されます。 「同世代」タイムラインで投稿を公開しない ON: あなたをフォローするにはあなたの許可が必要になりま す。 OFF: 全ユーザーがあなたを自由にフォローできます。 フォローを許可制にする プライバシー設定 プライバシー設定
  14. 14. 4.Yay!の取り組み
  15. 15. 4-1. Yay!の安全対策一覧 セキュリティ設定の拡充 世代の離れたユーザー同士のやり取 りを禁止 個人間チャット内の画像を監視 画像監視AIの強化 全ユーザーに年齢確認を実施 電話番号認証の導入 NGワードの対象機能・語句を拡充 捜査協力への迅速な対応 大学研究機関との共同研究 各種NPOとの連携 テキスト監視AIの強化 QRコードの投稿禁止
  16. 16. 4-2. 機能制限によるユーザーの保護 NGワードの対象機能・語句を拡充 電話番号認証の導入 セキュリティ設定機能によるユーザー自衛 QRコードの投稿禁止 世代の離れたユーザー同士のやり取りを禁止 全ユーザーに年齢確認を実施 すべてのユーザーに対して身分証による年齢確認を実 施し、不正にアカウントを登録する悪用ユーザーを排 除します。 監視体制の強化を行い、サークル・投稿・レター・自 己紹介文にて不適切な文言ややり取りが掲載されない 仕組みを強化しました Yay!では世代の離れたユーザー同士の個人間やり取りを制限して います。世代の違うユーザーは、個人間チャットが禁止されるのは もちろん、タイムラインの閲覧、ユーザー検索といった機能が相互 に利用できません。 通話、チャット、フォロー機能の制限範囲をユーザー自身で設 定できます。例えば、『フォローしていないユーザーからの通 話を受け取らない』といった設定が可能です。 1ユーザー1アカウントとしており、複数アカウントを作成 しようとした場合は携帯電話番号による認証が必要になりま す。携帯電話情報を取得することで速やかに捜査機関に情報 提供が可能になります。 Yay!では外部サービスID交換を禁止しています。もしユー ザーがID交換のためにQRコードをタイムラインやチャット ルームに投稿しようとした場合、システムが自動検知して投 稿そのものを拒否します。
  17. 17. 4-3. 機能制限によるユーザーの保護 - 年齢確認① 利用者の安全確保のため、年齢確認の手続きを用いてユーザーの年齢層にあ わせてマッチングを行っています。チャット機能を使用するためには、 年齢を公的な証明書あるいは学生証を提出が必須です。 パスポート 住民基本台帳カード 学生証 運転免許証 年齢確認できる書類 ステップ1 世代の離れたユーザー同士の やり取りを禁止 全ユーザーに年齢確認を実施
  18. 18. 4-4. 機能制限によるユーザーの保護 - 年齢確認② (1) 書類の名称 (2) 生年月日 (3) 発行者名 用意した書類を明るい場所で、以下の情報が よく見えるように撮影してください。 必要な情報を含めて撮影しよう! ステップ2 年齢確認はYayまたはパートナーが運営するサービス にて完了しています。引き続きYayをお楽しみくださ い。 年齢を変更したい場合は? 生年月日: 1970-01-01 年齢確認完了 顔写真付き身分証明書をスマートフォンのアプリ内のカメラ機能で撮影している。 ポイント① 書類偽造防止のため画像アップロードはYay!からしかできません。 ポイント② 自動で誕生日の際に年齢は変更されます。 年齢確認手続きの確実性と利便性を担保しています。
  19. 19. 4-5. 青少年のご利用について ひま部からYay!に移行したことにより、対象ユーザーは学 生限定から全年齢に拡大しました。それにともない細かい 年齢区分での機能制限を実施しています。区分の違うユー ザー同士は個人チャットができません。 また年齢確認プロセスにおいてはその場で撮影した身分証 のみが利用でき(端末の写真アルバムからの選択は不 可)、さらにAIの監視によって偽造しにくい体制を作って います。 ※アプリ最新版において、個人チャットができる年齢区分は下記のとおりです。 ※若年層のユーザーは、自分と近い世代のユーザーとのみ個人チャットができます。 ※これらの区分は、サービスの利用状況に応じて随時更新されます。ユーザーが安全に使えることを第一に検討していきます。 年齢区分によるユーザーの棲み分け 17歳∼ 18歳(高校生除く)∼ 20歳 21歳 16歳∼ 19歳 15歳∼ 18歳 14∼20歳 17歳 13∼19歳 16歳 13∼17歳 15歳 12∼16歳 14歳 12∼15歳 13歳 12∼14歳 12歳 (中学生以上)
  20. 20. 4-6. AI(人工知能)によるコンテンツのクリアリング human declined true human true decline decline ユーザーを守るAIシステム ・外部サービスID交換を禁止しています。 (※ソーシャルゲームなどのIDは許可しています。) もしユーザーがID交換のためにLINEのQRコードをタイムラインや チャットルームに投稿しようとした場合コンテンツは自動削除 することで、Yay!以外でのコミュニケーションが起きないようにし ています。 ・不適切なコンテンツ、コメント、プロフィール、そしてダイレクト メッセージやサークルの投稿、レターにて投稿された不適切な文言を AIが自動で識別し自動削除することができます。 外部に誘導するコミュニケーションを自動検知 悪質な投稿コンテンツを自動検知 2 1
  21. 21. 4-7. 不適切なコンテンツや行動への通報対応 コミュニティーガイドラインをもとに対応 Yay!のほとんどのコンテンツには、不正利用、いじめ、嫌がらせやハ ラスメント行為などその他の問題を報告できるリンクがついています。 報告されたコンテンツはYay!の運営が24時間体制で内容を確認し、コ ミュニティ規定に抵触していればすべて削除します。 報告を行うには、投稿の右下をクリックして問題の内容にもっとも近い 通報の理由を選択し通報の詳細を入力して送信します。 報告後は、その投稿したユーザーをブロックするかしないか決めること ができます。報告者に関する情報を開示することは一切ありません。 24時間以内に利用規約をもとに削除対応 1 Yay!は、24時間、365日、皆さまが安全に安心してご利用いただ けるように運営しています。もし不適切なコンテンツを発見した場 合、不正なアクセスを受けた場合、その他ご質問がある場合など、な にかありましたらいつでもYay!の運営にお問い合わせください。 いつでもお問い合わせ可能な環境を提供 2
  22. 22. 法令遵守、犯罪抑止のための取り組み
  23. 23. 4-8. 捜査機関との連携 捜査機関 情報提供 悪質犯罪 違反行為 排除 事業者 対応強化 情報提供 インターネット犯罪や被害発生の減少、新たな犯罪動向の把握 のために、 各都道府県警のサイバー犯罪対策課を 中心に定期的な捜査協力を行い、安全にサービスをご利用いた だくための監視活動に役立てています。
  24. 24. 4-9. 社会への取り組み 児童が安心・安全にインターネットを利用できる環境の整備を 目的として、ネット事業者からなる「青少年ネット利用環境整 備協議会」を警察庁の協力のもと2017年7月に発足しSNS等 に起因する被害の傾向や対策に関わるノウハウを共有し、 調査研究や啓発活動などを行ってまいりました。 その上で、より一層業界を挙げて社会的責任を果たすべく、 また、あらゆるソーシャルメディア上の課題への対策を強化す るため、「青少年ネット利用環境整備協議会」を母体として、 新たに「一般社団法人ソーシャルメディア利用環境整備機構 (SMAJ)」を設立いたしました。 「Yay!」も青少年の安心・安全なネット利用のために、 SNS事業者としての責務と対策の徹底に取り組んで参ります。
  25. 25. 教育機関との連携
  26. 26. 4-10. 教育機関との連携 - インターフェースデザインの共同研究プロジェクト インターネットコミュニティにおける18歳未満のユーザに関するトラブルリスク を軽減させるために、東京大学大学院工学系研究科電気系工学専攻矢谷研究室(イ ンタラクティブ・インテリジェント・システム・ラボ)と連携し、大規模な定量調 査を通じて検証しました。 本研究は、行動経済学で知られているナッジ(人々が自発的に望ましい行動を選択 するよう促す仕掛けや手法)をどのようにSNSのインタフェースに適用すれば、 SNSユーザの安全・安心な利用を促せる可能性があるかを、29,000件を超える 調査データを主に高校生のSNSユーザから収集し分析を行った結果,ナッジの存在 がリスクの高い行動を避けるのに有用となり得ることを確認しました。 本研究成果は、SNSの安全な利用におけるインタフェースデザインの重要性をとそ の指針を明確にするものであり、SNSを運営する会社や団体にとって有益な知見と なることが期待されます。 また、ACM CHI Conference on Human Factors in Computing Systems(CHI 2020)にてフルペーパーの論文として発表されました。そして 約3000を超える論文の中から上位5%に与えられるCHI 2020の佳作 「Honorable Mention」を受賞しました。 安全・安心な利用を促すためのインタフェースデザインの共同研究
  27. 27. 4-11. 教育機関との連携 - トラブル抑制に向けた共同研究プロジェクト 未成年者のネットリスクを軽減する社会システムの構築の共同研究 トラブル防止のためのデータ分析及び、安全なインターネット利用を促進する仕組 みづくりのために、東京大学大学院工学系研究科システム創成学専攻鳥海研究室と 連携し、ユーザーの行動ログや投稿内容等のデータを元に検証しました。 本研究は不適切な投稿や行動を検知し、サービス内の犯罪行為等を未然に防ぐため の仕組みの提案を行ないます。将来的には実際の事業者が利用可能なサービスとし て世の中に提供を行なうことを目標にしています。 今後もソーシャルネットワークの安全性向上のための研究、及びソーシャルネット ワークと幸福についての研究を各機関と共同で行っています。
  28. 28. 専門機関との連携
  29. 29. 4-12. 専門機関との連携 - 特定非営利活動法人BOND(ボンド)プロジェクト 自宅が精神的な拠り所となりえない10代から20代の女性のサポートや 保護を行うBONDプロジェクトの相談窓口を開設しました。 女性ならではの悩みや家庭内不和や暴力など精神的ストレスを抱える 若い女性に対してオンライン上で相談やコミュニケーションを重ね サポートしています。 10代から20代の女性専用相談窓口
  30. 30. 4-13. 専門機関との連携 - 認定NPO法人D P(ディーピー) 不登校・中退を経験する10代の進路・就職などの相談を行うD×Pの 相談窓口を開設しました。 「ちょっとした雑談や悩み」から、引きこもり状態で家族以外の人と コミュニケーションを取りづらくなってしまった10代に対して オンライン上でコミュニケーションを重ねることでオンラインの居場所 づくりに力を入れています。 10代の進路・就職の相談窓口
  31. 31. 4-14. 専門機関との連携 - LGBT支援団体にじーず LGBTやそうかもしれない子ども・若者の居場所づくりをしている にじ−ずの相談窓口を開設しました。 特に10代は、制服や男女別の活動など学校生活の中で違和感や悩みを 感じやすい時期です。 家でも学校でも自分の性のあり方について明かせず、どこに相談してよ いかわからないと感じている当事者が、安心して相談できる場所を オンラインで提供することで若年層のLGBTが抱える悩みに対して 包括的に支援しています。 LGBTQ+に悩む学生の相談窓口
  32. 32. THANK YOU

×