Immersal で広がる Magic Leap の拡張範囲

1
Immersal で広がる
Magic Leap の
拡張範囲
Nisho Matsushita | HoloLab Inc. | Magic Leap Ambassador | 2020.12.17
ARヒノボル @liketableteninu
2
Immersal とは
01
The Immersal SDK lets you map large, real-world spaces and then augment them
with digital content. These environments and scenarios can then be experienced
by anyone on an AR-capable mobile device or with glasses.
Map Augment Experience
https://immersal.com/ より引用
3
Immersal でできること
● 現実空間のスキャン(マッピング)
○ 広い屋外の空間でもスキャンができる(上限はある)
○ マッピング用アプリがストアで公開されている
● コンテンツの配置
○ スキャンした空間のメッシュがダウンロードできる
○ メッシュを参照しつつコンテンツの配置、アプリ制作ができる
● 自己位置推定
○ スキャンした空間内で自分のデバイスの位置情報を推定できる
○ これによって他のデバイスの位置やコンテンツが正しく表示される
○ スマホだけではなく、グラス型デバイスにも対応している
4
Immersal SDK の2つの API
Immersal’s
Cloud
Service
スキャン
済みマップ
①ここは
どこ? ②自己位置
AR端末
Immersal’s
Cloud
Service
スキャン
済みマップ
③自己位置
AR端末
①マップ
欲しい
②マップ
Core
Plugin API
REST API
5
Immersal SDK の2つの API
Immersal’s
Cloud
Service
スキャン
済みマップ
①ここは
どこ? ②自己位置
AR端末
Immersal’s
Cloud
Service
スキャン
済みマップ
③自己位置
AR端末
①マップ
欲しい
②マップ
Core
Plugin API
REST API
6
On-device Localization
On-server Localization
Immersal SDK の2つの API
Immersal’s
Cloud
Service
スキャン
済みマップ
①ここは
どこ? ②自己位置
AR端末
Immersal’s
Cloud
Service
スキャン
済みマップ
③自己位置
AR端末
①マップ
欲しい
②マップ
Core
Plugin API
REST API
Magic Leap は REST API のみ対応
7
8
使い方入門
02
マップ作成
9
Mapper App
● スキャンしたい場所の写真を色々な方向から
接続的に撮影する
● 対象物によって最適な撮影方法が異なる
● 詳細は公式ドキュメントで
● 作成したマップをサーバにアップロードできる
10
撮影の良い例悪い例
スキャンしたマップ情報一覧( map id、緯度経度、マップデータ、空間メッシュ等)
サーバとの通信に必要なトークン
11
サーバで生成された空間メッシュ
コンテンツ配置
13
Unity プロジェクトで空間可視化
● git に magic leap 用のサンプルプロジェクトが用意されている
○ 導入手順は過去に公開した ブログ参照
● ダウンロードした点群や空間メッシュは共通の原点が既に設定されている
14
Unity プロジェクトでコンテンツ配置
● 空間メッシュの下にコンテンツを配置すれば、空間を認識したときに想定通りの位
置に出現させられる
15
自己位置推定
16
自己位置推定の流れ
1. 端末のカメラ画像をサーバに送信
2. サーバが端末のマップ内位置を特定
3. 端末にマップ内位置を送信
4. 端末とマップの位置関係に基づき、端末内の
マップを再配置
5. 正しい位置にコンテンツが表示される
17
Immersal’s
Cloud
Service
スキャン
済みマップ
①ここは
どこ? ②自己位置
AR端末
REST API
自己位置推定前のコンテンツ表示
コンテンツが正しい位置に
表示されていない
現実の空間
空間の
スキャンデータ
とコンテンツ
自己位置推定後のコンテンツ表示
コンテンツが正しい位置に
表示される
現実の空間
空間の
スキャンデータ
とコンテンツ
地球上での
位置・方角
20
地球上での位置の取得方法
21
Y
Z
X
地球中心・地球固定座標系( ECEF)
/ 緯度、経度、高度(WGS84)
Z
X
Y
マップ座標系
PosMapToEcef
PosEcefToWgs84
なお公開されている SDK では CorePlugin API の関数しか用意されていない → ML で利用不可
Immersal から C# スクリプトを直接貰えたので、それを使えば可能に。ブログに公開します。
地球上での方角の取得方法
Z
X
Y
マップ座標系
Y
Z
X
地球中心・地球固定座標系( ECEF)
/ 緯度、経度、高度(WGS84)
CompassHeading
こちらも位置同様 ML では利用できないため、マップ座標系でのデバイスの向きを方角に変換するス
クリプトを後程公開します。
デバイスの向き
デバイスの方角
23
GMPとの
組み合わせで
世界を拡張する
03
Google Maps Platform Gaming Solution
Google Mapのデータで現実世界を舞台にしたゲームを作成できる開発ツール
● できること
○ 世界中の3D化された建物、道路、ランドマーク、公園、川などのデータを利用できる
○ 3Dデータの Material は変更可
Immersal と GMP を組み合わせる理由
建物のオクルージョン
Immersal と GMP を組み合わせる理由
Immersal と GMP を組み合わせる理由
オクルージョンなし
前に出てきてしまう
Immersal と GMP を組み合わせる理由
オクルージョンあり
建物に隠れる!
Immersal と GMP の組み合わせ方
● GMP で3Dデータを表示させるには、緯度経度と範囲情報が必要
● Immersal でスキャンした空間には緯度経度が紐づいている(※)ため、その値を利
用する。範囲は適当に
● ※ GPS は数m単位でのずれが発生してしまうので、そもそもスキャン時に紐づいた
緯度経度はずれている。空間原点と緯度経度をずれなく表示させるためには別途
オフセットが必要
GMPの3Dデータによるオクルージョン
オクルージョンマテリアル適用時
※Immersal で自己位置推定済み
デフォルトマテリアル適用時
まとめ
1. Immersal によってスキャンした空間でのコンテンツ配置や自己位置推定
が容易になり、屋外も拡張対象に
2. 地球上での自己位置も把握できるため、GMP と組み合わせることで、
Magic Leap の拡張範囲が身近から世界へ
32
THANK
YOU
33
Q&A
34
自己位置推定詳細
補足
Immersal で登場する座標系
35
Y
Z
X
Z
X
Y
マップ座標系
空間に紐づいたコンテンツを
配置するために必要
Z
X
Y
カメラ座標系
カメラから正しく見えるように
するために必要
地球中心・地球固定座標系( ECEF)
/ 緯度、経度、高度(WGS84)
地球上での位置や方角が取
得できる
正しくコンテンツを表示するためには
マップ座標系
コンテンツ配置時
Z
X
Y 現実の空間
空間の
スキャンデータとコ
ンテンツ
カメラ座標系
Z
X
Y
コンテンツ表示
自己位置推定前
位置関係?
正しくコンテンツを表示するためには
マップ座標系
コンテンツ配置時
Z
X
Y 現実の空間
空間の
スキャンデータとコ
ンテンツ
カメラ座標系
Z
X
Y
コンテンツ表示
自己位置推定前
位置関係?
これが知りたい
サーバでマップ座標系でのデバイス位置推定
マップ座標系
サーバで位置推定
Z
X
Y 現実の空間
空間の
スキャンデータとコ
ンテンツ
端末からの画
像
マッチング
サーバでマップ座標系でのデバイス位置推定
マップ座標系
サーバで位置推定
Z
X
Y 現実の空間
空間の
スキャンデータとコ
ンテンツ
端末からの画
像
マッチング
デバイス位置
マップ座標系で
見たデバイス
Z
X
Y
サーバでマップ座標系でのデバイス位置推定
マップ座標系
サーバで位置推定
Z
X
Y 現実の空間
空間の
スキャンデータとコ
ンテンツ
端末からの画
像
マッチング
デバイス位置
マップ座標系で
見たデバイス
Z
X
Y
Z
X
Y
カメラ座標系で
見た空間データ
逆
正しくコンテンツを表示する
現実の空間
空間の
スキャンデータとコ
ンテンツ
カメラ座標系
Z
X
Y
コンテンツ表示
自己位置推定前
位置関係?
正しい
位置を
適用
カメラ座標系
Z
X
Y
コンテンツ表示
自己位置推定前
正しくコンテンツを表示する
現実の空間
空間の
スキャンデータとコ
ンテンツ
カメラ座標系
Z
X
Y
コンテンツ表示
自己位置推定前
位置関係?
正しい
位置を
適用
カメラ座標系
Z
X
Y
コンテンツ表示
自己位置推定前
正しい位置に
表示される!
ブログ
1 of 43

Recommended

Immersal を活用した AR クラウドなシステム開発とハンズオン! by
Immersal を活用した AR クラウドなシステム開発とハンズオン!Immersal を活用した AR クラウドなシステム開発とハンズオン!
Immersal を活用した AR クラウドなシステム開発とハンズオン!NishoMatsusita
1.3K views59 slides
空間設計 by
空間設計空間設計
空間設計Kenta Yamamoto
685 views9 slides
研究計画発表会 by
研究計画発表会研究計画発表会
研究計画発表会Noverce
844 views10 slides
氏神サマ! ~Guardian God !~ by
氏神サマ! ~Guardian God !~氏神サマ! ~Guardian God !~
氏神サマ! ~Guardian God !~chessnnuts
103 views16 slides
Ubicomp論文紹介「If You See Something, Swipe towards It: Crowdsourced Event Locali... by
Ubicomp論文紹介「If You See Something, Swipe towards It: Crowdsourced Event Locali...Ubicomp論文紹介「If You See Something, Swipe towards It: Crowdsourced Event Locali...
Ubicomp論文紹介「If You See Something, Swipe towards It: Crowdsourced Event Locali...Yutaka Arakawa
1.1K views30 slides
RFRPG~ゲーミフィケーションの町おこしへの応用 by
RFRPG~ゲーミフィケーションの町おこしへの応用RFRPG~ゲーミフィケーションの町おこしへの応用
RFRPG~ゲーミフィケーションの町おこしへの応用Masatsugu TANIKAWA
1.5K views17 slides

More Related Content

Recently uploaded

The Things Stack説明資料 by The Things Industries by
The Things Stack説明資料 by The Things IndustriesThe Things Stack説明資料 by The Things Industries
The Things Stack説明資料 by The Things IndustriesCRI Japan, Inc.
71 views29 slides
定例会スライド_キャチs 公開用.pdf by
定例会スライド_キャチs 公開用.pdf定例会スライド_キャチs 公開用.pdf
定例会スライド_キャチs 公開用.pdfKeio Robotics Association
121 views64 slides
Keycloakの全体像: 基本概念、ユースケース、そして最新の開発動向 by
Keycloakの全体像: 基本概念、ユースケース、そして最新の開発動向Keycloakの全体像: 基本概念、ユースケース、そして最新の開発動向
Keycloakの全体像: 基本概念、ユースケース、そして最新の開発動向Hitachi, Ltd. OSS Solution Center.
73 views26 slides
今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20... by
今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20...今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20...
今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20...NTT DATA Technology & Innovation
129 views42 slides
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料) by
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)NTT DATA Technology & Innovation
23 views38 slides

Recently uploaded(11)

The Things Stack説明資料 by The Things Industries by CRI Japan, Inc.
The Things Stack説明資料 by The Things IndustriesThe Things Stack説明資料 by The Things Industries
The Things Stack説明資料 by The Things Industries
CRI Japan, Inc.71 views
今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20... by NTT DATA Technology & Innovation
今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20...今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20...
今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20...
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料) by NTT DATA Technology & Innovation
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)
光コラボは契約してはいけない by Takuya Matsunaga
光コラボは契約してはいけない光コラボは契約してはいけない
光コラボは契約してはいけない
Takuya Matsunaga18 views
SNMPセキュリティ超入門 by mkoda
SNMPセキュリティ超入門SNMPセキュリティ超入門
SNMPセキュリティ超入門
mkoda376 views
Windows 11 information that can be used at the development site by Atomu Hidaka
Windows 11 information that can be used at the development siteWindows 11 information that can be used at the development site
Windows 11 information that can be used at the development site
Atomu Hidaka88 views
SSH応用編_20231129.pdf by icebreaker4
SSH応用編_20231129.pdfSSH応用編_20231129.pdf
SSH応用編_20231129.pdf
icebreaker4353 views

Featured

ChatGPT and the Future of Work - Clark Boyd by
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd Clark Boyd
24.3K views69 slides
Getting into the tech field. what next by
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next Tessa Mero
5.7K views22 slides
Google's Just Not That Into You: Understanding Core Updates & Search Intent by
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentLily Ray
6.4K views99 slides
How to have difficult conversations by
How to have difficult conversations How to have difficult conversations
How to have difficult conversations Rajiv Jayarajah, MAppComm, ACC
5K views19 slides
Introduction to Data Science by
Introduction to Data ScienceIntroduction to Data Science
Introduction to Data ScienceChristy Abraham Joy
82.3K views51 slides
Time Management & Productivity - Best Practices by
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best PracticesVit Horky
169.7K views42 slides

Featured(20)

ChatGPT and the Future of Work - Clark Boyd by Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
Clark Boyd24.3K views
Getting into the tech field. what next by Tessa Mero
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
Tessa Mero5.7K views
Google's Just Not That Into You: Understanding Core Updates & Search Intent by Lily Ray
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Lily Ray6.4K views
Time Management & Productivity - Best Practices by Vit Horky
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best Practices
Vit Horky169.7K views
The six step guide to practical project management by MindGenius
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project management
MindGenius36.6K views
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright... by RachelPearson36
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
RachelPearson3612.7K views
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present... by Applitools
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Applitools55.5K views
12 Ways to Increase Your Influence at Work by GetSmarter
12 Ways to Increase Your Influence at Work12 Ways to Increase Your Influence at Work
12 Ways to Increase Your Influence at Work
GetSmarter401.7K views
Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G... by DevGAMM Conference
Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...
Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...
DevGAMM Conference3.6K views
Barbie - Brand Strategy Presentation by Erica Santiago
Barbie - Brand Strategy PresentationBarbie - Brand Strategy Presentation
Barbie - Brand Strategy Presentation
Erica Santiago25.1K views
Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them well by Saba Software
Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them wellGood Stuff Happens in 1:1 Meetings: Why you need them and how to do them well
Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them well
Saba Software25.2K views
Introduction to C Programming Language by Simplilearn
Introduction to C Programming LanguageIntroduction to C Programming Language
Introduction to C Programming Language
Simplilearn8.4K views
The Pixar Way: 37 Quotes on Developing and Maintaining a Creative Company (fr... by Palo Alto Software
The Pixar Way: 37 Quotes on Developing and Maintaining a Creative Company (fr...The Pixar Way: 37 Quotes on Developing and Maintaining a Creative Company (fr...
The Pixar Way: 37 Quotes on Developing and Maintaining a Creative Company (fr...
Palo Alto Software88.4K views
9 Tips for a Work-free Vacation by Weekdone.com
9 Tips for a Work-free Vacation9 Tips for a Work-free Vacation
9 Tips for a Work-free Vacation
Weekdone.com7.2K views
How to Map Your Future by SlideShop.com
How to Map Your FutureHow to Map Your Future
How to Map Your Future
SlideShop.com275.1K views

Immersal で広がる Magic Leap の拡張範囲