Google Home on the car. Take pictures with voice control. And, Analysis packets of Google Home.

1. 車載Google Homeで
写真撮影
堂前清隆
doumae@iij.ad.jp
https://twitter.com/IIJ_doumae
https://www.facebook.com/kdoumae
1

2. Idea
• 運転中に「写真に撮っておきたい(あとでtweet
したい)」という場面にしばしば遭遇する
• 運転中なのでカメラやスマホが操作できない
• ドライブレコーダーも搭載しているが、面倒
• いちいちファイルを回収するのが面倒
• 長い動画から必要な場所を切り出すのが面倒
• 音声操作で写真が撮れればいいじゃん！
2

3. Concept
Google Assistant
Mobile
Wi-Fi
(1)
(2)
(3)
(4) Webhook (HTTPS)
(5) MQTT
(6) shoot
(7) HTTPS
(8)
OK, Google.
Take a Picture.
Mobile Service
3

4. [PR] IIJmio IoT Service
• IIJmio IoTサービス (MVNO SIMカード)
• IoT利用を想定・個人向け (クレカ支払い)
https://www.iijmio.jp/mit/ 4

5. Experiment
5

6. Movie
6

7. Results
• ひとまず動いた
• スマホに写真が送り込まれるのは便利
• 動作が遅い (タイムラグがある)
• 指示→撮影 (5sec)
• Google AssistantとIFTTTの反応が遅い
• 音声の応答があってからWebhookが飛ぶ
• 撮影→slack (15sec)
• 解像度を高くしたことと、カメラの都合 (後述)
7

8. Camera
• カメラの特性
• 今回使用したカメラはLogicool HD Webcam C615
• FullHD・オートフォーカスなど、比較的高級
• 起動直後にゲイン調整が行われる。調整前のタイミング
で撮影すると、露出があっておらず真っ白/真っ黒になる。
• fswebcamだとこの現象が発生する (コマンド実行してから
カメラが起動される？)
• 数フレームディレイさせると回避。ディレイを増やせば
より画質が良くなるようだが、撮影に時間がかかるよう
になる。
• 安物のカメラだとこういう調整が行われないので、
影響が出にくい (そもそも画質が悪いが)
8

9. Device
• Google Homeじゃなくてもいい？
• Google Home Mini
• 電源・モバイルWi-Fiルータが必要
• 音声認識は比較的良好 (それでも取りこぼしはある)
• HUAWEI P10 lite (Google Assistant)
• 単体で通信可能・電源不要
• ラジオがかかっていると音声認識の失敗が多い
• 他のデバイス
• LINE Clova Friends
• ペットボトルサイズでドリンクホルダーに収まる
• バッテリー搭載なので電源配線なくてもOK
• かわいい 9

10. Traffic
• Google Homeの通信量
• 今回の実験での通信量 20MByte程度
• 音声コマンド20回、画像15枚程度
• 画像が大きい(1MB強/枚)
• モバイル(SIM)で利用することを考慮すると、
どの程度通信が発生しているか気になる
→そこで…
• 自宅のGoogle Home miniで通信量を測定してみた
• 車の中とは雑音の状況が異なるので、あくまで参考値
10

11. Environment
• 自宅・リビングに設置
• Wi-Fi AP・ルータ・Flets回線でインターネット
に接続
• 用途は家電(TV・エアコン)のコントロール程度
Wi-Fi AP Internet
SEIL/X1
tcpdump
IIJmio
with
Flets
11

12. Overview
Day1 Day2 Day3 Day4 Day5 Day6 Day7
5.26MB 6.04MB 6.95MB 4.64MB 4.69MB 9.09MB 9.20MB
Day8 Day9 Day10 Day11 Day12 Day13 Day14
11.01MB 8.89MB 7.30MB 7.68MB 9.92MB 12.87MB 10.34MB
• 5分間ごとに通信量を集計
∵1回のアクションが5分を超えることはない
• 14日分のデータを重ね合わせ
• 200KB, 400KB, 600KB…と、ピークに特徴がある
(ような気がする。あくまで大雑把な感触)
→1回のアクションで200KB程度通信してる？
12

13. Detail
• アクションがあった時間帯からサンプリング
• 5分間に発生した通信 (約200KB)
• 別の時間帯で8.8.8.8にDNS queryを投げている
のも観測 (DHCPで通知されたDNSは無視する？)
プロトコル 通信量 (Bytes) 通信相手
ICMP 1232
FCM (5228/tcp) 562 2404:6800:4008:c00::bc (tm-in-xbc.1e100.net.)
FCM (5228/tcp) 2106 2404:6800:4008:c02::bc (tg-in-xbc.1e100.net.)
HTTPS (443/tcp) 6458 2404:6800:4004:80a::200e (nrt12s23-in-x0e.1e100.net.)
HTTPS (443/tcp) 178905 2404:6800:4004:80b::2004 (nrt20s09-in-x04.1e100.net.)
HTTPS (443/tcp) 9280 2404:6800:4004:80d::200a (nrt12s17-in-x0a.1e100.net.)
HTTPS (443/tcp) 2895 2404:6800:4004:80f::2003 (nrt13s49-in-x03.1e100.net.)
HTTPS (443/tcp) 18577 2404:6800:4004:818::200e (nrt13s50-in-x0e.1e100.net.)
FCM: Firebase Cloud Messaging
13

14. Attention
• < 50KB/5minのグラフを拡大
• アクションを起こしていないときにも通信が
発生していることがわかる
• 5KB/5minと20KB/5minにラインが見える
14

15. Transition
• ヒートマップ風に表示してみた
• 青: 15KB/5min 以下
• 橙: 15KB/5min 以上 (40KB/5min以下)
• Day6の2:30頃を境にアクションが
ない時の通信の傾向が変わっていた！
• 何か挙動の変化があったと思われる
15
Date→
Time→

16. Before
• ～Day6 2:30(変化前)の中からサンプリング
• 無アクションの時間帯、5分間に発生した通信
プロトコル 通信量 (Bytes) 通信相手
ICMP 1288
NTP (123/UDP) 112 2001:4860:4806:c:: (time4.google.com.)
FCM (5228/tcp) 594 2404:6800:4008:c00::bc (tm-in-xbc.1e100.net.)
FCM (5228/tcp) 676 2404:6800:4008:c02::bc (tg-in-xbc.1e100.net.)
HTTPS (443/tcp) 2863 2404:6800:4004:818::2003 (nrt13s50-in-x03.1e100.net.)
16

17. After
• Day6 2:30～(変化後)の中からサンプリング
• 無アクションの時間帯、5分間に発生した通信
プロトコル 通信量 (Bytes) 通信相手
ICMP 1400
NTP (123/UDP) 112 2001:4860:4806:c:: (time4.google.com.)
FCM (5228/tcp) 384 2404:6800:4008:c00::bc (tm-in-xbc.1e100.net.)
FCM (5228/tcp) 700 2404:6800:4008:c06::bc (tk-in-xbc.1e100.net.)
HTTPS (443/tcp) 3407 2404:6800:4004:809::2003 (nrt20s02-in-x03.1e100.net.)
HTTPS (443/tcp) 3407 2404:6800:4004:80c::2003 (nrt12s22-in-x03.1e100.net.)
HTTPS (443/tcp) 3407 2404:6800:4004:80d::2003 (nrt12s17-in-x03.1e100.net.)
HTTPS (443/tcp) 3407 2404:6800:4004:819::2003 (nrt13s51-in-x03.1e100.net.)
HTTPS (443/tcp) 3407 2404:6800:4004:81a::2003 (nrt12s13-in-x03.1e100.net.)
17

18. Conclusion
• 車にGoogle Homeを積んでみた
• 音声操作での写真撮影を試した
• タイムラグは少々悩ましい
• Google Homeの通信量を確認した
• 1回のアクションで200KB程度通信しているのでは
• アクション無しでも20KB/5min程度通信が発生する
• 突然挙動が変化することもあるようだ
• ストリーミング(ラジオなど)を利用する場合は当然
その分の通信が発生する
18