Serverless for VUI

How do we connect
VUI to the real services
using Serverless
@yoshidashingo
2018.2.11
Alexa Day 2018

吉田真吾
n バックグラウンド
証券システム基盤開発
p 基盤システム開発、Oracleチューニングなど
エバンジェリスト
p 講演113回(2013年実績)
p AWS設計・構築・移行(2014-2015)
n 現在のしごと
(株) セクションナイン代表取締役社長
p APN コンサルティングパートナー
p DevOps Dockerize Serverless 支援など
(株) 実績等
p AWSウルトラクイズ
初代チャンピオン (2012年)
p AWS Samurai 2014 / 2016

Alexa アプリ
• カスタム対話モデル
• スマートホームスキルAPI
• フラッシュブリーフィング
スキルAPI
• ビデオスキルAPI

・Amazon開発者ポータルアカウント
・AWS Lambda（AWSアカウント）
・alexaアプリ（＋Amazon.co.jpアカウント）

音声デザインガイド
1. 目的とユーザー
ストーリーの設定
2. 台本の作成
3. 対話フローの作成
4. スキル構築のための
準備
https://developer.amazon.com/ja/designing-for-voice/design-process/
ひとつのスキルで色々なこと
をやろうとするとインテント
の区別や発話→インテントの
マッピング精度がいまいちに
なりがち

2. 台本の作成
準備
実際に声に出し話してみる
• 質問は適切か
• 答えは冗長ではないか
• 次の行動をどう促すか
• 機能性として十分か

2. 台本の作成
準備

音声デザインガイド：4. スキル構築のための準備
スキルの「呼び出し名」
インテント
(=Lambdaハンドラー)
スロット
(=Lambda: switch case / value)

われわれがつくりたいのは
IVR(自動音声応答システム)
ではない
・声による入力
・ユーザーはコマンドラインのようには
話しかけてくれない

言葉ではなく
意味・文脈を理解する
アシスタント
・動詞が揺れる（聞かせて／教えて／調べて…）
・目的語が抜ける
・指示語（それ）のあつかい、などなど

インテントの作成 (Skill Builder)
それぞれのインテントが
Lambdaの別々のハンドラーに
マッピングされる
サンプル発話で動詞の
「ゆれ」を吸収する

カスタムスロットの作成 (Skill Builder)
変数化

カスタムスロットの作成 (Skill Builder)
スロットの値に別名を
たくさんつけることで
目的語の「ゆれ」を吸
収する

視点
• 会話の文脈によりそのときに最適で複雑なス
テートが存在する（≠チャットボット）
• 予測：サンプル発話やスロットのシノニムで
「ゆれ」を吸収する部分はプラットフォーム側
に移っていくと想定される（すべてユーザーが
設定→辞書から提案→自動でマッピング）
• 予測：Webアプリ、業務システム丸ごと再現で
きる規模のスキルが実現されるようになる（→
より本格的な設計プロセスの必要性）

ここまで
• バックエンドを実装する以前に、対話モデルや会話
体験を設計して作り込む必要がある
• 自然に話しかけてどの程度理解してもらえるか？
• 期待する動作をしてくれるか？
• 冗長なやりとりにならないか？
• 言葉のゆらぎを吸収してくれるか？
• ここで促すべき次の行動はなにか？
→ Voice User Interface eXperience Designer
(VUXデザイナー)

AWS Lambda
Lambdaが
Alexaカスタムスキルの
実質スタンダード

AWS Lambda
• 2014年末 re:Invent にて発表
• サポート言語 2016.12.11現在
• Node.js – v0.10.36, v4.3.2
• Java – Java 8
• Python – Python 2.7
• C# - .NET Core 1.0.1
• ホスト
• Amazon Linux (時々バージョンアップ)
• 実行環境は再利用される
• 初回起動が遅いが再利用時は高速
• 一時ストレージとして /tmp 利用可能（スケールしたり破棄されたりするので
頼らないこと）
• 課金は使った分だけ
• 確保(指定)したメモリ(128MB〜1.5GB) x 実行時間(100ms単位) x 実行回数
• メモリに比例してCPUの割当ても多くなる
http://docs.aws.amazon.com/ja_jp/lambda/latest/dg/welcome.html

パラダイムシフト
• Why The Future Of Software And Apps Is Serverless
by Ken Fromm, VP of Business Development at Iron.io
• コンピューティングリソースの調達リードタイムの短縮
• スタンダローンアプリからの変化（現在のMicroservices）
• クラウドで柔軟にコンピューティングリソースをサービスとして
利用することができる
• サーバーが要らないということではなく、開発者はサーバーにつ
いて「考えなくてもよくなる」
1 2 2 0. 5 52 0 0 2 / 11 2 2-

Functions as a Service の台頭
• 特徴
• 実行環境は隠蔽＆プラットフォーム
管理で、必要なのはコードのみ
• コンテナベースで調達リードタイム
を短縮
• 分散実行環境による可用性の確保
• 実行時間のみ課金によるコスト低減
• アーキテクチャにおける責務
• Stateful >> Statelessへ
• 永続データ >> 揮発性
• モノリシック >> Microservices
• バッチ処理 >> イベントドリブン
https://aws.amazon.com/jp/about-aws/events/reinvent-report-2014-pt2/

なにがサーバーレス？
FaaS と Functional SaaS について

http://www.slideshare.net/acloudguru/ant-stanley-being-serverless

サーバーレス
エコシステム
プラットフォーム
開発・運用フレームワーク
開発者

プラットフォーム事業者フレームワークやツール
アプリケーション開発者
サーバーレスエコシステム
• サーバー構築不要
• スケーラブル
• 従量課金 etc…
• API定義と関数コード
の一体管理
• チーム開発（テスト、
デプロイ） etc…
• 企画→開発→デリバリーに
集中
• サービスマネジメント
• etc…

サーバーレス
だからこそできることをやる
開発の高速化
運用の省力化

10X Product Development
• 製品がマーケットにフィットす
るかどうかが最も重要である
• ビジネスに関連するコードの開
発時間に極力時間を使うべきで
ある
• 顧客とまわすイテレーションを
最大化すべきである
• 依存性を最小化すべきである：
仕様確定待ちで開発者を待たせ
たり、運用やDBAやその他の開
発者の影響で待たせることを極
力避けるべきである
http://www.slideshare.net/ServerlessConf/joe-emison-10x-product-development

10X Product Development
Commercial Search
• 開発者2人ｘ4ヶ月
• TypeScript 13,307行
• 開発者の稼働 95%以上(待ち時間なし)
構成
• Auth: Firebase
• Static Site Hosting: Netlify
• 画像管理: Cloudinary
• 検索: Algolia
ペインポイント
• Firebaseのダッシュボードでは大きなデータセッ
トが扱えない
• RDBMSからFirebaseに移行する開発者のラーニン
グカーブ
http://www.slideshare.net/ServerlessConf/joe-emison-10x-product-development

まかせっきりでよい？
プロダクトの最終責任について

Serverlessness, NoOps and the Tooth Fairy
ベストプラクティス
• 自分のプロダクトの問題はちゃん
と直せる人は自分しかいない
• クリティカルパスを理解する
• できるかぎり小さく維持する
• プロバイダの技術情報や、内部技
術が何に依存しているか理解する
• アウトソース先に問題が起きても、
自身のサービスにおけるそれによる
結果については依然としてあなたが
責任を持たなければいけない
http://www.slideshare.net/ServerlessConf/charity-hound-serverless-noops-the-tooth-fairy

5つの分類パターン
1. Webアプリケーション
2. 運用業務
3. ストリームデータ処理
4. モバイル・IoTのバックエンド
5. アプリケーション連携のバックエンド

Webアプリケーション
1) Serverless Single Page Apps

Amazon
Route 53
Amazon S3
(Static Website)
Google+ profile
Cognito
Identity Pools
Lambda DynamoDB
SPA

2) CSVアップロード／ダウンロード
HR系事業会社

Amazon
Route 53
Amazon S3
(Static Website)
Cognito
User Pools
Lambda RDS
Amazon S3

3) REST API

REST API
<テーブルデータの
取得・追加・削除
をするAPIだよ

4) Serverless CMS
Shifter, Serverless Wordpress

https://speakerdeck.com/digitalcube/serverlessconf-tokyo-2016-shifter

運用
5) バッチ処理
日経新聞さんの事例

https://speakerdeck.com/ikait/serverless-architecture-supports-nikkeis-paper-viewer

運用
6) オンコールシステム
大手人材系メディア

アプリケーション連携
7) Alexa Skills Set

エコちっち
• Alexaの中で妖精を育てる育
成ゲーム
• インテント
• リセット(たまごに戻す)
• エコちっちの状態確認
• ごはん
• ダンス
• お勉強
• トイレ
• 寝かせる
• 起こす

エコちっち (デモ)
• 「Alexa、エコちっちでリセットして」
• 「Alexa、エコちっちで元気か教えて」
• 「Alexa、エコちっちでごはんを食べさせて」

こまった！対話のフロー制御
• [発話]状態確認
→おなかがすいてます。ごはんを食べさせてあげますか？
→はい
→(インテント：状態確認※「ごはん」を呼びたいのに)
• [発話]ダンスを踊らせて
→ダンスを踊らせてあげますか？
→はい
→(インテント：ダンス)

ステート
1. ステートの定義
2. ステートに応じたハンドラー
群の定義
3. ハンドラー登録
→ステートに応じて追加した
ハンドラーが呼ばれる

こまった！エコちっちの生涯
• エコちっちの生涯＝Lambdaランタイムの
ライフサイクル
• Lambdaが初期化されると「たまご」からスタート
してしまう
→もっと長生きさせたい

HRアプリ (デモ)
• 「Alexa、オー人事で佐藤さんの給与グレードを
教えて」
• 「Alexa、オー人事で高橋さんの評価を教えて」
• 「Alexa、オー人事で鈴木さんの上司を教えて」
• 「Alexa、オー人事で人事ニュースを教えて」
• 「Alexa、オー人事で自己評価の進捗を教えて」

こまった！スロット別のコマンド制御
• 「Alexa、オー人事で佐藤さんの給与グレードを教
えて」
• 「Alexa、オー人事で高橋さんの評価を教えて」
• 「Alexa、オー人事で鈴木さんの上司を教えて」
• 「Alexa、オー人事で人事ニュースを教えて」
• 「Alexa、オー人事で自己評価の進捗を教えて」
→1つのインテントのスロット別にコマンドがある

• Developerポータルで作成したカスタムスロッ
トの値が、シノニムにひっかかった場合はシノ
ニムの値で入ってくる
→シノニムをすべてcaseに設定する
→追記1：スロット値の「ID (オプション)」を
使うことで対応できる
→追記2：返答するメッセージはスロットの値
(ユーザーが発話した単語)をそのままおうむ返
ししてあげるほうが自然です

エコちっちの
ソース規模
(設計当初) 「150行くらいかな？」

816行
ステート x インテント x スロットの組合せが爆発した

ステートを制するものが
対話モデルを制す
そして結論

まとめ
• リッチなスキルを作る場合はしっかりとした対
話フローや返答内容の設計が必要
• サーバーレスコンポーネントを組み合わせるこ
とでスキルに無限の可能性
• 対話モデルを再現する実装は想像しているより
ずっと大変だけど頑張ろう

Serverless for VUI

Serverless for VUI

Recommended

More Related Content

What's hot

What's hot(20)

Similar to Serverless for VUI

Similar to Serverless for VUI(20)

More from 真吾吉田

More from 真吾吉田(20)

Recently uploaded

Recently uploaded(12)