SlideShare a Scribd company logo
Submit Search
Upload
Login
Signup
福岡クラウドUG-BigQuery
Report
Wasaburo Miyata
Follow
Sep. 5, 2017
•
0 likes
•
2,180 views
1
of
11
福岡クラウドUG-BigQuery
Sep. 5, 2017
•
0 likes
•
2,180 views
Download Now
Download to read offline
Report
Data & Analytics
福岡クラウドUG資料
Wasaburo Miyata
Follow
Recommended
トレジャーデータとtableau実現する自動レポーティング
Takahiro Inoue
14.8K views
•
22 slides
クラウドを活用した自由自在なデータ分析
aiichiro
1K views
•
23 slides
これで怖くない!?大規模環境で体験するDB負荷対策~垂直から水平の彼方へ~
hideakikabuto
3.2K views
•
77 slides
dots. ビッグデータオールスターズ: Azure 畠山
Daiyu Hatakeyama
2.1K views
•
16 slides
初めてのデータ分析基盤構築をまかされた、その時何を考えておくと良いのか
Techon Organization
852 views
•
28 slides
データ分析基盤について
Yuta Inamura
2.2K views
•
18 slides
More Related Content
What's hot
Alteryxの紹介とデモ
Yosuke Katsuki
3.1K views
•
19 slides
AWS朝会2022/1 セッション① 数年間、レイクハウスを設計運用してみた
tatsuya 264
549 views
•
12 slides
データ分析を支える技術 DWH再入門
Satoru Ishikawa
3.9K views
•
57 slides
データサイエンティストが力を発揮できるアジャイルデータ活用基盤
Recruit Lifestyle Co., Ltd.
4.8K views
•
35 slides
Tableau Desktop データ準備の新機能: ユニオン、ピボット、データインタープリタ、など
Ryusuke Ashiya
781 views
•
51 slides
データウェアハウス・BI の再構築から見る情報系基盤の再構築ポイント
UNIRITA Incorporated
2.1K views
•
21 slides
What's hot
(20)
Alteryxの紹介とデモ
Yosuke Katsuki
•
3.1K views
AWS朝会2022/1 セッション① 数年間、レイクハウスを設計運用してみた
tatsuya 264
•
549 views
データ分析を支える技術 DWH再入門
Satoru Ishikawa
•
3.9K views
データサイエンティストが力を発揮できるアジャイルデータ活用基盤
Recruit Lifestyle Co., Ltd.
•
4.8K views
Tableau Desktop データ準備の新機能: ユニオン、ピボット、データインタープリタ、など
Ryusuke Ashiya
•
781 views
データウェアハウス・BI の再構築から見る情報系基盤の再構築ポイント
UNIRITA Incorporated
•
2.1K views
Tableauが魅せる Data Visualization の世界
Takahiro Inoue
•
26K views
Gtfsデータリポジトリ紹介 iodd発表資料
Shimpei Matsuura
•
141 views
Google Cloud ベストプラクティス:Google BigQuery 編 - 02 : データ処理 / クエリ / データ抽出
Google Cloud Platform - Japan
•
8.2K views
Developers Summit 2015 【19-B-L】 DevOpsの究極の形!?、クラウドで始めるドキュメント・データベース活用のポイント。
aiichiro
•
2.8K views
Data Engineering Meetup #1 持続可能なデータ基盤のためのデータの多様性に対する取り組み
cyberagent
•
1.8K views
Azure Purview Linage for Dataflow/Spark
Ryoma Nagata
•
181 views
[DI03] DWH スペシャリストが語る! Azure SQL Data Warehouse チューニングの勘所
de:code 2017
•
3K views
【ウェブ セミナー】AI 時代のクラウド データ ウェアハウス Azure SQL Data Warehouse [実践編]
Hideo Takagi
•
801 views
Snowflake Architecture and Performance(db tech showcase Tokyo 2018)
Mineaki Motohashi
•
12.6K views
データ基盤の従来~最新の考え方とSynapse Analyticsでの実現
Ryoma Nagata
•
667 views
Glue DataBrewでデータをクリーニング、加工してみよう
takeshi suto
•
1.5K views
Snowflakeって実際どうなの?数多のDBを使い倒した猛者が語る
Ryota Shibuya
•
1.1K views
データ分析基盤構築のポイントと関連クラスメソッドサービスの紹介
Yosuke Katsuki
•
2.4K views
Ingest + KARTE Datahub
CS KARTE
•
156 views
Viewers also liked
Google Container Engine (GKE) & Kubernetes のアーキテクチャ解説
Samir Hammoudi
16K views
•
49 slides
Microsoft azureで実装するwebserviceondocker
Tsukasa Kato
1.1K views
•
55 slides
はじめてのAzure Azure的ピタゴラスイッチのススメ- PaaS・サーバーレス 初級編 -
典子 松本
1.3K views
•
28 slides
インフラエンジニアのこれまでとこれから
Kumano Ryo
15.6K views
•
50 slides
元OracleMasterPlatinumがCloudSpanner触ってみた
Kumano Ryo
9K views
•
22 slides
RDBのDBAから見た GCP Managed Database
Kumano Ryo
3.5K views
•
51 slides
Viewers also liked
(8)
Google Container Engine (GKE) & Kubernetes のアーキテクチャ解説
Samir Hammoudi
•
16K views
Microsoft azureで実装するwebserviceondocker
Tsukasa Kato
•
1.1K views
はじめてのAzure Azure的ピタゴラスイッチのススメ- PaaS・サーバーレス 初級編 -
典子 松本
•
1.3K views
インフラエンジニアのこれまでとこれから
Kumano Ryo
•
15.6K views
元OracleMasterPlatinumがCloudSpanner触ってみた
Kumano Ryo
•
9K views
RDBのDBAから見た GCP Managed Database
Kumano Ryo
•
3.5K views
こわくない Git
Kota Saito
•
878.4K views
インフラエンジニアってなんでしたっけ(仮)
Akihiro Kuwano
•
102.5K views
Similar to 福岡クラウドUG-BigQuery
ビッグデータ分析基盤が直面する課題をオブジェクトストレージで解決
CLOUDIAN KK
2.6K views
•
47 slides
DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App...
Google Cloud Platform - Japan
1.7K views
•
55 slides
ライトプランで利用可能な分析基盤「IBM Analytics Engine (IAE)」とは
Kimihiko Kitase
2.3K views
•
21 slides
[Cloud OnAir] BigQuery で実現する Smart Analytics Platform 2019年10月24日 放送
Google Cloud Platform - Japan
2.4K views
•
49 slides
ビッグデータ処理データベースの全体像と使い分け 2018年version
Tetsutaro Watanabe
21.2K views
•
59 slides
[de:code 2019 振り返り Night!] Data Platform
Naoki (Neo) SATO
1.4K views
•
108 slides
Similar to 福岡クラウドUG-BigQuery
(20)
ビッグデータ分析基盤が直面する課題をオブジェクトストレージで解決
CLOUDIAN KK
•
2.6K views
DeNA のデータ活用を支える BigQuery データの民主化とガバナンス強化の軌跡 | Google Cloud INSIDE Games & App...
Google Cloud Platform - Japan
•
1.7K views
ライトプランで利用可能な分析基盤「IBM Analytics Engine (IAE)」とは
Kimihiko Kitase
•
2.3K views
[Cloud OnAir] BigQuery で実現する Smart Analytics Platform 2019年10月24日 放送
Google Cloud Platform - Japan
•
2.4K views
ビッグデータ処理データベースの全体像と使い分け 2018年version
Tetsutaro Watanabe
•
21.2K views
[de:code 2019 振り返り Night!] Data Platform
Naoki (Neo) SATO
•
1.4K views
巨大なサービスと膨大なデータを支えるプラットフォーム
Tetsutaro Watanabe
•
1.7K views
ビッグデータ処理データベースの全体像と使い分け - 2017年 Version -
Tetsutaro Watanabe
•
7K views
No-Ops で大量データ処理基盤
Google Cloud Platform - Japan
•
2.9K views
No-Ops で大量データ処理基盤を簡単に実現する
Kiyoshi Fukuda
•
4.8K views
JISAAwards2013講演会資料(hifive)
Osamu Shimoda
•
1.6K views
Big Data も Oracle SQL で参照できるって知ってました?
美佳子 清水
•
194 views
オープンソースカンファレンス OSC 2014 エンタープライズ 東京 ownCloud 法人向けオンラインストレージ マルチデバイスファイル共有ソリューション
Tetsurou Yano
•
2.5K views
【17-E-3】Hadoop:黄色い象使いへの道 ~「Hadoop徹底入門」より~
Developers Summit
•
5.9K views
[INSIGHT OUT 2011] b21 ひとつのデータベース技術では生き残れない part2 no sql, hadoop
Insight Technology, Inc.
•
424 views
WebDB Forum 2012 基調講演資料
Recruit Technologies
•
4.3K views
D1-2-S07 オンプレミスのデータウェアハウス基盤を BigQuery へ
Hideaki Tokida
•
770 views
Nikkei sangyo forum 2014
CLOUDIAN KK
•
18.3K views
ビッグデータ活用支援フォーラム
Recruit Technologies
•
3.4K views
【de:code 2020】 Power Platform で広がるデータ インテグレーションの世界 (1/2)
日本マイクロソフト株式会社
•
290 views
福岡クラウドUG-BigQuery
1.
Googleが作ったDWH BigQuery 宮田 和三郎 2017/08/31
2.
2 自己紹介 2 宮田 和三郎 嘉穂無線ホールディングス:データ活用エンジニア カホエンタープライズ:CTO ソフトハウス→外資ベンダー→現職
3.
3 BigQueryとは? 3 BigQuery は Google
が提供するフルマネージドのエ ンタープライズ向けアナリティクス データ ウェアハウス です。 https://cloud.google.com/bigquery/?hl=ja
4.
4 そもそもDWH(データウェアハウス)とは? 4 データウェアハウスとは、直訳すれば「データの倉庫」 である。 利用者により定義範囲は異なるが、一般に時 系列に整理された大量の統合業務データ、もしくはそ の管理システムを指す。 https://ja.wikipedia.org/wiki/データウェアハウス 主な製品(オンプレ) ■ Exadata(Oracle) ■
PureData(IBM) ■ HANA(SAP) ■ Teradata(Teradata) 主な製品(クラウド) ■ Redshift(AWS) ■ Azure SQL Data Warehouse(Microsoft) ■ Snowflake(Snowflake) ■ BigQuery(GCP)
5.
5 用途 5 ×不得意 ■ 業務システム(OLTP)のバックエンド ■ webのバックエンド ■
ゲームのバックエンド 〇得意 ■ ログ解析(アクセス、エラー、操作・・) ■ 大量データのバッチ処理 ■ 分析(Window関数、UDF)
6.
6 とにかく速い! ■ 億を超えるレコード数でも数秒で処理 1TBのデータを1秒でフルスキャンにするには5,000台のディスクが必要 なぜBigQueryはこんなインチキ臭いほどに高速なのか。BigQueryは、Cloudera Impara等のいまどき の大規模並列(Massively
Parallel Processing/MPP)クエリエンジンや過去のデータウェアハウスマシ ンと同じくカラム型のデータ分析専用データベースである。しかし、他の多くのカラム型DBとBigQuery との間には量子的飛躍が存在する。それは、並列度のオーダーだ。BigQueryでは、ひとつひとつのク エリを実行するたびに数百台〜数千台のマシンが同時並列に検索を実行している(←ケタ間違えてい ません)。文字通り、massivellyな並列処理だ。その上、インデックスは一切作らず、すべてディスクの フルスキャン(テーブルスキャン)で処理する。 引用:http://qiita.com/kazunori279/items/10ac0066ac9b0b5aaaf3
7.
7 とにかく楽! ■ 物理設計不要 ☐ サイジング(CPU,メモリ,Disk) ☐
データ格納方法(分散+ソート) ☐ インデックス不要(パフォチュー不要) ■ フルマネージメント ☐ AnalyzeやVacuum系の処理不要 ☐ さようならハードウェア障害! ☐ さようならディスク領域不足!
8.
8 とにかく安い! ■ 料金体系は使っただけの従量課金 操作 コスト
メモ ストレージ GB あたり $0.02/月 毎月 10 GB まで無料。詳細はストレージの料金体系をご覧ください。 長期保存 GB あたり $0.01/月 長期保存の料金をご覧ください。 ストリーミング イン サート GB あたり $0.05 ストレージの料金体系をご覧ください。 クエリ TB あたり $5 毎月 1 TB まで無料。詳細はオンデマンドの料金体系をご覧ください。 多くの容量をご使用のお客 様は定額料金もご利用いただけます。 データの読み込み 無料 BigQuery へのデータの読み込みをご覧ください。 データのコピー 無料 テーブルのコピーをご覧ください。 データのエクスポート 無料 BigQuery からのデータのエクスポートをご覧ください。 メタデータ オペレー ション 無料 list、get、patch、update、delete の呼び出し。 17年08月現在
9.
9 注意 ■ SQLが2種類存在(Legacy or
Standard) →Standard(SQL:2011準拠)がオススメ ■ コストの見積が難しい。 →定額料金あるが、手が届かない。 →変な使い方をしない限り、まず問題ない ■ どんなクエリでも秒単位ではかかる。 →用途を間違えない。 ■ パフォーマンスチューニング不可 →諦める。そもそも速い ■ DML(UPDATE/DELETE)実行回数制限あり →設計で回避
10.
1010 無料お試し! 1.無料トライアル枠あります $300 の無料クレジットで、あらゆる GCP
プロダクトをお試し いただけます(最大12か月)。 https://cloud.google.com/free/?hl=ja 2.BigQuery無料枠あります ストレージ:10GB/月、クエリ:1TB/月 https://cloud.google.com/bigquery/pricing?hl=ja 3.お試しデータあります サンプルデータ:wikipedia全記事改定履歴など 一般公開データ:ニューヨーク市内のタクシー移動など https://cloud.google.com/bigquery/sample-tables https://cloud.google.com/bigquery/public-data/?hl=ja
11.
11 ご清聴ありがとうございました 無料で遊べます。とりあえず遊んでみよう!