YAPC::Asia 2008 Tokyo - Pathtraq - building a computation-centric web serviceKazuho Oku
The talk describes the architecture of Pathtraq, one of Japan's largest web access statistics service, covering from database compression techniques to embedded SQL in perl.
SQL Server 使いのための Azure Synapse Analytics - Spark 入門Daiyu Hatakeyama
Japan SQL Server Users Group - 第35回 SQL Server 2019勉強会 - Azure Synapese Analytics - SQL Pool 入門 のセッション資料です。
Spark の位置づけ。Synapse の中での入門編の使い方。そして、Synapse ならではの価値について触れてます。
NFaaS論文のまとめスライドです.
Michał Król and Ioannis Psaras. 2017. NFaaS: named function as a service. In Proceedings of the 4th ACM Conference on Information-Centric Networking (ICN '17). Association for Computing Machinery, New York, NY, USA, 134–144. https://doi.org/10.1145/3125719.3125727
セル生産方式におけるロボットの活用には様々な問題があるが,その一つとして 3 体以上の物体の組み立てが挙げられる.一般に,複数物体を同時に組み立てる際は,対象の部品をそれぞれロボットアームまたは治具でそれぞれ独立に保持することで組み立てを遂行すると考えられる.ただし,この方法ではロボットアームや治具を部品数と同じ数だけ必要とし,部品数が多いほどコスト面や設置スペースの関係で無駄が多くなる.この課題に対して音𣷓らは組み立て対象物に働く接触力等の解析により,治具等で固定されていない対象物が組み立て作業中に運動しにくい状態となる条件を求めた.すなわち,環境中の非把持対象物のロバスト性を考慮して,組み立て作業条件を検討している.本研究ではこの方策に基づいて,複数物体の組み立て作業を単腕マニピュレータで実行することを目的とする.このとき,対象物のロバスト性を考慮することで,仮組状態の複数物体を同時に扱う手法を提案する.作業対象としてパイプジョイントの組み立てを挙げ,簡易な道具を用いることで単腕マニピュレータで複数物体を同時に把持できることを示す.さらに,作業成功率の向上のために RGB-D カメラを用いた物体の位置検出に基づくロボット制御及び動作計画を実装する.
This paper discusses assembly operations using a single manipulator and a parallel gripper to simultaneously
grasp multiple objects and hold the group of temporarily assembled objects. Multiple robots and jigs generally operate
assembly tasks by constraining the target objects mechanically or geometrically to prevent them from moving. It is
necessary to analyze the physical interaction between the objects for such constraints to achieve the tasks with a single
gripper. In this paper, we focus on assembling pipe joints as an example and discuss constraining the motion of the
objects. Our demonstration shows that a simple tool can facilitate holding multiple objects with a single gripper.
【DLゼミ】XFeat: Accelerated Features for Lightweight Image Matchingharmonylab
公開URL:https://arxiv.org/pdf/2404.19174
出典:Guilherme Potje, Felipe Cadar, Andre Araujo, Renato Martins, Erickson R. ascimento: XFeat: Accelerated Features for Lightweight Image Matching, Proceedings of the 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2023)
概要:リソース効率に優れた特徴点マッチングのための軽量なアーキテクチャ「XFeat(Accelerated Features)」を提案します。手法は、局所的な特徴点の検出、抽出、マッチングのための畳み込みニューラルネットワークの基本的な設計を再検討します。特に、リソースが限られたデバイス向けに迅速かつ堅牢なアルゴリズムが必要とされるため、解像度を可能な限り高く保ちながら、ネットワークのチャネル数を制限します。さらに、スパース下でのマッチングを選択できる設計となっており、ナビゲーションやARなどのアプリケーションに適しています。XFeatは、高速かつ同等以上の精度を実現し、一般的なラップトップのCPU上でリアルタイムで動作します。
5. 目次
1. Infinispanとは?
① Infinispanプロフィール
② Data Gridとは?
2. Infinispanの使い方~KVS編~
① 動作モードの分類
② プロセスの関係による分類
• Client-Server modeで利用できるプロトコル
③ データ保持方式による分類
3. Infinispanの使い方~Data Grid編~
① Cache Store
② Distributed Executors
③ MapReduce
④ Query API
⑤ Grid File System
4. まとめ
4
Advanced Tech Night
7. Infinispanプロフィール
1. JBossファミリーの(In-Memory) Data Grid
Platform
2. 公式サイト
http://www.jboss.org/infinispan.html
3. JavaとScalaで記述されたOSS
4. ライセンスはLGPL v2.1
5. 主なコミッタはRed Hat社に所属
6. 2012年8月、ようやく本が出版
「Infinispan Data Grid Platform」
6
Advanced Tech Night
8. Data Gridとは?(1/5)
Data Gridに求められること
分散システム
1. extreme scalability
サーバ増加により、線形にスケールアウトできる
分散システム
2. high availability
障害が発生しづらい。発生時も素早く復旧できる
3. elastic data NoSQL
様々な形式のデータを扱うことができる
4. support for compute grids Data Grid
複数のサーバが結びつき、全体でひとつの処理を実行できる
7
Advanced Tech Night
9. Data Gridとは?(2/5)
Data Gridとは?(概ねこんな認識)
① サーバ分散による高速データアクセス
→線形にスケールアウト
② 様々なデータを扱える
→Infinispanの場合は、Javaオブジェクト
③ Jobを各サーバで分散実行可能
→各サーバに処理を配布
→ローカルデータにアクセスすることで高速化
→MapReduce等
さらに、InfinispanはIn-Memory Data Grid
8
Advanced Tech Night
10. Data Gridとは?(3/5)
Data Gridの主な適用箇所
① Webシステムにおけるセッション情報の保持
複数サーバで
Infinispan セッション情報を共有
Web/AP
サーバ
Infinispan
Web/AP
RDBMS
サーバ
Infinispan
Web/AP
サーバ
9
Advanced Tech Night
11. Data Gridとは?(4/5)
Data Gridの主な適用箇所
② DBのキャッシュ(low latencyでデータアクセス)
DBのキャッシュを分散保持し
大量データに高速アクセス
Web/AP
サーバ
Infinispan
Web/AP
Infinispan RDBMS
サーバ
Infinispan
Web/AP
サーバ
10
Advanced Tech Night
12. Data Gridとは?(5/5)
Data Gridの主な適用箇所
③ 分散実行
複数サーバでの実行により
並列性を増し、高速処理を実現 Infinispan
サーバ
Infinispan
Job実行 サーバ
Infinispan
サーバ
11
Advanced Tech Night
19. Client-Server modeで利用できるプロトコル(1/4)
【REST】
① URLで操作対象のキーを指定
http://localhost:8080/infinispan/rest/CacheNam
e/key
② HTTPメソッドでInfinispanのメソッドを指定
No. HTTPメソッド Infinispanメソッド 備考
1 PUT put BODYにputする値を設定
2 GET get
3 DELETE remove
③ HTTPロードバランサで通信先サーバを選択
18
Advanced Tech Night
20. Client-Server modeで利用できるプロトコル(2/4)
【Memcached】
① KVSで利用される汎用的なプロトコル
② telnetでアクセスして、コマンドラインでCache操作
可能
// cacheにデータを格納
> set key value
// cacheからデータを取得
> get key
value
// cacheからデータを削除
> delete key
③ Client Appで通信先サーバを選択する実装が必要
19
Advanced Tech Night
21. Client-Server modeで利用できるプロトコル(3/4)
【Hot Rod】
① Infinispan固有のプロトコル
② Java, C#, Python, Rubyのクライアント有
③ 通信先サーバをAppから隠ぺい~Smart Routing
public static void main(String[] args) {
// cacheを取得
RemoteCacheManager manager = new RemoteCacheManager(“192.168.0.1:11223,192.168.0.2:11223”);
Cache<String, String> cache = manager.getCache(“CacheName”);
// cacheにデータを格納
cache.put(“key”, “value”);
// cacheからデータを取得
cache.get(“key”);
// cacheからデータを削除
cache.remove(“key”);
}
20
Advanced Tech Night
27. Data Gridとしての機能(1/5)
1. Cache Store
① データの永続化
② 永続化先 App Infinispan
• サポート済み
– File System
– RDBMS App Infinispan Shared
Store
– Amazon S3
– Cassandra
• 今後サポートされる予定
App Infinispan
– GlasterFS
26
Advanced Tech Night
28. Data Gridとしての機能(2/5)
2. Distributed Executors
① 分散実行機能
② データを保持しているサーバに処
理を配布し、バッチ実行
③ ディスクアクセスや
ネットワークアクセスを
極力減らして高速化
27
Advanced Tech Night
29. Data Gridとしての機能(3/5)
3. MapReduce
① 分散実行機能。Hadoopで有名なあの処理
② 処理の流れ(インプットデータは事前に保持)
1. Jobを実行する
2. データ保持しているサーバでMap処理を実行
3. 中間データをCacheに保存
4. データ保持しているサーバでReduce処理を実行
5. 結果をJobに返す
In ③ tmp
Infinispan ② Infinispan
Map ③ Reduce ④
①
⑤
Job実行
① In tmp ⑤
Job実行
Infinispan ③ Infinispan
②
Map Reduce ④
28
Advanced Tech Night
30. Data Gridとしての機能(4/5)
4. Query API
① 全文検索エンジンApache Luceneの
Lucene Directoryの実装
② put時にデータのindexを作成・保持する
③ Hibernate Search APIを使って検索
図は公式サイトのUser Guide「Querying Infinispan」より引用
https://docs.jboss.org/author/display/ISPN/Querying+Infinispan
29
Advanced Tech Night
31. Data Gridとしての機能(5/5)
5. Grid File System
① メモリ上のファイルシステム
② ファイルに高速アクセス
Meta
③ 2個のCacheで構成される Infinispan
File
• メタデータ(ファイル名)
• 実際のデータ Meta
Infinispan
④ Infinispanの標準機能で File
Replicationを実現 App
Meta
Infinispan
File
App
30
Advanced Tech Night
32. まとめ
1. Infinispanとは?
① In-Memory Data Grid
2. Data Gridとは?
① サーバ分散による高速データアクセス
② 様々なデータを扱える
③ Jobを各サーバで分散実行可能
3. KVSとしてのInfinispan
① プロセスの関係による分類
Embedded modeとClient-Server mode
② データ保持方式による分類
Replicated modeとDistributed mode
31
Advanced Tech Night
33. まとめ
4. Data GridとしてのInfinispan
No. 機能 概要 メリット/デメリット
1 Cache Store データ永続化 Infinispanが終了しても、
データが失われない
2 Distributed Executors 分散実行機能 データが存在するサーバ
一般的なタスクを実行 上で高速・並列処理
3 MapReduce 分散実行機能 データが存在するサーバ
MapReduce処理を実行 上で高速・並列処理
4 Query API 全文検索エンジン機能 複数サーバで高速に検
索
5 Grid File System メモリ上のファイルシステム ・ファイルアクセスが高速
・標準機能で冗長化
32
Advanced Tech Night