Apache Arrow - A cross-language development platform for in-memory dataKouhei Sutou
Apache Arrow is the future for data processing systems. This talk describes how to solve data sharing overhead in data processing system such as Spark and PySpark. This talk also describes how to accelerate computation against your large data by Apache Arrow.
Apache Arrow - A cross-language development platform for in-memory dataKouhei Sutou
Apache Arrow is the future for data processing systems. This talk describes how to solve data sharing overhead in data processing system such as Spark and PySpark. This talk also describes how to accelerate computation against your large data by Apache Arrow.
gcp ja night #31 での発表資料です。
http://gcpja.connpass.com/event/23874/
[補足記事]
http://qiita.com/na_ga/items/d89b320ba098a0941043
http://qiita.com/na_ga/items/7c3cc3f52dd4068fd319
【DLゼミ】XFeat: Accelerated Features for Lightweight Image Matchingharmonylab
公開URL:https://arxiv.org/pdf/2404.19174
出典:Guilherme Potje, Felipe Cadar, Andre Araujo, Renato Martins, Erickson R. ascimento: XFeat: Accelerated Features for Lightweight Image Matching, Proceedings of the 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2023)
概要:リソース効率に優れた特徴点マッチングのための軽量なアーキテクチャ「XFeat(Accelerated Features)」を提案します。手法は、局所的な特徴点の検出、抽出、マッチングのための畳み込みニューラルネットワークの基本的な設計を再検討します。特に、リソースが限られたデバイス向けに迅速かつ堅牢なアルゴリズムが必要とされるため、解像度を可能な限り高く保ちながら、ネットワークのチャネル数を制限します。さらに、スパース下でのマッチングを選択できる設計となっており、ナビゲーションやARなどのアプリケーションに適しています。XFeatは、高速かつ同等以上の精度を実現し、一般的なラップトップのCPU上でリアルタイムで動作します。
セル生産方式におけるロボットの活用には様々な問題があるが,その一つとして 3 体以上の物体の組み立てが挙げられる.一般に,複数物体を同時に組み立てる際は,対象の部品をそれぞれロボットアームまたは治具でそれぞれ独立に保持することで組み立てを遂行すると考えられる.ただし,この方法ではロボットアームや治具を部品数と同じ数だけ必要とし,部品数が多いほどコスト面や設置スペースの関係で無駄が多くなる.この課題に対して音𣷓らは組み立て対象物に働く接触力等の解析により,治具等で固定されていない対象物が組み立て作業中に運動しにくい状態となる条件を求めた.すなわち,環境中の非把持対象物のロバスト性を考慮して,組み立て作業条件を検討している.本研究ではこの方策に基づいて,複数物体の組み立て作業を単腕マニピュレータで実行することを目的とする.このとき,対象物のロバスト性を考慮することで,仮組状態の複数物体を同時に扱う手法を提案する.作業対象としてパイプジョイントの組み立てを挙げ,簡易な道具を用いることで単腕マニピュレータで複数物体を同時に把持できることを示す.さらに,作業成功率の向上のために RGB-D カメラを用いた物体の位置検出に基づくロボット制御及び動作計画を実装する.
This paper discusses assembly operations using a single manipulator and a parallel gripper to simultaneously
grasp multiple objects and hold the group of temporarily assembled objects. Multiple robots and jigs generally operate
assembly tasks by constraining the target objects mechanically or geometrically to prevent them from moving. It is
necessary to analyze the physical interaction between the objects for such constraints to achieve the tasks with a single
gripper. In this paper, we focus on assembling pipe joints as an example and discuss constraining the motion of the
objects. Our demonstration shows that a simple tool can facilitate holding multiple objects with a single gripper.
7. 第18回 AWS User Group - Japan 東京勉強会
例1:nginxのログ
•nginxのアクセスログをFluentdを介してRedshift
に保存
•in_tail(ファイル読み込み) → out_redshift
7
8. 第18回 AWS User Group - Japan 東京勉強会
例1:nginxのログ
•nginxのアクセスログをFluentdを介してRedshift
に保存
•in_tail(ファイル読み込み) → out_redshift
8
log_format
ltsv
'time:$time_localt'
'host:$remote_addrt'
'req:$requestt'
'status:$statust'
'size:$body_bytes_sentt'
'referer:$http_referert'
'ua:$http_user_agentt';
time:02/Oct/2013:20:32:31
+0900
host:xxx.xxx.xxx.xxx
req:GET
/musicians/
famous/
HTTP/1.1
status:200
size:2172
referer:http://www.sada.co.jp/
index.html
ua:Mozilla/5.0
(iPhone;
CPU
iPhone
OS
7_0_2
like
Mac
OS
X)
AppleWebKit/537.51.1
(KHTML,
like
Gecko)
Version/7.0
Mobile/11A501
Safari/
9537.53
nginxのログフォー
マット
9. 第18回 AWS User Group - Japan 東京勉強会
例1:nginxのログ
•nginxのアクセスログをFluentdを介してRedshift
に保存
•in_tail(ファイル読み込み) → out_redshift
9
#
Redshift
DDL
create
table
access_log(
time
varchar(255),
host
varchar(255),
req
varchar(255),
status
integer,
size
integer,
referer
varchar(255),
ua
varchar(255)
);
Redshift上の
テーブル定義
10. 第18回 AWS User Group - Japan 東京勉強会
例1:nginxのログ
•nginxのアクセスログをFluentdを介してRedshift
に保存
•in_tail(ファイル読み込み) → out_redshift
10
#
from
access_log
<source>
type
tail
tag
nginx.access
format
ltsv
path
/var/log/nginx/access.log
pos_file
/var/log/fluentd/nginx_access.log.pos
</source>
#
to
Redshift
<match
nginx.access>
type
jsonbucket
out_tag
redshift.nginx.access
json_key
log
</match>
<match
redshift.nginx.access>
type
redshift
#
s3
(for
copying
data
to
redshift)
(snip.)
#
redshift
(snip.)
redshift_tablename
access_log
file_type
json
#
buffer
(snip.)
</match>
Fluentdの設定
in_tail out_redshift
11. 第18回 AWS User Group - Japan 東京勉強会
例1:nginxのログ
•nginxのアクセスログをFluentdを介してRedshift
に保存
•in_tail(ファイル読み込み) → out_redshift
11
#Fluentd
log_file
2013-‐10-‐04
20:33:16
+0900
[info]:
completed
copying
to
redshift.
s3_uri=s3://
xxxxxx/redshift/access_log/year=2013/month=10/day=04/
hour=20/20131004-‐2033_01.gz
Fluentdのlog
Redshiftへの書き込
み成功時に出力
12. 第18回 AWS User Group - Japan 東京勉強会
例1:nginxのログ
•nginxのアクセスログをFluentdを介してRedshift
に保存
•in_tail(ファイル読み込み) → out_redshift
12
redshift=#
select
*
from
access_log
limit
1;
time
|
host
|
req
|
status
|
size
|
referer
|
ua
|
-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐
+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+
04/Oct/2013:20:32:31
+0900
|
xxx.xxx.xxx.xxx
|
GET
/musicians/famous/
HTTP/
1.1
|
200
|
2172
|
http://www.sada.co.jp/index.html
|
Mozilla/5.0
(iPhone;
CPU
iPhone
OS
7_0_2
like
Mac
OS
X)
AppleWebKit/537.51.1
(KHTML,
like
Gecko)
Version/7.0
Mobile/11A501
Safari/9537.53
Redshiftのテーブルの
中身
13. 第18回 AWS User Group - Japan 東京勉強会
例2:地域情報の付与
•元のデータはそのまま、Fluentd内でデータを加
工してRedshiftに保存したい
•fluent-plugin-record-modifier
•fluent-plugin-time_parser
•fluent-plugin-reassemble
•fluent-plugin-geoip
13
14. 第18回 AWS User Group - Japan 東京勉強会
例2:地域情報の付与
•https://github.com/y-ken/fluent-plugin-geoip
•MaxMind社提供のgeoipデータベースを用いて、
IPアドレスから地域情報(緯度・経度・都市名)
を取得しデータに付与
•データベースは有償・無償ともに使用可
14
15. 第18回 AWS User Group - Japan 東京勉強会
例2:地域情報の付与
•https://github.com/y-ken/fluent-plugin-geoip
•MaxMind社提供のgeoipデータベースを用いて、
IPアドレスから地域情報(緯度・経度・都市名)
を取得しデータに付与
•データベースは有償・無償ともに使用可
15
#
Redshift
DDL
create
table
access_log(
time
varchar(255),
host
varchar(255),
req
varchar(255),
status
integer,
size
integer,
referer
varchar(255),
ua
varchar(255),
city
varchar(100),
latitude
real,
longitude
real
);
Redshift上の
テーブル定義
(地域情報を拡張)
16. 第18回 AWS User Group - Japan 東京勉強会
例2:地域情報の付与
•https://github.com/y-ken/fluent-plugin-geoip
•MaxMind社提供のgeoipデータベースを用いて、
IPアドレスから地域情報(緯度・経度・都市名)
を取得しデータに付与
•データベースは有償・無償ともに使用可
16
#
add
location
info
<match
nginx.access>
type
geoip
geoip_lookup_key
host
enable_key_city
city
enable_key_latitude
latitude
enable_key_longitude
longitude
add_tag_prefix
geoip.
</match>
Fluentdの設定
out_geoip
17. 第18回 AWS User Group - Japan 東京勉強会
例2:地域情報の付与
•https://github.com/y-ken/fluent-plugin-geoip
•MaxMind社提供のgeoipデータベースを用いて、
IPアドレスから地域情報(緯度・経度・都市名)
を取得しデータに付与
•データベースは有償・無償ともに使用可
17
redshift=#
select
*
from
get_background_links
limit
1;
time
|
host
|
req
|
status
|
size
|
referer
|
ua
|
city
|
latitude
|
longitude
|
-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐
+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐
+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐-‐+
04/Oct/2013:20:32:31
+0900
|
xxx.xxx.xxx.xxx
|
GET
/musicians/famous/
HTTP/
1.1
|
200
|
2172
|
http://www.sada.co.jp/index.html
|
Mozilla/5.0
(iPhone;
CPU
iPhone
OS
7_0_2
like
Mac
OS
X)
AppleWebKit/537.51.1
(KHTML,
like
Gecko)
Version/7.0
Mobile/11A501
Safari/9537.53
|
Osaki
|
38.5887
|
140.973
Redshiftのテーブルの
中身(地域情報を拡張)
18. 第18回 AWS User Group - Japan 東京勉強会
例2:地域情報の付与
•https://github.com/y-ken/fluent-plugin-geoip
•MaxMind社提供のgeoipデータベースを用いて、
IPアドレスから地域情報(緯度・経度・都市名)
を取得しデータに付与
•データベースは有償・無償ともに使用可
18
tableau で可視化
20. 第18回 AWS User Group - Japan 東京勉強会
•Fluentd x Redshiftについて。
•Fluentdを使うとデータの登録や加工が思いのまま
です。
•便利なので使いましょう。
•環境構築が面倒な方向けには「flydata」という便
利なサービスがあるらしいですよ
まとめ
20