本スライドは、弊社の梅本により弊社内の技術勉強会で使用されたものです。
近年注目を集めるアーキテクチャーである「Transformer」の解説スライドとなっております。
"Arithmer Seminar" is weekly held, where professionals from within and outside our company give lectures on their respective expertise.
The slides are made by the lecturer from outside our company, and shared here with his/her permission.
Arithmer株式会社は東京大学大学院数理科学研究科発の数学の会社です。私達は現代数学を応用して、様々な分野のソリューションに、新しい高度AIシステムを導入しています。AIをいかに上手に使って仕事を効率化するか、そして人々の役に立つ結果を生み出すのか、それを考えるのが私たちの仕事です。
Arithmer began at the University of Tokyo Graduate School of Mathematical Sciences. Today, our research of modern mathematics and AI systems has the capability of providing solutions when dealing with tough complex issues. At Arithmer we believe it is our job to realize the functions of AI through improving work efficiency and producing more useful results for society.
本スライドは、弊社の梅本により弊社内の技術勉強会で使用されたものです。
近年注目を集めるアーキテクチャーである「Transformer」の解説スライドとなっております。
"Arithmer Seminar" is weekly held, where professionals from within and outside our company give lectures on their respective expertise.
The slides are made by the lecturer from outside our company, and shared here with his/her permission.
Arithmer株式会社は東京大学大学院数理科学研究科発の数学の会社です。私達は現代数学を応用して、様々な分野のソリューションに、新しい高度AIシステムを導入しています。AIをいかに上手に使って仕事を効率化するか、そして人々の役に立つ結果を生み出すのか、それを考えるのが私たちの仕事です。
Arithmer began at the University of Tokyo Graduate School of Mathematical Sciences. Today, our research of modern mathematics and AI systems has the capability of providing solutions when dealing with tough complex issues. At Arithmer we believe it is our job to realize the functions of AI through improving work efficiency and producing more useful results for society.
6月6日に実施された、ソーシャルCRMプラットフォームを活用した情報交換コミュニティ「みんなのドットコムマスター広場」のオープンについての記者発表会資料です。
なぜドットコムマスターで?NTTコムチェオが?ソーシャルCRMを使った取り組みを行うのか、分り易く説明されています。
また、このコミュニティは日本でほぼ初めてLirhium Community Platformを利用しており、その特長についても分り易く説明されていますので、ぜひご覧ください。
GPU の分析への応用などの基礎技術の進化とクラウドの爆発的な普及に伴い、だれもが使いたいときに使いたい時だけ高性能なマシンリソースを使える時代が到来し、家電、スマホ、ビジネスアプリケーションなどありとあらゆるものに AI が搭載されているとうたわれ、一部のデータサイエンティストが担っていた高度な分析や深層学習のフレームワークもエンドユーザーで使いこなす人も少なくありません。
一方で、AI や深層学習という言葉が独り歩きし、まず AI 導入ありきでプロジェクトが始まり、目的が失われ頓挫するようなケースや、予測した結果についての妥当性について説明がつかず、結果がうまく利用できないようなケースも見られるようになってきました。
今回のセミナーでは、AI や高度な分析についての最新トレンドと、その使いどころについて、実際の事例や経験などを踏まえお伝えします。
NIPS2013読み会: More Effective Distributed ML via a Stale Synchronous Parallel P...Shohei Hido
NIPS2013読み会の発表資料です。
Qirong Ho et al, "More Effective Distributed ML via a Stale Synchronous Parallel Parameter Server", NIPS2013.
http://media.nips.cc/nipsbooks/nipspapers/paper_files/nips26/631.pdf
【DLゼミ】XFeat: Accelerated Features for Lightweight Image Matchingharmonylab
公開URL:https://arxiv.org/pdf/2404.19174
出典:Guilherme Potje, Felipe Cadar, Andre Araujo, Renato Martins, Erickson R. ascimento: XFeat: Accelerated Features for Lightweight Image Matching, Proceedings of the 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2023)
概要:リソース効率に優れた特徴点マッチングのための軽量なアーキテクチャ「XFeat(Accelerated Features)」を提案します。手法は、局所的な特徴点の検出、抽出、マッチングのための畳み込みニューラルネットワークの基本的な設計を再検討します。特に、リソースが限られたデバイス向けに迅速かつ堅牢なアルゴリズムが必要とされるため、解像度を可能な限り高く保ちながら、ネットワークのチャネル数を制限します。さらに、スパース下でのマッチングを選択できる設計となっており、ナビゲーションやARなどのアプリケーションに適しています。XFeatは、高速かつ同等以上の精度を実現し、一般的なラップトップのCPU上でリアルタイムで動作します。
セル生産方式におけるロボットの活用には様々な問題があるが,その一つとして 3 体以上の物体の組み立てが挙げられる.一般に,複数物体を同時に組み立てる際は,対象の部品をそれぞれロボットアームまたは治具でそれぞれ独立に保持することで組み立てを遂行すると考えられる.ただし,この方法ではロボットアームや治具を部品数と同じ数だけ必要とし,部品数が多いほどコスト面や設置スペースの関係で無駄が多くなる.この課題に対して音𣷓らは組み立て対象物に働く接触力等の解析により,治具等で固定されていない対象物が組み立て作業中に運動しにくい状態となる条件を求めた.すなわち,環境中の非把持対象物のロバスト性を考慮して,組み立て作業条件を検討している.本研究ではこの方策に基づいて,複数物体の組み立て作業を単腕マニピュレータで実行することを目的とする.このとき,対象物のロバスト性を考慮することで,仮組状態の複数物体を同時に扱う手法を提案する.作業対象としてパイプジョイントの組み立てを挙げ,簡易な道具を用いることで単腕マニピュレータで複数物体を同時に把持できることを示す.さらに,作業成功率の向上のために RGB-D カメラを用いた物体の位置検出に基づくロボット制御及び動作計画を実装する.
This paper discusses assembly operations using a single manipulator and a parallel gripper to simultaneously
grasp multiple objects and hold the group of temporarily assembled objects. Multiple robots and jigs generally operate
assembly tasks by constraining the target objects mechanically or geometrically to prevent them from moving. It is
necessary to analyze the physical interaction between the objects for such constraints to achieve the tasks with a single
gripper. In this paper, we focus on assembling pipe joints as an example and discuss constraining the motion of the
objects. Our demonstration shows that a simple tool can facilitate holding multiple objects with a single gripper.
14. ⾃動運転応⽤(2/3):LIDARなど豊富なセンサー vs. カメラ中⼼
l 多種センサー:⾼精細な深度情報 ←→ ⾒た⽬の課題、⾼コスト(改善中)
l 画像センサー中⼼:低コスト ←→ 深度・遠⽅情報が不⾜し低精度(改善中)
Lyft and Drive.ai partner on Bay Area self-driving ride-hailing
pilot, Darrel Etherington, TechCrunch
⾬天夜間⾛⾏のデモ動画あり [youtube]
Drive.ai
Tesla Autopilot:前後左右遠近8種類のカメラ+超⾳波+レーダー
https://www.tesla.com/autopilot
15. ⾃動運転応⽤(3/3):個別モジュール vs. ⼀気通貫モデル
l 個別モジュール:旧来の認識→経路計画→制御の⼀部をディープラーニングに
l ⼀気通貫:センサー⼊⼒から直接アクセル・ブレーキ・ハンドル制御を出⼒
Adding Navigation to the Equation: Turning Decisions for
End-to-End Vehicle Control [Hubschneider+, 2017]
Perception, Planning, Control, and Coordination for
Autonomous Vehicles [Pendleton+, 2017]
18. エンターテイメント応⽤(2/2):モーション⽣成, セレブ顔合成
Progressive Growing of GANs for Improved Quality,
Stability, and Variation [Karras+, 2017]
Phase-Functioned Neural Networks for Character Control [Holden+, 2017]
https://www.youtube.com/watch?v=Ul0Gilv5wvY
l 3DCGキャラの⾃然な動きや、実在しないセレブの⾼精細画像も合成
28. AIビジネスコミュニティとしてDeep Learning Lab (DLL)を⽴ち上げ
l AzureとChainerを主要プラットフォーム・フレームワークとするコミュニティ
l https://dllab.connpass.com/
l DLLコミュニティイベント4回(159→239→260→386名)
l NVIDIA Deep Learning Instituteとの共催イベントを地⽅4都市開催
l 参加企業のキカガク様のセミナー、Ridge-i様のNHK⽩⿊映像カラー化事例等
https://www.kikagaku.co.jp/services/dnn-seminar/ 第4回イベントの様⼦(Ridge-i様撮影)
31. l データ解析に必要なものが全てパッケージング(Windows/Linux両対応)
l 分析:開発環境 / データ基盤 / 機械学習ツール
l GPUサポート:CUDA / cuDNN
l DL:フレームワーク / 関連ツール
ChainerおよびCV/RLはAzure Data Science VMにプリインストール済み
https://azure.microsoft.com/en-us/services/virtual-machines/data-science-virtual-machines/
38. ChainerMN on Azure: 伸び続ける学習時間を解決
l Azure内のInfiniBand環境を活⽤し128GPUで約100倍の⾼速化を実現可能
l XTREME DESIGN様のHPCテンプレートでChainerMN環境を10⽉から提供
1
10
100
1 2 4 8 16 32 64 128
https://www.slideshare.net/hironojumpei/chainermnxtreme-dna-hpc-cloud
39.
40. まとめ
l ディープラーニングの産業応⽤
l 画像認識アプリケーションを中⼼とした商⽤化が加速
l 多種多様なデータを⽤いた複雑な実問題への取り組みも開始
l それを⽀える技術
l ソフトウェアとハードウェア双⽅の激しい開発競争:⾼速化、⼤規模化、標準化、
l ユーザー層の拡⼤、研究者だけでなく技術を使いこなせるエンジニアの育成
l Preferred Networksの取り組み
l Chainerをコアに、最先端の研究やMS等パートナーとの協業、⼤規模DL基盤の整備
l 製造業や⾃動運転、バイオヘルスケアを中⼼としたビジネス展開を推進
Preferred Networksでは⼀緒に戦うパートナー・仲間を募集しています