Recommended
More Related Content
Similar to 20200429_ec
Similar to 20200429_ec (20)
More from Jamie (Taka) Wang
More from Jamie (Taka) Wang (20)
20200429_ec
- 2. 2 AI Workstations 訓練 用 的主機， 目 標中 小 型客 戶 ，新創團隊 AI Components 硬體加速元件與週邊硬體銷售 AIoT Edge Devices 邊緣裝置底板與外觀，公板與客製化服務 AIoT Software Packages 隨選式軟體套件銷售 雲端租 用 版，單機綑綁銷售版 AIoT電商賣些什麼? 迎廣AI企業形象的建立 第 一 階段佈局測試 水 溫 2020 Brand Image
- 3. 3 Open Problems AI 軟體 Nvidia 官 方 驅動 Nvidia CuDNN, Cuda 常 見 AI 開源框架軟體預載 作業系統 Windows OEM 授權購買 Linux 安裝 工 具包 系統組裝 跨國組裝 (初期可 用 海運取代) 燒機測試 工 具軟體 倉儲物流 國際物流價格即時計算 關稅相關問題 RMA相關問題 生 產履歷 元件價格浮動即時反應 元件庫存前後台串接 產品散熱與壓 力 測試報告 進度流程即時更新 第 一 階段 待解問題
- 4. 4 電商平台網站內容 Sitemap 購買選單 現代化的設計，參考蘋果公司線上訂購客製化 頁 面 銷售品項由 AI Workstation 開始擴展 (串接線上 金 流服務, e.g. Paypal, Amazon Pay) 技術論壇 常 見 問答集與使 用 者交流區 (串接付費雲端服務, e.g. Confluence, DISQUS) 線上客服 上班時間，消費者可以即時線上 文 字溝通 (串接付費雲端服務，e.g. intercom) 技術 文 章 各類型AIoT相關的軟硬體技術 文 章，硬體效能比較 文 章 (串接靜態網站 生 成器或者 wordpress)
- 5. 5 AI Workstation 硬體元件 Hardware Components 01 02 03 04 Nvidia GPU 不要選 Nvidia 創始板，選擇 after market 顯卡 選擇 Blower 而 不是 Open-Air 散熱設計 RTX 2080Ti, Quadro RTX 5000, 6000, 8000, Titan RTX PSU 插兩張顯卡 至 少 850W (不超頻) (全模組) 插四張顯卡 1600W (全模組) RAM 64G, 128G, 256G DDR4 Low-profile (避免擋到 cooler) DISK (1/2TB) NVMe M.2 (3500MB/s Read) 系統碟 (0/2/4TB) SSD (SATA) 資料碟 05 06 07 08 CPU Cooler 水 冷或空冷 (注意內部空氣對流空間) Intel CPU I9-9820X, 9920X, 9940X, 9960X, 300系列 (X299, ex: ASUS WS X299 SAGE) Xeon Gold 5218 2.3GHz AMD CPU 三代 ThreadRipper 3960X, 3970X, 3990X (TRX40) 二 代 ThreadRipper 2900X系列 (X399) Chassis 散熱空間，硬碟快拆，熱插拔 8 Slots, 裝得下 NVLink
- 6. 6 10% HEDT PSU 瓦數估算 250~300 150~200 Power Supply RTX GPU Intel CPU 其餘週邊 (300 x 2 + 200 x 1 ) x 1.1 = 880 (850W) (300 x 4 + 200 x 1 ) x 1.1 = 1540 (1600W) 2 GPUs 4 GPUs 電源連接器 (8-pin x 2 , 6-pin x 1) x 卡數 980 (1000W) 1640 (1700W) +100 AMD 39x0 CPU
- 7. 7 模型訓練的資料傳輸 Data Transfer Path HDD RAM CPU PCIE Slot GPU RAM 核 心 數 越多的CPU核 心 數對 資料前處理有很 大 幫助 大 量訓練資料需要從 硬碟塞到顯卡記憶體
- 8. 8 記憶體 高 度 Low profile RAM 記憶體時脈影響極 小 ，降低成本的地 方 Source: glob3trotters
- 9. 9 PCIe 匯流排 (CPU->GPU transfer) PCIe Lanes 44/68 24 48 56/72/88 CPU Family Lanes from CPU Intel Core X-series (X299) Intel 300 series (LGA 1151) Intel 2nd Generation Xeon® AMD ThreadRipper (TRX40) 48/60/64 AMD ThreadRipper (X399) 8條或16條速度影響也很 小 ，但 大 部分使 用 者很在意
- 10. 10 顯卡散熱系統 Video Card Coolers Blower Cooler Open Air Cooler All-in-One Cooler
- 11. 11 Source: mc.ai BAD for Multi-GPU GOOD for Multi-GPU
- 12. 12 NVLink 橋接器 除了 Quadro RTX 5000 用 特殊的 NVLINK 其他 RTX 可共 用 GeForce, Titan, Quadro 的 NVLink Video Card Bridge
- 13. 13 https://lambdalabs.com/ San Francisco, California https://bizon-tech.com/bizon-g3000.html Miami, Florida 美國本 土 已知整機業者 Competitors
- 15. 15 貼牌AI機殼 CORSAIR Carbide Series Amazon PCHOME 01 8 Slots 02 Airflow 03 140mm Fan
- 16. 16 Corsair Crystal Series 280X RGB Source: 280X
- 17. Source: anidees
- 20. 20
- 21. 21 AI 工 作者在意什麼？ What do they care about most
- 22. AI 工 作者在意的是 CP值 單位成本最 大 的 GPU 運算效能 顏值不是關鍵因素 價格 散熱是AI 工 作者最在意的問題 不好的散熱會讓運算效能 大 幅降低 雙箱設計，8 Slots 是 高 端 工 作站必要需求 散熱 電商成功的基礎在資訊流的透明度 資訊流即時性 C H I 22 決勝的關鍵 Key to Success
- 23. 23 AIoT產品電商平台的SWOT分析 優勢 機殼與電源供應器的 自 主設計能 力 系統組裝的長期經驗 良好的供應商關係 位處電 子 零件的供應鏈前端 擁有軟體開發的 子 公司 劣勢 市場的品牌形象已經確立 缺乏終端產品的售後服務經驗 整機測試的技術 力 還沒到位 新市場通路尚不熟悉 銷售預測的零件庫存管理經驗缺乏 生 產基地在亞洲 機會 AI 運算的硬體需求逐年提升 軟體機殼雙捆綁銷售帶動需求 建立 AI 軟硬體銷售的渠道 新商業合作機會的產 生 威脅 電競機種替代品眾多 關鍵零組件取得不易 產品屬於利基市場 與既有客 戶 可能利益衝突 產業進入 門 檻不 高 零件庫存資 金 壓 力
- 25. 25 A B C D 研究 高 CP值雙箱或其他機能性佳的機殼開發可 行 性 (熱對流視覺化，實機訓練溫度與噪 音 測試比較) 研究 1600W+ 針對4卡需求的全模組電源供應器開發可 行 性 盤點既有客 戶 或者機殼競爭對 手 有 AI Workstation 產品的客 戶 清單 (為了機殼與風扇 生 意做準備，台灣與美國業務) 調查美國市場 AI Workstation 廠商背景資訊與產品內容 (為了整機或者機殼 生 意做準備，迎棧科技) 不做決策，可以先做什麼 Action Items