從 GitHub Copilot 到 Enterprise Copilot
打造符合企業需求的智能開發助手之路
Alan Tsai
簡單的自我介紹
• Alan Tsai
• 蔡孟玹
• 後端工程師 - .NET 技術為主
• 喜歡學習不同東西
• Azure
• Data Science、Chatbot
• Container、DevOps
• 加强開發的Tools、架構
• 翻譯文章/軟體
• 兩本翻譯書
• 三門線上課程
• 看小說、玩手游
@Alan Tsai 的學習筆記 4
教就是最好的學習方式 - 喜歡考證驗證所學
@Alan Tsai 的學習筆記 5
喜歡技術分享
• 2022 .NET Conf
• 談 Event Driven Architecture 之前
是不是該把 Event 規格搞定? CloudEvents 是什麼?
| 邁上 Cloud Native App 之路
• 2021 .NET Conf
• 不會 Javascript 沒關係
用 Blazor 來解決前端需求成為 Full Stack .NET 開發者吧
• 2020 Global Azure
• Azure API Management
協助邁向Open API及Micro Service架構的好用服務
@Alan Tsai 的學習筆記 6
喜歡技術分享
• Tibame
• AZ-900、AZ-104、AZ-204
• GitHub Copilot
企業導入,在製造業、金融業、服務業,已培訓近800人次
• Trainocate
• AZ-104、AZ-204、AZ-400、DP-200、DP-201、PL-900、DA-100
• 台灣智慧自動化與機器人協會
• 運用Python進行大數據分析、機器學習基礎理論課程及人工智慧 – ML.NET
• 中華電信學院
• DevOps與CI/CD實務研習班、Windows Container 技術實務班
• 使用Azure AI打造有人工智能的Line聊天機器人
@Alan Tsai 的學習筆記 7
歡迎訂閲、按讚 + 分享
FB 粉絲頁
http://fb.alantsai.net
Alan Tsai 的學習筆記
https://blog.alantsai.net http://yt.alantsai.net http://bili.alantsai.net
影片
contact@alantsai.net contact@alantsai.net
@Alan Tsai 的學習筆記 8
有多少人用過 GitHub Copilot?
@Alan Tsai 的學習筆記 9
有多少人公司有採買 GitHub Copilot?
@Alan Tsai 的學習筆記 10
有多少人認為用起來卡卡?
@Alan Tsai 的學習筆記 11
Agenda
• 什麼是 GitHub Copilot
• GitHub Copilot 帶來的效益是什麼?
• 如何打造自己的 Copilot
@Alan Tsai 的學習筆記 12
什麼是 GitHub Copilot
GitHub Copilot is an AI pair
programmer that offers
autocomplete-style suggestions
as you code
About GitHub Copilot for Individuals - GitHub Docs
@Alan Tsai 的學習筆記 13
什麼是 GitHub Copilot
You can receive suggestions from GitHub
Copilot either by starting to write the
code you want to use, or by writing a
natural language comment describing
what you want the code to do
About GitHub Copilot for Individuals - GitHub Docs
@Alan Tsai 的學習筆記 14
為什麼 GitHub Copilot
Research: quantifying GitHub Copilot’s impact on developer productivity and happiness
2022-09-07
@Alan Tsai 的學習筆記 15
為什麼 GitHub Copilot
The economic impact of the AI-powered developer lifecycle and lessons from GitHub Copilot​
2023-06-27
@Alan Tsai 的學習筆記 16
為什麼 GitHub Copilot
Survey reveals AI’s impact on the developer experience
2023-06-13
92%
U.S.-based developers
using AI coding tools​
70%
better code quality
completion time
57%
believe that AI
could help them upskill
@Alan Tsai 的學習筆記 17
為什麼 GitHub Copilot
永豐銀行導入微軟 GitHub Copilot 賦能開發加速金融創新
2023-11-22
90%
提升工作
效率與品質
86%
有效協助處理
例行工作
60%
加快 40 ~ 60%
開發時間
@Alan Tsai 的學習筆記 18
真的有那麼神嗎?
@Alan Tsai 的學習筆記 19
嘗試描述讓
Copilot 去產生
Code 再檢查正確
性以及是否符合
業務邏輯,這樣
有比自己寫 Code
還有效率嗎
是否可以題示開
發團隊內部的共
用函示庫, 而不
是每次將邏輯重
新寫一次
為何註解打完,
function 的外框寫好
(private void
function() { }),內容
並不會給建議,只會
在打到一半時的空白
鍵後(private void )給
建議?
對於較新的Library
(例如Confluent
Kafka) 能提供的建
議較少且不精確,還
是要回頭上網google,
導致可能會花更多時
間。
偶爾會遇到運算的時
間太久,自己打還比
較快。
若功能對應的程式碼
較多,一次無法全部
給出建議,要如何繼
續產生下面的建議程
式碼?
@Alan Tsai 的學習筆記 20
@Alan Tsai 的學習筆記 21
公司可以買github copilot給開發者使用嗎
@Alan Tsai 的學習筆記 22
影響 - 生成式 AI 的崛起
• ChatGPT偷家:Stack Overflow正被程式設計師拋棄,訪問量一個月
驟降3200W
• 受ChatGPT等AI Chatbot衝擊,Stack Overflow裁員28%
@Alan Tsai 的學習筆記 23
歡迎進入 1 人成軍的年代
@Alan Tsai 的學習筆記 24
Prepare Environment - Supported IDE
Visual Studio Code Visual Studio Jet Brains
neovim
Azure Data Studio
@Alan Tsai 的學習筆記 25
Visual Studio Code - Copilot Shortcut Key
@Alan Tsai 的學習筆記 26
GitHub Copilot Overview
@Alan Tsai 的學習筆記 27
Best Practice - 3S
▪ Single Responsibility
▪ One line one thing
▪ Specific Prompt
▪ Variable name
▪ userId vs Id
▪ Give example
▪ Constraint
package, style, etc
▪ Short Response
▪ Guide response
▪ Trust but verify
@Alan Tsai 的學習筆記 28
In the future
https://webinar.ithome.com.tw/2023/session
@Alan Tsai 的學習筆記
29
GitHub Copilot X
GitHub Copilot X @Alan Tsai 的學習筆記
30
GitHub Copilot X
https://githubnext.com/#projects
@Alan Tsai 的學習筆記 31
GitHub Universe 2023
Universe 2023: Copilot transforms GitHub into the AI-powered developer platform
@Alan Tsai 的學習筆記 32
如何產生出符合公司規範的程式碼?
@Alan Tsai 的學習筆記 33
GitHub Copilot 和 GitHub 有什麼關係?
@Alan Tsai 的學習筆記 34
使用 LLM 模型的 4 種模式
Four Ways that Enterprises Deploy LLMs | Fiddler AI Blog​
@Alan Tsai 的學習筆記 35
Prompt Engineering
Awesome ChatGPT Prompts
@Alan Tsai 的學習筆記 36
Prompt Engineering
ExplainThis
@Alan Tsai 的學習筆記 37
Prompt Engineering
Four Ways that Enterprises Deploy LLMs | Fiddler AI Blog​
@Alan Tsai 的學習筆記 38
Prompt Engineering
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
@Alan Tsai 的學習筆記 39
Prompt Engineering
生成式AI輔助之軟體開發指引
@Alan Tsai 的學習筆記 40
Prompt Engineering 是一門玄學
@Alan Tsai 的學習筆記 41
Retrieval Augmented Generation (RAG)
Retrieval Augmented Generation
(RAG) in Azure AI Search
@Alan Tsai 的學習筆記 42
Fine Tunning
Four Ways that Enterprises Deploy LLMs | Fiddler AI Blog​
@Alan Tsai 的學習筆記 43
Train your model
Awesome LLM
@Alan Tsai 的學習筆記 44
Train your model
Awesome LLM
@Alan Tsai 的學習筆記 45
Train your model
Meta’s first 65B LLaMa model training
took 1,022,362 hours on 2048 NVidia
A100-80GB’s (about $4/hr on cloud
platforms) costing approximately $4M
@Alan Tsai 的學習筆記 46
Train your model
How do Transformers work?
@Alan Tsai 的學習筆記 47
開發 LLM Application
The architecture of today’s LLM applications
@Alan Tsai 的學習筆記 48
LLM Architecture
The architecture of today’s LLM applications
@Alan Tsai 的學習筆記 49
What is Copilot
• The availability of LLMs has led to the emergence of a new software
application, often referred to as a copilot.
• Copilots are often integrated into other applications and provide a
way for users to get help with common tasks from a generative AI
model.
• Copilots are based on a common architecture, so developers can
build custom copilots for various business-specific applications and
services.​
@Alan Tsai 的學習筆記 50
Microsoft Copilot
@Alan Tsai 的學習筆記 51
What is Copilot Stack
@Alan Tsai 的學習筆記 52
What is Copilot Stack
@Alan Tsai 的學習筆記 53
Semantic Kernel
What is Semantic Kernel?
@Alan Tsai 的學習筆記 54
Prompt Flow
@Alan Tsai 的學習筆記 55
Prompt Flow
@Alan Tsai 的學習筆記 56
Prompt Flow
What is Azure Machine Learning prompt flow
@Alan Tsai 的學習筆記 57
結論
Visual Studio
Code Extension
@Alan Tsai 的學習筆記 58
Schillace Laws
Schillace Laws of Semantic AI
Don’t write code if the model can do it;
the model will get better, but the code won't
@Alan Tsai 的學習筆記 59
Resource
• Microsoft Ignite: Generative AI with Azure OpenAI
• A 12 Lesson course teaching everything you need to know to start
building Generative AI applications
@Alan Tsai 的學習筆記 60
61
62
63
2023/12/31前
輸入優惠碼【GAI85】
享85折優惠
歡 迎 至 微 軟 攤 位 洽 詢

從 GitHub Copilot 到 Enterprise Copilot:打造符合企業需求的智能開發助手之路 | .NET Conf 2023 Taiwan