SMAU MILANO 2023 | IA Generativa per aziende - come addestrare i modelli linguistici GPT nelle aziende
1. IA Generativa per aziende
Come addestrare i modelli linguistici GPT nelle aziende
2. Piacere, Nick
● Conversational AI Engineer (2015)
● Officina Tecnologica (2021)
● NLPV (2022)
● Holographic Humans (2023)
3. Generative Pre-trained Transformer
Large Language Model
● Enorme base di conoscenza
● Non è internet
● Prompt Engineering
Transformer
● Contestualizzazione sintassi
● Task operativi
4. ChatGPT
● MVP prodotto da OpenAI
● Accessibile a tutti
● Tool di Web Marketing
● Abbonamento mensile
● Non addestrabile
● Plugin servizi di altre aziende
APIs
● Accesso diretto a modelli GPT
● Accessibile a sviluppatori
● Customer care e Document Search
● A consumo
● Addestrabile
● Integrazione a propria azienda
5. CHATGPT
● Account
● Plugin
● Prompt
● Chat
PARAMETRI
● Temperatura
● Token
● Stop Sequences
● Top P
● Frequency Penalty
● Presence Penalty
Configurazione
API
● Modello
● Parametri
● Prompt
● Chat
MODELLI
● GPT Serie 4
● GPT Serie 3.5
● GPT Serie 3
● Whisper v2
● Dall-E v2
7. Sicurezza e Privacy
Aziendale
• Server dedicati in zona EU
• OpenAI non riceve dati/documenti
• Integrazione suite Azure (vedi PowerBi)
• Document Search
• CyberSecurity Microsoft
• Controllo su dati e modelli GPT
• Integrazioni architettura aziendale
8. Definire i task di un LLM
Plugin / Enterprise Fine Tuning / Embeddings
Tutor – Document Search – Code Interpreter – Traduzioni – Scraping
9.
10. Integrazioni tecnologiche
• Sintetizzatori vocali
• Motori grafici 3D
• Computer Vision
• AR / VR
• OCR
• Blockchain
• Robotica
• Centralini VoIP & Messaggistica Istantanea
11. Use Case Interni
• Document Search
• Manualistica Operatori Tecnici
• Assistenza / Automazione Software Gestionale
• Web Marketing (vedi ChatGPT)
Use Case Esterni
● Customer Care (e-com, helpdesk, manuali)
● Consulenza (legale, tecnica, acquisti)
● Prodotto (Vendor Machines, Automobili)
● Accoglienza (Infopoint, eventi, hotellerie)
12. Le alternative
• Playground
• Integrazioni API
• Task
• Modelli multimodali
• Pricing models
• Server dedicati
• Modelli open source (non in lista)
• Modelli task dedicati (non in lista)