Bleskurychlý nástup velkých jazykových modelů (LLM) jako ChatGPT a Bing zaskočil úplně všechny včetně jejich tvůrců. Možnosti, které ještě nedávno vypadaly jako sci-fi, se stávají realitou. Jestli LLM podceňujete – a jejich očividné nedostatky k tomu svádějí –, pravděpodobně děláte chybu. Budou se rychle zlepšovat a změní svět ve stejné míře, v jaké parní stroj rozjel první průmyslovou revoluci. Začíná hra, ve které bude hodně vítězů a stejně tak hodně poražených.

1. AI rychle a stručně
Konference AI Restart, 22. 6. 2023
petr.koubsky@denikn.cz

2. AI – velmi stručná verze
1. Vyjasnění pojmů (když dnes mluvíme o AI, mluvíme většinou o LLM)
2. Co LLM dělá a jak to dělá
3. Pravděpodobné důsledky
4. FAQ

3. AI – velmi stručná verze
1. Vyjasnění pojmů (když dnes mluvíme o AI, mluvíme většinou o LLM)
2. Co LLM dělá a jak to dělá
3. Pravděpodobné důsledky
4. FAQ

4. Vyjasnění pojmů
● ChatGPT ∈ LLM (large language models, velké jazykové modely)
● LLM ∈ AI (vědního a technického oboru zvaného umělá inteligence)
● Co dále patří do AI:
○ robotika
○ specializované systémy (šachy, go, rozpoznávání a syntéza hlasu, expertní systémy)
○ analýza dat, hledání vzorců a odchylek
○ vestavěné aplikace (Google Translate, Siri, Alexa…)

5. AI – velmi stručná verze
1. Vyjasnění pojmů (když dnes mluvíme o AI, mluvíme většinou o LLM)
2. Co LLM dělá a jak to dělá
3. Pravděpodobné důsledky
4. FAQ

7. Co to je LLM (jako například ChatGPT)
● LLM je matematický model jazyka
● Umí jednu jedinou věc: vybrat další slovo, jímž pokračuje zadaný text
Dobré si uvědomit, že:
● Model jazyka není totéž co jazyk
● Model jazyka není totéž co model světa
„All models are wrong, but some are
useful.“ – George Box, 1976

8. Strojové učení
„pes“

9. Strojové učení

10. Strojové učení
499 miliard
vstupů
175 miliard
vah
Pro GPT-3. Parametry vyšších modelů neznáme.

11. Další nezbytné triky, aby to fungovalo
1. Převod tokenů (≅ slov) do vektorového prostoru
(Word2Vec: král – muž + žena = královna)
2. Trénovací data
3. Seřizování podle velikosti odchylky (backpropagation)
4. Doplňkové nastavitelné parametry (temperature = míra náhodnosti)
5. Ruční dolaďování
6. Systémový prompt

12. AI – velmi stručná verze
1. Vyjasnění pojmů (když dnes mluvíme o AI, mluvíme většinou o LLM)
2. Co LLM dělá a jak to dělá
3. Pravděpodobné důsledky
4. FAQ

13. Zdroj: OpenAI: GPT-4 Technical Report, 16. 3. 2023
Co dnes dovedou
Vysvětlení k některým testům:
LSAT: přijímací zkoušky na práva
AMC 10: matematická olympiáda, 17 let
AMC 12: matematická olympiáda, 19 let
GRE: všeobecné znalosti (pro přijímací
zkoušky na VŠ)
Uniform Bar Exam: přijímací zkoušky do
US právnické komory
SAT EBRW: porozumění psanému textu
(pro přijímací zkoušky na VŠ)

14. Co to způsobí
● AI úplně všude (Google, Bing, Microsoft Office, Photoshop…)
● „Odkouzlení“ psaného textu
● Náhrada velké části netvůrčí duševní práce
○ co všechno je netvůrčí?
● Výrobu „textů z textů“ lze automatizovat
Tudíž:
● Otřesy na trhu práce, zánik a vznik profesí
● Další oblasti velkých změn: školství, věda, právo, etika
● Odpor (!)
● Nepředvídatelné následky dalšího vývoje

15. Co AI dovede dobře
● Seznamy nápadů a námětů, odblokování tvořivosti
● Jednoduché publikovatelné texty, viz např. https://www.mindhaste.com/cs
● Úřední a vnitrofiremní komunikace
● Nečekané věci (šachy, matematické úsudkové příklady)
● Analogie, rozvíjení příkladů
● Změna stylu a délky textu
● Vysvětlování
● Souhrny delších textů

16. V čem AI (zatím) selhává
● Faktické znalosti (pokud není propojena s hledáním na webu)
● Numerické výpočty (někdy se trefí, někdy ne – ve skutečnosti počítat neumí)
● Skutečná tvořivost, estetická hodnota
● Trpí „halucinacemi“

17. Musí se s tím umět zacházet
● Správně se zeptat – prompt engineering
● Znát oblast použitelnosti
● Sledovat novinky

18. Problémy a rizika
1. Věcná správnost podávaných informací
2. Výkonný generátor nesmyslů, fake news atd.
3. Autorská práva
4. Podvody
5. Předsudky v postojích AI způsobené vychýlenými trénovacími daty
6. Dopad na trh práce: některé profese zaniknou nebo poklesnou na významu
7. Rizika, která jsou prozatím sci-fi: samostatně jednající AI nadřazená člověku
(AGI)

19. AI – velmi stručná verze
1. Vyjasnění pojmů (když dnes mluvíme o AI, mluvíme většinou o LLM)
2. Co LLM dělá a jak to dělá
3. Pravděpodobné důsledky
4. FAQ

20. Časté otázky
1. Které konkrétní LLM si mohu hned vyzkoušet?
2. Jak/kde se naučit dnešní AI dobře využívat?
3. Dovede AI myslet?
4. Má/bude mít AI vědomí své vlastní existence?
5. Jak by se měla AI regulovat?
6. Měl by se její vývoj pozastavit? Představuje vážné nebezpečí pro lidstvo, jak
o tom někteří mluví? Co to je AGI?
7. V čem je člověk nenahraditelný?

21. Co si lze hned teď vyzkoušet
● ChatGPT
● Bing Chat (s prohlížečem Edge)
● Generátory obrázků: DALL-E, Midjourney, Stable Diffusion
● Tome (generuje něco jako prezentace)
● DeepL (jazykový překladač)
● Murf nebo Speechify (text to speech)
● Ask Your PDF
Náročnější:
● AutoGPT
● Leap

22. Kde se dozvědět víc
● E-learning Elements of AI (bezplatný, je i česky)
● AI dětem (výukové materiály)
● LessWrong (berte s rezervou!)
● Jak psát lepší prompty pro ChatGPT (jeden z mnoha příkladů)
● Jak psát sci-fi pomocí AI 😜
● S. RUSSELL, P. NORVIG, Artificial Intelligence: A Modern Approach,
Hoboken: Pearson Education, 2021
● S. WOLFRAM: What Is ChatGPT Doing … and Why Does It Work?

23. Jak stáhnout tuto prezentaci: https://bit.ly/ai2206pkou nebo QR kód:
Jak napsat autorovi: petr.koubsky@denikn.cz