Kunstig intelligens - Hvordan det påvirker oss allerede og fremover
•Download as PPTX, PDF•
0 likes•6 views
Foredrag på Eiksmarka Rotary, Juni 2023 om hvordan dagens AI fungerer, muligheter, begrensninger og hvordan ting ser ut til å gå videre
Recommended
More Related Content
Similar to Kunstig intelligens - Hvordan det påvirker oss allerede og fremover
Similar to Kunstig intelligens - Hvordan det påvirker oss allerede og fremover (20)
More from Jens Brynildsen
More from Jens Brynildsen (20)
Kunstig intelligens - Hvordan det påvirker oss allerede og fremover
- 1. Foredrag på Eiksmarka Rotary Jens Chr Brynildsen, Juni 2023 Kunstig intelligens Hvordan det påvirker oss allerede og fremover
- 2. Litt om meg og hva jeg gjør • Utdannet lydtekniker, men bruker det sjelden • Jeg programmerer og utvikler elektronikk • Ekstremt faglig nysgjerrig • Foreleser “Embedded Systems” på Høyskolen Kristiania • Er en av de som driver Bitraf, Norges største Hackerspace og Makerspace
- 3. Eksamen kommer … og du har brukt tiden på å feste • Du har hørt alle de andre studentene prate om AI og ChatGPT • Du setter deg ned og lærer hvordan du skal bruke AI-verktøyene • Du bruker AI til å levere ikke bare kode, men også teksten i dokumentasjonen
- 5. ChatGPT Generative Pretrained Transformer • En massiv språkmodell trent opp på all tekst på internett • Du kan skrive inn en komplisert problemstilling • Kan forstå det som beskrives og kan svare på problemet • Det kan være vanskelig å skille en samtale med ChatGPT fra det å prate med et menneske
- 7. ChatGPT er helt fantastisk! • Fordi samtalen er så overbevisende er det mange som tror på det den skriver • Ikke bare kan den skrive tekst, men den kan også forstå innhold i bilder, forklare hvorfor ting er morro eller trist • Om litt kommer en versjon av ChatGPT som er integrert med matematikk- programmet Wolfram og da kan den også løse avanserte matematiske problemer
- 9. ChatGPT har et problem… • ChatGPT kan ingenting om noen ting, men den er utrolig god på å vite hva som kommer som neste ord • Den kan med andre ord ikke evaluere sannhetsgraden i hverken det du putter inn eller det som kommer ut • Den er opplært på så enorme mengder tekst at det ikke er mulig for et vanlig menneske å forstå hvor mye dette er
- 10. • Den vet ingenting om hver enkelt ting, men den vet hvordan ting er i forhold til hverandre (statistisk) • Epler kan være røde, grønne og gule • Bananer kan være grønne eller gule • Epler er ganske runde, mens bananer bare er delvis runde Hvordan ChatGPT virker
- 18. • Dagens modeller har egenskaper man ikke forstår og i mange tilfeller ikke vet om • For noen måneder siden ble det sendt ut et åpent brev der man ba om en stans i utrullingen (ikke utviklingen) av store språkmodeller som ChatGPT • Mer enn 30.000 kjente navn innen IT og AI signerte oppropet AI-pause?
- 20. i Microsofts Bing søkemotor • Motoren i ChatGPT brukes også i Microsoft sin Bing søkemotor • I denne bruken koster det ikke penger å bruke AI. Man bare klikker på Chat-fanen i nettleseren • Man stiller spørsmål på samme måte, men svarene er generelt mye mer fornuftige • AI kommer også i alle andre av Microsofts programmer ChatGPT
- 22. og hvordan markedet styrer utviklingen av AI • 57% av Google’s omsetning i 2022 kom fra søkeresultater • Google legger til AI i Google søk, men også i Gmail, Docs, Meet, Sheets, Slides… Søkemotor-krigen
- 28. blir som vi former den • Dagens AI-systemer er ikke spesielt intelligente, men de er allerede nyttige • De er et resultat av å skalere opp eksisterende metoder basert på enorme mengder data • De neste årene vil det komme langt mer intelligente løsninger • Disse bør reguleres slik vi regulerer medisiner, gen-manipulering og farlige våpen Fremtiden med AI
- 29. Spørsmål?
Editor's Notes
- Jeg er utdannet lydtekniker, men har endt opp med å jobbe 25 år som programmerer. De siste 10 årene har jeg primært jobbet med å lage elektronikk og programvare for elektronikk. Kontoret mitt er på et sted som heter Bitraf - der jeg har alt som trengs av verktøy for å produsere avansert elektronikk. På grunn av dette har jeg endt opp med å både lage og forelese et par fag på Høyskolen Kristiania. Jeg lærer studentene om disse små datamaskinene som styrer alt i hverdagen vår. Ikke PC’er, men de små systemene som styrer bilen din, mikrobølgeovnen, TV’en og kanskje også lyspærene i huset ditt.
- I forbindelse med jobben min som foreleser har vi fått et nytt problem i år: at studentene har hørt at ChatGPT kan skrive eksamen for dem
- Det er noe med denne teksten som ikke virker som det er skrevet av en student som er 23 år gammel og er i sitt fjerde semester. Det virker som om man prøver å selge noe i stedet for å forklare hvordan løsningen virker? I dette tilfellet er studenten rett og slett så dårlig på å bruke AI-verktøy at jeg oppdager det. Det samme gjelder koden vedkommende leverte. Jeg kan se at det som er levert ikke passer med det som skal leveres. Jeg løste selv eksamen med AI-verktøy og den oppgaven ville fått en D etter 1,5 timers jobbing. Neste år? En C kanskje?
- Jeg tror faktisk ikke at det var så mange av studentene som brukte dette verktøyet i år, men jeg er sikker på at til neste år kommer mer enn halvparten av studentene til å benytte seg av dette i en eller annen grad. Jeg sier verktøy konsekvent, for det er akkurat det dette er. Det er et verktøy, men det er ulikt veldig mange andre verktøy vi har, fordi vi kan snakke til det. Så kort forklart ser det slik ut: du skriver tekst i et vindu og så svarer ChatGPT. Spørsmålet kan være avansert og programmet analyserer hva du skriver og så svarer det. Det er trent opp på mer eller mindre all teksten som finnes på Internett og det er jo ganske mye? La oss teste litt?
- Sånn som dette ser det ut. Du bare skriver inn et spørsmål og så svarer den. Dette svaret her er jo ikke så galt? Medlemstallet er jo feil siden Rotary nå har 1.4 millioner medlemmer, men ChatGPT er lært opp på tekst som ble oppdatert frem til September 2021, så det kan forklare avviket. Det er altså slik at du kan spørre om absolutt alt i hele verden og så kommer den med et svar som virker helt korrekt. Det er jo ikke rart at studenter bruker dette til å jukse på eksamen?
- Så for utrolig mange formål er dette en imponerende teknologi. Og den står på ingen måte stille. Frem til nå har man klart å lure programmet når det gjelder matematikk, men om noen måneder blir det helt umulig. For de som følger med på utviklingen så er det faktisk vanskelig å henge med. Det skjer mange nye ting hver eneste uke at jeg vil si at det ikke er praktisk mulig å følge med på alt som skjer. Det var ikke sånn med AI-forskning før i tiden. Det gikk sakte og ble primært utført på universiteter og høyskoler. Denne måte å bruke masse data til å produsere nye data (Generative forhåndtrente modeller) har tatt helt av. Og det har noen store svakheter også. La oss stille den et spørsmål om klubbens formann - Odd Malme.
- Dere ser nok noen svakheter med dette svaret? Med ekstremt stor sikkerhet presenteres det ikke bare når Odd ble født og døde, men også hvor han gikk på skole og de mest kjente oppfinnelsene han gjorde. Men hvis man går dette svaret i sømmene, så er det meste her oppspinn? Det finnes ingen Malme født i Bergen i 1867. Du kan faktisk ikke stole på noe som helst av det som ChatGPT sier. Hvordan kan den finne på å presentere slike ting? Dette har med hvordan teknologien virker.
- ChatGPT er bare et dataprogram som forutsetter det neste ordet. Det vet ingenting om sannhet eller hva som er virkelig eller fantasi. Den vet bare enormt mye om hva som statistisk er neste ord. Det som er fascinerende med dette er at man har forsket på AI i lang tid, men først nå datakraften ble stor nok kunne man laste inn helt enorme mengder data. Man bruker disse dataene til å lære systemet opp til hvordan forskjellige ord henger sammen. Det som er fascinerende er at når systemet ble stort nok, så lærte det seg ting man ikke kunne forutse. Det kunne oversette mellom språk det ikke egentlig var lært opp i - fordi den matematiske modellen var i stand å se koblinger som ikke vi kan se. Men hvordan virker dette da?
- Det er vanskelig å forklare hvordan denne typen verktøy fungerer, men dette er den beste forklaringen jeg har hørt. Her har vi en graf der vi har farge bortover X-aksen og langs Y-aksen beskriver vi hvor mye formen ligner på en sirkel. Ved å plassere forskjellige bilder av epler og bananer langs disse to aksene har vi laget et system for å bestemme om noe er et Eple eller en Banan. Vi mennesker sliter med å forstå slike systemer når vi går fra 2 dimensjoner, til 3 og flere dimensjoner. Datamaskiner har ikke denne begrensningen og den finnes heller ikke i matematikk. Man kan ha så mange dimensjoner og relasjoner man ønsker i forhold til hverandre.
- AI kan brukes til å lage morsomme bilder slik som dette der vi har bedt om at en viss president skal stå i et treningsstudio og vise frem musklene.
- Men han er jo selvfølgelig ikke sterkere enn denne karen? Som dere ser kan bildene bli ganske overbevisende.
- På de første bildene i denne presentasjonen ba jeg Midjourney om å lage bilder av studenter som jobbet foran en skjerm, men i Manga-stil. Til og med grafen for å plassere bananer og epler er AI-generert, men så har jeg lagt bilder oppå den for å plassere ting.
- De forrige eksemplene var litt for overdrevne. Hvis vi ikke ber om så store muskler, blir bildet mer troverdig. Man skulle nesten tro at dette var tatt av en ekte fotograf? Midjourney vet mye om hvordan bilder skal se ekte ut.
- Måten dette fungerer på er at du gir noen referanse-bilder og så ber du Midjourney om å forestille seg bilder. Man kan spesifisere i hvilken sammenheng ting skal skje, så her har Obama blitt DJ.
- Det er ingen begrensing på hvilken sammenheng man kan putte folk i, men det er blitt lagt inn noen begrensninger som gjør at det ikke skal ligne altfor mye på originalene. Denne ble ganske bra?
- Her er hvordan mitt forsøk på å lage en muskel-versjon av Jonas Gahr Støre. Det er jo en viss likhet, men det stemmer ikke helt? Så dette er jo morro, men det er mange mørkere sider ved AI som er viktig å snakke om.
- Det store problemet er faktisk ikke at modellene presenterer ting som ikke er sant. Det største problemet akkurat nå er at det har startet et race om å bli best på AI. Har dere hørt om dette åpne brevet som ble publisert i Mars 2023 av ledere innen IT og AI? De ber om at det tas en pause i å slippe nye, store modeller på markedet inntil vi har sett nærmere på sikkerheten rundt dette. Det vil også gi politikerne tid til å tenke seg om, for utviklingen går mye raskere enn politiske prosesser. Det er mange grunner til at dette er nyttig.
- Et stort problem med slike modeller er at man ikke helt vet hva de kan. At man kunne lure ChatGPT til å fortelle hvordan man laget bomber var for eksempel noe man fikk vite flere måneder etter at den ble lansert. Med så store og komplekse språkmodeller kan man aldri hindre folk i å misbruke eller lure modellene. De er jo tross alt trent på all teksten som finnes på internett, så all kunnskap vi har på nettet et sted finnes også i disse modellene.
- Microsoft har integrert ChatGPT i sin Bing søkemotor. Som dere ser treffer denne MYE bedre på informasjon om Odd. Den bruker samme teknologien, men på en annen måte enn hos de som oppfant den. Man kan også bruke Microsoft sin løsning i tre forskjellige moduser der man kan tillate forskjellige grader av “frihet” eller fleksibilitet i svaret. Legg også merke til at det hele tiden presenteres referanser til hvor innholdet kommer fra. Dette kan alle bruke i dag, men det er begrensninger i hvor mye man kan spørre om per dag. Men så bra da? De har fikset problemene?
- Basert på presse-oppslag har kanskje noen av dere hørt at Microsoft sparket de ansatte som jobbet med AI-sikkerhet? Det er ikke helt korrekt. Teamet for AI-sikkerhet i Microsoft heter Office of Responsible AI (ORA) og jobber der fortsatt, men timingen for når denne nyheten kom var uheldig. Men lanseringen har virkelig gjort at Bing har gått fra å bli brukt som underholdning til å bli en snakkis. Dette er en virkelig nyttig måte å bruke AI på.
- Nå er det jo slik at for Google som får 57% av omsetningen sin fra søkemotor-relaterte inntekter, så må jo de svare når Microsoft plutselig begynner å ta markedsandeler. Løsningen er selvsagt å legge til AI også hos Google. Og når man har dårlig tid, så har man ikke tid til altfor mange protester. Ansatte mente for eksempel at Google’s chatbot Bard var en notorisk løgner og at den kunne gi råd som direkte førte til at folk døde. Hvordan slike dårlige råd kan skje har vi jo sett eksempel på. Det er en funksjon av teknologien man bruker.
- Alle ansatte som hevdet at det var farlig å lansere Google sine nye tjenester fikk beskjed om å ikke stille seg i veien for utviklingen eller å finne seg en ny jobb. Noen høyt profilerte prøvde å bremse, men det gikk ikke. Her skulle man ikke tape. I følge bransjen er akkurat dette er det største problemet innen AI akkurat nå. Det mangler styring på utviklingen av AI. Det er fort å tenke at dette bare er et verktøy, men det er en forenkling. Dette er et verktøy som kan læres opp til akkurat hva som helst. Det kan hjelpe deg å lage verdens beste kake men det kan også hjelpe deg å drive verdens beste krig.
- Firmaet Palantir er en av verdens største innen analyse av data. De er eid av Peter Thiel som noen av dere sikkert kjenner til fra Paypal. Palantir har nå lansert en plattform for beslutningsstøtte i krig som er drevet av en lignende språkmodell. Så sikkerheten til barnebarna deres kan i fremtiden bli bestemt av en relativt presis matematisk modell… Det kan jo kanskje være at den er mer presis enn menneskelige beslutninger, men jeg tror det kan være nyttig at noen fører en viss kontroll med AI på samme måte som vi fører kontroll med andre ting som har vidtrekkende følger.
- Det at firmaer bruker AI er jo ikke noe nytt. Når du bruker Facebook er det en grunn til at du stadig får spennende og interessante historier. Dette er drevet av AI og formålet er å få deg til se på flere reklamer slik at Meta tjener mere penger. Det er ikke noe feil i å tjene penger. Vi er alle avhengige av å gjøre det på en eller annen måte, men AI skaper en helt annen klasse med problemer. Det at ungdom ikke ikke klarer å legge fra seg telefonen eller å se på filmer som er lengre enn 60 sekunder, er bare småproblemer for det som kommer med AI.
- Disse bildene er fra en lengre video som forklarer godt hvordan AI forandrer reglene for alt vi stoler på i dag. Det finnes ingen grenser for hva vi kan automatisere på sikt og jeg vil anbefale dere å ta en titt på denne videoen. Særlig AlphaPersuade er interessant. Det er en tjeneste som kan overtale hvem som helst til å tro hva som helst - gjerne i en kombinasjon av falske nyheter. Og ikke minst så kommer ting som vi ikke vet om enda. Men nå er jeg veldig negativ. Det kommer masse nyttig ut av AI også!
- I April kom for eksempel denne nyheten. Et AI verktøy kan nå helt presist detektere kreft. Jeg har en venn som har jobbet med akkurat dette - å automatisere det å finne hvilke deler av en video som lege skal se på fra et endoskopi-kamera. Da rekker han å analysere mange flere pasienter og prisen på undersøkelsene vil gå ned slik at flere kan undersøkes. Det renner inn med slike historier om felt der AI revolusjonerer kompliserte problemer innen helse.
- AI slik det fremstår i dag er ingen trussel mot menneskeheten, men vi begynner å tydelig se hva som kommer fremover. Jeg tror det er en forutsetning at man finner måter å styre utviklingen av AI på. Jeg har god tro på at AI kommer til å gjøre livet på jorden bedre og at det ikke utsletter oss, men teknologien blir bare så god som man lager den. Hvis man bare forteller en AI at de skal utrydde kreft, ja da kan de finne på å drepe alle mennesker fordi det løser problemet. Hvis vi derimot kan lage en AI-modell som kan analysere seg frem til hvordan man får kroppen til å forstå at den må angripe kreftcellene vil dette gå riktig bra. Dette er en teknologi og hvis vi ikke styrer den, så kan den ta styringen.