1. AI för bättre hälsa
Rapport om nuläget för en konkurrenskraftig
svensk AI inom life science-sektorn
2020-03-02 / Marcus Österberg
2. Agenda
≈ 40 minuter
• Introduktion till begrepp(sförvirringen)
• Nuläget
• Utmaningar
• Vad vi behöver ta tag i
• Diskussion & frågor
Presentationen kan laddas ner på:
tba.nu/20200302
3. AI som begrepp (1 av 4)
“As soon as it works, no one calls it AI any more.”
– John McCarthy
4. AI som begrepp (2 av 4)
Imitation av mänskliga förmågor och färdigheter:
• Lära sig (maskininlärning)
• Se, tolka, kommunicera (datorseende, NLP, mfl)
• Röra sig, interagera (robotik)
Russel & Norvigs uppdelning – system som kan:
• Tänka mänskligt vs Tänka rationellt
• Agera mänskligt vs Agera rationellt
5. AI som begrepp (3 av 4)
Vad är det vi pratar om när vi säger “AI”?
En tänkbar definition:
1. Autonom men idag inom väldigt begränsade ramar.
2. Självlärande avseende att
maskininlärningsalgoritmerna har en förmåga att lösa en
uppgift.
3. Självförbättrande gäller vissa AI-system. I den mån de
förfinar sina algoritmer baserat på nya data den utsätts
för.
7. Nuläge
“Paradoxen; hur kan det vara så att vi säger att AI är
minst lika bra som mänskliga experter, å andra sidan så
verkar AI inte ens vara användbar i dagsläget?”
– Claes Lundström under seminariet Hur kan AI gå från
vision till verklig patientnytta? (Almedalen 2019)
8. Utmaningar (1 av 3):
Tre parallella generationer av AI
1. Gårdagens AI: Expertsystem inom bilddiagnostik,
OCR-skanning, etc.
2. Dagens AI: Oftast djupinlärning (neurala nätverk
alltså), men också naturligt språkbearbetning som
i chatbotar, digitala medicinska tvillingar, m.m.
3. Morgondagens AI: generell, multi-agent
9. Utmaningar (2 av 3):
AI förstår inte orsak och verkan – den
upptäcker korrelation
“[…] they don’t ascertain which things directly make
other things happen. It’s as if you knew that the
presence of clouds made rain likelier, but you didn’t
know clouds caused rain.”
– What AI still can’t do (MIT Tech Review, feb 2020)
10. Utmaningar (3 av 3)
• Regelverk. GDPR, Patientdatalagen, medicintekniska
regelverket, sekretesslagstiftningen.
• Hållbarhet.
• Digital mognad. Ska AI-folk möta domänexperter,
eller ska domänexperter bli bra på AI?
• Forskning > Innovation > Implementation. Väldigt
mycket på forskning.
• Dela mer! Av data, resultat, resurser, insikter,
upptränade modeller, etc.
11. Diskussionspunkt:
Vad vi behöver ta tag i
1. Regelverk
Vad får vi göra? Vad kommer vi få göra?
2. Hållbarhet
Inte bara teknikfrågor som är viktiga
3. Digital mognad
Vem ska göra vad? Beställarkompetens?
4. Forskning -> Innovation -> Implementering
Kortsluta systemet för att implementera mer?
5. Delande av data, resurser och resultat
Hur får vi in tredjeparts AI-modeller i FVM?
Det här är agendan.
Jag vet inte om det mest förvirrar, men många av presentationsbilderna vi kommer gå igenom har ute till höger boktips för de av er som är bokmalar likt mig och vill läsa mer om respektive typ av frågeställning.
>>
En anledning till att man inte hör så mycket om AI som är implementerad är den så kallade AI-effekten, vilket McCarthy som en av pionjärerna inom fältet, beskrev för cirka 60 år sedan.
Vi har ju redan AI i produktion, dock en annan generation. Så kallad GOFAI, Good old Fashioned AI, ibland kallad expertsystem.
En sorts uppdelning som är nära hur man tillämpar AI-teknik är att jämföra tekniken med vilka mänskliga förmågor och färdigheter man strävar efter. Listan kan göras mycket längre men här är några exempel.
Ett annat sätt är så som Russel och Norvig grupperat de kanske mer akademiska definitionerna I en klassisk fyrfältare.
Det finns tester som kanske gör denna indelning mer begriplig. Ett av de mer kända är turingtestet som går ut på att få en maskin att kunna kommunicera så bra att en människa inte kan avgöra om den kommunicerar med en maskin eller en annan människa. Det är alltså ett test för om en maskin kan “agera mänskligt” då man fokuserar på att agera och interaktion med människor.
Thinking Humanly
“The exciting new effort to make computers think . . . machines with minds, in the full and literal sense.” (Haugeland, 1985)
“[The automation of] activities that we associate with human thinking, activities such as decision-making, problem solving, learning . . .” (Bellman, 1978)
Thinking Rationally
“The study of mental faculties through the use of computational models.” (Charniak and McDermott, 1985)
“The study of the computations that make it possible to perceive, reason, and act.” (Winston, 1992)
Acting Humanly
“The art of creating machines that per- form functions that require intelligence when performed by people.” (Kurzweil, 1990)
“The study of how to make computers do things at which, at the moment, people are better.” (Rich and Knight, 1991)
Acting Rationally
“Computational Intelligence is the study of the design of intelligent agents.” (Poole et al., 1998)
“AI ...is concerned with intelligent behavior in artifacts.” (Nilsson, 1998)
Så lite beroende på hur man definierar AI kommer behovet av dess förmågor I olika ljus. Som att att AI:n behöver språkförståelse för att vara nyttig som en chatbot, eller att man behöver maskininlärning för att hitta relationer I större datamängder.
>>
Så vad är det vi pratar om när vi säger AI? Om vi utgår från Socialstyrelsens rapport från I höstas “Digitala vårdtjänster och AI I hälso- och sjukvården” finns där följande tre ingredienser som väl ingen
Autonom men idag inom väldigt begränsade ramar.
Självlärande avseende att maskininlärningsalgoritmerna har en förmåga att lösa en uppgift.
Självförbättrande gäller vissa AI-system. I den mån de förfinar sina algoritmer baserat på nya data den utsätts för, så kallad online learning. Vilket inom förstärkt inlärning är själva poängen då AI:n ska utforska olika möjliga lösningar.
Rapporten är inte stenhård I sin gräns gentemot mer alldaglig automatisering, likt de robotar och virtuella medarbetare som visserligen passar in I kategorin att de “agerar mänskligt” och kan vara lite granna autonoma. Men smarta är de knappast.
>>
Den här illustrationen är gjord av Cognilytica och tycker jag vänder på diskussionen på ett bra sätt. Den utgår från vad AI-tekniken är användbar till snarare än andra mer tekniska indelningar.
KLISTRA IN TEXT FRÅN RAPPORTEN OM DETTA.
Så hur är då nuläget för AI? Jag har (av ett förvånande litet antal personer) ibland fått kritik för att vara för negativ, andra har
Nuläget för AI sammanfattades väl av Claes Lundström under Almedalen förra sommaren. Det finns hur mycket som helst som är lovande, men väldigt lite av det nya är ute I produktion.
Gårdagens AI är den vi redan har i hälso- och sjukvården idag och samhället I stort. Där experter handgripligen kodat ner sina kunskaper på ett för maskiner begripligt sätt. OCR skannar vi väl allihop ibland när vi betalar räkningar och är väl inte längre särskilt imponerade (på tal om att AI som fungerar kallas inte för AI).
Dagens AI drog igång för circa fem år sedan I och med nyupptäckten av djupinlärning. Nu kan man också använda den beräkningskraft som finns till de större datamängderna och sortera upp dem, alltså träna en maskin. För att senare ställa frågor till AI:n.
Morgondagens AI kräver enligt experter mer än den teknik vi har idag. Djupinlärning kommer inte räcka till. Dagens
Vanligt bonnförnuft kräver att man förstår orsak och verkan. Detta har dagens AI inget riktigt grepp om. Som citatatet beskriver så kan en AI inte förstå att moln orsakar regn, bara att förekomsten av moln ökar sannolikheten för att det ska regna.
Det arbetas på problemet med att försöka få AI-tekniker att begripa orsak och verkan, men jag är inte rätt person att ha en åsikt om eller när vi kan vänta oss någon lösning. Däremot är
Det saknas inte saker vi kan ta tag i. Jag har för enkelhetens skull försökt gruppera dem lite efter typ av åtgärd, eller område kanske, och lagt in exempelfrågor.
När det gäller regelverk…
Regelverk. Hur ska GDPR praktiseras? Hur blir regelverk ett stöd och inte ett hinder? Ska vi ha en nationell eller europeisk molninfrastruktur till stöd, och när kan vi använda utomeuropeiska företags moln?
Hållbarhet. Hur blir tillämpningen av AI ansvarsfull och transparent? Hur tillförlitliga är AI-lösningar över tid?
Digital mognad. Är arbetstagare och invånare redo att låta sina liv styras av algoritmer de troligen inte kan förstå? Hur sammanför vi domänexperter med dem som kan AI-teknik, eller ska domänexperterna lära sig mer om AI?
Forskning -> Innovation -> Implementering. Hur ska vi utvärdera AI-forskningens resultat för att prioritera insatserna? Fynden måste förädlas genom en innovationsprocess mot stundande implementering.
Delande av data, resurser och resultat. I Sverige behöver vi dela med oss i större utsträckning! Att dela med oss av de resurser vi har, skapa etablerade modeller som kan användas av fler och inom fler områden, samt samarbeta om data. Swelife 😍 AI kör CC0 när vi kan och delar gärna!
>> Det var det, hoppas ni inte känner er missmodiga, för det finns massor med möjligheter och många av utmaningarna är nog intressanta sysslor.