Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Digital tentamen - blir förändrade arbetssätt

219 views

Published on

Presentation vid Tentamenskonferens vid KTH i Sthlm, 2018-10-12. Mats Brenner, för Projekt Digital tentamen II - SUNET Inkubator.

Published in: Education
  • Did you try ⇒ www.WritePaper.info ⇐?. They know how to do an amazing essay, research papers or dissertations.
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here
  • Have you ever used the help of ⇒ www.HelpWriting.net ⇐? They can help you with any type of writing - from personal statement to research paper. Due to this service you'll save your time and get an essay without plagiarism.
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here
  • Be the first to like this

Digital tentamen - blir förändrade arbetssätt

  1. 1. Digital tentamen – blir förändrade arbetssätt Mats Brenner, IKT-pedagog vid Högskolan i Gävle – Learning Center Projekt Digital tentamen II – SUNET Inkubator 2018-10-12 Tentamenskonferensen 2018 | KTH Målet är att bespara manuellt administrativt arbete och utveckla formerna för kunskapsprövning och öka kvalitet i examination.
  2. 2. Nya sätt examinera och kunskapspröva… REF: http://www.serolearn.com/ http://perigeantechnologies.com/ E-Exams E-assessment Digital tentamen Datoriserad tentamen
  3. 3. Nationellt projekt – Digital tentamen II Projekt Digital tentamen genomfördes under år 2015. Under hösten 2017 och 2018 så fortsätter projektet Digital tentamen II. Rapporten Datoriserad tentamen (170 sidor) – som ger en översikt hur digitalisering av arbetsprocesserna kan genomföras från ax till limpa av den traditionella papperstentamen med salsskrivning. Webbplats: http://bit.ly/2zmN4y6 eller https://wiki.sunet.se/display/Inkubator/Digital+Tentamen+II
  4. 4. Webbplatsens innehåll • Rapporten (2015) som är en HANDBOK – från ax till limpa • Systemlösningar • Webbinar (alla spelas in) • Erfarenhetsrapporter, forskning, IT-standarder och exempel på rutiner • Vanliga frågor Hur går en digital tenta till egentligen - studentperspektiv? Digital examination och hur de kan hanteras - lärare/examinationsperspektiv? Vilka lärosäten har vilka systemlösningar för Digital tentamen? Provsekretess vid e-examination? Webbplats: http://bit.ly/2zmN4y6 eller https://wiki.sunet.se/display/Inkubator/Digital+Tentamen+II
  5. 5. Erfarenheter och verktyg på projektets webbplats Analys av viktigaste behoven och verksamhetskritiska faktorer
  6. 6. Projekt Digital tentamen II – projektavslut Aktiviteter under hösten 2018 • Informationsarbete och erfarenhetsspridning; På plats på landets lärosäten, konferenser, webbinar, webbplats och inom ITHU • Stöd kring integrering med LADOK3 och andra beroendesystem • Underlag för eventuell gemensam systemlösning för datoriserad tentamen, utifrån befintlig kravspecifikation (från projektet Digital Tentamen, 2015).
  7. 7. Projekt Digital tentamen II – nu ökar takten Uppdrag Huvudmålet med projektet Digital Tentamen II är att skapa en fortsatt grund för lösningar runt digital tentamen för samt vidareutveckla samarbetet och erfarenhetsutbytet mellan lärosäten.
  8. 8. Digitaliseringen på lärosätena 1. Lärplattformar, LMS 2. Webb- och videokonferenssystem 3. Mediaportaler och appar 4. Pågång: Systemlösningar för digital tentamen 5. Fler kan använda: Integreringar mellan beroendesystem (LIS, LTI etc) 6. Diskuteras/Få använder: E-portföljer 7. Påbörjat: AR och VR samt spelbaserat lärande 8. Nya former för digital autentisering som iris, finger och ansiktsskanning
  9. 9. Administrativa stödet har inte digitaliserats 1. Intresset och prioritet att investera i digitalisering och förbättrade stöd-arbetsrutiner saknas. Nu låg digitaliseringsgrad. 2. Medvetenheten om stödverksamhetens arbetsverktyg saknas, även jämförande översikt över alla lärosätenas rutiner saknas. 3. Kompetensutveckling och it-stöd kan förbättras. 4. Nya förändrade arbetssätt kan införs i och med digitalisering. 5. Nya roller för lärare, examinatorer och administrativ personal. 6. Studenter lär sig nya rutiner och regler, även förhållningssätt.
  10. 10. Kritiska designprinciper – digitalisering • Underhållsmässighet: Om lösningen kan anpassas eller återanvändas för att möta mer än ett behov/möta flera behov. • Kompatibilitet: Om lösningen kan dela information med andra lösningar så att användare kan dra fördel. • Effektivitet: Om lösningen driver kostnads- och tidsbesparingar. • Maintainability: Whether the solution can be adapted or reused to meet more than one need. • Compatibility: Whether the solution can share information with other solutions such that users can benefit. • Efficiency: Whether the solution drives cost and time savings. REF: When.. ”decide that the fundamental design principles for supporting educational technology are agility and interoperability – all technology must enable adaptation to changing environments.” URL: https://encoura.org/helping-institution-realize-vision-five-edtech-companies-watch/ och http://pubs.opengroup.org/architecture/togaf8-doc/arch/chap29.html
  11. 11. Viktiga faktorer vid införandet Ledarskap från toppen Institutionellt engagemang och investeringar Robust och tillförlitlig infrastruktur Effektivt och tillgängligt stöd & utveckling för akademisk personal Förmåga att demonstrera fördelarna av upplevelse för student, lärare och administrativ personal Evidensbaserat beslutsfattande och en kontinuerlig förbättringscykel
  12. 12. Vad vi investerar i tid och kompetens får vi tillbaka – mål bespara manuellt administrativt arbete och utveckla formerna för kunskapsprövning och öka kvalitet i examination Inputs • What we invest … e. g. infrastrucure/integrations (LTI, LIS) • Staff time, Tech expertice, Systems, Training, User Group Outputs • Less time on tasks for teachers and administrators • Better student experiences Outcomes • Lower indirect costs and costs per exam • Better quality and more flexible forms of exams
  13. 13. Salstentamen – fördelar och nackdelar Fördelar • Salsskrivningar är rättssäkra då det exempelvis minskar riskerna för olika former av fusk. • Formen är välbekant för de flesta studenter. • Med genomtänkta strategier, uppgifter och bedömningsgrunder kan djupinlärning stimuleras. Nackdelar • Salsskrivning kan vid ovarsamhet uppmuntra ytinlärning. • Studenterna kan vara pressade av tidsbegränsningar och att vara i form vid tillfället för salsskrivning • Uppgifter som stimulerar djupinlärning kan ge hög rättningsbörda för läraren.
  14. 14. Salstentan – en av flera examinationsformer Studenter och elever i Sverige är inte så vana med summativa (High Stake) testsituationer. Kortkortprovet, ja. Här finns en erfarenhet av digitalt test/certifiering. Men vi har inga inträdesprov (endast vid konstnärliga utbildningar) eller t ex examensprov som i Finland. Open Book e-exams ovanligt. Test och provsituationer känns förstås ovant då en inte gör de så ofta eller lärt sig studieteknik för att fokusera på en större prestation under längre tid, med tidspress. Högskoleprov är inte avgörande för att söka till högre studier. Lärarutbildningar har få eller inga salsskrivningar som tentamen – mestadels används hemtentor och gruppuppgifter. REF: http://www.provainfact.se/publish/examination/9127- Examinationsformer___vanliga_och_mindre_vanliga/index.html#/9291
  15. 15. Sista pappersbastionen… Högskolan i Gävle har 47% distansstudenter och 17000 studenter - därför endast ca 8000 papperstentor. Örebro universitet 66000 papperstentor, med 17000 studenter. Jmf med Högskolan i Skövde, ca 8000 studenter med 22000 papperstentor. Göteborgs universitet (GU) med Chalmers ca 125000 papperstentor, ca 10000 digitala tentor 2017 enligt GU. Linköping har minst 130000-140000 tentander som gör papperstentor (5000 tentor) Större lärosäten som Uppsala och Lund har över 100000 papperstentor vardera. Totalt kan vi nog räkna med över 500000 - 700000 papperstentor/år. En del digitalisera! Lärosätena ha alltför många papperstentor fortfarande…
  16. 16. Status hos lärosätena? • Förvaltningsläge: Sophiahemmet högskola, GU, KAU, JU, ORU, LU (juridiska, medicinska), SU, HiG, UU nu senast klar med upphandling klar/integrering/utrusta lokaler etc. • På väg: Flera universitet har pilotprojekt, förstudier, projektgrupper eller upphandling t ex MDH, LU, HB, UMU etc. • Flera universitet har test licenser med leverantörer – har pilottestning. • Universitet som inte startat: KTH, Luleå, Linnéuniversitetet, Linköpings universitet, Södertörns högskola, Mittuniversitetet. Se projektet webbplats för uppdatering > Frågor och svar
  17. 17. Lärosäten inför nu datoriserad tentamen • Införs nu på bred front datoriserad tentamen, både med studenternas egna datorer (BYOD) och med lärosätes datorutrustning. • Testverktyget i sina lärplattformar används, andra har upphandlat speciellt anpassade systemlösningar för e-exam/digitala tentamen. • Lärare, IKT-ped och pedagogiska utvecklare testar, kompetens- utveckling kring frågetyper, lär sig systemlösning och arbetar in nya rutiner med tentabokning. Tentavärdar utbildas. • IT-arkitekter involverade, integreringslösningar med LADOK3 bl a LIS (enligt standard IMS-One Roster) • Studenter är positiva
  18. 18. Skolorna inför digitala nationella prov och förstudie görs kring digitalisering av HP-provet • Redan nu i höst så påbörjas införande av digitala nationella prov på skolorna. Lärosätena konstruerar dessa prov. • Digitalisering av Högskoleprovet utreds. Projektet representerar lärosätena inom SHUF. • Förutsättningarna vid lärosätena blir avgörande för skolan (lärarutbildningen, lärarstudenter, lärarutbildare) och HP-provet (flexibla former – ger förändrade inträdeskrav)
  19. 19. Varför digital examination? Ett axplock. • Studenter skriver stora mängder för hand – svårtydd textmassa. Studenten kan inte redigera. Efter 70 min skrivkramp. Möjlighet förkorta examinationstiden. • Studenten kan använda verktyg som de är vana vid – sin egen dator, ordbehandlare eller webbläsare. • Rättningen för lärare eller grupp av lärare underlättas. • Automatisk överföring till LADOK3 möjlig. Integrering med lärplattformar möjligt. • Möjliggör nya former av examinationer, studenter kan kommentera filmklipp, kommentera direkt i pdf-dokument. • Ytterligare stärka anonymiteten. Ökar rättssäkerheten. • Eliminera transport av papper, risk för borttappad tenta minskar – ökar rättssäkerheten • Utlämning av olika former av examinationer kan elimineras d v s utlämnandet av tentamina (Provsekretess vid e-examination)
  20. 20. Använda fler representationsformer – fler frågetyper Digital media (multimodal): bilder, video, videoquiz, podcast, animeringar, simuleringar, interaktiva element VR, AR eller 3:dje part programvara Fördelar: Ökade representationsformar för tentand visa sina kunskaper, förmågor och färdigheter Fler frågetyper och frågebanker för lärare att nyttja för test/prov, versionshantering Möjligheter till automatisk rättning & feedback Ger data/användarstatistik för att förbättra mätningsinstrumenten, spårbarhet
  21. 21. Vad kan SUNET:s LMS Canvas? Webbinar 24/10, kl. 14:00 Använda Canvas för digital tentamen Produktägare vid SUNET, Minette Henriksson berättar om möjligheterna och begränsningarna att använda Canvas för digital tentamen. Plats: http://connect.sunet.se/tentamen Frågetyperna blir flera och kunskapsprövning kan ske på fler sätt och mer specifikt. På tid, mer autentiskt, vid begränsningar med digitalt stöd.
  22. 22. Fördelarna med datoriserad tentamen Fördelarna (Brenner & Sandström, 2015) med datoriserad tentamen är bl a att bedömning/rättning kan ske snabbare (30-70%) och bättre med högre kvalitet utförd, då det blir enklare när studenternas svar är digitala – då framförallt genom: • Att använda digitala bedömningsmallar • Att fler lärare är med och granskar/gör bedömning med rättningsprotokoll (Moderation) • Att studenternas svar är och lärarnas bedömning är anonym • Att lärarna kan sitta var som helst för att göra sin rättning/bedömning • Att lärarna enklare och flexiblare kan kommentera i dokument, markera på bilder m m som feedback till studenter
  23. 23. Fördelar lärare/examinator • Översiktligt och enkelt med fler representationsformer • Tidsbesparande, mindre arbetstid behövs emot manuellt för rätta/bedöma • Enklare bedöma, hitta de som gjort samma fel och därmed få en bättre och mer likvärdig bedömning • Sparar tid i utformning och poängsättning • Kan ha flera examinatorer • Kan ha negativa poäng, ge extra poäng • Använda plausibla svar och goda distraktorer • Kan ha mallar för tenta (antal frågor, typ av frågor, begränsar/standardiserar) • Kan använda 3:djeparts applikationer – streaming av programvara för autentisk tenta • Spara och återanvända frågor i frågebank • Enklare utvärdera frågor och frågetyper • Plagiatkontroll går genomföra • Prestationerna bättre – läsbart, omdisponerad text, kan infoga bilder/skisser • Anpassning för studenter med funktionsvariationer förbättras
  24. 24. Funktionshinder och funktionsvariationer Krav på testsituation och programvara som används: • Lokalen (tillgång till mindre rum - lugn och ro, ståbord, belysning, rullstolsanpassning etc) • Publicering för extra skrivtid • Använda egen dator med speciell programvara t ex för talsyntes, rättstavningsprogram för svenskspråkiga som skriver engelska eller som rättar stavfel och grammatikfel på svenska • Intuitiv och tydlig navigation • Storlek och färg på text och bakgrund kan justeras • Talsyntes kan användas • Snabbtangenter användas • Texteditor stödjer skrivarbetet i olika representationsformer • Rita med digital penna, mus med scanner, musplatta med extra funktioner (interoperabilitet) • Format ska stödjas, text (Ascii), matematiska symboler, bildformat, ljud/video-filer, interaktiva objekt
  25. 25. Learning Analytics Students profil och förkunskaper (testade) Prestationer Aktiviteter Betyg, bedömningar, poäng Närvaro (även mobilt) Statistik Diskrepans (avvikelser/skillnader) Förbättra frågor till test/prov/tentor Följa studentens studie-, användar- och interaktionsmönster Stödja svaga elever/studenter/kursdeltagare Nyttja befintlig data som stöd för utveckla läromedel och examinationsformer
  26. 26. Learning Analytics (Objektanalys) – för kvalitetssäkring
  27. 27. Nya examinationsformer - snabbare analyser
  28. 28. Flera färdiga systemlösningar finns
  29. 29. Arbetsprocessen digitaliseras Förberedelse Tentamen Bedömning Efterarbete
  30. 30. Arbetsprocessen digitaliseras – rutiner och regler ändras Förberedelse Tentamen Bedömning Efterarbete Stödsystem – bokning/anmälan, planering, tentamensspecifika, IT-standarder (krav på IT-arkitektur, interoperabilitet) Lokalanpassningar - ström, nät/WiFi och möblering Anpassning funktionshindrade Datorer - studenternas egna (BYOD), surfplattor/portabla eller i datasalar ID-hantering (anonymisering) och övervakning - monitoring/proctoring (GDPR) Överföring av data och arkivering – säker datalagring, rättssäker (GDPR)
  31. 31. Arbetsprocessen digitaliseras – management/kvalitet Förberedelse Tentamen Bedömning Efterarbete Roller och behörighet i system och systemförvaltning - access, säkerhet, kvalitetsarbete, versionshantering - spårbarhet i hela arbetsprocessen Provkonstruktion - frågetyper, frågebanker, Learning Analytic, förbättringsarbete, immateriella rättigheter (frågebanker), metadata för söka/beskriva frågorna i kategori, kunskapsnivå, sökord Testsituationen - autentisering, funktionshinder, säker webbläsare/låsa skärm, ej kommunicera via internet, övervakning/säkerhet, incidenthantering, intern IT-kompetens Bedömning- och betygsättning via digitala bedömningsmallar – Kriterier, bedömningsmallar (Rubrics) och referensramar för kvalifikationer – kopplingen till lärandemål (Learning Outcomes) Resultathantering – feedback/besked till tentand, Objektanalys (Learning Analytic) förbättringsarbete. Arkivering (notera: GDPR)
  32. 32. Hur hanteras fusk?
  33. 33. Säkerhet/Risk: examinationformer (high stake)
  34. 34. Minska möjligheterna till fusk Randomisera frågor med frågebank En fråga åt gången Låsa skärm – ingen internet Övervaka dataskärm Ej kunna backa Avskärma
  35. 35. Säkerhet – Level of Assurance (LoA)
  36. 36. Har våra papperstentor validitet & reliabilitet? • Standard error of measurement (SEM), Analyzing individual questions (items). Discriminator (incorrect options) discrimination, Difficulty index, Cronbach-alpha, Writing Good Multiple Choice Test Questions, • Multifactor evaluation (Learning Analytic) - With Exam overview (i realtid, faktabaserat beslutsunderlagstyrka valet av examinationsfrågorna) • Pass marks, pass/fail, Grade, pass mark, pass rate, discrimination • Question preformance (Pearson’s % item discrimination) • Candidate performance, score discrimination Avarage SD • Difficulty vs Discrimination • Excluded items Reliability consistency, reproducibility - a reliable test (repeat the test with the same results). Cronbach-alpha, measure over 0.0 considered good .90 and up excellent .80-.89 good .70-79 adequate Below .70 lower or acceptable Item discrimination is measured in two different ways. 20% low and 20% highest. The range are +1 to -1. Above 0.4 very good Above 0.2 OK Below 0.1 Little or no value Below 0.0 Negative impact on test, should be removed Discriminator (incorrect options) discrimination Measure how well the incorrect answers distract from the correct answer If distractor is never or seldom chosen, then why have them Rewriting distractor can improve a question Difficulty index Easy or difficult Different from item discrimination Q close to 100% correct don’t add not any value Incorrect most are also poor question 20% (in 1 out of 5) means 80-40% is good, an indicator that the question has a problem
  37. 37. Kompetensutveckling Tentakonferens, NU2810.se & ecdea.org E-assessment & E-exams Frågor och Frågetyper – skapa, skriva och utvärdera samt kvalitetssäkra Utvecka stödjande rutiner och bättre säkerhet Examinationsformer Representationsformer 3:dje parts programvara Autentiska VR/AR
  38. 38. Varför har vissa inte kommit igång ännu? Ledarskap från toppen Institutionellt engagemang och investeringar Robust och tillförlitlig infrastruktur Effektivt och tillgängligt stöd & utveckling för akademisk personal Förmåga att demonstrera fördelarna av upplevelse för student, lärare och administrativ personal Evidensbaserade beslutsfattande och en kontinuerlig förbättrings- cykel Organisationer som saknar beställarkompetens är inte ovanligt vid digitalisering. Det är svårt att veta vad en inte vet, inte känner till!
  39. 39. Digital tentamen är… Digital transformation & verksamhetsutveckling • Ta position - börja pilottesta • Välj rätt vågor - omvärldsanalys (bevaka, agera eller ignorera) • Gör det mesta av vågorna (vad som ändå kommer) – ha engagemang, nyttja andras erfarenheter och gör investeringar 1. Mobilisering – skapa pilottester och skapa projektgrupp med IT-avdelning, tentabokning, IKT-stödorganisationen och sprid erfarenheter från andra lärosäten 2. Koordination – samverka med alla nödvändiga intressenter för rutiner och kompetensutveckling samt upphandla robust systemlösning 3. Acceleration – skala upp, integrera och ständiga förbättringar med datastöd
  40. 40. Rekommendationer • Skapa inte egna systemlösningar – för kostsamt • Börja med pilottester med intresserade lärare/examinatorer – vinn tid och erfarenhet • Samla alla intressenter – förankra • Ledningsbeslut och dokument – bra, men får inte bli hyllvärmare • Nyttja projektets resurser – besök andra lärosäten
  41. 41. Frågan om gemensam upphandling Upphandling via SUNET LIS Integrering LADOK3 Intresset Kravspecifikation Disclaimer/ansvarsfriskrivning: ”Det finns absolut mycket att lära av de som lyckats bra, men förutsättningarna runt om i landet kan vara så olika för alla lärosäten och fakulteter ska kunna göra lika. (Jmf. Införandet och arbetsrutiner kring LADOK3).”
  42. 42. FRÅGOR OCH TACK! Mats Brenner, projektledning Projekt Digital tentamen II- SUNET Inkubator Kontakt: mats.brenner@hig.se , tfn: 026-64 82 18, 070-350 02 33 Webbsidan/kontaktadresser: http://bit.ly/2zmN4y6 https://wiki.sunet.se/display/Inkubator/Digital+Tentamen+II

×