Nei, UiA har ikke automatisert begrunnelse for sensur

Denne teksten er et debatt­inn­legg. Inn­holdet i teksten uttrykker forfatterens egen mening.

Takk til førsteamanuensis Røsvoll ved Universitetet i Innlandet og stipendiat Baste fra Universitetet i Oslo for deres debattinnlegg hvor de stiller flere spørsmål om utvikling av UiAs verktøy for KI-assisterte sensurbegrunnelser. Vi deler deres ønske om åpenhet og diskusjon om hvilke vurderinger som har blitt gjort og hvilke tiltak som har blitt gjennomført.

Diskusjonen om hvordan universitetene bruker KI er avgjørende for at vi lykkes, så vi bidrar gjerne. Vi svarte også Baste om vår pilot i 2024.

Aller først en presisering som er et viktig grunnlag for hvordan vi tolker spørsmålene deres, da flere av dem tar utgangspunkt i regler for helautomatiske systemer:

UiA har utviklet et KI-verktøy som kan støtte sensorene i deres arbeid med begrunnelse. UiA har altså ikke automatisert sensurbegrunnelser, slik forfatterne legger til grunn. Vi har heller ikke overlatt begrunnelsesplikten til en kunstig intelligens.

Debatt ● Tarjei Ellingsen Røsvoll og Øystein Flø Baste

Kan sensur­begrunnelser automatiseres?

Studentens karakter fastsettes av sensor. Først da kan KI-verktøyet utarbeide et utkast til begrunnelse på grunnlag av besvarelsen, eksamensoppgaven, sensorveiledningen og den allerede fastsatte karakteren. Heller ikke dette skjer automatisk. Vår løsning krever aktivt menneskelige innspill fra sensor.

Sensor laster opp de relevante dokumentene, og får et utkast til karakterbegrunnelse som hen må gjennomgå, redigere og så godkjenne. Deretter kan sensor ta begrunnelsen inn i eksamenssystemet og sende til studenten.

Den menneskelige involveringen er reell, og ikke bare en formell godkjenning. I veiledningen til sensorene for bruk av løsningen vektlegges det at KI-utkastet må redigeres, og at sensor skal opplyse studentene om at de har brukt KI. 

Det menneskelige ansvaret ligger fast, og studentene forventer og har rett til en korrekt, konkret og forståelig begrunnelse.

Kunstig intelligens

Nå kan ansatte få KI-hjelp til å begrunne karakteren

Vår vurdering er at sensurbegrunnelse i den utstrekning og form som UiA benytter, ikke kan anses som helautomatisert som definert i GDPR-lovgivningen. Sensor er reelt involvert og står ansvarlig for begrunnelsen.

Det er en vesentlig forskjell på om KI-systemer automatiserer karakterbegrunnelser, eller om utkast brukes som formuleringsstøtte basert på menneskelige vurderinger, slik tilfellet er hos UiA.

I risiko- og sårbarhetsanalysen vi har gjort for verktøyet, tar vi høyde for at menneskelige feil kan skje. Men her kan eventuelle feil i alle fall skje i et lukket system vi har kontroll på. Vi bruker ikke åpne løsninger hvor data kan lagres av andre.

Dialogen med Datatilsynet har bestått i en gjennomgang av våre løsningsforslag med dem, hvor de har gitt sine tilbakemeldinger på våre vurderinger. Datatilsynet uttrykte støtte til vårt endelige forslag.

KUNSTIG INTELLIGENS

En av fem fikk KI-generert begrunnelse i dette emnet

Flere av spørsmålene i innlegget til Røsvoll og Baste tar utgangspunkt i at UiA bør eller må kontrollere at de ansatte følger de etablerte rutinene og ikke misbruker systemet.

Vi tror at våre sensorer forstår og håndterer ansvaret for riktig sensur og gode begrunnelser på en god måte. Uansett er ikke tilgangen til akkurat dette systemet avgjørende, dersom noen i UH-sektoren skulle ønske å få KI til å gjøre all jobben for dem. Det kan man gjøre med de mest brukte KI-verktøyene og litt «klipp og lim».

Det ville av flere grunner, både kvalitetsmessig og personvernmessig, ikke vært en ansvarlig prosess.

Pilotprosjektets mål var å undersøke om KI kan bidra til bedre og mer konsistente begrunnelser som ble raskere levert til studentene, og som samtidig bidro til å spare tid for våre vitenskapelige ansatte.

Vi har testet gjennom flere semestre og fått innspill fra studenter og ansatte underveis. Verktøyet er flere ganger tilpasset. Det har for eksempel blitt mulig for sensor å legge inn egne notater fra sensurprosessen som grunnlag for KIs begrunnelsesutkast.

Debatt ● Espen Smith-Meyer

Automatisert sensur er galskap

Når vi nå stopper utviklingen, skjer det først og fremst fordi vi mener å ha utviklet et produkt som kan skrive utkast for begrunnelse av god nok kvalitet for at sensor kan ferdigstille dette selv.

I KI-utvalgets konklusjon skrev vi at universitetene bør utforske de nye verktøyene, men gjøre det åpent og etterprøvbart. Vi har delt erfaringer fra prosjektet underveis i ulike fora, f.eks. ved nettmøteserien «Vurdering for fremtiden» hos HK-dir, en samling for personvernombudene i UH-sektoren og i felles- og fagstrategiske enheter i UHR.

Vi har gjort informasjonen tilgjengelig ikke bare for ansatte og studenter, men også sektoren for øvrig gjennom en åpen nettside.

UiA er enige i at nytteverdi ved en slik løsning alene ikke er tilstrekkelig for å ta den i bruk. Løsningen må være faglig forsvarlig og ta vare på studentenes rett til personvern. Det mener vi at vår løsning gjør.

Igjen, takk for engasjementet og gode spørsmål. Vi trenger alle i sektoren å bli utfordret på hvordan og til hva vi bruker KI til.

KUNSTIG INTELLIGENS

Mener KI-utvalg overser rettslig problem