Ny rapport gir verktøy for trygg bruk av KI

Rapporten springer ut av planen for trygg og effektiv innføring av kunstig intelligens (KI) i helse- og omsorgstjenesten (Felles KI-plan) som ble lansert i august 2024.

– Både de som jobber i helse- og omsorgstjenesten, pasienter og pårørende skal være trygge på at KI-løsningene som innføres holder like god som eller bedre kvalitet som de tradisjonelle tjenestene, sier Aunan.

Dette er bakgrunnen for at Helsedirektoratet nå lanserer rapporten som skal gi helse- og omsorgstjenesten støtte i å ta i bruk KI-systemer. Rapporten kommer i tillegg til den tverretatlige regulatoriske veiledningstjenesten som gir én-til-én-veiledning i bruk av kunstig intelligens-systemer.

– Rapporten er spesielt relevant for personer som er involvert i ulike vurderinger og beslutninger knyttet til å planlegge, anskaffe, ta i bruk og drifte KI-systemer, men kan også være interessant for ansatte virksomheter som tar i bruk KI, leverandører av KI-systemer, pasienter og helsemyndighetene, mener Aunan.

Svarer på konkrete behov

– Bruk av KI-systemer er en del av løsningen på utfordringene vi har med bærekraft i tjenesten. De kan bidra til å effektivisere og gi bedre tjenester. Derfor er vi i Helsedirektoratet en pådriver for at helse- og omsorgstjenesten tar i bruk slike løsninger, sier Aunan.

I rapporten beskrives de juridiske rammene, hva som er pålagte krav etter relevant regelverk, og til dels hva som er lurt. Den inneholder også kapitler om risikohåndtering, validering og etiske prinsipper.

–  Vi har jobbet med denne rapporten i tett samarbeid med flere bÃ¥de pÃ¥ myndighetssiden og ute i tjenesten. Den svarer pÃ¥ helt konkrete behov som tjenesten sitter med nÃ¥, forteller Aunan.

Hun forteller at hun oppfatter helse- og omsorgstjenesten som ivrige etter å ta i bruk KI, og tror den nye rapporten vil gi dem god støtte.

Støtte i alle faser

Rapporten gir støtte i ulike faser. Den inneholder veiledning til de som vurderer å anskaffe en KI-løsning, de som har besluttet dette og skal gjennomføre en anskaffelsesprosess og til dem som skal innføre et slikt system. Helt konkret omtaler den seks faser:

1. Beskrive utfordringen og vurdere om KI er løsningen: Definere behovet og gjøre overordnet risiko- og kost-nyttevurdering.
2. Kartlegge KI-systemer på markedet: Vurdere KI-systemenes overenstemmelse med regelverk, samt KI-systemenes ytelse, kvalitet og nytte.
3. Vurdere egen virksomhets evne til Ã¥ ta i bruk et KI-system: Vurdere bÃ¥de menneskelige og tekniske faktorer, samt gjøre risiko- og sikkerhetsvurderinger og oppdatere gevinstberegninger. 
4. Anskaffe et KI-system: Planlegge anskaffelsesprosedyre, utarbeide kravspesifikasjon og vurdere tilbud.
5. Innføre og kvalitetssikre et KI-system: Gjøre risiko- og konsekvensvurderinger, validere KI-systemet på egne data, gjennomføre organisatoriske og tekniske tiltak og lage plan for drift og forvaltning.
6. Drifte og forvalte et KI-system: Overvåke, drifte og vedlikeholde KI-systemet, sørge for kontinuerlig kvalitetsforbedring, realisere gevinster og dele erfaringer.

Rapporten ledsages av faktaark som konkretiserer ulike områder ytterligere.

Veiledning som må vedlikeholdes

– KI er et fagområde som er i rask bevegelse og med ny lovgivning på trappene. De mer konkrete grensegangene mellom EUs forordninger for medisinsk utstyr, personvern og kunstig intelligens må avklares. I tiden som følger vil denne rapporten derfor måtte oppdateres etter hvert som kunnskapen og nytt regelverk formes, understreker Aunan.

Forvaltning og videreutvikling av rapporten skjer gjennom det videre arbeidet med Felles KI-plan som skjer i tett samarbeid med helse- og omsorgssektoren.

Ut over Helsedirektoratet som har ledet arbeidet med rapporten, har representanter fra følgende virksomheter bidratt:

• Direktoratet for medisinske produkter
• Folkehelseinstituttet
• Statens helsetilsyn
• Direktoratet for strÃ¥levern og atomsikkerhet
• Helse Sør-Øst RHF og
• Sykehuspartner HF

I tillegg har et brukerpanel med representanter for følgende organisasjoner bidratt:

• Haukeland universitetssykehus
• Akershus universitetssykehus
• Universitetssykehuset i Nord-Norge
• Bærum sykehus
• Stavanger kommune
• Drammen kommune
• Trondheim kommune
• Bergen kommune
• KS
• LIVV Health
• Senter for pasientnær KI (SPKI)
• Det norske Veritas
• Norsk Regnesentral
• Sykehusinnkjøp
• Nasjonalt senter for e-helseforskning

Kompetansenettverket Kunstig intelligens i norsk helsetjeneste (KIN) har løpende bidratt med faglige innspill og diskusjoner. 

Les hele rapporten for å komme i gang med trygg bruk av KI

Rapporten vil også bli presentert på et seminar 15. januar