ETI deltar i regulatorisk sandkasse

Datatilsynet har plukket ut fire prosjekter som får delta i den regulatoriske sandkassen. Enklere tilgang til informasjon (ETI) er en av de heldige som har fått være med.

- Det var 20 prosjekter som søkte om å bli en del av sandkassen, og vi er strålende fornøyde med at vi ble valgt ut, sier Tuva Føleide Knutsen, prosjektleder for Alvorlig sykt barn, som har ETI i sin portefølje.

Datatilsynets regulatoriske sandkasse er ifølge datatilsynet.no opprettet for å fremme innovasjon og digitalisering med fokus på personvern. Sandkassen støtter enkeltaktører i å følge regelverket og utvikle løsninger som ivaretar personvernet på en god måte.

Prosjektene som deltar utforsker bruk av generativ AI. 1. Co-pilot på NTNU 2. LawAi fra Juridisk Abc 3. HelseSvar og ETI 4. Ahus -alderstilpasset pårørendepålogging.

Bildetekst: Enklere tilgang til informasjon (ETI) er veldig fornøyde med å delta i den regulatoriske sandkassen, et initiativ fra Datatilsynet. Illustrasjonsbilde. Kilde: Unsplash

Samarbeider med HelseSvar

I sandkasseprosjektet samarbeider vi med prosjektet HelseSvar fra Helsedirektoratet. HelseSvar utforsker om kunstig intelligens (KI) kan brukes som støtteverktøy for å besvare spørsmål om helse fra ungdom. Selv om løsninger og målgrupper er noe ulike så møter vi mange av de samme problemstillingene. Vi er fortsatt i en tidlig fase der prosjektene bruker mye tid på ulik testing av teknologien, så det å utveksle erfaringer er gull verdt.

- Dette er nybrottsarbeid! Vi trenger mange kloke hoder for å få til gode utredninger. Og forhåpentligvis får vi etter hvert et godt nok grunnlag til å implementere løsningene. Ved å samarbeide så tett oppdager vi en del synergier, og får anledning til å dele kunnskap hyppig underveis. Det er ressursbesparende samtidig som det gir større og raskere gevinster. Jeg gleder meg til å se hva vi lander på når sandkasseprosjektet er ferdig, sier Adélie Dorseuil, prosjekteier for HelseSvar. Hun er også Helsedirektoratets koordinator for sandkasseprosjektet.

Tilpassede svar og robust personvern

I prosjektet "Enklere tilgang til informasjon" undersøker vi hvordan kunstig intelligens (KI) kan sammenstille informasjon fra ulike aktører. Et sentralt spørsmål er om KI også kan benyttes til å besvare spørsmål direkte fra brukerne av løsningen.

Målet er at brukerne skal skrive inn informasjon om sin egen situasjon og få tilpassede svar tilbake, noe som vil gi mer spesifikk informasjon og øke verdien av løsningen. Ofte er spørsmålene generiske og ikke tilknyttet enkeltpersoner. For eksempel lurer mange på hvem som har rett til BPA (brukerstyrt personlig assistanse) eller hvordan man går frem for å søke om tjenester. Samtidig vet vi at enkelte situasjoner er helt unike, som ved sjeldne diagnoser. I små kommuner kan en problemstilling være at informasjonen teknisk sett kan identifisere personen som søker. Derfor er det avgjørende å ha robuste mekanismer på plass for å sikre personvernet.

“Sandkassen” er viktig for ETI

Vi er også klar over at innbyggerne ofte benytter seg av andre KI-løsninger, som kan generere uriktige svar, og hvor det er usikkert hvor godt personvernet ivaretas. Dette understreker behovet for kvalitetssikrede alternativer.

- Bruken av generativ KI for å besvare spørsmål fra innbyggere er lite utprøvd i offentlig sektor. Dette er et nytt felt som krever nøye vurderinger og grundig testing. Vi er forpliktet til å utvikle løsninger som ikke bare er effektive, men også sikrer at personvernet til brukerne blir ivaretatt på best mulig måte. Derfor er regulatorisk sandkasse så bra for oss, sier Føleide Knutsen.

Hvorfor ble vi valgt ut?

- Generativ KI har tatt samfunnet med storm de siste par årene. Og da vi gikk gjennom søknadsbunken for den femte sandkasserunden, var det tre prosjekter med forskjellige tilnærminger til generativ KI som pekte seg ut. Dette er upløyd mark, der både vi i Datatilsynet og prosjektene vil lære mye, og der kunnskapen vi sammen genererer, vil være nyttig for svært mange andre framover, sier Arild Opheim, senior kommunikasjonsrådgiver i Datatilsynet.

- ETI-prosjektet går i front med noe vi kan vente (og håpe på) mye mer av fra offentlig sektor framover. Når prosjektet i seg selv i tillegg framsto grundig og godt organisert, med tydelige personvernrelaterte problemstillinger, var det lett å se konturene av et godt og nyttig sandkasseprosjekt, sier Opheim.

Hvordan fungerer møtene?

Møtene er lagt opp som workshops der vi diskuterer oss gjennom personvernet i de planlagte løsningene. Datatilsynet og vi er opptatt av at det skal være konkret og teknologinært. I møtene jobber vi med konkrete case og diskuterer ulike problemstillinger. Her deltar alle på lik linje og bidrar med sine perspektiver og spørsmål.

Hva har vi lært så langt?

Da vi startet prosjektet hadde vi en tanke om at spørsmålene som kom inn i løsningen skulle anonymiseres. Vi så for oss å fjerne alle opplysningene som kunne knyttes til enkeltpersoner fra brukernes spørsmål før spørsmålene ble sendt videre inn i løsningen for å finne et svar.

Pierre Lison, forsker ved Norsk Regnesentral og UiO, har også bidratt i sandkasseprosjektet. Han har presentert forskning fra CLEANUP-prosjektet. De har sett at det å fjerne alle personopplysninger fra tekstdata er krevende og potensielt kan føre til at man mister mye viktig informasjon.

Gjennom gode diskusjoner i gruppen og bruk av konkrete eksempler har vi konkludert med at anonymisering kanskje ikke er et mål. Vi ser at det vil gjøre svarene mindre relevante. Fjerner man for eksempel et kommunenavn vil brukerne gå glipp av informasjon om tjenester fra sin kommune. Samtidig vil vi fortsatt jobbe for å fjerne opplysninger der man ikke trenger dem, avidentifisere spørsmålene når det er mulig og finne gode måter og rutiner for å beskytte dataene vi får inn. Godt personvern er helt sentralt i en løsning som denne.