Kunstig intelligens på kundedata: personvernvurderingen du må gjøre
Ki personvern bedrift er søket Yohannes landet på etter at han nesten limte hele kundeloggen, med navn, adresse og betalingshistorikk, rett inn i en KI-chatbot for å få hjelp til å skrive svar raskere. Før du mater kundedata inn i et KI-verktøy, må du ha et behandlingsgrunnlag for akkurat den bruken, en databehandleravtale med leverandøren av verktøyet, og en vurdering av om dataene forlater EØS og i så fall hvordan det er sikret. Er bruken av verktøyet ny og omfattende, kan du også være pliktig til å gjennomføre en personvernkonsekvensvurdering før du setter det i drift. Yohannes endte med å bruke et verktøy med databehandleravtale og europeisk serverplassering, og innførte en fast regel om at fødselsnummer og betalingsopplysninger aldri skulle limes inn.
Behandlingsgrunnlaget må dekke akkurat denne bruken
At du allerede har et gyldig grunnlag for å behandle kundedataene i kundeforholdet, betyr ikke automatisk at du har grunnlag for å mate dem inn i et nytt KI-verktøy til et nytt formål. Skal verktøyet brukes til å generere svar på kundehenvendelser, må du vurdere om formålet er forenlig med det kunden opprinnelig ble informert om, eller om du trenger et supplerende grunnlag. Yohannes endte med å oppdatere personvernerklæringen sin slik at KI-støttet kundeservice var beskrevet konkret, i stedet for å håpe det lå implisitt i den gamle teksten. Han vurderte også om berettiget interesse kunne være et alternativt grunnlag for den delen av bruken som ikke krevde uttrykkelig samtykke, men landet på at åpenhet i personvernerklæringen ga et tryggere utgangspunkt enn en interesseavveining han måtte kunne forsvare i etterkant.
Databehandleravtalen med leverandøren er ikke noe å hoppe over
Bruker du et eksternt KI-verktøy til å behandle kundedata på dine vegne, skal det foreligge en databehandleravtale som regulerer hva leverandøren kan gjøre med dataene, hvor lenge de lagres i verktøyet, og om de brukes til å trene leverandørens egne modeller. Mange gratis- og prøveversjoner av KI-verktøy mangler nettopp dette, eller har vilkår som gir leverandøren langt videre rettigheter enn du ønsker. Sjekk avtalen konkret før du signerer, ikke bare navnet på leverandøren, på samme måte som du ville gjort med databehandleravtalen hos enhver annen leverandør. Spør spesifikt om innholdet i kundehenvendelsene brukes til å forbedre eller trene leverandørens generelle modell, for det er nettopp dette punktet mange av de gratis versjonene av verktøyene skiller seg mest fra betalte, bedriftsrettede versjoner på.
Forlater dataene EØS, må du vite hvor de faktisk havner
Mange av de mest brukte KI-verktøyene driftes fra servere utenfor EØS, og da gjelder de samme reglene for overføring av personopplysninger som ved annen bruk av utenlandske skytjenester. Yohannes valgte til slutt et verktøy med databehandleravtale og forsikring om europeisk serverplassering, nettopp for å slippe å dokumentere en egen overføringsmekanisme i tillegg til alt det andre han allerede måtte ha på plass. Utfordringen er den samme som ved kundedata hos amerikansk skyleverandør generelt, bare med en KI-modell i tillegg. Har leverandøren serverplassering flere steder i verden, be om en bekreftelse på hvor akkurat din bedrifts data faktisk behandles, i stedet for å anta at alt ligger i Europa fordi selskapet har et europeisk kontor.
Når personvernkonsekvensvurdering blir pliktig, ikke bare lurt
Innfører du en ny, omfattende behandlingsform som trolig innebærer høy risiko for de registrerte, for eksempel fordi KI-verktøyet analyserer kundeadferd systematisk i stor skala, skal du gjennomføre en personvernkonsekvensvurdering før verktøyet settes i drift. Vurderingen trenger ikke være lang for en liten virksomhet, men den skal beskrive formålet, risikoen for kundene, og hvilke tiltak som reduserer risikoen. Yohannes brukte en ettermiddag på en enkel versjon, og oppdaget selv at planen om å bruke chatboten til å foreslå produkter basert på kjøpshistorikk krevde en tydeligere begrunnelse enn han først hadde tenkt. Vurderingen skal beskrive hva som behandles, hvorfor, hvilken risiko det utgjør for kundene, og hvilke konkrete tiltak som reduserer risikoen, og den bør oppdateres hver gang bruken av verktøyet endres vesentlig.
Det du aldri bør lime inn i et KI-verktøy
Uansett hvor godt avtaleverket er, bør fødselsnummer, betalingskortopplysninger, helseopplysninger og annen særlig sensitiv informasjon holdes helt utenfor verktøy som ikke er spesifikt godkjent og vurdert for slik bruk. Yohannes satte opp en enkel intern regel de ansatte fikk beskjed om muntlig og skriftlig: er du i tvil om noe kan limes inn, spør før du gjør det, ikke etterpå. Han oppdaget først problemet da en ansatt spurte om det var greit å lime inn en hel kundehenvendelse for å få hjelp til å formulere svaret raskere, og innså at ingen i bedriften hadde tenkt gjennom hva som egentlig skjedde med informasjonen etterpå. Bruk gjerne innsynsverktøyet internt for å holde oversikt over hva som faktisk er behandlet hvor. Den samme regelen gjelder gjerne interne dokumenter som lønnslister og styresaker, selv om det ikke er kundedata, fordi konsekvensen av at slikt havner i feil verktøy kan bli minst like alvorlig.
Kort oppsummert
- Et KI-verktøy krever eget behandlingsgrunnlag for akkurat den bruken, selv om du har grunnlag for kundeforholdet fra før.
- Databehandleravtalen med leverandøren skal beskrive hva de kan gjøre med dataene, og om de brukes til modelltrening.
- Forlater dataene EØS, må overføringen dokumenteres på samme måte som ved andre skytjenester.
- Ny, omfattende og risikofylt bruk av KI på kundedata kan utløse plikt til personvernkonsekvensvurdering.
- Fødselsnummer, betalingsopplysninger og helsedata bør aldri limes inn i verktøy som ikke er spesifikt vurdert for det.