Vi kan ikke ta pause nå: Ketchup, personvern og hverdags-kunstig intelligens
Det skjer en ketchup-effekt innen utvikling av kunstig intelligens (KI) akkurat nå, eksemplifisert gjennom gøyale bildegenereringstjenester og ikke minst Chat GPT som lynraskt produserer ofte overraskende presis tekst og litt rare dikt – for å nevne noe. Samtidig vil en gruppe eksperter og ledere innen KI dra i nødbremsen og ta en pause i utviklingen fordi de mener den truer samfunnet vårt.
Oppropet advarer mot at avansert KI vil føre til grunnleggende endringer i hvordan vi lever livene våre, og de sier at vi de siste månedene har sett et kappløp om å utvikle teknologi som selv ikke de som står bak klarer å forstå og kontrollere. De peker på negative effekter som desinformasjon, manipulering og at mennesker ukritisk blir erstattet av maskiner på arbeidsmarkedet.
Menneskene må ta kontroll
Oppropet mener at kommersielle krefter og maskinene selv ikke burde styre utviklingen. Men at demokratisk valgte politikere må sørge for at utviklingen skjer på en måte som har positive effekter for samfunnet, og at risikoene blir håndtert på en god måte.
Budskapet får meg til å tenke på Personvernkommisjonens hovedanbefaling fra i fjor høst om å få på plass en nasjonal personvernpolitikk for at digitaliseringen skal skje i tråd med grunnleggende menneskerettigheter som personvern – på tvers av alle sektorer.
Datatilsynet mener det er på høy tid med en helhetlig personvernpolitikk, og vi kan ikke ta pause nå. Tvert imot! Politikere, virksomheter og offentlige myndigheter (som oss selv) må engasjere oss i å finne gode løsninger for å styre teknologien i riktig retning.
Robotene tar ikke over Norge helt enda
Nå handler en etisk og bærekraftig utvikling av KI om mye mer enn bare personvern. KI skal være effektiv og presis og gjøre livene våre lettere og bedre. Den skal også være sikker, rettferdig og i tråd med verdiene i samfunnet vårt. En god del utvikling og bruk av KI berører imidlertid personvern fordi KI ofte bruker personopplysninger.
I løpet av de siste to årene har vi i Datatilsynet vært så heldige å være i dialog med mange norske virksomheter som tar i bruk KI igjennom vår regulatoriske sandkasse. Vårt inntrykk er at det skjer masse spennende KI-utvikling i Norge, men vi er ikke helt der at robotene tar over enda. KI tas i bruk i alle sektorer, men akkurat nå er det mer hverdags-KI som gjelder. Altså relativt enkle modeller det er lett å ha kontroll på, for eksempel chatte-funksjoner eller enkle analyser brukt som beslutningsstøtte.
Kunstig intelligens + personvern = sant
Selv om avanserte KI-modeller kanskje ikke er høyaktuelle for norske virksomheter nå, viser interessen for sandkassen vår at mange har spørsmål rundt hvordan få til godt personvern i hverdags-KI. Hvor transparente må vi være? Hvordan sørger vi for at løsningen er rettferdig og ikke diskriminerer? Hvordan får vi til dataminimering i praksis? Dette er typiske spørsmål vi graver i i sandkassen – i skjæringspunktet juss, teknologi, etikk og samfunn.
Vårt inntrykk er at norske virksomheter ønsker å få til godt personvern fra start – såkalt innebygd personvern. Og det syns jeg er et veldig godt utgangspunkt for KI-utvikling i et litt overordnet perspektiv også. Hvis vi passer på at vi har kontroll og styrer teknologien fra start, så slipper vi kanskje å trekke i nødbremsen slik KI-oppropet nå foreslår.
Vi må jobbe jevnt og trutt, og ikke la oss skremme av skumle fremtidsscenarioer der robotene tar over. Kunstig intelligens har kommet for å bli og vi i Datatilsynet har troen på at vi kan få til både intelligente løsninger og godt personvern. Men utviklingen går fort og politikken må henge med. Vi er godt i gang med en podcastserie der vi prøver å finne ut hva en personvernpolitikk er og hva det vil ha å si i sektorer som skole, justis og for forbrukere – lytt gjerne til den her.
Disclaimer: Dette innlegget er skrevet av et ekte menneske
Enighet om nye personvernregler i EU
I kveld kom forhandlerne til enighet om en ny personvernforordning etter nesten fire års arbeid. Jeg har enda ikke hatt mulighet til å studere den endelig teksten, men basert på nyhetsrapportene fra Brussel kommer her en fersk oppdatering på hva som er vedtatt: -...
Solid om personvern fra digitalt sårbarhetsutvalg
Det digitale sårbarhetsutvalget har levert en rapport som bør leses enten du er genuint opptatt av personvern, eller du er blant de som mener at personvern ofte står i veien for gode og viktige formål, som terror- og kriminalitetsbekjempelse. Selv om hovedfokuset...
Hvem vokter vokterne?
I dag har jeg holdt et innlegg på Sikkerhetssymposiet i Bergen. Tema for konferansen var «Hvem vokter vokterne?». Det er naturlig å tenke at Datatilsynet vokter vokterne. Og det må vi gjøre, men med begrenset antall personvernvoktere (totalt 41 hoder), så er det enda...
Kan vi bruke skytjenester?
Kan vi bruke Google Apps, Dropbox eller Microsoft Office 365? Dette er et vanlig spørsmål som vi får henvendelser om fra virksomheter, både private og offentlige, store og små. Mange ser at andre gjør det: Har de fått lov? Én skytjeneste er ikke lik en annen...
Om datalagring og menneskerettighetene
Datalagringsdirektivet (DLD), som ble vedtatt i EU i 2006, ble som kjent erklært ugyldig av EU-domstolen i 2014. I forrige uke konkluderte Hans Petter Graver og Henning Harborgs utredning med at forslaget til norsk datalagringsregelverk, som kom etter direktivet, ikke...
Edward Snowdens tale
Lørdag 5. september ble Edward Snowden tildelt Bjørnson-prisen. Jeg var så heldig at jeg fikk være til stede under tildelingen og holdt et innlegg i den etterfølgende debatten. Jeg tror alle som deltok følte de overvar en historisk begivenhet. Nå er det riktignok ikke...
Etterlyser bedre personvern i apper for barn
I dag lanserte vi resultatene fra app-sveipet vi gjennomførte i mai. Årets tema er apper for barn. Her kommer en oppsummering av de viktigste tallene og noen enkle tips til apputviklere/-eiere. Sveipetallene viser at det er stort forbedringspotensial når det kommer...
Vis interesse. Vis respekt.
På Aftenposten (17.8.2015) oppfordrer en jente (21) alle foreldre til å følge med på sine barns sosiale liv på nett. Hun skriver: «Ja, alle har rett til privatliv, men er ikke dette noe man også bør gjøre seg fortjent til? Er du så dum at du sender nakenbilder på...
Vi trenger en personvernkommisjon på justissektoren
Denne kronikken sto på trykk i Dagens næringsliv 20. juli 2015 Vi står foran en ny debatt om personvern og overvåking. Nylig tok avtroppende etterretningssjef Kjell Grandhagen til ord for å kontrollere, overvåke og kartlegge all elektronisk kommunikasjon inn til...
Forsk på fremmedkrigere!
Dette er en forlenget versjon av en kronikk som sto på trykk i Dagbladet 7. august 2015 I forrige uke ble det gjennom mediene skapt et inntrykk av at Datatilsynet nekter Forsvarets forskningsinstitutt (FFI) å forske på fremmedkrigere. Dette er ikke riktig! Tvert imot...