JavaScript is disabled in your web browser or browser is too old to support JavaScript. Today almost all web pages contain JavaScript, a scripting programming language that runs on visitor's web browser. It makes web pages functional for specific purposes and if disabled for some reason, the content or the functionality of the web page can be limited or unavailable.

Takk for at du vil dele artikkelen

Den du deler artikkelen med, kan lese og eventuelt lytte til heile artikkelen.
Det gjer vi for at fleire skal oppdage DAG OG TID.

Namnet ditt vert synleg for alle du deler artikkelen med.

Samfunn

USA innoverer, EU regulerer

Kva lover kan verne oss mot uønskte og utilsikta følger av tankemaskinar? Amerikansk innovasjon tvingar oss til å stille spørsmålet, men europeiske lovgjevarar og byråkratar har kome nærast å gje oss eit svar. 

Kvar veke les vi inn utvalde artiklar, som abonnentane våre kan lytte til.
Lytt til artikkelen
EU har blitt verdas fremste pådrivar for personvern og regulering av digital teknologi.

EU har blitt verdas fremste pådrivar for personvern og regulering av digital teknologi.

Illustrasjon: Wetzkaz Graphics / Shutterstock / NTB

EU har blitt verdas fremste pådrivar for personvern og regulering av digital teknologi.

EU har blitt verdas fremste pådrivar for personvern og regulering av digital teknologi.

Illustrasjon: Wetzkaz Graphics / Shutterstock / NTB

7514
20230630
7514
20230630

Kunstig intelligens

magnus@dagogtid.no

I april 2021, meir enn eitt år før ChatGPT vart lansert, la EU-kommisjonen fram eit ambisiøst lovforslag om regulering av kunstig intelligens. Forordninga om kunstig intelligens, The Artificial Intelligence Act, som lova heiter, er det første forsøket på å introdusere eit omfattande rammeverk som regulerer bruken av kunstig intelligens på ulike område. Sidan lova vart lagd fram, har så mykje skjedd på KI-feltet at ideen om vidfemnande KI-regulering verkar særs framsynt.

KI-forordninga styrker trenden ein har sett dei siste par åra, der EU tek ei leiande rolle i internasjonal regulering av digital teknologi. Forordninga er ikkje ferdig framforhandla, men onsdag 14. juni tok EU eit viktig steg framover. Då stemte Europaparlamentet med eit stort fleirtal for å støtte eit revidert utkast til forordninga. Neste steg er forhandlingar mellom parlamentet, Rådet for Den europeiske unionen og EU-kommisjonen. Dersom forhandlingane ikkje låser seg, vil lova kunne verte ferdig før utgangen av 2023 og tre i kraft i 2025.

Bakgrunn og innhald

Ei av årsakene til at EU i det siste har vore frampå innanfor teknologiregulering, er frykta for å gjenta tabbane som vart gjorde då sosiale medium og overvakingsøkonomien fekk vekse fram uregulert på 2010-talet. No er det eit poeng å lage reglar før ein kjem i bakleksa.

Før eg byrjar å skildre innhaldet i lova, må eg be om tolmod frå lesaren, noko som er særs naudsynt når ein les om EU-lovgjeving. Det er ikkje noko kjekkare å skrive om EU-lover enn det er å lese om dei, men kva som står i desse lovene, kva denne brokete samlinga av europearar frå Bulgaria til Irland blir samde om, vil langt på veg bestemme korleis me i Noreg skal handtere kunstig intelligens framover.

Ei forordning er EUs mest inngripande type rettsakt. Ho trer i kraft direkte i alle medlemsland og vil etter ein eigen EØS-prosess bli gjeldande i Noreg, slik til dømes personvernforordninga har blitt gjeldande. Tilnærminga i KI-forordninga er å regulere korleis kunstig intelligens vert brukt i ulike situasjonar.

Forordninga skil mellom fire risikonivå som medfører ulike plikter og forbod. Det lågaste nivået er minimal risiko og medfører ingen reglar. Her er det snakk om bruk av KI til formål som spam­filter for e-post og videospel.

Det neste nivået er avgrensa risiko og medfører krav om å vere gjennomsynleg. I denne kategorien fell til dømes KI-system som kan lage eller manipulere tekst, bilete, lyd eller video, og her må brukarar få klar beskjed dersom innhald er laga av KI-system. Dette er spesielt viktig med tanke på såkalla deepfakes, svært overtydande KI-genererte etterlikningar av menneske.

Det nest høgaste risikonivået er høg risiko. Bruk av KI i mellom anna tryggingssystem, utdanning, helsetenester, biometrisk identifisering, kritisk infrastruktur, politi og demokratiske prosessar fell i denne kategorien. På dette nivået er ein pålagd å registrere og gjennomføre risikovurderingar av KI-systema før dei vert tekne i bruk eller selde. I tillegg finst det fleire krav knytte til blant anna risikohandtering, testing, personopplysningar, transparens og menneskeleg kontroll.

Dette betyr til dømes at dersom helsevesenet vil bruke eit KI-system til å handsame personopplysningane dine, skal du kunne ha tillit til at KI-systemet dei bruker, er testa og trygt.

Det høgaste risikonivået er uakseptabel risiko og inneber forbod. Bruken av kunstig intelligens som Europaparlamentet ønsker å forby, inkluderer skadeleg manipulering som bruker underbevisste mekanismar, ansiktsgjenkjenning i sanntid i det offentlege rommet, system som kan identifisere kjensler, og kategorisering av menneske basert på sensitive opplysningar, for eksempel i sosiale kredittsystem som dei bruker i delar av Kina.

Reglar for ChatGPT

Ettersom store språkmodellar som ChatGPT kom ut etter EU-kommisjonens lovforslag, har det vore opp til Europaparlamentet å føreslå reglar som vil gjelde for desse modellane. Det har vore naudsynt ettersom store språkmodellar nyleg har blitt svært kompetente. Dei kan resonnere, ta avgjerder og generere tekstar av høg kvalitet, noko som er lett å misbruke til kriminelle eller politiske formål.

På ein pressekonferanse var EU-parlamentarikarane som har leia arbeidet med lova, Brando Benifei og Dragos Tudorache, tydelege på at store språkmodellar vil bli pålagde ekstra reglar.

– Me har foreslått ting som ikkje fanst i forslaga til kommisjonen og rådet. Me har gått mykje lenger innanfor regulering av generativ KI og språkmodellar, sa Benifei.

På spørsmål om kva som ville måtte endre seg med ChatGPT dersom lova trådde i kraft i dag, svarte Tudorache slik:

– Dersom reglane vart gjeldande i dag, ville [utviklarane av] ChatGPT måtte gjere følgande: For det første må dei ta omsyn til interessene til dei lenger nede i verdikjeda og gje dei den informasjonen dei treng for å følge reglane dersom dei operer i høgrisikoområde. For det andre må dei vere opne om datasetta dei har brukt til å trene ChatGPT, og korleis ChatGPT fungerer. Og for det tredje, som er det viktigaste, må dei som lagar generativ KI, vise at dei har vurdert om innhaldet modellen kan lage, er lovleg, og dei må offentleggjere alt opphavsrettsverna innhald dei har brukt til å trene modellen. Dei må kunne dokumentere dette skikkeleg og vere opne om det.

Sagt med andre ord: Dersom Europaparlamentets utkast trer i kraft utan endringar, vil dei mest kjente språkmodellane me har i dag, vere lovstridige. Det var konklusjonen til ein nyleg studie frå Stanford University som etterforska i kva grad dagens språkmodellar strir med lovforslaget til EU. Noverande KI-utviklarar er spesielt dårlege på å vere opne om kva materiale dei har brukt til å trene modellar.

Internasjonale følger

Korleis vil EUs KI-forordninga påverke resten av verda? Europaparlamentets president Roberta Metsola var tydeleg: «Dette handlar om at Europa tek leiinga og gjer det på vår måte: ansvarleg». Kan hende ein vil sjå den såkalla Brussel-effekten, der EUs reglar strekker seg langt utanfor EUs grenser. EUs personvernforordning, til dømes, har styrkt personvernet globalt ettersom andre land har følgt EUs eksempel, og selskap har valt å følge europeiske standardar i andre land.

Medan USA er best på utvikling av KI, heng dei langt etter innan regulering. President Biden har lagt fram ei KI-rettserklæring som oppmuntrar til at KI-utviklinga skal verne om borgarrettar, demokratiske verdiar og privatliv, men dokumentet er ikkje rettsleg bindande. EUs forordning, derimot, legg opp til at styresmakter kan gje selskap bot på opp til 7 prosent av årleg omsetning og krevje tilbaketrekking av produkt som strir med lovverket.

Enkelte ting gjer det vanskeleg å spå kva som vil skje framover. Det første er at Europaparlamentets lovforslag kan bli endra og utvatna i forhandlingar med andre EU-institusjonar. Me veit ennå ikkje korleis den endelege lova vil sjå ut.

Det andre er at utviklinga av ny KI-teknologi vil kunne endre forholda så mykje at reglane vert delvis utdaterte før dei får tid til å vere nyttige.

Sist, men ikkje minst har ein selskapa som ønsker å tene seg rike på KI-produkt. Dei vil ikkje vente tolmodig på sidelinja medan eurokratar fortel dei kva dei får og ikkje får lov til.

Digital tilgang til DAG OG TID – heilt utan binding

Prøv ein månad for kr 49.
Deretter kr 199 per månad. Stopp når du vil.

Kunstig intelligens

magnus@dagogtid.no

I april 2021, meir enn eitt år før ChatGPT vart lansert, la EU-kommisjonen fram eit ambisiøst lovforslag om regulering av kunstig intelligens. Forordninga om kunstig intelligens, The Artificial Intelligence Act, som lova heiter, er det første forsøket på å introdusere eit omfattande rammeverk som regulerer bruken av kunstig intelligens på ulike område. Sidan lova vart lagd fram, har så mykje skjedd på KI-feltet at ideen om vidfemnande KI-regulering verkar særs framsynt.

KI-forordninga styrker trenden ein har sett dei siste par åra, der EU tek ei leiande rolle i internasjonal regulering av digital teknologi. Forordninga er ikkje ferdig framforhandla, men onsdag 14. juni tok EU eit viktig steg framover. Då stemte Europaparlamentet med eit stort fleirtal for å støtte eit revidert utkast til forordninga. Neste steg er forhandlingar mellom parlamentet, Rådet for Den europeiske unionen og EU-kommisjonen. Dersom forhandlingane ikkje låser seg, vil lova kunne verte ferdig før utgangen av 2023 og tre i kraft i 2025.

Bakgrunn og innhald

Ei av årsakene til at EU i det siste har vore frampå innanfor teknologiregulering, er frykta for å gjenta tabbane som vart gjorde då sosiale medium og overvakingsøkonomien fekk vekse fram uregulert på 2010-talet. No er det eit poeng å lage reglar før ein kjem i bakleksa.

Før eg byrjar å skildre innhaldet i lova, må eg be om tolmod frå lesaren, noko som er særs naudsynt når ein les om EU-lovgjeving. Det er ikkje noko kjekkare å skrive om EU-lover enn det er å lese om dei, men kva som står i desse lovene, kva denne brokete samlinga av europearar frå Bulgaria til Irland blir samde om, vil langt på veg bestemme korleis me i Noreg skal handtere kunstig intelligens framover.

Ei forordning er EUs mest inngripande type rettsakt. Ho trer i kraft direkte i alle medlemsland og vil etter ein eigen EØS-prosess bli gjeldande i Noreg, slik til dømes personvernforordninga har blitt gjeldande. Tilnærminga i KI-forordninga er å regulere korleis kunstig intelligens vert brukt i ulike situasjonar.

Forordninga skil mellom fire risikonivå som medfører ulike plikter og forbod. Det lågaste nivået er minimal risiko og medfører ingen reglar. Her er det snakk om bruk av KI til formål som spam­filter for e-post og videospel.

Det neste nivået er avgrensa risiko og medfører krav om å vere gjennomsynleg. I denne kategorien fell til dømes KI-system som kan lage eller manipulere tekst, bilete, lyd eller video, og her må brukarar få klar beskjed dersom innhald er laga av KI-system. Dette er spesielt viktig med tanke på såkalla deepfakes, svært overtydande KI-genererte etterlikningar av menneske.

Det nest høgaste risikonivået er høg risiko. Bruk av KI i mellom anna tryggingssystem, utdanning, helsetenester, biometrisk identifisering, kritisk infrastruktur, politi og demokratiske prosessar fell i denne kategorien. På dette nivået er ein pålagd å registrere og gjennomføre risikovurderingar av KI-systema før dei vert tekne i bruk eller selde. I tillegg finst det fleire krav knytte til blant anna risikohandtering, testing, personopplysningar, transparens og menneskeleg kontroll.

Dette betyr til dømes at dersom helsevesenet vil bruke eit KI-system til å handsame personopplysningane dine, skal du kunne ha tillit til at KI-systemet dei bruker, er testa og trygt.

Det høgaste risikonivået er uakseptabel risiko og inneber forbod. Bruken av kunstig intelligens som Europaparlamentet ønsker å forby, inkluderer skadeleg manipulering som bruker underbevisste mekanismar, ansiktsgjenkjenning i sanntid i det offentlege rommet, system som kan identifisere kjensler, og kategorisering av menneske basert på sensitive opplysningar, for eksempel i sosiale kredittsystem som dei bruker i delar av Kina.

Reglar for ChatGPT

Ettersom store språkmodellar som ChatGPT kom ut etter EU-kommisjonens lovforslag, har det vore opp til Europaparlamentet å føreslå reglar som vil gjelde for desse modellane. Det har vore naudsynt ettersom store språkmodellar nyleg har blitt svært kompetente. Dei kan resonnere, ta avgjerder og generere tekstar av høg kvalitet, noko som er lett å misbruke til kriminelle eller politiske formål.

På ein pressekonferanse var EU-parlamentarikarane som har leia arbeidet med lova, Brando Benifei og Dragos Tudorache, tydelege på at store språkmodellar vil bli pålagde ekstra reglar.

– Me har foreslått ting som ikkje fanst i forslaga til kommisjonen og rådet. Me har gått mykje lenger innanfor regulering av generativ KI og språkmodellar, sa Benifei.

På spørsmål om kva som ville måtte endre seg med ChatGPT dersom lova trådde i kraft i dag, svarte Tudorache slik:

– Dersom reglane vart gjeldande i dag, ville [utviklarane av] ChatGPT måtte gjere følgande: For det første må dei ta omsyn til interessene til dei lenger nede i verdikjeda og gje dei den informasjonen dei treng for å følge reglane dersom dei operer i høgrisikoområde. For det andre må dei vere opne om datasetta dei har brukt til å trene ChatGPT, og korleis ChatGPT fungerer. Og for det tredje, som er det viktigaste, må dei som lagar generativ KI, vise at dei har vurdert om innhaldet modellen kan lage, er lovleg, og dei må offentleggjere alt opphavsrettsverna innhald dei har brukt til å trene modellen. Dei må kunne dokumentere dette skikkeleg og vere opne om det.

Sagt med andre ord: Dersom Europaparlamentets utkast trer i kraft utan endringar, vil dei mest kjente språkmodellane me har i dag, vere lovstridige. Det var konklusjonen til ein nyleg studie frå Stanford University som etterforska i kva grad dagens språkmodellar strir med lovforslaget til EU. Noverande KI-utviklarar er spesielt dårlege på å vere opne om kva materiale dei har brukt til å trene modellar.

Internasjonale følger

Korleis vil EUs KI-forordninga påverke resten av verda? Europaparlamentets president Roberta Metsola var tydeleg: «Dette handlar om at Europa tek leiinga og gjer det på vår måte: ansvarleg». Kan hende ein vil sjå den såkalla Brussel-effekten, der EUs reglar strekker seg langt utanfor EUs grenser. EUs personvernforordning, til dømes, har styrkt personvernet globalt ettersom andre land har følgt EUs eksempel, og selskap har valt å følge europeiske standardar i andre land.

Medan USA er best på utvikling av KI, heng dei langt etter innan regulering. President Biden har lagt fram ei KI-rettserklæring som oppmuntrar til at KI-utviklinga skal verne om borgarrettar, demokratiske verdiar og privatliv, men dokumentet er ikkje rettsleg bindande. EUs forordning, derimot, legg opp til at styresmakter kan gje selskap bot på opp til 7 prosent av årleg omsetning og krevje tilbaketrekking av produkt som strir med lovverket.

Enkelte ting gjer det vanskeleg å spå kva som vil skje framover. Det første er at Europaparlamentets lovforslag kan bli endra og utvatna i forhandlingar med andre EU-institusjonar. Me veit ennå ikkje korleis den endelege lova vil sjå ut.

Det andre er at utviklinga av ny KI-teknologi vil kunne endre forholda så mykje at reglane vert delvis utdaterte før dei får tid til å vere nyttige.

Sist, men ikkje minst har ein selskapa som ønsker å tene seg rike på KI-produkt. Dei vil ikkje vente tolmodig på sidelinja medan eurokratar fortel dei kva dei får og ikkje får lov til.

Emneknaggar

Fleire artiklar

Robert Mood er tidlegare generalmajor og har mellom anna vore generalinspektør for Hæren.

Robert Mood er tidlegare generalmajor og har mellom anna vore generalinspektør for Hæren.

Foto: Håkon Mosvold Larsen / NTB

Ordskifte

En utilstrekkelig langtidsplan

Vi har større og mer fundamentale sårbarheter enn noen gang før som nasjon, samtidig som vi er dårligere forberedt enn på lenge.

RobertMood
Robert Mood er tidlegare generalmajor og har mellom anna vore generalinspektør for Hæren.

Robert Mood er tidlegare generalmajor og har mellom anna vore generalinspektør for Hæren.

Foto: Håkon Mosvold Larsen / NTB

Ordskifte

En utilstrekkelig langtidsplan

Vi har større og mer fundamentale sårbarheter enn noen gang før som nasjon, samtidig som vi er dårligere forberedt enn på lenge.

RobertMood
Karina (Berda Larsen) lèt seg ikkje tulle med av den sjølvmedlidande dansken Jan (Emil Johnsen).

Karina (Berda Larsen) lèt seg ikkje tulle med av den sjølvmedlidande dansken Jan (Emil Johnsen).

Foto: Mer Film

FilmMeldingar
Håkon Tveit

Kalak: «Norske Emil Johnsen ber hovudrolla glitrande med stundom sår framtoning som naiv innflyttar.»

Dei siste par åra har den norske bonden fått kjenne konsekvensane av å produsere i eit system der utgiftene er styrte av marknaden, medan inntektene er styrte av politikarane, skriv Siri Helle.

Dei siste par åra har den norske bonden fått kjenne konsekvensane av å produsere i eit system der utgiftene er styrte av marknaden, medan inntektene er styrte av politikarane, skriv Siri Helle.

Foto: Heiko Junge / NTB

Kommentar
Siri Helle

Effektivisering er ikkje berginga

Korleis gje bønder rettferdig inntekt når dei framleis skal vere sjølvstendig næringsdrivande?

Judith Butler er filosof og ein frontfigur innanfor kjønnsteori.

Judith Butler er filosof og ein frontfigur innanfor kjønnsteori.

Foto: Thomas Lohnes / NTB

IntervjuSamfunn
Ida Lødemel Tvedt

Paven midt imot

Alle lèt til å misforstå kvarandre i kjønnsdebatten. Judith Butler blir både dyrka og demonisert av folk som ikkje har lese eit ord av bøkene hen skriv.

Saueauksjon i Machynlleth i Wales.

Saueauksjon i Machynlleth i Wales.

Alle foto: Svein Gjerdåker

ReportasjeFeature

Sau

Noko om sauedrift i Noreg og Wales.

Svein Gjerdåker
Saueauksjon i Machynlleth i Wales.

Saueauksjon i Machynlleth i Wales.

Alle foto: Svein Gjerdåker

ReportasjeFeature

Sau

Noko om sauedrift i Noreg og Wales.

Svein Gjerdåker

les DAG OG TID.
Vil du òg prøve?

Her kan du prøve vekeavisa DAG OG TID gratis i tre veker.
Prøveperioden stoppar av seg sjølv.

Komplett

Papiravisa
Digital utgåve av papiravisa
Digitale artiklar
Digitalt arkiv
Lydavis

Digital

Digital utgåve av papiravisa
Digitale artiklar
Digitalt arkiv
Lydavis

Komplett

Papiravisa
Digital utgåve av papiravisa
Digitale artiklar
Digitalt arkiv
Lydavis

Digital

Digital utgåve av papiravisa
Digitale artiklar
Digitalt arkiv
Lydavis