EU arbetar hårt för att slutföra AI-förordningen inom en snar framtid. Den mycket snabba utvecklingen inom AI-baserade system innebär emellertid att lagstiftningspaketet riskerar att utvecklas till en svårtillämpad helhet.
– Det börjar se ut som att förordningen kommer att bli mycket omfattande och innehålla väldigt många artiklar. Jag ser det som mycket osannolikt att den skulle kunna bilda en tydlig helhet.
Det säger Susanna Lindroos-Hovinheimo, professor i offentlig rätt, som noggrant har följt processens olika skeden. Lindroos-Hovinheimo har satt sig in i förordningen i samband med projektet Generation AI, som undersöker regleringen av AI, särskilt ur barnrättsperspektiv.
Enligt hennes mening lämnar förordningen alltför mycket rum för tolkning.
– Först när vi fått ta del av de första avgörandena från EU-domstolen kommer vi att veta i detalj vad förordningen säger. Det kommer att ta år. Ändå borde förordningen hela tiden följas. Detta kommer att bli en mycket svår situation för alla, både inom den privata och offentliga sektorn.
För den oinvigda kan det verka som att AI inte alls regleras för närvarande, eftersom AI-förordningen fortfarande är under beredning. Så är inte fallet, utan gränsvillkoren för användningen av AI regleras av många befintliga lagar, med start i grundlagen. Det finns dock ingen enskild författningshelhet som omfattar all teknologi. Behovet av en sådan är uppenbar, och det verkar finnas en stark politisk vilja inom EU att få till stånd förordningen.
– Digitaliseringen har framskridit under en lång tid utan att utvecklingen har problematiserats i någon större utsträckning. Vi har en reglering som ligger flera decennier efter och nu försöker vi komma ifatt, på både EU-nivå och nationell nivå, inflikar Riikka Koulu, biträdande professor och ledare för Legal Tech Lab.
GDPR en lämplig referenspunkt
Den lämpligaste referenspunkten för den kommande AI-förordningen är EU:s allmänna dataskyddsförordning, dvs. GDPR.
En uppenbar gemensam nämnare för dessa två förordningar är storleksordningen. I likhet med GDPR är tillämpningsområdet för AI-förordningen enormt och omfattar enkelt sagt alla samhällsområden. Tillsynen är en annan gemensam nämnare.
– Förordningen kommer ingalunda att sakna verkan, utan kommer att backas upp av tillsynsmekanismer som ska vara rätt effektiva, säger Susanna Lindroos-Hovinheimo.
EU har vid flera tillfällen utdömt sanktionsavgifter på hundratals miljoner euro till plattformsbolag som brutit mot GDPR-bestämmelserna. Hot om sanktioner ingår även i AI-förordningen, och beloppen kommer att vara i samma storleksordning. Därmed kommer de att ha en verkligt avskräckande effekt och således påverka verksamheten hos företag.
Å andra sidan blir det också dyrt med verkställandet, tillämpningen och tillsynen av förordningen. En ny myndighet kan inrättas för att genomföra tillsynen, eller också kan nya uppgifter skapas för befintliga myndigheter. Efterlevnaden av GDPR bevakas av dataombudsmannen och en liknande myndighet kommer förmodligen att inrättas för AI-förordningen. Lagstiftningsarbetet kommer också att vara enormt och kräva mycket arbete, möda och pengar.
Den klara skillnaden mellan de två lagpaketen är att GDPR skapades på redan befintliga premisser, medan AI-förordningen byggs upp från grunden. En betydande del av innehållet i GDPR togs direkt från ett gammalt direktiv, som hade funnits i årtionden och förfinats under årens lopp genom rättspraxis.
– Eftersom det inte finns någon föregångare till AI-förordningen, finns det inte heller någon rättstradition eller några prejudikat som domstolarna kan stödja sig på. Därför är det troligt att tillämpningen kan bli krävande, säger Lindroos-Hovinheimo.
Svårt att bestämma vad som är artificiell intelligens
En av de största stötestenarna med AI-förordningen handlar om hur AI ska definieras i juridisk mening. Detta är en av de avgörande frågor som man ännu inte nått något samförstånd om i förhandlingarna. Det är talande att inte ens datavetare, ingenjörer eller andra motsvarande yrkesgrupper inom AI har kunnat enas om ett allmänt godtagbart svar på vad som kan betraktas som artificiell intelligens och vad som inte är det.
EU har dock strävat efter en bred definition på artificiell intelligens, och förordningen innehåller ett antal allmänna riktlinjer som ska gälla för all artificiell intelligens. Å andra sidan är förordningen mycket detaljerad i många avseenden, och går till exempel in på de tekniska mekanismerna i enskilda system. Därför anser Lindroos-Hovinheimo att det finns en stor obalans i förordningen, eftersom den rör sig på alltför många nivåer.
Ett annat problem är att teknologin utvecklas så fort att lagförslagen måste skrivas om i farten. Ett exempel på det här är de stora språkmodellerna av typen Chat GPT, som fick ett stort genombrott vid årsskiftet. De AI-tillämpningar som bygger på denna teknik ingick inte i EU-kommissionens ursprungliga förslag till förordning, men lades till i parlamentets version under beredningsfasen.
– Lagar borde utformas så att de står sig över tid och hänger med i den tekniska utvecklingen. GDPR verkar bättre i det avseendet, eftersom förordningen är teknikneutral – samma regler gäller även om du behandlar data med penna och papper, säger Lindroos-Hovinheimo.
För att lösa problemet planeras nu en modell där kommissionen skulle kunna införa kompletterande bestämmelser och uppdateringar efter att förordningen trätt i kraft, utan att den egentliga lagen behöver skrivas om. Det skulle vara ett praktiskt sätt att hålla jämna steg med utvecklingen, men problematiskt ur parlamentarisk synvinkel.
Detta grundläggande problem mellan teknik och juridik, där den tekniska utvecklingen är snabbare än lagstiftningen, är också något som teknikjättarna gärna hänvisar till. Teknikföretagen i Silicon Valley har framhållit att det egentligen är bättre utan reglering, så att utvecklingen tillåts framskrida i egen takt och så att man förlitar sig på branschens självreglering.
– Marknaden för produkter och tjänster har upprepade gånger visat att en sådan lösning inte är att lita på, och att regleringen behövs. Detta är vad EU också har gjort under de senaste åren med stora plattformar som Google och Facebook, påpekar Riikka Koulu.
Förordningen skapar trygghet för vanliga människor
Trots svårigheterna är förordningen på väg att bli verklighet med rätt stor säkerhet. Förvisso har det hänt att lagstiftningspaket dragits tillbaka, men insatserna är så pass höga i fråga om AI-förordningen att den egentligen inte kan slopas längre – frågan är så angelägen och det politiska trycket att agera så stort.
Om förordningen faller är det oundvikligt att medlemsländerna börjar stifta egna lagar i frågan.
– Det skulle vara ett stort problem för handeln och den fria rörligheten, och skulle bli till ett ekonomiskt problem inom unionen. Att skapa gemensamma regler inom EU är ett slags kapitalistiskt mål, och handlar inte enbart om att göra världen till en bättre plats, konstaterar Lindroos-Hovinheimo.
Även om lagstiftningspaketet är problematiskt i många avseenden och dess tillämpning kommer att vara förknippat med oklarheter, är det enligt Lindroos-Hovinheimo ändå en nödvändig och välkommen helhet.
– Ur en vanlig människas synvinkel är förordningen förmodligen en positiv sak. Med hjälp av den kan man skapa någon form av trygghet för människor, i och med att det finns regler för AI-system så att systemen inte kan utvecklas godtyckligt och framför allt inte användas i vilket syfte som helst.
Legal Tech Lab är en mångvetenskaplig forskargemenskap vid Juridiska fakulteten som sedan 2016 har fokuserat på att på bred front undersöka de samhälleliga aspekterna mellan juridik och teknologi.
Det mångvetenskapliga Legal Tech Lab sammanför forskare som är intresserade av digitalisering och som annars skulle forska på egen hand. Verksamheten har inga särskilda begränsningar och passar inte heller in i något enskilt befintligt rättsområde, utan engagerar personer från olika rättsområden, forskningsinriktningar och vetenskapsområden.
Eftersom forskningsteman om digitaliseringen är mångfasetterade, enormt omfattande och i ständig utveckling, måste forskningen vara tvärvetenskaplig och därför helst genomföras i grupper. Ett av Legal Tech Labs viktigaste bidrag har varit att öppna upp för samarbete med andra vetenskapsområden, särskilt forskningen inom det tvärvetenskapliga fältet teknik och vetenskapsstudier.
– Juridiken är ett kraftfullt verktyg för att styra samhällets digitalisering, men den juridiska teknologiska forskningen eller det juridiska perspektivet på teknologi är ofta underrepresenterade i offentligheten, säger Riikka Koulu, biträdande professor och ledare för Legal Tech Lab.
– En av våra viktigaste uppgifter är att lyfta fram juridikens roll. Juridiken har en betydande roll i arbetet med att utveckla lagstiftningen och i domstolarnas tolkning av lagen. Samhällsforskningen måste ha med det juridiska perspektivet för att den ska vara verkningsfull. Juridiken ger tvärvetenskaplig forskning det konkreta perspektiv som behövs för att påverka samhället.