Med den nya förordningen om artificiell intelligens (AI) vill EU gå i bräschen för utvecklingen av dess etiska användning. Frågan är om det kommer att lyckas och vad det i så fall kommer att innebära för alla utvecklare av AI-system. Faktum är att reglering av programvaran kan vara bra för hela tech-branschen.
Om lagstiftningen lyckas blir det en vinst för unionen.
Ny lagstiftning ger insyn i programvara för casinon utan svensk licens
Det är bråda tider för alla bolag som utvecklar mjukvara. Till exempel ändrades förra året den svenska spellagen till att omfatta inte bara reklam för spel, utan även så kallad “spelprogramvara”. Det är inte endast alla online casino utan svensk licens som man vill reglera – utan själva teknologin som har möjliggjort branschen.
Spelbranschen är redan en av de hårdast reglerade branscherna i Europa. Man kan då fråga sig vad lagstiftarna vill uppnå med att reglera själva teknologin. Svaret är transparens och kontroll. Det är lätt för vem som helst att hitta alla casinon utan svensk licens här, men det är desto svårare att få insyn i mjukvaran bakom de virtuella slotmaskinerna på öar som Malta och Alderney.
Världens första AI-reglering
Onlinespel är inte den enda branschen där lagstiftarna börjar ställa krav på insyn i tekniken som allt mer styr våra liv. Redan i oktober 2020 gick Europeiska rådet ut med att man skulle bli världsledande inom säker och tillförlitlig artificiell intelligens. Sedan dess har utvecklingen gått i en allt snabbare takt. Det har gått så snabbt att några av världens främsta företrädare inom AI nyligen manade till en global paus i utvecklingen.
Expertgrupper inom EU har genom åren lagt fram flera förslag och riktlinjer om hur AI kan utnyttjas till sin fulla potential samtidigt som grundläggande mänskliga rättigheter tillgodoses. Det har visat sig vara en svår nöt att knäcka. Nu ligger dock AI-förordningen på bordet och den kan komma att beslutas redan under Sveriges ordförandeskap.
Om Europaparlamentet godkänner förordningen kommer Europa att bli den första regionen i världen att reglera AI. Det är en vändning som kan innebära både stora risker och fantastiska möjligheter för företagen bakom systemen.
Vill visa hur “god AI” kan se ut
Förordningen har definierat begreppet AI-system mycket brett. Ett system kategoriseras som AI om det använder eller är utvecklat med metoderna:
Maskininlärning
Statistikmodeller
Logik- och kunskapsbaserade modeller
Idag finns AI överallt och allt fler blir dessutom medvetna om dess inverkan på vanliga människors liv. Syftet med AI-förordningen är inte att hindra innovation, tvärtom är målet att främja och stärka unionens konkurrenskraft och undvika fragmentering på den inre marknaden.
Man har samtidigt sett med mycket kritisk blick på till exempel de system för ansiktsigenkänning som används av bland annat den kinesiska staten för att övervaka och kontrollera sina medborgare. Med AI-förordningen vill unionen bidra till och visa upp hur “god AI” kan se ut och användas för medborgarnas väl.
AI med hög risk regleras hårdare
Att använda ord som “god” i samma mening som teknologi kan framstå som lite väl förmänskligande av något som i grunden bara är programvara. Unionen är dock långt ifrån naiv i sin syn på AI. Det man vill reglera är istället användningsområdena och själva modellerna som AI-systemen utgår ifrån. Detta bygger på etik, transparens och juridik.
Utifrån detta kategoriserar förordningen olika användningsområden enligt en skala baserad på risk. AI-system med begränsad risk kan till exempel vara chattbotar. De enda kraven är då att människor ska kunna bli medvetna om att det är en algoritm som de pratar med. Det är ett exempel på minimal nivå av transparens. I andra änden av skalan finns AI-system med oacceptabel risk, som inte kommer att tillåtas alls.
Desto fler AI-system kommer möjligen att kategoriseras som hög risk. Förordningen har inte fastslagit exakt vad det skulle kunna innefatta men lämnar förslag på en metod för hur risknivån ska kunna bedömas. Det kan till exempel röra sig om system som bedömer skolbarns placering i förskoleklass utifrån givna förutsättningar, eftersom rätten till utbildning är en mänsklig rättighet.
Fördelar för företagen bakom AI-systemen
För företagen som utvecklar AI kan regleringen vara positiv. Allt för ofta satsar företag, inte sällan mindre start-ups, på projekt som senare visar sig vara omöjliga på grund av att datahanteringen inte är laglig. Med en tydlig reglering är det klart redan från början vad som inte tillåts i form av programvara, och vilka krav som ställs på transparens och insyn från myndigheter.
Med AI-förordningen får både utvecklare och användare förutsägbarhet. Om regleringen visar sig vara lyckad kommer företagen kunna ta höjd för säkerhetskraven utan att förlora sin upphovsrätt. Hittills har tongångarna från företagen bakom AI-system till största del varit positiva.
Istället är de flesta överens om att det snarare är juristerna som behöver komma in mycket tidigare i utvecklingsprocessen. Om lagstiftarna har lyckats uppfylla sina mål med AI-förordningen kommer den att vara en verklig vinst för unionens arbete med att skydda mänskliga rättigheter och demokratiska värderingar, utan att hämma innovation. Endast framtiden kan utvisa detta.
