AI-etik hänvisar till de värden som styr oss då vi utvecklar intelligenta teknologier, som maskinöversättare, applikationer som baserar sig på ansiktsigenkänning, eller strömningstjänster som fungerar med rekommendationsalgoritmer. Men varför borde man vara intresserad av AI-etik?
– För att vi alla redan är delaktiga i olika AI-system, och utvecklingen är snabb. Nu studerar man t.ex. om personers politiska inriktningar kan igenkännas i ansiktsdragen eller om man kan studera gömda attityder med hjälp av algoritmer. Ju vidare algoritmerna sprids, och ju mångsidigare egenskaper vi utvecklar för applikationerna, desto mera påverkar de oss. Var och en behöver kunskap i att läsa AI, och förståelsen av de etiska frågorna ingår i den, säger Anna-Mari Rusanen. Hon är universitetslektor i kognitionsvetenskap och läraren som ansvarar för den nya webbkursen Ethics of AI vid Helsingfors universitet.
1. Identifiera den teknologi du behöver reagera på
AI används redan överallt där stora mängder data behandlas och analyseras. Inom sjukvården överväger man huruvida man borde förutspå och förhindra kundernas hälsorisker med hjälp av algoritmer och data. Algoritmerna tickar redan på i bakgrunden för skatte- och socialförmånsberäkningar. I framtiden kommer också den nationella säkerheten, trafik- och stadsplaneringen, eller energi- och matproduktionen att stöda sig allt mera på robotisering och utnyttjande av algoritmer. Inom sociala medier bestämmer algoritmerna hurdana innehåll du ser, och på dejtingsiter räknar de ut vilka partnerkandidaters profiler som vi får se.
– Allt det här innebärhåller många etiska faktorer. Vi måste utvärdera systemens fördelar och risker samt inverkan på t.ex. mänskliga rättigheter. Och vem ansvarar för fel i systemen eller oförutsedda följder? undrar Rusanen.
Vi är också konstant under bevakning då t.ex. automatiska bildigenkänningssystem räknar strömmarna av människor i köpcentra.
– Med tanke på coronaspårningen godkänner många detta, men när övergår det automatiska räknandet till övervakning?
Enligt Rusanen är det över huvud taget bra för oss att vara medvetna om vilka saker vi borde reagera på när det gäller teknologi.
– Teknologin i sig kan också vara neutral, bra i en sorts användning och dålig i en annan. Det är behändigt att öppna mobilen med ett tumavtryck, men i vilken användning vore identifiering med fingeravtryck inte längre OK? Det är viktigt att inse när tekniken gör intrång på t.ex. privatlivet på ett sätt som inte längre kan godkännas. Etiska problem uppkommer ofta från användarens syften med teknologin och den samhälleliga kontexten, inte från själva mjukvarans egenskaper.
2. AI-etiken stadd i förändring
Just nu avgörs hurdana intelligenta system vi kommer att använda i framtiden. Den nya tekniken kan till och med omforma förhållandet mellan stat och medborgare genom att ställa upp nya begränsningar för staten, t.ex. inom det automatiska beslutsfattandet. Nya grundrättigheter uppstår också, som rättigheten att bli bortglömd.
– Beslutsfattarna och verkställarna av konkreta AI-lösningar måste genomgå oväntat djupgående frågor om t.ex. på en hurdan uppfattning av medborgarna man baserar de offentliga tjänsterna som organiseras med hjälp av AI, säger Rusanen.
Enligt Rusanen har beslutsfattarna blivit medvetna om detta och Europeiska unionen ska publicera utkast till ny AI-reglering detta år.
– De kommer att behandla vad som är tillåtet och förbjudet i AI-system. De nya reglerna betonar de mänskliga rättigheterna och tar ställning till vilken typ av applikationer som belastas av en hög risk för missbruk. Ansiktsigenkänning är ett exempel på sådana applikationer, säger Rusanen.
– Alla som jobbar inom den offentliga administrationen, i företag som behandlar data, eller inom teknologiindustrin borde senast nu vakna till och lära sig grunderna i AI-etik.
3. AI-etik är ingen prydnad
Anna-Mari Rusanen vill påminna oss om att AI-etik inte är en prydnad som man kan klistra på en produkt, tjänst eller ett system. Om ett företag använder AI borde de etiska principerna styra verksamheten redan då systemet skapas.
– De som utvecklar tekniken borde fundera på vem som berörs av deras produkt eller tjänst, hur människornas rättigheter förverkligas, och vilka följder som möjligen kan drabba människorna. Alla som har med AI att göra måste vara medvetna om vad de etiska principerna verkligen innebär inom det praktiska arbetet. Detta måste göras under varje planeringsmöte och borde styra verksamheten från början. Det räcker inte att någon etikkonsult skriver under det slutliga resultatet, säger Rusanen.
Enligt Rusanen finns det företag i Finland vars verksamhet inte tål dagens ljus i denna fråga.
– Många företag försvarar nog moralregler inom EU, men kan sorglöst sälja samma apparater eller mjukvara till Kina, där de används till en massiv övervakning. Detta är dubbelmoraliskt.