Etik är en viktig del i alla nya tekniker och är extra viktigt när fler börjar använda AI i arbete och vardag. Det finns risker av intern användning av AI såväl som från externa aktörer som använder AI för att kunna påverka. I den här texten kommer vi gå in på några av de stora etiska riskerna som finns med AI-tekniker och hur man kan tänka för att undvika dem.
5 risker och hur de kan undvikas
1. Bias och diskriminering
Automatiserade system baserade på AI-teknik kan få oförutsedda resultat om man inte tar hänsyn till vilken data de tränas på och hur de används i praktiken. Ett exempel är om man tränar en AI för att granska CV baserat på tidigare anställningar. Då kan modellen av misstag lära sig och reproducera den diskriminering som historiskt funnits i samhället i stort. Om vissa grupper tidigare har haft svårare att få jobb, kan AI:n tolka det som att de är sämre kandidater. De resultaten kan också komma från en felaktig problemformulering och andra faktorer som ej är träningsrelaterade.
Det kan också vara så att en modell fungerar bra och är balanserad i en viss grupp, men får diskriminerande resultat när den används i en annan grupp. Det kan bero på att data inte representerar alla lika väl eller att modellen inte har testats i flera sammanhang.
Hur kan man undvika detta?
För att motverka bias krävs att man använder representativ och kontrollerad träningsdata, samt testar systemet för olika grupper innan det används skarpt. Man bör också ha mänsklig granskning av beslut i känsliga situationer, till exempel rekrytering eller vård.
2. AI-assistenter i arbetet: dataskydd och tillförlitlighet
Fler och fler använder generativ AI i sin vardag med hjälp av verktyg såsom Microsoft Copilot, ChatGPT och Gemini. Därmed ökar riskerna för informationsläckor och felaktig information i sitt arbete. Eftersom många av dessa verktyg körs i molnet och i datacenter som inte alltid ligger inom EU, finns risker att känslig data såsom personuppgifter (GDPR) hamnar i fel händer eller används på sätt man inte har kontroll över.
Det finns också en risk för så kallade hallucinationer, där assistenten självsäkert ger felaktig information. Denna information kan då råka hamna i ett slutgiltigt resultat och leda till misinformation, fel beslut eller dåliga rekommendationer.
Hur kan man undvika detta?
Ett sätt att minska riskerna är att ha tydliga riktlinjer för vad som får matas in i AI-verktyg, särskilt när det gäller kunddata, personuppgifter eller affärskritisk information. Man bör också alltid faktagranska AI-svar och se AI som ett stöd, inte som en säker källa. Organisationer kan också välja verktyg med bättre dataskydd, exempelvis AI-tjänster med tydliga avtal och EU-lagring.
3. Transparens
En annan etisk risk är brist på transparens. Många AI-modeller fungerar som “svarta lådor”, vilket innebär att det är svårt att förstå exakt varför modellen ger ett visst svar eller fattar ett visst beslut. Detta blir särskilt problematiskt när AI används för att påverka viktiga beslut som rör människor, till exempel i sjukvård, myndighetsbeslut eller anställningar.
Om man inte kan förklara hur ett beslut har tagits blir det också svårt att upptäcka fel, rätta till problem och ge människor möjlighet att ifrågasätta resultatet. Det kan skapa en situation där AI får för stort förtroende bara för att den känns teknisk och “objektiv”, trots att den i praktiken kan ha stora brister.
Hur kan man undvika detta?
För att motverka detta behöver man ställa krav på “förklarbarhet” och dokumentation. AI-system som används i viktiga sammanhang bör kunna motivera sina beslut på ett begripligt sätt och det ska finnas rutiner för granskning. Dessutom bör man alltid ha en tydlig ansvarig person eller funktion som kan hantera frågor och klagomål kring systemet.
4. Desinformation och scams
AI gör det betydligt enklare att skapa desinformation. Med generativa modeller kan man producera text, bilder, ljud och video som ser trovärdiga ut. Deepfakes är ett tydligt exempel, där man kan skapa fejkade videor eller ljudinspelningar av kända personer eller privatpersoner. Detta kan användas för att påverka opinion, skapa konflikter eller skada människors rykte.
Utöver politisk påverkan används AI också i scams och bedrägerier. Exempelvis kan en bedragare använda AI för att skriva övertygande mejl eller sms eller klona röster för att låta som en chef eller familjemedlem och på så sätt lura människor på pengar eller information. När AI kan skapa innehåll snabbt och i stor skala blir det svårare att avgöra vad som är sant.
Hur kan man undvika detta?
För att motverka detta krävs utbildning och källkritik. Man behöver bli bättre på att granska information, dubbelkolla källor och vara skeptisk mot innehåll som känns ovanligt eller känslomässigt pressande. Tekniska lösningar med märkning av AI-genererat innehåll, spårning av ursprung och bättre säkerhetsrutiner (t.ex. verifiering via flera kanaler) är också viktiga.
5. Ansvarsfrågan
En stor risk när man ger fler beslut till AI-system och skapar automatiserade system med tekniken är att ansvaret blir oklart. Det finns olika situationer där denna gräns blir suddig. Till exempel ett verktyg som kan skapa bilder, ett rekommendationsverktyg som ger tips om vilken sorts vård man ska söka baserat på symtom eller en självkörande bil. Alla dessa har situationer där det kan bli oklart vem som egentligen bär ansvar.
Med bildgenerering kan kränkande eller olagliga bilder tas fram, rekommendationsverktyg kan råka ge skadliga råd och en självkörande bil kan orsaka en olycka. I alla dessa lägen är det inte tydligt om ansvaret faller på användaren, företaget som tillhandahåller tekniken eller de som skapade grundverktyget.
Hur kan man undvika detta?
För att minska riskerna måste man ha tydliga ansvarskedjor och regler. Det behöver vara klart vem som ansvarar för vad, särskilt när AI används i situationer där människor kan skadas. Man bör också ha krav på testning, säkerhet och uppföljning, samt att AI-system inte ska fatta beslut helt utan mänsklig kontroll i högriskområden. Vid utveckling av automatiserade system bör automatisering ske gradvis för att garantera säkerheten.
Glöm inte möjligheterna med AI!
Det är lätt att fastna i riskerna med AI och glömma vilka stora möjligheter tekniken också ger. Om man tar etiken på allvar och arbetar aktivt för att minska riskerna kan AI bidra till mycket nytta. AI kan automatisera repetitiva uppgifter, spara tid och minska slitage på människor, till exempel genom automatiska inspektioner inom industrin. Den kan också analysera stora datamängder och upptäcka avvikelser, vilket kan hjälpa till att flagga risker i tid inom exempelvis vård och säkerhet. Sammanfattningsvis kan AI, med tydliga regler och mänsklig kontroll, användas ansvarsfullt och skapa stora fördelar.
Mer om AI
Själva kärnan i vårt arbete är vår passion för att dela med oss och vår ständiga vilja att lära och utvecklas. På Softhouse vill vi inte bara hänga med. Vi vill leda vägen genom att testa, lyssna och dela våra insikter. Det är så vi bygger en AI-driven framtid där människan fortfarande är kärnan i varje lösning. Vill du veta mer om AI, etik och de olika verktygen? Ladda ner vår guide: AI på 5 minuter, så guidar vi dig.
