Kunstig intelligens og likestilling – fem ting du bør vite

Kunstig intelligens (KI) er informasjonsteknologi som justerer sin egen aktivitet og fremstår derfor som tilsynelatende «intelligent».

De fleste av oss bruker en eller annen form for KI i dag. ChatGPT svarer på alle mulige spørsmål og lage eposter og presentasjoner som vi ikke lenger gidder å skrive selv. Siri-funksjonen på iPhone gir oss værmeldinger og sender meldinger når det blir for mye å trykke på to knapper, og Roomba-robotstøvsugere tar seg til rette og suser rundt i mange hjem med egne planer for å utrydde alle former for støv og skitt, med hjelp fra KI-utviklede plattformer.

Det er mer enn sannsynlig at fremtiden vil bringe med seg enda mer KI-bruk for oss alle. Det er jo unngåelig. Samtidig som mange gleder seg til å fyke rundt i selvkjørende biler og slippe noen traurige hverdagsoppgaver, hvordan kan KI bidra til bærekraftig utvikling og mer likestilling mellom kjønnene? Og kan den virkelig det?

Er KI + likestilling = sant, eller går det i feil retning?

Samtidig som kunstig intelligens støtter beslutningstaking i regjeringer og privat sektor, i tillegg til å hjelpe til med å bekjempe globale problemer som klimaendringer og sult i verden, gir KI også grunn til bekymring når det gjelder å beskytte og fremme menneskerettighetene.

På selve kvinnedagen, fredag 8. mars, inviterer Utenriksdepartementet og FN-sambandet til en spennende diskusjon om hvorfor KI er viktig i det globale utenriks- og utenrikspolitiske likestillingsarbeidet. Dette arrangementet vil samle en rekke ledere og eksperter som skal dele sine syn, og gode og dårlige eksempler på digitalbruk i kvinners- og menns liv. 

Lær mer og meld deg på her.

Her er fem ting om KI og likestilling du bør vite.

1. Fordommer må ses nøyere på og motarbeides

Siden kunstig intelligens gjør det vi (eller noen) vil at den skal gjøre, er det er viktig å ha en menneskesentrert tilnærming. Algoritmer kan effektivt støtte mennesker med å ta beslutninger og viser at det er mulig å unngå stereotypisk tenkning.

Men, algoritmeutviklere kan være uvitende om sine egne holdninger og implisitte fordommer og ubevisst overføre sine sosialt forankrede kjønnsfordommer til «robotene». En global analyse av 133 KI-systemer fra 1988 og frem til i dag viste at 44,2 prosent var kjønnsdiskriminerende, og 25,7 prosent var både kjønns- og rasebaserte – noe som førte til lavere tjenestekvalitet, ulik ressursfordeling og forsterkning av skadelige stereotypier.

Det betyr at vi må sikre at de som «trykker på knappene», som ofte er menn, har relevant opplæring i fordommer og ikke-diskriminering er involvert i alle stadier av i alle faser av utviklingen og driften av algoritmer.

Dette er fordi våre egne fordommer er og forblir et stort problem, i samfunnet, men også i den digitale verden. Når kunstig intelligens brukes, kan menneskelige fordommer gjenspeiles og til og med bli forsterket – enten fordi fordommene i dataene er programmert inn i algoritmen, eller fordi forutinntatte mennesker ganske enkelt skaper fordomsfulle algoritmer. Derfor er et av hovedmålene å identifisere mulige kjønnsskjevheter i KI som allerede finnes i teknologier og forbrukerprodukter, og som kan bli vanlig. Kort sagt ligger utfordringen i å identifisere mulige risikoer for å oppnå likestilling mellom kjønnene og finne løsninger på disse.

Utfordringen ligger ikke så mye i at det oppstår helt nye former for diskriminering eller nye likestillingsproblemer, men snarere i at beslutningsprosessen automatiseres, skjules og plasseres lenger unna innbyggerne, som drar nytte av eller påvirkes av disse beslutningene.

2. Jenter og kvinner må oppfordres til å være fremtidens KI-utviklere

Selv om man også må stole (litt) på menn, finnes det ingen tvil om at flere jenter og kvinnen må på banen. I 2018 var 85 prosent av de som jobbet på utviklingssiden av KI menn. I dag har det blitt litt bedre, og ifølge UN Women er 22 prosent av de som jobber med kunstig intelligens kvinner. Uten lik representasjon på disse områdene vil kvinners deltakelse i utformingen av teknologi, forskning, investeringer og politikk fortsatt være svært begrenset. De samme utfordringene gjelder for kvinners tilgang til raskt voksende og godt betalte yrker – en ulikhet som forsterkes av det faktum at når teknologi og digital innovasjon forandrer bransjer, er det kvinner som mister flest jobber.

Stereotypier om hvem som egner seg til å jobbe med KI-spørsmål, og hvem som ikke gjør det, bidrar i stor grad til å skremme jenter vekk fra å søke seg til disse fagområdene. Disse oppfatningene blir en selvforsterkende syklus: Hvis jenter ikke oppmuntres til å velge teknologifag, ender de opp med å mangle den nødvendige kunnskapen – noe som gjør det mindre sannsynlig at de viser interesse.

De som faktisk kommer seg inn i teknologibransjen, møter ofte et aktivt fiendtlig miljø, med et betydelig lønnsgap (21 prosent) og betydelig færre forfremmelser (52 kvinner per 100 menn). Nesten halvparten (48 prosent) oppgir at de har opplevd trakassering på arbeidsplassen. Hele 22 prosent sier at de vurderer å forlate arbeidslivet på grunn av behandlingen de har fått i sektoren.

3. KI må være nyttig for alle kjønn

Kunstig intelligens gir oss en rekke fordeler. Dette inkluderer blant annet bedre tilgang til utdanning (og mer persontilpasset utdanning), rettidige og livsviktige varsler om naturkatastrofer, eller chatbots, apps og systemer som er satt på plass for å hjelpe de som er ofre for kjønnsbasert vold, som regel kvinner.

Men, dessverre når kvinner og jenter utelukkes fra teknologi- og innovasjonsmiljøer, er det ingen overraskelse at digitale verktøy ikke dekker deres behov.

Den store underinvesteringen i for eksempel digitale verktøy som fremmer seksuell og reproduktiv helse, er et naturlig resultat av beslutningsprosesser som systematisk utelukker kvinners stemmer.

Samtidig fører manglende digital tilgang til at kvinner produserer mindre data enn menn, og mangelen på dataoppdeling fører til ulik representasjon i datasettene. Dette har store konsekvenser for maskinlæring og levering av AI-aktiverte tjenester. Det finnes for eksempel flere bilder av menn enn av kvinner på nettet, og man har mer medisinsk data om menn som fører til skjevheter i hvordan brukere behandles, ifølge en studie fra Kilden.

Dette problemet har i stor grad gått ukontrollert hen på grunn av utilstrekkelig tilsyn i teknologisektoren. Selv i de tilfellene der det er utviklet etiske rammeverk, mangler de garantier – og siden reguleringen i stor grad har vært overlatt til selskapene selv, har mange oversett eller underinvestert i skadereduserende strategier.

4. KI og digitalisering kan ikke etterlate noen

Nå som hverdagen vår blir stadig mer digitalisert, truer kjønnsforskjellene i digital tilgang med å føre til at kvinner og jenter sakker ytterligere akterut. Da oppnår man ikke bærekraftsmålene, rett og slett. Selv om arbeidet med å utjevne disse forskjellene har ført til forbedringer i kjønnsbalansen, har det absolutte gapet mellom menns og kvinners nettilgang faktisk økt med 20 millioner siden 2019. I dag har 63 prosent av kvinner rundt om i verden tilgang til nettet, mot 69 prosent av mennene. Og det er 12 prosent mindre sannsynlig at kvinner eier en mobiltelefon.

Disse globale gjennomsnittene forteller ikke hele historien: Rase eller etnisitet, alder, funksjonsevne, sosioøkonomisk status og bosted spiller alle en rolle for kvinners digitale tilgang og bruk. Marginaliserte grupper som eldre kvinner, kvinner på landsbygda og kvinner med nedsatt funksjonsevne står overfor betydelig større barrierer for tilkobling. I de minst utviklede landene – der bare 25 prosent av befolkningen er på nettet til tross for at 76 prosent av befolkningen har mobilt bredbånd – er det 52 prosent større sannsynlighet for at menn tilhører denne minoriteten.

Alt dette viser at det kreves mer enn bare bedre digital infrastruktur for å utjevne tilgangsforskjellene. Skadelig oppførsel, hatytringer og vold mot kvinner, inkludert bruken av naturtro «deepfake»-videoer og bilder» forekommer også på nettet, og påvirker mest unge kvinner og jenter, kvinnelige journalister, politikere, offentlige personer og kvinnelige menneskerettighetsforkjempere. Som et resultat av slike hatytringer og misbruk på nettet, er det mer sannsynlig at kvinner holder igjen sitt engasjement på nettet. Det blir rett og slett for skadelig.

For å få kvinner til å koble seg på – på en meningsfull måte – er det avgjørende å ta tak i faktorer som pris, tilgang til elektrisitet, personvern og sikkerhet på nettet, sosiale normer, digitale ferdigheter og lese- og skriveferdigheter - som alle påvirkes av kjønn.

Ingen sektor kan gjøre dette alene: Det vil kreve samarbeid mellom myndigheter, bedrifter, sivilsamfunnet og kvinneorganisasjoner.

5. Land må bli med på etisk utvikling og bruk av KI, mener FN

For bare noen få år siden ble kunstig intelligens knapt nevnt i FNs generalforsamlings (UNGA) årlige møte av verdensledere. Men etter lanseringen av ChatGPT i fjor høst førte til både KI-entusiasme- og angst, ble dette et stort tema på diplomatiets største årlige samling i september 2023. Og nå mener flere at det kun kan være FN som kan ta tak i problemene i stor skala.

Men det er ikke bare nå at FN har begynt å tenke på dette. I 2021 ble alle medlemsland enige om at etikk og KI er noe vi må jobbe for.

— Vi ser mer kjønn og etniske skjevheter, betydelige trusler mot personvern, verdighet og handlefrihet, farer for masseovervåking og økt bruk av upålitelige teknologier for kunstig intelligens i rettshåndhevelse, for å nevne noen. Inntil nå har man ikke hatt noen universelle standarder for å svare på disse spørsmålene, sa UNESCO da de utarbeidet sine retningslinjer – det første globale normative rammeverket om KI.

Akkurat nå prøver verdens største møteplass, Generalforsamlingen, å ferdigstille en resolusjon som handler om å utnytte mulighetene til trygge, sikre og pålitelige systemer for kunstig intelligens for bærekraftig utvikling. Norge har spilt en viktig rolle og bidratt med tekst rundt menneskerettigheter.

Årets KI-toppmøte i FN «AI for Good» skal, i slutten av mai, se nærmere på kunstig intelligens for å fremme helse, klima, likestilling, inkluderende velstand, bærekraftig infrastruktur og andre globale utviklingsprioriteringer. Dette toppmøtet arrangeres av Den internasjonale telekommunikasjonsunionen (ITU) – FNs særorganisasjon for informasjons- og kommunikasjonsteknologi – i samarbeid med 40 av FNs organisasjoner og sammen med den sveitsiske regjeringen.

Og ikke nok med det. FNs generalsekretær António Guterres og hans representant, Amandeep Singh Gill har sagt at de tror at en ny FN-organisasjon vil være nødvendig for å hjelpe verden med å samarbeide om å administrere denne kraftige teknologien, ifølge Time Magazine. FN-sjefen har også opprettet et eget styre som skal ta for seg KI. Dette vil trolig også bli diskutert på «Fremtidens toppmøte» – eller årets FN-høydepunkt – i september.

Så her er det bare å følge med på hvordan FN tar tak i en av verdens største utfordringer. Uansett, kan de ikke gjøre det alene. Og hvis likestilling blir oversett i dette arbeidet, får de – og vi – enda større problemer, det kan man si med sikkerhet.