Annonce
Debat

Med teknologiens øjne

Portrætfotos af Lone Kofoed Hansen til klumme. Foto : Søren E. Alwan

De fleste kender de sjove selfies med kaninører, knurhår, alt for store øjne eller andre fjollerier, som folk deler på sms, Snapchat, Facebook og andre digitale platforme. Fordi kombinationen af fotografi og tegneserie er så sjov at se på, og fordi man lynhurtigt kan lave dem, fx med appen Snapchat, bredte de sig som en steppebrand kort efter introduktionen. Snapchat er lidt som sms, bare med billeder, så de sjove selfies er hurtige at sende til andre, og den kan give os kaninører og knurhår, fordi smartphonens computer kan genkende et ansigt.

I sidste uge talte jeg med den norske kultur- og medieforsker Jill Rettberg, der forsker i Snapchat og andre måder, som vi går og bruger vores smartphone-kamera på. Hun skal lige straks i gang med et meget stort forskningsprojekt om, hvad computere ser, når de ser på verden, og hvad vi som mennesker gør med de computere, som vi ser på verden med, dvs hvad vi gør med vores smartphones, når vi bruger dens kamera.

Noget af det, som Rettberg skal undersøge med sit forskningsprojekt, er, hvordan vi bruger teknologier som fx Snapchat til at se os selv. Og ikke bare Snapchat, for så var forskningen nok hurtigt overstået, men også andre ting i vores hverdag, hvor en computer er med til at 'se' ved at fortolke både hvad vi gør, og hvad der er omkring os.

For mens Rettberg primært skal arbejde med billeder og andre visuelle syn, så er det baseret på en viden om, at computere netop ser verden som data, og behandler verden som data. Så det handler om, hvordan vi rent praktisk ser med computere (og telefoner), men også om hvordan de teknologier danner mening ud af vores verden.

I Snapchats tilfælde ved telefonens software fx at et ansigt består af to øjne, en mund og en næse, fordi en programmør har defineret det for den. Med de oplysninger har den så lært sig selv at genkende et ansigt, når den ser det, fordi programmørerne har trænet den på ægte billeder af ansigter.

Computerens version af et træningscenter er nemlig, at man viser den virkelig mange billeder af det, man vil lære den at genkende, og så lærer den lige så stille sig selv at genkende eksempelvis et ansigt. Og kan den først det, er det en simpel øvelse at beregne, cirka hvor Snapchat skal placere et katteøre.

Mens det er supersmart, at computeren kan lære sig selv at se, er problemet, at hverken computere eller datasæt er neutrale, blandt andet fordi eksempelvis selfies er taget af mennesker, der selv har bevidste og ubevidste fordomme.

De fleste synes fx, at et godt portræt er et, hvor personen smiler, eller hvor man ikke kan se for mange fejl i vores ansigt. Derfor 'stiller vi os an', når der skal tages billeder af os, og det gør vi ud fra mere eller mindre fastlåste forestillinger om, hvordan et billede skal se ud, ift hvordan vi gerne vil opfattes af andre.

Det har kulturfilosoffen Roland Barthes engang skrevet en fin bog om, hvor han analyserer nogle af sine gamle familieportrætter, ift hvordan personerne på billederne måske opfatter sig selv; ser de fx vigtige ud eller kuede ud.

Tilbage i nutiden så har vi altså forestillinger om verden, når vi fotograferer og bliver fotograferet, og de bliver indirekte overført til computeren, når den mønstergenkender ud fra vores billeder.

Bevæger vi os væk fra de sjove selfies og hen til mere alvorlige anvendelser af fx ansigtsgenkendelse, så kan det få helt konkrete konsekvenser, eksempelvis vil et billede af et smilende ansigt blive vurderet som "nok en kvinde", fordi kvinder smiler mere på billeder, end mænd gør.

Det bliver hurtigt til, at computeren tror, at kvinder altid smiler, og at mænd altid er alvorlige, men mænd smiler (heldigvis) også i virkeligheden, og på den måde tror computeren noget forkert.

Det har også betydning, om man har europæiske eller asiatiske øjne, eller om man har mørk eller lys hud. En asiatisk person med smalle øjne kan af automatiske kameraer nogle gange blive bedt om at åbne øjnene, fordi computeren tror, at øjnene er lukkede, selvom de faktisk er åbne. Det er jo ikke supertjekket.

Så når en computer begynder at mønstergenkende, overtager den både vores bevidste og ubevidste fordomme. Handler det bare om portrætter, så går det nok, men det er straks mere problematisk, hvis den samme ansigtsgenkendelse bliver brugt til at lede automatisk efter mænd i en menneskemængde, for så vil den måske ikke finde de mænd, der smiler.

Så computere er både fordomsfulde, racistiske og kønsnormative, og selvom det lyder fjollet, fordi en maskine da ikke burde være påvirket af subjektive holdninger, så sker det for øjnene af os hver dag. Vi opdager det bare sjældent, især ikke hvis vi har lys hud og store øjne.

Rettbergs humanistiske projekt er altså forbundet med den lige så vigtige forskning i, hvordan computere 'ser' med data. Og det er her, at det pludselig handler om andet end sjove selfies.

For i den mere alvorlige afdeling, så er det samme type teknologi, som politiet bruger til at forsøge at forudsige, hvor der fx kommer til at være flest indbrud juleaften, og andre lande bruger teknologien til at advare om, hvis der måske er suspekte handlinger undervejs med mennesker som potentielt er farlige for magthaverne.

Og er systemerne ikke trænede på ordentlig data, så reproducerer de fordomme om køn, race og alder, og så er teknologien jo netop ikke længere en "kølig og neutral" observatør. Og med det perspektiv, så er forståelsen af maskinlæring, altså automatiseret mønstergenkendelse, ikke længere kun et teknisk spørgsmål, men også et spørgsmål om kulturer, normer og menneskelig opførsel.

For dem, der forstår, hvordan den type teknologi virker, så er det ikke en overraskelse, at den er fordomsfuld.

Men faren er, at dem, der lovgiver om den og drømmer om, at den fx kan betyde enten besparelser eller højere effektivitet, de faktisk tror, at de med teknologi kan komme subjektive vurderinger til livs OG spare penge.

Og så er vi på den, når nu det nok er sådan, at al den data, som er produceret af mennesker, og alle de programmer, som mennesker har lavet, reproducerer de forestillinger, som de mennesker selv har haft. Det er forestillinger som dem, som Rettbergs projekt blandt andet skal undersøge.

Og selvom hun skal kigge rigtig meget på, hvordan vi tager billeder af os selv og af hinanden, så handler det basalt set om, hvordan vores verden kan se ud, når vi ser den gennem maskinernes blik.

Så der er to grunde til, at vi alle bør spidse (katte)ører ift forskningsprojekter som Rettbergs: For det første kan det gøre os klogere på, hvordan vi forstår verden gennem vores teknologier, og for det andet forstår vi bedre, hvordan teknologiernes forståelse af verden har betydning for den måde, vi bygger vores samfund og liv op på.

Vi ser med vores teknologier, når vi tager tåbelige selfies, men det er også teknologier, der ser verden for os, når de fortolker de data, som vi faktisk ikke kan overskue uden en computer, der fortolker dem for os.

Annonce

Så når en computer begynder at mønstergenkende, overtager den både vores bevidste og ubevidste fordomme.

Annonce
Annonce
Forsiden netop nu
Østjylland For abonnenter

Udsigt og indblik: Den nye nationalparkdirektør har stået på toppen af Kilimanjaro og mæglet mellem offer og gerningsmand

Læserbrev

Læserbrev: Det koster at lade være med at investere i tilstrækkelig psykiatrisk hjælp

Der er behov for et akut livreddende løft af psykiatrien – både den kommunale og regionale del. Psykiatrien og den mentale sundhed er massivt underprioriteret, og selvom jeg ser frem til arbejdet med en 10-års plan, så er der akut behov for at understøtte disse områder nu. I øvrigt har der også været tale om at udskyde 10-årsplanen foreløbig. 10 ud af 13 partier kom dog med løfter om at løfte psykiatrien i de sidste dage af valgkampen op til folketingsvalget - løfterne er ikke indfriet! Jeg trøster mig dog ved, at der er sat 2,1 milliarder i forhandlingsreserve, og at psykiatrien også er et vigtigt tema for både støttepartier og dele af oppositionen. Mennesker kan dø af psykisk sygdom, og andre kan ende ud i sociale derouter, der kunne være undgået ved rettidig og tilstrækkelig hjælp. Det er dyrere for samfundet ikke at investere i tilstrækkelig psykiatrisk hjælp. Selvom en ambitiøs investering i både forebyggelse, behandling og rehabilitering og støtte koster, så koster det tifold mere at lade stå til bl.a. i form af afledte udgifter som overførselsindkomster, sygefravær og nedsat arbejdsevne. Indirekte omkostninger pga. psykisk sygdom koster hvert år samfundet omkring 100 milliarder kroner ved siden af udgifterne til behandling. Der kan frigøres mange af disse midler, hvis vi får vendt udviklingen til større fokus på forebyggelse og på hurtig og tilstrækkelig behandling og støtte. Vi ved, at vi kan redde en masse menneskeskæbner, og at vi kan spare samfundet for en masse udgifter, hvis vi aktivt vælger at prioritere området. Vi skal heller ikke glemme de ringe i vandet, det bringer for de pårørende, som ofte står desperate på sidelinjen. I psykiatrien er den basale omsorg skåret væk. Og det er der, skoen trykker. Det kræver ro, samtale, indhold og omsorg at blive rask efter psykisk sygdom. Derfor er der brug for flere ansatte til flere syge patienter, og det skal være sådan, at er man syg, skal det være muligt at blive indlagt - det er i virkeligheden ret enkelt. Jeg kan fortælle så mange forfærdelige historier fra psykiatrien. Virkelige historier om mennesker, der kunne være hjulpet, såfremt rammerne var til det, og området var politisk prioriteret i anstændig grad. Lige nu skal de lavthængende frugter plukkes, så liv kan reddes. Det betyder mere personale ansat både i ambulatorier, på sengeafsnit, på bosteder, flere bostøtter og brobyggere. Derudover skal der være nok sengepladser og aflastningspladser, så den syge ikke afvises, til trods for akut behov for hjælp. Det er det, man kan gøre lige nu! Det vil ret hurtig have effekt på anvendelsen af tvang, antallet af selvmord, antal genindlæggelser, antallet af gode behandlingsforløb, og flere der kommer sig hurtigere af deres sygdom.

Danmark For abonnenter

Skandaleramt omskæringslæge er tilbage i Aarhus: Styrelse kæmper for at stoppe ham

112

19-årig kvinde røvet midt om natten: Elefanthuer skjulte røvernes ansigt

Annonce