Med teknologiens øjne


Med teknologiens øjne

Modtagerens email *:
Din e-mail *:
Dit navn *:
Evt. kommentar:

*) skal udfyldes.


Lone Koefoed Hansen, lektor i Digital Design, Aarhus Universitet
Søren E. Alwan
Blog. 

De fleste kender de sjove selfies med kaninører, knurhår, alt for store øjne eller andre fjollerier, som folk deler på sms, Snapchat, Facebook og andre digitale platforme. Fordi kombinationen af fotografi og tegneserie er så sjov at se på, og fordi man lynhurtigt kan lave dem, fx med appen Snapchat, bredte de sig som en steppebrand kort efter introduktionen. Snapchat er lidt som sms, bare med billeder, så de sjove selfies er hurtige at sende til andre, og den kan give os kaninører og knurhår, fordi smartphonens computer kan genkende et ansigt.

I sidste uge talte jeg med den norske kultur- og medieforsker Jill Rettberg, der forsker i Snapchat og andre måder, som vi går og bruger vores smartphone-kamera på. Hun skal lige straks i gang med et meget stort forskningsprojekt om, hvad computere ser, når de ser på verden, og hvad vi som mennesker gør med de computere, som vi ser på verden med, dvs hvad vi gør med vores smartphones, når vi bruger dens kamera.

Noget af det, som Rettberg skal undersøge med sit forskningsprojekt, er, hvordan vi bruger teknologier som fx Snapchat til at se os selv. Og ikke bare Snapchat, for så var forskningen nok hurtigt overstået, men også andre ting i vores hverdag, hvor en computer er med til at 'se' ved at fortolke både hvad vi gør, og hvad der er omkring os.

For mens Rettberg primært skal arbejde med billeder og andre visuelle syn, så er det baseret på en viden om, at computere netop ser verden som data, og behandler verden som data. Så det handler om, hvordan vi rent praktisk ser med computere (og telefoner), men også om hvordan de teknologier danner mening ud af vores verden.

I Snapchats tilfælde ved telefonens software fx at et ansigt består af to øjne, en mund og en næse, fordi en programmør har defineret det for den. Med de oplysninger har den så lært sig selv at genkende et ansigt, når den ser det, fordi programmørerne har trænet den på ægte billeder af ansigter.

Computerens version af et træningscenter er nemlig, at man viser den virkelig mange billeder af det, man vil lære den at genkende, og så lærer den lige så stille sig selv at genkende eksempelvis et ansigt. Og kan den først det, er det en simpel øvelse at beregne, cirka hvor Snapchat skal placere et katteøre.

Mens det er supersmart, at computeren kan lære sig selv at se, er problemet, at hverken computere eller datasæt er neutrale, blandt andet fordi eksempelvis selfies er taget af mennesker, der selv har bevidste og ubevidste fordomme.

De fleste synes fx, at et godt portræt er et, hvor personen smiler, eller hvor man ikke kan se for mange fejl i vores ansigt. Derfor 'stiller vi os an', når der skal tages billeder af os, og det gør vi ud fra mere eller mindre fastlåste forestillinger om, hvordan et billede skal se ud, ift hvordan vi gerne vil opfattes af andre.

Det har kulturfilosoffen Roland Barthes engang skrevet en fin bog om, hvor han analyserer nogle af sine gamle familieportrætter, ift hvordan personerne på billederne måske opfatter sig selv; ser de fx vigtige ud eller kuede ud.

Tilbage i nutiden så har vi altså forestillinger om verden, når vi fotograferer og bliver fotograferet, og de bliver indirekte overført til computeren, når den mønstergenkender ud fra vores billeder.

Bevæger vi os væk fra de sjove selfies og hen til mere alvorlige anvendelser af fx ansigtsgenkendelse, så kan det få helt konkrete konsekvenser, eksempelvis vil et billede af et smilende ansigt blive vurderet som "nok en kvinde", fordi kvinder smiler mere på billeder, end mænd gør.

Det bliver hurtigt til, at computeren tror, at kvinder altid smiler, og at mænd altid er alvorlige, men mænd smiler (heldigvis) også i virkeligheden, og på den måde tror computeren noget forkert.

Det har også betydning, om man har europæiske eller asiatiske øjne, eller om man har mørk eller lys hud. En asiatisk person med smalle øjne kan af automatiske kameraer nogle gange blive bedt om at åbne øjnene, fordi computeren tror, at øjnene er lukkede, selvom de faktisk er åbne. Det er jo ikke supertjekket.

Så når en computer begynder at mønstergenkende, overtager den både vores bevidste og ubevidste fordomme. Handler det bare om portrætter, så går det nok, men det er straks mere problematisk, hvis den samme ansigtsgenkendelse bliver brugt til at lede automatisk efter mænd i en menneskemængde, for så vil den måske ikke finde de mænd, der smiler.

Så computere er både fordomsfulde, racistiske og kønsnormative, og selvom det lyder fjollet, fordi en maskine da ikke burde være påvirket af subjektive holdninger, så sker det for øjnene af os hver dag. Vi opdager det bare sjældent, især ikke hvis vi har lys hud og store øjne.

Rettbergs humanistiske projekt er altså forbundet med den lige så vigtige forskning i, hvordan computere 'ser' med data. Og det er her, at det pludselig handler om andet end sjove selfies.

For i den mere alvorlige afdeling, så er det samme type teknologi, som politiet bruger til at forsøge at forudsige, hvor der fx kommer til at være flest indbrud juleaften, og andre lande bruger teknologien til at advare om, hvis der måske er suspekte handlinger undervejs med mennesker som potentielt er farlige for magthaverne.

Og er systemerne ikke trænede på ordentlig data, så reproducerer de fordomme om køn, race og alder, og så er teknologien jo netop ikke længere en "kølig og neutral" observatør. Og med det perspektiv, så er forståelsen af maskinlæring, altså automatiseret mønstergenkendelse, ikke længere kun et teknisk spørgsmål, men også et spørgsmål om kulturer, normer og menneskelig opførsel.

For dem, der forstår, hvordan den type teknologi virker, så er det ikke en overraskelse, at den er fordomsfuld.

Men faren er, at dem, der lovgiver om den og drømmer om, at den fx kan betyde enten besparelser eller højere effektivitet, de faktisk tror, at de med teknologi kan komme subjektive vurderinger til livs OG spare penge.

Og så er vi på den, når nu det nok er sådan, at al den data, som er produceret af mennesker, og alle de programmer, som mennesker har lavet, reproducerer de forestillinger, som de mennesker selv har haft. Det er forestillinger som dem, som Rettbergs projekt blandt andet skal undersøge.

Og selvom hun skal kigge rigtig meget på, hvordan vi tager billeder af os selv og af hinanden, så handler det basalt set om, hvordan vores verden kan se ud, når vi ser den gennem maskinernes blik.

Så der er to grunde til, at vi alle bør spidse (katte)ører ift forskningsprojekter som Rettbergs: For det første kan det gøre os klogere på, hvordan vi forstår verden gennem vores teknologier, og for det andet forstår vi bedre, hvordan teknologiernes forståelse af verden har betydning for den måde, vi bygger vores samfund og liv op på.

Vi ser med vores teknologier, når vi tager tåbelige selfies, men det er også teknologier, der ser verden for os, når de fortolker de data, som vi faktisk ikke kan overskue uden en computer, der fortolker dem for os.

Så når en computer begynder at mønstergenkende, overtager den både vores bevidste og ubevidste fordomme.

Med teknologiens øjne

Modtagerens email *:
Din e-mail *:
Dit navn *:
Evt. kommentar:

*) skal udfyldes.

Annonce
Annonce
Annonce