Appen avviser transer og svarte kvinner ved hjelp av AI

Det sies mye om trygge rom for sosiale minoriteter, som daglig blir så forfulgt og krenket. Enten i det virkelige liv eller på internett, er det et faktum at kvinner, svarte mennesker, LGBTQIA+-samfunnet og andre minoriteter er målet for diskriminering. DE Fnise har som mål å være et trygt sted for kvinner, men appen avviser trans- og svarte kvinner, og får kallenavnet "transfobisk app" av minoriteter. Den kunstige intelligensen som evaluerer deltakernes kjønn hindrer trans- og ikke-hvite kvinners deltakelse fra å få tilgang til plattformen. Forstå saken.

Om Giggle

Appen fungerer som følger: du installerer den på smarttelefonen din, og så snart du begynner å konfigurere den, blir du bedt om å ta et bilde av deg selv for å bekrefte at du faktisk er en kvinne – appens målgruppe. I dette øyeblikket analyserer applikasjonen bildet, og hvis du ifølge den kunstige intelligensen anses som en kvinne, kan du bruke den, ellers blir den avvist.

Sal Grover, grunnlegger og administrerende direktør i Fnise, uttalte at han faktisk bestemte seg for å ekskludere transkvinner fra appen etter at et stort antall transaktivister ble med i appen. Grover ble ansett som TERF, hva betyr det "transekskluderende radikalfeminist", det vil si en radikal feminist som ekskluderer transkvinner fra sin bevegelse.

Det sosiale nettverket sender denne selfien til et selskap som heter Kairos, som vurderer bildet. Hvis Kairos' kunstige intelligens er minst 95 % sikker på at personen er en kvinne, så er hun med. På nettstedet Giggle er det en rapport som "gjennom datasyn og dyp læring, AI kan gjenkjenne kvinner i videoer, bilder og i den virkelige verden.»

rapporter om forsøk

en jente som heter Victoria Morris hørt om appen Fnise gjennom trans-tema fora på Reddit. Jenta sa at hun hadde lastet ned appen, men at hun aldri klarte å bruke den, og bestemte seg for å tweete om saken, som på det tidspunktet var fylt med negative anmeldelser på App Store. Denne tweeten ble retweetet mer enn 4 ganger, og fikk til og med kommentarer som "denne transfobiske appen aksepterer bare ansiktstrekk euro sentrert, unntatt trans- og svarte kvinner».

For noen år siden het en annen jente Jenny han hadde også klart å få tilgang til applikasjonen, og sa at det til og med var enkelt å omgå filteret: det tok en stund, men mens du prøver, vil du til slutt lykkes. Hun åpnet appen igjen nylig, etter buzzen som tok internett, og i den tweeten ble Sall Grover tagget og kommenterte bare noe som signaliserte at Jenny hadde blitt tatt. Kort tid etter mistet jenta tilgangen til søknaden uten nærmere forklaring.

transfobisk og rasistisk

Appen Fnise ikke bare ekskluderer den transkjønnede kvinner, men den klarer heller ikke å identifisere andre kvinner – cis eller trans – som mangler kjennetegn ved hvite kvinner. Appen fungerer til og med menn altså hvite, men svarte kvinner og de med en mørkere tone ender opp med å bli avvist på analysetidspunktet av kunstig intelligens.

En undersøkelse fra 2019 av Glede Buolamwini påpekte at teknologien som ble brukt av Kairos for Giggles ansiktsgjenkjenning, ifølge alle svarte kvinner som gjennomgikk prosessen, godkjente bare 22,5 % av dem, noe som betyr mindre enn en fjerdedel av brukerne. Den gang administrerende direktør i Kairo, Melissa Doval, uttalte at forskning for forbedringer innen kunstig intelligens ville bli brukt.

Til tross for rapporter over internett og forskning utført, fornekter Grover fortsatt at plattformens kunstige intelligens på en eller annen måte ekskluderer fargede kvinner. Og at i ethvert lignende tilfelle bør brukeren kontakte applikasjonen.

Opprinnelsen til diskriminering

Sall Grover og moren hennes hadde ideen om å lage en app eksklusivt for kvinner, siden de ønsket et sted som var helt trygt slik at brukerne kunne dele sine erfaringer, opplevelser og hverdagsliv uten frykt.

For øyeblikket, når du leser litt om fnise, er det mulig å finne flere måter ordet "feminin” er ansatt, og dette er med vilje. I følge Grover er ordet "kvinne” har vært svært passende og at han følte et behov for å gjøre appens forslag klart.

Hun bestemte seg for å ekskludere transkvinner fra appen etter at de la ut fornærmelser mot TERF-er som var på appen. Hun innså at etter denne prosedyren endte hun opp med å bli anerkjent som en TERF, i tillegg til at Giggle-appen ble kjent som en transfobisk app. Også i denne januar måned forsvarte Grover JK Rowling, skaperen av Harry Potter, som angivelig er TERF.

Brasiliansk scenario

For noen år siden ble dessverre Brasil anerkjent som det landet som dreper flest transseksuelle i verden. Gitt denne informasjonen ser vi på saken om Linn da Quebrada, deltaker av BBB 22 som er en transkvinne og lider av daglige transfobiske angrep. Disse hendelsene skjer ikke utelukkende inne i huset, men også utenfor, med trusler, fornærmelser og ærekrenkelser på kunstnerens sosiale nettverk. Et offentlig eksempel på hvordan folk flest ikke respekterer trans- og transvestittkvinner.

I løpet av den første uken som programmet vises, så vi tydelige episoder med transfobi, som bruk av pronomen som personen ikke identifiserer seg med. Lina - Linns virkelige navn - identifiserer seg med pronomenene hun henne (inkludert å ha pronomenet "ELA" tatovert på pannen hennes), og til og med så omtalte realitydeltakere til forskjellige tider kunstneren i maskulin, og refererte til henne som "han" og "singel".

På Twitter forstår brukerne at det er tilsiktet desinformasjon, for å skape sammenstøt som genererer spenninger mellom deltakerne i huset og diskvalifiserer posisjonen og kampen til minoriteter. Et eksempel på dette er deltakerne i BBB 22 som forventer at minoriteter lærer om et minimum av behandling og respekt – noe som de, hvis de virkelig ønsket å vite, allerede ville ha undersøkt og informert seg selv.

Veja também:

Sjekk hva som nylig ble oppdaget om saken Anne Frank.

Kilde: insider.