Algoritmedød: Mens vi er på vej mod et fordybende liv i Metaverset, brager alarmer. Teknikvirksomheder skal have styr på deres algoritmer, ellers kan dette være en risikabel fremtid for nogle.
Selvom vi ikke er på Web3 endnu, er problemer med Web2 stadig utroligt bekymrende. Mens algoritmer lavet af store teknologier kan være gode for samfundet, som dem der forudsige kriminalitet på forhånd, der er andre, der er en total katastrofe.
Retsmediciner Andrew Walker identificerede dødsårsagen for den 14-årige Molly Rose Russell som selvskadende handling. Han sagde, at dette var forårsaget af depression og den negative virkning af onlineindhold.
Gåstol sagde at "det ville ikke være sikkert for os at anerkende selvmord som dødsårsagen."
Algoritmedød: Instagram og Pinterest
Eksperten sagde, at Instagram og Pinterest brugte algoritmer, der valgte og delte upassende indhold med eleven, uden at hun bad om oplysningerne. Walker rapporterer: "Noget indhold romantiserede unge menneskers selvskadende handlinger, mens andre fremmede isolation og gjorde det umuligt at diskutere problemet med folk, der kunne hjælpe."
Ifølge Guardian, Russell gemte, kunne lide eller postede mere end 2,000 Instagram-opslag i 2017 på tærsklen til hendes død. De var alle forbundet med selvmord, depression eller selvskade. Pigen så også 138 film af lignende karakter. Blandt dem var episoder af serien 13 Reasons Why for personer 15+ og 18+.
En børnepsykiater sagde under høringen, at efter at have analyseret, hvad Russell havde set kort før hendes død, var han ude af stand til at sove roligt i ugevis.
"10 depressionsnåle, du måske kan lide"
Efterforskere fandt hundredvis af billeder af selvskade og selvmord på pigens Pinterest-konto. Det viste sig også, at platformen sendte eleverne e-mails med anbefalede upassende indhold. Nogle af dem havde overskrifter, der sagde: "10 depressionsstifter, du måske kan lide."
Det er sandsynligt, at det materiale, som Molly, der allerede lider af en depressiv lidelse og sårbar over for aldersrelaterede skader, har haft en negativ effekt på hende. Det har sandsynligvis også bidraget mere end minimalt til barnets død.
Meta- og Pinterest-embedsmænd undskyldte og indrømmede, at Russell stødte på indhold på platformene, som ikke burde være der. En Meta-talsmand sagde: "Vi ønsker, at Instagram skal give en positiv oplevelse for alle, især teenagere. Vi vil se nærmere på retsmedicinerens fulde rapport, når han afleverer den."
Pinterest har udtalt, at det konstant forbedrer platformen og er forpligtet til at sikre sikkerhed for alle.
Andre sager
TikTok blev sagsøgt i maj for påståede "dødelige anbefalinger" af dets algoritmer. I december 2021, Amazons virtuelle assistent Alexa foreslået en fatal udfordringe til et 10-årigt barn.
Det er en modig ny verden, men også en skræmmende. Big tech kan ikke være selvtilfredse med hensyn til den fremtidige rolle, de har i dette spørgsmål.
Har du noget at sige om algoritmens død eller noget andet? Skriv til os eller deltag i diskussionen i vores Telegram kanal. Du kan også fange os Tik Tok, Facebook eller Twitter.
Ansvarsfraskrivelse
Alle oplysninger på vores websted offentliggøres i god tro og kun til generelle informationsformål. Enhver handling, som læseren foretager sig på oplysningerne på vores websted, er strengt på deres egen risiko.
Kilde: https://beincrypto.com/algorithm-death-instagram-pinterest-suggested-content-killed-teenager/