Hos Tesla og andre store teknologivirksomheder er det ikke maskinerne, men antagelserne bag dem, der forårsager problemer

Nye teknologier bringer altid nervøse nellies frem. I 370 fvt funderede Platon i sin bog Phaedrus at den øgede "trend" til at skrive ville få mænd til miste al deres bevarede visdom. I 1880'erne frygtede man, at elektriske knapper af alle ting ville få os alle til miste vores kreativitet ved at lade en knap udføre en opgave for os. I vores generation har der været dyb frygt for, at enhver eksponering for videospil vil rådne børns hjerner. Sådanne teorier viser sig ofte i sidste ende, at de er forkerte. Men nogle gange bliver det, vi måske havde håbet, ville forblive i science fiction-området til virkelighed.

Vi har fået to meget stærke påmindelser om farerne ved uhæmmet teknologiadoption i de sidste par måneder. Vores værste mareridt gik i opfyldelse, og liv blev uopretteligt skadet:

• Inden for få timer efter, at Tesla-leder Elon Musk udråbte deres selvkørende biler på Twitter, besluttede en Tesla i kør-selv-tilstand at stoppe på siden af ​​Bay Bridge, en 4-sporet, hurtigt bevægende færdselsåre og forårsagede en 8-bilulykke sårede 9 personer inklusive en 2-årig. Dette er en af ​​hundredvis af ulykker, der er blevet forårsaget af Teslas selvkørende systemer, hvilket fører til 19 dødsfald siden 2016.
• Randall Reid var på vej til en forsinket Thanksgiving-middag med sin mor, da politiet stoppede ham og satte ham i fængsel i en uge efter ansigtsmatchende software havde markeret ham som mistænkt i en Louisiana luksus pung tyveri sag. Det eneste problem? Han havde aldrig trådt sine ben i staten. Men den 28-årige indbygger i Georgia er afroamerikaner – og ansigtsgenkendelsessoftware er blevet kritiseret i vid udstrækning for sin manglende evne til nøjagtigt at skelne mellem sorte ansigter.

"De fortalte mig, at jeg havde en kendelse fra Jefferson Parish. Jeg sagde: 'Hvad er Jefferson Parish?'” Reid noteret til AP. "Jeg har aldrig været i Louisiana en dag i mit liv. Så fortalte de mig, at det var for tyveri. Så ikke alene har jeg ikke været i Louisiana, jeg stjæler heller ikke.”

Måske ikke til forsvar for Elon Musk, men som en forklaring, han har ofte bemærket at hans altruistiske mål i sidste ende er at reducere antallet af trafikulykker og dødsfald ved at gøre biler smartere end mennesker. Og at for at gøre disse biler smartere, skal de muligvis flytte sig hurtig (bogstaveligt talt) og bryde nogle ting (også bogstaveligt talt) på rigtige veje.

Det er her, man kan tilpasse sig hans mål – sikrere veje – men bestride hans metoder – menneskelige eksperimenter. Vi gik fra at teste medicin på mennesker – uden deres samtykke, i tilfælde af Nazistiske tyskland og Tuskegee "undersøgelser" - til rotter, som ikke kan give samtykke - til industrier som kosmetik, der lærer at teste produkter uden omkostninger for liv, mennesker, dyr eller andet. Kan teknologi testes uden at skade mennesker undervejs? Det er her, vi - og offentlige tilsynsorganer - kan træffe valg om, hvilke slags eksperimenter vi er villige til at udsætte vores borgere for.

Og så i tilfældet med kunstig intelligens, har der været rimelig bekymring udtrykt over, at i forbindelse med teknologihold, der generelt mangler mangfoldigheden i vores globale verden, hvor over 85 % af befolkningen bor i Asien, Afrika og Latinamerika, er der den mulighed for væsentlig skade kan gøres, hvis teknologier undlader at inkorporere mangfoldighed i deres design. Folk som Timnit Gebru med Sort i AI gør det hårde arbejde med at forsøge at holde folkene bag maskinerne ansvarlige, men har mødte masser af modvind givet de økonomiske kræfter, der kontrollerer meget af denne forskning.

Vi skal ikke tilbage til heste og buggies, hvis vi afviser selvkørende biler. Det, vi KAN gøre, er en fortaler for et nyt teknologisk motto for det næste årti: "bevæg dig langsomt og knæk mindre."

Tilsvarende skrev Hermant Tenaja i Harvard Business Review, "Minimum levedygtige produkter" skal erstattes af "minimum dydige produkter" - nye tilbud, der tester for effekten på interessenter og indbygger vagter mod potentielle skader." Han tilbyder otte spørgsmål, som tech-iværksættere i dag skal stille, herunder:

• Hvilken systemisk, samfundsmæssig forandring stræber du efter at skabe med dit produkt?
• Hvordan vil du opretholde dit produkts dyd?
• Hvad er din ramme for ansvarlig udnyttelse af data og AI?
• Hvordan definerer og fremmer du diversitet i forbindelse med din virksomhed?

Iværksættere kan reflektere over disse spørgsmål til deres produkter. Og så for forbrugere, før du vender dit ansigt over til den nyeste, bedste, avatar-genererende tjeneste, kan det være klogt at tænke to gange over, hvordan det kunne komme tilbage til at bide dig. Vi behøver ikke at ignorere teknologi - men måske kan vi lære at være meget mere bevidste forbrugere af teknologi.