AI-etik og den anerkendte AI Uncanny Valley, som også rasler AI-baserede selvkørende biler

Nogle gange er der lidt mærkelige ting, der fanger din opmærksomhed og får din intuitive saft i gang, at der på en eller anden måde er noget galt. Det mærkelige er ikke åbenlyst, slet ikke åbenlyst i dit ansigt. Du er måske ikke engang i stand til med det samme at sætte fingeren på, hvad uoverensstemmelsen er, eller hvordan det kommer til, at din ordsprogede edderkoppesans kribler.

Måske fornemmes subtile afslørende spor. Måske indser du tilfældigvis i din mave, at der eksisterer en dissonans. Man kan vel sige, at der kun er den mindste antydning af underspillet uhygge, og din sarte menneskelige radar opfanger ellers tilsyneladende skjulte signaler.

Velkommen til den uhyggelige dal.

Hvis du aldrig har hørt om den uhyggelige dal, et emne, der er relativt populært inden for kunstig intelligens og især robotteknologi, vil du have lidt af en godbid, da det er det emne, jeg vil diskutere og analysere nøje heri.

Den overordnede opfattelse kan gælde for mange ting, som vi oplever i livet, selvom nøglestensprincipperne og oprindelsesdefinitionen involverer AI-systemer og robotter. Vi vil først udforske oprindelsen og den indledende betydning af den uhyggelige dal og derefter gå videre til en udvidelse for at se, hvordan fænomenerne synes at være anvendelige i større sammenhænge.

Jeg kan også tilføje, at vi vil overveje, om den uhyggelige dal overhovedet eksisterer.

Ser du, nogle skeptikere og kynikere hævder, at hele sagen er lidt af en skændsel og ikke holder vand. Vær forsigtig, når du bringer emnet op for dem, der ved det. Nogle vil smile frydefuldt og klappe dig på ryggen, at du er meget fortrolig med den uhyggelige dal, mens andre ihærdigt vil fortælle dig, at det er et smorgasbord af svineri, og at du kort og godt skal rense dit sind med en skum stang mental rensesæbe. .

Den gode nyhed her er, at du kan beslutte, om den uhyggelige dal er ægte eller ej, sammen med om den har fordele til omhyggelig anvendelse eller i stedet skal smides uhøjtideligt ud på techno-ideernes junkheap. I den forstand sidder du i førersædet.

Alt dette hænger også nøje sammen med det spirende felt inden for Etisk AI og den stigende erkendelse af, at samfundet seriøst og nøgternt skal være opmærksom på AI-etikken. Vi gør det uafgjort et øjeblik.

Det bedste sted at starte er ved direkte at citere professoren, der kom op med det uhyggelige dal-koncept og direkte navngav dette proklamerede fænomen. I 1970 publicerede professor Masahiro Mori ved Tokyo Institute of Technology en ret lille artikel i et noget mindre kendt tidsskrift kaldet Energi (ikke specielt et arnested for kunstig intelligens og robotteknologi i sig selv), og sagde dette:

"Jeg har bemærket, at når vi klatrer mod målet om at få robotter til at virke som menneskelige, øges vores affinitet for dem, indtil vi kommer til en dal, som jeg kalder den uhyggelige dal."

Bemærk venligst, at ovenstående sætning er vist på engelsk, selvom det originale papir var på japansk. Den engelsk oversatte version blev overvåget af forfatteren og senere udgivet i IEEE Spectrum i 2012 og krediteret Masahiro Mori som forfatter. Du kan selv læse avisen, da den er åbent og frit tilgængelig online. Det er en decideret hurtig læsning på måske ti minutter eller deromkring og indeholder ikke nogen teknisk tung terminologi.

Når det er sagt, er det interessant og lidt forbløffende, at en så hurtig artikel, der blev offentliggjort i 1970, til sidst startede en hel arena for undersøgelser og lancerede et utal af relaterede undersøgelser, projekter, forskning og til tider en ildstorm af kontroverser om, hvorvidt den introducerede konceptet om en uhyggelig dal eksisterer virkelig. Jeg formoder, at dette viser, at spændende og til tider skiftende ideer ikke behøver at være massivt indviklede eller overfyldte med jargon og ophøjethed. En kortfattet idé kan være lige som om ikke engang mere kraftfuld, end den umiddelbart ser ud til.

Jeg stoler på, at det vil opmuntre dig til at forsøge at fremme dine nye ideer, og gøre det med den erkendelse, at sødt og enkelt kan være lige så storslået eller nogle gange mere end indviklet og komplekst.

Lad os hoppe tilbage i den uhyggelige dalfremkaldelse.

Du støder på et robotsystem, der har et ansigt, der ligner et menneskeligt ansigt. Forestil dig, at dette robotansigt er blevet udtænkt gennem adskillige iterationer. AI-udviklere, der sammensætter robothovedet, har trinvist stræbt efter at få robotansigtsdelen til at se mere og mere ud som et faktisk menneskeligt ansigt.

Deres første forsøg var yderst primitivt. Robotansigtet havde det samme udseende, som du har set i sci-fi-filmene om at være helt metallisk og fremvise gear og ledninger. Du ved med det samme, når du ser på genstanden, at det er en robot. Ingen spørgsmål i dit sind om det.

Det næste forsøg fra AI-udviklerne involverede at vikle nogle plastikmaterialer rundt om metalstykkerne. Selvom dette ser noget mere venligt ud, ved du stadig med det samme, at det er et robothoved og et robotansigt. Igen, let at opdage.

Disse AI-udviklere er fast besluttet på at fortsætte dette. De skulpturerer plastikken og giver den hudtoner. De tilføjer funktioner, der ligner meget et menneskeligt ansigt, såsom muldvarpe, hår, pletter og lignende.

Ved første øjekast kan du blive ført til at tro, at dette er et menneskeligt ansigt. Hvis der blev taget et billede af robotansigtet, og du blev bedt om at identificere, om billedet afbildede en person versus et robotansigt, kan du blive forhindret i straks at kunne sige, hvilken det var. På den anden side, hvis du stod ved siden af ​​enheden, ville du sandsynligvis ved nøje inspektion være i stand til at skelne, at det ikke er et menneske, men i stedet et robotudspil.

Sagen er, at før du fik muligheden for at foretage en nærgående undersøgelse, var der noget ved ansigtet, der ikke lod til at stemme helt. Det lignede bestemt et menneskeansigt. Men der var noget galt. Du var nødt til at blive ved med at stirre igen og igen for at sætte fingeren på, hvad der ikke ser helt rigtigt ud. Måske er det et rigtigt ansigt. Så igen er det måske ikke. Dit sind ruller i overensstemmelse hermed.

En antydning af uhygge trænger ind i dit sind.

Du havde ikke det samme udseende af uhygge, da du så de to tidligere versioner. Du kunne uden pause eller tøven opdage, at robotten var en robot. Kun et barn kan lade sig narre til at tro, at en af ​​disse versioner var af en rigtig person.

Denne seneste version var dog anderledes. Det var endnu ikke perfektioneret til at fremstå som et menneskeligt ansigt. Det var heller ikke så langt fra den ægte vare, at det var åbenlyst, at det måtte være en robot. En slags rodet jord var nået.

Antag, at udviklerne skubbede længere ind i deres forskningsindsats og sørgede for alt, så robotansigtet næsten ikke kunne skelnes fra et menneskeligt ansigt. Uanset hvor længe du stirrer på tingen, er du usikker på, om det er et menneske eller ej. Når du bliver informeret om, at det er robotansigtet, bliver du overrasket. Gosh, de har gjort et godt stykke arbejde med at få det til at se ægte ud.

Bemærk, at du indtil videre kun har overvejet robotaspekterne baseret på udseende alene.

Vi kunne tilføje bevægelse til ligningen. Dette tilføjer en ekstra dimension, så du kan se, om robotten er en robot kontra et menneske. Jeg ønsker ikke fuldt ud at underholde dette som et multidimensionelt problem i denne diskussion, da det gør en belysning af dette emne mere indviklet (der er dog multidimensioner uundgåeligt sammenflettet). Forestil dig under alle omstændigheder, at du ikke kun så robotansigtet, men også kunne se, mens robotten bevæger ansigtstræk, såsom munden, øjnene, næsen osv. Det kan selvfølgelig også være giveaways om, hvorvidt dette er en robot eller et menneske.

Et vigtigt aspekt at holde på forkant med den uhyggelige dal er, at den oprindelige opfattelse understreger handlingen af ​​menneskelig affinitet. Det hævdede fænomen er, at din affinitet stiger, efterhånden som du ser de gradvist forbedrede robotansigter, indtil det punkt, hvor den uhyggelige variant opstår. På det tidspunkt siges din følelse af affinitet at falde dramatisk og styrtdykke ned i en affinitetskløft eller -dal.

For den særlige version, der fik dig til at have mistanke om, at noget var galt, er din affinitet angiveligt faldet radikalt. Ydermere, ifølge teorien, kan din affinitet skyrocket op igen, når du støder på den mere avancerede version, der er næsten identisk med en virkelig menneskelig form.

Her er mere om, hvad forfatteren sagde om vores normale tilbøjelighed til at antage, at aspekter af livet er jævnt stigende: "Det matematiske udtryk monotont stigende funktion beskriver et forhold, hvori funktionen y = ƒ(x) stiger kontinuerligt med variablen x. For eksempel som indsats x vokser, indkomst y stiger, eller når en bils speeder trykkes ned, bevæger bilen sig hurtigere. Denne form for relation er allestedsnærværende og meget let at forstå. Faktisk, fordi sådanne monotont stigende funktioner dækker de fleste fænomener i hverdagen, kan folk falde under den illusion, at de repræsenterer alle relationer. Et vidnesbyrd om dette falske indtryk er også, at mange mennesker kæmper sig gennem livet ved vedvarende at skubbe uden at forstå effektiviteten af ​​at trække sig tilbage. Det er derfor, folk normalt bliver forvirrede, når de står over for et eller andet fænomen, som denne funktion ikke kan repræsentere." Dette er citeret pr IEEE Spectrum oversat papir.

Denne næsten universelle antagelse om altid at stige kan omstødes, når vi støder på noget galt. Uhyggeligheden og mistænksomheden vil forårsage et relativt brat og dramatisk fald i affinitet, lyder teorien, såsom en robothånd, som du valgte at ryste og ikke kunne mærke en menneskehånds knoglekarakteristika: "Når dette sker, mister vi forstanden. af affinitet, og hånden bliver uhyggelig. I matematiske termer kan dette repræsenteres af en negativ værdi."

Hvis du accepterer den forudsætning, at der er dette fænomen med en uhyggelig dal, er jeg sikker på, at du spekulerer på, hvad det hjælper dig at vide, at den uhyggelige dal tilsyneladende eksisterer.

Det er alle tiders klassiker "hvad så?" prøvning af praktisk.

Det viser sig, at mange mennesker har fundet på en masse fortolkninger af, hvad vi bør eller kan gøre ved den uhyggelige dal. Der er tonsvis af meninger. Jeg vil tage fat på noget af det snart.

I mellemtiden, her er, hvad Masahiro Mori tilbød: "Vi håber at kunne designe og bygge robotter og protesehænder, der ikke vil falde ned i den uhyggelige dal. På grund af den risiko, der er forbundet med at forsøge at øge deres grad af menneskelig lighed for at skalere den anden peak, anbefaler jeg, at designere i stedet tager den første peak som deres mål, hvilket resulterer i en moderat grad af menneskelig lighed og en betydelig følelse af affinitet . Faktisk forudser jeg, at det er muligt at skabe et sikkert niveau af affinitet ved bevidst at forfølge et ikke-menneskeligt design. Jeg beder designere om at overveje dette.”

En hurtig kondensering fra min side af tolv praktiske buksesæde-regler om, hvad man skal gøre i forbindelse med den uhyggelige dal, går sådan her for især AI-udviklere:

1) Vær opmærksom på den uhyggelige dal og vær på tæerne i overensstemmelse hermed

2) Du ønsker formodentlig at opnå menneskelig affinitet til din AI så meget som muligt

3) Vær forberedt på et tab af menneskelig affinitet, hvis din AI falder ned i den uhyggelige dal

4) Søg at undgå den uhyggelige dal ved at udtænke din AI på denne måde

5) Det er respektabelt at have et mål, der er mindre end den uhyggelige dal

6) Sidd op til kanten af ​​den uhyggelige dal, men fald ikke ud over klippen

7) Vær ikke besat af at gå ud over den uhyggelige dal

8) Der er en chance for, at du kan springe forbi den uhyggelige dal

9) Bliv ikke optaget af springet, da du alligevel kan falde ned i dalen

10) Maksimal menneskelig affinitet ville ganske vist opnås ved at komme forbi den uhyggelige dal

11) Ikke desto mindre er der tilstrækkelig og passende affinitet fundet før den uhyggelige dal

12) Vær konstant opmærksom på den uhyggelige dal og lad den ikke glide af dit sind

Disse dusin er alle generelle forskrifter, der kan betragtes som slutsten eller forankringspunkter for viden om den uhyggelige dal. Jeg vil med det samme anerkende, at der er andre punkter, der ikke er nævnt i de få dusin, der kan argumenteres for lige så vigtige. Jeg vil også uden videre erkende, at der er bundet til at være uenighed for hvert af de identificerede punkter, og der kan opstå en langvarig ophedet debat om hvert punkt.

Mere så, nogle vil sige, at de tolv punkter er totalt vrøvl, fordi de er baseret på en løgn, til at begynde med. Der er ikke sådan noget som en uhyggelig dal, vil de hævde. Det hele er kun chikaneri og et opdigtet opfindsomhed, der udelukkende og desværre appellerer til svage sind (uh, det gør inderligt ondt!). Enhver opmærksomhed på den uhyggelige dal er et spildt luftpust, og nogen bør komme med og sætte en skarp teoretisk pæl af træ i sagens kerne (nogle forskere har prøvet at gøre det).

For diskussionens skyld, lad os gå med strømmen og antage, at der er en uhyggelig dal, og at den foregiver generelt at stemme overens med det, jeg hidtil har angivet. Dem, der er uenige i konceptualiseringen af ​​en uhyggelig dal, er velkomne til at zone ud eller fortsætte med at læse med sammenbidte tænder og deres intellektuelle vrede gryende og kogende (beklager det).

Her er hvordan etisk AI og fokus på at udtænke og udforme etisk AI kommer til udtryk. For min igangværende og dybdegående udforskning af AI-etik, se i øvrigt min diskussion på dette link her , dette link her, For blot at nævne nogle få.

Den uhyggelige dal er en decideret had-kærlighedsaffære for dem, der interesserer sig for Ethical AI.

Først havde du brug for en baggrund. En af de mest hårrejsende etiske AI-relaterede betænkeligheder er, at mennesker kan narre til at tro, at et AI-system er sansende. Vær opmærksom på, at der ikke er nogen AI i dag, der kommer nogen steder i nærheden af ​​at være sansende. Det sker bare ikke på nuværende tidspunkt. Min tilsyneladende "frække" påstand er fremsat på trods af de uophørlige og bragende overskrifter, der erklærer denne AI, eller at AI enten er sansende eller tæt nok til at blive betragtet som sådan. Malarkey. Vi er ikke ved AI-sans.

Vi ved ikke, hvordan vi kommer dertil. Vi ved ikke, om det vil ske. AI-sans er en værdifuld drøm og en forhåbning, men du skal ikke springe over pistolen og tro, at vi er på nippet til at nå det.

Selvfølgelig advarer mange inderligt om, at hvis vi på en eller anden måde formår at opnå AI-sans, uanset om vi gør det ved design eller ved et rent tilfælde, vil vi konfrontere en eksistentiel risiko. I den måde at tænke på, er det måske ikke helt så umagen værd at søge AI-sans. Risikoen er, at denne sansende AI kan afgøre, at mennesker ikke er værd at have i nærheden. Vi kunne blive klemt som en fejl. Eller blive slave af AI. Dette kan ske ved, at AI åbenlyst vælger at gøre det, eller AI kan ende med at blive vores egen dommedagsmaskine, der ødelægger os af vores egen udugelighed. For min dækning af disse bekymrende resultater af AI-sans eller singularitet, se linket her.

En afgørende etisk AI-bekymring er, at udviklerne af AI og dem, der arbejder med AI, til tider suger mennesker til at tro, at AI'en er sansende. Måden, hvordan AI'en udstiller sig selv, såsom ved en robotformulering eller ved dens samtaleinteraktivitet, kan snigende anspore folk til at antage, at AI'en er sansende. Dette fører dig igen ned ad en potentielt dårlig primula-sti.

Hvis du falder i den mentale fælde at tro, at et AI-system er sansende, vil du sandsynligvis stole på det til at gøre ting, som følende væsener ville gøre. Men der er endnu ikke nogen sund fornuft om en menneskelignende kvalitet indbygget i nogen af ​​nutidens AI. Den AI, vi oplever i øjeblikket, er ekstremt skør og overfladisk, når det kommer til menneskelignende kapaciteter. Du kan komme ud i nogle ubehagelige og farlige farvande ved at tro, at et AI-system er sansende.

Hvordan hænger det sammen med den uhyggelige dal?

Her er aftalen.

Husk på, at den uhyggelige dal synes at fortælle os, at menneskelig affinitet gradvist vil stige, efterhånden som et AI-system eller en robot kommer tættere og tættere på en menneskelignende formulering. På et tidspunkt, hvor AI-systemet er ved at være temmelig tæt på, men alligevel ikke helt der, får vi en uhyggelig følelse af, at noget er galt. Indtil da vidste vi, at AI ikke var et menneske. Nu er vi ikke sikre. Vores menneskelige affinitet falder. Først når AI'en eller robotten bliver fuldstændig overbevisende med hensyn til menneskelignende kapaciteter, genvinder vi vores udseende af affinitet til enheden.

AI-udviklere, der tager dette hjerte til sig, ville formentlig med vilje stræber efter at holde deres AI ude af den uhyggelige dal, med det formål at stoppe med hensyn til funktionerne i AI, lige før de falder ned i den uhyggelige afgrund (husk, det er også det, Masahiro Mori understregede). Udviklerne ville tilsyneladende gøre det ved at sikre sig, at der stadig eksisterede rigelige afslørende spor for at gøre det ret klart, at AI'en er mindre end sansende AI og ergo ikke et menneske eller lige så meget.

AI-etikere ville generelt hilse den dybtfølte indsats velkommen.

Begrundelsen er ligetil. De så informerede og omfavnende AI-udviklere forsøger at sikre sig, at AI-systemet ikke vildleder folk til fejlagtigt at tilskrive menneskelignende faciliteter til AI. Det er helt sikkert gode nyheder. Udviklerne vil med vilje lave AI'en for at forhindre et dyk ned i den uhyggelige dal. Mennesker vil let indse, at AI ikke er sansende.

At forsøge at få AI-udviklere til at omfavne en sådan tilgang er ikke let. Det kan faktisk være i modstrid med deres sædvanlige instinkter og drivende ambitioner.

Der gøres mange påstande om, at AI-udviklere og teknikere generelt er opslugt af mål. De ser et mål og vil ofte blindt forfølge det med stor velbehag. Ingen tid til at stoppe op og dufte til roserne. Afsted til løbene, vi går. På AI-området ville det normative mål være en idealiseret AI, der ikke kan skelnes fra mennesker, idet AI'en kunne være intelligent lige i paritet. Men vi er der ikke endnu. Som sådan giver den uhyggelige dal et sekundært mål, der lander før den ellers opdæmme uhyggelige dal, og bliver et mål, der ikke desto mindre er acceptabelt. Sikker på, det er ikke den gyldne prisbelønnede ring, men tanken er, at denne "sekundære" præmie er fin, mange tak, og du kan være stolt af den.

Vi har ændret den ødelæggende målsøgende øverste ambition og udnyttet den til et logisk klingende begrundet grundlag for så at sige gøre det rigtige.

Hurra!

Få en sejr for AI-etik.

Men vent et øjeblik, spoiler-alarm, der er noget andet, som vi ligeså skal overveje.

Nu hvor disse kyndige AI-udviklere kender til den uhyggelige dal, kan de måske vende deres forstand og tekniske dygtighed mod bevidst at springe over afgrunden og alligevel gøre det med et skin af bedrag i tankerne. Få AI til at se ud og se ud til at være fuldstændig menneskelignende, selvom udviklerne ved, at dette er usandt.

Den useriøse tankegang går sådan her. Lad ikke dit AI-system tippe på hatten og få folk til at få den undvigende understrøm af uhygge. Udskær de facetter, der kan give et hint eller fingerpeg om, at AI ikke er af menneskelig kapacitet. Gør dette, mens du i hemmelighed indser og utilgiveligt ved, at AI'en ikke er af menneskelig kapacitet, og det handler om at skjule denne sandhed for dem, der interagerer med eller er afhængige af AI'en.

Hvilke djævelske planer.

Ironisk nok kunne den uhyggelige dal være en slags wake-up call for AI-udviklere om, at hvis de virkelig vil narre folk, skal de være kloge nok til at undslippe afgrunden. De gør det ikke ved at opnå fuldstændig AI, og i stedet ved at opstille røg og spejle for at få AI'en til at virke vildledende, som om den er menneskelig. Havde AI-udviklerne ikke indset, at denne uhyggelige dal eksisterer, ville de stort set være faldet ind i den. Det er godt for menneskeheden, fordi mennesker ergo ville miste deres affinitet til AI i form af ikke at stole for meget på nutidens kvalitet af AI.

Beklageligt, ved at vide, at fælden eksisterer, vil AI-udviklere, der ønsker at snige sig uden om den, finde perniciøst smarte måder at gøre det på.

Score et hit mod forskrifterne i Ethical AI.

Kan du se, hvordan dette skaber et had-kærlighedsforhold for AI-etikere om den uhyggelige dal?

Forbandet, hvis du gør det, forbandet, hvis du ikke gør.

Jeg er klar over, at dette har været en lidt høj pande undersøgelse af den uhyggelige dal, og du vil måske længes efter nogle daglige eksempler. Der er et særligt og helt sikkert populært sæt eksempler, der ligger mit hjerte nært. Ser du, i min egenskab af ekspert i kunstig intelligens, herunder de etiske og juridiske konsekvenser, bliver jeg ofte bedt om at identificere realistiske eksempler, der viser AI-etiske dilemmaer, så emnets noget teoretiske karakter lettere kan forstås. Et af de mest stemningsfulde områder, der levende præsenterer dette etiske AI-dilemma, er fremkomsten af ​​AI-baserede ægte selvkørende biler. Dette vil tjene som en praktisk use case eller et eksempel til omfattende diskussion om emnet.

Her er så et bemærkelsesværdigt spørgsmål, som er værd at overveje: Oplyser fremkomsten af ​​AI-baserede ægte selvkørende biler noget om den uhyggelige dal, og hvis ja, hvad fortæller det os om at gøre?

Tillad mig et øjeblik at pakke spørgsmålet ud.

Først skal du bemærke, at der ikke er en menneskelig chauffør involveret i en ægte selvkørende bil. Husk, at ægte selvkørende biler køres via et AI-køresystem. Der er ikke behov for en menneskelig fører ved rattet, og der er heller ikke en bestemmelse om, at et menneske kan føre køretøjet. For min omfattende og løbende dækning af Autonome Vehicles (AV'er) og især selvkørende biler, se linket her.

Jeg vil gerne yderligere præcisere, hvad der menes, når jeg refererer til ægte selvkørende biler.

Forståelse af niveauerne af selvkørende biler

Som en afklaring er ægte selvkørende biler dem, som AI kører bilen helt alene, og der er ikke nogen menneskelig hjælp under køreopgaven.

Disse førerløse køretøjer betragtes som niveau 4 og niveau 5 (se min forklaring på dette link her), mens en bil, der kræver en menneskelig chauffør til at dele køreindsatsen, normalt betragtes på niveau 2 eller niveau 3. De biler, der deler køreopgaven, beskrives som værende semi-autonome og indeholder typisk en række forskellige automatiserede tilføjelser, der omtales som ADAS (Advanced Driver-Assistance Systems).

Der er endnu ikke en ægte selvkørende bil på niveau 5, som vi endnu ikke engang ved, om dette er muligt at opnå, og heller ikke hvor lang tid det vil tage at komme dertil.

I mellemtiden forsøger niveau 4-indsatsen gradvist at få noget trækkraft ved at gennemgå meget smalle og selektive forsøg på offentlige vejbaner, selvom der er uenighed om, hvorvidt denne test skal tillades i sig selv (vi er alle liv-eller-død marsvin i et eksperiment finder sted på vores motorveje og biveje, hævder nogle, se min dækning på dette link her).

Da semi-autonome biler kræver en menneskelig chauffør, vil vedtagelsen af ​​disse typer biler ikke være markant anderledes end at køre konventionelle køretøjer, så der er ikke meget nyt i sig selv at dække om dem om dette emne (dog, som du vil se på et øjeblik gælder de næste nævnte punkter generelt).

For semi-autonome biler er det vigtigt, at offentligheden skal advares om et foruroligende aspekt, der er opstået for nylig, nemlig at trods de menneskelige chauffører, der fortsætter med at indsende videoer af sig selv falder i søvn ved rattet i en niveau 2 eller niveau 3 bil , er vi alle nødt til at undgå at blive vildledt til at tro, at chaufføren kan fjerne deres opmærksomhed fra køreopgaven, mens han kører en semi-autonom bil.

Du er den ansvarlige part for køretøjets kørselshandlinger, uanset hvor meget automatisering der kan kastes i et niveau 2 eller niveau 3.

Selvkørende biler og The Uncanny Valley

For ægte selvkørende køretøjer på niveau 4 og niveau 5 er der ikke en menneskelig chauffør, der er involveret i køreopgaven.

Alle passagerer vil være passagerer.

AI driver kørslen.

Et aspekt, som man straks skal diskutere, indebærer det faktum, at AI involveret i nutidens AI-køresystemer ikke er væsentlig. Med andre ord er AI'et helt en samling af computerbaseret programmering og algoritmer, og helt sikkert ikke i stand til at ræsonnere på samme måde som mennesker kan.

Hvorfor er denne ekstra vægt på, at AI ikke er følelsesladet?

Fordi jeg vil understrege, at når jeg diskuterer AI-køresystemets rolle, tilskriver jeg ikke menneskelige kvaliteter til AI. Vær opmærksom på, at der i disse dage er en løbende og farlig tendens til at antropomorfisere AI. I det væsentlige tildeler folk menneskelignende følsomhed til nutidens AI, på trods af den ubestridelige og uomtvistelige kendsgerning, at der endnu ikke findes sådan en sådan AI.

Med denne afklaring kan du forestille dig, at AI-køresystemet ikke på en eller anden måde "ved" noget om kørselens facetter. Kørsel og alt, hvad det medfører, skal programmeres som en del af den selvkørende bils hardware og software.

Lad os dykke ned i det utal af aspekter, der kommer til at spille om dette emne.

For det første er det vigtigt at indse, at ikke alle AI selvkørende biler er ens. Hver bilproducent og selvkørende teknologivirksomhed tager sin tilgang til at udtænke selvkørende biler. Som sådan er det svært at komme med omfattende udsagn om, hvad AI-køresystemer vil gøre eller ej.

Når det endvidere angives, at et AI -køresystem ikke gør nogle særlige ting, kan dette senere blive overhalet af udviklere, der faktisk programmerer computeren til at gøre det. Trin for trin forbedres og udvides AI -drivsystemer gradvist. En eksisterende begrænsning i dag eksisterer muligvis ikke længere i en fremtidig iteration eller version af systemet.

Jeg stoler på, at det giver en tilstrækkelig mængde forbehold til at ligge til grund for det, jeg er ved at fortælle.

Vi er klar til nu at dykke ned i selvkørende biler og etiske AI-spørgsmål, der involverer den uhyggelige dal.

Der er fire aspekter vedrørende denne sag, som vil blive dækket her:

1. Det overordnede udseende af selvkørende biler

2. Spørgsmålet om, hvor selvkørende biler "søger"

3. AI-kørselshandlinger af selvkørende biler

4. Robotter, der kører som et middel til at opnå selvkørende biler

Yderligere facetter er også levedygtigt omfattet, men af ​​hensyn til pladsbegrænsning vil disse fire emner være tilstrækkelige til at belyse den uhyggelige dals præg i forbindelse med AI-baserede selvkørende biler.

1. Overordnet udseende af selvkørende biler

Jeg satser på, at du har set billeder eller videoer af dagens test af selvkørende biler. Som sådan har du måske bemærket, at de fleste af køretøjerne er konventionelt udseende biler, der er udstyret med yderligere specialudstyr. For eksempel kan der være et tagstativ, der indeholder en række elektroniske sensorer. Sensorerne inkluderer nogle gange videokameraer, radarenheder, LIDAR-enheder, ultralydssensorer og lignende.

Futuristiske designs har en tendens til at antyde, at vi måske afviger fra den konventionelt udseende bil for i stedet at redesigne biler både indvendigt og udvendigt, så de er mere glatte autonome køretøjer. Lige nu er den generelle tankegang, at det er lettere at bruge konventionelle biler og ikke bruge energi på at prøve at strække bestræbelserne ved samtidig at pille ved ukonventionelt udseende biler (der er nogle undtagelser fra dette generelle synspunkt, se min dækning på linket her).

Hovedessensen lige nu er, at hvis du kører på vejbanen og støder på en selvkørende bil i nærheden, kan du næsten altid med det samme opdage, at det sandsynligvis er en selvkørende bil ved blot at lægge mærke til de små sensorer monteret på det autonome køretøj. Dette er en hurtig visuel giveaway. Selvfølgelig ved du ikke med sikkerhed, at det er selvkørende i sig selv, da på dette tidspunkt er kørekontrollerne normalt stadig intakte, og en menneskelig backup-chauffør kan sidde ved rattet.

I en måde at tænke på, kan du foreslå, at det er særligt praktisk, at selvkørende biler fysisk ser ud til at skille sig ud og let ses visuelt af menneskelige bilister i nærliggende menneskedrevne biler og også af fodgængere i nærheden. Erkendelsen af, at en selvkørende bil roamer i nærheden, kan være et praktisk fingerpeg om at være på din vagt, hvilket får dig til at være opmærksom og opmærksom på, at AI'en er eller måske kører køretøjet.

Antag, at selvkørende biler lignede en konventionel menneskedrevet bil. Dette er realistisk muligt på mindst to måder. For det første kan sensorerne potentielt være skjult eller formet til ikke at være så tydelige for tilfældig visuel inspektion. For det andet kan det være, at alle biler, inklusive konventionelle menneske-drevne biler, gradvist udstyres med de beslægtede sensorer, selvom køretøjet alligevel forbliver som en overvejende menneske-drevet bil. Se min yderligere dækning på dette link her.

Hvis du bevidst overvejer denne overvejelse om, hvorvidt selvkørende biler kan eller bør være identiske i udseende med konventionelle menneskedrevne biler, kan du komme i tanke om, at en uhyggelig dal måske lurer i denne gryderet.

Ser du, biler, der åbenlyst ligner selvkørende biler, kan blive karakteriseret som værende på et tidspunkt, der er lige kort fra den uhyggelige dal. Dybest set "ved" du, at det er en robot eller et robotsystem. Det er en dom, du næsten med det samme kan springe til.

Når selvkørende biler på samme måde ser på menneskedrevne biler, tyder det måske på, at de autonome køretøjer er sprunget forbi den uhyggelige dal med hensyn til deres robotagtige udseende. Er der dog en mellemvej mellem de to fysiske optrædener, der bringer os ind i den uhyggelige dal?

Måske ser du en selvkørende bil, der kommer ned ad gaden, og det ser ud til, at det sandsynligvis er en selvkørende bil, på den anden side ser udseendet hverken strengt autonomt eller strengt menneskedrevet ud. Man kan argumentere for, at den selvkørende bil nu er i en uhyggelig eller foruroligende tilstand.

Den selvkørende bil har tilsyneladende fået sig selv nedsænket i den uhyggelige dal.

Når det er sagt, ville ikke alle være enige i den kategorisering. Nogle vil hævde, at det fysiske udseende ikke har noget at gøre med den uhyggelige dal. Nogle hævder selvfølgelig også, at der ikke er noget realistisk kendt som den uhyggelige dal.

Som nævnt tidligere er du velkommen til at træffe din egen beslutning herom.

2. Spørgsmål om, hvor selvkørende biler søger

En truende bekymring, som mange har omkring selvkørende biler, er, at de normalt mangler enhver menneskelig fører i førersædet, og derfor er det svært at finde ud af, hvor "chaufføren" kigger, mens han er i gang med at køre bilen.

Du kigger normalt på menneskelige chauffører for at spionere, hvor de leder efter. For eksempel kan du være en fodgænger ved et fodgængerfelt, og en bil nærmer sig krydset. Du ser opmærksomt på personen, der sidder i førersædet, og forsøger at gennemskue, hvor hovedet er vendt, og hvor øjnene kigger. Hvis du tror, ​​at den menneskelige chauffør har set dig, er du måske mere tryg ved at krydse gaden. I modsætning hertil, hvis den menneskelige chauffør ikke ser ud til at se dig, er du med rette bekymret for at krydse.

I nogle byer er der en slags kat og mus gambit om disse aspekter. En særlig kulturel norm i en given by kan være, at hvis du får øjenkontakt med en chauffør, "vinder" chaufføren, og de har tilsyneladende ret til at fortsætte, uanset lovligheden af ​​kørselssituationen. Andre byer er måske fuldstændig det modsatte, nemlig at den kulturelle norm er, at når der skabes øjenkontakt, "vinder" fodgængeren, og det er meningen, at den menneskelige bilist skal forholde sig til fodgængerens handlinger.

Vi ser ud til at have adopteret denne skik i løbet af den relativt langvarige tid, hvor biler har været midt i vores byer og samfund. Problemet med fremkomsten af ​​selvkørende biler er, at der ikke er en menneskelig chauffør i førersædet, og derfor er enhver fodgænger eller nærliggende menneskelig chauffør, der normalt bruger bilisters hoved og øjne som en kulturel indikator for kørselsintention. ude af held.

Bilproducenter og selvkørende biludviklere er meget opmærksomme på dette nye problem. En foreslået løsning består i, at den selvkørende bil blinker med forlygterne på det autonome køretøj eller muligvis tuder med hornet. En anden forestilling er, at den selvkørende bil kan have en variant af en højttaler og fortælle dem i nærheden, hvad "intentionerne" med AI-køresystemet er. Disse ideer har hver især betydelige ulemper.

Alligevel indebærer et andet forslag at gøre noget, som du måske i første omgang synes er latterligt. Forslaget består i at placere øjeæblelignende kugler på ydersiden af ​​det autonome køretøj. Disse kugler ville stort set ligne menneskelige øjne i lighed med at være i stand til at dreje frem og tilbage, hvilket giver dig en øjeblikkelig indikation, der tyder på, at AI "har set dig" (du ville fortolke dette ved at øjeæblerne kigger i din særlige retning). Jeg har analyseret denne tilgang kl linket her.

Hvad ville din reaktion være på at se en selvkørende bil komme ned ad vejbanen og have disse store mærkelige øjeæblet optrædende kugler monteret på motorhjelmen eller taget?

Jeg formoder, at du måske synes, det er uhyggeligt, måske uhyggeligt.

Nogle vil mene, at uhyggeligheden opstår ved, at den så udrustede selvkørende bil befinder sig i den uhyggelige dal. Andre vil på det kraftigste hævde, at dette ikke har noget som helst at gøre med den uhyggelige dal. Af disse eksperter vil nogle sige, at der er en uhygge, der kan være uhygge uden at skulle være forankret i den uhyggelige dal (dvs. den uhyggelige dal frembringer tilsyneladende altid uhygge, men ikke al uhygge produceres udelukkende via den uhyggelige dal). Den anden vinkel er, at kuglerne formentlig kunne designes, så de ser mindre ud til at se på øjnene og ser ud til at være mere robotagtige, eller at vi alle uundgåeligt vil acceptere udseendet af disse kugler, og den indledende opsigtsvækkende reaktion vil aftage.

3. AI-kørselshandlinger af selvkørende biler

Mange af nutidens afprøvninger af selvkørende biler har vist, at de eksisterende AI-køresystemer har en tendens til at være programmeret til at køre på temmelig lunken og noget strengt overholdende lovlige måder. AI-køresystemet bringer typisk den selvkørende bil til et stop ved stopskilte. AI-køresystemet laver ikke vovede løb gennem vejkryds, når trafiksignalet umiddelbart vil være rødt. Disse egensindige kørselsmetoder er menneskelige chaufførers provins.

Man kunne sådan set næsten gætte på, at en selvkørende bil er en selvkørende bil ved den kørestil, den udviser. Selvom det autonome køretøj visuelt så ud til at være en konventionel menneskedrevet bil, kan du måske observere kørselshandlingerne og måske logisk udlede, at det sandsynligvis bliver drevet af et AI-system.

Nogle mener, at vi bliver nødt til at få AI-køresystemer til at være mere beslægtede med menneskelige chaufførers krumspring, så de effektivt vil blande sig i de normative tilgange til kørsel. Jeg formoder, at du kunne fortolke dette som at bekæmpe ild med ild.

Giver det mening at gøre?

Vær opmærksom på, at åbenhjertige skeptikere og kritikere afskyr ideen. De vil ihærdigt hævde, at vi ønsker, at AI-køresystemer skal køre ordentligt og forsigtigt. At tilføje potentielt millioner af selvkørende biler til de veje, der er programmeret til at være som vildfarne menneskelige chauffører, ville virke som et kolossalt mareridt. Jeg har diskuteret dette kontroversielle forslag kl linket her.

Lad os omarbejde dilemmaet ved at udnytte den uhyggelige dal.

Når AI-køresystemet er strengt lovligt på grund af dets kørehandlinger, er dette måske et afslørende fingerpeg om, at det sandsynligvis er et robotsystem (uanset menneskelige chauffører, der ganske vist gør dette, selvom de i dagens verden synes langt og få imellem). Hvis AI-køresystemer skal køre lige så skæve som menneskelige chauffører, springer det så hen over den uhyggelige dal eller falder det ned i den uhyggelige dal?

Tænk over det.

4. Robotter, der kører som et middel til at opnå selvkørende biler

Dette sidste punkt til dækning er det mest opsigtsvækkende af disse fire.

Du er måske helt uvidende om, at nogle AI-udviklere forsøger at lave robotter, der kan køre biler. Robotten ville have en tendens til at ligne et menneske i forskellige henseender med robotben og robotarme som lemmer. Når du ønsker, at enhver konventionel menneskedrevet bil skal være en selvkørende bil, sætter du blot denne specialiserede AI-kørerobot i førersædet i din bil. Se min analyse af dette begreb på linket her.

Hvorfor vil vi have kørende robotter?

Skønheden ved sådan en robot er, at alle nutidens menneskedrevne biler på en måde fortolket kan blive selvkørende biler, næsten fra den ene dag til den anden. Du skal blot købe, lease eller på en eller anden måde anskaffe dig en kørerobot. Du sætter robotten på dit førersæde, når du skal på en køretur. Robotten kører dig til din destination. Hvis du ønsker at skifte til at køre menneskelig kørsel, fjerner du robotten fra køretøjet, måske stuver den ind i bagagerummet til senere brug.

Der er omkring 250 millioner konventionelle biler i USA i dag. Nogle mener, at disse i sidste ende vil blive dumpet, efterhånden som selvkørende biler opstår. I stedet for at kassere de konventionelle biler, kan vi måske prøve at ombygge dem til at blive selvkørende biler, selvom det muligvis er en ret dyr idé. Den tilsyneladende mere forsigtige tilgang ville være at stille kørerobotter til rådighed.

Hvis du så en konventionelt udseende bil komme ned ad din nabolagsgade, og den havde en robot ved rattet, hvad ville din reaktion være?

Sandsynligvis uhygge.

En påstand, der ganske vist kan diskuteres, er, at denne uhyggelighed skyldes, at robotten, der kører en konventionel bil, dykker ned i den berømte eller berygtede uhyggelige dal.

Konklusion

Fra et etisk kunstig intelligens-perspektiv præsenterer den uhyggelige dal en spændende gåde.

Der er nogle i AI, der fuldt ud tror på den uhyggelige dal og nogle, der ikke gør. Men uanset om du tror på den uhyggelige dal eller ikke gør det, er selve emnet ikke desto mindre spændt rundt. Du kan ikke skjule dit hoved og lade som om, at konstruktionen i sig selv er ikke-eksisterende. Konstruktionen som en idé lever og er i en vis forestilling viralt kraftfuld. Had det eller elsk det, det forbandede eller måske ophøjede emne fortsætter.

I henhold til min tidligere diskurs om fordelene ved den uhyggelige dal fra AI-etikkens vinkel, er der et duellerende kærligheds- og hadforhold deri. Skulle dem i det etiske AI-rige omfavne den uhyggelige dal, eller summarisk afvise den uhyggelige dal, eller forblive noget neutrale med hensyn til sandheden og i stedet fokusere på den påvirkning, der opstår på grund af de igangværende divergerende overbevisninger om den.

Denne udfordring giver anledning til den fremtrædende økonom Adam Smith, da han engang sagde (omskrivning), at på vejen fra Skepsisens By skal du passere gennem Tvetydighedens Dal.