AI-etik og søgen efter selvbevidsthed i AI

Er du selvbevidst?

Jeg vil vædde på, at du tror, ​​du er.

Sagen er, angiveligt, at de færreste af os er særligt selvbevidste. Der er en række eller grad af selvbevidsthed, og vi er alle sammen forskellige i, hvor kloge selvbevidste vi er. Du tror måske, at du er fuldstændig selvbevidst og kun er det marginalt. Du kan være tyndt selvbevidst og indse, at det er din mentale tilstand.

I mellemtiden, i den øverste del af spektret, tror du måske, at du er fuldstændig selvbevidst og faktisk er lige så selvbevidst, som de kommer. Godt for dig.

Apropos det, hvad nytter det at være overordentlig selvbevidst?

Ifølge forskning offentliggjort i Harvard Business Review (HBR) af Tasha Eurich, du er angiveligt i stand til at træffe bedre beslutninger, du er mere sikker i dine beslutninger, du er stærkere i dine kommunikationsevner og mere effektiv generelt (pr. artikel med titlen "Hvad selvbevidsthed virkelig er (og hvordan) at dyrke det)."Bonusfaktoren er, at dem med stringent selvbevidsthed siges at være mindre tilbøjelige til at snyde, stjæle eller lyve. I den forstand er der en to muligheder for at afværge at være en skurk eller en skurk, sammen med stræber efter at være et bedre menneske og forskønne dine medmennesker.

Al denne snak om selvbevidsthed rejser et noget oplagt spørgsmål, nemlig hvad betyder udtrykket selvbevidsthed egentlig. Du kan let finde tonsvis af forskellige definitioner og fortolkninger om komplekset og skal vi sige en grødet konstruktion, der indebærer at være selvbevidst. Nogle vil forenkle tingene ved at foreslå, at selvbevidsthed består i at overvåge dit eget jeg, ved at vide, hvad du selv har gang i. Du er meget bevidst om dine egne tanker og handlinger.

Formodentlig vil en person, når den ikke er selvbevidst, ikke indse, hvad de gør, og heller ikke hvorfor, og heller ikke være bevidst om, hvad andre mennesker har at sige om dem. Jeg er sikker på, du har mødt mennesker, der er sådan her.

Nogle mennesker ser ud til at gå på denne jord uden en anelse om, hvad de selv laver, og de har heller ikke en anelse om, hvad andre siger om dem. Jeg gætter på, at du kan hævde, at de er som en hovedet nedadgående tyr i en delikat brudebutik. Vi har sædvanligvis en tendens til at tro, at tyren ikke ved, hvad den laver, og forbliver uvidende om andres synspunkter, medmindre de andre forsøger at manøvrere eller inddæmme det uvidende væsen.

Det siges, at selvbevidsthed kan være noget rekursiv.

Lad mig skitsere et eksempel for at illustrere denne rekursion. Du er midt i at se en ganske absorberende kattevideo på din smartphone (alle gør det, ser det ud til). Nogle mennesker ville ikke have andre tilsyneladende tanker end de vidunderlige hjertevarmende løjer af de elskede katte. I mellemtiden er alle med en smule selvbevidsthed klar over, at de ser en kattevideo. De er måske også opmærksomme på, at andre omkring dem bemærker, at de ser en kattevideo.

Læg mærke til, at du kan være selvbevidst og stadig være fordybet i en skal vi sige en bestemt primær aktivitet. Den primære aktivitet i dette tilfælde er at se kattevideoen. Sekundært og samtidigt kan du tænke på, at du faktisk ser en kattevideo. Du er også i stand til at bære tanken om, at andre observerer dig, mens du ser den helt underholdende kattevideo. Du behøver ikke nødvendigvis at stoppe en aktivitet, såsom at stoppe med at se kattevideoen, for derefter separat at overveje, at du (eller bare så) en kattevideo. Disse tanker kan tilsyneladende opstå parallelt med hinanden.

Nogle gange kan vores selvbevidsthed dog sparke os ud af eller i det mindste afbryde en primær mental aktivitet. Måske, mens du tænker på, hvordan du ser kattevideoen, zones dit sind delvist ud, da det er overstrækkeligt udelukkende at koncentrere sig om selve videoen. Du vælger derefter at spole videoen tilbage for at gense den del, du på en måde så, men som du blev mentalt distraheret fra fuldt ud at forstå. Selvbevidsthed forstyrrede din primære mentale aktivitet.

Okay, vi er nu klar til at de rekursive aspekter opstår.

Er du klar?

Du ser en kattevideo. Din selvbevidsthed informerer dig om, at du ser en kattevideo, og at andre ser dig, mens du ser videoen. Det er status quo.

Du tager derefter et yderligere mentalt spring. Du begynder at tænke på din selvbevidsthed. Du er selvbevidst om, at du engagerer din selvbevidsthed. Sådan går det: Tænker jeg for meget på at tænke på, når jeg ser kattevideoen, spørger du dig selv fortvivlet? Dette er endnu et lag af selvbevidsthed. Selvbevidsthed rangerer oven på anden selvbevidsthed.

Der er et gammelt ordsprog, der siger, at det er skildpadder hele vejen ned. For selvbevidsthedsfænomenerne kan du være:

• Ikke bevidst om dig selv
• Selvbevidst om dig selv
• Selvbevidst om din selvbevidsthed om dig selv
• Selvbevidst om din selvbevidsthed om din selvbevidsthed om dig selv
• Ad Infinitum (dvs. og så videre)

Du har måske indset, at jeg tidligere subtilt påpegede, at der synes at være to hovedkategorier af at være selvbevidst. En bestemt teori postulerer, at vi har en slags indre selvbevidsthed, der fokuserer på vores indre tilstande, og vi har også en ekstern selvbevidsthed, der hjælper med at måle opfattelsen af ​​os hos dem omkring os, der ser os.

Ifølge HBR-artiklen er her en hurtig skildring af de teoretiserede to typer af selvbevidsthed: "Den første, som vi døbte indre selvbevidsthed, repræsenterer, hvor klart vi ser vores egne værdier, lidenskaber, forhåbninger, passer til vores miljø, reaktioner (inklusive tanker, følelser, adfærd, styrker og svagheder) og indflydelse på andre." Og i mellemtiden er den anden: "Den anden kategori, ydre selvbevidsthed, betyder at forstå, hvordan andre mennesker ser os, i form af de samme faktorer, der er anført ovenfor. Vores forskning viser, at folk, der ved, hvordan andre ser dem, er dygtigere til at vise empati og tage andres perspektiver.”

En praktisk to-til-to-matrix eller fire-kvadrat kan udledes ved at hævde, at både den interne og eksterne selvbevidsthed spænder fra høj til lav, og du kan parre de to kategorier med hinanden. HBR-forskningen indikerer, at du siges at være en af ​​disse fire selvbevidsthedsarketyper:

• Introspektør: Lav ekstern selvbevidsthed + høj indre selvbevidsthed
• Søger: Lav ekstern selvbevidsthed + lav indre selvbevidsthed
• Pleaser: Høj ekstern selvbevidsthed + lav indre selvbevidsthed
• Bevidst: Høj ekstern selvbevidsthed + høj indre selvbevidsthed

Toppen ville være den "bevidste" arketype, der består af at være på det øverste trin for at være eksternt selvbevidst og ligeledes på toppen af ​​at være internt selvbevidst. For at præcisere, opnår du ikke denne beundrede holdning på en nødvendigvis permanent måde. Du kan glide frem og tilbage mellem at være høj og lav, blandt både den indre og ydre selvbevidsthed. Det kan afhænge af tidspunktet på dagen, den situation, du befinder dig i, og en række andre fremtrædende faktorer.

Nu hvor vi venligt har dækket nogle grundlæggende elementer om selvbevidsthed, kan vi forsøge at knytte dette til emnet etisk adfærd.

Den sædvanlige påstand om at være selvbevidst er, at du er mere tilbøjelig til at være over bord, når du er selvbevidst. Dette betyder, som allerede anført, at du er mindre tilbøjelig til at udsætte dig for negativ etisk adfærd såsom at stjæle, snyde og lyve. Begrundelsen for denne tendens er, at aktiviteten i din selvbevidsthed ville få dig til at indse, at din egen adfærd er ubehagelig eller uetisk. Ikke alene fangster du dig selv, når du bevæger dig ind i mudret uetisk farvand, men du er også tilbøjelig til at styre dig selv tilbage ud og ind på tørt land (det etiske territoriums hellighed).

Din selvbevidsthed hjælper dig med at udøve selvkontrol.

En kontrast ville formodentlig være, når der er ringe eller ingen selvbevidsthed, hvilket antyder, at nogen måske er uvidende om deres tilbøjelighed til uetisk adfærd. Du kan hævde, at sådan en uvidende person måske ikke indser, at de præsterer dårligt. Beslægtet med tyren i sønderknusende butik, indtil noget mere åbenlyst fanger deres opmærksomhed, er det usandsynligt, at de selv regulerer sig selv.

Det er i øvrigt ikke alle, der køber ind på det her. Nogle vil hævde, at selvbevidsthed lige så let kan anvendes på at være uetisk som at være etisk. For eksempel kan en ondsindet være helt selvbevidst og nyder, at de udfører forseelsen. Deres selvbevidsthed driver dem endda mere stridt mod større og større handlinger af slem forseelse.

Der er mere uklarhed på dette, end man umiddelbart kan se øjet. Antag, at nogen er meget selvbevidste, men de er uvidende om de etiske sædvaner i et givent samfund eller kultur. På den måde har de ingen etisk vejledning, på trods af det erklærede faktum, at de er selvbevidste. Eller, hvis du vil, måske kender personen til de etiske forskrifter og tror ikke, de gælder for dem. De betragter sig selv som unikke eller uden for grænserne for konventionel etisk tænkning.

Rundt og rundt går det.

Selvbevidsthed kunne opfattes som et tveægget etik-orienteret sværd, vil nogle inderligt understrege.

For øjeblikket, lad os gå med den glade ansigt-version, der består af selvbevidsthed i det store og hele, der guider eller skubber os i retning af etisk adfærd. Alt andet lige vil vi gøre den bramfri antagelse, at jo mere selvbevidsthed der er, jo mere etisk hælder du. Det virker bestemt glædeligt og inspirerende at ønske det.

Lad os skifte gear og bringe kunstig intelligens (AI) ind i billedet.

Vi er ved et tidspunkt i denne diskussion for at forbinde alle de fortløbende forviklinger med den spirende verden af ​​Etisk AI, også almindeligt kendt som AI-etikken. For min løbende og omfattende dækning af AI-etik, se linket her , linket her, For blot at nævne nogle få.

Begrebet etisk kunstig intelligens indebærer en sammenfletning af området for etik og etisk adfærd til fremkomsten af ​​kunstig intelligens. Du har helt sikkert set overskrifter, der har rejst alarmklokker om AI, der er fyldt med uligheder og forskellige skævheder. For eksempel er der bekymring for, at AI-baserede ansigtsgenkendelsessystemer til tider kan udvise race- og kønsdiskrimination, typisk som et resultat af, hvordan de underliggende Machine Learning (ML) og Deep Learning (DL) faciliteter blev trænet og anvendt (se min analyse på dette link her).

For at forsøge at stoppe eller i det mindste afbøde den pels-lugt jagt hen imod AI For Bad, bestående af AI-systemer, der enten utilsigtet eller til tider bevidst er formet til at handle dårligt, har der for nylig været et presserende behov for at anvende etiske forskrifter på udvikling og brug af AI. Det seriøse mål er at give etisk vejledning til AI-udviklere, plus firmaer, der bygger eller arbejder med AI, og dem, der er afhængige af AI-applikationer. Som et eksempel på, at de etiske AI-principper bliver udformet og vedtaget, se min dækning på linket her.

Giv et reflekterende øjeblik til at overveje disse tre meget afgørende spørgsmål:

• Kan vi få AI-udviklere til at omfavne etiske AI-principper og tage disse retningslinjer i brug?
• Kan vi få virksomheder, der laver eller arbejder med kunstig intelligens, til at gøre det samme?
• Kan vi få dem, der bruger AI, til på samme måde at være bevidste om etiske AI-facetter?

Jeg vil uforskammet sige dette, det er en stor ordre.

Spændingen ved at lave AI kan overdøve enhver anelse om opmærksomhed på AI's etik. Nå, ikke kun spændingen, men at tjene penge er også en integreret del af den ligning. Du vil måske blive overrasket over at vide, at nogle i AI-verdenen er tilbøjelige til at sige, at de vil komme rundt til at beskæftige sig med de etiske AI-"ting", når de har fået deres AI-systemer ud af døren. Dette er det typiske techie-mantra om at sørge for at fejle hurtigt og ofte fejle, indtil du får det rigtigt (forhåbentlig at få det rigtigt).

Selvfølgelig lader dem, der summarisk skubber etisk tvivlsom kunstig intelligens ind i offentligheden, hesten ud af stalden. Deres udråbte udstrakte idé er, at AI For Bad vil blive fikset, efter at den er i daglig brug, hvilket er skadeligt er forsinket, da hesten allerede vildt galopperer rundt. Skader kan ske. Der er også en øget chance for, at intet bliver rettet eller justeret, mens AI'en er i brug. En hyppig undskyldning er, at det at fifle med AI'en på det tidspunkt kan gøre det endnu værre med hensyn til, at allerede uetisk algoritmisk beslutningstagning (ADM), der går fuldstændig af vejen.

Hvad kan der gøres for at få nytten og vitaliteten ved at have etisk kunstig intelligens som et stærkt skinnende og vejledende lys i hovedet på dem, der bygger kunstig intelligens, bruger kunstig intelligens og bruger kunstig intelligens?

Svar: Selvbevidsthed.

Ja, ideen er, at hvis folk var mere selvbevidste om, hvordan de bruger eller interagerer med AI, kan det øge deres tilbøjelighed til at ønske, at etisk AI skal være normen. Det samme kunne siges om AI-udviklerne og virksomhederne relateret til AI-systemer. Hvis de var mere selvbevidste om, hvad de laver, ville de måske i højere grad omfavne AI-etikken.

En del af logikken, som allerede er fastsat, er, at selvbevidsthed giver en tendens til at være et etisk bedre menneske og også afværge fra at være en etisk elendig person. Hvis vi kan holde denne forudsætning i gang, indebærer det, at AI-udviklere, der er mere tilbøjelige til selvbevidsthed, derfor vil være tilbøjelige til etisk adfærd og derfor være tilbøjelige til at producere etisk forsvarlig AI.

Er det en bro for langt for dig?

Nogle vil sige, at indirekte er lidt meget. Den ublu kæde af forbindelser mellem at være selvbevidst, at være etisk dydig og at anvende etiske forskrifter på AI er måske svær at sluge. Et modargument er, at det ikke kunne skade at prøve.

Skeptikere vil sige, at en AI-udvikler kan være selvbevidst og muligvis være mere etisk anlagt, men de vil ikke nødvendigvis springe hen imod at anvende den mentale lejr på etisk AI's skikke. Svaret på den betænkelighed er, at hvis vi kan offentliggøre og popularisere etiske AI-anliggender, vil den ellers tilsyneladende spinkle forbindelse blive mere indlysende, forventet og muligvis blive standardmåden at gøre tingene på, når det kommer til at lave AI.

Jeg vil nu tilføje et twist til denne saga. Twist kan få dit hoved til at snurre. Sørg for, at du sidder godt og er forberedt på, hvad jeg er ved at indikere.

Nogle påpeger, at vi burde bygge etisk kunstig intelligens direkte ind i selve kunstig intelligens.

Du er måske ligeglad med den udtalelse. Lad os pakke den ud.

En programmør kan skabe et AI-system og gøre det med deres egen programmerende selvbevidsthed om at forsøge at forhindre AI i at legemliggøre skævheder og uligheder. I stedet for bare at pløje løs på programmeringen, holder udvikleren øje over deres egen skulder for at spørge, om den tilgang, de tager, vil resultere i det nødvendige fravær af negative elementer i AI.

Fantastisk, vi har en AI-udvikler, der ser ud til at være tilstrækkeligt selvbevidst, har søgt at omfavne etisk adfærd og har set lyset i at inkludere etiske forskrifter, mens de laver deres AI-system.

Få en sejr for Ethical AI!

Alt godt og vel, men her er noget, der senere kan vise sig. AI'en er felt og taget i daglig brug. En del af AI indeholdt en komponent til at kunne "lære" i farten. Det betyder, at AI'en kan justere sig selv baseret på nye data og andre aspekter af den oprindelige programmering. Som en hurtig sidebemærkning betyder dette ikke, at AI'en er sansende. Vi har ikke sansende AI. Ignorer de dumme overskrifter, der siger, at vi gør. Ingen kan sige, om vi vil have sansende AI, og ingen kan i tilstrækkelig grad forudsige, hvornår det nogensinde vil ske.

For at vende tilbage til vores fortælling, blev AI målrettet udtænkt til at forbedre sig selv, mens den var i gang. Ganske praktisk begreb. I stedet for at programmører hele tiden skal foretage forbedringer, tillader de AI-programmet at gøre det af sig selv (hve, er det at arbejde dig selv ud af et job?).

I løbet af den tid, hvor AI tomme for tomme justerer sig selv, viser det sig, at forskellige beskidte uligheder og skævheder kryber ind i AI-systemet ved dets egne forandringshandlinger. Mens programmøren oprindeligt holdt disse snuskede aspekter ude, formulerer de sig nu på grund af AI-justeringen i farten. Desværre kan dette ske på en så subtil måde bag kulisserne, at ingen er klogere. De, der tidligere kunne have givet grønt lys til AI'en efter den indledende udtømmende test, er nu blindt uvidende om, at AI'en er gået ned ad den rådne vej af AI For Bad.

Et middel til enten at forhindre eller i det mindste fange denne uønskede fremkomst ville være at indbygge en slags etisk AI-dobbelttjek i AI'en. En komponent i AI'en er programmeret til at se AI'ens opførsel og opdage, om uetisk ADM begynder at dukke op. Hvis det er tilfældet, kan komponenten sende en advarsel til AI-udviklerne eller gøre det til et firma, der kører AI-systemet.

En mere avanceret version af denne komponent kan prøve at reparere AI'en. Dette ville være en justering af justeringerne, der vender de uetiske aspekter tilbage til de korrekte etiske parametre. Du kan forestille dig, at denne type programmering er vanskelig. Der er en chance for, at det kan komme på afveje og muligvis blive uetisk til dybt uetisk. Der er også mulighed for, at en falsk positiv udløser komponenten til handling og måske roder tingene i overensstemmelse hermed.

Uanset hvad, uden at blive hængende i, hvordan denne dobbeltkontrol ville fungere, kommer vi til at afgive en dristig erklæring om det. Du kan foreslå, at AI på en eller anden begrænset måde siges at være selvbevidst.

Yikes, det er kampord for mange.

Den fremherskende tro hos næsten alle er, at nutidens AI ikke er selvbevidst. Punktum, punktum. Indtil vi når sansende AI, som vi ikke ved, om eller hvornår det vil ske, er der ikke nogen form for AI, der er selvbevidst. Ikke mindst i betydningen menneskeorienteret selvbevidsthed. Foreslå ikke engang, at det kan ske.

Jeg er bestemt enig i, at vi skal være forsigtige med at antropomorfisere AI. Jeg vil sige mere om den bekymring om et øjeblik.

I mellemtiden, hvis du for diskussionens skyld vil være villig til at bruge faset "selvbevidst" på en løssluppen måde, tror jeg, du let kan se, hvorfor AI'en kan siges at overholde den overordnede opfattelse af selv- opmærksomhed. Vi har en del af AI'en, der overvåger resten af ​​AI'en og holder styr på, hvad resten af ​​AI'en har gang i. Når resten af ​​AI begynder at gå over bord, søger overvågningsdelen at detektere dette. Desuden kan AI-overvågningsdelen eller dobbelttjekkeren styre resten af ​​AI'en tilbage i de rigtige baner.

Lyder det ikke lidt som det at se de kattevideoer og have selvbevidstheden om, at du gjorde det?

Der er en velkendt klang over det.

Vi kan udvide dette endnu mere. AI-dobbelttjekkomponenten er ikke kun programmeret til at observere opførselen af ​​resten af ​​AI'en, men noterer også adfærden hos dem, der bruger AI'en. Hvordan har brugerne det, når de bruger AI? Antag, at nogle brugere udtrykker indignation over, at AI ser ud til at diskriminere dem. AI-dobbelttjekkeren kan muligvis opfange dette ved at bruge det som endnu et rødt flag om, at resten af ​​AI'en er på afveje.

Dette bringer den indre selvbevidsthed og de ydre selvbevidsthedskategoriseringer frem.

AI-dobbelttjekkeren scanner internt og eksternt for at finde ud af, om resten af ​​AI'en er på vej ud i bekymrende hav. Detekteringen vil hæve et flag eller forårsage, at en selvkorrektion gennemføres.

Lad os tilføje endnu en noget forbløffende udvidelse. Vi bygger endnu en AI-dobbelttjek, der er beregnet til at dobbelttjekke kerne-AI-dobbelttjekket. Hvorfor så? Tja, antag, at AI-dobbelttjekkeren ser ud til at vakle eller ikke udfører sit arbejde. Dobbelttjekkets AI-dobbelttjekker vil søge at opdage denne fejl og træffe nødvendige handlinger i overensstemmelse hermed. Velkommen til den rekursive natur af selvbevidsthed, vil nogle måske stolt erklære, som udstillet i et computerbaseret AI-system.

For de af jer, der allerede er på kanten af ​​dit sæde om dette, er den sidste kommentar, indtil videre, at vi kunne forsøge at foreslå, at hvis du gør AI-systemer "selvbevidste", vil de potentielt gravitere mod etisk adfærd. Gør de dette på et sansende grundlag? Bestemt, nej. Gør de dette på et beregningsmæssigt grundlag? Ja, selvom vi skal være klare over, at det ikke er af samme kaliber som menneskelig adfærd.

Hvis du er utilpas med, at begrebet selvbevidsthed fejlagtigt bliver fordrejet for at få det til at passe ind i et beregningsskema, er dine betænkeligheder ved dette velbemærkede. Om vi ​​skal sætte en stopper for den igangværende AI-indsats, der udnytter ideen, er et andet åbent spørgsmål. Du kan overbevisende argumentere for, at det i det mindste ser ud til at lede os mod et bedre resultat af, hvad AI sandsynligvis vil gøre. Vi skal dog have øjnene vidt åbne, da dette finder sted.

Vi bliver nok nødt til at se, hvordan det hele udspiller sig. Vend tilbage til dette om fem år, ti år og halvtreds år, og se om din tankegang har ændret sig om det kontroversielle spørgsmål.

Jeg er klar over, at dette har været en noget hæsblæsende undersøgelse af emnet, og at du måske længes efter nogle daglige eksempler. Der er et særligt og helt sikkert populært sæt eksempler, som ligger mit hjerte nært. Ser du, i min egenskab af ekspert i kunstig intelligens, herunder de etiske og juridiske konsekvenser, bliver jeg ofte bedt om at identificere realistiske eksempler, der viser AI-etiske dilemmaer, så emnets noget teoretiske karakter lettere kan forstås. Et af de mest stemningsfulde områder, der levende præsenterer dette etiske AI-dilemma, er fremkomsten af ​​AI-baserede ægte selvkørende biler. Dette vil tjene som et praktisk use case eller et eksempel til omfattende diskussion om emnet.

Her er så et bemærkelsesværdigt spørgsmål, som er værd at overveje: Belyser fremkomsten af ​​AI-baserede ægte selvkørende biler noget om, at AI har et udseende af "selvbevidsthed", og hvis ja, hvad viser dette?

Tillad mig et øjeblik at pakke spørgsmålet ud.

Først skal du bemærke, at der ikke er en menneskelig chauffør involveret i en ægte selvkørende bil. Husk, at ægte selvkørende biler køres via et AI-køresystem. Der er ikke behov for en menneskelig fører ved rattet, og der er heller ikke en bestemmelse om, at et menneske kan føre køretøjet. For min omfattende og løbende dækning af Autonome Vehicles (AV'er) og især selvkørende biler, se linket her.

Jeg vil gerne yderligere præcisere, hvad der menes, når jeg refererer til ægte selvkørende biler.

Forståelse af niveauerne af selvkørende biler

Som en afklaring er ægte selvkørende biler dem, som AI kører bilen helt alene, og der er ikke nogen menneskelig hjælp under køreopgaven.

Disse førerløse køretøjer betragtes som niveau 4 og niveau 5 (se min forklaring på dette link her), mens en bil, der kræver en menneskelig chauffør til at dele køreindsatsen, normalt betragtes på niveau 2 eller niveau 3. De biler, der deler køreopgaven, beskrives som værende semi-autonome og indeholder typisk en række forskellige automatiserede tilføjelser, der omtales som ADAS (Advanced Driver-Assistance Systems).

Der er endnu ikke en ægte selvkørende bil på niveau 5, som vi endnu ikke engang ved, om dette er muligt at opnå, og heller ikke hvor lang tid det vil tage at komme dertil.

I mellemtiden forsøger niveau 4-indsatsen gradvist at få noget trækkraft ved at gennemgå meget smalle og selektive forsøg på offentlige vejbaner, selvom der er uenighed om, hvorvidt denne test skal tillades i sig selv (vi er alle liv-eller-død marsvin i et eksperiment finder sted på vores motorveje og biveje, hævder nogle, se min dækning på dette link her).

Da semi-autonome biler kræver en menneskelig chauffør, vil vedtagelsen af ​​disse typer biler ikke være markant anderledes end at køre konventionelle køretøjer, så der er ikke meget nyt i sig selv at dække om dem om dette emne (dog, som du vil se på et øjeblik gælder de næste nævnte punkter generelt).

For semi-autonome biler er det vigtigt, at offentligheden skal advares om et foruroligende aspekt, der er opstået for nylig, nemlig at trods de menneskelige chauffører, der fortsætter med at indsende videoer af sig selv falder i søvn ved rattet i en niveau 2 eller niveau 3 bil , er vi alle nødt til at undgå at blive vildledt til at tro, at chaufføren kan fjerne deres opmærksomhed fra køreopgaven, mens han kører en semi-autonom bil.

Du er den ansvarlige part for køretøjets kørselshandlinger, uanset hvor meget automatisering der kan kastes i et niveau 2 eller niveau 3.

Selvkørende biler og kunstig intelligens med såkaldt selvbevidsthed

For ægte selvkørende køretøjer på niveau 4 og niveau 5 er der ikke en menneskelig chauffør, der er involveret i køreopgaven.

Alle passagerer vil være passagerer.

AI driver kørslen.

Et aspekt, som man straks skal diskutere, indebærer det faktum, at AI involveret i nutidens AI-køresystemer ikke er væsentlig. Med andre ord er AI'et helt en samling af computerbaseret programmering og algoritmer, og helt sikkert ikke i stand til at ræsonnere på samme måde som mennesker kan.

Hvorfor er denne ekstra vægt på, at AI ikke er følelsesladet?

Fordi jeg vil understrege, at når jeg diskuterer AI-køresystemets rolle, tilskriver jeg ikke menneskelige kvaliteter til AI. Vær opmærksom på, at der i disse dage er en løbende og farlig tendens til at antropomorfisere AI. I det væsentlige tildeler folk menneskelignende følsomhed til nutidens AI, på trods af den ubestridelige og uomtvistelige kendsgerning, at der endnu ikke findes sådan en sådan AI.

Med denne afklaring kan du forestille dig, at AI-køresystemet ikke på en eller anden måde "ved" noget om kørselens facetter. Kørsel og alt, hvad det medfører, skal programmeres som en del af den selvkørende bils hardware og software.

Lad os dykke ned i det utal af aspekter, der kommer til at spille om dette emne.

For det første er det vigtigt at indse, at ikke alle AI selvkørende biler er ens. Hver bilproducent og selvkørende teknologivirksomhed tager sin tilgang til at udtænke selvkørende biler. Som sådan er det svært at komme med omfattende udsagn om, hvad AI-køresystemer vil gøre eller ej.

Når det endvidere angives, at et AI -køresystem ikke gør nogle særlige ting, kan dette senere blive overhalet af udviklere, der faktisk programmerer computeren til at gøre det. Trin for trin forbedres og udvides AI -drivsystemer gradvist. En eksisterende begrænsning i dag eksisterer muligvis ikke længere i en fremtidig iteration eller version af systemet.

Jeg stoler på, at det giver en tilstrækkelig mængde forbehold til at ligge til grund for det, jeg er ved at fortælle.

Vi er klar til nu at dykke ned i selvkørende biler og etiske AI-spørgsmål, der indebærer den øjenbrynsløftende forestilling om, at AI har en slags selvbevidsthed, hvis du vil.

Lad os bruge et ligetil eksempel. En AI-baseret selvkørende bil er undervejs på gaderne i dit nabolag og ser ud til at køre sikkert. I begyndelsen havde du viet særlig opmærksomhed, hver gang det lykkedes dig at få et glimt af den selvkørende bil. Det autonome køretøj skilte sig ud med sit stativ af elektroniske sensorer, der omfattede videokameraer, radarenheder, LIDAR-enheder og lignende. Efter mange uger med den selvkørende bil, der krydser rundt i dit lokalsamfund, mærker du det nu næsten ikke. For dig er det blot endnu en bil på de allerede befærdede offentlige veje.

For ikke at du tror, ​​det er umuligt eller usandsynligt at blive fortrolig med at se selvkørende biler, har jeg ofte skrevet om, hvordan de lokaliteter, der er inden for rammerne af selvkørende bilprøver, efterhånden har vænnet sig til at se de piftede køretøjer, se min analyse på dette link her. Mange af lokalbefolkningen skiftede til sidst fra mundgabende henført stirrende til nu at udsende en ekspansiv gab af kedsomhed for at være vidne til de bugtende selvkørende biler.

Sandsynligvis er hovedårsagen lige nu til, at de måske bemærker de autonome køretøjer, på grund af irritations- og irritationsfaktoren. De bogførte AI-køresystemer sørger for, at bilerne overholder alle hastighedsgrænser og færdselsregler. For hektiske menneskelige chauffører i deres traditionelle menneske-drevne biler bliver man til tider irriteret, når man sidder fast bag de strengt lovlydige AI-baserede selvkørende biler.

Det er noget, vi alle måske skal vænne os til, med rette eller forkerte.

Tilbage til vores fortælling. Antag en dag, at en selvkørende bil i din by nærmer sig et stopskilt og ikke ser ud til at sænke farten. Himlen, det ser ud til, at AI-køresystemet kommer til at have den selvkørende bilplov lige forbi Stop-skiltet. Forestil dig, hvis en fodgænger eller cykelrytter var et sted i nærheden og blev overrumplet af, at den selvkørende bil ikke ville komme til at stoppe ordentligt. Skammeligt. Farligt!

Og ulovligt.

Lad os nu overveje en AI-komponent i AI-køresystemet, der fungerer som en stil med selvbevidst dobbelttjekker.

Vi vil bruge et øjeblik på at grave i detaljerne om, hvad der foregår inde i AI-køresystemet. Det viser sig, at videokameraerne monteret på det selvkørende køretøj registrerede, hvad der måske syntes at være et stopskilt, men i dette tilfælde skjuler et forvokset træ rigeligt stopskiltet. Machine Learning og Deep Learning-systemet, der oprindeligt blev trænet på stopskilte, blev udtænkt på mønstre af hovedsageligt fulde stopskilte, generelt uhindret. Ved beregningsmæssig undersøgelse af videobillederne blev der tildelt en lav sandsynlighed for, at der fandtes et stopskilt på det pågældende sted (som en ekstra komplikation, og yderligere forklaring, var dette et nyligt udsendt stopskilt, der ikke optrådte på de tidligere forberedte digitale kort, som AI-kørselssystem var afhængig af).

Alt i alt besluttede AI-køresystemet sig beregningsmæssigt til at fortsætte fremad, som om stoptegnet enten var ikke-eksisterende eller muligvis et tegn af en anden art, som muligvis lignede et stopskilt (dette kan ske og sker med en vis hyppighed).

Men heldigvis overvågede den AI-selvbevidste dobbelttjekker aktiviteterne i AI-køresystemet. Efter beregningsmæssig gennemgang af dataene og vurderingen fra resten af ​​AI'en valgte denne komponent at tilsidesætte det normale forløb og beordrede i stedet AI-køresystemet til at stoppe.

Ingen kom til skade, og der skete ingen ulovlig handling.

Man kan sige, at den AI-selvbevidste dobbelttjekker opførte sig, som om den var en indlejret juridisk agent, der forsøgte at sikre, at AI-køresystemet overholdt loven (i dette tilfælde et stopskilt). Selvfølgelig var sikkerhed også nøglen.

Dette eksempel viser forhåbentlig, hvordan den udtænkte AI-selvbevidste dobbelttjek kan fungere.

Vi kan dernæst kort overveje et mere fremtrædende etisk AI-eksempel, der illustrerer, hvordan AI-selvbevidst dobbelttjek kan give en etisk AI-orienteret indlejret funktionalitet.

For det første, som baggrund, er en af ​​de bekymringer, der er blevet udtrykt om fremkomsten af ​​AI-baserede selvkørende biler, at de kan ende med at blive brugt på en noget utilsigtet diskriminerende måde. Sådan gør du. Antag, at disse selvkørende biler er sat op for at forsøge at maksimere deres indtjeningspotentiale, hvilket afgjort giver mening for dem, der driver en flåde af selvkørende biler til rådighed. Flådeejeren vil gerne have en rentabel drift.

Det kan være, at de roamende selvkørende biler i en given by gradvist begynder at betjene nogle dele af samfundet og ikke andre områder. De gør det for at tjene penge, idet fattigere områder måske ikke er lige så indtægtsgivende som de rigere dele af lokaliteten. Dette er ikke et eksplicit ønske om at tjene nogle områder og ikke tjene andre. I stedet opstår det organisk med hensyn til de selvkørende bilers AI regnemæssigt "regne ud", at der er flere penge at tjene ved at koncentrere sig om de geografisk mere betalte områder. Jeg har diskuteret denne samfundsetiske bekymring i min klumme, som f.eks linket her.

Antag, at vi har tilføjet en AI-selvbevidst dobbelttjekker i AI-køresystemerne. Efter et stykke tid bemærker AI-komponenten beregningsmæssigt et mønster af, hvor de selvkørende biler roamer. Især på nogle områder, men ikke på andre. Baseret på at være blevet kodet med nogle etiske AI-forskrifter, begynder AI-selvbevidste dobbelttjekkeren at guide de selvkørende biler til andre dele af byen, som ellers var blevet forsømt.

Dette illustrerer AI selvbevidste begrebet og gør det i kombination med det etiske AI-element.

Endnu et sådant eksempel kan give indsigt i, at denne etiske AI-betragtning også kan være en ganske nøgtern og alvorlig forgrening på liv eller død.

Overvej en nyhedsrapport om en nylig bilulykke. Efter sigende var en menneskelig chauffør på vej op til et travlt kryds og havde grønt lys til at fortsætte ligeud. En anden chauffør kom tønde forbi et rødt lys og kom ind i krydset, da de ikke skulle have gjort det. Chaufføren med grønt lys indså i sidste øjeblik, at denne anden bil ville ramme ham alvorligt.

Ifølge denne udsatte chauffør beregnede han med omtanke, at enten ville han blive ramt af den anden bil, eller også kunne han svinge for at forsøge at undgå indgriberen. Problemet med at svinge var, at der var fodgængere i nærheden, som ville være truet.

Hvilket valg ville du tage?

Du kan forberede dig på at blive ramt og håbe på, at skaden ikke vil lemlæste eller dræbe dig. På den anden side kan du svinge radikalt væk, men bringe nærliggende fodgængere i alvorlig fare og muligvis skade eller dræbe. Dette er et hårdt problem, der omfatter moralsk dømmekraft og er fuldt gennemsyret af etiske (og juridiske) implikationer.

Der er et generelt etisk dilemma, der dækker denne form for dilemma, berømt eller måske berygtet kaldet Trolley Problemet, se min omfattende dækning på dette link her. Det viser sig, at det er et etisk stimulerende tankeeksperiment, der kan spores tilbage til begyndelsen af ​​1900-tallet. Som sådan har emnet eksisteret i et stykke tid og er for nylig blevet generelt forbundet med fremkomsten af ​​kunstig intelligens og selvkørende biler.

Erstat den menneskelige chauffør med et AI-køresystem indlejret i en selvkørende bil.

Forestil dig så, at en AI-selvkørende bil kører ind i et vejkryds, og sensorerne i det autonome køretøj pludselig registrerer en menneskedrevet bil, der faretruende kommer direkte gennem et rødt lys og sigter mod den førerløse bil. Antag, at den selvkørende bil har nogle passagerer inde i køretøjet.

Hvad vil du have, at AI skal gøre?

Skulle AI-køresystemet vælge at fortsætte fremad og blive pløjet ind i (sandsynligvis skade eller måske dræbe passagererne inde i køretøjet), eller vil du have AI-køresystemet til at tage en chance og svinge væk, selvom svingningen tager det autonome køretøj farligt mod nærliggende fodgængere og kan skade eller dræbe dem.

Mange af AI-producenterne af selvkørende biler tager en hoved-i-sandet-tilgang til disse etiske AI-blærer knibe. I det store og hele ville AI'en, som nu er programmeret, simpelthen pløje frem og blive voldsomt ramt af den anden bil. AI'en var ikke programmeret til at lede efter andre undvigemanøvrer.

Jeg har gentagne gange forudsagt, at denne se-ingen ondskab hør-ingen ond holdning fra AI selvkørende bilproducenter til sidst vil komme rundt og bide dem (min analyse er kl. linket her). Du kan forvente retssager, der involverer sådanne bilulykker, der vil søge at finde ud af, hvad AI var programmeret til at gøre. Var virksomheden eller AI-udviklerne eller flådeoperatøren, der udviklede og satte AI'en uagtsom eller ansvarlig for, hvad AI'en gjorde eller ikke gjorde? Du kan også forudse, at en etisk AI-bevidsthed i offentligheden vil opstå, når den slags tilfælde opstår.

Ind i dette etiske AI-dilemma træder vores berygtede AI-selvbevidste dobbelttjekker, der er etikorienteret. Måske kan denne specielle AI-komponent engagere sig i denne slags omstændigheder. Delen overvåger resten af ​​AI-køresystemet og status for den selvkørende bil. Når et frygteligt øjeblik som dette opstår, fungerer AI-komponenten som en Trolley-problemløser og tilbyder, hvad AI-køresystemet skal gøre.

Ikke en nem ting at kode, jeg forsikrer dig.

Konklusion

Jeg vil dele med dig den sidste tanke for nu om dette emne.

Du vil sandsynligvis finde det spændende.

Ved du om spejl test?

Det er ret velkendt i studiet af selvbevidsthed. Andre navne for sagen er spejl-selvgenkendelsestesten, røde plettesten, rougetesten og relaterede fraseringer. Teknikken og tilgangen blev oprindeligt udformet i begyndelsen af ​​1970'erne for at vurdere dyrs selvbevidsthed. Dyr, der efter sigende har bestået testen, omfatter aber, visse typer elefanter, delfiner, skatter og nogle andre. Dyr, der blev testet og angiveligt ikke bestod testen, omfatter kæmpepandaer, søløver osv.

Her er aftalen.

Når et dyr ser sig selv i et spejl, indser dyret så, at det viste billede er af dem selv, eller tror dyret, at det er et andet dyr?

Formentlig genkender dyret visuelt sin egen art, efter at have set andre af sin slags, og kan derfor tro, at dyret vist i spejlet er en fætter eller måske en krigerisk konkurrent (især hvis dyret snerrer af spejlbilledet, som i tur ser ud til at snerre tilbage til dem). Måske har du set din huskat eller din elskede hund gøre det samme, når den ser sig selv i et husstandsspejl for første gang.

Under alle omstændigheder vil vi antage, at et vildt dyr aldrig har set sig selv før. Nå, det er ikke nødvendigvis sandt, da dyret måske fik et glimt af sig selv i en rolig vandpøl eller via en skinnende klippeformation. Men de betragtes som mindre sandsynlige chancer.

Okay, vi vil på en eller anden måde vurdere, om et dyr er i stand til at finde ud af, at det faktisk er det dyr, der vises i spejlet. Overvej den tilsyneladende simple handling. Mennesker finder i en ung alder ud af, at de eksisterer, og at deres eksistens demonstreres ved at se sig selv i et spejl. De bliver selvbevidste om sig selv. I teorien indser du måske ikke, at du er dig, før du ser dig selv i et spejl.

Måske er dyr ikke i stand til kognitivt at blive selvbevidste på samme måde. Det kunne være, at et dyr ville se sig selv i et spejl og til stadighed tro, at det er et andet dyr. Uanset hvor mange gange den ser sig selv, vil den stadig tro, at dette er et andet dyr end sig selv.

Trickdelen af ​​dette kommer til at spille. Vi sætter et mærke på dyret. Dette mærke skal kun kunne ses, når dyret ser sig selv i spejlet. Hvis dyret kan dreje eller dreje og se mærket på sig selv (direkte), ødelægger det eksperimentet. Ydermere kan dyret ikke føle, lugte eller på anden måde opdage mærket. Endnu en gang, hvis de gjorde det, ville det ødelægge eksperimentet. Dyret kan ikke vide, at vi sætter mærket på det, da det ville antyde dyret, at noget er der.

Vi ønsker at indsnævre tingene sådan, at den eneste mulige årsag til, at mærket kan opdages, ville være at se sig selv i spejlet.

Aha, testen er nu klar. Dyret stilles foran et spejl eller vandrer hen til det. Hvis dyret efterfølgende forsøger at røre ved eller grave ved mærket, ville vi med rimelighed konkludere, at den eneste måde, dette ville ske på, er, hvis dyret indså, at mærket var på sig selv. Meget få dyrearter har været i stand til at bestå denne test.

Der er en række kritikpunkter om testen. Hvis en menneskelig tester er i nærheden, kan de give ting væk ved at stirre på mærket, hvilket kan få dyret til at børste eller føle efter det. En anden mulighed er, at dyret stadig tror, ​​at der vises et andet dyr i spejlet, men det er af samme type, og dermed spekulerer dyret på, om det også har et mærke som det på det andet dyr.

Ved og ved går det.

Jeg er sikker på, at du er glad for at vide dette, og at du fremover vil forstå, hvorfor der er en prik eller en eller anden mærkelig markering på et dyr, som ellers ikke ville have et sådant mærke. Hvem ved, den har måske for nylig afsluttet et spejltesteksperiment. Tillykke dyret, sikkert, for at have været en generøs deltager.

Hvad har noget af det at gøre med AI-baserede selvkørende biler?

Du vil kunne lide denne del.

En selvkørende bil kører på en lang motorvej. AI-køresystemet bruger sensorer til at registrere anden trafik. Dette er en to-sporet motorvej, der har trafik nordgående i den ene vognbane og sydgående i den anden vognbane. Lejlighedsvis vil biler og lastbiler forsøge at passere hinanden ved at gå ind i den modsatte vognbane og derefter hoppe tilbage i deres rigtige kørebane.

Du har set dette, du har uden tvivl gjort dette.

Jeg vil vædde på, at det næste aspekt også er sket for dig. Foran den selvkørende bil står en af ​​de store tankbiler. Den er lavet af skinnende metal. Poleret og ren som en fløjte. Når du sætter dig bag en sådan lastbil, kan du se spejlbilledet af din bil via den bagerste del af tankvognen. Hvis du har set dette, ved du, hvor fascinerende det kan være. Der er du, du og din bil, reflekteret i den spejlagtige refleksion af tankbilens bagside.

Sæt dig ned for det skøre twist.

En selvkørende bil kommer op bag tankbilen. Kameraerne registrerer billedet af en bil, der vises i den spejllignende refleksion. Whoa, vurderer AI, er det en bil? Kommer den ved den selvkørende bil? Efterhånden som den selvkørende bil kommer tættere og tættere på tankbilen, ser bilen ud til at komme tættere og tættere på.

Yikes, AI'en kan beregne, at dette er en farlig situation, og AI'en burde tage undvigende handlinger fra dette skøre slyngelkøretøj. Ser du, AI'en genkendte ikke sig selv i spejlet. Den bestod ikke spejltesten.

Hvad skal man gøre? Måske springer den AI-selvbevidste dobbelttjekker ind i sagen og forsikrer resten af ​​AI-køresystemet om, at det kun er en harmløs refleksion. Fare afværget. Verden er reddet. Succesfuld passage af AI Mirror Test!

Med en tungen-i-kind-konklusion kan vi endda foreslå, at AI nogle gange er smartere eller i det mindste mere selvbevidst end en gennemsnitlig bjørn (selvom, til ære for bjørne, klarer de sig normalt godt i spejltesten, ofte efter at have fået det vant til deres refleksion i vandpøl).

Korrektion, måske kan AI være mere selvbevidst end kæmpepandaer og søløver, men fortæl ikke dyrene, at de kan blive fristet til at smadre eller bash AI-systemer. Det vil vi ikke, vel?