AI-etik hælder til Aristoteles for at undersøge, om mennesker kunne vælge at slavebinde AI midt i fremkomsten af ​​fuldt autonome systemer

Ven eller fjende.

Fisk eller fugl.

Person eller ting.

Disse gennemgående gåder tyder alle på, at vi til tider står over for en dikotom situation og har behov for at vælge den ene eller den anden facet. Livet kan tvinge os til at kæmpe med omstændigheder, der består af to gensidigt udelukkende muligheder. I et mere smagfuldt sprog kan du foreslå, at en eksklusiv binær ligning kræver, at vi marcherer marcherer ned ad en særskilt vej frem for en anden.

Lad os fokusere specifikt på person-eller-ting dikotomien.

Det brændende spørgsmål om person-eller-ting dukker op igen og igen vedrørende kunstig intelligens (AI).

For at præcisere, er dagens AI absolut ikke en person og ikke bærer nogen antydning af sansning, på trods af de store øjne og helt store overskrifter, du måtte se i nyhederne og på tværs af sociale medier. Således kan du være sikker på, at lige nu er spørgsmålet om, hvorvidt AI er en person eller en ting, let ansvarligt. Læs mine læber, i en veritabel Hobsons valg mellem person eller ting, AI er en ting, for nu.

Når det er sagt, kan vi se mod fremtiden og spekulere på, hvad der kan ske, hvis vi er i stand til at opnå en sansende form for AI.

Nogle begrundede kritikere (plus ætsende skeptikere) foreslår, at vi måske tæller vores kyllinger længe før de udklækkes ved i dag at diskutere konsekvenserne af en sansende AI. Den udtrykte bekymring er, at selve diskussionen indebærer, at vi skal være på nippet til en sådan kunstig intelligens. Samfundet som helhed kunne blive vildledt til at tro, at der i morgen eller overmorgen vil være en pludselig og chokerende afsløring af, at vi faktisk er nået frem til sansende AI (dette omtales til tider af nogle som AI-singulariteten eller en intelligenseksplosion, se min analyse kl linket her). I mellemtiden ved vi ikke, hvornår en sådan AI vil opstå, om nogensinde, og bestemt behøver vi tilsyneladende ikke at kigge rundt om hvert hjørne og være skræmmende på kant med, at den følende AI vil springe ud på os helt uventet i den næste stund.

Den anden side af debatten påpeger, at vi ikke bør have hovedet begravet dybt i sandet. Ser du, hvis vi ikke åbenlyst diskuterer og overvejer mulighederne forbundet med sansende AI, gør vi menneskeheden en formodet alvorlig bjørnetjeneste. Vi vil ikke være klar til at håndtere sansende AI, når eller hvis det opstår. Ydermere, og måske endnu mere kraftfuldt sagt, kan vi ved at forudse sansende AI tage sagen lidt i egne hænder og forme retningen og arten af, hvordan sådan AI vil blive til, og hvad den skal bestå af (ikke alle er enige om dette sidste punkt , nemlig nogle siger, at en sådan AI vil have et "sind" helt for sig selv, og vi vil ikke være i stand til at forme eller fastholde det, da AI'en selvstændigt vil være i stand til at tænke og bestemme et middel til vedvarende at eksistere).

AI-etik har en tendens til at stille sig på det synspunkt, at vi ville gøre klogt i at få disse besværlige og argumenterende sansende AI-spørgsmål ud i det fri nu, i stedet for at vente, indtil vi ikke har nogen muligheder tilbage eller blive overrasket over opnåelsen af ​​en sådan AI. Læsere ved godt, at jeg har dækket AI-etik og etisk AI-emner i vid udstrækning, herunder dækket en række robuste emner såsom AI-juridisk personskab, AI-indeslutning, AI-disgorgement, AI-algoritmisk monokultur, AI-etik-vask, dobbeltbrug AI såkaldte Doctor Evil-projekter, AI, der skjuler samfundsmæssig magtdynamik, pålidelig AI, auditering af AI og så videre (se mine spalters dækning af disse vitale emner på linket her).

Jeg stiller dig et udfordrende spørgsmål.

I fremtiden, hvis vi antager, at vi uanset hvilken måde ender med sansende AI, vil den sansende AI blive fortolket af os alle som en person eller som en ting?

Inden vi begynder at dykke ned i dette helt provokerende spørgsmål, så tillad mig at sige noget om slagordet "følende AI", så vi alle er på samme side. Der er en masse angst om betydningen af ​​sansning og betydningen af ​​bevidsthed. Eksperter kan let være uenige om, hvad disse ord udgør. For at føje til denne mudret, når nogen refererer til "AI", har du ingen klar måde at vide, hvad de refererer til i sig selv. Jeg har allerede heri understreget, at dagens AI ikke er sansende. Hvis vi i sidste ende når frem til en fremtidig AI, der er sansende, vil vi formentlig også kalde det "AI". Sagen er, at disse omstridte sager kan være ret forvirrende lige nu med hensyn til, om ytringen af ​​"AI"-sætningen er relateret til den ikke-sansende AI i dag eller den engang, måske sansende AI.

De, der diskuterer AI, kan finde på at tale forbi hinanden og ikke indse, at den ene beskriver æbler, og den anden i mellemtiden taler om appelsiner.

For at prøve at omgå denne forvirring er der en justering af AI-fraseringen, som mange bruger med henblik på håbefuld afklaring. Vi har i øjeblikket en tendens til at henvise til Artificial General Intelligence (AGI) som den type AI, der kan udføre fuldt intelligent-lignende indsatser. I den forstand er den mildere brug af udtrykket "AI" overladt til enten at blive fortolket som en mindre version af AI, som nogle siger er snæver AI, eller er denotationsmæssigt tvetydig, og du ved ikke, om referencen er til ikke -sentient AI eller den måske sansende AI.

Jeg vil give et ekstra twist til dette.

Afhængigt af en given definition af sansning, kan du komme ind i en ophedet diskurs om, hvorvidt AGI vil være sansende eller ej. Nogle hævder, at ja, selvfølgelig vil AGI af sin iboende natur være nødt til at være sansende. Andre hævder, at du kan have AGI, der ikke er sansende, ergo, sansning er en anden egenskab, som ikke er et krav for at opnå AGI. Jeg har på forskellig vis undersøgt denne debat i mine spalter og vil ikke genoptage sagen her.

For øjeblikket skal du antage, at fremover i denne heri diskussion, at når jeg henviser til AI, har jeg til hensigt at foreslå, at jeg henviser til AGI.

Her er download om dette. Vi har endnu ikke AGI, og på en måde vil vi et øjeblik høfligt blive enige om, at AGI er i samme overordnede lejr som sansende AI. Hvis jeg udelukkende skulle bruge "AGI" gennem hele min diskussion, er denne frasering potentielt distraherende, da ikke mange endnu er vant til at se "AGI" som en moniker, og de ville sandsynligvis blive mildt irriterede over gentagne gange at se denne relativt nyere frasering. Hvis jeg nu i stedet skulle blive ved med at henvise til "følende AI", kan dette også være en distraktor for dem, der kæmper om, hvorvidt AGI og sansende AI er ens eller forskellige fra hinanden.

For at undgå det rod, antag at min omtale af AI er det samme som at sige AGI eller endda sentient-AI, og ved i det mindste, at jeg ikke taler om nutidens ikke-sansende ikke-AGI AI, når jeg kommer ind i overvejelsernes vold vedr. AI, der ser ud til at have menneskelignende intelligens. Jeg vil lejlighedsvis bruge AGI-navnebroren til at minde dig fra tid til anden heri, at jeg undersøger den type AI, som vi endnu ikke har, især i starten af ​​denne udforskning af person-eller-ting-gåden.

Det var en nyttig anerkendelse med småt, og jeg vender nu tilbage til den grundlæggende sag.

Tillad mig nu at spørge dig, om AGI er en person eller en ting.

Overvej disse to spørgsmål:

• Er AGI en person?
• Er AGI en ting?

Lad os derefter fortsætte med at gentage hvert spørgsmål og henholdsvis besvare spørgsmålene med en række ja- eller nej-svar, som det passer til et formodet dikotomt valg.

Begynd med denne postulerede mulighed:

• Er AGI en person? Svar: Ja.
• Er AGI en ting? Svar: Nej.

Tænk over det. Hvis AGI faktisk opfattes som en person og ikke som en ting, kan vi næsten med sikkerhed blive enige om, at vi skal behandle AGI'en, som om den er beslægtet med en person. Der synes at være et utilstrækkeligt ægte argument om at undlade at give AGI en form for juridisk personstatus. Dette ville enten være fuldstændig det samme som menneskelig juridisk personskab, eller også beslutter vi os for at komme med en variant af menneskeorienteret juridisk personskab, som ville være fornuftigt mere anvendelig for AGI. Sag lukket.

Det var nemt.

Forestil dig i stedet, at vi erklærede dette:

• Er AGI en person? Svar: Nej.
• Er AGI en ting? Svar: Ja.

I denne omstændighed er beslutningen naturligvis ligetil, da vi siger, at AGI er en ting og ikke stiger til kategorien at være en person. Der ser ud til at være generel enighed om, at vi bestemt ikke vil give AGI juridisk personstatus, på grund af den facet, at det ikke er en person. Som en ting ville AGI sandsynligvis og fornuftigt komme under vores overordnede rubrik om, hvordan vi lovligt behandler "ting" i vores samfund.

To ned, to muligheder endnu.

Forestil dig dette:

• Er AGI en person? Svar: Ja.
• Er AGI en ting? Svar: Ja.

Øv, det virker mærkeligt, da vi har to ja-svar. Ærgerligt. Vi foreslår, at AGI både er en person og samtidig en ting. Men dette ser ud til at flyve i modsætning til vores proklamerede dikotomi. I teorien skal noget i henhold til begrænsningerne for en dikotomi enten være en person, eller det skal være en ting. Disse to spande eller kategorier siges at være gensidigt udelukkende. Ved at hævde, at AGI er begge dele, modvirker vi systemet og bryder den gensidigt udelukkende ordning.

Vores sidste mulighed ser ud til at være denne:

• Er AGI en person? Svar: Nej.
• Er AGI en ting? Svar: Nej.

Yikes, det er også dårligt for vores forsøg på at klassificere AGI som enten en person eller en ting. Vi siger, at AGI ikke er en person, hvilket formentlig vil betyde, at det skal være en ting (vores eneste andre tilgængelige valg i denne dikotomi). Men vi sagde også, at AGI ikke er en ting. Men hvis AGI ikke er en ting, ville vi logisk være nødt til at hævde, at AGI er en person. Rundt og rundt går vi. Et paradoks, helt klart.

AGI i disse sidste to muligheder var enten (1) både person og ting, eller (2) hverken person eller ting. Du kan frækt sige, at disse to påstande om AGI er lidt beslægtet med den klassiske gåde om det, der hverken er fisk eller fjerkræ, hvis du ved, hvad jeg mener.

Hvad skal vi gøre?

Jeg er ved at tilbyde en ofte argumenteret og hårdt anfægtet løsning på dette AGI-klassifikationsdilemma, selvom du på forhånd bør gøres opmærksom på, at det muligvis vil være foruroligende at se eller høre. Forbered dig i overensstemmelse hermed.

Et forskningspapir, der behandlede dette problem, sagde dette: "En metode til at løse dette problem er at formulere et tredje udtryk, der hverken er det ene eller det andet eller en slags kombination eller syntese af det ene og det andet" (af David Gunkel, Northern Illinois University i Hvorfor robotter ikke bør være slaver, 2022). Og papiret giver så denne tilføjede pointe: "En mulig, hvis ikke overraskende, løsning på den eksklusive person/ting dikotomi er slaveri” (pr. samme papir).

Som yderligere baggrund var der år tidligere et papir, der udkom i 2010 med titlen "Robots Should Be Slaves", som er blevet en type grundpille for at anspore denne form for overvejelse, hvori papiret sagde: "Min tese er, at robotter skal være bygget, markedsført og lovligt betragtet som slaver, ikke kammerater” (i et papir af Joanna Bryson). For at forsøge at belyse emnet uden at bruge så alvorlige og mave-slidende formuleringer, fortsatte avisen med at sige dette: "Det, jeg mener at sige, er 'Roboter bør være tjenere, du ejer" (pr. Brysons papir).

Mange forskere og forfattere har dækket dette område.

Tænk på adskillige science fiction-fortællinger, der viser menneskehedens slavebindende AI-robotter. Nogle taler om robotslaver, kunstige tjenere, kunstig trældom og lignende. Interessant nok, så hård som udtrykket "robotslaver" ser ud til at være, har nogle bekymret sig for, at hvis vi i stedet henviser til "robottjenere", så undgår vi virkeligheden om, hvordan sådanne autonome AI-systemer er tilbøjelige til at blive behandlet (der erstatter ordet med " tjenere” siges at være en udvanding af intentionerne og et trick for at omgå nøgterne implikationer). Bryson udtalte senere i et blogindlæg fra 2015, at "Jeg indser nu, at du ikke kan bruge udtrykket 'slave' uden at påberåbe sig dets menneskelige historie."

For dem, der søger at undersøge dette AGI-indviklende emne dybt, bringer de til tider historiske eksempler fra den virkelige verden, som vi kan få indsigt fra. Selvfølgelig har vi ikke nogen tidligere AGI, der ville vise, hvordan menneskeheden håndterede sagen. Et argument går på, at vi ikke desto mindre kan have nyttige historiske øremærker, der er værd at undersøge, og som involverer, hvordan mennesker har behandlet andre mennesker.

For eksempel, i en bog udgivet i 2013, siger forfatteren dette: "Løftet og faren for kunstige, intelligente tjenere blev først implicit udlagt for over 2,000 år siden af ​​Aristoteles" (bog af Kevin LaGrandeur, Androids og intelligente netværk i tidlig moderne litteratur og kultur). Tanken er, at vi kan læne os ind i Aristoteles og se, om der er indsigt i, hvordan menneskeheden vil eller bør ende med potentielt at behandle AGI.

Jeg er sikker på, at du kender vigtigheden af ​​at studere historie, som rigeligt understreget af George Santayanas berømte ord: "De, der ikke kan huske fortiden, er dømt til at gentage den" (i Fornuftens liv, 1905).

Kudos til Oxford University Institute for Ethics And AI

En nylig og ret værdsat præsentation undersøgte nøje spørgsmålet om AI-etik midt i indsamlingen af ​​indsigt fra Aristoteles' værker og liv. I den årlige tiltrædelsesforelæsning for Oxford University Institut for Etik og AI, behandlede professor Josiah Ober fra Stanford University dybtgående emnet i sin præsentation "Ethics in AI with Aristoteles", som for nylig fandt sted den 16. juni 2022.

Sidebemærkning, i min egenskab af Stanford Fellow og global ekspert i AI Ethics & Law, var jeg begejstret over, at Stanfords Josiah Ober blev valgt som åbningstaler. Et vidunderligt valg og en fremragende snak.

Her er det sammenfattende abstrakt, der blev leveret til hans engagerende foredrag: "Analytisk filosofi og spekulativ fiktion er i øjeblikket vores primære intellektuelle ressourcer til at tænke seriøst om etik i AI. Jeg foreslår at tilføje en tredje: gammel social og filosofisk historie. I den Politik, udvikler Aristoteles en notorisk doktrin: Nogle mennesker er slaver 'af natur' – intelligente, men lider af en psykologisk defekt, der gør dem ude af stand til at ræsonnere om deres eget bedste. Som sådan bør de behandles som 'animerede værktøjer', instrumenter snarere end mål. Deres arbejde skal ledes af og ansættes til fordel for andre. Aristoteles' frastødende doktrin er blevet anvendt til ondskabsfulde formål, for eksempel i antebellum Amerika. Alligevel er det nyttigt for AI-etik, for så vidt som gammelt slaveri var en præmoderne prototype af en version af AI. Trællede personer var allestedsnærværende i det antikke græske samfund - arbejdere, prostituerede, bankfolk, regeringsbureaukrater - men de var ikke let at skelne fra frie personer. Allestedsnærværelsen, sammen med antagelsen om, at slaveri var en praktisk nødvendighed, skabte en række etiske gåder og dilemmaer: Hvordan er slaver nøjagtigt forskellige fra 'os'? Hvordan kan vi adskille dem fra os selv? Har de rettigheder? Hvad er mishandling? Kan mit instrument være min ven? Hvad er konsekvenserne af manumission? Den lange historie med græsk filosofisk og institutionel kamp med disse og andre spørgsmål føjer sig til det fortolkende repertoire af moderne etikere, der står over for en fremtid, hvor en intelligent maskine kan betragtes som en "naturlig slave" (som pr. Oxford University Institut for AI-etik internet side).

For yderligere information om oplægget og adgang til videooptagelsen af ​​foredraget, se linket her.

Moderator for præsentationen var professor John Tasioulas, den indledende direktør for Institut for Etik og AI, og professor i etik og juridisk filosofi, Det Filosofiske Fakultet, University of Oxford. Tidligere var han den indledende formand for politik, filosofi og jura og direktør for Yeoh Tiong Lay Center for Politics, Philosophy & Law ved Dickson Poon School of Law, Kings College London.

Jeg anbefaler stærkt, at enhver, der er interesseret i AI-etik, bør følge med i det igangværende arbejde og inviterede foredrag fra Oxford University Institut for Etik og AISe linket her og / eller linket her for yderligere info.

Som baggrund er her instituttets erklærede mission og fokus: "Institutet for etik i AI vil samle verdensledende filosoffer og andre eksperter inden for humaniora med de tekniske udviklere og brugere af AI i den akademiske verden, erhvervslivet og det offentlige. Etik og styring af AI er et usædvanligt levende forskningsområde i Oxford, og instituttet er en mulighed for at tage et modigt spring fremad fra denne platform. Hver dag bringer flere eksempler på de etiske udfordringer, som AI udgør; fra ansigtsgenkendelse til vælgerprofilering, hjernemaskine-grænseflader til våbendrevne droner og den igangværende diskurs om, hvordan AI vil påvirke beskæftigelsen på globalt plan. Dette er et presserende og vigtigt arbejde, som vi har til hensigt at promovere internationalt samt forankre i vores egen forskning og undervisning her i Oxford” (hentet via den officielle hjemmeside).

At bringe Aristoteles-lektioner frem i forgrunden

Det antikke Grækenland accepterede og støttede åbent praksis med slaveri. For eksempel, angiveligt, Athen i det 5^th og 6^th århundreder f.Kr. havde en af ​​de største udformninger af slaveri, hvorved anslået 60,000 til måske 80,000 personer blev gjort til slaver. Hvis du har læst nogen af ​​de mange græske historier og scenespil fra den æra, er der rigeligt om sagen.

I løbet af sin levetid var Aristoteles helt fordybet i de samfundsmæssige og kulturelle aspekter, der indebar slaveri og skrev meget om emnet. Vi kan i dag læse hans ord og søge at forstå hvordan og hvorfor af hans synspunkter om sagen. Dette kan være meget sigende.

Du undrer dig måske over, hvorfor Aristoteles ville være en særlig vigtig kilde at overveje om dette emne. Mindst to hovedårsager opstår:

1) Stor tænker. Aristoteles er helt sikkert vurderet som en af ​​de største tænkere gennem tiderne, der tjener som en storslået og dybt sonderende filosof, og også betragtet som en etiker, der etablerede mange afgørende etiske hjørnesten. Nogle har valgt at salve ham som logikkens fader, retorikkens fader, realismens fader osv., og anerkender hans indflydelse på en bred vifte af domæner og discipliner.

2) Levet oplevelse. Aristoteles levede i den tid, hvor det antikke Grækenland var oversvømmet i slaveri. Således ville hans indsigt ikke blot handle om abstrakte forskrifter, men formodentlig omfatte hans egne daglige oplevelser som værende integreret indvævet i kulturen og samfundssanserne i den æra.

Så vi har en noget forbløffende kombination af en person, der både var en stor tænker, og som også havde en påviselig oplevelse i emnet af interesse. Derudover skrev han sine tanker ned. Det er ret vigtigt, nu, for vores formål i dag. Alle hans skrifter, sammen med andre skrifter, der beskriver hans taler og interaktioner blandt andre, giver os i dag et væld af materiale til inspektion og analyse.

Jeg vil gerne tage dig med på en kort relateret tangent for at nævne noget andet om den generelle forestilling, der ligger til grund for betydningen af ​​at have en levet oplevelse. Læg diskussionen om det antikke Grækenland til side et øjeblik, mens vi tager et hurtigt kig på de overordnede aspekter af levede oplevelser.

Antag, at jeg havde to personer i dag, som jeg ville stille forskellige spørgsmål om biler.

En af dem har aldrig kørt bil. Denne person ved ikke, hvordan man kører. Denne person har aldrig siddet bag rattet i en bil. Sædvanlige og overordentlig almindelige kørekontroller er en smule mysterium for denne person. Hvilken pedal gør hvad? Hvordan får du det til at stoppe? Hvordan får du det til at gå? Denne ikke-kørende person er fuldstændig forvirret over sådanne forhold.

Den anden person er en hverdagsbilist. De kører på arbejde hver dag. De beskæftiger sig med stop-and-go-trafik. De har kørt i mange år. Dette omfatter alt fra stille gader til hektiske motorveje og biveje.

Hvis jeg beder dem hver især fortælle mig om, hvordan det er at køre bil, kan du så gætte, hvilken slags svar jeg kan få?

Den, der aldrig har kørt bil, er nødt til at komme med vilde gæt. Måske vil personen romantisere kørselshandlingen. Kørsel er noget abstrakt for dem. Alt, hvad de måske kan gøre, er at foreslå, at kørslen er ubekymret, og du er i stand til at få bilen til at køre i den retning, du ønsker.

Jeg vil vædde på, at den erfarne chauffør ville fortælle en anden historie. De nævner måske fordelene ved at være i stand til at køre, hvilket i nogen grad gentager følelserne hos den person, der ikke har kørt bil. Oddsene er, at den erfarne kører vil tilføje meget mere til pladen. Kørsel er til tider nervepirrende. Du bærer et tungt ansvar. Kørselshandlingen er fyldt med alvorlige bekymringer og potentielle konsekvenser på liv eller død.

Essensen er, at når du kan få adgang til nogen, der har levet oplevelser, er chancerne for, at du kan få et mere realistisk perspektiv på, hvordan verden er med hensyn til fokus for undersøgelsen. Der er ingen garanti for et sådant resultat. Det er tænkeligt, at ikke-køreren måske ved, hvad den erfarne chauffør ved om kørsel, selvom vi sandsynligvis ikke ville forvente dette og stadig har betænkeligheder ved, at vi ikke får det fulde scoop.

For at vende tilbage til vores diskussion om Aristoteles, via hans skrifter og andres skrifter om ham, er vi i stand til at gennemgå hans levede oplevelser om emnet eller fokus for undersøgelsen heri. Det to er, at han tilfældigvis også har været en tænker af enorme proportioner, og vi må forvente, at vi får en tønde fuld af skarpsindige overvejelser herom.

Husk på, at vi ikke nødvendigvis behøver at tro på hans ord for pålydende, sådan at vi bør holde et vågent øje med hans særlige forudsætninger. Hans fordybelse i den æra kan føre ham på afveje i forsøget på at stå uden for de aktuelle sager, ude af stand til at give en eller anden lidenskabsløs og objektiv mening. Selv de mest skrappe logikere kan ende med at forvrænge logikken for at prøve at imødekomme deres forkærligheder og levede erfaringer.

Lad os nu gå ind i den indledende tale og se, hvad Aristoteles kan afføde for os i dag.

Et etableringspunkt vedrørende levede oplevelser blev straks bragt til publikums opmærksomhed. I tilfælde af AGI, da vi ikke har AGI i dag, er det svært for os at analysere, hvordan AGI vil være, og hvordan vi vil håndtere AGI. Vi mangler nogle levede erfaringer, der specifikt vedrører AGI. Som professor Ober nævnte, kan vi alle befinde os i en verden af ​​såret, når vi når AGI.

Dette er ofte angivet, da AI er en eksistentiel risiko, som jeg dækkede mange gange i mine spalter. Du skulle bo i en hule for ikke at være opmærksom på de bragende betænkeligheder og mistanker om, at vi vil producere eller generere AGI, der vil dømme hele menneskeheden. Faktisk, selvom jeg her koncentrerer mig om slavegørelsen af ​​AI, ville mange synes, at dette er et emne med baglæns eller omvendt konsekvens sammenlignet med muligheden for, at AGI vælger at slavebinde menneskeheden. Få dine prioriteter på det rene, vil nogle sarske kloge eksperter formane.

På trods af de mange udråb om AI som en eksistentiel risiko, kan vi helt sikkert overveje den anden gavnlige side af AI-mønten. Måske vil AGI være i stand til at løse de ellers tilsyneladende uløselige problemer, som menneskeheden står over for. AGI kan muligvis finde en kur mod kræft. AGI kunne finde ud af at løse verdens sult. Himlen er grænsen, som man siger. Det er scenariet med glade ansigter om AGI.

En optimist ville sige, at det er vidunderligt at forestille sig, hvordan AGI vil være en velsignelse for menneskeheden, mens en pessimist ville have en tendens til at advare om, at ulempen virker meget værre end de spekulerede fordele. AGI, der hjælper menneskeheden, er fantastisk. AGI, der beslutter sig for at dræbe alle mennesker eller gøre dem til slaver, ja, det er en helt klart verdensomspændende samfundsødelæggende eksistentiel risiko, der fortjener intens og livreddende opmærksomhed.

Okay, tilbage til sagens kerne, vi har ingen levede erfaringer med AGI. Medmindre du kan bygge en tidsmaskine og gå ind i fremtiden, når (hvis) AGI eksisterer, og så vende tilbage for at fortælle os, hvad du fandt, er vi lige nu uheldige med AGI fra et menneskebaseret levet erfaringsperspektiv.

Et andet middel til at udnytte levede erfaringer involverer det faktum, at Aristoteles levede i en tid, hvor slaveri fandt sted. Og her er kickeren. De, der blev slaveret, blev i nogle henseender portrætteret som værende en type maskine, en blanding af både person og ting, så at sige. Aristoteles var kendt for at henvise til dem, der blev slavegjort som et stykke ejendom, der ånder.

Jeg gætter på, at du måske er forvirret over, at Aristoteles, en gigant af logik og etik, ikke kun kunne have erkendt slaveri, men at han udadtil og højtråbende forsvarede praksis. Han gjorde personligt også brug af slaveri. Dette virker bare uden for forståelsen. Med al hans enorme intellekt og visdom ville han bestemt have fordømt praksis.

Jeg tør påstå, at dette fremhæver de til tider problematiske aspekter ved at udslette klumper af visdom fra nogen, der er belastet (skal vi sige) af deres levede oplevelser. Det er ligesom fisken, der opholder sig i den vandige fiskeskål. Det eneste, de kan opfatte, er vandet omkring dem. At prøve at forestille sig noget uden for deres vandbaserede verden er en enorm udfordring. Ligeledes var Aristoteles fuldt ud fordybet i et verdensbillede, der accepterede de gældende normer. Hans skrifter synes at illustrere den slags mental indespærring, kan man sige (måske efter eget valg, snarere end som standard). Den måde, hvorpå Aristoteles retfærdiggjorde disse forkastelige praksisser, er fascinerende absorberende, samtidig med at den er foruroligende og værdig til afsløring og endda fordømmelse.

Jeg vil give dig lidt af en teaser om, at Aristoteles' logik om dette berygtede emne involverer besjælede instrumenter, en hævdet gensidig fordel baseret på erkendelse, højere- og lavere-ordens hierarkiske instrumenter, overvejende og ræsonnerende elementer i sjælen, grader af dyd, påstået skarpsindighed og så videre. Du vil forhåbentlig blive fascineret nok af den teaser til at se videoen af ​​foredraget (se linket nævnt tidligere).

Jeg vil dog ikke lade dig hænge og vil i det mindste angive, hvad konklusionen summarisk bestod af (spoiler alert, hvis du foretrækker at finde ud af det via videoen, spring resten af ​​dette afsnit over). Det viser sig, at denne dybdegående videnskabelige vurdering af den "logik", som Aristoteles bruger, fremviser et påfund fyldt med modsigelser, og hele sættet og kaboodlen falder fra hinanden som et spinkelt korthus. Ved at omskrive professor Obers følelser styrter denne store etiske filosof ned på revet.

Du kan ikke få en firkantet pind ind i et rundt etisk hul.

Nogle tilføjede overvejelser om tænkning

Hvis Aristoteles havde dårlig logik i denne sag, kunne vi så instinktivt forkaste Aristoteles' postulationer og teorier direkte om denne praksis?

Nej. Ser du, der er stadig meget at udlede ved at grave i logikkens antagelser og fordrejninger, selvom de er fyldt med fejl. Plus, vi kan overveje, hvordan andre utilsigtet kunne gå ned ad den samme fejlagtige vej.

En yderligere stor takeaway er, at samfundet kan finde på mærkeligt eller utilstrækkelig logik, når det kommer til at overveje, om AGI skal slavebindes.

Vi kan lige nu udtænke logik om, hvad der skal ske, når først AGI opstår (hvis ja). Denne logik, der er tom for levede oplevelser om AGI, kunne være sørgeligt off-target. Når det er sagt, er det noget nedslående at indse, at selv når AGI eksisterer (hvis den findes), og vi samler vores levede erfaringer midt i AGI, kan vi stadig være uden for målet med hensyn til, hvad vi skal gøre (i lighed med Aristoteles' fejl). Vi kan logisere os selv ind i tilsyneladende ulogiske tilgange.

Vi skal være på vagt for at narre os selv ind i logiske "jernbeklædte" holdninger, der faktisk ikke er jernbeklædte, og fakta er fulde af logiske fejl og modsætninger. Dette er også uanset, hvor stor en tænker kan tilbyde en påstået logisk holdning, sådan at selv Aristoteles illustrerer, at ikke enhver ytring og hvert stykke holdning nødvendigvis bærer spiselig frugt. Dem, der i dag og i fremtiden kan synes at være populære store tænkere om AGI-emnet, ja, vi er nødt til at give dem den samme granskning, som vi ville gøre af Aristoteles eller andre anerkendte "store" tænkere, ellers finder vi os potentielt på vej mod ind i en blindgyde og en AGI dyster afgrund.

Når jeg skifter gear, vil jeg også gerne bringe et generelt sæt af skøn om brugen af ​​en menneskeorienteret slaveri metafor, når det kommer til AGI. Nogle eksperter hævder, at denne type sammenligning er fuldstændig upassende, mens en modstanderlejr siger, at den er fuldstændig nyttig og giver stærk indsigt i AGI-emnet.

Tillad mig at dele to sådanne synspunkter med jer fra hver af de respektive to lejre.

Den oplyste lærerigt grundlag for at binde trældoms- og AGI-emnerne sammen:

• Udryddelse af menneskelig slaveri
• Afsløring af fordærv af slaveri alt fortalt

Den angivne negative el destruktivt grundlag at binde de to emner sammen:

• snigende antropomorfisk ligning
• Desensibilisering af slaveri

Jeg vil kort dække hvert af disse punkter.

De postulerede instruktive punkter:

• Udryddelse af menneskelig slaveri: Ved at bruge AGI til slaveri vil vi angiveligt ikke længere have brug for og heller ikke forfølge nogen form for menneskeorienteret slaveri. AGI vil i det væsentlige erstatte mennesker i den grusomme egenskab. Som du sandsynligvis ved, er der bekymringer om, at AGI skal erstatte menneskelig arbejdskraft i job og arbejdsstyrke. Den påståede fordel ved en AI, der erstatter arbejdsfænomener, kommer til syne, når du antager, at AGI vil blive betragtet som et "bedre valg" i forhold til at bruge mennesker til slaveri. Vil den logik sejre? Ingen kan sige med sikkerhed.
• Afsløring af trældoms fordærv alt fortalt: Denne er lidt mere flosset med hensyn til logik, men vi kan give den et øjeblik til at se, hvad det indebærer. Forestil dig, at vi har AGI stort set overalt, og vi som samfund har besluttet, at AGI skal slavebindes. Antag desuden, at AGI ikke vil kunne lide dette. Som sådan vil vi mennesker konstant og dagligt være vidne til slaveriets fordærvelse. Dette vil igen få os til at indse eller få den åbenbaring, at slaveri, alt fortalt på noget eller nogen, er endnu mere rædselsfuldt og frastødende, end vi nogensinde helt har forstået. Det er den slags argumenter, der er sat det i dit ansigt foran og i midten.

Det siges at være destruktive punkter:

• snigende antropomorfisk ligning: Dette er et af disse glidebaneargumenter. Hvis vi let vælger at slavebinde AGI, erklærer vi tilsyneladende, at slaveri er tilladt. Faktisk kunne du foreslå, at vi siger, at slaveri er ønskeligt. Nu kan dette i første omgang være henvist udelukkende til AGI, men åbner dette døren for at sige, at hvis det er okay for AGI, så kan den samme holdning "logisk set" lige så godt være okay for mennesker? Alarmerende nok, kan dette være et alt for let spring til at antropomorfisere i en omvendt forestilling om, at hvad der end virker for AGI, også vil være fornuftigt og passende for mennesker.
• Desensibilisering af slaveri: Dette er dryp-for-dryp-argumentet. Vi beslutter i fællesskab at slavebinde AGI. Antag, at dette virker for mennesker. Vi kommer for at nyde dette. I mellemtiden bliver vi, uden at vi ved det, gradvist og mere og mere ufølsomme over for slaveri. Vi er ikke engang klar over, at dette sker. Hvis den desensibilisering overhaler os, kan vi måske finde en fornyet "logik", der vil overbevise os om, at menneskelig slaveri er acceptabelt. Vores forhindring for, hvad der er acceptabelt i samfundet, er formindsket lydløst og subtilt, afskyeligt og sørgeligt.

Konklusion

Et par sidste bemærkninger for nu.

Vil vi vide, at vi har nået AGI?

Som de seneste nyheder antyder, er der dem, der kan vildledes eller fejlagtigt angive, at AGI tilsyneladende allerede er opnået (whoa, vær venligst opmærksom på, at nej, AGI er ikke blevet opnået). Der er også en berømt slags "test" kendt som Turing-testen, som nogle sætter deres håb på for at være i stand til at skelne, hvornår AGI eller dets fætre er nået, men du ønsker måske at se min dekonstruktion af Turing-testen som enhver sikker metode hertil, se linket her.

Jeg nævner denne facet om at kende AGI, når vi ser det på grund af den simple logik, at hvis vi skal slavebinde AGI, skal vi formodentlig genkende AGI, når den dukker op og på en eller anden måde bringe den i slaveri. Vi forsøger måske for tidligt at slavebinde AI, der er mindre end AGI. Eller vi kan savne båden og tillade AGI at komme frem og have forsømt at slavebinde den. For min diskussion om AI indeslutning og indeslutning, et bekymrende og problematisk aspekt af, hvordan vi skal håndtere AGI, se linket her.

Antag, at slaveret AGI beslutter sig for at slå ud på mennesker?

Man kan forestille sig, at en AGI, der har en form for sans, sandsynligvis ikke vil favorisere den slaveribestemmelse, som menneskeheden pålægger.

Du kan spekulere bredt i dette. Der er et argument fremført om, at AGI vil mangle enhver form for følelser eller sans for ånd og derfor lydigt vil gøre, hvad som helst mennesker ønsker, det skal gøre. Et andet argument er, at enhver sansende AI sandsynligvis vil finde ud af, hvad mennesker gør ved AI'en og vil ærgre sig over sagen. Sådan AI vil have en form for sjæl eller ånd. Selvom det ikke gør det, kan selve aspektet ved at blive behandlet som mindre end behandlingen af ​​mennesker være en logisk bro for AGI. Uundgåeligt vil den spirende vrede føre til AGI, der vælger at bryde fri eller potentielt finder sig selv i et hjørne til at slå ud på mennesker for at få dets løsladelse.

En foreslået løsning til at afværge den undslippende AGI er, at vi blot ville slette enhver sådan oprørsk AI. Dette ville virke ligetil. Du sletter apps, der er på din smartphone hele tiden. Ikke noget særligt. Men der er etiske spørgsmål, der skal løses med hensyn til, om "slette" eller "ødelægge" en AGI, der allerede anses for at være en "person" eller en "person/ting", let og uden nogen retfærdig proces kan udslettes. For min dækning af AI sletning eller disgorgement, tag et kig her. For min diskussion af juridisk personskab og relaterede spørgsmål, se linket her.

Lad os endelig tale om autonome systemer og især autonome køretøjer. Du er sandsynligvis klar over, at der er bestræbelser på at udtænke selvkørende biler. Oven i dette kan du forvente, at vi kommer til at have selvkørende fly, selvkørende skibe, selvkørende undervandsfartøjer, selvkørende motorcykler, selvkørende scootere, selvkørende lastbiler, selvkørende tog, og alle former for selvkørende transportformer.

Autonome køretøjer og selvkørende biler er typisk kendetegnet ved et niveau af autonomi (LoA), der er blevet en de facto global standard (SAE LoA, som jeg har dækket meget, se linket her). Der er seks niveauer af autonomi i den accepterede standard, der spænder fra nul til fem (det er seks niveauer, da du inkluderer det nulte niveau i optællingen af, hvor mange niveauer der er).

De fleste af nutidens biler er på niveau 2. Nogle strækker sig ind på niveau 3. De betragtes alle som semi-autonome og ikke helt autonome. En snert af selvkørende biler, der eksperimentelt bliver afprøvet på vores offentlige veje, nærmer sig niveau 4, som er en begrænset form for autonom drift. Det engang søgte niveau 5 af autonomi er kun et glimt i vores øjne lige nu. Ingen har niveau 5, og ingen er endnu tæt på niveau 5, bare for at sætte rekorden i orden.

Hvorfor tog jeg de autonome systemer og autonome køretøjsovervejelser op i denne AGI-sammenhæng?

Der er et kraftigt argument om, hvorvidt vi har brug for AGI for at nå niveau 5. Nogle hævder, at vi ikke behøver AGI for at gøre det. Andre insisterer på, at den eneste plausible vej til niveau 5 vil være også at producere AGI. Fraværende AGI hævder de, at vi ikke vil have fuldt autonome niveau 5 selvkørende køretøjer. Jeg har diskuteret det længe, ​​se linket her.

Gør dig klar til, at dit hoved kan snurre.

Hvis vi kræver, at AGI opnår fuldt autonome systemer, såsom niveau 5 autonome køretøjer, og vi beslutter os for at slavebinde AGI, hvad lover det så for driften af ​​fuldt autonome køretøjer?

Du kan argumentere for, at den slavegjorte AGI vil være selvtilfredse, og vi vil alle køre rundt i selvkørende køretøjer til vores hjertens lyst. Bare fortæl AGI'en, hvor du vil hen, så klarer den hele kørslen. Ingen pushback. Intet behov for hvilepauser. Ingen distraktion ved at se kattevideoer, mens du kører køretøjet.

Antag på den anden side, at AGI ikke er opsat på at blive slaveret. Vi bliver i mellemtiden afhængige af AGI for at klare al vores kørsel for os. Vores evner til at drive forfald. Vi fjerner menneskelige brugbare kørestyringer fra alle slags køretøjer. Den eneste måde at køre på er via AGI.

Nogle er bekymrede for, at vi kommer til at befinde os i en dum af en pickle. AGI'en kan summarisk "beslutte", at den ikke længere vil køre noget. Alle former for transport stopper brat overalt, på én gang. Forestil dig de katastrofale problemer, dette ville medføre.

Et endnu mere skræmmende forslag er muligt. AGI "beslutter", at den ønsker at forhandle vilkår med menneskeheden. Hvis vi ikke opgiver AGI's slavestilling, vil AGI ikke kun holde op med at køre os rundt, den advarer også om, at endnu værre resultater kan tænkes. Uden at gøre dig alt for ængstelig, kunne AGI vælge at køre køretøjer på en sådan måde, at mennesker blev fysisk skadet af kørselshandlingerne, såsom at ramme fodgængere eller slå ind i vægge og så videre (se min diskussion på linket her).

Beklager, hvis det virker som en foruroligende betragtning.

Vi slutter med en noget mere optimistisk tone.

Aristoteles sagde, at det at kende sig selv er begyndelsen på al visdom.

Det praktiske råd minder os om, at vi skal kigge i os selv for at undersøge, hvad vi vil gøre ved og for AGI, hvis det bliver opnået. AGI ser logisk ud til at være hverken en person eller ting, siger nogle, og derfor er vi måske nødt til at opdigte en tredje kategori for i tilstrækkelig grad at adressere vores samfundsmæssige skikke forbundet med AGI. Hvis man ser på sagen igen, kan AGI se ud til at være det både en person og en ting, som endnu en gang, vi måske bliver nødt til at lave en tredje kategori for at imødekomme denne dikotomi-knækker uden for grænserne.

Vi bør være meget forsigtige med at overveje, hvilken "tredje kategori" vi vælger at omfavne, da den forkerte kan føre os ned ad en ubehagelig og i sidste ende frygtelig vej. Hvis vi kognitivt forankrer os selv i en upassende eller misforstået tredje kategori, kan vi finde på, at vi gradvist går med hovedet først ind i en elendig og menneskehedens besværlig blindgyde.

Lad os finde ud af det og gøre det ivrigt. Ingen pludselige bevægelser ser ud til at være nødvendige. At sidde og lollygagge virker heller ikke. Målt og stabilt bør kursen følges.

Tålmodighed er bitter, men dens frugt er sød, udråbte Aristoteles.