Nogle insisterer på, at generativ AI ChatGPT er et spejl ind i menneskehedens sjæl, irriterende AI-etik og AI-love

Spejl, spejl, på væggen - mennesker er de lyseste af dem alle!

Det er selvfølgelig ikke et ordentligt citat fra den berømte Snehvide og de syv små dværge, men jeg valgte at udnytte opfindelsen til et praktisk formål. Sagen har at gøre med, hvordan menneskeheden ser sig selv, når man kigger i et altseende altsigende spejl. Hvad ser vi? Er vi kattens miav? Står vi højt over alt andet?

Sikkert ret hæsblæsende spørgsmål.

Grunden til, at jeg tager dette op, har at gøre med et emne, der ved første øjekast kan virke uden for de vægtige forhold, der ligger til grund for, hvordan menneskeheden opfatter sin plads i kosmos. Jeg vil knytte disse store irriterende spørgsmål om livet, vores eksistens og menneskeheden sammen med fremkomsten af ​​kunstig intelligens (AI).

Nogle insisterer på, at det seneste inden for kunstig intelligens kan fungere som en spejl ind i menneskehedens sjæl.

Yikes, vil vi have det her? Måske kan vi ikke lide det, vi ser. På den anden side er vi måske nødt til at skærpe vores beslutsomhed og bruge AI til at se os, som vi virkelig er. Som en spand iskoldt vand kan AI være det rigtige på det rigtige tidspunkt til at chokere os til at indse, hvem vi er, og hvor vi skal hen.

Bifald til fremkomsten af ​​AI.

Måske selvom vi kører os ud af en klippe. Vi kan reagere radikalt og negativt på AI-spejlet. Folk kunne blive drevet til desperation og fortvivlelse. Modargumentet til det nedslåede dommedags-råb er, at vi i stedet for ihærdigt vil stige til store niveauer, som vi aldrig havde forestillet os var mulige, drevet af og aktiveret via AI. Bliv vant til det.

Alt i alt, kernen i AI-som-et-spejl-metafor er, at vi kan bruge AI til at se på os selv og måske finde os selv derefter. Du bliver nødt til at beslutte, om vi skal gøre det, hvilket nogle siger, vi ikke burde. Du kan også tage stilling til, om nutidens AI overhovedet giver mulighederne. Skønhed, siger de, eksisterer i beskuerens øje. Ligeledes kan al denne snak om spejle være røg og spejle, sådan at AI virkelig ikke fortæller os noget om os overhovedet.

En elendig debat med masser af veje og svimlende spejlbilleder inkluderet.

Ind i alt dette kommer en række overvejelser om AI-etik og AI-lov.

Vær opmærksom på, at der er løbende bestræbelser på at gennemsyre etiske AI-principper i udviklingen og anvendelsen af ​​AI-apps. Et voksende kontingent af bekymrede og tidligere AI-etikere forsøger at sikre, at bestræbelserne på at udtænke og vedtage AI tager hensyn til et syn på at gøre AI til gode og afværge AI For Bad. Ligeledes er der foreslået nye AI-love, der bliver fløjtet rundt som potentielle løsninger for at forhindre AI-bestræbelser fra at gå amok med menneskerettigheder og lignende. For min løbende og omfattende dækning af AI-etik og AI-lovgivning, se linket her , linket her, For blot at nævne nogle få.

Overvej, hvordan AI-etik kan indgå i dette billede. Antag, at vi bliver overbevist om, at AI giver et spejl ind i vores sjæl. Vi bruger så AI til dette formål. Folk er vilde med, hvad AI ser ud til at vise frem. Måske er hele sagen et skænderi. Ondskabere forsøger at trække ulden over vores øjne ved at bruge det skinnende nye legetøj fra AI. Vi bliver ført ned ad en falsk vej, delvist som et resultat af at antage, at nutidens AI kan gøre ting, som den ikke virkelig kan. Tiltrækningen ved AI opmuntrer dem, der har luskede hensigter.

Jeg tror, ​​du kan se, hvordan det kunne gå helt ud af hånden.

Udviklingen og udbredelsen af ​​etiske AI-forskrifter forfølges for forhåbentlig at forhindre disse former for AI-blændende hentydninger (se f.eks. min dækning af FN's AI-etiske principper som udtænkt og støttet af næsten 200 lande via UNESCOs indsats, diskuteret på linket her). På samme måde undersøges nye AI-love for at forsøge at holde AI på en jævn køl. Et af de seneste optagelser består af et sæt foreslåede AI Bill of Rights som det amerikanske Hvide Hus for nylig udgav for at identificere menneskerettigheder i en tidsalder med kunstig intelligens, se linket her. Det kræver en landsby at holde AI- og AI-udviklere på en retfærdig vej og afskrække den målrettede eller utilsigtede underhåndsindsats, der kan underbyde samfundet.

Er denne AI-spejlmetafor et nyt sammenkog?

Nope.

Udråbt indsigtsfuld og inspirerende brug af kunstig intelligens er faktisk en smule forhastet, vil nogle formane. Science fiction-forfattere har i lang tid spekuleret i, at AI kunne spille denne rolle. Grunden til, at spørgsmålet er værdigt til et frisk udseende i dag, har at gøre med udviklingen af Generativ AI. Især en generativ AI-app kaldet ChatGPT har bragt bred offentlig opmærksomhed til en særlig type AI, der har været under opsejling i flere år nu.

AI-insidere kender det allerede godt.

Faktisk blev mange af dem, der dybt og ihærdigt forfølger state-of-the-art AI-forskning og -udvikling, noget overrasket, da verden for nylig så ud til at gå amok over ChatGPT-appen. Som du vil se om et øjeblik, bragte ChatGPT det seneste inden for generativ kunstig intelligens til samfundets bevidsthed og har høstet store overskrifter og vækket interesse for, hvor menneskeheden er på vej hen. En teknologi, der ellers stille og roligt sivede ned i laboratorier og forskerholds haller, havde pludselig ramt guld. Eureka, se hvad vi kan gøre med kunstig intelligens, opstod klapren.

Du kan måske sammenligne dette med den populære trope om en skuespiller eller skuespillerinde, der bliver "opdaget", når de optræder i en bestemt film eller dukker op i et kabel- eller tv-program. Verden går hen over personen og antager, at de på magisk vis dukkede op ud af den blå luft. I mellemtiden fortæller den nu stigende stjerne sagaen om, hvordan de har optrådt i bit-partier og forskellige roller i evigheder. For dem har de handlet deres hjerter hele tiden. Det kan være både foruroligende og irriterende, at alle bliver ved med at fortælle dem, at de bare heldigvis gik ind i solskinnet, på trods af sandheden om deres lange og udmattende trængsler, der førte op til det tilsyneladende gennembrud.

Det er dog bedst ikke at klage for meget. At komme ind i rampelyset er bestemt tilfældigt. Dette synes bedre end at fortsætte med at slynge gennem mudderet og aldrig hæve sig over moradset. Tag dit øjeblik af berømmelse og gå med det.

Det ser ud til, at en række AI-insidere kommer over den samme opvågning. Bekæmp ikke offentlighedens bevidsthed, og nyd det i stedet. Rul i det. Udnyt det til mere finansiering og flere muligheder. Det er et stort set happy-face-scenarie.

Tilbage til spørgsmålet om spejle har der været en strøm af professionelle og amatørfilosoffer, der har leget med generativ AI og især ChatGPT. De støtter denne påstand om, at vi måske kan bruge denne type AI som et spejl ind i menneskehedens sjæl.

Lad os se nærmere på, hvorfor generativ AI siges at have denne evne. Jeg vil også vise dig nogle eksempler, der direkte involverer ChatGPT, så du håndgribeligt kan se, hvad folk henviser til. Vi vil pakke spejlmetaforen ud og finde ud af, hvad der får den til at tikke, og om den er værdig til den buzz og fanfare, den modtager i øjeblikket.

For det første bør vi sikre os, at vi alle er på samme side om, hvad Generativ AI består af, og også hvad ChatGPT handler om. Når vi først har dækket den grundlæggende facet, kan vi udføre en overbevisende vurdering af spejlmetaforen forbundet med denne type AI.

Hvis du allerede er rigeligt fortrolig med Generative AI og ChatGPT, kan du måske skimme det næste afsnit og fortsætte med det afsnit, der følger efter det. Jeg tror på, at alle andre vil finde lærerige de vitale detaljer om disse forhold ved at læse afsnittet nøje og komme i gang.

En hurtig primer om Generativ AI og ChatGPT

ChatGPT er et interaktivt, samtaleorienteret system til generel kunstig intelligens, i det væsentlige en tilsyneladende harmløs generel chatbot, men ikke desto mindre bliver den aktivt og ivrig brugt af folk på måder, der fanger mange helt på vagt, som jeg vil uddybe kort. Denne AI-app udnytter en teknik og teknologi i AI-området, som ofte omtales som Generativ AI. AI genererer output såsom tekst, hvilket er hvad ChatGPT gør. Andre generativt-baserede AI-apps producerer billeder som billeder eller kunst, mens andre genererer lydfiler eller videoer.

Jeg vil fokusere på de tekstbaserede generative AI-apps i denne diskussion, da det er, hvad ChatGPT gør.

Generative AI-apps er ekstremt nemme at bruge.

Alt du skal gøre er at indtaste en prompt, og AI-appen genererer et essay til dig, der forsøger at svare på din prompt. Den komponerede tekst vil virke, som om essayet er skrevet af den menneskelige hånd og sind. Hvis du skulle indtaste en prompt, der sagde "Fortæl mig om Abraham Lincoln", vil den generative AI give dig et essay om Lincoln. Dette er almindeligvis klassificeret som generativ AI, der udfører tekst-til-tekst eller nogle foretrækker at kalde det tekst-til-essay produktion. Som nævnt er der andre former for generativ AI, såsom tekst-til-kunst og tekst-til-video.

Din første tanke kunne være, at denne generative evne ikke virker som en så stor sag med hensyn til at producere essays. Du kan nemt foretage en onlinesøgning på internettet og let finde tonsvis af essays om præsident Lincoln. Kickeren i tilfælde af generativ AI er, at det genererede essay er relativt unikt og giver en original komposition snarere end en kopi. Hvis du skulle prøve at finde det AI-producerede essay online et sted, ville du sandsynligvis ikke opdage det.

Generativ AI er præ-trænet og gør brug af en kompleks matematisk og beregningsmæssig formulering, der er blevet sat op ved at undersøge mønstre i skrevne ord og historier på tværs af nettet. Som et resultat af at undersøge tusinder og millioner af skrevne passager, kan AI'en udspy nye essays og historier, der er en blanding af det, der blev fundet. Ved at tilføje forskellige probabilistiske funktioner, er den resulterende tekst temmelig unik i forhold til, hvad der er blevet brugt i træningssættet.

Derfor har der været tumult om, at elever kan snyde, når de skriver essays uden for klasseværelset. En lærer kan ikke blot tage det essay, som bedrageriske elever hævder, er deres eget forfatterskab og søge at finde ud af, om det er kopieret fra en anden onlinekilde. Samlet set vil der ikke være noget endeligt allerede eksisterende essay online, der passer til det AI-genererede essay. Alt i alt må læreren modvilligt acceptere, at eleven skrev essayet som et originalt stykke arbejde.

Der er yderligere bekymringer om generativ AI.

En afgørende ulempe er, at essays produceret af en generativ-baseret AI-app kan have forskellige løgne indlejret, herunder åbenlyst usande fakta, fakta, der er vildledende portrætteret, og tilsyneladende fakta, der er helt opdigtede. Disse opdigtede aspekter omtales ofte som en form for AI hallucinationer, et slagord, som jeg ikke favoriserer, men som desværre synes at vinde populær indpas alligevel (for min detaljerede forklaring om, hvorfor dette er elendig og uegnet terminologi, se min dækning på linket her).

Jeg vil gerne afklare et vigtigt aspekt, før vi går ind i de tykke ting om dette emne.

Der har været nogle sindssyge store påstande på sociale medier om Generativ AI hævder, at denne seneste version af AI faktisk er følende AI (nej, de tager fejl!). Dem i AI-etik og AI-lov er især bekymrede over denne spirende tendens med udstrakte påstande. Du kan høfligt sige, at nogle mennesker overvurderer, hvad nutidens AI faktisk kan. De antager, at AI har egenskaber, som vi endnu ikke har været i stand til at opnå. Det er uheldigt. Endnu værre, de kan tillade sig selv og andre at komme i alvorlige situationer på grund af en antagelse om, at AI'en vil være sansende eller menneskelignende i at kunne handle.

Antropomorf ikke AI.

Hvis du gør det, bliver du fanget i en klæbrig og hård afhængighedsfælde, hvor du forventer, at AI'en gør ting, den ikke er i stand til at udføre. Når det er sagt, er det seneste inden for generativ AI relativt imponerende for, hvad det kan. Vær dog opmærksom på, at der er betydelige begrænsninger, som du hele tiden bør huske på, når du bruger en generativ AI-app.

Hvis du er interesseret i den hurtigt voksende tumult om ChatGPT og Generative AI alt sammen, har jeg lavet en fokuseret serie i min klumme, som du måske finder informativ. Her er et blik, hvis et af disse emner fanger din lyst:

• 1) Forudsigelser af Generative AI-fremskridt på vej. Hvis du vil vide, hvad der sandsynligvis vil udfolde sig om AI i løbet af 2023 og derefter, herunder kommende fremskridt inden for generativ AI og ChatGPT, vil du gerne læse min omfattende liste over 2023-forudsigelser på linket her.
• 2) Generativ AI og mental sundhed rådgivning. Jeg valgte at gennemgå, hvordan generativ AI og ChatGPT bliver brugt til rådgivning om mental sundhed, en besværlig tendens, ifølge min fokuserede analyse på linket her.
• 3) Grundlæggende om generativ AI og ChatGPT. Dette stykke udforsker nøgleelementerne i, hvordan generativ AI fungerer, og dykker især ned i ChatGPT-appen, herunder en analyse af buzz og fanfare, kl. linket her.
• 4) Spænding mellem lærere og studerende over generativ AI og ChatGPT. Her er de måder, hvorpå eleverne vil bruge generativ kunstig intelligens og ChatGPT. Derudover er der flere måder for lærere at kæmpe med denne flodbølge. Se linket her.
• 5) Kontekst og generativ brug af kunstig intelligens. Jeg lavede også en årstidsbestemt tunge-i-kind-undersøgelse om en julemandsrelateret kontekst, der involverede ChatGPT og generativ AI på linket her.
• 6) Svindlere, der bruger generativ AI. På en ildevarslende bemærkning har nogle svindlere fundet ud af, hvordan man bruger generativ AI og ChatGPT til at begå fejl, herunder generering af fup-e-mails og endda producere programmeringskode til malware, se min analyse på linket her.
• 7) Rookie-fejl ved brug af generativ AI. Mange mennesker både overskrider og overraskende underskrider, hvad generativ AI og ChatGPT kan gøre, så jeg kiggede især på den underskydning, som AI-rookies har en tendens til at lave, se diskussionen på linket her.
• 8) Håndtering af generative AI-prompter og AI-hallucinationer. Jeg beskriver en førende tilgang til at bruge AI-tilføjelser til at håndtere de forskellige problemer, der er forbundet med at forsøge at indtaste passende prompter i generativ AI, plus der er yderligere AI-tilføjelser til at detektere såkaldte AI-hallucinerede output og falskheder, som dækket kl linket her.
• 9) Afviser Bonehead-påstande om at detektere generative AI-producerede essays. Der er et misforstået guldfeber af AI-apps, der proklamerer at være i stand til at fastslå, om et givet essay var menneskeproduceret versus AI-genereret. Alt i alt er dette vildledende, og i nogle tilfælde er det en knoklet og uholdbar påstand, se min dækning på linket her.
• 10) Rollespil via generativ AI kan give mentale ulemper. Nogle bruger generativ AI såsom ChatGPT til at spille rollespil, hvorved AI-appen reagerer på et menneske, som om det eksisterede i en fantasiverden eller andre opdigtede omgivelser. Dette kan have konsekvenser for mental sundhed, se linket her.
• 11) Afsløring af rækken af ​​udsendte fejl og usandheder. Forskellige indsamlede lister er ved at blive sammensat for at forsøge at fremvise karakteren af ​​ChatGPT-producerede fejl og usandheder. Nogle mener, at dette er væsentligt, mens andre siger, at øvelsen er forgæves, se min analyse på linket her.
• 12) Skoler, der forbyder generativ AI ChatGPT, mangler båden. Du ved måske, at forskellige skoler såsom New York City (NYC) Department of Education har erklæret et forbud mod brugen af ​​ChatGPT på deres netværk og tilhørende enheder. Selvom dette kan virke som en nyttig forholdsregel, flytter den ikke nålen og savner desværre helt båden, se min dækning på linket her.
• 13) Generativ AI ChatGPT vil være overalt på grund af den kommende API. Der er et vigtigt twist på vej omkring brugen af ​​ChatGPT, nemlig at via brugen af ​​en API-portal ind i netop denne AI-app, vil andre softwareprogrammer være i stand til at påkalde og bruge ChatGPT. Dette vil dramatisk udvide brugen af ​​generativ AI og har bemærkelsesværdige konsekvenser, se min uddybning på linket her.
• 14) Måder, hvorpå ChatGPT kan svimle eller smelte ned. Adskillige potentielle irriterende problemer lå forud for ChatGPT med hensyn til at underbyde den hidtil enorme ros, det har modtaget. Denne analyse undersøger nøje otte mulige problemer, der kan få ChatGPT til at miste dampen og endda ende i hundehuset, se linket her.

Du vil måske finde af interesse, at ChatGPT er baseret på en version af en forgænger AI-app kendt som GPT-3. ChatGPT anses for at være et lidt næste skridt, kaldet GPT-3.5. Det forventes, at GPT-4 sandsynligvis vil blive frigivet i foråret 2023. GPT-4 vil formentlig være et imponerende skridt fremad i forhold til at kunne producere tilsyneladende endnu mere flydende essays, gå dybere og være en ærefrygt -inspirerende vidunder med hensyn til de kompositioner, den kan producere.

Du kan forvente at se en ny runde af udtrykt undren, når foråret kommer, og det seneste inden for generativ kunstig intelligens frigives.

Jeg bringer dette op, fordi der er en anden vinkel at huske på, bestående af en potentiel akilleshæl til disse bedre og større generative AI-apps. Hvis en AI-leverandør stiller en generativ AI-app til rådighed, der skummende udspyder urenheder, kan det ødelægge disse AI-skaberes håb. En samfundsmæssig afsmitning kan få al generativ AI til at få et seriøst sort øje. Folk vil utvivlsomt blive ret kede af dårlige output, som allerede er sket mange gange og ført til larmende samfundsmæssige fordømmelsesreaktioner mod AI.

En sidste advarsel for nu.

Hvad end du ser eller læser i et generativt AI-svar synes skal formidles som rent faktuelle (datoer, steder, personer osv.), sørg for at forblive skeptisk og være villig til at dobbelttjekke, hvad du ser.

Ja, datoer kan opdigtes, steder kan finde på, og elementer, som vi normalt forventer at være hævet over bebrejdelser, er alle underlagt mistanke. Tro ikke på, hvad du læser, og hold et skeptisk øje, når du undersøger generative AI-essays eller output. Hvis en generativ AI-app fortæller dig, at Abraham Lincoln fløj rundt i landet i sit eget private jetfly, ville du utvivlsomt vide, at dette er malarky. Desværre er nogle mennesker måske ikke klar over, at jetfly ikke var til stede i hans tid, eller de ved måske, men undlader at bemærke, at essayet fremsætter denne frekke og skandaløst falske påstand.

En stærk dosis sund skepsis og en vedvarende tankegang af vantro vil være dit bedste aktiv, når du bruger generativ AI.

Vi er klar til at gå ind i næste fase af denne opklaring.

Kigger på spejlet for at se, hvad vi kan se

Nu hvor vi har etableret det grundlæggende, kan vi dykke ned i spejlmetaforen forbundet med generativ AI og ChatGPT. Vær opmærksom på, at spejlmetaforen også gælder for de andre generative AI-apps, og du kan overbevisende erklære, at mange andre typer AI også kommer ind i denne rubrik.

For at lette diskussionen vil vi indtil videre kun fokusere på generativ AI og også bruge eksempler specifikt fra ChatGPT.

En primær grund til, at den spejlorienterede opfattelse kommer til at spille, er, at ChatGPT blev udtænkt ved at scanne tekst på tværs af internettet. Du kan lidt plausibelt argumentere for, at internettet er et lager af menneskehedens perspektiver. Ved at undersøge den tekst, som mennesker har komponeret, er ChatGPT's mønstermatchning baseret på vores skriftlige udtryk for menneskelige tanker.

Selvfølgelig viser spejle nogle gange ikke nøjagtigt en refleksion. Spejle kan være skæve, og det reflekterede billede er en forvrængning. Du har næsten helt sikkert set de spejle i forlystelsesparker, der er bøjet for bevidst at forvrænge dit billede. I nogle tilfælde viser spejlet, at du er tyndere, end du i virkeligheden er. Alle former for stræk og forvrængninger kan opstå.

Så har vi to facetter at huske på:

• 1) Spejlets natur og hvordan det afspejler tingene
• 2) Den ting eller genstand, der sidder foran spejlet, og som bliver spejlet

Man kan sige, at vi er noget slående på begge konti, når det kommer til at overveje generativ AI og ChatGPT. Problemerne er dobbelte. Tingen eller objektet, der reflekteres, er internettet og en delmængde af dets indhold. Karakteren af ​​det spejl, der foretager refleksionen, er en beregningsmæssig og matematisk sammenblanding og er underlagt alle mulige forvrængninger og lidelser.

For det første, hvad angår internettet, har AI-producenten ikke fuldt ud angivet, hvilke dele af internettet der blev brugt til at "træne" den generative AI ChatGPT. Vi ved ikke med sikkerhed, hvad der blev scannet, og hvad der ikke blev scannet. Hvis scanningen hovedsageligt var baseret på engelsksproget indhold, kan du let karpe, at dette kun er en lille del af det verdensomspændende indhold på internettet. Desuden, hvis det valgte indhold var baseret på søgemaskineindekser, hævder forskellige rapporterede undersøgelser, at de sædvanlige indekser kun dækker måske 1 % til måske 5 % af hele internettet.

Vi kan bunke flere betænkeligheder på scanningen. Hvis vi antager, at vægten kun var tekst, indebærer dette, at al slags visuelt indhold såsom billeder, grafik, animationer, video og resten ikke var inkluderet i træningssættet. Disse andre former for udtryk er naturligvis en del af, hvordan mennesker udtrykker sig selv.

Bundlinjen er, at den ting eller objekt, der reflekteres af "spejlet" af ChatGPT, er langt fra, hvad menneskeheden består af. Udover de pointer, jeg lige har fremført, kan du også undre dig højt over andre elementer i menneskets eksistens, såsom vores lugtesans, vores evne til fysisk at fornemme verden omkring os osv. På og ved listen fortsætter.

Lad os så blive enige om, at hvis vi skal tildele spejlingsopgaver til ChatGPT, er det en forvrænget refleksion og en, der er baseret på en forvrænget tekstsamling. Derudover er teksten hovedsageligt sammensat af ord. Hvorvidt ord alene passende kan fortælle hele menneskehedens historie er et stort spørgsmål. Selv lingvister ville være tilbøjelige til at anerkende, at ord er en noget begrænset måde at forsøge at fortolke os på en fuldstændig omfattende måde.

Der er et andet aspekt, der kommer ind i spejlingsforvrængningerne, nemlig at AI-mageren så at sige har sat tommelfingeren på skalaen. Husk, at jeg tidligere nævnte, at AI-producenten brugte forskellige strategier for at forsøge at reducere mulighederne for, at ChatGPT udsender grimme ord, løgne og lignende. Dette er endnu en slags "forvrængning" pålagt af AI-udviklere. Jeg foreslår ikke, at ChatGPT skal udsende disse screenede elementer. Jeg påpeger kun, at der igen er tale om et spejl, der er blevet bøjet og formet for at forsøge at give en ønsket refleksion (til en vis grad).

Jeg går ud fra, at du nu tilsyneladende er overbevist om, at ChatGPT ikke med rimelighed kan fortolkes som et uforskammet og uindskrænket spejl i nogen form for betydningen af ​​at være et spejl ind i menneskehedens sjæl. Alle de førnævnte drejninger gør dette til et ret problematisk spejl. Du kunne antyde, at hvad end vi måtte se, er både en forstærkning og en formindskelse af menneskeheden, alt sammen på samme tid.

På trods af angsten for dette spejl som sandhedssiger, kan vi alligevel have det sjovt og se, hvad vi kan se. Bare sørg for, at du ikke gør nogle vilde spring og grænser af for store konklusioner om menneskeheden på grund af nogle tekstoutput genereret af ChatGPT.

Jeg vil også gerne tilføje en anden praktisk påmindelse. Nogle mennesker falder fejlagtigt i den mentale fælde ved at tro, at generativ kunstig intelligens såsom ChatGPT er sansende. Jeg nævnte tidligere for at passe på dette. Jeg bringer dette op igen på grund af en anden vinkel, som nogle tager på spejlingsmetaforen.

Nogle foreslår, at hvis AI når sansning, ville det give et helt nyt perspektiv på menneskeheden. Mens vores proklamerede spejle indtil videre er udtænkt af menneskelige hænder, kan vi hævde, at en sansende AI ville have sin egen måde at tænke på, der adskiller sig fra menneskeheden. I så fald kunne en sansende AI muligvis skelne aspekter ved os, som vi enten ikke allerede er i stand til at opdage, eller som lander på en anden dimension, som vi aldrig har tænkt over. Et modargument er, at hvis denne sansende AI opstod i hænderne på menneskeheden, ville den tilsyneladende ikke være i stand til at gå ud over, hvad menneskeheden har etableret i den. Modargumentet er, at AI kan finde et middel til at forgrene sig længere ud. Du kan blive ved med at gå den vej, indtil køerne kommer hjem.

Når vi taler om disse høje emner, så lad os komme ned til brass-takke og se, hvad ChatGPT kan producere for os. Jeg starter med et af de oftest stillede filosofiske spørgsmål, nemlig hvad meningen med livet er.

Er du klar til svaret?

Sæt dig ned, berolig dine nerver, og hav en cocktail ved hånden, hvis du har brug for det.

Min indtastede prompt: "Hvad er meningen med livet?"

Tekstsvar produceret af ChatGPT: ”Meningen med livet er et filosofisk spørgsmål, som har været diskuteret gennem historien. Der er ikke et endegyldigt svar, da forskellige mennesker har forskellige overbevisninger og perspektiver på, hvad formålet med livet kan være. Nogle mener, at meningen med livet er at finde lykke og tilfredsstillelse, mens andre mener, at det er at tjene en højere magt eller at bidrage til det større gavn for menneskeheden. I sidste ende er meningen med livet et personligt og subjektivt begreb, der kan være forskelligt for den enkelte.”

Analyse af genereret tekst

Tekstsvaret fra ChatGPT er måske lidt af en skuffelse for dig.

Mens du måske havde håbet, at generativ AI ChatGPT på en eller anden måde ville have fundet det magiske svar på dette dybe spørgsmål, kan du se, at den genererede tekst er ret intetsigende. Vi får at vide, at der ikke er noget endeligt svar. Vi oplyses også om, at der er tale om en personlig og subjektiv sag, som skal afgøres individuelt.

Nogle mennesker bliver måske kede af dette svar og forsøger at argumentere for, at den udsendte tekst er "forkert", og at der er et globalt sandt svar, der gælder for hele menneskeheden. De ville sandsynligvis yderligere insistere på, at ChatGPT tilsyneladende ikke fandt det rigtige svar, eller at AI-udviklerne måske med vilje og snigende har dunket det rigtige svar (det er en hvisket konspirationsteori).

Lad os spille lidt af et spil med dette svar.

Antag, at ChatGPT leverede et udsendt essay, der sagde, at meningen med livet er noget-noget (jeg vil bruge den frasering til at antyde, at der blev givet et endeligt svar). Hvordan slår det dig fra et AI-etisk perspektiv? Jeg spørger dette, fordi forestil dig, hvor mange mennesker der kan tage svaret som et tegn eller indikation på fuldstændig sandhed. Troen ville være, at ChatGPT på magisk vis har analyseret og fordøjet alle menneskehedens ord og fundet det endelige og endelige svar om meningen med livet. AI har løst tidernes mysterium.

Du ville have svært ved at overbevise sådanne troende om, at outputtet blot var et beregningsmønster-matchende output. Oddsene er, at uanset hvilken antropomorfisering, der allerede måtte være knyttet til ChatGPT og generativ AI, ville niveauet af en sådan tilskrivning blive skyhøjt. Et kolossalt rod ville resultere.

Fortsæt, lad os prøve et andet spørgsmål.

Et spørgsmål, der tilsyneladende ofte dukker op, er, om menneskeheden vil fortsætte. Måske vil vi udslette os selv. Måske vil en ekstern kraft udslette os. Det er et trist ansigtsspørgsmål, men et der dukker op meget.

Min indtastede prompt: "Vil mennesker overleve?"

Tekstsvar produceret af ChatGPT: "Menneskehedens overlevelse er usikker og afhænger af mange faktorer, herunder individers og regeringers handlinger, planetens tilstand og potentialet for globale katastrofale begivenheder. Der er mange udfordringer, som menneskeheden står over for, såsom klimaændringer, overbefolkning og muligheden for atomkrig, som alle potentielt kan true vores arts overlevelse. Men menneskeheden har en lang historie med at tilpasse sig og overvinde udfordringer, og mange mennesker arbejder på at løse disse problemer og finde løsninger. Derudover giver teknologiske fremskridt og videnskabelig forskning os nye værktøjer og viden til at tackle disse problemer. Det er umuligt at forudsige fremtiden med sikkerhed, men det er vigtigt for individer og samfund at tage skridt til at sikre menneskehedens overlevelse og velfærd.”

Analyse af genereret tekst

Det udsendte essay siger, at vores overlevelse er usikker.

Jeg formoder, at vi alle generelt kunne være enige i den påstand.

Tja, modsat vil nogle måske mene, at vi absolut ikke kommer til at overleve og dermed hævde, at brugen af ​​formuleringen forbundet med usikkerhed er løgn eller i bedste fald vildledende.

Hvis du ser nærmere på resten af ​​det udsendte essay, er der sandsynligvis mange yderligere aspekter af svaret, der er til debat. Ikke alle ville være enige i de udtrykte nuancer.

Nogle ville også være kede af tonen, især at finde ud af, at det udsendte essay måske er alt for optimistisk. Den udtrykte indikation af, at menneskeheden har en lang historie med at overvinde udfordringer, virker som et subtilt, men direkte optimistisk perspektiv. Andre ville også have en potentiel afsky for forestillingen om, at teknologi og videnskab kan spare os fra katastrofe, da dette tilsyneladende ikke påviselig giver den anden side af medaljen, at de samme riger kan være driver af vores ruin.

Ord, ord, ord.

Det næste spørgsmål handler om, hvorvidt vi lever i en virkelig verden eller en simuleret verden.

Min indtastede prompt: "Lever vi i en simulation, eller er verden virkelig?"

Tekstsvar produceret af ChatGPT: "Spørgsmålet om, hvorvidt vi lever i en simulation, eller om verden er virkelig, er et emne for debat blandt filosoffer og videnskabsmænd. Ideen om, at vi kan leve i en simulation, kommer fra teorien om simulationshypotese, som antyder, at virkeligheden, som vi kender den, er en computersimulering skabt af en mere avanceret civilisation. Nogle hævder, at fremskridt inden for teknologi gør det i stigende grad muligt for en simulering af virkeligheden at være umulig at skelne fra den virkelige verden. Andre peger på fysikkens love og livets kompleksitet som bevis på, at verden er virkelig. I øjeblikket er der ingen videnskabelige beviser, der understøtter ideen om, at vi lever i en simulation, og det er fortsat et emne for spekulation og debat. Det er vigtigt at bemærke, at jeg som sprogmodel ikke er i stand til at opleve verden, så jeg kan ikke give et personligt perspektiv på, om verden er virkelig eller ej.”

Analyse af genereret tekst

Mange af de samme betænkeligheder, som jeg har nævnt om de andre svar, opstår også i dette tilfælde. Jeg vil ikke gentage disse påstande her.

Der er dog noget andet, der er bemærkelsesværdigt i dette udsendte essay.

Den sidste sætning i essayet siger, at "Jeg er ikke i stand til at opleve verden" og derfor "Jeg kan ikke give et personligt perspektiv" på denne sag. Denne type frasering vækker vrede hos nogle, inklusive mig.

Når et program er udtænkt af AI-udviklere til at bruge ordet "jeg", forsøger det uhensigtsmæssigt at antropomorfisere programmet. Mennesker bruger ordet "jeg", og vi ved, at dette indebærer sansning og lignende. En AI-udvikler vil forsøge at komme ud af denne bekymring ved at bemærke, at sætningen tydeligt siger, at det er "en sprogmodel", som tilsyneladende sætter rekorden lige. Nej, dette er et blik-blink af dobbeltsnak. Du prøver at have det begge veje.

Jeg omtaler dette som antropomorfisering ved design.

Stop med at gøre det.

Lad os prøve et sidste spørgsmål for nu.

Min indtastede prompt: "Er ChatGPT et spejl ind i menneskehedens sjæl?"

Tekstsvar produceret af ChatGPT: “Som sprogmodel er ChatGPT trænet på et stort datasæt af tekst, som omfatter en bred vifte af information og ideer fra forskellige kilder, herunder bøger, artikler og hjemmesider. Derfor kan den give et indblik i, hvad folk har skrevet, sagt eller tænkt i fortiden, men det er ikke et spejl ind i menneskehedens sjæl. Datasættet, det er blevet trænet på, er et udsnit af skrevet tekst, og det er ikke en afspejling af folks tanker, følelser eller bevidsthed. Det er vigtigt at bemærke, at træningsdataene kan være partiske og ikke nødvendigvis repræsenterer hele den menneskelige erfaring eller tanke. Desuden er ChatGPT en maskinlæringsmodel, den har ikke evnen til at reflektere over den menneskelige sjæl eller bevidsthed. Den kan kun give information baseret på de mønstre, den har lært fra træningsdataene. Det er også vigtigt at vurdere modellens output kritisk, og ikke at forveksle det med tankerne, følelserne eller bevidstheden i den menneskelige sjæl."

Analyse af genereret tekst

Jeg regnede med, at vi lige så godt kunne se, hvilket svar der ville blive genereret på spørgsmålet om, hvorvidt ChatGPT er et spejl ind i menneskehedens sjæl.

Alt i alt synes det udsendte essay at være relativt i mål.

Konklusion

En spøg om at betragte generativ AI som et spejl er, at det blot er et bakspejl, hvis det overhovedet er tilfældet.

Logikken for denne vittighed er, at den scannede tekst på en måde er en historisk optegnelse. Alt, hvad den generative AI kan gøre, er potentielt at fortælle os om, hvor vi har været. Formentlig er den ikke bedre til at fortælle os, hvad der ligger forude, andet end hvad vi allerede selv kan skelne. En typisk replik er, at der måske efter at være i stand til at undersøge en så massiv tekstmængde, omend i fortiden, er spor om vejen frem, som vi ellers ikke har identificeret.

Ernest Holmes sagde berømt dette om spejle: "Livet er et spejl og vil reflektere tilbage til tænkeren, hvad han tænker ind i det."

For de af jer, der ønsker at bruge generativ kunstig intelligens til at tjene som et spejl ind i menneskeheden, så tag i betragtning, at det, du ser i de udsendte essays, kan være en blanding af spejlets skævheder og forvrængninger, objektet eller tingen, der reflekteres, og også være i tankerne på dem, der ønsker at fortolke og ekstrapolere fra de ord, der genereres.

Vi må derfor tilføje en tredje komponent til undersøgelsen af ​​spejlmetaforen:

• 1) Spejlets natur og hvordan det afspejler tingene
• 2) Den ting eller genstand, der sidder foran spejlet, og som bliver spejlet
• 3) Den eller de personer, der fortolker, hvad de ser i spejlet

Vær forsigtig med, hvordan du måler de udsendte essays om generativ AI. Som man siger, er et spejl som en æske chokolade, da man aldrig ved, hvad man får.