AI-etik og den geopolitiske wrestling-kamp om, hvem der vinder kapløbet om at opnå ægte AI

Verden er i et hektisk kapløb.

Geopolitiske magter hævder, at vinderen vil tage al bacon med hjem, som det var.

Hvilken race føres og forfølges ihærdigt?

Det er AI-løbet.

Du kunne måske mere passende henvise til dette som kapløbet om at opnå sand Artificial Intelligence (AI), i øjeblikket mere fuldstændigt omtalt som Artificial General Intelligence (AGI). Vi ønsker på en eller anden måde at nå frem til den tilsyneladende yderste AI eller kendt som AGI, der kan sammenlignes med menneskelig intelligens. Vi er der ikke endnu. På trods af alle slags vilde og fræk udråbende overskrifter ved vi faktisk ikke, hvornår eller om vi vil nå det høje niveau. Nutidens AI har langt færre muligheder end overordnet menneskelig intelligens, selvom der bestemt er masser af smallere måder, hvorpå AI har foretaget imponerende strejftog, såsom at være i stand til at spille førsteklasses skak i verdensklasse eller udføre andre relativt begrænsede opgaver.

Den gyldne ring er dog fremkomsten af ​​AI, der udviser menneskelig intelligens af en hengiven natur og dybde svarende til menneskehedens. Dette er den hellige gral for AI-forskere og -udøvere. Fra tid til anden har der været besynderlige påstande om allerede at have krydset AI-løbets målstregen, hvilket jeg har afkræftet i min klumme kl. linket her. De, der forsøger at komme med stridigheder, der krydser målstregen, forvirrer den brede offentlighed og gør det til tider af nidkær uskyld, mens de andre gange har alvorlige tvivlsomme motiver i hånden. Alt i alt rejser dette ret væsentlige og vitale AI-etiske overvejelser. For min løbende og omfattende dækning af AI-etik og etisk AI, se linket her , linket her, For blot at nævne nogle få.

Der er i hvert fald ingen tvivl om, at et verdensomspændende sprint-AI-løb er ivrig i gang. Du ville være hårdt presset til at påstå noget andet.

Tænk på det på denne måde. Hvis vi allerede havde formået at opnå ægte AI eller AGI, er oddset, at AI-fodløbet formelt og globalt ville være blevet erklæret som vellykket afsluttet. Jeg forsikrer jer om, at verdensomspændende opmærksomhed ville blive fanget på et så rungende og verdensomspændende gennembrud. Du ville vide det. Det ville vi alle. AI gale stregen ville ergo faktisk ikke længere eksistere, selvom måske en sekundær version kan forekomme, der involverer dem, der ikke havde opnået ægte AI, der arbejder febrilsk for at indhente det. Der er også det foruroligende spørgsmål om, hvordan vi ender med at kontrollere eller administrere AGI, hvis eller når vi når dertil.

Ingen person eller enhed eller nation kan endnu ordentligt gøre krav på kronen af ​​at producere ægte AI eller AGI.

I mellemtiden finder en enorm og utrættelig mængde håndvridning sted om, hvilken nation (eller nationer), der er i spidsen for flokken, og hvem der er længere bagud. Antagelsen er, at hvis du ikke er først, vil du blive efterladt i snavs. Du vil spise resterne fra AI-vinderne. Du vil potentielt for altid være underlagt den eller de nationer, der tager det bebudede spring til ægte AI eller AGI.

Som en hurtig sidebemærkning og for at lette formuleringen af ​​denne diskussion, vil jeg fremover heri bruge "AGI", når jeg ønsker at påkalde auraen af ​​ægte AI. Brugen af ​​den noget nyere sætning "AGI" er nogle gange skurrende for dem, der ikke er vant til at se den brugt. Vi er alle bekendt med "AI", og du kan blive forstyrret over at se akronymet "AGI" blive brugt i stedet. Tillad mig at forklare, hvorfor dette gradvist dukker op som en ordlydstendens.

En del af grunden til, at AGI er steget i AI-sprogets arena, er, at blot at sige "AI" nu er blevet en desværre udvandet frasering. Ingen ved, om den AI, som du nævner, er den knapt-AI-variant eller en kvasi-bedre fremskridt AI-infusion, eller måske hentyder til den engang futuristiske fuldt menneskelige AI. For at håndtere overbelastningen af ​​"AI" som et slagord, har AGI-monikeren fået præference af de insidere inden for AI-feltet, der specifikt og særligt ønsker at hentyde til ægte AI.

Så kort sagt, betragte min omtale af AGI for at være det samme som at sige "ægte AI" af den robuste kaliber beslægtet med menneskelig intelligens, tak.

Lad os tage en forsigtig dyb indånding og omhyggeligt undersøge nogle facetter af kapløbet om at opnå AGI. Der er endda et meta-aspekt, der først skal angives. Vær opmærksom på, at der er en smule sur halsbrand ved at bruge allegorien om et formodet fodløb eller en anden form for væddeløbsaktivitet som en metafor for AGI-løbet. Hvorfor så? Jeg vil et øjeblik fortælle dig om komplikationerne og kompleksiteten af, hvorfor (nogle siger) et fodløb eller dets tilsvarende er fuldstændig vildledende og et snigende simpelt synspunkt.

Her er de vigtigste punkter, som jeg vil gennemgå med dig i denne diskurs:

• Hvis dette er et løb, virker AGI-målstregen ret dårligt defineret
• AGI-racet kan gå til en person, en enhed eller en nation
• Målinger og hvordan nationer sammenlignes i AGI-løbet
• Geopolitisk manøvrering og tilpasning til AGI-løbet
• Internationale AI-love og AI-etik som dommere i AGI-løbet

Du vil måske spænde din sikkerhedssele, mens jeg undersøger det hasteforegående AGI-fodløb (ja, jeg tør godt kalde det et fodløb), der får næsten alle til at bevæge sig i rasende fart og tilsyneladende skyder i vejret på denne brændende mission. Nogle vil måske sige, at dette er et kapløb til forbedring af menneskeheden, mens andre advarer om, at racen kan betyde fuldstændig undergang for os alle.

Tiden vil vise det.

Hvis dette er et løb, virker AGI-målstregen ret dårligt defineret

En målstregen er normalt en ret endegyldig afgrænsning. Enten er du nået i mål, eller også har du ikke. At komme til kort ser ikke ud til at gøre dig meget godt. Forestil dig en olympisk 400-meter løb, og om du vil huske eller ville samle anerkendelser til de løbere, der slet ikke afsluttede løbet (aldrig har krydset målstregen). Usandsynlig.

Vil vi vide, hvornår vi har nået AGI, så det er rimeligt alle enige om, at målstregen er nået?

Der er voldsomme uenigheder om afgrænsningen af ​​AGI.

Antag for eksempel, at vi udtænker kunstig intelligens, der ser ud til at være helt i stand til at udvise menneskelig intelligens, men der er ikke en antydning af sansning deri i sig selv (se min dækning om argumenterne om AI-sans på linket her). AI'en er beregningsmæssigt i stand til at efterligne eller på anden måde udføre, som menneskelig intelligens gør. Der er dog ikke en gnist af liv eller sansning, som vi forbinder med mennesker og andre levende væsner. Tæller denne AGI som at nå det mål, vi troede, vi havde?

Nogle vil modargumentere, at det ikke ville gøre noget, hvis sansning i sig selv syntes at være pakket ind i denne AGI. Så længe det kunne udvise menneskelig intelligens, er inkorporeringen af ​​sansning noget af en anderledes variation, som vi måske eller måske ikke ønsker at se opstå. Sentience i den forstand er en tilføjelse.

Andre hævder heftigt, at det eneste middel til at opnå menneskelig intelligens i AGI vil være at inkorporere sansning integreret. AGI og sansning betragtes enten som det samme, eller de er en blanding af en irreducerbar uadskillelig dobbelt udførelsesform. For at få AGI skal du have sans, ville de hævde.

Hvis man ser bort fra den vinkel på debatten, er et andet perspektiv, at vi kunne bruge den berømte Turing-test til at vurdere, om AGI er blevet opnået. Jeg har dækket Turing-testen i dybden kl linket her. Kort fortalt består begrebet i at få et menneske til at stille spørgsmål til AGI'en, og hvis mennesket ikke kan skelne de AGI-genererede svar fra menneskehedens svar, vil vi erklære AGI'en for at være i stand til at udvise menneskelig intelligens.

Der er mange problemer eller mangler ofte forbundet med Turing-testen.

Antag, at det menneske, der foretager forespørgslerne, gør et elendigt stykke arbejde og undlader at stille uddybende spørgsmål. En bekymring er, at mange af nutidens tilsyneladende magtfulde store sprogmodeller (LLM'er) kan papegøje tilbage til et menneske det indhold, som LLM'en blev trænet i (dvs. tekst og digitale medier, der ofte stammer fra storstilet skrabning af internettet). Som sådan kan et særligt udvalgt menneske, der stiller spørgsmål af en almindelig slags, som allerede er blevet besvaret og findes online, potentielt alle let "besvares" af LLM, men dette skyldes uden tvivl ikke nogen menneskelig intelligens legemliggørelse af en AGI-kaliber.

Der dukker mange andre betænkeligheder op. Antag, at mennesket ikke er i stand til at forstå svarene. Eller antag, at mennesket narrer sig selv til at tro, at svarene alle udviser menneskelig intelligens. Jeg har endda dækket nogles trådte idé om, at alt, hvad vi skal gøre, er at spørge AI, om det er AGI eller er sansende, hvilket jeg gør det klart ikke er en meget overbevisende form for AGI-bevis, se linket her.

Endelig, som en tilføjede tænkte, er vi nødt til at nå helt til målstregen for at overveje, at AGI er nået?

Jeg nævnte tidligere, at vi normalt glemmer dem, der ikke når målstregen. Dette er måske ikke fornuftigt analogt med AGI-løbet. Jeg tror, ​​der kan fremføres et overbevisende argument for, at hvis vi er i stand til at nå en væsentlig vej mod AGI, vil vi allerede befinde os i en tilstand af forbløffelse og enten stor fordel eller store problemer. Du kan se, mange vigtige og meget nyttige resultater kan opstå ved en næsten-der AGI. At komme til kort vil ikke være så problematisk som ikke at afslutte et 400 meter fodløb, især da det kan være et vigtigt grundlag for at komme til den fyldigere version af AGI (måske være et maraton i sammenligning).

Metaforen om, at AGI-opnåelse er en type fodløb eller tilsvarende, er til tider utilfredsstillende og utilstrækkelig.

AGI Race kan gå til en person, en enhed eller en nation

Nogle nærer den drømmende forestilling om, at AGI vil blive opnået af en eller anden tømmermand, der arbejder i garagen, mens de er i deres pyjamas, og være et udspring af vanvittigt opfindsomme computeriseringseksperimenter, som de har knoklet med i år efter år. Det er den ensomme ulvs klassiske højteknologiske trope.

Beklager at rapportere, at dette er et ekstremt lavt odds-forslag.

Jo større odds ville være, at en enhed som f.eks. en virksomhed eller et forskningshold vil være AGI-go-getters. En stærk og fremherskende overbevisning er, at det vil tage en landsby at nå frem til AGI. Den ensomme ulv vil ikke have ressourcerne eller indsigten i sig selv til at nå AGI. De kan bidrage til søgen. De kan give de nødvendige brikker til puslespillet. De vil ikke være i stand til at samle hele sættet og caboodlen.

Når vi taler om landsbyer, er et andet stærkt holdt synspunkt, at det vil være nationer, der kun er i stand til at opnå AGI. Via en kombination af mennesker, virksomheder, akademikere og alle andre former for enheder inden for en nationalstat, vil AGI ankomme som et resultat af den nationale totalitets kombinerede arbejde. Enhedsniveauet af opmærksomhed for vinderen i dette løb er på nationalstatsbasis, snarere end på noget mere spredt, frit eller individualistisk.

Kort sagt, hvis det kræver en landsby, vil landsbyen være af national skala, og dermed vil nationalstaten være den udpegede løber, der krydser målstregen i AGI-løbet.

Målinger og hvordan nationer bliver sammenlignet i AGI-løbet

Tag det som givet, at AGI-præstationen vil være baseret på nationalstatsniveau.

For at gentage, vi ved det ikke med sikkerhed, men det virker som en begrundet antagelse.

Overvej konsekvenserne af nationalstatsgrundlaget. Antag, at det lykkes en ensom ulv at komme først til AGI og mener, at deres arbejde rækker ud over den nationalstat, de er medlem af. Denne person erklærer, at de ikke tilhører nogen nationalstat i forhold til den udformede AGI. Ville vi stadig give æren til den nationalstat, og ville AGI være inden for denne nations kontrol og kompetence?

Forestil dig et andet alternativ, at et stort multinationalt konglomerat først ankommer til AGI. Hvilken nation kan sige, at AGI er deres "ting" at bruge og implementere (vil det blive fortolket som ejendom eller i stedet indsamle en variant af juridisk person)? Måske skal alle de nationer, som virksomheden eksisterer i, få lige stor kredit. Eller måske kun hvor det formelle hovedkvarter er geografisk placeret. Det kunne være en kompleks opdeling af en sand gryde med guld.

Under alle omstændigheder er den almindelige folkelige opfattelse, at en nationalstat vil være den afgørende faktor for at opnå AGI. En nation, der tilskynder til AI-forskning og -udvikling inden for sin nationale indsats, vil formentlig komme til AGI hurtigere end andre nationer, der ikke gør det samme.

Der er en fremherskende opfattelse af, at AI-løbet er et nationalt.

Et hovedskrabende spørgsmål er, hvordan vi skal afgøre, om en nation er foran eller bagud en anden nation i AGI-løbet.

I et konventionelt fodløb kunne vi nemt identificere målinger, der kan bruges til at bestemme, hvilke løbere der klarer sig godt, og hvilke der ikke gør. Løberens hastighed kan let beregnes. Dette garanterer ikke, at de kommer først i mål, men det er i det mindste lovende. Den fysiske afstand mellem løberne og den resterende afstand til målstregen er naturligvis vitale kriterier, som vi nemt kan måle.

AGI-løbet har ikke den slags sikre former for metrikker eller målinger.

Vi bruger alle mulige surrogatforanstaltninger, da der ikke er nogen endelig måde at beregne, hvor slutlinjen er, og heller ikke hvor langt vi er fra den.

Lad os tage et kig på de typer målinger, der traditionelt overvejes. En særlig praktisk kilde til AI-relaterede globale målinger indsamles og udgives årligt af Stanford Institute for Human-Centered AI (HAI) ved Stanford University. Rapporten er tilgængelig online gratis, og den seneste udgivelse er berettiget AI-indekset 2022 årsrapport (baseret på data indsamlet for 2020-2021). Jeg vil om et øjeblik dele nogle højdepunkter med de nationale sammenligninger, der er nævnt i deres seneste samling.

Målinger, der bliver brugt til at måle nationale og internationale fremskridt på AI, har en tendens til at inkludere lidt af hvert, til tider grænsende til inklusion af den veritable køkkenvask.

De typer af foranstaltninger, der typisk undersøges, omfatter:

• Antal AI-forskningsartikler, der tilskrives en bestemt nation
• Antal citerede referencer til AI-artikler fra en bestemt nation
• Antal AI-tidsskrifter baseret inden for en bestemt nation
• Antal AI-konferencer, der finder sted inden for en bestemt nation
• Antal AI-konferencer sponsoreret af en bestemt nation
• Antal AI-relaterede patenter udstedt inden for en bestemt nation
• Antal AI-virksomhedsopstarter inden for en bestemt nation
• Antal AI-job i en bestemt nation
• Antal nye AI-job eller ansættelser i en bestemt nation
• Antal AI-love eller lovforslag indført i en bestemt nation
• Antal AI-love vedtaget eller vedtaget i en bestemt nation
• Andet

Overvej disse nutidige indikationer fra HAI AI Index 2022:

• AI-publikationscitater: "Med hensyn til citationer af AI-repository-publikationer topper USA listen med 38.6 % af de samlede citationer i 2021, hvilket etablerer en dominerende føring over EU plus Storbritannien (20.1 %) og Kina (16.4 %).
• AI-tidsskrifter/konferencer: "I 2021 fortsatte Kina med at være førende i verden i antallet af AI-tidsskrifter, konferencer og arkivpublikationer - 63.2 % højere end USA med alle tre publikationstyper tilsammen. I mellemtiden havde USA en dominerende føring blandt store AI-magter i antallet af konference- og repository-citater."
• AI-patenter: "Kina indgiver nu over halvdelen af ​​verdens AI-patenter og får tildelt omkring 6%, omtrent det samme som EU plus Det Forenede Kongerige. USA, som indgiver næsten alle patenter i Nordamerika, gør det med en tredjedel af Kinas. Sammenlignet med det stigende antal anvendte og tildelte AI-patenter, har Kina et langt større antal patentansøgninger (87,343 i 2021) end de tildelte (1,407 i 2021)."
• Nyfinansierede AI-virksomheder: "Investeringsdata efter antallet af nyfinansierede AI-virksomheder i hver region. For 2021 førte USA med 299 virksomheder, efterfulgt af Kina med 119, Storbritannien med 49 og Israel med 28. Kløften mellem hver virksomhed er betydelig."
• AI-ansættelsestempo: "New Zealand, Hong Kong, Irland, Luxembourg og Sverige er de lande eller regioner med den højeste vækst i AI-ansættelser fra 2016 til 2021."
• AI jobopslag: "I 2021 var Californien, Texas, New York og Virginia stater med det højeste antal AI-jobopslag i USA, hvor Californien havde over 2.35 gange antallet af opslag som Texas, det næststørste. Washington, DC, havde den største andel af AI-jobopslag sammenlignet med dets samlede antal jobopslag
• AI Lovgivning: "En AI-indeksanalyse af lovgivningsmæssige optegnelser om AI i 25 lande viser, at antallet af lovforslag, der indeholder 'kunstig intelligens', der blev vedtaget i lov, voksede fra kun 1 i 2016 til 18 i 2021. Spanien, Storbritannien og USA vedtog det højeste antal AI-relaterede lovforslag i 2021, hvor hver vedtog tre."

Vi kan rigeligt beundre og værdsætte det hårde arbejde, der er involveret i at udarbejde disse nationalstatslige løberstatistikker til AGI-løbet.

Skeptikere skændes dog en del om at bruge alle typer målinger i AGI-race-engagementet.

Det vanskelige spørgsmål er, om du kan trække nogen form for lige linje fra antallet af AI-artikler eller AI-konferencer inden for en bestemt nation til den ultimative opnåelse af AGI. Det samme siges om antallet af AI-job, antallet af AI-virksomheder og mængden af ​​andre målinger. Det kan være, at disse tal ikke har meget at gøre med at opnå AGI. Argumentet går på, at disse foranstaltninger er mere varme end lys.

Modargumentet er, at vi skal prøve at måle, hvor vi er, og hvor vi skal hen. At stikke hovedet i sandet virker ikke som en meget anvendelig måde at vurdere, om vi er på vej mod AGI eller måske længere væk fra AGI. Det er håbet og generelt antaget, at jo mere energi og opmærksomhed mod at gøre fremskridt inden for AI, jo tættere kommer vi på AGI. Disse målinger er det bedste, vi kan gøre for at indsamle, hvor meget energi og opmærksomhed, der tildeles og forbruges i AGI-løbet.

Rundt og rundt, der går.

Hver af metrikken kan også slås om hovedet af sig selv.

Overvej for eksempel antallet af lovgivningsmæssige love eller lovforslag om kunstig intelligens.

Du kan hævde, at hvis lovgivere fokuserer på AI-relaterede love, er dette et godt tegn på, at nationen tager ganske nøgternt betydningen af ​​AI og de samfundsmæssige konsekvenser af, hvor AI er på vej hen. Man kan sige, at dette viser, at der opstår en masse AI-fremmeindsats i den pågældende nation. Hvorfor ville du gøre dig den ulejlighed at vedtage AI-love, medmindre AI var særligt spirende og boblede op som et demonstrativt element i din nation?

På den måde bliver de nationer, der udsender nye AI-love, fortolket som et afslørende tegn eller et signal om, at AGI-fremskridt er godt i gang i den nation.

Nogle kritikere hævder, at foreslåede nye love om AI kommer til at kvæle AI-indsatsen inden for hver sådan særlige nation. Lovgiverne og de politiske ledere kommer til at skyde deres egne fødder. Love vil for tidligt lægge en dyster skygge over AI-bestræbelser i gang i den specifikke nation. AI-fremskridtshanen kommer til at blive blokeret med lovlig hårtilstopning, og tempoet i AGI-fremskridtet vil sænke sig til et dryp i den AI-lovproklamerende nation. I mellemtiden vil andre nationer, der ikke vedtager den slags AI-love, fortsætte ufortrødent. Det er, som om du besluttede dig for at lægge blyvægte på en løber, der allerede er på 400 meter banen. Hvis du havde til formål at hjælpe dem og fremskynde dem, har du gjort præcis det modsatte.

Hov, lyder replikken, vedtagelsen af ​​AI-love er mere beslægtet med at sikre, at der ikke er nogen unødvendige vejspærringer foran løberen. Lovene giver vejledning på samme måde, at linjerne på racerbanen er til for at holde løberen jævnt i den rigtige retning. Uden de malede linjer, kan løberne gå amok. Nye AI-love vil holde dem i gang i forening mod et ønskeligt resultat. Lande, der ikke gør det samme med hensyn til nye AI-love, vil opleve, at deres løbere går i alle vilde retninger, inklusive muligvis løbe helt af banen og skade dem, der er uskyldige ud over selve AGI-løbet.

Der er også "skjulte" AI-relaterede love, som nogle tæller, og i mellemtiden tæller nogle andre ikke som en del af disse målinger (gør en sammensmeltning, når man forsøger at sammenligne tællinger).

For eksempel, hvis en nation vedtager en lov vedrørende autonome køretøjer såsom selvkørende biler, tæller du dette som en AI-lov? For at præcisere et autonomt køretøj, såsom en fuldt autonom selvkørende bil, vil det have et AI-køresystem, der er kernen i førerløse muligheder (se min dækning på linket her). På grund af den involverede AI kan enhver lov om autonome køretøjer med rimelighed argumenteres som i det væsentlige AI-love. På den anden side kan du måske overbevisende hævde, at loven handler om det autonome køretøj og ikke i sig selv om AI, derfor tæller dette ikke med i de AI-specifikke love, der tæller med.

Det er rodet.

Al denne bestyrtelse over målinger kan få dig til at trække på skuldrene midt i de modsatte synspunkter om disse vægtige overvejelser. Som det kan være tydeligt, er metrikkerne næsten altid genstand for forskellige fortolkninger af, hvad de betyder, og hvordan en nations status vedrørende AGI analyseres korrekt.

Geopolitisk manøvrering og tilpasning til AGI-løbet

Hvilke nationer er foran i AGI-løbet?

Hvilke nationer sakker bagud?

De førnævnte målinger forsøger at vise, hvor hver af løberne er i øjeblikket. En grundlæggende antagelse er, at hvis metrikken viser en passende indikation af AGI, der søger positionering, kan disse forskellige pole positioner forblive de samme over tid. Naturligvis er virkeligheden, at national interesse og opmærksomhed kan stige eller kan aftage under den ujævne vej mod AGI. Du kan være klogest i at forvente ændringer i positioneringen.

En vigtig overvejelse er, at nationer ikke rigtig er i dette kapløb alene.

Nationer vil sandsynligvis række stafetten frem og tilbage mellem hinanden. AGI-løbet har til tider en eller flere nationer, der gerne arbejder hånd i hånd. Nogle gange gøres dette forsigtigt snarere end med venlig glæde. I andre tilfælde kan nationer holde sig tilbage fra hinanden. På et hvilket som helst tidspunkt kan løbets holdning være helt anderledes, end den var et par skridt tilbage, plus kan være helt anderledes et par skridt ud i fremtiden.

Overvej denne pointe fra HAI AI Index 2022-rapporten om samarbejder på tværs af lande: "På trods af stigende geopolitiske spændinger havde USA og Kina det største antal samarbejder på tværs af lande i AI-publikationer fra 2010 til 2021, fem gange steget siden 2010 Samarbejdet mellem de to lande producerede 2.7 gange flere publikationer end mellem Storbritannien og Kina - den næsthøjeste på listen."

Kynikere vil sige, at brugen af ​​krydssamarbejde måske af og til sker som en list. En nation kan åbenlyst hævde, at de samarbejder på kryds og tværs, og synes overfladisk at gøre det, mens de inderst inde holder deres bedste AGI-fremskridt en skjult national hemmelighed. Måske gøres dette for at sløve fremgangen for den tværgående nation. Måske gøres dette for at sikre, at den hemmelige sovs ikke utilsigtet udleveres. Alle mulige årsager er mulige.

I nutidens moderne digitale internet-onlineverden kan det være en vanskelig opgave at forsøge at holde AGI-indsigt tæt skjult. Det intense ønske om at afdække eller opfinde AGI er en overbevisende lokke, der kan anspore individuelle AGI-udviklere og -forskere til åbent at dele deres seneste arbejde. Nationer kan finde ud af, at det er meget sværere at sætte et loft over sådan deling, end det ser ud til, og sandsynligvis meget sværere end dengang, hvor alt var papirbaseret og krævede fysisk at flytte dokumenter rundt om i verden.

Bevægelsen mod åben kildekode har bestemt været en nutidig betoning for meget af den seneste AI- og AGI-forskning, som nævnt i HAI AI Index 2022-rapporten: "Hvert år udgives tusinder og atter tusinder af AI-publikationer i open source, uanset om kl. konferencer eller på fildelingswebsteder. Forskere vil åbent dele deres resultater på konferencer; offentlige myndigheder vil finansiere AI-forskning, der ender i open source; og udviklere bruger åbne softwarebiblioteker, frit tilgængelige for offentligheden, til at producere state-of-the-art AI-applikationer. Denne åbenhed bidrager også til den globale indbyrdes afhængige og indbyrdes forbundne karakter af moderne AI R&D."

Alt i alt deler nationer generelt, og alligevel viser de måske kun en del af deres hånd. Andre nationer deler måske ikke eller foregiver kun at gøre det. Nogle nationer kæmper voldsomt med at prøve at måle, hvad de i deres nation giver væk i forhold til at hænge fast i. Og så videre.

Jeg har karakteriseret karakteren af ​​disse nationale tiltag på disse måder:

• AI Go-it-alone nation (forsøger at gå videre af sig selv)
• AI One-way-only Nation (tager ind, giver ikke ud)
• AI Leftover Nation (får hvad den kan fra andre)
• AI Open-sharing Nation (er stolt af at dele)
• AI Hollow-delingsnation (falskhed ved deling)
• AI Alliances Nation (forsøger at lave så mange alliancer som muligt)
• AI Ikke-i-spillet Nation (at søge AGI er ikke en national prioritet)
• AI Cheating Nation (reverse engineering eller snigende stjæle fra andre nationer)
• Andet

En nation kan være i mere end én af disse spande ad gangen.

En nation kan være i en af ​​disse spande i et stykke tid, flytte ud af spanden og muligvis senere gå ind igen.

Nationalstatens ønsker og opmærksomhed i forbindelse med at søge AGI er en dynamisk ebbe-og-flod, der helt sikkert vil fortsætte og være et bevægeligt mål for, hvilken nation der er hvor i kapløbet, og et konstant øje vil være nødvendigt for at finde ud af hvor alle spillerne er placeret på et givet tidspunkt.

Internationale AI-love og AI-etik som dommere i AGI-løbet

I tidligere spalter har jeg dækket de forskellige nationale og internationale bestræbelser på at udarbejde og vedtage love, der regulerer AI, se linket her , linket her, for eksempel. Jeg har også dækket de forskellige AI-etiske principper og retningslinjer, som forskellige nationer har identificeret og vedtaget, herunder f.eks. FN-indsatsen såsom UNESCO-sættet af AI-etik, som næsten 200 lande har vedtaget, se linket her.

Her er en nyttig keystone-liste over etiske AI-kriterier eller karakteristika vedrørende AI-systemer, som jeg tidligere har udforsket nøje:

• Gennemsigtighed
• Retfærdighed og Retfærdighed
• Ikke-ondskab
• Ansvarlighed
• Privatliv
• godgørenhed
• Frihed & Autonomi
• Stol
• Bæredygtighed
• Værdighed
• Solidaritet

Disse AI-etiske principper formodes oprigtigt at blive brugt af AI-udviklere, sammen med dem, der styrer AI-udviklingsindsatsen, og endda dem, der i sidste ende udfører og udfører vedligeholdelse på AI-systemer.

Alle interessenter gennem hele AI-livscyklussen for udvikling og brug betragtes inden for rammerne af at overholde de etablerede normer for etisk AI. Dette er et vigtigt højdepunkt, da den sædvanlige antagelse er, at "kun kodere" eller dem, der programmerer AI'en, er underlagt de AI-etiske begreber. Som tidligere understreget heri, kræver det en landsby at udtænke og udforme AI, og som hele landsbyen skal være fortrolig med og overholde AI-etiske forskrifter.

Lad os overveje virkningen og den vitale karakter af internationale AI-love og internationale proklamationer af AI-etiske forskrifter på AGI-racet.

Nationer, der stræber mod AGI, kan gøre det med opgivelse og finde sig i at bevæge sig mod nogle af de ofte populariserede eksistentielle risici ved AGI. Håbet er, at ved at indføre internationale AI-love og internationale AI-etiske forskrifter, vil nationer blive guidet hen imod AI til gode og styr udenom AI For Bad.

Ifølge vores racerbaneanalogi er disse AI-love og AI-etiske overvejelser som at forsøge at forhindre løbere i at gå uden for banen. Der er enorme fristelser til at tage genveje i AGI-løbet. Disse genveje kunne føre en nation ned tilsyneladende hurtigere til målstregen, men samtidig sætte den nation og andre nationer i unødig risiko. Et subtilt, men sigende eksempel består af dual-use AI, som jeg har undersøgt på linket her, hvorved en AI-fremgang nemt skiftes med en meget stor indsats fra at være rettet mod godhed til at blive udført med at producere katastrofal ondskab.

Du kan hævde, at de internationale AI-love og international AI-etik er som dommere eller dommere.

En antagelse er, at disse internationalt udtænkte juridiske og etiske mekanismer vil holde AGI-løbet på en mere jævn køl. Sagen er, om bestemte nationer vælger at lytte til dommerne eller dommerne, er en anden sag. På samme måde er der et irriterende spørgsmål om, hvordan disse myndigheder kan give sanktioner eller incitamenter for at holde løberne på rette spor. Oddsene er, at nationer vil gøre, som de ønsker at gøre, som andre nationer måske bliver nødt til at flytte deres vægt til for at styrke støtten til den off-the-path regelbrud, som nogle nationer er forpligtet til at påtage sig.

Konklusion

Louis Pasteur, den legendariske kemiker og mikrobiolog, sagde berømt dette: "Videnskaben kender intet land, fordi viden tilhører menneskeheden og er faklen, der oplyser verden. Videnskaben er den højeste personificering af nationen, fordi den nation vil forblive den første, der bærer længst tankernes og intelligensens værker."

Kan vi sige, at opnåelsen af ​​AGI ikke kender noget land, og at AGI vil tilhøre hele menneskeheden?

Eller vil den nation, der først ankommer til AGI, være besiddende af det, blive fuld af ussel magt og blive gal?

For dem af jer, der kan lide en lille drejning på denne særlige gåde, så overvej, at AGI i sig selv kan være den type præstation, der er den ordsprogede slange i græsset. Opdageren af ​​slangen kan være den første til at få et slangebid. At være først har sine risici.

At krydse målstregen på AGI bliver ikke nødvendigvis så festligt og ubekymret, som nogle måske tror. Det vil heller ikke nødvendigvis være let at udnytte AGI. Nogle vil måske hævde, at det kan være næsten umuligt at klare AGI, da AGI tilsyneladende vil have den sammenlignelige snilde og opfindsomhed, som menneskeheden har. Nationer bør være opmærksomme på, hvad de forsøger at opnå, og hvad resultatet vil være, gøre det på forhånd og ikke blive overrasket. De har måske en gedehamserede i deres nationale skattekiste.

Som Pasteur sagde: "Lykken favoriserer det forberedte sind."