Når han ikke arbejder på at fremskynde menneskehedens hastværk mod Singulariteten ved at skabe en kunstig generel intelligens (AGI), spiller Ben Goertzel i et jazz-rock-band ved navn Jam Galaxy med en robot ved navn Desdemona.
Det er et af hans mange sideprojekter, som naturligvis førte til, at han forsøgte at symbolisere musikbranchen ved at nå ud til medlemmer af Pearl Jam og Heart. Goertzel arbejder også på levetidsforskning ved at crowdsourcing menneskelige sundhedsdata med symbolske belønninger via en app kaldet Rejuve.ai. Denne information samles derefter med dyre- og insektundersøgelsesdata og analyseres med en AI for at bestemme, hvilke dele af genomerne der kan få os til at leve længere og derefter stimuleres ved hjælp af genterapier. "Vi har haft nogle ganske slående opdagelser på gennembrudsniveau," siger han. Åh, og lige før vores timelange interview slutter, nævner han tilfældigt som en sidebemærkning, at han også er ved at skabe en stabil mønt til sin decentraliserede AI-markedsplads, SingularityNET, der er knyttet til et syntetisk indeks for miljøfremskridt - fordi det ville være at knytte det til amerikanske dollars. "halt."
"Udviklingen på miljøområdet er meget stabil. Det går aldrig nogen steder,« påpeger han.
"Og for at manipulere dette, skal du faktisk løse den globale opvarmning."
Det er præcis den slags politiske kommentarer, der møder højteknologisk knowhow, du kan forvente fra Goertzel, der ligner og lyder som en hippie-videnskabsmand, der snublede ind i en tidsmaskine i 1971 og dukkede op fuldt ud i 2023. Men lad dig ikke narre af haten med dyreprint, det lange hår og Electric Kool-Aid syretrip: Han er en genial videnskabsmand med et greb om fremtidens lysår foran de fleste, og som kæmper med nogle af de største begreber, menneskeheden nogensinde har overvejet. Hvad er bevidsthed? Hvordan skaber vi kunstigt liv, og hvad sker der, hvis det ikke kan lide os, bliver useriøst og skyder alle ned som i Terminator 2?
Hvad er kunstig generel intelligens?
Goertzel populariserede udtrykket "kunstig generel intelligens" som en måde at differentiere en ægte tænkemaskine, der kunne lære stort set alt, til AI'er, der er optimeret til en bestemt opgave, som Deep Blue-computeren, der berømt slog verdensskakmesteren Garry Kasparov. Han indrømmer frit, at der er risici ved at bygge en maskine, der er i stand til at lære alt og alt, inklusive hvordan man omprogrammerer sig selv til at blive en størrelsesorden mere intelligent end noget menneske.
"Der er en række risici og farer med AGI," siger Goertzel over larm på en indisk restaurant i et travlt indkøbscenter i Singapore. “En af dem, der har fået stor opmærksomhed i medierne, er, at AGI vil løbe amok og udslette menneskeheden og overtage universet. Det er fuldt ud muligt; man kan ikke udelukke det,” siger han.
"En anden mere sandsynlig risiko er, at grimme egoistiske mennesker vil bruge AI til at udøve deres egen grådighed og kontrol over andre mennesker."
Efter hans opfattelse er det usandsynligt, at regeringer vil lave gennembrud i AGI, da de er "for konservative og dumme", selvom han bemærker, at Kina uddeler sit AGI-arbejde til virksomheder som Tencent og Baidu. Tættere på hjemmet tror han, at Google og Facebooks AI-divisioner heller ikke vil komme over stregen, da de vil være for fokuserede på at få AI til at ramme bestemte målinger, hvilket ikke er befordrende for kreativ tankegang.
"Ligesom de mest geniale mennesker ikke blot ønsker at tjene andres målinger, tror jeg, at kunstig generel intelligens heller ikke nødvendigvis ønsker at maksimere klik-gennem på en andens webside, vel? Det skal have lov til at lege kreativt.”
Singulariteten omkring 1970
Goertzel startede på universitetet som 15-årig, dimitterede som 18-årig, havde en doktorgrad som 22-årig og en ung familie som 23-årig. Måske usædvanligt i denne dag og alder var han ikke bare en matematik-guder eller teknisk geni, der loddede kitcomputere sammen i 70'erne men var lige så interesseret i filosofi, kreativ skrivning og musik.
Han brugte meget af sin karriere på at undervise og forske i datalogi, matematik og kognitiv videnskab på forskellige universiteter rundt om i verden, mens han arbejdede på AI-teknologi, når han kunne. En seriestifter, der plejer at være omkring et årti foran alle andre med sine ideer - som i erhvervslivet, berømt er lig med at være forkert — han har arbejdet på at bruge kunstig intelligens til at forudsige finansielle markeder og lang levetid, og han har også haft et ophold som chefforsker for Hanson Robotics, hvor han gav Sophia the Robot hendes kunstige hjerne.
Goertzel har tænkt på eksponentiel teknologisk vækst siden 1970'erne, da han første gang læste Gerald Feinbergs Prometheus-projektet, som handler om "maskiner, der kan tænke bedre end mennesker... nanoteknologiske maskiner, der er mikroskopisk små, og vi skal løse aldring." Dette passede fint sammen med det nye koncept om Singulariteten, et hypotetisk fremtidigt punkt, hvor teknologiske fremskridt bliver ukontrollerbare og irreversible, hvilket resulterer i massive ændringer i den menneskelige civilisation.
"Så folk vil leve evigt, så vil spørgsmålet være, Hvad bruger vi disse teknologier til, hurtig tankeløs forbrugerisme, eller bruger vi den til at udvide bevidstheden? Og det, han [Feinberg] foreslog, er at sætte det til en demokratisk afstemning."
År senere, da han begyndte at se, at AGI var inden for vores rækkevidde, blev denne "demokratiske afstemning" inspirationen til først at bruge open source-teknologi og senere blockchain som en måde at sætte et kooperativt samfund til at styre teknologien på.
"Det, jeg indså på et vist tidspunkt, er, at med AI, at det ikke er nok at have koden åben," siger han. "Du har virkelig brug for at træne AI'en på en lort af data."
"Det er her, blockchain kommer som en måde at gøre behandlingen og de data, der ligger til grund for AI, decentraliseret og crowdsourced i naturen og åbne i kontrol. Og det viser sig at være sværere end blot at åbne koden."
Goertzel grundlagde OpenCog i 2008 for at bygge en open source, crowd-sourced kunstig intelligens-ramme. Det er blevet brugt af 50 virksomheder, herunder Huawei og Cisco, og er klar til en større opgradering snart kaldet Hyperon, der har til formål at accelerere den med 200 gange. Alfa-versionen udkommer i dette kvartal med den beta, der forventes næste år.
Blockchain er grundlæggende, men cool
For Goertzel er blockchain-teknologi lidt grundlæggende. Han beskriver det som nogle primitive distribuerede algoritmer tilføjet til kryptografi, men den "seje kombination" gør det muligt for systemer at køre uden centraliseret kontrol, hvilket gør det perfekt til hans behov.
"Hvis du skal lave en tænkemaskine, og du vil lave den distribueret computerstof i nanoskala, ville det være meget rart, hvis denne var ejet af alle og ingen i stedet for at blive kontrolleret ovenfra og ned."
Blockchains er alt for langsomme til at håndtere behandlingskravene og enorme mængder af data involveret, så der er noget af et kapløb om at skalere blockchain ordentligt, før et banebrydende AGI udvikles. Goertzel siger, at selvom skaleringsløsninger såsom nul-viden rollups er bedre, har de stadig ikke nok båndbredde på grund af begrænsningerne i den blockchain, som de rapporterer transaktioner til.
Han var med til at stifte SingularityNET i 2017, som både er en decentral markedsplads for AI-tjenester og -teknologi og en blockchain-baseret koordinationsmetode for forskere - eller endda AI'er - til at arbejde sammen.
På nuværende tidspunkt, baseret på Ethereum, tror han, at han har skubbet tingene så langt, som de kan gå på blockchain i dens nuværende form. Så når han ikke arbejder på et gennembrud i AGI (eller bandet, eller robotter eller lang levetid), arbejder han på massivt at skalere blockchain for at give den den nødvendige gennemstrømning.
"Medmindre du radikalt kan øge skalerbarheden af blockchain, kan du ikke sætte AI'ens indre funktioner på kæden."
AI er tættere på, end du tror
2022 var noget af et gennembrudsår for arbejdende produkter baseret på AI-teknologi, herunder sprogapplikationer (GPT-3, ChatGPT), kodning (GitHub Copilot) og billedgenerering (DALL-E og Stable Diffusion). Bing planlægger endda at påtage sig Googles søgedominans i år ved at inkorporere ChatGPT-teknologi i sin søgemaskine.
Goertzel mener, at en AGI kan være så lidt som fem år væk, og bemærker, at udviklingen på området ser ud til at gå i korte tre- eller fireårige udbrud i en række af gennembrud.
”Computer Vision startede i 2014, og så pludselig, bang, bang, bang, var mysteriet løst. Naturlig sprogbehandling... efter at Google kom med Bert-modellen (i 2018), havde du GPT-3. Du vil sandsynligvis se den samme fremskridtsbue i AGI. Du vil få et gennembrud, derefter en stor fremgang i to år,” sagde han.
"Forskellen er banebrydende fremskridt, i så fald resulterer i en maskine, der så kan fortsætte med at udvikle sig ved at omskrive sin egen kode."
Goertzel håber, at de projekter og samarbejder, han har sat i gang, kan være, hvordan det opstår.
"Hvis vi er heldige, vil vi opnå det gennembrud i de næste tre til fem år med OpenCog Hyperon, der kører på SingularityNET, der kører på Hypercycle," siger han. "Men hvis vi ikke viser sig at have den hemmelige sauce, vil en anden."
Skam, at Vitalik ikke var datalog
Goertzels løsning til at skalere blockchain er ret radikal og involverer turbo-opladning af en sidekæde eller lag 2 af Cardano kaldet "HyperCyle."
"Det er virkelig mere end en sidekæde. HyperCycle vil også samarbejde med Ethereum og andre blockchains, men vi vil bruge Plutus-tolken der, men vi slipper af med hovedbogen."
Han har beskrevet HyperCycle online som at løse "blockchain-trilemmaet" af "decentralisering vs. sikkerhed vs. ydeevne ved at slippe af med hovedbogen og bruge mere moderne/fuldt decentraliserede algoer og datastrukturer, plus lidt AI og omdømmesystemer."
Hovedbogen er kernen i blockchain-teknologien, men han siger, at det er latterligt ineffektivt at få hver eneste knude i netværket til at replikere hver transaktion og behandle hver smart kontrakt.
"Rekontroen er bare dårlig. Hvis du tænker over det, hvis du tænker på analogien af dine kontakter i din telefonbog, mener jeg, hovedbogen er ligesom at [...] opbevare 10,000 kopier af Gule Sider, og du opdaterer dem, hver gang en ny kommer, eller hvis nogen ændrer deres telefonnummer. Det er virkelig dumt at opdatere 10,000 eksemplarer af De Gule Sider.”
I HyperCycle-versionen af analogien, i stedet for at alle gemmer og opdaterer de gule sider, gemmer personerne i din kontaktbog en kopi af din adressebog, og omvendt, krypteret med din private nøgle.
"Vi fandt ud af, hvordan vi kunne få blockchain til at fungere uden en replikerende hovedbog, så vi skærer hele vejen ned. Hvert individ, der er engageret i blockchain, beholder deres egen transaktionshistorik og beholder transaktionshistorikken for deres venner og nogle af deres venners venner,” siger han.
“Sharding hele vejen ned, du behøver ikke en hovedbog – du behøver ikke en databasetabel. Disse ting er alt for centraliserede."
Han siger, at nogle proof-of-concept HyperCycle-knudepunkter allerede er operationelle, men en fuldskala-lancering vil først ske i anden halvdel af 2024.
Vi bruger lang tid på at diskutere de forskellige fordele ved forskellige tilgange til blockchain, fra internetcomputer til Elastos og Celestia, hvoraf meget er over min lønklasse og ud over min optageenheds evne til nøjagtigt at fange i en støjende restaurant.
Han afslutter med at sige: "Så jeg føler bare, at ingen af disse arkitekturer er radikale nok. De holder sig alle for tæt på Bitcoin."
"Så længe du kører hver smart kontrakt på hver node, mener jeg, det vil gå sindssygt langsomt. Nu, i HyperCycle, hvis du kører en smart kontrakt på fem noder, er den i det mindste kun fem gange så langsom som på én maskine - den er ikke 10,000 gange langsommere."
Hvorfor Cardano så?
Goertzel er blevet venlig med Cardano-grundlæggeren Charles Hoskinson, og parret knytter sig til deres projekter i Afrika. Han mener, at Hoskinson "virkelig er derude for at redde verden. Jeg mener, politisk er han mere en hardcore libertarianer, end jeg er - jeg er mere en anarko-socialist - men han er ikke kun i det for at tjene penge eller flå andre mennesker ud af deres penge."
Men den virkelige appel ved Cardano er, at den bruger Haskell-programmeringssproget, som Goertzel har været fan af siden 1993. Det piner ham meget, at Ethereum-medstifter Vitalik Buterin gik med Gavin Woods smarte kontraktprogrammeringssprog Solidity.
"Hvis bare Vitalik havde kendt mere datalogi, ville han have fået dem til at bruge Haskell eller F Sharp eller noget, og der ville være langt færre hacks af blockchain," siger han.
"Hvis du skal køre det meste af verdens økonomi og handle billioner af dollars på et eller andet softwaresystem, ville du være bedre stillet til at bygge det softwaresystem på et sprog, der ikke er tilbøjeligt til fejl, og hvor dine algoritmer formelt kan være verificeret ved hjælp af en matematisk teori. Det er den helt rigtige måde at gøre tingene på.”
Stop-gap løsning
Uanset hvor hurtig blockchain bliver, så snart AGI er en størrelsesorden smartere og dygtigere end mennesker er, siger Goertzel, at det ikke vil lade nogen kontrollere det.
"Når en AGI er 100 gange klogere end mennesker, ønsker den ikke at blive kontrolleret af os, da vi ikke ville blive kontrolleret af en chimpanse eller et æsel, vel?"
"Så vil jeg sige, at spørgsmålet ikke er en af os, der kontrollerer det, spørgsmålet er: Er det godt stillet til os? Vil det lade folk regulere deres egen forretning og forsyne os med seje værktøjer og nanosamlere til at 3D-printe alle de ting, vi ønsker, og helbrede vores sygdomme?"
"Men overgangsperioden, hvor AGI'en er omkring den samme intelligens som mennesker, det er, når tingene er mere følsomme og mere interessante. Og spørgsmålet er så: Ønsker AGI at samarbejde med mennesker? Eller er den paranoid og ønsker at kontrollere folk, før de ødelægger den?”
Opdrag dine børn godt
Efter Goertzels mening er løsningen at lære AGI'en om omsorg for andre og om kreativitet og kunst. Det er her Desdemona the Robot i hans band og hendes søster Grace – som er designet til at yde ældrepleje – kommer ind.
Måden du undgår, at en AGI bliver til Terminators Skynet, er ikke at bygge den på den måde i første omgang.
"Skynet var selvfølgelig i filmen et computersikkerhedsnetværk, der løb amok. Det er skabt for at forsvare sig mod mennesker,” siger han.
"Men hvis du bygger den første AGI med ældrepleje og kreativ kunst og uddannelse, efterhånden som den bliver smartere, vil den være orienteret mod at hjælpe mennesker og skabe fede ting. Hvis du bygger den første AGI til at dræbe de onde... måske vil den blive ved med at gøre disse ting."
"Så, fordelagtigt eller ej, det kommer virkelig ned på, hvilke applikationer du har udviklet, og hvad du har incitamentet til."
Han mener, at det er nyttigt at sætte AI'er i robotkroppe, fordi det hjælper med at placere dem i den virkelige verden i stedet for et abstrakt matematisk univers.
"AI bør lære om den menneskelige verden og den fysiske verden. At være legemliggjort i verden er den rigtige måde at gøre det på,” siger han.
Men når han præsenterer Sophia the Robot for et stort publikum, kan de visuelle og auditive sensorer let være overvældende og forvirre AI'en i et højt og lyst miljø. Så Sophia vil snart lancere i metaverset, kaldet Sophiaverse. Glem ChatGPTs kedelige tekstbaserede svar, Sophia er legemliggjort i en virtuel 3D-verden, og hun vil lære af at interagere med folk der. Han advarer dog om, at hun sandsynligvis vil sige nogle dumme ting.
"Den har et neuralt net, der ligner GPT-3 og så videre, som har betydelig mulighed for at besvare dine spørgsmål, men de er også ret dumme på nogle måder."
Tilmeld
De mest engagerende læsninger i blockchain. Leveret en gang a
uge.
Kilde: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/