AI Shake-Up som fremtrædende AI-guru foreslår tankevækkende "dødelige computere", som også får AI-etik og AI-lov gravet ind

Her er noget, som du sandsynligvis ikke havde tænkt over endnu: Dødelige computere.

Men det burde du måske være.

Det hæsblæsende emne kom op på den nylige og i det hele taget ret fremtrædende årlige konference om kunstig intelligens, der især er fokuseret på fremkomsten af ​​neurale netværk og maskinlæring, nemlig konferencen om neurale informationsbehandlingssystemer (kendt af insidere som NeurIPS). Den inviterede hovedtaler og en velovervejet mangeårig AI-guru Geoffrey Hinton fremsatte den spændende og måske kontroversielle påstand, at vi burde tænke på computere i en dødelig og udødelig sammenhæng.

Jeg vil tage fat på den bemærkelsesværdige påstand og gøre det på to måder, som i starten ikke nødvendigvis vil virke forbundne, men efter lidt ekstra forklaring vil de blive mere klart relateret til hinanden med hensyn til de dødelige versus udødelige stridigheder.

De to emner er:

1) Integralt sammenbinding af både hardware og software til AI-mekaniseringer i stedet for at have dem som adskilte og separate allierede

2) Overførsel eller destillering af maskinlæringsformuleringer fra én kunstig intelligens-model til en anden, der gør det uden at kræve eller nødvendigvis ønske (eller endda på anden måde muligt) en ligefrem fuld renracet kopiering

Alt dette har store overvejelser for AI og den fremtidige retning for AI-udvikling.

Desuden er der en række meget vanskelige AI-etik og AI-love-problemer, der også opstår. Disse typer af AI-forudsete teknologiske fremskridt er sædvanligvis drevet rundt på et rent teknologisk grundlag, længe før der er en erkendelse af, at det også kan have bemærkelsesværdige konsekvenser for etisk kunstig intelligens og kunstig intelligens. I en vis forstand er katten normalt allerede ude af sækken, eller hesten er ude af stalden, forud for opvågningen af, at AI-etik og AI-lov bør have due diligence-deltagelse.

Nå, lad os bryde den forsinkede eftertanke-cyklus og komme ind i stueetagen på denne.

For dem af jer, der generelt er interesseret i den seneste indsigt, der ligger til grund for AI-etik og AI-lovgivning, vil du måske finde informativ og inspirerende engagerende min løbende og omfattende dækning på linket her , linket her, For blot at nævne nogle få.

Jeg vil først heri dække ovenstående punkt om sammenbinding af hardware og software. En diskussion og analyse af emnet vil finde sted hånd i hånd. Dernæst vil jeg komme ind på spørgsmålet om kopiering eller nogen siger destillere de afgørende elementer i et maskinlærings-AI-system fra én AI til en nyudviklet AI som mål.

Lad os komme igang.

Sammenbinding af hardware og software til AI

Du ved sikkert, at designet af computere stort set er sådan, at der er hardware-siden af ​​tingene og separat er der software-siden af ​​tingene. Når du køber en almindelig bærbar eller stationær computer, opfattes den som værende en almindelig computerenhed. Der er mikroprocessorer inde i computeren, som bruges til derefter at køre og udføre software, som du kan købe eller skrive på egen hånd.

Uden software til din computer er det et stykke metal og plastik, der dybest set ikke vil gøre dig meget godt, andet end at fungere som en papirvægt. Nogle vil sige, at software er konge og styrer verden. Selvfølgelig, hvis du ikke har hardware at køre softwaren på, vil softwaren ikke gøre meget godt. Du kan skrive så mange linjer kode, som dit hjerte begærer, men indtil softwaren bliver brugt via en computer, er den formulerede kildekode lige så spinkel og flyvsk som et smukt digtværk eller en detektivroman på et minut.

Tillad mig et øjeblik at skifte til en anden vej, der kan se ud til at være langt væk (det bliver det ikke).

Vi forsøger ofte at drage analogier mellem, hvordan computere fungerer, og hvordan den menneskelige hjerne fungerer. Dette forsøg på at lave konceptuelle paralleller er praktisk. Når det er sagt, skal du være forsigtig med at gå overbord med disse analogier, da sammenligningerne har en tendens til at bryde sammen, når du kommer tættere på de kødfulde detaljer.

I hvert fald, for diskussionens skyld, er her en analogi, der ofte bruges.

Selve hjernen er uformelt til tider omtalt som vådtøj. Det er en fængende måde at formulere tingene på. Vi ved, at computere består af hardware og software, så det er smart at bruge "ware"-delen af ​​mønten til at beskrive, hvad en hjerne går ud på. Den mægtige og mystiske hjerne, der ligger i vores knæ, findes svævende rundt og mentalt beregner alle vores gerninger (nogle gode, mens nogle af vores tanker bestemt ikke er fyldt med godhed).

Med en gennemsnitlig vægt på omkring tre pund er hjernen et bemærkelsesværdigt organ. På en eller anden måde, og vi ved endnu ikke hvordan, er hjernen i stand til at bruge den i størrelsesordenen 100 milliarder neuroner og måske alt fra 100 til 1,000 billioner sammenkoblinger eller synapser til at gøre al vores tænkning for os. Hvordan giver hjernens biologiske og kemiske egenskaber anledning til intelligens? Ingen kan sige med sikkerhed. Dette er en søgen af ​​tiderne.

Jeg spørger dig dette, er hjernen tilsyneladende kun hardware, eller er det både hardware og software kombineret?

Nudel på den hjernevrider.

Du kan blive fristet til at påstå, at hjernen simpelthen er hardware (i generel forstand). Det er et organ i kroppen. På samme måde kan du sige, at hjertet er hardware, blæren er hardware og så videre. De er alle mekaniseringer beslægtet med, når vi taler om artefakter, der har en fysisk form og udfører fysisk relaterede handlinger.

Hvor er så den software, der kører mennesker?

Jeg vil vove at foreslå, at vi alle stort set er enige om, at menneskehedens "software" på en eller anden måde findes i hjernen. De nødvendige trin for at tilberede et æg eller reparere et fladt dæk er instruktioner, der er inkorporeret i vores hjerner. Ved at bruge den tidligere bemærkede computeranalogi af hardware og software, er vores hjerne som det var et stykke hardware, som vi lærer om verden og instruktionerne om, hvad de skal gøre, "kører" og "lagres" i vores hjerner.

På en computer kan vi let pege på hardwaren og sige, at dette er hardware. Vi kan have en liste over kildekoden og pege på listen som software. I dag downloader vi elektronisk online software og installerer det på vores bærbare computere og smartphones. I gamle dage brugte vi disketter og hulkort til at opbevare vores software til indlæsning på computerens hardware.

Jeg bringer dig ind i en vigtig gåde.

Når du først har lært noget, og viden er til stede i din hjerne, kan du så stadig skelne mellem din hjernes "hardware" og din hjernes formodede "software"?

En argumenteret holdning er, at viden i din hjerne ikke er særlig adskillelig fra forestillingerne om hardware og software. Analogien dermed til computernes natur går i stykker, vil nogle inderligt hævde. Viden i hjernen er sammenflettet med og uadskillelig fra din hjernes hardware. De biologiske og kemiske egenskaber sammenvæver den viden, du mentalt besidder.

Smag på det for lidt mental refleksion.

Hvis vi håber på en dag at udtænke computere, der er på niveau med menneskelig intelligens, eller endda overgår menneskelig intelligens, kan vi måske bruge hjernens strukturer og dens indre funktioner som en guide til, hvad vi skal gøre for at nå et så højt mål. For nogle inden for AI er der en overbevisning om, at jo mere vi ved om, hvordan hjernen fungerer, jo bedre er vores chancer for at udtænke ægte AI, nogle gange omtalt som Artificial General Intelligence (AGI).

Andre i AI er mindre forelskede i at skulle vide, hvordan hjernen fungerer. De understreger, at vi kan fortsætte med at lave AI, uanset om vi er i stand til at låse op for hjernens hemmelige indre funktion. Lad ikke hjernens mysterier hæmme vores AI-indsats. Selvfølgelig, bliv ved med at prøve at afkode og dechifrere den menneskelige hjerne, men vi kan ikke sidde og vente på, at hjernen bliver omvendt. Hvis det en dag kan lade sig gøre, er der vidunderlige nyheder, selvom det måske er en umulighed eller vil ske evigheder fra nu af.

Jeg er klar til nu at dele den dødelige og udødelige computerstrid med jer. Sørg for, at du sidder ned og er klar til den store afsløring.

En computer, der har en klar adskillelse af hardwaren og softwaren, kunne hævdes at være "udødelig", idet hardwaren kan bestå for evigt (inden for grænser, selvfølgelig), mens softwaren kan skrives og omskrives igen og igen. Du kan holde en konventionel computer kørende, så længe du kan lave reparationer på hardwaren og sørge for, at enheden kan tænde. Du kan stadig i dag gøre brug af de rå hjemmecomputere fra 1970'erne, der plejede at komme i sæt til samling, på trods af at de er næsten halvtreds år gamle eller deromkring (lang tid i computer år).

Antag dog, at vi valgte at lave computere, hvor hardwaren og softwaren fungerede uadskilleligt (jeg vil sige mere om dette snart). Overvej dette på samme grundlag, som jeg tidligere nævnte, at hjernen måske har en integreret sammensætning af hardware og software. Hvis det var tilfældet, kunne det antydes, at computeren af ​​denne slags ikke længere ville være udødelig. Det ville blive fortolket som værende "dødeligt" i stedet for.

I henhold til bemærkningerne på NeurIPS-konferencen af ​​den inviterede hovedtaler og den bemærkelsesværdige AI-guru Geoffrey Hinton, og som anført i hans medfølgende forskningsartikel:

• "Generelle digitale computere blev designet til at følge instruktionerne trofast, fordi det blev antaget, at den eneste måde at få en almindelig computer til at udføre en specifik opgave var at skrive et program, der specificerede præcis, hvad de skulle gøre i ulidelige detaljer. Dette er ikke længere sandt, men forskersamfundet har været langsomme til at forstå de langsigtede implikationer af dyb læring for den måde, computere er bygget på. Mere specifikt har samfundet klamret sig til ideen om, at softwaren skal kunne adskilles fra hardwaren, så det samme program eller det samme sæt vægte kan køres på en anden fysisk kopi af hardwaren. Dette gør den viden, der er indeholdt i programmet, dør eller vægten udødelig: Viden dør ikke, når hardwaren dør" (som indeholdt i og citeret fra hans forskningsartikel "The Forward-Forward Algorithm: Some Preliminary Investigations", fortryk tilgængelig online) .

Bemærk, at den særlige form for computerbehandling, der diskuteres i denne type AI, gør brug af kunstige neurale netværk (ANN'er).

Lad os rette op på det her.

Der er biologiske neuroner fra den virkelige verden i vores hjerner. Du bruger dem hele tiden. De er biologisk og kemisk forbundet til et netværk i din noggin. Derfor kan vi henvise til dette som en neurale netværk.

Andre steder er der, skal vi sige, falske "neuroner", som vi beregningsmæssigt repræsenterer i computere med det formål at udtænke AI. Mange mennesker i AI omtaler også dem som neurale netværk. Jeg tror, ​​det er noget forvirrende. Ser du, jeg foretrækker at henvise til dem som kunstig neurale netværk. Dette hjælper til med det samme at skelne mellem en reference til in-dit-hoved neurale netværk (så at sige den ægte vare) og computerbaserede (kunstig neurale netværk).

Ikke alle indtager den holdning. Mange mennesker i AI antager bare, at alle andre i AI "ved", at når de refererer til neurale netværk, taler de næsten altid om ANN'er - medmindre der opstår en situation, hvor de af en eller anden grund ønsker at diskutere rigtige neuroner og rigtige neurale netværk i hjerne.

Jeg stoler på, at du forstår min drift. Det meste af tiden vil AI-folk sige "neurale netværk", hvilket potentielt er tvetydigt, fordi du ikke ved, om de refererer til de rigtige i vores hoveder eller de beregningsmæssige, vi programmerer ind i computere. Men da AI-folk i det store og hele beskæftiger sig med computerbaserede instanser, antager de som standard, at du refererer til kunstige neurale netværk. Jeg kan godt lide at tilføje ordet "kunstig" til forsiden af ​​ordlyden for at være tydeligere om intentionerne.

Hvis du går videre, kan du lidt betragte disse beregningsmæssige kunstige neuroner som en matematisk eller beregningsmæssig simulering af, hvad vi tror, ​​faktiske biokemiske fysiske neuroner gør, såsom at bruge numeriske værdier som vægtningsfaktorer, der ellers sker biokemisk i hjernen. I dag er disse simuleringer ikke nær så komplekse, som rigtige neuroner er. Nuværende ANN'er er en ekstremt rå matematisk og beregningsmæssig repræsentation.

Generelt er ANN'er ofte kerneelementet for machine learning (ML) og deep learning (DL) - vær opmærksom på, at der er mange flere detaljer i dette, og jeg opfordrer dig til at tage et kig på min omfattende dækning af ML/DL på linket her , linket her, for eksempel.

For at vende tilbage til de udødelige versus dødelige typer computere, er her mere at gruble over ifølge forskeren:

• “Adskillelsen af ​​software fra hardware er et af grundlaget for datalogi, og det har mange fordele. Det gør det muligt at studere programmernes egenskaber uden at bekymre sig om elektroteknik. Det gør det muligt at skrive et program én gang og kopiere det til millioner af computere. Hvis vi imidlertid er villige til at opgive udødelighed, burde det være muligt at opnå enorme besparelser i den energi, der kræves for at udføre en beregning, og i omkostningerne ved at fremstille den hardware, der udfører beregningen. Vi kan tillade store og ukendte variationer i forbindelsesmuligheder og ikke-lineariteter af forskellige forekomster af hardware, der er beregnet til at udføre den samme opgave, og stole på en indlæringsprocedure for at opdage parameterværdier, der effektivt udnytter de ukendte egenskaber for hver enkelt forekomst af hardwaren. Disse parameterværdier er kun nyttige for den specifikke hardwareforekomst, så den beregning, de udfører, er dødelig: den dør med hardwaren" (ibid).

Du er nu blevet introduceret til, hvordan udødelige og dødelige bliver brugt i denne sammenhæng.

Lad mig uddybe.

Forslaget er, at en computer, der er specialbygget baseret på ANN'er, kan udformes således, at hardware og software anses for at være uadskillelige. Når først hardwaren en dag ikke længere fungerer (hvilket vi selvfølgelig siger integrerer softwaren integreret), er denne type computer tilsyneladende ikke længere nyttig og vil ikke længere fungere. Det siges at være dødeligt. Du kan lige så godt begrave den ANN-baserede computer, da det ikke vil gøre dig meget godt fremover, efter at den uadskillelige hardware og software ikke længere fungerer som et team.

Hvis du ville forsøge at relatere dette til analogien af ​​en menneskelig hjerne, kunne du forestille dig den dystre situation med en menneskelig hjerne, der fuldstændig forværres, eller som på en eller anden måde er uoprettelig skadet. Vi accepterer forestillingen om, at en person er dødelig, og at deres hjerne i sidste ende og uundgåeligt vil holde op med at fungere. Den viden, de indeholdt i deres hjerne, er ikke længere tilgængelig. Medmindre de tilfældigvis forsøgte at fortælle andre eller skrive ned, hvad de vidste, er deres viden væk til verden som helhed.

Du har utvivlsomt hørt eller set rapporter om forsøg på at bevare hjerner, som at sætte dem i en frossen tilstand, under teorien om, at mennesker måske en dag kunne være udødelige eller i det mindste strække sig ud over deres sædvanlige levetid. Din hjerne kan leve videre, selvom den ikke er i din krop. Masser af sci-fi-film og historier har spekuleret i sådanne ideer.

Vi er nu klar til et detaljeret kig-se på den dødelige computer og den udødelige computer som koncept og hvad den forudsiger.

Mindful diskussion og hensynsfuld analyse

Før du dykker ned i indvoldene i denne analyse af den postulerede tilgang, er et par vigtige forbehold og yderligere punkter værd at nævne.

Forskeren understregede, at mønten dødelige computere ville ikke i særlig grad erstatte eller skubbe ud af eksistensen udødelige computere som vi i dag omtaler som konventionelle digitale computere. Der ville være en sameksistens af begge typer computere. Jeg siger dette, fordi reaktionen fra nogle har været, at opfordringen til at bestille var en generel påstand alle computere af nødvendighed er eller vil være på vej mod den dødelige type.

Det var ikke en påstand, der blev fremsat.

Under sit foredrag nævnte han, at disse specialiserede sig neuromorfisk orienteret computere ville udføre beregningsarbejde kendt som dødelige beregninger: "Vi kommer til at gøre det, jeg kalder dødelig beregning, hvor den viden, som systemet har lært, og hardwaren, er uadskillelige" (som citeret i en ZDNET-artikel af Tiernan Ray den 1. december 2022).

Og især: "Det vil ikke erstatte digitale computere" (ibid).

Også disse nye typer computere vil bestemt ikke snart være i din lokale computerbutik eller tilgængelige til køb online med det samme, som det sagde under hans præsentation: "Det, jeg tror, ​​er, at vi kommer til at se en helt anden type computer, ikke i et par år, men der er al mulig grund til at undersøge denne helt anden type computer.” Brugen vil også være forskellig: "Det vil ikke være computeren, der har ansvaret for din bankkonto og ved præcis, hvor mange penge du har."

Et yderligere twist er, at de dødelige computere tilsyneladende ville blive dyrket frem for at blive fremstillet, som vi gør i dag til fremstilling af computerprocessorer og computerchips.

Under vækstprocessen ville den dødelige computer øges i kapacitet i en stil med beregningsmæssig modning. Således kan en given dødelig computer starte med næsten ingen kapacitet og modnes til, hvad den var tilsigtet at blive. Antag for eksempel, at vi ønskede at skabe mobiltelefoner ved at bruge dødelige computere. Du ville starte med en simpel variant af en dødelig computer, der oprindeligt er blevet formet eller udsået til dette formål. Det ville derefter modnes til den mere avancerede version, som du søgte. Kort sagt: "Du ville erstatte, at hver af disse mobiltelefoner skulle starte som en babymobiltelefon, og den skulle lære at være en mobiltelefon."

På en af ​​hans grundlæggende slides om dødelig beregning blev fordelene beskrevet på denne måde: "Hvis vi opgiver udødelighed og accepterer, at viden er uadskillelig fra de præcise fysiske detaljer i et specifikt stykke hardware, får vi to store fordele: (1) Vi kan bruge meget lav effekt analog beregning, (2) Vi kan dyrke hardware, hvis præcise forbindelse og analoge adfærd er ukendt."

En del af den samme foredrag og også som indeholdt i hans preprint-forskningspapir er en foreslået teknik til, hvordan ANN'er bedre kan udformes, som han refererer til som at bruge en frem-frem netværkstilgang. Nogle af jer, der er fortrolige med ANN'er, er utvivlsomt allerede ret klar over brugen af ​​backpropagation eller back-prop. Du vil måske tage et kig på hans foreslåede frem-frem-teknik. Jeg vil dække denne fascinerende tilgang i en fremtidig klummepost, så hold øje med min kommende dækning om det.

Skifter gear, lad os overveje, hvad der bliver sagt i gangene og forgangene i AI-samfundet om dette bramfrit dødelig computer maskineri.

Vi starter med, hvad nogle ville sige er en ikke-starter om emnet alt sammen.

Er du klar?

Lad være med at kalde denne ting for en dødelig computer.

Ligeledes skal du stoppe med at proklamere, at nutidens konventionelle computere er udødelig.

Begge anvendelser er simpelthen forkerte og rigeligt vildledende, formaner skeptikere.

En hverdagsordbogsdefinition af det, der er udødelig, består af noget, der ikke kan dø. Den lever for evigt. For ikke at dø skal man formentlig sige, at selve tingen er i live. Du træder på det forkerte spor for at hævde, at nutidens computere er i live. Ingen fornuftig person ville tilskrive bona fide "levende" egenskaber til moderne computere. De er maskiner. De er ting. De er ikke personer eller dyr eller af en levevilkår.

Hvis du ønsker at strække definitionen af ​​udødelig for at tillade, at vi også refererer til ikke-levende væsener, i så fald vil det ikke-levende væsen tilsyneladende aldrig skulle henfalde og kan ikke uundgåeligt gå i opløsning til støv. Kan du komme med en sådan påstand om nutidens computere? Dette virker udstrakt (sidebemærkning: vi kunne selvfølgelig komme ind i en stor filosofisk diskussion om materiens og eksistensens natur, men lad os ikke gå derhen i dette tilfælde).

Essensen er, at brugen eller nogle ville sige misbrug af ordene "dødelig" og "udødelig" er besynderlig og uopfordret. At tage et almindeligt brugt sprog og genbruge det til andre formål er forvirrende og giver grumsete vand. Du skal være villig til tilsyneladende at rekonceptualisere, hvad dødeligt og udødelig betyder i denne specifikke sammenhæng. Dette bliver problematisk.

Endnu mere foruroligende er det, at disse ordvalg har en tendens til at antropomorfisere computeraspekterne.

Der er allerede mere end nok problemer forbundet med antropomorfisering af AI, vi behøver bestemt ikke at finde på flere sådanne muligheder. Som jeg grundigt har diskuteret i min dækning af AI-etik og etisk AI, er der alle mulige vilde måder, hvorpå folk tilskriver computere sansende kapaciteter. Til gengæld vildleder dette folk til fejlagtigt at tro, at AI-baserede computere kan tænke og handle, som mennesker gør. Det er en glidebane af fare, når samfundet bliver lullet til at tro, at nutidens AI og computing er på niveau med menneskehedens intellekt og sunde fornuft, se for eksempel min analyse på linket her , linket her.

Okay, vi kan afvise eller have foragt for de akavede formuleringsvalg, men tyder det på, at vi skal smide barnet ud med badevandet (et gammelt udtryk, der formentlig nærmer sig pensionering)?

Nogle hævder, at vi måske kan finde en bedre formulering af denne overordnede tilgang eller opfattelse. Kassér brugen af ​​"dødelig" og "udødelig", så resten af ​​ideerne ikke er plettet af upassende eller ukorrekt brug. I mellemtiden er der modargumenter for, at det er helt acceptabelt at bruge disse ordvalg, enten fordi de er passende, eller fordi vi ikke bør være ufleksible med hensyn til, hvordan vi vælger at genbruge ord. En rose er en rose ved et hvilket som helst andet navn, erklærer de.

For at undgå yderligere hård debat heri, vil jeg fremover undgå at bruge ordene "dødelig" og "udødelig" og vil blot sige, at vi har to hovedtyper af computere, der bliver fløjtet rundt, en som er en konventionel digital computer i dag og andet er et foreslået neuromorfisk computer.

Ingen grund til at trække dødeligheden ind i dette, ser det ud til. Hold himlen klar for at se, hvad vi ellers kan gøre af sagen ved hånden.

I så fald vil nogle hævde, at den foreslåede idé om en neuromorf computer ikke er noget nyt.

Du kan spore tilbage til de tidligere dage med AI, især da ANN'er oprindeligt blev udforsket, og se, at der var tale om at udtænke specialiserede computere til at udføre arbejdet med kunstige neurale netværk. Alle former for ny hardware blev foreslået. Dette sker stadig den dag i dag. Selvfølgelig kan du argumentere for, at det meste af nutidens udforskning af specialiseret hardware til ANN'er og maskinlæring stadig er baseret på den konventionelle tilgang til databehandling. I den forstand skubber denne analoge uadskillelighed af hardware og software noget, og forslaget om at "vokse" computeren gør det også, i det mindste med hensyn til at gå uden for den betragtede mainstream.

Kort sagt er der nogle, der er fuldt ud gennemsyret af disse sager, og som er overraskede over, at nogen andre kunne blive overrasket over de forslag, der flyder. Disse forestillinger er enten de samme som før eller afspejler det, der allerede undersøges i forskellige forskningslaboratorier.

Få ikke dit hår i ballade, siger de.

Dette fører os til en anden facet, som er generende for mange.

Med ét ord: Forudsigelighed.

Nutidens computere anses generelt for at være forudsigelige. Du kan tage et kig på hardwaren og softwaren for at finde ud af, hvad computeren skal gøre. Ligeledes kan du spore, hvad en computer allerede har gjort for at finde ud af, hvorfor den gjorde, hvad den end gjorde. Der er selvfølgelig grænser for at gøre dette, derfor vil jeg ikke overdrive forudsigeligheden, men jeg tror, ​​du forstår ideen generelt.

Du er måske klar over, at et af de vanskelige problemer, som AI står over for i dag, er, at noget AI er udtænkt til at være selvjusterende. Den AI, som udviklere sætter på plads, kan ændre sig selv, mens den bliver brugt. Inden for AI-etikken er der adskillige eksempler på AI, der blev taget i brug, som i første omgang ikke havde unødige skævheder eller diskriminerende tendenser, som derefter gradvist blev selvmuteret ved beregning i løbet af den tid, hvor AI'en var i produktion, se min detaljerede vurderinger kl linket her.

Bekymringen er, at vi allerede går ind i en indstilling, der involverer AI, som ikke nødvendigvis er forudsigelig.

Antag, at AI til våbensystemer gennemgår selvjusteringer, og resultatet er, at AI'en bevæbner og affyrer dødelige våben på mål og tidspunkter, som ikke forventes. Mennesker er måske ikke i gang med at stoppe AI. Mennesker, der er i løkken, er muligvis ikke i stand til at reagere hurtigt nok til at overhale AI-handlingerne. For yderligere skræmmende eksempler, se min analyse på linket her.

For neuromorfe computere er bekymringen, at vi sætter uforudsigelighed på steroider. Fra starten kan essensen af ​​en neuromorf computer være, at den fungerer på en måde, der trodser forudsigelser. Vi praler med uforudsigelighed. Det bliver et hæderstegn.

Der findes to lejre.

En lejr siger, at vi kan leve med de ubehagelige uforudsigelighedsbekymringer ved at sætte autoværn for at forhindre AI i at gå en bro for langt. Den anden lejr hævder, at du fører verden ned ad en farlig vej. Den dag vil opstå, at de påståede autoværn enten svigter, eller de ikke er stramme nok, eller at autoværnet ved et uheld eller i ond hensigt bliver fjernet eller rodet med.

Skal vi vifte væk betænkelighederne omkring neuromorfe computere og forudsigelighed?

Ifølge forskerens bemærkninger: "Blandt de mennesker, der er interesseret i analog beregning, er der stadig meget få, der er villige til at opgive udødelighed." Ydermere: "Hvis du vil have din analoge hardware til at gøre det samme hver gang... Du har et reelt problem med alle disse herreløse elektriske ting og sådan noget."

Jeg vil skrue op for det her.

Et truende og lidt dystert perspektiv er, at den såkaldte forudsigelighed forbundet med nutidens digitale computere alligevel går i retning af uforudsigelighed. Som nævnt kan dette især ske per AI, der selv justerer på konventionelle computerplatforme. Bare fordi de neuromorfe computere kan være tilsyneladende uforudsigelige, er det ikke et tegn på, at konventionelle digitale computere faktisk er forudsigelige.

Uforudsigelighedens damptromler kommer til os, fuld damp, uanset hvilken computerplatform du ønsker at vælge. For min vurdering af de seneste bestræbelser på at forsøge at opnå AI-sikkerhed i dette lys, se linket her.

Denne drejning om forudsigelighed burde få dit sind til at snurre på noget af en udgravet natur. Det kan de af jer, der er involveret i AI-etik og AI-lovgivning ikke har overvejet konsekvenserne af neuromorfe computere.

Du har sandsynligvis sigtet mod konventionelle digitale computere, der kører AI. Nå, gæt hvad, du har et helt ekstra og fremvoksende segment af AI-databehandling, som du nu kan blive oppe og bekymre dig om om natten. Ja, neuromorfe computere. Sæt det på din huskeliste.

Beklager, flere søvnløse nætter til dig.

Lad os kort overveje, hvad AI Ethics og AI Law har gjort ved konventionel digital computing og AI.

I tidligere spalter har jeg dækket de forskellige nationale og internationale bestræbelser på at udarbejde og vedtage love, der regulerer AI, se linket her, for eksempel. Jeg har også dækket de forskellige AI-etiske principper og retningslinjer, som forskellige nationer har identificeret og vedtaget, herunder f.eks. FN-indsatsen såsom UNESCO-sættet af AI-etik, som næsten 200 lande har vedtaget, se linket her.

Her er en nyttig keystone-liste over etiske AI-kriterier eller karakteristika vedrørende AI-systemer, som jeg tidligere har udforsket nøje:

• Gennemsigtighed
• Retfærdighed og Retfærdighed
• Ikke-ondskab
• Ansvarlighed
• Privatliv
• godgørenhed
• Frihed & Autonomi
• Stol
• Bæredygtighed
• Værdighed
• Solidaritet

Disse AI-etiske principper formodes oprigtigt at blive brugt af AI-udviklere, sammen med dem, der styrer AI-udviklingsindsatsen, og endda dem, der i sidste ende udfører og udfører vedligeholdelse på AI-systemer.

Alle interessenter gennem hele AI-livscyklussen for udvikling og brug betragtes inden for rammerne af at overholde de etablerede normer for etisk AI. Dette er et vigtigt højdepunkt, da den sædvanlige antagelse er, at "kun kodere" eller dem, der programmerer AI'en, er underlagt AI-etikkens begreber. Som tidligere understreget heri, kræver det en landsby at udtænke og udforme AI, og som hele landsbyen skal være fortrolig med og overholde AI-etiske forskrifter.

Den del af dette, som du måske ikke tidligere har tænkt meget over, er, hvordan de samme AI-etiske forskrifter og den spirende liste over nye AI-love vil gælde for neuromorfe computere. For at præcisere, skal AI-etik og AI-lov faktisk tage eksplicit i betragtning. Jeg påpeger, at få gør det, og vær opmærksom på, at der er en sandsynlighed for, at fremkomsten af ​​neuromorfe computere vil kaste mange for en løkke i form af en ny dimension for at forsøge at regere i AI.

Vi er nødt til at overveje etiske AI- og AI-love på en bred nok måde til at omfatte alt, hvad AI er nyudviklet, inklusive neuromorfe computere.

Vippealternativet er en klassisk kat-og-mus-gambit. Sådan går det. Nye måder at skabe kunstig intelligens på er udtænkt og bygget. Eksisterende AI-etik og AI-love er overrumplet og omfatter ikke fuldt ud de seneste AI-skoldheder. Der gøres en forhastet indsats for at opdatere etiske AI-forskrifter og ændre de nyudviklede AI-love.

Skum, skyl, gentag.

Det ville være bedre for os alle at være på forkant med kampen i stedet for at blive fanget bag otte-bolden.

Konklusion

Jeg har taget dig med på en lille rejse.

I starten foreslog jeg, at der ville være to hovedemner, der skulle undersøges:

1) Integralt sammenbinding af både hardware og software til AI-mekaniseringer i stedet for at have dem som adskilte og separate allierede

2) Overførsel eller destillering af maskinlæringsformuleringer fra én kunstig intelligens-model til en anden, der gør det uden at kræve eller nødvendigvis ønske (eller endda på anden måde muligt) en ligefrem fuld renracet kopiering

Det første emne om sammenbinding af hardware og software har været hovedparten af ​​rejsen heri. Dette førte os ind i det dødelige versus udødelige computermorads. Heraf var der nogle afgørende overvejelser om AI-etik og AI-lovgivning, som ellers normalt ikke ville blive taget op, da denne type computerrelateret emne af nogle sædvanligvis opfattes som et rent teknologisk, snarere end at medføre nogen samfundsmæssige konsekvenser.

Jeg siger, at det er klogest at være før og sikrere, snarere end senere og dårligere stillet, når det kommer til at bringe etisk kunstig intelligens og kunstig intelligens op.

Det andet emne, som jeg endnu ikke har formuleret heri, relaterer sig materielt til det første emne.

Her er aftalen.

Antag, at vi har en "dødelig computer", og vi ønsker at bevare mulighederne, så vi er i stand til at have en sikkerhedskopi eller tilsyneladende kopier af, hvad AI'en indeholder. Vi kan være bekymrede for, at en bestemt dødelig computer nærmer sig sin afslutning. Yikes, vi er afhængige af det. Hvad skal vi gøre? Et svar er, at vi burde kopiere det forbandede.

Men at kopiere en neuromorf computer af den slags, der er skitseret, vil være sværere, end det kan se ud ved første øjekast. Ting kan blive vanskelige.

Måske skulle vi finde på et kopieringstrick, der vil være generaliserbart og anvendeligt til omstændigheder, der involverer maskinlæring og kunstige neurale netværk. Vi ønsker, at dette skal virke på store og ekstremt store instanser. Vi ville også være villige til, at kopien ikke var en nøjagtig duplikat, og i stedet kunne være i det væsentlige ækvivalent eller måske endda bedre udtænkt som et resultat af kopieringshandlingen.

En teknik kendt som destillation er blevet foreslået.

Jeg er løbet tør for plads til dagens klumme, så jeg vil tage dette andet emne op i en kommende klumme. Jeg regnede med, at du gerne ville vide om forholdet med det samme mellem det andet emne og det første emne, som var omfattende dækket heri. Tænk på dette som en tilføjet note, der fungerer som en teaser eller trailer for, hvad der kommer næste gang.

Bliv på kanten af ​​dit sæde, da destillationsemnet er en ret god standout.

Som Batman plejede at sige, hold dine flagermus-vinger i kryds og vær klar til den samme bat-tid og bat-kanal, hvor det irriterende spørgsmål om, hvordan man kopierer en ANN- eller maskinlæringsmodel eller neuromorf computer til en anden, kan optrevle.

En sidste bemærkning for nu. Der er en berømt linje i filmen Den mørke ridder vender tilbage hvori vores kappede korsfarer siger dette: "Verden giver kun mening, hvis du tvinger den til det." Jeg vil prøve at holde fast ved det ideal, når jeg dækker det andet emne om AI-relateret destillation.

Hold øje med del 2 af denne spændende og fængslende dobbelt-header.