Årsagerne til at regulere AI-algoritmer er enklere, end du tror

Er du bekymret for, at kunstig intelligens vil overtage verden? Mange gør. Fra Elon Musk bekymre sig om DeepMind slår mennesker i det avancerede spil Go i 2017 til medlemmer af Kongressen, europæiske politiske beslutningstagere (se En europæisk tilgang til kunstig intelligens), og akademikere, er der en følelse af, at dette er årtiet til at tage AI seriøst, og det er ved at tage fat. Dog ikke af de grunde, du måske tror, ​​og ikke på grund af nogen nuværende trussel.

Det er her algoritmer kommer ind i billedet. Hvad er en algoritme, spørger du måske? Den enkleste måde at tænke på det er som et sæt instruktioner, som maskiner kan forstå og lære af. Vi kan allerede nu instruere en maskine til at beregne, behandle data og ræsonnere på en struktureret, automatiseret måde. Men problemet er, at når først nævnte instruktioner er givet, vil maskinen følge dem. For nu er det meningen. I modsætning til mennesker følger maskiner instruktioner. De lærer ikke så godt. Men når de først gør det, kan de skabe problemer.

Jeg ønsker ikke at komme med et sensationelt argument om ideen om, at computere en dag overgår menneskelig intelligens, bedre kendt som singularitetsargumentet (se NYU-filosof David Chalmers' overvejelser om emnet.) Fremstilling kan snarere være det bedste eksempel på, hvorfor AI-algoritmer begynder at betyde mere for den brede offentlighed. Man frygter, at maskiner vil accelerere deres dygtighed voldsomt på vores bekostning. Ikke nødvendigvis af et avanceret ræsonnement, men på grund af optimeringen inden for grænserne af, hvad en algoritme siger.

Fremstilling handler om at lave ting. Men når maskiner laver ting, skal vi være opmærksomme. Også selvom det, maskinerne laver, er enkelt. Jeg vil forklare hvorfor.

Fra regnstøvler til mobiltelefoner og tilbage

Lad os sige, en fabrik har lavet regnstøvler. Jeg elsker regnstøvler, fordi jeg er vokset op i et område i Norge, hvor det regner meget; Jeg elsker at være udenfor, underlagt naturens mange elementer. Nokia lavede de regnstøvler, jeg voksede op med. Ja, den Nokia, vi kender i dag som elektronikvirksomheden, plejede at lave gummistøvler. Hvorfor er denne nøgle? For når du først laver noget, er du bestemt til at ville lave forbedringer. Det giver mening. Man kan sige, at det er den menneskelige natur.

Hvad der skete med Nokia er velkendt og går lidt sådan her: Oprindeligt en papirfabrik, da jeg var barn, var fremstilling af gummistøvler (og dæk) særlig succesfuld for virksomheden. De så dog flere muligheder. Derfor skiftede de på et tidspunkt i 1980'erne til elektronik og ændrede hurtigt fabrikkerne rundt og byggede en stor struktur af lokale leverandører, da de begyndte at fremstille mobiltelefoner. Dette indledte den mobile kommunikationsrevolution, som startede i Skandinavien og spredte sig til resten af ​​verden. Forståeligt nok har mange skrevet historien om Nokia i 1990'erne (se Hemmeligheder bag det finske mirakel: Nokias opståen).

Mit eksempel er ligetil. Måske for simpelt. Men tænk på det på denne måde. Hvis en stor virksomhed hurtigt kan gå fra at lave papir til at skrive på, til støvler, der gør det nemmere at være ude i regnen, så endelig til mobiltelefoner, der ændrer den måde, mennesker kommunikerer på: hvor nemt vil det næste skridt være? Antag, at en virksomhed, der fremstiller mobiltelefoner, beslutter sig for at lave nanobots, og måske dem, der tager fart om et årti, og ændrer menneskeheden med små maskiner, der autonomt kører rundt overalt og er i stand til at samle og ændre den menneskelige oplevelse igen. Hvad hvis det sker uden at overveje, hvordan vi vil have det til at ske, hvem vi vil have ansvaret for, og de endelige mål?

At foreslå, at robotter bevidst hjalp Nokia med at beslutte at lave mobiltelefoner, ville være en strækning. Men at anerkende, at teknologien havde en rolle i at tillade et finsk landområde på dets nordlige kyst at tro, at de kunne opnå verdensherredømme i en ny industri, spiller en væsentlig rolle.

Nokias historie har ikke været så rosenrød i det seneste årti, da de undlod at tage højde for fremkomsten af ​​softwarebaserede iOS- og Android-operativsystemer. Som et resultat heraf laver Nokia ikke længere telefoner. I lidt af en comeback-historie laver de nu netværks- og telekommunikationsinfrastruktur, netværkssikkerhedsløsninger, Wi-Fi-routere, smart belysning og smart-tv'er (se Nokias comeback-historie). Nokia laver stadig ting, det er sandt. Den eneste observation at gøre er, at Nokia altid synes at nyde at blande de ting, de laver. Selv menneskers fremstillingsbeslutninger er til tider svære at forstå.

Fremstilling betyder at få ting og ting til at udvikle sig. Overordnet set har det, vi laver i dag, ændret sig fra for blot ti år siden. 3D-printere har decentraliseret produktion af mange avancerede produkter, både i industrien og hjemmet. De livsændrende konsekvenser af 3D-print er endnu ikke indtruffet. Vi ved ikke, om dette vil vare, men vi ved, at FDA's fokus er på at regulere fremstillingen af ​​produkter (se link.) som de trykte piller eller medicinsk udstyr, der følger, de åbenlyse problemer med intellektuel ejendomsret og ansvar eller problemerne omkring at kunne udskrive skydevåben. I sidste ende er den politiske diskussion om, hvilke negative konsekvenser 3D-printning kan have ud over dette, ikke-eksisterende, og de færreste af os har gidet at tænke over det.

Jeg antyder ikke, at 3D-print er farligt i sig selv. Måske er dette et dårligt eksempel. Ikke desto mindre kan ting, der i begyndelsen ser hverdagsagtige ud, ændre verden. Der er masser af eksempler: jægeren/samlerens pilespids lavet af metal, der starter krige, rituelle masker, der beskytter os mod COVID-19, søm, der bygger skyskrabere, bevægelige trykpresser, der (stadig) fylder vores fabrikker med trykt papir og driver forlagsvirksomhed, lyspærer, som gør, at du kan se og arbejde indenfor om natten, kunne jeg blive ved. Ingen, jeg kender, satte sig i slutningen af ​​1800-tallet og forudsagde, at Nokia ville flytte sin produktion fra papir til gummi til elektronik og derefter væk fra mobiltelefoner. Det burde de måske have.

Mennesker er dårlige forudsigere for trinskifte, den proces, hvor en ændring fører til flere forandringer, og pludselig er tingene radikalt anderledes. Vi forstår endnu ikke denne proces, fordi vi har ringe praktisk viden om eksponentiel forandring; vi kan ikke forestille os det, beregne det eller fatte det. Men gang på gang rammer det os. Pandemier, befolkningstilvækst, teknologisk innovation fra bogtryk til robotteknologi, det rammer os typisk uden varsel.

Tricket med futurisme er ikke hvis, men hvornår. Man kan faktisk være i stand til at forudsige forandringer blot ved at vælge nogle nye produktionsmetoder og sige, at de vil blive mere udbredte i fremtiden. Det er simpelt nok. Den vanskelige del er at finde ud af præcis hvornår og især hvordan.

Papirclips er ikke problemet

Overvej mit fabrikseksempel igen, men forestil dig denne gang, at maskinerne er ansvarlige for adskillige beslutninger, ikke alle beslutninger, men produktionsbeslutninger som optimering. I hans bog superintelligens, Oxford Universitys dystopiske humanist Nick Bostrom forestillede sig en berømt AI-optimeringsalgoritme, der driver en papirclipsfabrik. På et tidspunkt, siger han, skal du forestille dig, at maskinens årsager til, at det at lære at omdirigere stadigt stigende ressourcer til opgaven er rationelt, og ender med gradvist at omdanne vores verden til papirklip og modstå vores forsøg på at slukke den.

På trods af at han er en smart fyr, er Bostroms eksempel ret dumt og vildledende (endnu mindeværdigt). For det første undlader han at redegøre for det faktum, at mennesker og robotter ikke længere er separate enheder. Vi interagerer. De fleste kloge robotter udvikler sig til cobots eller kollaborative robotter. Mennesker vil have mange chancer for at rette maskinen. Alligevel består hans grundlæggende pointe. Der kan være en trinændring på et tidspunkt, og hvis den ændring sker hurtigt nok og uden tilstrækkeligt tilsyn, kan kontrollen gå tabt. Men det ekstreme resultat virker lidt langt ude. Uanset hvad, jeg er enig, er vi nødt til at regulere de mennesker, der betjener disse maskiner, og påbyde, at arbejderne altid er i løkken ved at træne dem på passende vis. Den form for træning går ikke godt. Det tager i øjeblikket for lang tid, og det kræver specialkompetencer både at træne og at blive trænet. Jeg ved én ting. I fremtiden vil alle slags mennesker betjene robotter. De, der ikke gør det, vil være ret magtesløse.

At styrke mennesker er bedre end tankeløs automatisering, uanset om vi aldrig fusionerer helt med maskiner. De to begreber er logisk adskilte. Det er muligt for både mennesker og robotter at sidde fast ved at automatisere for automatiseringens skyld. Det ville gøre stor skade på produktionen fremover. Også selvom det ikke producerer dræberrobotter. Jeg tror på, at en fusion er hundreder af år væk, men det er ikke meningen. Selvom det kun er tredive år væk, de selvkørende maskiner, der opererer på forenklede algoritmer, der mister kontrollen, sker det scenarie allerede på værkstedet. Nogle af disse maskiner er tredive år gamle og kører på gamle, proprietære kontrolsystemer. Deres største udfordring er ikke, at de er avancerede, men det modsatte. De er for enkle til at kunne kommunikere. Dette er ikke et problem for i morgen. Det er et allerede eksisterende problem. Vi skal åbne øjnene for det. Tænk over dette, næste gang du træder i dine gummistøvler.

Jeg har stadig mine Nokia-støvler fra 1980'erne. De har et hul i dem, men jeg gemmer dem for at minde mig selv om, hvor jeg er fra, og hvor langt jeg har gået. Regn bliver også ved med at falde, og så længe det er rent nok, vil jeg ikke have en bedre løsning på det end de støvler. Så igen, jeg er et menneske. En robot ville formodentlig allerede være gået videre. Hvad er AI-versionen af ​​regnstøvler, spekulerer jeg på. Det er ikke en mobiltelefon. Det er ikke en regnsensor. Det forvirrer sindet.

Digitale støvler betyder i dag, at du kan personliggøre dem, fordi de har 3D-printede designs på dem. Der er virtuelle sko, der kun eksisterer som NFT'er (non-fungible tokens), der kan sælges og handles. De bedste virtuelle sneakers er værd $10,000 i disse dage (se Hvad er en NFT Sneaker, og hvorfor er den $10,000 værd?). Jeg er ikke bange for dem, men burde jeg være det? Hvis den virtuelle verden bliver værdsat mere end den fysiske verden, vil jeg måske. Eller skal jeg vente med at være bekymret, indtil en AIs egen avatar køber sin egen NFT-støvle for at tackle "regnen"? Hvis vi bygger algoritmer i vores eget image, er det mere sandsynligt, at en AI ville være god til ting, vi ville ønske, vi var gode til, men som typisk ikke er, såsom at købe aktier, opbygge loyale venskaber (måske med både maskiner og mennesker) og huske ting. Den industrielle metavers kan være overraskende sofistikeret – fuld af digitale tvillinger, der efterligner vores verden og overgår den på frugtbare måder – eller det kan være chokerende simpelt. Måske begge dele. Vi ved det bare ikke endnu.

Vi er nødt til at regulere AI-algoritmer, fordi vi ikke ved, hvad der er rundt om hjørnet. Det er grund nok, men hvordan vi gør det, er det en længere historie. Tillad mig endnu en hurtig observation, måske burde alle grundlæggende algoritmer gøres offentligt tilgængelige. Årsagen er, hvis ikke, er der ingen måde at vide, hvad de kan føre til. De øverste er ret velkendte (se Top 10 Machine Learning Algoritmer), men der er ingen verdensomspændende oversigt over, hvor og hvordan de vil blive brugt. Det er især de uovervågede algoritmer, der skal overvåges nøje (se Seks kraftfulde Use Cases til Machine Learning i fremstilling), uanset om de bruges til at forudsige vedligeholdelse eller kvalitet, til at simulere produktionsmiljøer (f.eks. digitale tvillinger) eller til at generere nye designs, som et menneske aldrig ville komme i tanke om. I nutidens landskab er disse uovervågede algoritmer typisk såkaldte kunstige neurale netværk, der forsøger at efterligne den menneskelige hjerne.

Jeg er begyndt at bekymre mig om neurale net, kun fordi jeg har svært ved at forstå deres logik. Problemet er, at de fleste eksperter, selv dem, der implementerer dem, ikke forstår, hvordan disse algoritmer bevæger sig fra trin til trin eller lag til lag. Jeg synes ikke, at metaforen om "skjulte lag", som ofte bruges, er særlig rammende eller meget sjov. Der bør ikke være nogen skjulte lag i fremstilling, i automatiseret skatteopkrævning, i ansættelsesbeslutninger eller i universitetsoptagelser, for det første. Måske du også skulle overveje at blive bekymret? En ting er sikkert, mennesker og maskiner, der laver ting sammen, vil ændre verden. Det har det allerede, mange gange. Fra papir til regnstøvler og lagene af nutidens kunstige hjerner, intet bør efterlades uudforsket. Vi skal ikke lægge skjul på det simple faktum, at der fra mange små ændringer pludselig kan opstå en større forandring.