Den australske regering lancerer høring for at vurdere forbuddet mod "højrisiko" AI - Cryptopolitan

Den australske regering har indledt en uventet otte ugers konsultationsperiode med det formål at afgøre, om visse "højrisiko"-værktøjer til kunstig intelligens (AI) skal forbydes. Dette skridt følger lignende foranstaltninger truffet af andre regioner, herunder USA, EU og Kina, for at imødegå de risici, der er forbundet med hurtig AI-udvikling.

Den 1. juni afslørede industri- og videnskabsminister Ed Husic to papirer til offentlig gennemgang: et om "Sikker og ansvarlig AI i Australien" og en anden om generativ AI fra National Science and Technology Council. Disse papirer blev udgivet sammen med en høringsperiode, der vil forblive åben indtil den 26. juli.

Den australske regering søger feedback om strategier til at fremme "sikker og ansvarlig brug af kunstig intelligens", og udforsker muligheder såsom frivillige etiske rammer, specifikke regler eller en kombination af begge tilgange. Navnlig spørger høringen direkte, om visse højrisiko AI-applikationer eller -teknologier skal forbydes fuldstændigt, og søger input til kriterierne for at identificere sådanne værktøjer.

Det omfattende debatoplæg inkluderer et udkast til risikomatrix for AI-modeller, der kategoriserer selvkørende biler som "høj risiko" og generative AI-værktøjer til at oprette medicinske patientjournaler som "medium risiko." Dokumentet understreger både de positive anvendelser af AI i sektorer som medicin, teknik og jura, såvel som de potentielle skader forbundet med deepfake-værktøjer, falske nyhedsgenerering og tilfælde, hvor AI-bots har tilskyndet til selvskade.

Australsk regering vs AI

Bekymringer vedrørende skævhed i AI-modeller såvel som generering af meningsløs eller falsk information kendt som "hallucinationer" af AI-systemer er også behandlet i diskussionsoplægget. Den anerkender, at AI-adoption i Australien i øjeblikket er begrænset på grund af lavt niveau af offentlig tillid. Papiret henviser til AI-regler implementeret i andre jurisdiktioner og Italiens midlertidige forbud mod ChatGPT som eksempler.

Derudover fremhæver National Science and Technology Council-rapporten Australiens fordelagtige evner inden for robotteknologi og computersyn, men bemærker relative svagheder i kerneområder som store sprogmodeller. Det vækker bekymring over koncentrationen af ​​generative AI-ressourcer i et lille antal overvejende USA-baserede teknologivirksomheder, hvilket udgør potentielle risici for Australien.

Rapporten udforsker yderligere global AI-regulering, giver eksempler på generative AI-modeller og foreslår, at sådanne modeller sandsynligvis vil have vidtrækkende indvirkninger på sektorer lige fra bank og finans til offentlige tjenester, uddannelse og kreative industrier.