Rasende bekymringer over, at generativ AI ChatGPT ansporer studerende til i høj grad at snyde, når de skriver essays, afføder tryllebundet opmærksomhed for AI-etik og AI-love

Er det skrevne essay af nutidige studerende en aldrig mere?

Går den angstfyldte studentereksamen febrilsk ud af vinduet?

Det er den brouhaha, der for nylig er brudt ud i en total tumult. Du kan se, udseendet af en AI-app kendt som ChatGPT har fået meget opmærksomhed og lige så stor vrede. For min omfattende dækning af ChatGPT, se linket her. For min løbende og omfattende dækning af AI-etik og AI-lovgivning, se linket her , linket her, For blot at nævne nogle få.

Kernen i hylende og brølende er, at denne form for kunstig intelligens, der typisk omtales som generativ AI, vil være dødsstødet for at bede eleverne om at lave opgaver i essaystil.

Hvorfor det?

Fordi det seneste inden for generativ AI er i stand til at producere tilsyneladende flydende essays ved blot at indtaste en simpel prompt. Hvis du indtaster en linje som "Fortæl mig om Abraham Lincoln", vil AI generere et essay om Lincolns liv og tider, som ofte er godt nok til at forveksles med at være skrevet helt og udelukkende af menneskehænder. Desuden, og her er den rigtige kicker, vil essayet ikke være en duplikat eller mærkbar kopi af noget andet, der allerede er skrevet om det samme emne. Det essay, der producerer, vil i det væsentlige være en "original", så vidt enhver tilfældig inspektion ville konstatere.

En studerende, der står over for en skriveopgave, kan blot påberåbe sig en af ​​disse generative AI-apps, indtaste en prompt, og voila, hele deres essay er skrevet til dem. De skal kun klippe og indsætte den automatisk genererede tekst i et tomt dokument, smække deres navn og klasseoplysninger i det, og med lidt af en ret modig bravader gå videre og vende det ind som deres eget arbejde.

Chancerne for, at en lærer kan pirre ud, at essayet er skrevet af AI og ikke af eleven, er næsten lig nul.

Skandaløst!

Overskrifter har hastigt forkyndt, at vi har nået den bitre ende med at lade eleverne skrive essays eller i det væsentlige lave enhver form for skriveopgaver uden for klassen. Det eneste middel til at klare situationen ser ud til at være at gøre brug af essayskrivning i klassen. Når eleverne er i et kontrolleret miljø som et klasseværelse og antager, at de ikke har adgang til bærbare computere eller deres smartphones, vil de finde sig selv begrænset til at skrive essays på den gammeldags måde.

For at præcisere, betyder den gammeldags måde, at de bliver nødt til at skrive udelukkende ved at bruge deres egne noggins.

Enhver form for essay udført uden for klasseværelset vil straks blive mistænkt. Skrev eleven essayet, eller gjorde en AI-app det? Som nævnt vil essayet være så velskrevet, at du ikke uden videre kan opdage, at det er skrevet af en maskine. Stavemåden vil være upåklagelig. Syntaksen vil være enorm. Diskurslinjen og potentielle coachede argumenter vil være overbevisende.

For pokker, på en måde kan du foreslå, at den generative AI vil vælte sin ordsprogede hånd ved at lave et essay, der ligger uden for den studerendes evner, der vælger at tage denne uhyggelige vej. En lærer kan blive mistænksom, simpelthen fordi essayet er lidt for godt. En kyndig lærer ville være fristet til at gætte på, at eleven ikke kunne have skrevet en så elegant og lufttæt prosa. Interne alarmklokker begynder at ringe.

Selvfølgelig vil det være grimt at udfordre en studerende om deres essay og kan have negative konsekvenser.

Antag, at eleven omhyggeligt skrev essayet, helt alene. De har måske dobbelt- og tredoblet det. Der er også en chance for, at de måske har fået en ven eller en bekendt til at kigge for at se noget, der trænger til ekstra polering. Alt i alt er det stadig deres essay som skrevet af dem. Forestil dig, at en lærer stiller denne seriøse og flittige studerende skarpe spørgsmål om essayet. Forlegenheden og ærgrelsen over i det væsentlige at blive anklaget for snyd er til at tage og føle på, selvom læreren ikke fremsætter en sådan påstand højt. Selve konfrontationen er nok til at undergrave elevens agtelse og få dem til at føle sig falsk bagvasket.

Nogle insisterer på, at enhver lærer med mistanke om forfatterskabet til et essay burde bede eleven om at forklare, hvad de skrev. Formodentlig, hvis essayet er skrevet af den studerende, kan den pågældende studerende forklare det tilstrækkeligt. Lærere har lavet denne form for undersøgelser i evigheder. En studerende kan have fået en anden studerende til at skrive deres essay for dem. Eleven kan have fået en forælder til at skrive deres essay. I dagens verden kan den studerende betale nogen på tværs af internettet for i hemmelighed at skrive deres essay på deres vegne.

Det er således sædvanligt at bede en elev om at verificere forfatterskabet via en forespørgsel i klasseværelset og ikke en big deal.

Jeg er glad for, at du tog det op.

At forsøge at grille en elev mildt eller beviseligt er ikke helt så ligetil en lakmustest, som man skulle tro. Den studerende kunne have nærstuderet det AI-producerede essay og gjort sig klar til en potentiel afhøring.

Tænk på det på denne måde. Den studerende genererer først essayet med blot et tryk på en knap. Den studerende bruger derefter masser af tid, som de ville have brugt på at skrive essayet i stedet for omhyggeligt at undersøge og studere essayet. Efter et stykke tid er ordene næsten fuldstændig forpligtet til hukommelsen. Den studerende narrer næsten sig selv til at tro, at de faktisk skrev essayet. Denne antydning af selvtillid og bevidsthed kunne let få dem gennem lærerstyret undersøgelse.

Aha, nogle siger med lidt af et modspil til frygten for generative AI-apps, bemærk, at eleven faktisk "lærte" noget ved at have genereret essayet. Sikker på, at den studerende ikke gjorde benarbejdet for at undersøge emnet, og de komponerede heller ikke essayet, men ikke desto mindre, hvis de omhyggeligt studerede essayet, ser det ud til at vise, at de har lært om det tildelte emne. Den studerende, der forpligter sig til at lære essayet om Lincoln udenad, har formentlig lært noget væsentligt om Lincoln.

Læring er sket.

Hov, lyder replikken, opgaven var sandsynligvis en todelt proces. At lære om Lincoln kunne have været relativt sekundært. Det egentlige formål var at få eleven til at lære at skrive. Denne væsentlige del af opgaven er blevet fuldstændig undergravet. Lærere tildeler ofte åbne emner og sigter egentlig bare efter, at eleven skal opleve at skrive. Du skal lægge ud, hvad du vil skrive, du skal finde ud af de ord, du vil bruge, du skal sætte ordene ind i et fornuftigt sæt sætninger og afsnit, og så videre. Blot at læse et AI-produceret essay stemmer ikke overens med det grundlæggende aspekt af en essayopgave.

Modkraften til dette er påstanden om, at den studerende potentielt lærer om skrivning ved at undersøge skriften, der produceres af AI, nøje. Studerer vi ikke alle forfatternes stormestre for at se, hvordan de skriver? Vores forfatterskab er et forsøg på at nå folk som Shakespeare og andre store forfattere. At studere det skrevne ord er et gyldigt middel til at indhente, hvordan man skriver.

Som en hård tenniskamp bevæger bolden sig til den anden side af nettet. Selvom det er godt at studere god skrivning, skal du i sidste ende skrive, hvis du vil være i stand til at skrive. Man kan ikke bare læse i det uendelige og så blankt antage, at eleven nu ved, hvordan man skriver. De skal skrive og skrive og blive ved med at skrive, indtil de er i stand til konkret at fremvise og forbedre deres skriveevner.

Kan du se, hvordan det hele er noget af en gåde?

Vær opmærksom på, at der er omkring en zillion eller flere drejninger til alt dette.

Jeg vil dække nogle af de mere geniale og interessante drejninger.

Tuning af essayet via AI-prompting

Efter lige at have nævnt Shakespeare, er her et aspekt af generativ kunstig intelligens, der kan være overraskende for dig. I mange af de generative AI-apps kan du sige noget som dette: "Skriv et essay om Lincoln, som om Shakespeare skrev essayet." AI vil forsøge at generere et essay, der ser ud til at være skrevet på det sprog, der sædvanligvis bruges af Shakespeare i hans skrifter. Det er en ganske sjov og engagerende bedrift at se, og mange får et godt kick ud af dette.

Hvordan hænger dette sammen med den studerende, der "snyder" ved at bruge generativ AI til at skrive deres essays?

I mange generative AI-apps kan du bede AI'en om at skrive på en mindre end fantastisk måde. AI vil forsøge at producere et essay, der er noget groft rundt om kanterne. Der er syntaksproblemer her eller der. Essayets logik kan være nervøs eller let usammenhængende.

Det ville være en smart list. Eleven tager det resulterende essay og afleverer det. Essayet er godt nok til at få en topkarakter, men i mellemtiden ikke så perfekt, at det vækker irritation hos læreren. Endnu en gang har AI gjort alt benarbejdet for den studerende, herunder at gøre essayet noget uperfekt.

Oven i dette giver de fleste af de generative AI-apps dig mulighed for at gøre brug af appen, så meget som du ønsker at gøre det. Her er, hvordan det kommer til at spille. En studerende skriver, at AI-appen skal lave et noget uperfekt essay om Lincoln. Essayet er produceret. Eleven ser på essayet og indser, at det stadig er alt for perfekt. Eleven indtaster en anden prompt, der instruerer AI'en om at gøre ufuldkommenhederne mere udtalte.

Skum, skyl, gentag.

Den studerende bliver ved med at indtaste prompter og inspicere de producerede essays. Dette sker igen og igen. Til sidst får eleven AI til det helt rigtige niveau af ufuldkommenhed i essayet. Goldilocks-versionen er opnået. Det er lige perfekt nok til at få en høj karakter, og lige uperfekt nok til at undgå at vække mistanke.

Jeg er sikker på, at nogle af jer smarmily siger, at hvis den studerende bare havde valgt at skrive det forbandede essay i første omgang, ville de måske have brugt mindre tid eller i det mindste den samme mængde tid på at skrive selve essayet. Al denne energikrævende brug af AI-appen kunne have været rettet mod blot at fortsætte med at skrive essayet.

Nå, husk, det har eleven ikke i tankerne. Nemheden ved at indtaste prompter og iterativt gennemgå og vælge det ønskede essay er bundet til at være meget lettere for den studerende at gøre. En time med at gøre dette er meget mindre besværligt end at skrive essayet direkte. Smarminess i dette tilfælde skal vejes mod virkeligheden.

Hvad sker der, hvis andre studerende gør det samme

Jeg vil vædde på, at du havde denne smarte tanke i tankerne, da du læste den foregående analyse om essays og generative AI-apps, nemlig at eleven uden tvivl vil blive fanget, hvis mange andre studerende gør det samme.

Tillad mig at forklare.

En lærer tildeler hele deres klasse at skrive et essay om Lincoln. Antag, at 90 % af eleverne beslutter sig for at bruge en generativ AI-app til denne opgave. Hvis 90 % virker alt for deprimerende, skal du gå videre og bruge 10 % i stedet. Bare husk på, at efterhånden som eleverne får nys om nytten af ​​generative AI-apps, vil fristelsen til at bruge dem stige.

Okay, så en bemærkelsesværdig procentdel af klassen bruger en generativ AI-app. Du ville antage, at eleverne derfor alle kommer til at aflevere nogenlunde det samme Lincoln-essay. Læreren vil bemærke, når de bedømmer det tredje eller fjerde essay, at essays alle er stort set ens. Dette vil være et stort fingerpeg om, at der er noget galt.

Beklager, men du er næppe så heldig.

De fleste generative AI-apps er meget følsomme over for, hvordan en prompt er særligt sammensat. Hvis jeg skriver "Fortæl mig om Lincoln" versus hvis jeg skriver "Fortæl mig om Lincolns liv", er oddsene, at essaysene bliver væsentligt anderledes. I første omgang fokuserer måske essayet produceret af AI på præsident Lincoln under hans embedsperiode i Det Hvide Hus og udelader noget om hans barndom. Den anden prompt kan producere et essay, der dækker hans fødsel til hans død.

Studerende vil sandsynligvis ikke indtaste præcis, hvad læreren gav dem som opfordring til essayet. Det ville virke fornuftigt, som en snyder, at prøve variationer. Men selvom alle eleverne indtaster nøjagtig den samme prompt, er oddsene ret gode for, at hvert essay vil være noget anderledes end de andre.

Disse AI-apps gør brug af et stort internt fremstillet matematisk og beregningsmæssigt netværk, der dybest set har et bredt matchende mønster på tekst fundet på tværs af internettet. Inkluderet i processen med at generere et essay er en probabilistisk faktor. Det er usandsynligt, at de valgte ord er i samme rækkefølge og nøjagtige ordlyd. Hvert essay genereret vil generelt være anderledes.

Der er dog en hake ved dette. Hvis det valgte emne er ret uklart, er der en chance for, at nogle af de producerede essays vil ligne hinanden. Det ville delvist skyldes, at mønsteret i roden af ​​teksten var tyndt til at starte med. Når det er sagt, kan den måde, hvorpå essayet er komponeret, stadig være helt anderledes. Alt, hvad jeg siger, er, at essensen af ​​indholdet i sig selv potentielt kan være nogenlunde det samme.

Jeg ønsker ikke at virke dyster, men du kan potentielt komme med den samme påstand om et fælles emne som Lincolns liv. Hvor mange forskellige måder kan du uddybe de overordnede aspekter af hans liv? Hvis du på en eller anden måde sikrede eleverne i et aflåst klasseværelse til at skrive om Lincoln og gav dem onlineadgang til at forske i hans liv, tør jeg godt påstå, at chancerne for, at essayene ligner lidt, kunne ske alligevel.

Den gratis og nemme faktor er væsentlig

Hvis en studerende i dag ønsker at snyde ved at betale nogen over internettet for at skrive deres essay, er det meget enkelt at gøre det (jeg håber ikke, det chokerer dig, måske skulle jeg have givet en udløseradvarsel på forhånd).

Problemet er dog, at du skal betale for essayet. Der er også en lille chance for, at du senere kan blive fanget, måske. Brugte du et kreditkort til at betale for essayet? Måske bedre at bruge en form for underjordisk betalingsbehandling for at forsøge at holde dine spor klar.

Skønheden eller måske den irriterende faktor ved generativ AI er, at lige nu er de fleste af dem gratis tilgængelige. Der kræves ingen betaling. Ingen særlig track record af dit brug (nå, for at være klar, AI-appen holder måske styr på din brug, især da mange af AI-apps kræver, at du tilmelder dig med en e-mailadresse, men selvfølgelig kan du også forfalske det ).

Nogle mennesker antager naturligvis, at du skal være en AI-guide for at bruge en generativ AI-app.

Ikke så.

Generelt er generative AI-apps forbavsende enkle at bruge. Du kalder AI-appen. Det giver dig en åben tekstboks, hvor du kan indtaste din prompt. Du indtaster en prompt og trykker på send. AI-appen genererer teksten.

Det handler om det.

Der kræves ingen specialiserede computersprog. Intet kendskab til databaser eller datavidenskab. Jeg forsikrer dig om, at stort set alle børn i skolen let kan bruge en generativ AI-app. Hvis et barn kan skrive, kan de bruge disse apps.

Nogle hævder, at de virksomheder, der leverer de generative AI-apps, først bør verificere brugerens alder, formentlig for at forhindre ikke-voksne i at bruge AI'en til snydeformål, når de skriver essays. Hvis brugeren angiver, at de ikke er en voksen, så lad dem ikke bruge AI-appen. Helt ærligt, det er et usandsynligt forebyggelsesscenarie, medmindre der på en eller anden måde er blevet vedtaget AI-relaterede love, der forsøger at etablere den slags restriktioner. Selvom sådanne love vedtages, kan du sandsynligvis komme uden om dette ved at bruge en generativ AI-app, der er hostet i et andet land osv.

En anden uoverkommelig vinkel ville være, hvis de generative AI-apps koster penge at bruge. Antag, at der var et gebyr pr. transaktion eller et abonnementsgebyr. Dette ville sætte den generative AI-app på niveau med de mennesker på tværs af internettet, der vil skrive et essay til dig, der opkræver dig for at gøre det. Labour ville gå head-to-head med AI (som en sidebemærkning, alt dette tyder på, at mennesker, der for en levende skriver essays for studerende, vil blive erstattet af AI, der gør det samme; spørgsmålet er, om vi skal være kede af det eller glade at de mennesker, der lever af en sådan art, ikke længere vil være i stand til at gøre det på den måde).

Virksomhederne, der laver generative AI-apps, ønsker bestemt at tjene penge på disse apps, selvom det stadig er i luften, hvordan man gør det. Opkrævning af et transaktionsgebyr, abonnementsgebyr eller måske opkrævning pr. genereret ord er alle på bordet. I stedet for at opkræve folk, kan indtægtsgenerering ske ved brug af annoncer. Måske hver gang du bruger en bestemt generativ AI-app, skal du først se en annonce. Det kan være en pengeskaber.

Jeg hader at spilde mælk på dette, men som et middel til at overvinde studentersnyd, bliver det ikke nogen form for sølvkugle. Ikke engang tæt på.

Der er open source-versioner af generativ AI. Folk sætter dem derude, og andre er tilbøjelige til at gøre appen tilgængelig gratis. På den ene eller anden måde, selvom nogle virksomheder opkræver et gebyr, vil du være i stand til at finde varianter, der er gratis at bruge, selvom du måske skal se annoncer eller måske tilmelde dig og give noget information om dig selv væk til markedsføringsformål.

Hjælper Multi-Step dette

En studerende vælger at bruge en generativ AI-app til at producere deres essay.

I stedet for at aflevere essayet med det samme, beslutter den studerende at redigere essayet. De tager velovervejet et par ord ud her. Sæt et par ord der. Flyt en sætning op. Flyt en sætning længere ned. Efter lidt redigering og finpudsning har de nu et essay, som de er klar til at aflevere.

Er dette essay den studerendes arbejde eller er det ikke?

Jeg har bragt dig til million-dollar store ubesvarede uafklarede spørgsmål.

Lad os lave en hurtig baggrund om juridiske rettigheder og krænkelse. Dette er et emne jeg har dækket en del, som f.eks linket her , linket her, for eksempel.

Du ved sandsynligvis allerede noget om ophavsret og hvad der er kendt som intellektuel ejendom (IP). En person, der har en ophavsretligt beskyttet historie, formodes at beholde forskellige juridiske rettigheder forbundet med den historie. De har ikke et helt jernbeklædt altomfattende udseende af juridiske rettigheder. Der er undtagelser og undtagelser.

Et af de sværeste problemer med at krænke nogens ophavsretligt beskyttede materiale er, hvor tæt du kan have i forhold til den originale kilde. Måske har du læst eller set nyhedshistorier om berømte sangere og deres tekster, hvor en anden skrev en sang med tilsyneladende lignende tekster, og om dette var juridisk korrekt eller ej.

Jeg havde tidligere nævnt, at den generative AI-app normalt ikke producerer et essay, der er en kopi af andre materialer, som den tidligere blev trænet i ved at undersøge indhold på internettet. Chancerne er, at materialet er generaliseret og alt sammenflettet, så det ikke længere minder meget om, hvad kildeindholdet end bestod af.

Vi må vente og se, hvordan den juridiske proces håndterer dette. Hvis en generativ AI-app producerer et kunstværk, der visuelt åbenlyst er beslægtet med nogle indkøbte kunstværker, ville vi sandsynligvis hælde til at anklage AI'en og skaberne af AI'en for at have krænket ophavsretten forbundet med det originale værk. Vi kan se det med vores egne øjne.

Når det kommer til essays, kan dette være vanskeligere. De åbenlyse tilfælde er, når hele sætninger og afsnit er ord-for-ord identiske. Det kan vi alle se. Men når formuleringen adskiller sig med en smule forskel, kommer vi ind i gråzoner.

Hvor langt væk fra det oprindelige materiale skal det nyfremstillede materiale være for at erklære, at det er en bona fide original på sine egne fordele?

Det er et tungtvejende spørgsmål.

Lad os knytte dette til den studerende, der bruger den generative AI-app til deres essay.

Lad som om, at et bestemt essay genereret af AI-appen vil blive fortolket som et "originalt" essay. Jeg siger, antag, at det ikke på nogen tilsyneladende måde krænker nogen anden allerede eksisterende essay eller tekstfortælling noget sted på jorden.

Eleven starter derefter med en original kilde til materialet. Som allerede angivet, redigerer og forfiner eleven dette materiale. Tingene når et punkt, hvor originalen som produceret af AI-appen nu adskiller sig fra den raffinerede version, som eleven har udtænkt.

Er dette snyd?

Måske ja måske nej.

Det kan du argumentere for, at det er. Eleven startede med at AI skrev deres essay for dem. Alt, hvad eleven har gjort, er mekanisk leget med essayet. Vi forventer, at den studerende skriver essayet ud af luften og bruger deres egen narre til at gøre det. Det er helt klart snyd at bruge AI-appen til at generere deres baseline. Tildel en "F"-karakter til eleven.

Ikke så hurtigt. Du kan argumentere for, at det ikke er snyd. Eleven har lavet om på kildematerialet. Hvis en sammenligning mellem det AI-app-producerede essay og den elev-raffinerede version er en stor nok forskel, vil vi sige, at den studerende har skrevet essayet. De brugte ganske vist andet materiale til at gøre det, men kan man ikke sige det samme, hvis de brugte et opslagsværk eller en anden kilde? Denne studerende fortjener en "A"-karakter for at have komponeret et essay via deres eget forstand (uanset at have henvist til andre materialer for at gøre det).

Lærere vil blive fanget midt i dette allerede irriterende spørgsmål.

En tilgang er, at en lærer kategorisk kan sige, at eleverne skal angive alle referencematerialer, herunder hvorvidt en generativ AI-app blev brugt eller ej. Hvis en elev undlader ligefrem at angive den generative AI som reference, og hvis læreren finder ud af, at de ikke har kunnet angive den, får eleven summarisk en "F"-karakter på opgaven. Eller måske vil nogle skoler anse dette for at være snyd, der får eleven til at få en automatisk flunk. Eller måske udvist. Vi må se, hvor langt skolerne går i disse spørgsmål.

Generelt er vi på vej mod en hektisk verden af ​​intellektuel ejendomsret og juridisk ejerskab af værker som essays (tekst), kunst (billeder) og video, herunder:

• Nogle vil søge juridisk erstatning fra generative AI-producenter med hensyn til kilderne til indhold, der blev brugt af AI til at generere det producerede output.
• Nogle vil tage outputtet af generativ AI og betragte resultatet som deres egne værker, og derefter forsøge at søge juridisk erstatning fra enhver, der krænker deres "originale" arbejde.
• Dette kunne cykle rundt, sådan at nogen producerer output fra generativ AI, som bliver lagt ud på internettet, og så kommer en anden generativ AI og bruger dette i sin træning i at producere lignende værker.

At vende et negativt til et positivt

Al denne snak om det dårlige ved generativ AI, når det kommer til studentersnyd, forplumrer måske vores sind, formaner nogle.

Tag dette i en anden retning.

Sidder du ned?

Måske burde lærere overveje bevidst at få eleverne til at bruge generativ AI som en del af læringsprocessen om, hvordan man skriver essays.

Jeg har tidligere skrevet om den såkaldte dobbelt anvendelse af AI, se linket her. Forestillingen er, at nogle gange kan et AI-system bruges til dårligt, og nogle gange kan det skiftes rundt og bruges til det gode. Det bekymrende aspekt er, når nogen skriver AI for altid og er lykkeligt uvidende om, hvor let deres AI kan forvandles til ondskabens spøgelse. Del af Etisk AI er erkendelsen af, at kunstig intelligens burde udtænkes, så den ikke kan forvandles til en forbandelse fra den ene dag til den anden. Dette er en vedvarende bekymring.

Tilbage til den generative AI til fremstilling af essays.

Jeg bragte tidligere tanken om, at en studerende måske kan lære om skrivning ved at se på skrevne værker, der allerede eksisterer. Dette giver rigelig mening. Dybest set, jo mere du læser, er chancerne for, at du udvider dit mentale udseende mod at kunne skrive. Som nævnt tidligere skal du stadig skrive, da al læsning i verden ikke nødvendigvis vil få dig til at blive en god forfatter, hvis du ikke øver dig i at skrive.

Vi kunne bruge generativ AI til at fremme denne læse-og-skrive-kobling. Få en elev med vilje til at bruge generativ AI. AI'en producerer et essay. Den studerende får til opgave at kritisere det AI-producerede essay. Dernæst får den studerende til opgave at skrive et nyt essay, måske om et andet emne, men kan bruge strukturen og andre generelle elementer i det tidligere AI-genererede essay.

Dette kan være endnu mere produktivt, foreslår nogle, for eleverne end blot at læse bøger eller andre tekster af forfattere, som eleven ikke har adgang til at "interagere" med. Med AI-appen kunne eleven prøve at køre og producere det indledende essay ved at bruge et væld af prompter, den ene efter den anden. Eleven kan måske bede AI'en om at skrive et barebones-essay om Lincoln. Dernæst beder eleven om et langt essay om Lincoln, der er skrevet med en uformel stemme. Efter at have kigget på det, indikerer eleven over for AI-appen at producere en meget formaliseret version af Lincoln-essayet. Etc.

Påstanden er, at dette materielt kan hjælpe en elev med at lære om skrivning og hvordan skrivning kan foregå.

En nylig forskningsartikel foreslår netop denne pointe: "Forfatterne af denne artikel mener, at AI kan bruges til at overvinde tre barrierer for læring i klasseværelset: at forbedre overførsel, bryde illusionen om forklarende dybde og træne eleverne til kritisk at evaluere forklaringer" ( i et papir med titlen "New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments", Dr. Ethan Mollick og Dr. Lilach Mollick, Wharton School ved University of Pennsylvania & Wharton Interactive12. december 2022)

For eksempel påpeger de, at forbedring af læringsoverførsel kan ske på denne måde: "AI er en billig måde at give eleverne mange eksempler på, hvoraf nogle kan være unøjagtige, eller har brug for yderligere forklaring, eller de kan simpelthen være opdigtede. For studerende med grundlæggende viden om et emne, kan du bruge kunstig intelligens til at hjælpe dem med at teste deres forståelse og eksplicit skubbe dem til at navngive og forklare unøjagtigheder, huller og manglende aspekter af et emne. AI'en kan give en uendelig række eksempler på begreber og anvendelser af disse begreber, og du kan presse eleverne til at: sammenligne eksempler på tværs af forskellige kontekster, forklare kernen i et begreb og påpege uoverensstemmelser og manglende information i den måde, AI'en anvender begreber på til nye situationer” (ibid).

Det er beslægtet med det gamle omkvæd, hvis du ikke kan slå dem, så slutt dig til dem.

Gør den generative AI til et uddannelsesværktøj.

Yikes, kommer det hurtige svar.

Du sætter ræven ind i hønsegården. Elever, der ikke havde nogen idé om, hvad generativ AI er, vil nu blive vist det åbenlyst af en lærers og deres skoles åbenlyse handlinger. Hvis eleverne var uvidende om mulighederne for at snyde, lægger du det direkte i deres ansigter og hænder.

Det virker fuldstændig frastødende, at autoriteterne vil introducere eleverne til et middel til at snyde. Du vil derfor for altid sætte de mest ærlige studerende ind i området for snydfristelser. Alle vil have adgang til snydemaskinen. De får besked på at gøre det. Ingen grund til at skjule det. Ingen grund til at lade som om, at du ikke bruger generativ AI. Skolen og læreren fik dig til at bruge det.

Svaret til dette er, at du blindt og uvidende skal have hovedet i sandet for at tro, at eleverne ikke kommer til at blive fortrolige med generativ AI. Mens du tåbeligt lader som om, de ikke ved om det, suser de uden for skolen for at bruge det. Dit bedre valg er at introducere tingen til dem, diskutere, hvad den kan og ikke kan bruges til, og bringe et skarpt skinnende lys til hele gåden.

Det er temmelig tosset.

For dem af jer, der forsker i pædagogiske innovationer af teknologi, vil du måske tage et kig på generativ AI, og hvordan det kan ændre karakteren af ​​pædagogiske tilgange og påvirke elevernes læring. Det kommer snart nok.

Brug af detektion til at redde os fra ruin

Skift hatte og lad os overveje digital kunst et øjeblik.

Hvis du opretter et stykke digital kunst, vil du måske markere det på en eller anden måde, så du senere kan se, om nogen har valgt at bruge eller genbruge dit kunstnerskab. En enkel måde at gøre dette på består i at ændre nogle af pixels eller prikker i dit digitale kunstværk. Hvis du gør et par stykker her eller der, vil udseendet af kunstværket stadig synes at være det samme for menneskers øjne. De vil ikke bemærke de pixels, der er små og er blevet indstillet til en speciel farve, som kun kan ses ved nøje inspektion via digitale værktøjer.

Du kender måske til disse teknikker som værende en form for vandmærkning. Ligesom der i gamle dage var forsøg på at vandmærke papirbaserede materialer og andet ikke-digitaliseret indhold, har vi efterhånden set fremkomsten af ​​digitale vandmærker.

Et digitalt vandmærke kan være skjult i billedet af et digitalt kunstværk. Hvis det kan virke påtrængende for billedet, kan du prøve at indlejre vandmærket i filen, der indeholder det digitale kunstværk (de såkaldte "metadata" af det digitale værk).

Der er et kat-og-mus-spil, der kan opstå.

Der kommer en ondsindet, og de opdager dit digitale vandmærke. De fjerner det. Nu kan de tilsyneladende frit bruge dit digitale kunstværk uden at bekymre dig om, at du senere vil være i stand til at stikke ind i det og vise, at det helt klart er en rip-off af din indsats. De slyngler!

Vi er nødt til at skrue op for det digitale vandmærke, hvilket vi kan gøre ved brug af kryptografiske teknikker og teknologier. Tænk på hemmelige beskeder og kodning.

Tanken er, at vi koder det digitale vandmærke, så det er svært at finde. Det er også potentielt svært at fjerne. Vi kunne endda forsøge at sikre, at software, der viser eller tillader brugen af ​​det digitale kunstværk, først skal kontrollere og se, at der findes et gyldigt kodet digitalt vandmærke i værket, ellers betragtes det som en ukorrekt kopi. Fanget dig på fersk gerning.

Kan vi gøre det samme for generativ AI, der producerer tekst?

Der er lagt en hanske ned. Problemet kan dog til en vis grad være sværere, end når man overvejer digitale vandmærker til kunstværker.

Her er hvorfor.

Antag, at det eneste sted, du kan placere vandmærket, er direkte ind i selve teksten. Jeg siger dette, fordi den tekst, der genereres, ikke nødvendigvis går ind i en fil. Teksten er bare tekst. Du kan klippe og indsætte det fra det generative AI-værktøj. I denne forstand er der normalt ingen metadata eller fil, som vandmærket kan indlejres i.

Du skal udelukkende fokusere på teksten. Ren tekst.

En mulighed ville være at snigeligt få den generative AI til at producere teksten på en måde, der kan spores. Som et groft, men upraktisk eksempel, forestil dig, at vi besluttede at starte hver tredje sætning med ordet "Og" i begyndelsen af ​​sætningen. Vi ville stadig generere et tilsyneladende helt flydende essay. Det eneste trick er, at hver tredje sætning starter med vores valgte magiske ord. Ingen andre ved, hvad vi har gang i.

En studerende bruger generativ kunstig intelligens til at fremstille det tildelte essay om Lincoln. Eleven tager det direkte fra AI-appen og mailer det til læreren. Det viser sig, at eleven ventede til sidste øjeblik og var oppe imod den offentliggjorte deadline. Ingen tid til at gennemgå essayet. Bare send det og håb på det bedste.

Læreren ser på essayet. Antag, at vi har fortalt hende, at vores vandmærke består af det magiske ord, der bruges i starten af ​​hver tredje sætning. Læreren opdager, at dette er tilfældet i dette indsendte essay. Selvom der måske er en utrolig ringe chance for, at den studerende har skrevet essayet, og måske kan lide at bruge dette særlige ord i starten af ​​hver tredje sætning, tror jeg, vi med rimelighed kan blive enige om, at dette er meget usandsynligt, og i stedet brugte den studerende sandsynligvis den generative AI at fremstille essayet.

Kan du se, hvordan det virker?

Det stoler jeg på, at du gør.

Problemet er nu, hvordan man kommer frem til et vandmærke, der ikke er helt så indlysende. En elev vil måske bemærke, at sætningerne ser ud til at bruge et bestemt ord. De kan gætte, hvad der foregår. Til gengæld kan eleven flytte rundt på sætninger og lave nogle omformuleringer. Dette sænker så stort set dette særlige vandmærke, da essayet ikke længere umiddelbart kan ses som skrevet af den generative AI.

Kat-og-mus-spillet presser sig endnu engang frem.

Vi er nødt til at producere flydende tekst, der på en eller anden måde indeholder et "vandmærke" på en måde, der ikke let kan skelnes. Yderligere, hvis det er muligt, bør vandmærket fortsætte med at bestå, selvom essayet er lidt revideret. En hel-svin revision vil sandsynligvis ikke tillade vandmærket at overleve. Men vi ønsker en vis redundans og modstandsdygtighed, så vandmærket helst vil kunne detekteres, selvom der foretages nogle ændringer i tekstområdet.

En forsker, der laver noget arbejde for virksomheden, der laver ChatGPT (AI-appen fra OpenAI), udforsker nogle interessante kryptografiske indsatser langs disse vandmærkeovervejelser. Scott Aaronson er professor i datalogi ved University of Texas i Austin, og han holdt for nylig en tale om noget af det arbejde, der finder sted (et udskrift er lagt ud på hans blog).

Overvej dette uddrag, hvor han kort forklarer den eksisterende tilgang: "Hvordan fungerer det? For GPT er hvert input og output en streng af tokens, som kunne være ord, men også tegnsætningstegn, dele af ord eller mere - der er omkring 100,000 tokens i alt. I sin kerne genererer GPT konstant en sandsynlighedsfordeling over det næste token, der skal genereres, betinget af strengen af ​​tidligere tokens. Efter at det neurale netværk har genereret distributionen, prøver OpenAI-serveren faktisk et token i henhold til denne distribution – eller en modificeret version af distributionen, afhængigt af en parameter kaldet 'temperatur'. Så længe temperaturen ikke er nul, vil der dog normalt være en vis tilfældighed i valget af den næste token: du kan køre igen og igen med den samme prompt og få en anden fuldførelse (dvs. en række output-tokens) hver gang ."

Som nævnt er der en bestemt mængde tilfældighed med hensyn til, hvilke ord der vil blive placeret ved siden af ​​i essayet, der udledes af ChatGPT-appen. Det forklarer også det tidligere påpegede, at hvert essay sandsynligvis vil være noget anderledes, selvom om det samme emne. En målrettet brug af en tilfældig udvælgelsestilgang, der er inden for særlige grænser, løber under hætten under essaygenereringen.

Vi kommer nu til den saftige del, den kryptografiske sammenblanding: "Så for at vandmærke, i stedet for at vælge det næste token tilfældigt, vil ideen være at vælge det pseudo-tilfældigt ved hjælp af en kryptografisk pseudorandom funktion, hvis nøgle kun er kendt af OpenAI . Det vil ikke gøre nogen sporbar forskel for slutbrugeren, forudsat at slutbrugeren ikke kan skelne de pseudotilfældige tal fra virkelig tilfældige. Men nu kan du vælge en pseudotilfældig funktion, der hemmeligt forspænder en bestemt score - en sum over en bestemt funktion g evalueret ved hvert n-gram (sekvens af n på hinanden følgende tokens), for nogle små n - hvilken score du også kan beregne, hvis du ved nøglen til denne pseudorandom funktion."

Jeg er klar over, at det kan virke noget teknologisk pakket.

Essensen er, at det producerede essay vil se ud til at være flydende, og du vil ikke let kunne skelne ved at læse essayet, at det indeholder et digitalt vandmærke. For at finde ud af, om et givet essay indeholder et vandmærke, skal du indlæse essayet i en specialudviklet detektor. Det program, der udfører detekteringen, vil beregne en værdi baseret på teksten og være i stand til at sammenligne den med en lagret nøgle. I den fremgangsmåde, der beskrives, ville nøglerne være i besiddelse af leverandøren og ikke på anden måde være tilgængelige, og forudsat at nøglerne holdes hemmelige, kan kun det salvede detektionsprogram beregne, om essayet sandsynligvis er afledt af ChatGPT i dette tilfælde.

Han fortsætter med at erkende, at dette ikke er idiotsikkert: "Nu kan det hele besejres med tilstrækkelig indsats. For eksempel, hvis du brugte en anden AI til at parafrasere GPT's output - okay, vi vil ikke være i stand til at opdage det. På den anden side, hvis du bare indsætter eller sletter nogle få ord her og der, eller omarrangerer rækkefølgen af ​​nogle sætninger, vil vandmærkesignalet stadig være der. Fordi det kun afhænger af en sum over n-gram, er det robust over for den slags indgreb."

En lærer kan få adgang til et detektorprogram, der kontrollerer elevernes essays. Antag, at sagen er forholdsvis let, idet læreren får eleverne til at e-maile deres essays til læreren og den automatiske detektor. Detektorappen informerer derefter læreren om sandsynligheden for, at essayet bliver lavet af ChatGPT i dette tilfælde.

Hvis detektoren nu er åbent tilgængelig for alle, ville du have "overpræcerende" studentersnydere, der blot ville køre deres essays ind i detektoren og foretage en række ændringer, indtil detektoren indikerede en lav sandsynlighed for, at essayet var afledt af generativen. AI. Mere af kat-og-musen. Detektoren skal formentlig holdes tæt beskyttet af adgangskodebrug, eller der er behov for andre midler eller metoder til at håndtere kryptografiske tilgange (der er en række af både nøglebaserede og nøglefri-fokuserede metoder, der kan bruges).

En lærer kan stå over for muligheden for snesevis eller hundredvis af generative AI-apps, der er tilgængelige til brug på internettet. I så fald, at prøve at få dem alle til at bruge noget digitalt vandmærke og skulle indføje et essay i dem alle, ja, det bliver bare mere forførende og logistisk kompliceret.

Ikke flere essays uden for klasseværelset

Et undergangs- og dysterhedsperspektiv er, at lærere måske bliver nødt til at opgive brugen af ​​ekstern essayskrivning. Alle essays må kun skrives i det kontrollerede miljø i et klasseværelse.

Dette har mange og mange problemer.

Antag, at en studerende normalt skulle bruge ti timer på at skrive et bestemt fuldgyldigt essay, der er et klasseprojekt. Hvordan ville det blive gjort i et klasseværelse? Skal du pakke det ud og få eleven til at skrive et lille stykke af essayet over en række dage? Tænk over de vanskeligheder, dette giver.

Nogle hævder, at sagen måske er ved at blive overdrevet.

Lærere bør gøre, som de altid har gjort, om elevernes plagiering. På forhånd erklærer læreren, at plagiat er en alvorlig snyd bekymring. Understreg, at brugen af ​​generativ AI, på enhver måde, vil blive betragtet som en snydehandling.

Lav sanktioner, der vejer betydeligt, såsom en lav karakter, en forkastet klasse eller bortvisning fra en skole, hvis det kommer så langt. Kræv, at eleverne skriftligt attesterer for hver ekstern essayopgave, at det, de har afleveret, er deres arbejde (gjort uden hjælpemidler såsom generativ AI, kopiering fra internettet, brug af medstuderende, brug af en forælder, betaling for at få det gjort og snart). Kræv også, at eleverne angiver ethvert onlineværktøj, der bruges i forberedelsen af ​​arbejdet, herunder specifikt at skulle notere sig, især generativ AI-brug.

Læreren bruger måske eller måske ikke en detektor-app til at prøve at finde ud af, om det indsendte essay sandsynligvis stammer fra en generativ AI-app. Dette er et potentielt byrdefuldt trin, afhængigt af hvor nemme detektorerne er at bruge og få adgang til.

Lærere burde formentlig allerede være i gang med at afgøre, om udefrakommende skriftlige essays virker legitime. Ved at skrive essays i klassen er der en chance for at sammenligne og kontrastere, selv om du indser, at tiden til at skrive i et klasseværelse er mindre og også kan være hæmmet af begrænsningen af ​​ikke at tillade adgang til online referencematerialer.

Essensen er, at vi ikke bør tage den vej, hvor vi brat smider brugen af ​​essayskrivning udefra. Nogle vil beklage dette som en overilet handling, og en handling, der synes at minde om at smide barnet ud med badevandet (et gammelt ordsprog, måske værd at trække sig tilbage).

Hvis skrivning udenfor er helt afbrudt som en læringsaktivitet, er der sandsynligvis alvorlige og langvarige ulemper ved at fjerne denne tilsyneladende hverdagslige pædagogiske aktivitet fra læseplanen. Der er en afvejning involveret. Hvor mange studerende vil snyde, på trods af alle de ovennævnte checks and balances? Hvor mange studerende vil ikke snyde og vil derfor fortsætte med at bruge en gavnlig pædagogisk tilgang til at fremme deres skrivefærdigheder?

I teorien vil procentdelen af ​​snydere forhåbentlig være lille nok til, at skrivning udenfor stadig er meriterende for overvægten af ​​studerende.

Konklusion

AI kan være noget af en hovedpine.

For lærere kan AI være både en velsignelse og en forbandelse. Uanset hvad, betyder det, at lærere har brug for at vide om AI, sammen med hvordan man kan kæmpe med AI-drejninger i forbindelse med deres undervisningsaktiviteter, hvilket er endnu en ekstra vægt på deres allerede overstrakte rygge og skuldre. Shoutout til lærere overalt.

Måske kan vi ønske, at AI forsvinder.

Nope.

Ser du, vi kommer ikke til at skrue tiden tilbage og udrydde generativ AI. Enhver, der kræver dette, er en drømmer. Og som en sidebemærkning, jeg bruger ordet "Og" som det første ord i den tredje sætning i dette afsnit (ups, giver nøglen væk!), generativ AI er kommet for at blive.

Her er en opfordring til at få gang i dine ophedede diskussioner: Generativ kunstig intelligens vil blive mere udbredt og have endnu mere forbløffende og nervepirrende egenskaber.

Lille dråbe.

Sidste tanke for nu.

Shakespeare skrev berømt, at "At være, eller ikke at være: det er spørgsmålet."

Jeg forsikrer dig om, at generativ kunstig intelligens vil være det. Det er det allerede.

Vi er nødt til at finde ud af, hvordan vi ønsker, at generativ kunstig intelligens skal indgå i vores liv, og hvordan samfundet vil vælge at forme og vejlede en sådan brug. Hvis du nogensinde havde brug for en grund til at tænke på AI-etik og AI-lovgivning, vil generativ AI måske få dig til at søge at vide, hvad vi er, selvom vi ikke ved, hvad vi kan være (skjult Shakespeare-reference).