Harrison Sharples, een medische student aan de University of St Andrews, werd beschuldigd van academisch wangedrag nadat zijn scriptie over speltherapie als AI-gegenereerd werd aangemerkt. De verdenking was gebaseerd op subjectieve kenmerken zoals een 'gepolijste toon', foutloze grammatica en het gebruik van em dashes.
Na een eerste problematische hoorzitting werden de beschuldigingen aanvankelijk in stand gehouden, wat resulteerde in een begrensd cijfer en een negatieve aantekening in zijn professionele dossier bij de General Medical Council (GMC). Na een succesvolle beroepsprocedure werden de beschuldigingen echter opgeheven.
Ondanks de uiteindelijke vrijspraak had de zaak een zware impact op Sharples; door mentale stress moest hij zijn examens een semester uitstellen. De zaak illustreert de risico's van onbetrouwbare AI-detectie, waarbij expert Sidrah Hassan benadrukt dat huidige detectietools een hoog foutpercentage hebben en dat onderwijsinstellingen hun testmethoden moeten heroverwegen.
Ik werd beschuldigd van het gebruik van AI in mijn scriptie, maar ik heb alles zelf geschreven
De 20-jarige student aan de University of St Andrews kon niet begrijpen waarom de beoordelaars dachten dat het werk niet van hemzelf was. Hij vertelde aan de BBC dat hij het gebruik van AI niet eens had overwogen, omdat hij voldoende tijd had om de opdracht te voltooien en plezier had in het schrijven ervan. "Ik ben eerlijk gezegd geneigd simpelweg te vergeten dat het voor mij een optie is om AI te gebruiken," zei hij.
De redenen voor de beschuldiging
Volgens de universiteit werd zijn scriptie over de impact van speltherapie op het verminderen van angst bij gehospitaliseerde kinderen beoordeeld door twee menselijke beoordelaars. Een van hen uitte zorgen over het mogelijke gebruik van AI.
De aantekeningen van de beoordelaar, die door de BBC zijn ingezien, noemen de volgende punten als reden voor de verdenking:
- Een "gepolijste/uniforme toon" van het werk.
- Consistent foutloze grammatica en een gelijkaardige zinsstructuur zonder variatie in stijl.
- Een "formulematige paragraafstructuur die een typisch AI-patroon volgt van 'algemene claim, voorbeeld/resultaat en conclusie'".
- Repetitieve formuleringen en een gebrek aan "genuanceerde kritiek".
- Veelvuldig gebruik van "em dashes" (lange gedachtestreeptjes), een type interpunctie waarvan wordt gedacht dat het geprefereerd wordt door AI-modellen.
De eerste hoorzitting en de gevolgen
Naar aanleiding van deze zorgen werd Harrison uitgenodigd voor een virtuele hoorzitting met een panel van de medische faculteit van de universiteit om zijn zaak te verdedigen.
Harrison geeft aan dat hij zich goed had voorbereid, maar op de dag zelf arriveerde de link naar de virtuele vergadering niet op tijd. Na het sturen van een e-mail ontving hij de link pas vijf minuten na het begin van de zitting. "Op dat moment ben ik extreem nerveus, omdat ik denk: dit is mijn enige kans om mezelf te bewijzen, om mezelf vrij te pleiten — en zij zullen denken dat ik gewoon niet opdaag," vertelde hij.
Tijdens de hoorzitting van een half uur werd de student gevraagd medische termen uit zijn scriptie te definiëren, wat voor Harrison een verrassing was. "Ik was zo overstuur door de start van de zitting," zei hij, "dat ik denk dat ik mezelf niet volledig goed heb kunnen presenteren."
Een week later volgde de beslissing: de beschuldigingen van AI-gebruik werden overeind gehouden. Dit betekende dat zijn cijfer werd begrensd tot een zeven (net voldoende) en dat deze beslissing zou worden opgenomen in zijn professionele dossier bij de General Medical Council (GMC).
De beroepsprocedure
"Ik wist niets van het krijgen van een permanente vlek op mijn dossier als toekomend arts; dat was het punt dat me echt dreef om in beroep te gaan," aldus Harrison.
De universiteit accepteerde het beroep, waarbij erkend werd dat de late aankomst van de link zijn vermogen om zijn zaak te presenteren had beïnvloed. Hij werd uitgenodigd voor een nieuwe hoorzitting in medio november. Volgens Harrison verliep deze zitting op een vergelijkbare manier als de eerste, behalve dat de vragen van het panel ditmaal gingen over zijn aanpak van het schrijven.
"Het ging veel soepeler," zei hij. "Ik denk dat ik mijn punten veel duidelijker kon overbrengen."
Deze keer besloot de universiteit de beschuldigingen niet langer in stand te houden. "Ik voelde me zo opgelucht," zei Harrison. "Het zou erg stressvol zijn om constant die vlek op mijn dossier te hebben."
Persoonlijke impact
Uiteindelijk behaalde Harrison het maximale cijfer voor zijn scriptie en heeft de zaak geen invloed op zijn professionele dossier. Desondanks zegt hij dat hij gedurende het hele semester werd verteerd door zorgen, wat zijn studie beïnvloedde.
Hoewel hij een steunnetwerk had van vrienden, zijn vriendin en familie uit Manchester, raakte hij mentaal zwaar getroffen. "Er was zoveel tijd waarin ik gewoon niet wist wat er aan de hand was, en ik denk dat dat is wat me de meeste zorgen en stress heeft bezorgd," legde hij uit. "Het nam zoveel ruimte in mijn hoofd in dat ik aan niets anders kon denken. Daarom verwaarloosde ik mijn studie; ik had simpelweg geen mentale ruimte meer over om te functioneren."
Hierdoor moest Harrison zijn examens een semester uitstellen en deze in de zomer afleggen. Als gevolg hiervan is zijn diploma-uitreiking verschoven naar december. "Ik zou nu al zijn afgestudeerd als dit me niet was overkomen," zei hij.
Expertvisie op AI-detectie
AI-ethiekadviseur Sidrah Hassan vertelde aan de BBC dat grote taalmodellen (LLM's) zich met "lichtsnelheid" ontwikkelen en dat het voor instellingen moeilijk is om bij te blijven.
"Er zijn kenmerkende signalen die AI-systemen in hun output gebruiken, die je kunnen helpen bepalen of iets door AI of door een mens is gegenereerd," aldus Hassan. Ze voegt echter toe dat bestaande AI-detectietools niet robuust zijn en een hoog foutpercentage hebben.
Hoewel menselijke beoordelaars signalen kunnen afgeven wanneer zij onzeker zijn, stelt Hassan dat het betrappen van studenten mogelijk geen toekomstbestendige oplossing is. "Ik denk dat dat niet het punt is," zei ze. "We zouden de manier waarop we studenten testen moeten veranderen, want als mensen zullen we altijd proberen de makkelijkste manier te vinden om iets te doen."
Reactie van de universiteit
In een verklaring van de University of St Andrews staat: "Wij geven geen commentaar op de details van individuele zaken, maar kunnen bevestigen dat in dit specifieke geval de beslissing om het beroep van de student toe te wijzen uitsluitend betrekking had op een procedurele kwestie omtrent de regelingen voor de hoorzitting."
"We werken zowel binnen de universiteit als breed in de sector aan ondersteuning voor het verantwoord gebruik van AI in academisch werk, inclusief in de geneeskunde."
Ik werd beschuldigd van het gebruik van AI in mijn scriptie, maar ik heb alles zelf geschreven
De 20-jarige student aan de University of St Andrews kon niet begrijpen waarom de beoordelaars dachten dat het werk niet van hemzelf was. Hij vertelde aan de BBC dat hij het gebruik van AI niet eens had overwogen, omdat hij voldoende tijd had om de opdracht te voltooien en plezier had in het schrijven ervan. "Ik ben eerlijk gezegd geneigd simpelweg te vergeten dat het voor mij een optie is om AI te gebruiken," zei hij.
De redenen voor de beschuldiging
Volgens de universiteit werd zijn scriptie over de impact van speltherapie op het verminderen van angst bij gehospitaliseerde kinderen beoordeeld door twee menselijke beoordelaars. Een van hen uitte zorgen over het mogelijke gebruik van AI.
De aantekeningen van de beoordelaar, die door de BBC zijn ingezien, noemen de volgende punten als reden voor de verdenking:
- Een "gepolijste/uniforme toon" van het werk.
- Consistent foutloze grammatica en een gelijkaardige zinsstructuur zonder variatie in stijl.
- Een "formulematige paragraafstructuur die een typisch AI-patroon volgt van 'algemene claim, voorbeeld/resultaat en conclusie'".
- Repetitieve formuleringen en een gebrek aan "genuanceerde kritiek".
- Veelvuldig gebruik van "em dashes" (lange gedachtestreeptjes), een type interpunctie waarvan wordt gedacht dat het geprefereerd wordt door AI-modellen.
De eerste hoorzitting en de gevolgen
Naar aanleiding van deze zorgen werd Harrison uitgenodigd voor een virtuele hoorzitting met een panel van de medische faculteit van de universiteit om zijn zaak te verdedigen.
Harrison geeft aan dat hij zich goed had voorbereid, maar op de dag zelf arriveerde de link naar de virtuele vergadering niet op tijd. Na het sturen van een e-mail ontving hij de link pas vijf minuten na het begin van de zitting. "Op dat moment ben ik extreem nerveus, omdat ik denk: dit is mijn enige kans om mezelf te bewijzen, om mezelf vrij te pleiten — en zij zullen denken dat ik gewoon niet opdaag," vertelde hij.
Tijdens de hoorzitting van een half uur werd de student gevraagd medische termen uit zijn scriptie te definiëren, wat voor Harrison een verrassing was. "Ik was zo overstuur door de start van de zitting," zei hij, "dat ik denk dat ik mezelf niet volledig goed heb kunnen presenteren."
Een week later volgde de beslissing: de beschuldigingen van AI-gebruik werden overeind gehouden. Dit betekende dat zijn cijfer werd begrensd tot een zeven (net voldoende) en dat deze beslissing zou worden opgenomen in zijn professionele dossier bij de General Medical Council (GMC).
De beroepsprocedure
"Ik wist niets van het krijgen van een permanente vlek op mijn dossier als toekomend arts; dat was het punt dat me echt dreef om in beroep te gaan," aldus Harrison.
De universiteit accepteerde het beroep, waarbij erkend werd dat de late aankomst van de link zijn vermogen om zijn zaak te presenteren had beïnvloed. Hij werd uitgenodigd voor een nieuwe hoorzitting in medio november. Volgens Harrison verliep deze zitting op een vergelijkbare manier als de eerste, behalve dat de vragen van het panel ditmaal gingen over zijn aanpak van het schrijven.
"Het ging veel soepeler," zei hij. "Ik denk dat ik mijn punten veel duidelijker kon overbrengen."
Deze keer besloot de universiteit de beschuldigingen niet langer in stand te houden. "Ik voelde me zo opgelucht," zei Harrison. "Het zou erg stressvol zijn om constant die vlek op mijn dossier te hebben."
Persoonlijke impact
Uiteindelijk behaalde Harrison het maximale cijfer voor zijn scriptie en heeft de zaak geen invloed op zijn professionele dossier. Desondanks zegt hij dat hij gedurende het hele semester werd verteerd door zorgen, wat zijn studie beïnvloedde.
Hoewel hij een steunnetwerk had van vrienden, zijn vriendin en familie uit Manchester, raakte hij mentaal zwaar getroffen. "Er was zoveel tijd waarin ik gewoon niet wist wat er aan de hand was, en ik denk dat dat is wat me de meeste zorgen en stress heeft bezorgd," legde hij uit. "Het nam zoveel ruimte in mijn hoofd in dat ik aan niets anders kon denken. Daarom verwaarloosde ik mijn studie; ik had simpelweg geen mentale ruimte meer over om te functioneren."
Hierdoor moest Harrison zijn examens een semester uitstellen en deze in de zomer afleggen. Als gevolg hiervan is zijn diploma-uitreiking verschoven naar december. "Ik zou nu al zijn afgestudeerd als dit me niet was overkomen," zei hij.
Expertvisie op AI-detectie
AI-ethiekadviseur Sidrah Hassan vertelde aan de BBC dat grote taalmodellen (LLM's) zich met "lichtsnelheid" ontwikkelen en dat het voor instellingen moeilijk is om bij te blijven.
"Er zijn kenmerkende signalen die AI-systemen in hun output gebruiken, die je kunnen helpen bepalen of iets door AI of door een mens is gegenereerd," aldus Hassan. Ze voegt echter toe dat bestaande AI-detectietools niet robuust zijn en een hoog foutpercentage hebben.
Hoewel menselijke beoordelaars signalen kunnen afgeven wanneer zij onzeker zijn, stelt Hassan dat het betrappen van studenten mogelijk geen toekomstbestendige oplossing is. "Ik denk dat dat niet het punt is," zei ze. "We zouden de manier waarop we studenten testen moeten veranderen, want als mensen zullen we altijd proberen de makkelijkste manier te vinden om iets te doen."
Reactie van de universiteit
In een verklaring van de University of St Andrews staat: "Wij geven geen commentaar op de details van individuele zaken, maar kunnen bevestigen dat in dit specifieke geval de beslissing om het beroep van de student toe te wijzen uitsluitend betrekking had op een procedurele kwestie omtrent de regelingen voor de hoorzitting."
"We werken zowel binnen de universiteit als breed in de sector aan ondersteuning voor het verantwoord gebruik van AI in academisch werk, inclusief in de geneeskunde."
Groetjes,