De president van het High Court, David Barniville, heeft nieuwe richtlijnen uitgevaardigd over het gebruik van kunstmatige intelligentie (AI) binnen juridische procedures. Hoewel AI-instrumenten de efficiëntie kunnen verhogen en kosten kunnen verlagen, waarschuwt de rechter voor aanzienlijke risico's zoals 'hallucinaties' (het genereren van plausibele maar valse informatie), deepfakes en privacyrisico's bij het invoeren van vertrouwelijke zaakgegevens.
Vanaf 1 september kunnen advocaten die de rechtbank misleiden met AI-gegenereerde onjuistheden sancties krijgen. Deze variëren van het betalen van extra proceskosten tot doorverwijzing naar de Legal Services Regulatory Authority (LSRA). Ook procespartijen zonder advocaat zijn aan deze regels gebonden.
Daarnaast wordt er een nieuwe vereiste ingevoerd voor getuigen: zij moeten expliciet verklaren dat AI niet is gebruikt voor het genereren van de inhoudelijke content in hun getuigenverklaringen of affidavits. De richtlijnen zijn mede ingegeven door recente incidenten waarbij partijen fictieve juridische autoriteiten citeerden.
Advocaten kunnen sancties krijgen, waaronder proceskosten, als AI leidt tot valse citaten in rechtszaken
Advocaten kunnen worden doorverwezen naar hun professionele tuchtraad of persoonlijk gedwongen worden de juridische kosten te betalen als hun gebruik van kunstmatige intelligentie (AI) ertoe leidt dat er valse bronnen worden geciteerd in gerechtelijke documenten.
Deze mogelijke sancties werden gemeld door de president van het High Court, David Barniville, in een richtlijn aanbeurders en procespartijen over hoe AI wel en niet gebruikt mag worden in juridische procedures. Hij gaf aan dat de rechtbank erkent dat generatieve AI-instrumenten de efficiëntie kunnen verbeteren, de kosten van zaken kunnen verlagen en de toegang tot het recht kunnen vergroten.
Risico's van AI in de rechtszaal
Volgens Barniville brengen deze instrumenten echter risico's op onnauwkeurigheid met zich mee, waaronder het produceren van materiaal dat plausibel lijkt maar vals of misleidend is. De rechter verklaarde dat AI ook "deep fake"-materiaal, fictieve zaken en andere "hallucinaties" kan genereren.
Daarnaast benadrukte Barniville de potentiële privacyrisico's bij het invoeren van zaakgegevens in AI-tools. Hij stelde dat bevoorrechte informatie haar beschermde status kan verliezen en openbaar gemaakt moet worden aan juridische tegenstanders als deze in een AI-systeem is ingevoerd.
Verplichtingen en sancties
Advocaten zijn verplicht ervoor te zorgen dat de rechtbank niet wordt misleid en moeten de nauwkeurigheid controleren van door AI gegenereerde informatie die door henzelf of hun cliënten wordt gebruikt.
Het niet naleven van de nieuwe richtlijn, die ingaat op 1 september, kan de integriteit van zaken beïnvloeden en "het publieke vertrouwen in de rechtspraak ondermijnen". De sancties voor niet-naleving kunnen zijn:
- De verplichting om extra juridische kosten te betalen.
- Het schrappen van een deel of geheel van de vordering of het verweer.
- Doorverwijzing naar de Legal Services Regulatory Authority (LSRA), waarbij advocaten persoonlijk aansprakelijk kunnen worden gesteld voor de proceskosten.
De rechter voegde toe dat procespartijen die niet door advocaten worden bijgestaan, onderhevig zijn aan dezelfde verplichtingen tot nauwkeurigheid en oprechtheid. Ook zij moeten de juistheid van hun indieningen verifiëren en kunnen sancties riskeren als hun gebruik van AI de rechtbank misleidt.
Richtlijnen voor getuigenverklaringen
Vanaf volgende maand moeten getuigen verklaren dat AI niet is gebruikt om "inhoudelijke content" te genereren in hun getuigenverklaring of affidavit, en dat de documenten hun persoonlijke kennis, herinnering en bewijs weerspiegelen. In de richtlijn staat dat het gebruik van AI voor opmaak of spellingscontrole deze verklaring niet ondermijnt.
Recente incidenten
In maart merkte het Court of Appeal op dat Gemma O’Doherty, een voormalig journalist van de Irish Independent en activiste, juridische autoriteiten citeerde die "simpelweg niet bestonden". De rechtbank geloofde niet dat O’Doherty, die geen advocaten had, de intentie had om de rechtbank te misleiden of wist dat ze fictieve zaken citeerde. Er werd opgemerkt dat er op dat moment geen richtlijnen waren om zelfvertegenwoordigende procespartijen te helpen bij het gebruik van AI.
In mei uitte rechter Mark van het High Court zijn zorgen over de bewoordingen van een gedaagde in een zaak over het bezit van een woning in Co Cavan. De rechter stelde dat het "overduidelijk" was dat de vrouw, die niet juridisch vertegenwoordigd was, AI had gebruikt om haar schriftelijke juridische argumenten te ondersteunen. Na ondervraging gaf zij dit toe; de rechter was tevreden dat zij haar eigen zaak kende en niet probeerde de rechtbank te misleiden.
Advocaten kunnen sancties krijgen, waaronder proceskosten, als AI leidt tot valse citaten in rechtszaken
Advocaten kunnen worden doorverwezen naar hun professionele tuchtraad of persoonlijk gedwongen worden de juridische kosten te betalen als hun gebruik van kunstmatige intelligentie (AI) ertoe leidt dat er valse bronnen worden geciteerd in gerechtelijke documenten.
Deze mogelijke sancties werden gemeld door de president van het High Court, David Barniville, in een richtlijn aanbeurders en procespartijen over hoe AI wel en niet gebruikt mag worden in juridische procedures. Hij gaf aan dat de rechtbank erkent dat generatieve AI-instrumenten de efficiëntie kunnen verbeteren, de kosten van zaken kunnen verlagen en de toegang tot het recht kunnen vergroten.
Risico's van AI in de rechtszaal
Volgens Barniville brengen deze instrumenten echter risico's op onnauwkeurigheid met zich mee, waaronder het produceren van materiaal dat plausibel lijkt maar vals of misleidend is. De rechter verklaarde dat AI ook "deep fake"-materiaal, fictieve zaken en andere "hallucinaties" kan genereren.
Daarnaast benadrukte Barniville de potentiële privacyrisico's bij het invoeren van zaakgegevens in AI-tools. Hij stelde dat bevoorrechte informatie haar beschermde status kan verliezen en openbaar gemaakt moet worden aan juridische tegenstanders als deze in een AI-systeem is ingevoerd.
Verplichtingen en sancties
Advocaten zijn verplicht ervoor te zorgen dat de rechtbank niet wordt misleid en moeten de nauwkeurigheid controleren van door AI gegenereerde informatie die door henzelf of hun cliënten wordt gebruikt.
Het niet naleven van de nieuwe richtlijn, die ingaat op 1 september, kan de integriteit van zaken beïnvloeden en "het publieke vertrouwen in de rechtspraak ondermijnen". De sancties voor niet-naleving kunnen zijn:
- De verplichting om extra juridische kosten te betalen.
- Het schrappen van een deel of geheel van de vordering of het verweer.
- Doorverwijzing naar de Legal Services Regulatory Authority (LSRA), waarbij advocaten persoonlijk aansprakelijk kunnen worden gesteld voor de proceskosten.
De rechter voegde toe dat procespartijen die niet door advocaten worden bijgestaan, onderhevig zijn aan dezelfde verplichtingen tot nauwkeurigheid en oprechtheid. Ook zij moeten de juistheid van hun indieningen verifiëren en kunnen sancties riskeren als hun gebruik van AI de rechtbank misleidt.
Richtlijnen voor getuigenverklaringen
Vanaf volgende maand moeten getuigen verklaren dat AI niet is gebruikt om "inhoudelijke content" te genereren in hun getuigenverklaring of affidavit, en dat de documenten hun persoonlijke kennis, herinnering en bewijs weerspiegelen. In de richtlijn staat dat het gebruik van AI voor opmaak of spellingscontrole deze verklaring niet ondermijnt.
Recente incidenten
In maart merkte het Court of Appeal op dat Gemma O’Doherty, een voormalig journalist van de Irish Independent en activiste, juridische autoriteiten citeerde die "simpelweg niet bestonden". De rechtbank geloofde niet dat O’Doherty, die geen advocaten had, de intentie had om de rechtbank te misleiden of wist dat ze fictieve zaken citeerde. Er werd opgemerkt dat er op dat moment geen richtlijnen waren om zelfvertegenwoordigende procespartijen te helpen bij het gebruik van AI.
In mei uitte rechter Mark van het High Court zijn zorgen over de bewoordingen van een gedaagde in een zaak over het bezit van een woning in Co Cavan. De rechter stelde dat het "overduidelijk" was dat de vrouw, die niet juridisch vertegenwoordigd was, AI had gebruikt om haar schriftelijke juridische argumenten te ondersteunen. Na ondervraging gaf zij dit toe; de rechter was tevreden dat zij haar eigen zaak kende en niet probeerde de rechtbank te misleiden.
Groetjes,