Straf voor Nederlandse advocaat vanwege foutieve AI-citaat
Een Nederlandse advocaat is veroordeeld tot een boete van €2.300 vanwege het gebruik van een niet-bestaande uitspraak van de Hoge Raad in een rechtszaak over de verkoop van een bedrijf. De advocaat, die de koper vertegenwoordigde, citeerde een uitspraak die blijkt te zijn voortgekomen uit een AI-hallucinatie. De verkoper betwistte de geldigheid van het citaat, wat leidde tot de financiële sanctie, meldt Nieuws Impuls.
De zaak komt voort uit een juridisch geschil waarbij de verkoper zich achter de kritiek op het gebruik van AI in juridische documenten schaarde. De juridische wereld observeert de gevolgen van deze technologie met toenemende bezorgdheid. In dit geval resulteerde de fout in aanzienlijke kosten voor het advocatenkantoor van de betrokken advocaat.
De advocaat heeft aangegeven het citaat ongemerkt afkomstig te hebben van een AI-systeem, dat steeds vaker wordt ingezet voor juridische ondersteuning. Dit voorval werpt nieuwe vragen op over de betrouwbaarheid van AI in juridische contexten en hoe advocaten en juridische professionals dit moeten beheren.
Desondanks suggereert de vergelijking met menselijke fouten dat AI geen vervanging kan zijn voor de zorgvuldigheid die vereist is in juridische procedures. Het incident kan mogelijk leiden tot strengere richtlijnen omtrent het gebruik van AI in de advocatuur en hernieuwde aandacht voor de verantwoordelijkheden van advocaten bij het controleren van informatiebronnen.
Experts pleiten voor een grotere awareness en training binnen de juridische sector over de risico’s van AI, om ervoor te zorgen dat vergelijkbare fouten in de toekomst worden voorkomen.
