De voormalige president van Griekenland, Prokopis Pavlopoulos, heeft de grenzen van Kunstmatige Intelligentie (KI) in de juridische wetenschap onder de loep genomen tijdens een internationale conferentie. Hij waarschuwde dat de KI een dreiging kan vormen voor de fundamenten van het recht en de rechtvaardigheid.
Pavlopoulos, die ook als professor aan de juridische faculteit van de Universiteit van Athene werkt, benadrukte tijdens zijn toespraak dat de invloed van KI, vooral Goed Georganiseerde Neurale Netwerken (GNN) en Grote Taalmodellen (GTM), significant is voor de ‘nieuwe beeldvorming’ van het strafrecht. Dit geldt niet alleen voor Griekenland, maar ook voor andere landen, vooral binnen het juridische kader van de Europese Unie.
De Uitdagingen van Juridische Toepassingen van KI
In zijn analyse stelde hij dat het onrealistisch is te denken dat moderne GNN en GTM de formele rollen van de wetgevende, uitvoerende en rechterlijke macht kunnen vervangen, zelfs niet in delen van het proces van regelgeving of de interpretatie en toepassing daarvan.
“Het is vooral duidelijk dat alleen de mens, als functionaris met bewustzijn en intelligentie, in staat is om recht te creëren en rechtvaardigheid toe te passen,” voegde hij eraan toe. Pavlopoulos merkte op dat de KI, vanwege het ontbreken van bewustzijn, niet in staat is om de essentiële juridische concepten die nodig zijn voor het rechtsysteem te begrijpen of toe te passen.
De Valstrikken van Geautomatiseerde Rechtsverlening
Pavlopoulos wees ook op de gevaren van automatisch gegenereerde juridische normen en schijnbaar automatische juridische diensten en uitspraken. Hij argumenteerde dat een dergelijke aanpak niet alleen onrealistisch maar ook gevaarlijk is voor de essentie van recht en rechtvaardigheid binnen de democratische staat.
De waarschijnlijkheid van het vervangen van officiële juridische functies door KI roept ernstige vragen op over de effectiviteit en rechtvaardigheid van zulke toepassingen. Voor Pavlopoulos is het duidelijk dat KI enkel ondersteunend kan zijn in specifieke technische vraagstukken, maar dat menselijke beoordeling en bewustzijn onmisbaar blijven, vooral in complexe juridische en realistische evaluaties binnen de juridische praktijk.
Juridische Dilemma’s en De Rol van KI
Het gebruik van KI moet altijd binnen strikte grenzen plaatsvinden en mag nooit de primaire taak van de rechtbanken en juristen overschaduwen. In situaties waarin juridische interpretatie en toepassing gefundeerd zijn op subjectieve en contextuele overwegingen, is menselijke inbreng cruciaal.
Pavlopoulos concludeerde dat de integriteit van juridische beslissingen niet kan worden gewaarborgd door KI toegelaten te worden in de rol van rechterlijke besluitvormer. De risico’s van juridische automatisering zijn evident, vooral gezien de toenemende afhankelijkheid van statistische analyses in het proces van strafrechtelijke en civiele uitspraakvorming.
Slotopmerkingen
De onverantwoorde toepassing van KI binnen de juridische context kan leiden tot ernstige gevolgen, vooral in termen van mensenrechten en een rechtvaardig rechtssysteem. De toename van geautomatiseerde processen biedt geen garantie voor rechtvaardigheid en kan zelfs de fundamentele waarden van een democratische rechtsstaat ondermijnen.
Het is van groot belang dat er juridische waarborgen worden opgesteld om de impact van KI op de rechtspraak te controleren en waar nodig te beperken, om zo de zelfstandigheid van de rechtspraak en de bescherming van de mensenrechten te waarborgen.
