AI- gebruik en transparantie

Op 7 april 2025 is de richtlijn Gebruik AI-toepassingen van het Landelijk register van gerechtelijke deskundigen vastgesteld en gepubliceerd.

Al eerder schreven we over de Artificial Intelligence Act (AI Act). De AI Act heeft ten doel om de ontwikkeling van AI, met name ook door start ups, te promoten.

In de AI Act worden bepaalde toepassingen als verboden toepassingen gedefinieerd en andere toepassingen moeten worden getoetst aan het risico dat de inzet en het gebruik van die toepassingen opleveren voor de grondrechten en vrijheden van de burgers van de EU. AI geletterdheid en transparantie zijn daarbij van groot belang.

De huidige geopolitieke situatie, waarbij hybride oorlogsvoering steeds manifester wordt, is destabiliserend en AI toepassingen worden daarbij vaak ingezet en misbruikt. Bijvoorbeeld door het plaatsen van valse nieuwsberichten en deep fake berichten. Het wordt steeds moeilijker om waarheid en fictie te onderscheiden.

De toepassing

Het toepassen van AI in het kader van de waarheidsvinding is met name in het gerechtelijke bedrijf precair gezien het bovenstaande. Zoals AI de belofte in zich draagt van snellere, betere en onafhankelijke gerechtelijke voorlichting, draagt het ook de kiem in zich van vermenging met desinformatie en ondeskundige prompting.

Het is daarom interessant om te zien hoe het Landelijk register van gerechtelijk deskundigen heeft ingespeeld op het gebruik van AI door gerechtelijk deskundigen. De genoemde richtlijn is erg kort en dat bevordert de leesbaarheid.

Verantwoordelijkheid

Benadrukt wordt dat het gebruik van AI toepassingen te allen tijde de verantwoordelijkheid is en blijft van de gerechtelijk deskundige zelf. Daartoe behoort ook de verplichting om voldoende kennis te hebben van de AI-toepassing, er verantwoordelijk mee om te gaan en in het bijzonder de risico’s te herkennen die gepaard gaan met het gebruik ervan. Het resultaat van de inzet van AI dient altijd te worden gecontroleerd door de deskundige zelf, met inbegrip van de door AI gegeven bronnen. De deskundige motiveert het gebruik en de inzet van de resultaten van het gebruik van AI.

Vertrouwelijkheid

Ook dient de gerechtelijk deskundige de vertrouwelijkheid te borgen door alleen die AI toepassingen te gebruiken die dat ook kunnen waarborgen. Bedrijfsgevoelige informatie dient te worden afgeschermd en ook persoonsgegevens mogen alleen overeenkomstig de regelgeving worden verwerkt. Een andere verplichting is te borgen dat IE rechten van derden worden geëerbiedigd.

Transparant over AI

Naast deze verplichtingen dient de gerechtelijk deskundige ook transparant te zijn over het gebruik van de AI toepassing door dit in het rapport te vermelden. Die vermelding kan bevatten:

1. De gebruikte AI-toepassing, versie en model,
2. De ingevoerde informatie,
3. De gestelde vraag (prompt),
4. Het verkregen resultaat,
5. Eventueel daarbij vermelde bronnen,
6. De wijze waarop de deskundige het resultaat heeft verwerkt of gebruikt,
7. De motivering waarom de gebruikte resultaten passend en relevant zijn.

De vermelding stelt de gebruiker van het rapport of deskundigenbericht in staat om het gebruik van de AI-toepassing te beoordelen en te wegen.

Conclusie

Al met al komen uitgangspunten uit de AI Act weer op een principe gebaseerde manier terug in deze regeling, die ook bruikbaar kan zijn om de inzet van AI in andere bedrijfstakken te verantwoorden en de gevaren van het inzetten van AI te mitigeren.

Heeft u vragen naar aanleiding van dit artikel? Neem dan contact op met een van onze  advocaten via de mail, telefonisch of vul het contactformulier in voor een vrijblijvend eerste gesprek. Wij denken graag met u mee.