De robot als bestuurder?

Governance Radar

De robotbestuurder - zoals Vital in Hong Kong - komt eraan. Hoe moet je omgaan met robots aan de bestuurstafel? Een futuristische bespiegeling door Koen de Roo, wetenschappelijk medewerker bij Van Doorne. Hoog tijd voor een discussie.

Het fenomeen van de robotbestuurder is bekend. De berichten over auto's die zichzelf besturen en de gevaren die hieraan verbonden zijn, doen al enige tijd de ronde in de nationale en internationale pers. Wat intussen weinig aandacht krijgt, is de robot als bestuurder van een rechtspersoon. Heel verwonderlijk is dit niet. Denkend aan bestuurders van ondernemingen en non-profit instellingen, gaan de gedachten al snel uit naar dames en heren met een zekere staat van dienst, die elkaar op gezette tijden ontmoeten om te overleggen over de algemene koers en de concrete beleidslijnen van de rechtspersoon. Als wij echter een dit jaar verschenen rapport van de OESO mogen geloven, zullen computers in een periode van slechts vijftien jaar maar liefst veertien procent van de banen overnemen die nu door mensen worden vervuld. Zal dit ook leiden tot verdringing op de markt voor bestuurders van rechtspersonen? Zijn de robotbestuurders in aantocht richting de boardroom? Opmerkelijk genoeg worden deze vragen steeds vaker met ‘ja’ beantwoord. De robotbestuurder komt eraan. De vraag die daarom nu voorligt, is eerder: hoe gaan wij om met robots aan de bestuurstafel?

Kunstmatig intelligente bestuurders

Laten we eerst stilstaan bij de feiten. Dat technologische ontwikkelingen het corporate governance landschap zijn ingeslopen, zal niemand meer ontkennen. De veiligheid van informatie in de cloud, de gevoeligheid voor datalekken, cybersecurity; het is een thema waar zowel bestuurders en commissarissen als de dienstensector niet meer omheen kunnen. In Hong Kong heeft men echter de weg gewezen naar een volgende stap. Met enige bombarie werd namelijk vier jaar geleden door het daar gevestigde Deep Knowledge Ventures aangekondigd, dat zij een robot genaamd Vital (Validating Investment Tool for Advancing Life Sciences) tot bestuurder hadden benoemd. Vital zou een gelijkwaardig bestuurslid worden, dat beslissingen kan nemen over financiële onderwerpen. Dit evenement is destijds enthousiast besproken als een beweging van natuurlijk intelligente bestuurders naar kunstmatig intelligente bestuurders. Nu de rook rond Vital even de tijd heeft gehad om op te trekken, dringt de vraag zich echter op hoe de zaken juridisch staan. Daarbij valt in de eerste plaats op dat de ‘benoeming’ van Vital niet een rechtsgeldige benoeming van een bestuurder was, maar de inschakeling van het programma als ‘waarnemend lid van het bestuur’. Van een echte robotbestuurder was dus geen sprake.

Nog geen juridische structuur ingericht 

Dit laatste heeft vooral te maken met het feit dat de juridische infrastructuur van rechtspersonen nog nergens ter wereld is ingericht voor de robotbestuurder. Ook niet in Nederland. Bestuurders kunnen in het Nederlandse recht natuurlijke personen en rechtspersonen zijn, maar de robot, de computer of het algoritme zijn geen van beiden. Toch is er reden om de robotbestuurder voor de toekomst niet uit te sluiten. Het Europees Parlement heeft de Europese Commissie in 2017 aangespoord de optie te verkennen om ‘een specifieke rechtspersoonlijkheid te creëren voor robots, zodat in elk geval de meest geavanceerde autonome robots de status kunnen krijgen van elektronisch persoon’. Deze gedachte van de robot als juridisch persoon is belangwekkend, niet in de laatste plaats omdat zij de weg kan openen naar de benoeming van robotbestuurders. De aansporing is echter ook ontvangen met kritiek. In april van dit jaar luidde een groep experts op het gebied van kunstmatige intelligentie de noodklok, stellend dat de techniek nog niet ver genoeg ontwikkeld is en dat bovendien de persoonlijkheid van robots een ongewenst schild kan vormen voor de aansprakelijkheid van ontwikkelaars. De tijd is niet rijp en persoonlijkheid is geen oplossing, was de teneur.

Haken en ogen

Het is verleidelijk om in het licht van dergelijke fundamentele bezwaren het boek voor de robotbestuurder te sluiten. Als immers goed ingevoerde robotici de juridische verzelfstandiging van hun eigen creatie al afzweren, wie zijn wetgevers of juristen dan om verder te werken aan een plan met een voor leken onoverzienbaar aantal haken en ogen? Dit is echter een valse tegenstelling. Het feit dat kunstmatige intelligentie vrijwel alle gebieden van het vaak nog analoge leven binnendringt, kan ook niet door de aangehaalde expertgroep worden weersproken. Dat de automatisering van de bestuurskamer op enig moment in het verschiet ligt, is daarom een fact of life waarmee zelfs de meest behoudende jurist rekening moet houden. De wijze waarop staat vanzelfsprekend nog niet vast en evenmin is duidelijk hoe het meest gewenste juridische raamwerk eruit moet zien. Dit is echter geen aanleiding om de discussie in de kiem te smoren, maar een dringende reden om juist nu na te denken over een mogelijke herinrichting van rechtsregels en governance praktijken. Niet slechts voor de zelfsturende auto, maar ook voor de zelfsturende rechtspersoon.

Poppenspeler

Een eerste punt van discussie is al aangeroerd: aansprakelijkheid van bestuurders loopt nu uiteindelijk uit op mensen. Zelfs wanneer een rechtspersoon benoemd is als bestuurder, bevat het recht technieken om de mens achter de rechtspersoon aan te spreken voor geleden schade. Hoe zit dit bij de robot? Op dit moment zal een computer vaak nog worden gestuurd door een mens. Maar wat nu als de techniek zo zelfredzaam wordt, dat geen achterliggende poppenspeler te vinden is? Is in dat geval de programmeur aansprakelijk? Of mogelijk de persoon die de robot heeft benoemd? Eenzelfde soort vragen laat zich stellen met betrekking tot andere thema's op het gebied van corporate governance. Denk bijvoorbeeld aan klassieke governance instrumenten als bezoldiging, ontslagdreiging, verantwoording, decharge en de in het veld van maatschappelijk verantwoord ondernemen zo belangrijke persoonlijke reputatie. Deze middelen zijn nu nog beschouwd als effectief. Blijven zij dat ook wanneer zij worden ingezet tegen een algoritme dat in wezen geen boodschap heeft aan een bonus, een relatief vaste baan of een goede naam? De beantwoording van deze vragen kan natuurlijk leiden tot de slotsom dat de robotbestuurder onwenselijk is, zoals de AI-experts suggereren. Zelfs in dat geval, echter, zullen vragen rijzen over het gebruik van kunstmatige intelligentie door bestuurders. Om maar te beginnen bij de aansprakelijkheidspositie van bestuurders die in vol vertrouwen advies opvolgen van een hyperintelligente ‘hulprobot’ als Vital.

Uitstel heeft geen zin

Dat het bestuur op enig moment te maken krijgt met kunstmatige intelligentie, moet worden geaccepteerd als een zekere toekomst. Daarbij is vanzelfsprekend van belang om vooral niet in een vlaag van enthousiasme deze technieken direct in het bestel van rechtspersonen op te nemen. Het uitstellen van de discussie over robots aan de bestuurstafel heeft echter geen zin. De basale vragen die al snel rijzen over de inzetbaarheid van juridische en praktische governance instrumenten, tonen aan dat het denken over kunstmatige intelligentie in de boardroom nog een lange weg te gaan heeft. Het Europees Parlement heeft hiertoe de juiste openingszet gedaan en de eerste kritische reacties daarop moeten gezien worden als het begin van een breder debat. Willen ook het rechtspersonenrecht en de corporate governance praktijk niet achterblijven, dan is het zaak om tijdig aan dit debat deel te nemen. Hoog tijd dus voor een discussie over robotbestuurders. Want na de robotbestuurder komt natuurlijk ook de robotcommissaris.

Voor direct contact met Koen de Roo: k.h.m.de.roo@vu.nl

Auteur(s)
Koen de Roo
Van Doorne
Dit artikel is gepubliceerd in
Gu2018mei

Nationaal Register

Jan van Nassaustraat 93
2596 BR Den Haag
T 070-324 30 91
info@nationaalregister.nl

Volg ons op social media

Governance Update nieuwsbrief