Lieffering

In een eerder verschenen artikel ‘Gebruik artificiële intelligentie door het bestuur – risico of kans?’ schreef ik over de invloed van AI op de rol van een bestuurder. Naar aanleiding van de robot Vital, die deelgenoot was gemaakt van het bestuur van een vennootschap in Hong Kong, besprak ik de mogelijkheid van een AI-robot als hulpmiddel voor bestuurders om bestuurderstaak beter uit te voeren. Ook binnen Europa komt de robotbestuurder inmiddels voor. Zo heeft een Pools bedrijf een AI robot benoemd tot mededirecteur van de onderneming.

AI-ontwikkelingen bij buurlanden

Anders dan in Hong Kong en Polen is een dergelijke robotbestuurder in Nederland nog niet mogelijk, omdat een bestuurder in Nederland een natuurlijk persoon of een rechtspersoon moet zijn . De ontwikkelingen gaan snel en gezien de internationale structuur van bedrijven is het dus raadzaam om de ontwikkelingen bij onze buurlanden in de gaten te houden. Vaak zien we Nederlandse bedrijven met een buitenlandse bestuurder, waarvoor weer andere regels kunnen gelden dan in Nederland.

Europese regels op komst

Op Europees niveau zijn enorme ontwikkelingen in regelgeving op het gebied van data en technologie gaande. Het mag duidelijk zijn – gezien alle nieuwe voorstellen – dat de Europese Unie een enorme inhaalslag heeft te maken op dit gebied.

Op 14 juni 2023 heeft het Europees Parlement overeenstemming bereikt over een kader van regels bij het gebruik van AI. Deze vormen een basis voor de AI Act, een bindende Europese verordening, die naar verwachting al in 2026 in werking  zou moeten treden. . Het doel is om betere voorwaarden te scheppen voor de ontwikkeling en het gebruik van deze nieuwe AI-technologie. De AI Act geldt voor alle autonoom handelende computersystemen die (i) beslissingen nemen, (ii) inhoud genereren of (iii) mensen assisteren binnen een bedrijf. Het Europees Parlement koos daarbij voor een algemene brede aanpak: de regelgeving moet zien op alle sectoren. Voor sommige – vooruitlopende – sectoren zal deze regelgeving aansluiten op al bestaande regelgeving.

Risiconiveaus

Het Europees Parlement maakt onderscheid in risiconiveaus van AI op basis van het risico dat ze vormen voor de gebruiker. Hoe hoger het risico, hoe meer het gebruik van AI wordt gereguleerd..

De kaderregelgeving noemt 3 niveaus:

1. onaanvaardbaar risico
2. hoog risico
3. beperkt risico

Wanneer het gebruik van AI strijdig is met de Europese fundamentele normen en waarden, valt dit gebruik in het niveau ‘onaanvaardbaar risico’. Denk hierbij aan gezichtsherkenning in openbare ruimtes. Dergelijke toepassingen worden verboden.

AI-systemen die een hoog risico vormen voor de veiligheid of grondrechten van personen vallen in het niveau ‘hoog risico’.

Aan het gebruik van AI worden dan bepaalde eisen gesteld alvorens deze systemen mogen worden gebruikt:

1. Er moet een risicomanagementsysteem aanwezig zijn
2. Er moet een systeem voor gegevensbeheer bestaan
3. Technische documentatie over het AI-systeem moet aanwezig zijn
4. Het moet duidelijk zijn hoe het systeem werkt
5. Menselijk toezicht is vereist
6. Er geldt een specifiek conformiteitsbeoordelingsprocedure

Tot slot bestaan er de AI-systemen  waarvan het gebruik een beperkt risico voor de gebruiker vormt. Dit zijn alle AI-systemen die niet onder de voorgaande risiconiveaus vallen. Deze systemen moeten voldoen aan transparantie-eisen en moeten zo zijn ingesteld dat geen beslissingen zonder menselijke tussenkomst kunnen worden genomen.

Zorgen over gevolgen AI Act

Er bestaat wel al weerstand tegen deze mogelijk nieuwe  regelgeving. Ruim 160 bestuurders van Europese bedrijven hebben al – middels een brief – hun zorgen geuit over de gevolgen van de wetgeving. Met name omdat generatieve AI, zoals ChatGPT, valt onder het hoge risiconiveau. De toepasselijke verplichtingen zouden in deze gevallen kunnen leiden tot hoge kosten en aansprakelijkheidsrisico’s voor bedrijven met als gevolg een uitstroom van innovatieve Europese bedrijven naar landen buiten de Europese Unie.

Ondanks dat deze regelgeving nog ver weg lijkt, is het mijn inziens verstandig – in ieder geval – als bestuurder van een bedrijf te inventariseren welke AI-toepassingen (zullen) worden gebruikt en of het gebruik van AI in jouw bedrijf binnen één van de risicosectoren valt. Blijf als bestuurder in ieder geval op de hoogte van deze ontwikkelingen, zodat het bedrijf goed is voorbereid op de komende (complexe) regelgeving.

Meer weten over bestuurdersverantwoordelijkheid en AI?

Risicobeheersing- en controlesystemen verschillen per onderneming en sector. De toepasbaarheid van AI is afhankelijk van het type ondernemingsactiviteiten. Bij elke onderneming bepalen bedrijfseigen factoren hoe op verantwoordelijke wijze met AI moet worden omgegaan. Heb je vragen over bestuurdersverantwoordelijkheid en de toepassing van AI? Neem dan vrijblijvend contact met mij op.

Meer weten over ondernemingsrecht?

Onze advocaten werken graag met u samen binnen compacte teams van specialisten. Zij kennen uw praktijk en beschikken over de expertise om snel en to the point met u mee te denken en te adviseren.

In het bestuur van een vennootschap in Hong Kong zit al een robot – genaamd Vital – die mag meebeslissen over investeringen. Naar Nederlands recht zou een dergelijke robotbestuurder nog niet mogelijk zijn, omdat een bestuurder in Nederland een natuurlijk persoon of een rechtspersoon moet zijn. AI kan een robot mogelijk wel als hulpmiddel dienen voor bestuurders om hun bestuurstaak beter uit te voeren.

Bestuurstaak

In de Nederlandse wet kennen we een summiere en algemene beschrijving van de bestuurstaak: het bestuur is belast met het besturen van de vennootschap. Wat de precieze inhoud is van de bestuurstaak, is afhankelijk van onder andere de statuten, het belang van de vennootschap en het soort onderneming dat de vennootschap drijft. Onder ‘besturen’ verstaan we in het algemeen het dragen van de verantwoordelijkheid voor de dagelijkse gang van zaken, de strategie en het financieel beleid. Ook het risicomanagement valt onder de bestuurstaak.

Risicomanagement

Risicomanagement is één van de kerntaken van het bestuur en omvat in het bijzonder:

i) De naleving van wet- en regelgeving door de vennootschap;
ii)De beheersing van risico’s die verband houden met de activiteiten van de vennootschap. Denk hierbij aan toezicht op fraude binnen de onderneming, de omgang met koersrisico’s en het naleven van nieuwe regelgeving.

Volgens de Nederlandse Corporate Governance Code moet het bestuur de werking van de interne risicobeheersings- en controlesystemen monitoren en ten minste jaarlijks een systematische beoordeling uitvoeren van de opzet en de werking van de systemen.

Risicomanagement & AI

Door middel van AI kunnen besluiten gemakkelijker en sneller worden genomen. Het nadeel is een gebrek aan transparantie van op AI gebaseerde besluiten. De gang van zaken binnen de vennootschap, waarop de bestuurder toezicht dient te houden, wordt door het gebruik van AI ingewikkelder en complexer. Deze verandering vergt een verdere investering in risicobeheersing en compliance.

Daarnaast kan AI worden gebruikt om de bestuurder te helpen bij het uitvoeren van zijn risicomanagement taak. Het genoemde gebrek aan transparantie en toezicht bij het gebruik van AI is echter een risico. Bovendien is de risicomanagementtaak afhankelijk van feiten en omstandigheden binnen de vennootschap die constant aan verandering onderhevig zijn. Dit maakt het gebruik van AI bij het risicomanagement lastig, maar niet onuitvoerbaar.

Ook de proportionaliteit van het gebruik van AI is van belang. Grote afhankelijkheid van AI brengt risico’s met zich mee die vooraf dienen te worden onderzocht, geïdentificeerd en vastgesteld. Hoe groter de risico’s, hoe groter de kans op een fout en mogelijke aansprakelijkheid van het bestuur.

Bestuurdersaansprakelijkheid

Indien blijkt dat het bestuur zijn risicomanagement taak niet behoorlijk heeft vervuld, ligt bestuurdersaansprakelijkheid op de loer. Deze aansprakelijkheid kan zowel worden ingesteld vanuit de vennootschap (intern) als door derden (extern). Een bestuurder is overigens pas aansprakelijk als hem/haar een persoonlijk ernstig verwijt kan worden gemaakt.

Handvatten voor bestuurders bij gebruik van AI

Ter voorkoming van mogelijke bestuurdersaansprakelijkheid doet het bestuur er goed aan om op onder meer de volgende punten te letten:

• voorkom een te grote afhankelijkheid van AI. Neem bijvoorbeeld alleen bepaalde risicoloze besluiten middels AI of gebruik AI als hulpmiddel voor het managen van risico’s die in de extremen liggen en niet afhankelijk zijn van vele factoren.
• identificeer en inventariseer wat de toekomstige risico’s voor uw onderneming zijn en breng in kaart in hoeverre deze risico’s kunnen worden beheerst met AI.

Vragen

Risicobeheersing- en controlesystemen verschillen per onderneming en sector. Zo ook is de toepasbaarheid van AI afhankelijk van het type ondernemingsactiviteiten. Bij elke onderneming zijn verschillende factoren van doorslaggevend belang. Wij kunnen uw vragen over bestuurdersverantwoordelijkheid en de toepassing van AI beantwoorden. Wilt u meer weten over dit onderwerp? Neem dan contact op met Anne-Mieke Dumoulin-Siemens of Pim Lieffering.