Blijf als bestuurder goed op de hoogte van AI-ontwikkelingen

In een eerder verschenen artikel ‘Gebruik artificiële intelligentie door het bestuur – risico of kans?’ schreef ik over de invloed van AI op de rol van een bestuurder. Naar aanleiding van de robot Vital, die deelgenoot was gemaakt van het bestuur van een vennootschap in Hong Kong, besprak ik de mogelijkheid van een AI-robot als hulpmiddel voor bestuurders om bestuurderstaak beter uit te voeren. Ook binnen Europa komt de robotbestuurder inmiddels voor. Zo heeft een Pools bedrijf een AI robot benoemd tot mededirecteur van de onderneming.

AI-ontwikkelingen bij buurlanden

Anders dan in Hong Kong en Polen is een dergelijke robotbestuurder in Nederland nog niet mogelijk, omdat een bestuurder in Nederland een natuurlijk persoon of een rechtspersoon moet zijn . De ontwikkelingen gaan snel en gezien de internationale structuur van bedrijven is het dus raadzaam om de ontwikkelingen bij onze buurlanden in de gaten te houden. Vaak zien we Nederlandse bedrijven met een buitenlandse bestuurder, waarvoor weer andere regels kunnen gelden dan in Nederland.

Europese regels op komst

Op Europees niveau zijn enorme ontwikkelingen in regelgeving op het gebied van data en technologie gaande. Het mag duidelijk zijn – gezien alle nieuwe voorstellen – dat de Europese Unie een enorme inhaalslag heeft te maken op dit gebied.

Op 14 juni 2023 heeft het Europees Parlement overeenstemming bereikt over een kader van regels bij het gebruik van AI. Deze vormen een basis voor de AI Act, een bindende Europese verordening, die naar verwachting al in 2026 in werking  zou moeten treden. . Het doel is om betere voorwaarden te scheppen voor de ontwikkeling en het gebruik van deze nieuwe AI-technologie. De AI Act geldt voor alle autonoom handelende computersystemen die (i) beslissingen nemen, (ii) inhoud genereren of (iii) mensen assisteren binnen een bedrijf. Het Europees Parlement koos daarbij voor een algemene brede aanpak: de regelgeving moet zien op alle sectoren. Voor sommige – vooruitlopende – sectoren zal deze regelgeving aansluiten op al bestaande regelgeving.

Risiconiveaus

Het Europees Parlement maakt onderscheid in risiconiveaus van AI op basis van het risico dat ze vormen voor de gebruiker. Hoe hoger het risico, hoe meer het gebruik van AI wordt gereguleerd..

De kaderregelgeving noemt 3 niveaus:

1. onaanvaardbaar risico
2. hoog risico
3. beperkt risico

Wanneer het gebruik van AI strijdig is met de Europese fundamentele normen en waarden, valt dit gebruik in het niveau ‘onaanvaardbaar risico’. Denk hierbij aan gezichtsherkenning in openbare ruimtes. Dergelijke toepassingen worden verboden.

AI-systemen die een hoog risico vormen voor de veiligheid of grondrechten van personen vallen in het niveau ‘hoog risico’.

Aan het gebruik van AI worden dan bepaalde eisen gesteld alvorens deze systemen mogen worden gebruikt:

1. Er moet een risicomanagementsysteem aanwezig zijn
2. Er moet een systeem voor gegevensbeheer bestaan
3. Technische documentatie over het AI-systeem moet aanwezig zijn
4. Het moet duidelijk zijn hoe het systeem werkt
5. Menselijk toezicht is vereist
6. Er geldt een specifiek conformiteitsbeoordelingsprocedure

Tot slot bestaan er de AI-systemen  waarvan het gebruik een beperkt risico voor de gebruiker vormt. Dit zijn alle AI-systemen die niet onder de voorgaande risiconiveaus vallen. Deze systemen moeten voldoen aan transparantie-eisen en moeten zo zijn ingesteld dat geen beslissingen zonder menselijke tussenkomst kunnen worden genomen.

Zorgen over gevolgen AI Act

Er bestaat wel al weerstand tegen deze mogelijk nieuwe  regelgeving. Ruim 160 bestuurders van Europese bedrijven hebben al – middels een brief – hun zorgen geuit over de gevolgen van de wetgeving. Met name omdat generatieve AI, zoals ChatGPT, valt onder het hoge risiconiveau. De toepasselijke verplichtingen zouden in deze gevallen kunnen leiden tot hoge kosten en aansprakelijkheidsrisico’s voor bedrijven met als gevolg een uitstroom van innovatieve Europese bedrijven naar landen buiten de Europese Unie.

Ondanks dat deze regelgeving nog ver weg lijkt, is het mijn inziens verstandig – in ieder geval – als bestuurder van een bedrijf te inventariseren welke AI-toepassingen (zullen) worden gebruikt en of het gebruik van AI in jouw bedrijf binnen één van de risicosectoren valt. Blijf als bestuurder in ieder geval op de hoogte van deze ontwikkelingen, zodat het bedrijf goed is voorbereid op de komende (complexe) regelgeving.

Meer weten over bestuurdersverantwoordelijkheid en AI?

Risicobeheersing- en controlesystemen verschillen per onderneming en sector. De toepasbaarheid van AI is afhankelijk van het type ondernemingsactiviteiten. Bij elke onderneming bepalen bedrijfseigen factoren hoe op verantwoordelijke wijze met AI moet worden omgegaan. Heb je vragen over bestuurdersverantwoordelijkheid en de toepassing van AI? Neem dan vrijblijvend contact met mij op.

Meer weten over ondernemingsrecht?

Onze advocaten werken graag met u samen binnen compacte teams van specialisten. Zij kennen uw praktijk en beschikken over de expertise om snel en to the point met u mee te denken en te adviseren.