Lieffering

Blijf als bestuurder goed op de hoogte van AI-ontwikkelingen

Blijf als bestuurder goed op de hoogte van AI-ontwikkelingen 525 400 Ekelmans Advocaten
AI-ontwikkelingen
Leestijd: 4 minuten
Lesedauer: 4 Minuten
Reading time: 4 minutes

Artificial Intelligence (AI) is niet meer weg te denken uit ons dagelijks leven. Ook in het bedrijfsleven is er grote belangstelling voor AI. Steeds vaker zetten organisaties AI-technologie in voor verschillende toepassingen. Vanuit het perspectief van een bestuurder of leidinggevende is het van belang de ontwikkelingen op AI-gebied goed in de gaten te houden.

In een eerder verschenen artikel ‘Gebruik artificiële intelligentie door het bestuur – risico of kans?’ schreef ik over de invloed van AI op de rol van een bestuurder. Naar aanleiding van de robot Vital, die deelgenoot was gemaakt van het bestuur van een vennootschap in Hong Kong, besprak ik de mogelijkheid van een AI-robot als hulpmiddel voor bestuurders om bestuurderstaak beter uit te voeren. Ook binnen Europa komt de robotbestuurder inmiddels voor. Zo heeft een Pools bedrijf een AI robot benoemd tot mededirecteur van de onderneming.

AI-ontwikkelingen bij buurlanden

Anders dan in Hong Kong en Polen is een dergelijke robotbestuurder in Nederland nog niet mogelijk, omdat een bestuurder in Nederland een natuurlijk persoon of een rechtspersoon moet zijn . De ontwikkelingen gaan snel en gezien de internationale structuur van bedrijven is het dus raadzaam om de ontwikkelingen bij onze buurlanden in de gaten te houden. Vaak zien we Nederlandse bedrijven met een buitenlandse bestuurder, waarvoor weer andere regels kunnen gelden dan in Nederland.

Gezien de positie van Nederlandse bedrijven in de mondiale markt is het raadzaam de AI-ontwikkelingen bij onze buurlanden in de gaten te houden.

Europese regels op komst

Op Europees niveau zijn enorme ontwikkelingen in regelgeving op het gebied van data en technologie gaande. Het mag duidelijk zijn – gezien alle nieuwe voorstellen – dat de Europese Unie een enorme inhaalslag heeft te maken op dit gebied.

Op 14 juni 2023 heeft het Europees Parlement overeenstemming bereikt over een kader van regels bij het gebruik van AI. Deze vormen een basis voor de AI Act, een bindende Europese verordening, die naar verwachting al in 2026 in werking  zou moeten treden. . Het doel is om betere voorwaarden te scheppen voor de ontwikkeling en het gebruik van deze nieuwe AI-technologie. De AI Act geldt voor alle autonoom handelende computersystemen die (i) beslissingen nemen, (ii) inhoud genereren of (iii) mensen assisteren binnen een bedrijf. Het Europees Parlement koos daarbij voor een algemene brede aanpak: de regelgeving moet zien op alle sectoren. Voor sommige – vooruitlopende – sectoren zal deze regelgeving aansluiten op al bestaande regelgeving.

Risiconiveaus

Het Europees Parlement maakt onderscheid in risiconiveaus van AI op basis van het risico dat ze vormen voor de gebruiker. Hoe hoger het risico, hoe meer het gebruik van AI wordt gereguleerd..

De kaderregelgeving noemt 3 niveaus:

  1. onaanvaardbaar risico
  2. hoog risico
  3. beperkt risico

Wanneer het gebruik van AI strijdig is met de Europese fundamentele normen en waarden, valt dit gebruik in het niveau ‘onaanvaardbaar risico’. Denk hierbij aan gezichtsherkenning in openbare ruimtes. Dergelijke toepassingen worden verboden.

AI-systemen die een hoog risico vormen voor de veiligheid of grondrechten van personen vallen in het niveau ‘hoog risico’.

Aan het gebruik van AI worden dan bepaalde eisen gesteld alvorens deze systemen mogen worden gebruikt:

  1. Er moet een risicomanagementsysteem aanwezig zijn
  2. Er moet een systeem voor gegevensbeheer bestaan
  3. Technische documentatie over het AI-systeem moet aanwezig zijn
  4. Het moet duidelijk zijn hoe het systeem werkt
  5. Menselijk toezicht is vereist
  6. Er geldt een specifiek conformiteitsbeoordelingsprocedure

Tot slot bestaan er de AI-systemen  waarvan het gebruik een beperkt risico voor de gebruiker vormt. Dit zijn alle AI-systemen die niet onder de voorgaande risiconiveaus vallen. Deze systemen moeten voldoen aan transparantie-eisen en moeten zo zijn ingesteld dat geen beslissingen zonder menselijke tussenkomst kunnen worden genomen.

Zorgen over gevolgen AI Act

Er bestaat wel al weerstand tegen deze mogelijk nieuwe  regelgeving. Ruim 160 bestuurders van Europese bedrijven hebben al – middels een brief – hun zorgen geuit over de gevolgen van de wetgeving. Met name omdat generatieve AI, zoals ChatGPT, valt onder het hoge risiconiveau. De toepasselijke verplichtingen zouden in deze gevallen kunnen leiden tot hoge kosten en aansprakelijkheidsrisico’s voor bedrijven met als gevolg een uitstroom van innovatieve Europese bedrijven naar landen buiten de Europese Unie.

Ondanks dat deze regelgeving nog ver weg lijkt, is het mijn inziens verstandig – in ieder geval – als bestuurder van een bedrijf te inventariseren welke AI-toepassingen (zullen) worden gebruikt en of het gebruik van AI in jouw bedrijf binnen één van de risicosectoren valt. Blijf als bestuurder in ieder geval op de hoogte van deze ontwikkelingen, zodat het bedrijf goed is voorbereid op de komende (complexe) regelgeving.

Meer weten over bestuurdersverantwoordelijkheid en AI?

Risicobeheersing- en controlesystemen verschillen per onderneming en sector. De toepasbaarheid van AI is afhankelijk van het type ondernemingsactiviteiten. Bij elke onderneming bepalen bedrijfseigen factoren hoe op verantwoordelijke wijze met AI moet worden omgegaan. Heb je vragen over bestuurdersverantwoordelijkheid en de toepassing van AI? Neem dan vrijblijvend contact met mij op.

Meer weten over ondernemingsrecht?

Onze advocaten werken graag met u samen binnen compacte teams van specialisten. Zij kennen uw praktijk en beschikken over de expertise om snel en to the point met u mee te denken en te adviseren.

Auteur

Pim Lieffering is advocaat Corporate. Hij houdt zich bezig met alle aspecten van het ondernemingsrecht, van het opstellen van en procederen over commerciële contracten tot het begeleiden van fusies en overnames. Krijgt Pim een vraag voorgelegd, dan kijkt hij altijd naar het grotere geheel. Doordat hij net iets verder kijkt, verrast hij zijn cliënten geregeld met creatieve oplossingen.

Een nieuwe (tijdelijke) regeling voor turboliquidatie

Een nieuwe (tijdelijke) regeling voor turboliquidatie 525 400 Ekelmans Advocaten
Turbuliquidatie
Leestijd: 4 minuten
Lesedauer: 4 Minuten
Reading time: 4 minutes

Turboliquidatie, het op een simpele manier opdoeken van een rechtspersoon, bestaat alleen in Nederland. In andere landen zoals Duitsland of Engeland heeft de bestuurder deze optie niet. Onder de ‘Nederlandse’ bestuurder is het een begeerd instrument: maar liefst 36.456 turboliquidaties vonden plaats in 2022. Op 15 november 2023 treedt de (op het eerste gezicht beperkende) Tijdelijke Wet Transparantie Turboliquidatie in werking. Is de turboliquidatie voor de bestuurder van de Nederlandse BV of NV dan nog wel aantrekkelijk?

Het snel en makkelijk liquideren van een rechtspersoon wordt binnenkort (gedeeltelijk) ingeperkt. Op 14 maart 2023 heeft de Eerste Kamer namelijk ingestemd met het Wetsvoorstel Tijdelijke Wet Transparantie Turboliquidatie. De reden voor deze wet zou gelegen zijn in het feit dat turboliquidatie door het uitbreken van de coronapandemie vatbaar is geworden voor fraude. Het doel van de wet is om meer transparantie te bieden aan schuldeisers die nu na een turboliquidatie in het ongewisse worden gelaten. De wet heeft een looptijd van twee jaar en heeft een optie om met twee extra jaren te worden verlengd. Op 15 november 2023 treedt de wet  in werking.

De turboliquidatie is een tool die in het buitenland niet bestaat. Holdings uit bijvoorbeeld Duitsland of Engeland gebruiken de tool graag om hun Nederlandse tak op een eenvoudige manier te herstructureren of op te heffen.

Hoe werkt turboliquidatie op dit moment?

De huidige vereisten voor het turboliquideren van een vennootschap zijn simpel. In ieder geval moet sprake zijn van een situatie waarin de vennootschap geen baten meer heeft (dus geen inventaris, liquide middelen en ook geen openstaande vorderingen). Bestuurders bereiken dit door de vennootschap voorafgaand aan de turboliquidatie ‘leeg te maken’. Vervolgens kunnen de aandeelhouders een ontbindingsbesluit nemen waarmee de vennootschap wordt opgeheven. Normaal gesproken begint dan de fase van vereffening van de boedel. Bij een turboliquidatie slaat men deze fase over, omdat de vennootschap reeds leeg is gemaakt. De vennootschap houdt daarom direct op te bestaan.

Wat verandert er voor de bestuurder van de vennootschap en turboliquideren?

Aan de bestaande vereisten voor het turboliquideren van een vennootschap verandert niets. Echter: de bestuurder moet wel een aantal extra handelingen verrichten. Alleen het melden van de turboliquidatie bij de Kamer van Koophandel is niet meer voldoende. De bestuurder moet na de inwerkingtreding van de nieuwe wet namelijk ook aanvullende documenten aanleveren en de schuldeisers informeren:

  • Een balans en een staat van baten en lasten over het jaar waarin de rechtspersoon is ontbonden en het voorgaande boekjaar als er op het moment van ontbinding over dat jaar nog geen jaarrekening openbaar is gemaakt;
  • Een beschrijving van de oorzaak voor het ontbreken van baten;
  • Een beschrijving van de wijze waarop de baten van de vennootschap te gelde zijn gemaakt en de opbrengsten zijn verdeeld.
  • Een beschrijving van de redenen waarom schuldeiser(s) geheel of gedeeltelijk onbetaald zijn gebleven.

Verder moet het bestuur de jaarrekeningen deponeren van voorgaande boekjaren, indien zij daar nog niet al aan heeft voldaan. Vervolgens moet het bestuur schuldeisers informeren over het feit dat zij de stukken heeft gedeponeerd bij de Kamer van Koophandel en de rechtspersoon is geliquideerd.

Het idee achter deze verplichtingen is dat schuldeisers zo snel mogelijk op de hoogte worden gesteld van de liquidatie. Indien het bestuur niet aan deze verplichtingen voldoet dan is sprake van een economisch delict waarop een straf kan staan van maximaal zes maanden hechtenis, een taakstraf of een geldboete van maximaal € 22.500,-.

Wat als schuldeisers worden benadeeld?

Als later blijkt dat bestuurders één of meer schuldeisers door de liquidatie zijn benadeeld, dan kan de rechtbank de bestuurders een bestuursverbod opleggen voor de duur van maximaal vijf jaar. Hiervoor moet sprake zijn van een situatie waarin:

  • De bestuurders niet de vereiste documenten hebben aangeleverd bij de Kamer van Koophandel en de schuldeisers niet hebben bericht over de liquidatie;
  • De bestuurders in aanloop naar de turboliquidatie doelbewust handelingen hebben verricht waarmee één of meer schuldeisers zijn benadeeld;
  • De bestuurders tweemaal eerder betrokken zijn geweest bij een faillissement of turboliquidatie en hen daarvan een persoonlijk verwijt treft.

De turboliquidatie blijft ondanks de nieuwe eisen een nuttig instrument

De nieuwe wet legt een aantal extra eisen op aan turboliquidatie. Desondanks blijft turboliquidatie een handzame manier om rechtspersonen op te heffen of te herstructureren. Aandeelhouders moeten zich dan ook vooral niet tegen laten houden door deze nieuwe vereisten. De wet is bedoeld om fraudeurs aan te pakken en dus niet bedoeld voor aandeelhouders die in alle eerlijkheid een snelle vereffening wensen.

Bent u van plan een rechtspersoon te herstructureren of op te heffen? En wilt u meer informatie over turboliquidatie of heeft u een andere vraag op het gebied van ondernemingsrecht? Neem dan gerust contact met mij op voor een vrijblijvend gesprek.

Meer weten over ondernemingsrecht?

Onze advocaten werken graag met u samen binnen compacte teams van specialisten. Zij kennen uw praktijk en beschikken over de expertise om snel en to the point met u mee te denken en te adviseren.

Auteur

Pim Lieffering is advocaat Corporate. Hij houdt zich bezig met alle aspecten van het ondernemingsrecht, van het opstellen van en procederen over commerciële contracten tot het begeleiden van fusies en overnames. Krijgt Pim een vraag voorgelegd, dan kijkt hij altijd naar het grotere geheel. Doordat hij net iets verder kijkt, verrast hij zijn cliënten geregeld met creatieve oplossingen.

Gebruik artificiële intelligentie door het bestuur – risico of kans?

Gebruik artificiële intelligentie door het bestuur – risico of kans? 2560 1383 Ekelmans Advocaten
Artificiële Intelligentie bestuur
Leestijd: 3 minuten
Lesedauer: 3 Minuten
Reading time: 3 minutes
Expertise:

De ontwikkelingen op het gebied van artificiële intelligentie (AI) volgen elkaar in rap tempo op. Bij het woord robotbestuurder wordt vaak gedacht aan een Tesla die zichzelf kan besturen, maar minder aandacht gaat uit naar de robotbestuurder van een vennootschap.

In het bestuur van een vennootschap in Hong Kong zit al een robot – genaamd Vital – die mag meebeslissen over investeringen. Naar Nederlands recht zou een dergelijke robotbestuurder nog niet mogelijk zijn, omdat een bestuurder in Nederland een natuurlijk persoon of een rechtspersoon moet zijn. AI kan een robot mogelijk wel als hulpmiddel dienen voor bestuurders om hun bestuurstaak beter uit te voeren.

Bestuurstaak

In de Nederlandse wet kennen we een summiere en algemene beschrijving van de bestuurstaak: het bestuur is belast met het besturen van de vennootschap. Wat de precieze inhoud is van de bestuurstaak, is afhankelijk van onder andere de statuten, het belang van de vennootschap en het soort onderneming dat de vennootschap drijft. Onder ‘besturen’ verstaan we in het algemeen het dragen van de verantwoordelijkheid voor de dagelijkse gang van zaken, de strategie en het financieel beleid. Ook het risicomanagement valt onder de bestuurstaak.

Risicomanagement

Risicomanagement is één van de kerntaken van het bestuur en omvat in het bijzonder:

i) De naleving van wet- en regelgeving door de vennootschap;
ii)De beheersing van risico’s die verband houden met de activiteiten van de vennootschap. Denk hierbij aan toezicht op fraude binnen de onderneming, de omgang met koersrisico’s en het naleven van nieuwe regelgeving.

Volgens de Nederlandse Corporate Governance Code moet het bestuur de werking van de interne risicobeheersings- en controlesystemen monitoren en ten minste jaarlijks een systematische beoordeling uitvoeren van de opzet en de werking van de systemen.

Risicomanagement & AI

Door middel van AI kunnen besluiten gemakkelijker en sneller worden genomen. Het nadeel is een gebrek aan transparantie van op AI gebaseerde besluiten. De gang van zaken binnen de vennootschap, waarop de bestuurder toezicht dient te houden, wordt door het gebruik van AI ingewikkelder en complexer. Deze verandering vergt een verdere investering in risicobeheersing en compliance.

Daarnaast kan AI worden gebruikt om de bestuurder te helpen bij het uitvoeren van zijn risicomanagement taak. Het genoemde gebrek aan transparantie en toezicht bij het gebruik van AI is echter een risico. Bovendien is de risicomanagementtaak afhankelijk van feiten en omstandigheden binnen de vennootschap die constant aan verandering onderhevig zijn. Dit maakt het gebruik van AI bij het risicomanagement lastig, maar niet onuitvoerbaar.

Ook de proportionaliteit van het gebruik van AI is van belang. Grote afhankelijkheid van AI brengt risico’s met zich mee die vooraf dienen te worden onderzocht, geïdentificeerd en vastgesteld. Hoe groter de risico’s, hoe groter de kans op een fout en mogelijke aansprakelijkheid van het bestuur.

Bestuurdersaansprakelijkheid

Indien blijkt dat het bestuur zijn risicomanagement taak niet behoorlijk heeft vervuld, ligt bestuurdersaansprakelijkheid op de loer. Deze aansprakelijkheid kan zowel worden ingesteld vanuit de vennootschap (intern) als door derden (extern). Een bestuurder is overigens pas aansprakelijk als hem/haar een persoonlijk ernstig verwijt kan worden gemaakt.

Handvatten voor bestuurders bij gebruik van AI

Ter voorkoming van mogelijke bestuurdersaansprakelijkheid doet het bestuur er goed aan om op onder meer de volgende punten te letten:

  • voorkom een te grote afhankelijkheid van AI. Neem bijvoorbeeld alleen bepaalde risicoloze besluiten middels AI of gebruik AI als hulpmiddel voor het managen van risico’s die in de extremen liggen en niet afhankelijk zijn van vele factoren.
  • identificeer en inventariseer wat de toekomstige risico’s voor uw onderneming zijn en breng in kaart in hoeverre deze risico’s kunnen worden beheerst met AI.

Vragen

Risicobeheersing- en controlesystemen verschillen per onderneming en sector. Zo ook is de toepasbaarheid van AI afhankelijk van het type ondernemingsactiviteiten. Bij elke onderneming zijn verschillende factoren van doorslaggevend belang. Wij kunnen uw vragen over bestuurdersverantwoordelijkheid en de toepassing van AI beantwoorden. Wilt u meer weten over dit onderwerp? Neem dan contact op met Anne-Mieke Dumoulin-Siemens of Pim Lieffering.

Auteur

Het gebruik van gezichtsherkenning door de werkgever: mag dat eigenlijk?

Het gebruik van gezichtsherkenning door de werkgever: mag dat eigenlijk? 2560 1707 Ekelmans Advocaten
gezichtsherkenning
Leestijd: 3 minuten
Lesedauer: 3 Minuten
Reading time: 3 minutes
Expertise:

Steeds vaker zetten bedrijven gezichtsherkenning in voor de identificatie en verificatie van werknemers bij de toegangscontrole. De Algemene verordening gegevensbescherming (AVG) bevat regels voor de verwerking van deze zogenoemde biometrische persoonsgegevens.

De Uitvoeringswet (UAVG) bevat nadere bepalingen hierover. Het is de vraag in hoeverre werkgevers, met het oog op deze privacy-bepalingen, gebruik kunnen maken van deze biometrische persoonsgegevens van werknemers.

Wat zijn biometrische gegevens?

De gegevens uit gezichtsherkenning worden door de AVG geschaard onder biometrische persoonsgegevens. Biometrische gegevens zijn gegevens die het resultaat zijn van een specifieke technische verwerking van fysieke, fysiologische of gedrag gerelateerde kenmerken van een persoon (artikel 4 lid 14 AVG). In het kort zijn dit gegevens waarmee de identificatie van een persoon mogelijk is of een identiteit kan worden bevestigd.

Verbod in de AVG

Volgens de wetgever brengt het verwerken van gezichtsherkenning met het oog op unieke identificatie een groot risico voor de fundamentele rechten en vrijheden van de betrokken personen met zich mee. Behalve de identiteit kan namelijk uit bepaalde lichaamskenmerken ook worden afgeleid wat bijvoorbeeld iemands gezondheidstoestand is. Voor deze biometrische persoonsgegevens gelden dan ook strenge regels. De hoofdregel ten aanzien van bijzondere persoonsgegevens is dat het verwerken hiervan verboden is, tenzij aan ten minste één van de uitdrukkelijk in AVG genoemde uitzonderingen is voldaan (artikel 9 AVG).

Onder de AVG verboden, tenzij …

De AVG geeft een aantal uitzonderingen waarvan er twee van belang zijn in relatie tot gezichtsherkenning. Een voorbeeld van zo’n uitzondering is de situatie waarin de betrokkene toestemming heeft gegeven voor het verwerken van zijn persoonsgegevens. Maar die toestemming moet volgens de wetgever wel ‘in vrijheid’ zijn gegeven en eenvoudig weer kunnen worden ingetrokken. Dit vereiste van ‘in vrijheid gegeven’ toestemming zal in een werkgever/werknemer relatie echter vrijwel nooit het geval zijn. De wetgever heeft daarover namelijk aangegeven: “Juist in de relatie tussen werknemer en werkgever zal de werknemer in de praktijk in redelijkheid echter nauwelijks toestemming kunnen weigeren, zeker wanneer de toegang tot bepaalde plaatsen noodzakelijk is voor de uitoefening van de werkzaamheden, in het bijzonder de toegang tot specifieke plaatsen, gebouwen, apparatuur en informatiesystemen.”

Een andere uitzondering heeft betrekking op gezichtsherkenning die noodzakelijk is om redenen van zwaarwegend algemeen belang. Het verbod om biometrische gegevens te verwerken is bijvoorbeeld niet van toepassing als de verwerking noodzakelijk is voor authenticatie of beveiligingsdoeleinden. Hiervoor geldt echter wel een strenge toets. Volgens de wetgever moet daarbij worden gedacht aan situaties waarin gebouwen of informatiesystemen een zodanig hoog niveau van beveiliging vereisen dat dit met biometrie moet plaatsvinden.

Verder geeft de wetgever aan dat biometrie kan worden toegepast bij het beveiligen van informatiesystemen die zelf veel persoonsgegevens bevatten, en waarbij onrechtmatige toegang, ook van werknemers, moet worden voorkomen. Daarbij wordt uitdrukkelijk gewezen op de verplichting van organisaties om technische en organisatorische maatregelen te treffen om persoonsgegevens te beschermen (artikel 32 AVG).

Beleidsregels AP voor specifieke toepassingen

Daarnaast heeft de Autoriteit Persoonsgegevens (AP) inmiddels beleidsregels opgesteld voor specifieke toepassingen van gezichtsherkenningstechnologie, zoals het normenkader digitale billboards en het normenkader supermarkten. Hier geeft de AP voor bepaalde specifieke situaties aan onder welke omstandigheden het gebruik van gezichtsherkenningstechnologie eventueel legitiem zou kunnen zijn.

Gezichtsherkenning voor werkgevers

Wil je als werkgever gebruik maken van gezichtsherkenning wees dan voorzichtig. Het gebruik van biometrische gegevens is onder de AVG niet onmogelijk, maar er gelden wel strenge regels. Gebruik van deze gegevens is alleen mogelijk wanneer dit écht noodzakelijk is en er geen andere, minder verstrekkende mogelijkheden bestaan.

Vragen

Heeft u vragen over dit onderwerp, dan neem gerust contact op met onze Privacy Desk.

Auteur

Pim Lieffering starter van de week bij Mr.

Pim Lieffering starter van de week bij Mr. 1900 1357 Ekelmans Advocaten
Pim Lieffering-Ekelmans Advocaten
Leestijd: < 1 minuut
Lesedauer: < 1 Minute
Reading time: < 1 minute
Expertise:

Op Mr-online vertelt Pim Lieffering in de rubriek ‘starter van de week’ over zijn eerste weken bij Ekelmans & Meijer.

Vanaf de tweede week van zijn carrière werkt hij vanuit huis. Hij zegt hierover: “Ik had het geluk dat ik al twee maanden stage had gelopen bij Ekelmans & Meijer. Hierdoor had ik al veel contacten opgebouwd en was het wat makkelijker om in de eerste weken vanuit huis mijn kantoorgenoten te benaderen. Doordat ik regelmatig bel met mijn patroon en andere kantoorgenoten, is het allemaal wel goed te doen. Maar ik heb wel weer enorm veel zin om op kantoor te werken en al mijn kantoorgenoten te zien.”

Via Ekelmans & Meijer kreeg Pim daarnaast een interessante rol binnen het Haagse voetbal: “Ik ben door mijn patroon geïntroduceerd bij ADO Den Haag, waar ik als secretaris van de raad van commissarissen ben gestart.”

Lees het volledige interview met Pim op de website van Mr.

Contact

Aktuelles

We gebruiken cookies om ervoor te zorgen dat onze website zo soepel mogelijk draait. Als je doorgaat met het gebruiken van de website, gaan we ervan uit dat je ermee instemt.