Lieffering

Gebruik artificiële intelligentie door het bestuur – risico of kans?

Gebruik artificiële intelligentie door het bestuur – risico of kans? 2560 1383 Ekelmans Advocaten
Artificiële Intelligentie bestuur
Leestijd: 3 minuten
Lesedauer: 3 Minuten
Reading time: 3 minutes
Expertise:

De ontwikkelingen op het gebied van artificiële intelligentie (AI) volgen elkaar in rap tempo op. Bij het woord robotbestuurder wordt vaak gedacht aan een Tesla die zichzelf kan besturen, maar minder aandacht gaat uit naar de robotbestuurder van een vennootschap.

In het bestuur van een vennootschap in Hong Kong zit al een robot – genaamd Vital – die mag meebeslissen over investeringen. Naar Nederlands recht zou een dergelijke robotbestuurder nog niet mogelijk zijn, omdat een bestuurder in Nederland een natuurlijk persoon of een rechtspersoon moet zijn. AI kan een robot mogelijk wel als hulpmiddel dienen voor bestuurders om hun bestuurstaak beter uit te voeren.

Bestuurstaak

In de Nederlandse wet kennen we een summiere en algemene beschrijving van de bestuurstaak: het bestuur is belast met het besturen van de vennootschap. Wat de precieze inhoud is van de bestuurstaak, is afhankelijk van onder andere de statuten, het belang van de vennootschap en het soort onderneming dat de vennootschap drijft. Onder ‘besturen’ verstaan we in het algemeen het dragen van de verantwoordelijkheid voor de dagelijkse gang van zaken, de strategie en het financieel beleid. Ook het risicomanagement valt onder de bestuurstaak.

Risicomanagement

Risicomanagement is één van de kerntaken van het bestuur en omvat in het bijzonder:

i) De naleving van wet- en regelgeving door de vennootschap;
ii)De beheersing van risico’s die verband houden met de activiteiten van de vennootschap. Denk hierbij aan toezicht op fraude binnen de onderneming, de omgang met koersrisico’s en het naleven van nieuwe regelgeving.

Volgens de Nederlandse Corporate Governance Code moet het bestuur de werking van de interne risicobeheersings- en controlesystemen monitoren en ten minste jaarlijks een systematische beoordeling uitvoeren van de opzet en de werking van de systemen.

Risicomanagement & AI

Door middel van AI kunnen besluiten gemakkelijker en sneller worden genomen. Het nadeel is een gebrek aan transparantie van op AI gebaseerde besluiten. De gang van zaken binnen de vennootschap, waarop de bestuurder toezicht dient te houden, wordt door het gebruik van AI ingewikkelder en complexer. Deze verandering vergt een verdere investering in risicobeheersing en compliance.

Daarnaast kan AI worden gebruikt om de bestuurder te helpen bij het uitvoeren van zijn risicomanagement taak. Het genoemde gebrek aan transparantie en toezicht bij het gebruik van AI is echter een risico. Bovendien is de risicomanagementtaak afhankelijk van feiten en omstandigheden binnen de vennootschap die constant aan verandering onderhevig zijn. Dit maakt het gebruik van AI bij het risicomanagement lastig, maar niet onuitvoerbaar.

Ook de proportionaliteit van het gebruik van AI is van belang. Grote afhankelijkheid van AI brengt risico’s met zich mee die vooraf dienen te worden onderzocht, geïdentificeerd en vastgesteld. Hoe groter de risico’s, hoe groter de kans op een fout en mogelijke aansprakelijkheid van het bestuur.

Bestuurdersaansprakelijkheid

Indien blijkt dat het bestuur zijn risicomanagement taak niet behoorlijk heeft vervuld, ligt bestuurdersaansprakelijkheid op de loer. Deze aansprakelijkheid kan zowel worden ingesteld vanuit de vennootschap (intern) als door derden (extern). Een bestuurder is overigens pas aansprakelijk als hem/haar een persoonlijk ernstig verwijt kan worden gemaakt.

Handvatten voor bestuurders bij gebruik van AI

Ter voorkoming van mogelijke bestuurdersaansprakelijkheid doet het bestuur er goed aan om op onder meer de volgende punten te letten:

  • voorkom een te grote afhankelijkheid van AI. Neem bijvoorbeeld alleen bepaalde risicoloze besluiten middels AI of gebruik AI als hulpmiddel voor het managen van risico’s die in de extremen liggen en niet afhankelijk zijn van vele factoren.
  • identificeer en inventariseer wat de toekomstige risico’s voor uw onderneming zijn en breng in kaart in hoeverre deze risico’s kunnen worden beheerst met AI.

Vragen

Risicobeheersing- en controlesystemen verschillen per onderneming en sector. Zo ook is de toepasbaarheid van AI afhankelijk van het type ondernemingsactiviteiten. Bij elke onderneming zijn verschillende factoren van doorslaggevend belang. Wij kunnen uw vragen over bestuurdersverantwoordelijkheid en de toepassing van AI beantwoorden. Wilt u meer weten over dit onderwerp? Neem dan contact op met Anne-Mieke Dumoulin-Siemens of Pim Lieffering.

Auteur

Het gebruik van gezichtsherkenning door de werkgever: mag dat eigenlijk?

Het gebruik van gezichtsherkenning door de werkgever: mag dat eigenlijk? 2560 1707 Ekelmans Advocaten
gezichtsherkenning
Leestijd: 3 minuten
Lesedauer: 3 Minuten
Reading time: 3 minutes
Expertise:

Steeds vaker zetten bedrijven gezichtsherkenning in voor de identificatie en verificatie van werknemers bij de toegangscontrole. De Algemene verordening gegevensbescherming (AVG) bevat regels voor de verwerking van deze zogenoemde biometrische persoonsgegevens.

De Uitvoeringswet (UAVG) bevat nadere bepalingen hierover. Het is de vraag in hoeverre werkgevers, met het oog op deze privacy-bepalingen, gebruik kunnen maken van deze biometrische persoonsgegevens van werknemers.

Wat zijn biometrische gegevens?

De gegevens uit gezichtsherkenning worden door de AVG geschaard onder biometrische persoonsgegevens. Biometrische gegevens zijn gegevens die het resultaat zijn van een specifieke technische verwerking van fysieke, fysiologische of gedrag gerelateerde kenmerken van een persoon (artikel 4 lid 14 AVG). In het kort zijn dit gegevens waarmee de identificatie van een persoon mogelijk is of een identiteit kan worden bevestigd.

Verbod in de AVG

Volgens de wetgever brengt het verwerken van gezichtsherkenning met het oog op unieke identificatie een groot risico voor de fundamentele rechten en vrijheden van de betrokken personen met zich mee. Behalve de identiteit kan namelijk uit bepaalde lichaamskenmerken ook worden afgeleid wat bijvoorbeeld iemands gezondheidstoestand is. Voor deze biometrische persoonsgegevens gelden dan ook strenge regels. De hoofdregel ten aanzien van bijzondere persoonsgegevens is dat het verwerken hiervan verboden is, tenzij aan ten minste één van de uitdrukkelijk in AVG genoemde uitzonderingen is voldaan (artikel 9 AVG).

Onder de AVG verboden, tenzij …

De AVG geeft een aantal uitzonderingen waarvan er twee van belang zijn in relatie tot gezichtsherkenning. Een voorbeeld van zo’n uitzondering is de situatie waarin de betrokkene toestemming heeft gegeven voor het verwerken van zijn persoonsgegevens. Maar die toestemming moet volgens de wetgever wel ‘in vrijheid’ zijn gegeven en eenvoudig weer kunnen worden ingetrokken. Dit vereiste van ‘in vrijheid gegeven’ toestemming zal in een werkgever/werknemer relatie echter vrijwel nooit het geval zijn. De wetgever heeft daarover namelijk aangegeven: “Juist in de relatie tussen werknemer en werkgever zal de werknemer in de praktijk in redelijkheid echter nauwelijks toestemming kunnen weigeren, zeker wanneer de toegang tot bepaalde plaatsen noodzakelijk is voor de uitoefening van de werkzaamheden, in het bijzonder de toegang tot specifieke plaatsen, gebouwen, apparatuur en informatiesystemen.”

Een andere uitzondering heeft betrekking op gezichtsherkenning die noodzakelijk is om redenen van zwaarwegend algemeen belang. Het verbod om biometrische gegevens te verwerken is bijvoorbeeld niet van toepassing als de verwerking noodzakelijk is voor authenticatie of beveiligingsdoeleinden. Hiervoor geldt echter wel een strenge toets. Volgens de wetgever moet daarbij worden gedacht aan situaties waarin gebouwen of informatiesystemen een zodanig hoog niveau van beveiliging vereisen dat dit met biometrie moet plaatsvinden.

Verder geeft de wetgever aan dat biometrie kan worden toegepast bij het beveiligen van informatiesystemen die zelf veel persoonsgegevens bevatten, en waarbij onrechtmatige toegang, ook van werknemers, moet worden voorkomen. Daarbij wordt uitdrukkelijk gewezen op de verplichting van organisaties om technische en organisatorische maatregelen te treffen om persoonsgegevens te beschermen (artikel 32 AVG).

Beleidsregels AP voor specifieke toepassingen

Daarnaast heeft de Autoriteit Persoonsgegevens (AP) inmiddels beleidsregels opgesteld voor specifieke toepassingen van gezichtsherkenningstechnologie, zoals het normenkader digitale billboards en het normenkader supermarkten. Hier geeft de AP voor bepaalde specifieke situaties aan onder welke omstandigheden het gebruik van gezichtsherkenningstechnologie eventueel legitiem zou kunnen zijn.

Gezichtsherkenning voor werkgevers

Wil je als werkgever gebruik maken van gezichtsherkenning wees dan voorzichtig. Het gebruik van biometrische gegevens is onder de AVG niet onmogelijk, maar er gelden wel strenge regels. Gebruik van deze gegevens is alleen mogelijk wanneer dit écht noodzakelijk is en er geen andere, minder verstrekkende mogelijkheden bestaan.

Vragen

Heeft u vragen over dit onderwerp, dan neem gerust contact op met onze Privacy Desk.

Auteur

Pim Lieffering starter van de week bij Mr.

Pim Lieffering starter van de week bij Mr. 1400 1082 Ekelmans Advocaten
Pim Lieffering
Leestijd: < 1 minuut
Lesedauer: < 1 Minute
Reading time: < 1 minute
Expertise:

Op Mr-online vertelt Pim Lieffering in de rubriek ‘starter van de week’ over zijn eerste weken bij Ekelmans & Meijer.

Vanaf de tweede week van zijn carrière werkt hij vanuit huis. Hij zegt hierover: “Ik had het geluk dat ik al twee maanden stage had gelopen bij Ekelmans & Meijer. Hierdoor had ik al veel contacten opgebouwd en was het wat makkelijker om in de eerste weken vanuit huis mijn kantoorgenoten te benaderen. Doordat ik regelmatig bel met mijn patroon en andere kantoorgenoten, is het allemaal wel goed te doen. Maar ik heb wel weer enorm veel zin om op kantoor te werken en al mijn kantoorgenoten te zien.”

Via Ekelmans & Meijer kreeg Pim daarnaast een interessante rol binnen het Haagse voetbal: “Ik ben door mijn patroon geïntroduceerd bij ADO Den Haag, waar ik als secretaris van de raad van commissarissen ben gestart.”

Lees het volledige interview met Pim op de website van Mr.

Contact

Aktuelles

We gebruiken cookies om ervoor te zorgen dat onze website zo soepel mogelijk draait. Als je doorgaat met het gebruiken van de website, gaan we ervan uit dat je ermee instemt.