De UE AI-wet. Hoe reguleert Europa het gebruik van kunstmatige intelligentie | AI in business #68

Wat is de AI-wet, en waarom is het belangrijk voor MKB’s (kleine en middelgrote ondernemingen)?

De AI-wet is de eerste regelgeving van zijn soort ter wereld. De eerste die kunstmatige intelligentie op een mensgerichte manier volledig aanpakt. Het doel is ervoor te zorgen dat AI-systemen die in Europa worden gebruikt veilig zijn en innovatie stimuleren, terwijl de fundamentele rechten worden gerespecteerd, met een speciale focus op:

• gezondheidszorg – bijvoorbeeld het respecteren van de privacy van patiëntgegevens,
• onderwijs – het naleven van waarden die door de Europese Unie worden bevorderd en het vermijden van discriminatie,
• grensbescherming – zorgen voor veiligheid zonder de rechten van burgers te schenden,
• publieke diensten – het volgen van best practices op het gebied van gegevensbescherming, het recht op informatie en duidelijke communicatie.

Voor MKB’s zal de AI-wet voornamelijk meer juridische zekerheid bieden, aangezien deze het kader voor innovatie duidelijk definieert: de principes van het ontwerpen, ontwikkelen en toepassen van AI-systemen. Het zal het voor bedrijven gemakkelijker maken om te investeren in op AI gebaseerde oplossingen, waardoor juridische risico’s worden verminderd. Bovendien zullen regels die in de hele Unie van toepassing zijn, marktfragmentatie voorkomen.

Europese regelgeving over kunstmatige intelligentie werd op 9 december 2023 aangenomen door het Europees Parlement en de Raad van Europa. Nu moeten ze formeel door beide instellingen worden goedgekeurd om van kracht te worden.

Belangrijke aspecten van de AI-wet voor bedrijven

De EU AI-wet introduceert een reeks vereisten voor AI-systemen, afhankelijk van het risiconiveau. Deze vereisten omvatten onder andere:

• de verplichting tot transparantie en het informeren van gebruikers in het geval van interacties met chatbots, biometrische systemen of emotieherkenningstechnologieën,
• verbod op het gebruik van gevoelige attributen voor biometrische categorisatie,
• verplichte conformiteitsbeoordeling vóór de markttoegang voor systemen met een hoog risico,
• verplichte registratie in de EU-database — nadat de AI-wet van kracht is, moeten AI-systemen die in belangrijke sectoren zoals onderwijs, werkgelegenheid, gezondheidszorg en wetshandhaving worden gebruikt, geregistreerd worden.

Fabrikanten en bedrijven die AI-systemen gebruiken, zullen ook verplicht zijn om risico’s te monitoren na de introductie op de markt. Dit zal directe gevolgen hebben voor bedrijven die AI-systemen ontwerpen en implementeren.

Risiconiveaus van AI-systemen volgens de EU AI-wet

De AI-wet classificeert AI-systemen in vier categorieën op basis van hun risiconiveau:

1. Onacceptabel risico
2. Hoog risico
3. Beperkt risico
4. Minimaal risico

Laten we eens nader bekijken hoe elke groep zal worden gedefinieerd, samen met voorbeelden van systemen en hun classificaties.

Onacceptabel risico

De Europese Unie legt een volledig verbod op het gebruik van technologieën die in de AI-wet zijn vermeld als systemen met onacceptabel risico. Dit zijn voornamelijk systemen die zijn ontworpen om de kwetsbaarheid van individuen voor suggestie te exploiteren voor manipulatie of misleiding, systemen die kunstmatige intelligentie de mogelijkheid geven om beslissingen te nemen in cruciale zaken, en die kunnen leiden tot machtsmisbruik. Voorbeelden van AI met onacceptabel risico zijn:

• autonome wapens die zonder menselijke supervisie opereren,
• systemen voor geloofwaardigheidsbeoordeling die door wetshandhavingsinstanties worden gebruikt,
• automatische identificatiesystemen van individuen in openbare ruimtes, zoals die op basis van camerabeelden,
• kunstmatige intelligentiesystemen die schadelijk kunnen zijn voor individuen met fysieke of mentale beperkingen,
• AI die voor wetshandhavingsdoeleinden wordt gebruikt, met beperkte uitzonderingen,
• kunstmatige intelligentiesystemen die schadelijke “subliminale” en manipulerende technieken gebruiken.

Voor bedrijven is de laatste categorie bijzonder belangrijk. Daarom zal transparantie in de werking van systemen die suggesties aan gebruikers en klanten bieden cruciaal zijn voor de naleving van de nieuwe wetgeving van de Europese Unie.

Hoog risico

Kunstmatige intelligentie die als een hoog-risico AI-oplossing wordt geclassificeerd, moet voldoen aan strenge vereisten voordat deze op de markt komt. Dit omvat conformiteitsbeoordelingen en strenge tests voordat goedkeuring voor gebruik wordt verleend. Deze risicocategorie omvat acht gebieden, zoals:

• autonome voertuigen,
• medische diagnostische systemen,
• voorspellende algoritmen ter ondersteuning van het rechtssysteem,
• migratie- en asielbeheer, grenscontrole, evenals
• werkgelegenheid en personeelsbeheer.

Beperkt risico

Voor systemen met beperkt risico, die het meest worden gebruikt in het bedrijfsleven, hebben wetgevers gelukkig veel minder aandacht besteed. Deze categorie omvat:

• AI-chatbots – gebruikt voor klantenservice of het beantwoorden van veelgestelde vragen in de vorm van een vrijlopende conversatie,
• emotieherkenningssystemen – gebruikt, bijvoorbeeld, om gegevens te verzamelen over klantopinies over een bedrijf,
• biometrische categorisatiesystemen – zoals het beoordelen van het geslacht of de leeftijd van klanten in een fysieke winkel,
• beeld-, audio- of video-generatie – ondanks de bedreiging die door deep fakes wordt gevormd, zal dit gebied onderworpen zijn aan een beperkte set verplichtingen.

Laag of minimaal risico

AI-oplossingen met een laag risico zijn niet onderworpen aan wettelijke regelgeving. De AI-wet zal alleen vermelden dat makers en gebruikers van dergelijke oplossingen vrijwillig gebruiksbeleid moeten vaststellen. Dit betreft oplossingen zoals:

• inhoudsaanbevelingssystemen in streamingdiensten, of
• chatbots op websites die reageren op typische klantvragen.

Welke vereisten stelt de AI-wet aan oplossingen die door mijn bedrijf worden gebruikt?

Om te controleren of de kunstmatige intelligentie die door een bedrijf wordt gebruikt, voldoet aan de AI-wet, moet je:

• het classificeren in een van de vier hierboven beschreven risicocategorieën,
• als het AI van hoog risico is, een conformiteitsbeoordeling uitvoeren,
• goede praktijken toepassen met betrekking tot laag-risico AI.

Laten we kijken naar voorbeelden van veelgebruikte AI-oplossingen door bedrijven. Aan welke vereisten moeten ze voldoen?

Een klantenservice-chatbot die basisinformatie over producten biedt of typische klantvragen beantwoordt, zal waarschijnlijk worden geclassificeerd als een minimaal-risicosysteem. Het zal moeten:

• gebruikers informeren dat ze met AI interageren,
• de optie bieden om te worden doorgeschakeld naar een menselijke consultant,
• zich houden aan algemene vereisten met betrekking tot transparantie, non-discriminatie, enz.

Een productaanbevelingssysteem in e-commerce zal waarschijnlijk worden beschouwd als een laag-risicosysteem. Het zal noodzakelijk zijn om klanten te informeren dat ze gepersonaliseerde aanbevelingen ontvangen en de optie te bieden om deze uit te schakelen.

Aan de andere kant zal een systeem voor automatische medische diagnostiek worden geclassificeerd als een hoog-risicosysteem. Het zal een rigoureuze beoordeling moeten ondergaan voordat het op de markt komt en moet worden gecontroleerd door een mens. Bovendien zal het noodzakelijk zijn om de werking ervan te monitoren en incidenten te rapporteren.

Het systeem voor het voorkomen van stedelijke criminaliteit zal ook als hoog-risico worden beschouwd. Het zal moeten voldoen aan de regelgeving over de bescherming van de privacy en andere fundamentele rechten. De werking ervan moet onder constante menselijke supervisie staan.

Het is onduidelijk in welke categorie AI-gebaseerde besluitvormingssystemen zullen vallen. Het is waarschijnlijk dat een AI-gebaseerd wervingssysteem dat zelfstandig aanstellingsbeslissingen neemt, zal worden beschouwd als een AI-oplossing met onacceptabel risico. Aan de andere kant zou een wervingsondersteuningssysteem dat mensen helpt hun werk te doen, worden beschouwd als een hoog-risico-oplossing.

In het belang van het welzijn van de gebruikers, evenals mogelijke wijzigingen in classificaties, is het zeer belangrijk om de constructie en het gebruik van AI-systemen vanaf het begin op een ethische en verantwoorde manier aan te pakken.

Wat zijn de gevolgen van het niet naleven van de AI-wet?

Het niet volgen van de AI-wet kan leiden tot aanzienlijke boetes voor bedrijven, variërend van €35 miljoen of 7% van de wereldwijde omzet voor grote ondernemingen tot €7,5 miljoen of 1,5% voor MKB’s. Onwettige AI-systemen kunnen van de markt worden gehaald en hun gebruik kan worden beperkt.

Hoe je je kunt voorbereiden op de inwerkingtreding van de AI-wet?

Hoe bereid je een bedrijf dat kunstmatige intelligentie gebruikt voor op de inwerkingtreding van de AI-wet in 2025? Hier zijn enkele tips over hoe MKB’s en startups zich op dit moment kunnen voorbereiden:

• blijf op de hoogte van de voortgang van het werk en de tijdlijn voor de implementatie van de regelgeving,
• evalueer AI-systemen die al in gebruik zijn en pas ze aan de nieuwe vereisten aan,
• besteed bijzondere aandacht aan ethische aspecten bij het ontwerp van AI.

Samenvatting

De introductie van de AI-wet is een grote verandering voor het AI-ecosysteem in Europa. Met duidelijke en consistente regels belooft het echter de veilige en ethische ontwikkeling van deze technologie te waarborgen, wat vooral ten goede moet komen aan MKB’s en startups.

De AI-wet, die in 2025 van kracht zal worden, zal aanzienlijke veranderingen met zich meebrengen in hoe kleine en middelgrote ondernemingen (MKB’s) kunstmatige intelligentie kunnen benutten. Voor MKB’s betekent dit voornamelijk de noodzaak van zorgvuldige overweging en analyse van de AI-oplossingen die ze gebruiken, zowel in termen van naleving van regelgeving als de potentiële impact op klanten en de gemeenschap.

Voor kleine ondernemers en managers is het essentieel om te begrijpen hoe hun AI-systemen worden geclassificeerd in termen van risico en welke acties nodig zijn om ze in overeenstemming te brengen met de aankomende regelgeving. Neem bijvoorbeeld AI-systemen die worden gebruikt in klantbeheer of marketing, die voorheen vrij werden gebruikt. Nu zullen ze een grondige analyse vereisen voor naleving van de AI-wet. Dit zou nieuwe kansen kunnen creëren voor bedrijven die gespecialiseerd zijn in juridische technologie, die MKB’s ondersteuning bieden bij het aanpassen aan deze nieuwe vereisten.

Als je onze inhoud leuk vindt, sluit je dan aan bij onze drukke bijengemeenschap op Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.