In een eerdere blog over de AI Act schreven we over het voorlopige akkoord dat de onderhandelaars van het Europees Parlement en de Europese Raad hebben bereikt over de artificiële intelligentie (AI) wet. Sindsdien heeft de Nederlandse overheid als één van de eerste lidstaten van de Europese Unie een visie op generatieve AI gepubliceerd. De noodzaak hiertoe komt uit de grote schaal, de snelle ontwikkeling en de lage gebruiksdrempel van generatieve AI. Generatieve AI is een AI-vorm die via (menselijke) input en instructies allerlei soorten content kan genereren, zoals teksten en afbeeldingen.
Het Nederlandse kabinet heeft als doel dat generatieve AI rechtvaardigheid, veiligheid, welvaart, duurzaamheid, het menselijk welzijn en de persoonlijke autonomie vergroot. Met de visie wenst de overheid randvoorwaarden te creëren voor een verantwoordelijke ontwikkeling en gebruik van generatieve AI. De visie bevat een zeer complete uiteenzetting van de kansen en risico’s van generatieve AI. Ook concretiseert het de uitgangspunten en de te nemen acties om tot een verantwoorde ontwikkeling en gebruik van generatieve AI te komen. De visie bevat het perspectief van de Nederlandse overheid, maar het biedt ook inzichten voor bedrijven en particulieren. In deze blog lees je de hoofdpunten uit de visie.
Kansen van generatieve AI
De verscheidenheid aan kansen en opties die generatieve AI biedt zijn immens. In allerlei sectoren kan het processen optimaliseren en automatiseren. De visie maakt een handzaam onderscheid in drie rollen die generatieve AI kan vervullen. Ten eerste kan generatieve AI voor de productie van content worden ingezet, zoals het schrijven van computercode. Ten tweede voor het analyseren van data, zodat gebruikers ervan leren. Als derde kan het bijdragen leveren aan het oplossen van grote maatschappelijke problemen. Denk bijvoorbeeld aan de duurzaamheidstransitie en cyberveiligheid. Generatieve AI kan dus zowel een productietool, een leerinstrument als een probleemoplosser zijn.
Risico's van generatieve AI
De visie maakt onderscheid tussen vier gebieden van uitdagingen en risico’s van generatieve AI:
Invloed op individuele burgers
- Risico op ongelijke behandeling en discriminatie;
- Risico op privacyschendingen en beïnvloeding van de autonomie van gebruikers;
- Verlies van kennis en vaardigheden van gebruikers;
- Mogelijke inbreuk op auteursrechten, naburige rechten, databankrechten en portretrechten.
Afhankelijkheid en marktmacht
- Groeiende afhankelijkheid van voornamelijk Amerikaanse techbedrijven;
- Generatieve AI vergroot de machtsconcentratie met hoge toetredingsdrempels die kunnen leiden tot oneerlijke handelspraktijken.
Arbeid en arbeidsmarkt
- Veranderingen op het gebied van werkgelegenheid door werkloosheid en loondaling;
- De kwaliteit van werk vergroot, maar kan het menselijke aspect van werk verminderen;
- Ongelijkere verdeling van inkomen en werkzekerheid.
Invloed op de maatschappij
- Toenemende sociale en economische ongelijkheid;
- Onwenselijke klimaatimpact;
- Sneller en op grotere schaal creëren van mis- en desinformatie;
- Onbetrouwbaarheid van juistheid van informatie van generatieve AI-systemen;
- Invloed van geavanceerde generatieve AI op de militaire veiligheid;
- Toename (complexe) cyberaanvallen en creëren en verspreiden van “hate speech”;
- Potentieel grotere kans op en impact van ongelukken.
Uitgangspunten van de overheidsvisie op generatieve AI
Na een uiteenzetting van de kansen en uitdagingen van generatieve AI, is het tijd voor de daadwerkelijke overheidsvisie op generatieve AI. Vier uitgangspunten zijn uitgewerkt om het doel van het kabinet te bereiken. Allereerst zet de overheid zich in om misbruik, ongelukken, en systemische veiligheidsrisico’s van en door generatieve AI te verminderen. Het uitgangspunt is een veilige ontwikkeling en toepassing van generatieve AI. Als tweede streeft de overheid naar een rechtvaardige ontwikkeling en toepassing van generatieve AI. Rechtvaardigheidsprincipes zoals verantwoordelijkheid, (kansen)gelijkheid, non-discriminatie, transparantie en uitlegbaarheid zijn van belang.
Het derde uitgangspunt beoogt dat generatieve AI het welzijn en de autonomie van de mens borgt. Bijvoorbeeld zowel fysieke als mentale gezondheid is belangrijk. Als laatste zet de overheid zich in voor generatieve AI die bijdraagt aan duurzaamheid en welvaart. In een eerlijk speelveld kan generatieve AI bijdragen aan innovatie in Nederland.
Actiepunten betreffende generatieve AI
Een visie zonder daadwerkelijke actiepunten is een tandeloze tijger. De overheidsvisie bevat zes actiepunten voor een verantwoorde ontwikkeling en gebruik van generatieve AI:
- Samenwerking tussen inwoners en overheid, binnen de overheid zelf en Europees en internationaal;
- Grondig volgen van de ontwikkelingen;
- Opstellen en toepassen van wetten en regels;
- Vergroten van kennis en vaardigheden binnen de overheid en het onderwijs;
- Experimenteren en innoveren met generatieve AI;
- Proactief en adequaat toezicht en handhaving.
Heb jij al een interne visie op generatieve AI?
Het gebruik van generatieve AI op de werkvloer is al duidelijk aanwezig en zal zich voortzetten. Uit een onderzoek onder Amerikaanse bestuurders van grote organisaties blijkt dat 97% van plan is om meer gebruik van AI-technologieën te gaan maken. Zonder een visie op dit gebruik, zet je als organisatie de deur open voor de verwezenlijking van AI-gerelateerde risico’s. De overheid geeft met deze overheidsvisie op generatieve AI het goede voorbeeld voor Nederlandse organisaties. Wij raden ondernemers aan om actief en herhaaldelijk na te denken over het gebruik van (generatieve) AI op de werkvloer. Om hiermee aan de slag te gaan, kan je beginnen met het lezen van ons whitepaper. Dit bevat een uiteenzetting van risico’s van AI vanuit het perspectief van intellectueel eigendom, privacy, informatietechnologie en de maatschappij. Ook heeft ieder perspectief een praktische checklist die je direct kan toepassen. Schakel één van onze advocaten in ter ondersteuning bij dit veelzijdige onderwerp.
Sharbel Goriya
Yaşar Bayram
Eva Lammers