Nu online: AI-opleiding Basismodule Digitaal Vakmanschap

De AI-opleiding als onderdeel van de Basismodule Digitaal Vakmanschap staat nu online. Deze e-learning volgt op het onderdeel Digitale Weerbaarheid en geeft inzicht in wat AI is en hoe je ermee om moet gaan. De opleiding is beschikbaar voor alle (interne en externe) overheidsmedewerkers. Dus niet alleen voor rijksmedewerkers.

De e-learning bestaat uit een leermodule en een toets. Het kost ongeveer 30 minuten om de opleiding te doen en je rondt die af met de toets. Tussentijds kun je stoppen en op een later tijdstip verdergaan.

Als je de e-learning hebt gevolgd, begrijp je wat AI is en dat er verschillende soorten zijn. Je weet dat je AI in je werk kan tegenkomen en dat het je mogelijk in jouw werk kan ondersteunen. Ook herken je een aantal risico’s en weet je dat er regels zijn voor verantwoord gebruik van AI bij de overheid.

Je kunt de e-learning volgen via het leerplatform van RADIO. Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) biedt de e-learning al aan op het eigen LOC-leerplatform. Organisaties kunnen zelf de basismodule Digitaal Vakmanschap in hun eigen leeromgeving plaatsen. Mail daarvoor naar [email protected].

Ambtelijk vakmanschap

De e-learning is ontwikkeld in opdracht van de directie CIO Rijk en Digitaliseringsbeleid. Floor Kloosterman, afdelingshoofd I-Stelsel en I-Vakmanschap vertelt over de opleiding: “Digitalisering gaat snel. Het is belangrijk dat alle medewerkers bij blijven op gebied van cyber en AI. Ik ben er dan ook erg trots op dat we dit met elkaar hebben ontwikkeld. Met deze opleiding zorgen we dat elke medewerker is toegerust met de juiste middelen om diens werk effectief uit te voeren, binnen de digitale werkomgeving.”

De basismodule Digitaal Vakmanschap wordt onderdeel van de verplichte basisopleiding van het programma Ambtelijk Vakmanschap. Ellen Viergever, programmaleider Ambtelijk Vakmanschap, geeft aan: “Met het basisprogramma Ambtelijk Vakmanschap bieden we ambtenaren het fundament waarop ze kunnen staan bij het uitoefenen van hun vak. Deze module is daar één van de bouwstenen van.”

Waarom deze e-learning?

De rol van AI in de samenleving groeit de laatste jaren snel. Het is een krachtige technologie die veel mogelijkheden heeft en veel kansen biedt. Thuis, maar ook in de werkomgeving gebruiken we steeds meer AI. Als overheid willen we de kansen benutten, maar er ook zorgvuldig mee omgaan. Transparantie naar burgers en bedrijven over hoe we AI gebruiken is belangrijk. Mogelijke risico’s moeten we kennen en vermijden. Daarom zijn AI-vaardigheden een belangrijk onderdeel van het digitaal vakmanschap van ambtenaren.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @[email protected]

#AI #AIArtificialIntelligence_ #AIArtificiëleIntelligentie_ #AIToepassingen #cursus #digitaalVakmanschap #eLearning #leren #lerenEnOntwikkelen #nieuwsbrief22026

AI-verordening aangenomen door het Europees Parlement

De AI-verordening, ook wel bekend als de AI Act, bestaat uit regels voor het gebruik van Artificiële Intelligentie (AI) in de Europese Unie (EU). AI biedt veel kansen en voordelen, bijvoorbeeld voor de gezondheidszorg en efficiëntere productiemethoden. Tegelijkertijd brengt AI ook risico’s met zich mee. De AI-verordening is onderdeel van de Europese AI-strategie en is de allereerste uitgebreide AI-wet ter wereld.

Doel AI-verordening

De AI-verordening omvat eisen en kaders voor de ontwikkeling en het gebruik van AI-systemen door overheden en marktpartijen. Het is bedoeld om innovatie en economische ontwikkelingen de ruimte te geven terwijl publieke waarden worden beschermd.

De prioriteit van het Europees Parlement is om ervoor te zorgen dat AI-systemen die in de EU worden gebruikt veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. Daarnaast vindt het Parlement dat AI-systemen nooit volledig geautomatiseerd mogen zijn en pleit het voor een uniforme definitie van AI die geldt voor alle toekomstige AI-systemen.

Regels voor AI

In december 2023 was er al een voorlopig akkoord. Door de komst van AI-programma’s, zoals ChatGPT, werd de behoefte aan strengere regels groter. Met de regels uit de AI-verordening worden bepaalde AI-systemen verboden die de rechten van burgers in gevaar brengen.

Een aantal regels:

• AI waarborgen voor algemene doeleinden.
• Beperkingen op het gebruik van systemen voor biometrische identificatie door rechtshandhavingsinstanties.
• Verbod op AI die wordt gebruikt om kwetsbaarheden van gebruikers te manipuleren of uit te buiten.
• Het recht voor consumenten om klachten in te dienen en een uitleg te krijgen.

Volgende stappen

Eerst moet de tekst waarover overeenstemming is bereikt officieel door de Raad van de Europese Unie worden aangenomen. Als dit is gebeurd, volgt de volledige toepassing van de AI-verordening 24 maanden erna. Voor sommige onderdelen geldt de regelgeving al eerder, bijvoorbeeld voor het verbod op AI-systemen die onaanvaardbare risico’s vormen (na 6 maanden) en gedragscodes (na 9 maanden).

Meer informatie staat op de website van het Europees Parlement.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @[email protected]

#AI #AIArtificialIntelligence_ #AIAct #AIVerordening #artificiëleIntelligentie #KunstmatigeIntelligentie #nieuwsbrief52024

AI-geletterdheid: AP roept organisaties op tot actie

De Autoriteit Persoonsgegevens (AP) publiceert de vernieuwde handreiking ‘Verder bouwen aan AI-geletterdheid’. Het gaat om een aanvulling op de 1e handreiking  ‘Aan de slag met AI-geletterdheid’. De nieuwe handreiking gaat dieper in op de wettelijke verplichting. Praktijkvoorbeelden verhelderen het meerjarig actieplan waarmee organisaties AI-geletterdheid strategisch en duurzaam kunnen aanpakken.

AI-geletterdheid is noodzakelijk

Organisaties die AI-systemen ontwikkelen of gebruiken, zijn wettelijk verplicht om te zorgen dat medewerkers en opdrachtnemers voldoende kennis en vaardigheden hebben om AI verantwoord in te zetten. De AP benadrukt dat AI-geletterdheid een kernvoorwaarde is voor het beschermen van grondrechten en het benutten van technologische kansen.

4 stappen naar een AI-bewuste organisatie

De handreiking biedt een praktisch stappenplan:

• Identificeren: breng in kaart welke AI-systemen worden gebruikt, wie ermee werkt en welke risico’s en kansen er zijn.
• Doelen bepalen: stel meetbare doelen vast, afgestemd op het risicoprofiel van de systemen en de rollen van medewerkers.
• Uitvoeren: zorg voor training, bewustwording en bestuurlijke betrokkenheid. AI-geletterdheid moet onderdeel zijn van de bredere AI-strategie.
• Evalueren: monitor de voortgang en pas de aanpak aan waar nodig. AI-geletterdheid is een continu proces.

De AP roept organisaties op om AI-geletterdheid niet alleen bottom-up, maar ook top-down te organiseren. Bestuurders moeten het onderwerp agenderen, budgetteren en actief ondersteunen.

AI-geletterdheid raakt iedereen

AI-geletterdheid is niet alleen relevant voor techneuten. Ook beleidsmakers, dienstverleners en externe partners moeten begrijpen hoe AI werkt, welke risico’s eraan kleven en hoe je verantwoord omgaat met algoritmes. De AP benadrukt dat er geen ‘one size fits all’-aanpak is: de invulling hangt af van de context, het kennisniveau en de rol van betrokkenen.

Handreiking downloaden

De handreiking ‘Verder bouwen aan AI-geletterdheid’ is te downloaden via de website van de Autoriteit Persoonsgegevens. Meer informatie over AI en algoritmes binnen de overheid vind je in het dossier AI op deze website.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @[email protected]

#AI #AIArtificialIntelligence_ #Algoritme #algoritmekader #nieuwsbrief182025

Nederland versnelt met de NDS

Samen versnellen is de enige optie. Dat is het motto van de Nederlandse Digitaliseringsstrategie (NDS) die het kabinet lanceert. Het is een gezamenlijke digitaliseringsstrategie van gemeenten, provincies, waterschappen, publieke dienstverleners en de Rijksoverheid om de digitale basis van het land te versterken en maatschappelijke uitdagingen aan te pakken. In een steeds verder digitaliserende wereld is deze samenwerking tussen overheden essentieel voor een weerbare samenleving en een sterke economie.

Focus in aanpak

Digitalisering stelt ons voor urgente vraagstukken. Denk aan versnippering in IT-beleid, innovatie, een tekort aan digitale professionals en de geopolitieke noodzaak om minder afhankelijk te zijn van buitenlandse technologieaanbieders. Met de NDS focust Nederland op regie, samenwerking, weerbaarheid en een toekomstgerichte aanpak.

“De NDS is een belangrijke mijlpaal”, aldus Eddie van Marum, staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties (BZK). Van Marum is verantwoordelijk voor digitalisering. “De noodzaak en urgentie om gezamenlijk als 1 overheid te versnellen in de digitale wereld wordt breed gedeeld. We kunnen ons niet veroorloven om als afzonderlijke organisaties te werk te gaan. Ik ben de provincies, gemeenten, waterschappen en publieke dienstverleners zeer dankbaar voor hun constructieve bijdrage en commitment. Digitalisering raakt inmiddels elk aspect van onze samenleving. Het is een onmisbare voorziening geworden, net als voedsel, energie, water en onderwijs. Nederlanders moeten erop kunnen vertrouwen dat overheidsdiensten eenvoudig werken en goed blijven functioneren. Deze samenwerking geeft mij veel vertrouwen in de toekomst van de digitale overheid.”

NDS: 6 prioriteiten

De NDS legt de nadruk op 6 prioriteiten waarop alle overheidsorganisaties als 1 overheid samen versnellen. Namelijk:

Cloudtechnologie gezamenlijk inzetten.

Data op een verantwoorde manier delen en benutten over overheidslagen.

De kansen van Artificiële Intelligentie (AI) op een verantwoorde manier benutten.

Burgers en ondernemers centraal zetten.

De digitale weerbaarheid en digitale autonomie van de overheid versterken.

Digitaal vakmanschap van ambtenaren versterken en het hebben van een moderne werkomgeving.

Betere digitale toekomst voor iedereen

De NDS onderstreept dat samenwerking essentieel is om tot doorbraken te komen. Een vervolgstap is om de benodigde investeringen in kaart te brengen om een krachtige digitale overheid te realiseren, die werkt voor alle Nederlanders. Parallel daaraan wordt samen met alle overheidslagen gestart met de uitvoering van de strategie.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @[email protected]

#AI #AIArtificialIntelligence_ #AIArtificiëleIntelligentie_ #cloud #data #digitaalBewustzijn #digitaalWeerbaarheid #digitaleAutonomie #digitaleWeerbaarheid #digitalisering #NDS #NederlandseDigitaliseringsstrategie #nieuwsbrief122025

(Dit bericht wordt gewijzigd)

Interprovinciale Gids Digitale Ethiek nu beschikbaar

De nieuwe Interprovinciale Gids Digitale Ethiek biedt praktische handvatten voor digitale vraagstukken. Deze gids helpt provincies bij het maken van verantwoorde keuzes in een digitale wereld. Hoe pas je ethiek toe in de praktijk?

De gids werd afgelopen maandag officieel overhandigd tijdens de Regiotour AI & Algoritmes in Zwolle. Aanwezig waren onder andere Marten Tilstra (Programmamanager Digitalisering bij het Interprovinciaal Overleg, verder IPO), Derk Jan Zweers (Beleidsontwikkelaar Provincie Overijssel) en Gert Harm ten Bolscher (Gedeputeerde Innovatie & Digitalisering Provincie Overijssel).

Praktische tools en voorbeelden

In deze vernieuwde Interprovinciale Gids Digitale Ethiek heeft de Werkgroep Ethiek en Digitale Transformatie praktische handvatten, toepasbare tips en concrete voorbeelden uit provincies gebundeld. Net als de eerdere versie is de gids een bron voor kennis en inspiratie. De focus ligt op praktische toepasbaarheid. De gids is bedoeld voor bestuurders en professionals die de kansen van digitale transformatie benutten én het belang van waardengedreven digitalisering inzien.

Waarom deze gids?

Bij innovaties staan technische en juridische zaken vaak centraal. Maar hoe zit het met de ethische kant? Is het gebruik van data of digitale technologie wel wenselijk en van toegevoegde waarde? En kun je die aanpak ook verantwoorden bij maatschappelijke vraagstukken? Het gaat niet alleen om wat mag en kan, maar ook om wat je wilt. Deze ethische vragen worden steeds belangrijker, zeker voor provincies die volop digitaliseren en innoveren.

Download de gids

Benieuwd naar de gids? Deze is gratis te downloaden via de website van het IPO.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @[email protected]

#AI #AIArtificialIntelligence_ #AIArtificiëleIntelligentie_ #Algoritme #algoritmen #algoritmes #digitaleTransformatie #digitalisering #ethiek #gids #handvatten #Innovatie #nieuwsbrief202024 #praktijk #provincie #tips

Regels AI-modellen voor algemene doeleinden

Op 1 augustus 2024 is de Europese AI-verordening in werking getreden. Deze wet heeft gevolgen voor hoe AI wordt ontwikkeld en gebruikt in de Europese Unie. In dit artikel lees je meer over de verplichtingen die vanaf augustus 2025 gelden voor AI-modellen voor algemene doeleinden. Ook staan we stil bij verschillende transparantieverplichtingen die gaan gelden vanaf augustus 2026. Dit is vooral belangrijk voor overheidsorganisaties.

Wat zijn AI-modellen voor algemene doeleinden?

AI-modellen voor algemene doeleinden zijn ontworpen om een breed scala aan taken uit te voeren. Ze worden getraind op enorme hoeveelheden data en zijn veelzijdig inzetbaar. Vanwege de brede toepasbaarheid van deze modellen, worden er veel AI-systemen op voortgebouwd. Bekende voorbeelden zijn modellen zoals GPT-4 en BERT. Deze modellen kunnen teksten, audio, video en zelfs computercode genereren. Dat maakt ze waardevol voor verschillende toepassingen.

Belangrijk om te weten is dat deze AI-modellen nog geen zelfstandige systemen zijn. Ze vormen de basis voor AI-systemen, maar zonder extra componenten zoals een gebruikersinterface zijn ze niet meer dan een krachtige tool. Voorbeelden van AI-systemen die gebruikmaken van deze modellen zijn ChatGPT, IBM Watsonx en Microsoft Copilot.

Waarom zijn er eisen voor deze modellen?

AI-modellen voor algemene doeleinden worden steeds belangrijker in de wereld van kunstmatige intelligentie. Hun brede toepasbaarheid maakt het mogelijk om nieuwe en innovatieve systemen te ontwikkelen. Maar deze ontwikkelingen brengen ook risico’s met zich mee. Ontwikkelaars weten vaak niet welke data is gebruikt of hoe het model precies is getraind. Bovendien is er veel data nodig, waarvan een deel beschermd kan zijn door auteursrecht.

Daarnaast kunnen deze modellen systeemrisico’s met zich meebrengen, zoals de verspreiding van ongepaste of zelfs gevaarlijke content. Dit kan invloed hebben op de volksgezondheid, de veiligheid en zelfs op democratische processen. Daarom is het belangrijk dat er duidelijke regels zijn voor de ontwikkeling en inzet van deze modellen.

Wat zijn de verplichtingen voor aanbieders van AI-modellen?

Als je AI-modellen voor algemene doeleinden aanbiedt, moet je technische documentatie bijhouden. Deze documentatie moet informatie bevatten over het trainings- en testproces en de resultaten van evaluaties. Deze gegevens kan het  AI-bureau opvragen.

Bovendien moeten aanbieders zorgen voor actuele informatie die toegankelijk is voor de aanbieders van systemen die het model gebruiken. Dit helpt hen om de mogelijkheden en beperkingen van het model te begrijpen en aan de wettelijke eisen te voldoen.

Voor modellen die systeemrisico’s met zich meebrengen, gelden extra verplichtingen. Je moet bijvoorbeeld regelmatige evaluaties uitvoeren om kwetsbaarheden te identificeren en incidenten te documenteren. Ook moet je zorgen voor goede cyberbeveiliging.

Wat is het AI-bureau?

Het Europees AI-bureau speelt een belangrijke rol bij de uitvoering van de AI-verordening, met name voor AI voor algemene doeleinden. Ook bevordert het de inzet van betrouwbare AI en internationale samenwerking. Lees meer over het AI-bureau op de website van de Europese Unie.

Transparantieverplichtingen voor AI-systemen

De AI-verordening introduceert vanaf augustus 2026 ook transparantieverplichtingen voor bepaalde AI-systemen. Dit geldt vooral voor generatieve AI-systemen. Deze systemen moeten ervoor zorgen dat de output duidelijk gemarkeerd wordt als kunstmatig gegenereerde of gemanipuleerde content. Dit moet in een machine-leesbaar formaat zijn, zodat het gemakkelijk te detecteren is.

Deze verplichting heeft ook gevolgen voor overheidsorganisaties die AI-systemen gebruiken voor communicatie. Zelfs als je geen aanbieder bent, maar wel gebruik maakt van een dergelijk systeem, moet je duidelijk maken dat de inhoud gegenereerd of gemanipuleerd is. Dit kan bijvoorbeeld door in de bijschriften van afbeeldingen aan te geven dat ze door AI zijn gemaakt.

Ook voor AI-systemen die met mensen communiceren, zoals chatbots, gelden transparantieverplichtingen. Gebruikers moeten weten dat ze met een AI-systeem praten en niet met een mens. Dit is vooral relevant voor online diensten van overheidsorganisaties.

Wat nu?

De AI-verordening is een uitgebreide wet met veel regels en bepalingen. Dit artikel is de derde in een serie over de AI-verordening. De komende weken gaan we dieper in op de verschillende aspecten van de wet, inclusief de hoog-risico AI-systemen en hoe toezicht op de verordening eruitziet.

Bekijk de tijdlijn van de AI-verordening.

Heb je vragen?

Heb je vragen over de implementatie van de verordening en wat dit betekent voor jouw organisatie? Neem dan contact op met het ministerie van Binnenlandse Zaken en Koninkrijksrelaties via [email protected]. Voor andere vragen kunnen niet-overheidsorganisaties terecht bij het Ondernemersplein.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @[email protected]

#AI #AIArtificialIntelligence_ #AIAct #AIVerordening #nieuwsbrief172024

Welke AI-praktijken zijn volgend jaar verboden?

Binnenkort treedt de Europese AI-verordening in werking. In het eerdere artikel op DigitaleOverheid.nl kon je lezen wat de AI-verordening voor jouw organisatie gaat betekenen. In dit artikel lees je meer over de praktijken rond Artificiële Intelligentie (AI) die verboden zijn vanaf februari 2025. De verbodsbepalingen kunnen gevolgen hebben voor jouw overheidsorganisatie.

Waarom worden er AI-praktijken verboden?

Er zijn vele nuttige toepassingen van AI, maar deze technologie kan ook misbruikt worden voor manipulatie, uitbuiting en sociale controle. De Europese AI-verordening wil dit soort praktijken verbieden om burgers te beschermen.

Wat wordt er verboden?

Dit zijn in het kort de verboden AI-praktijken:

• Manipulatieve of misleidende AI-systemen. Hoewel AI-systemen kunnen helpen bij het nemen van gerichte en weloverwogen beslissingen, is er ook een risico. AI-technieken kunnen mensen beïnvloeden om keuzes te maken die ze normaal niet zouden maken. Denk bijvoorbeeld aan het gebruik van audio-, beeld- en videomateriaal dat zij niet bewust kunnen waarnemen. Daarom zijn AI-systemen die via onderbewuste technieken en AI-systemen die gericht manipuleren of misleiden, verboden. AI-systemen die kwetsbaarheden – zoals leeftijd, handicap of een sociaaleconomische situatie – misbruiken om mensen te beïnvloeden zijn ook verboden.
• AI-systemen voor ‘social scoring’. Dit houdt in dat AI-systemen mensen beoordelen op basis van hun sociale gedrag of persoonlijke kenmerken. Dit kan voor problemen zorgen, zoals discriminatie en uitsluiting van bepaalde groepen.
• AI-gebaseerde voorspelde risicobeoordelingen voor criminaliteit. AI kan worden gebruikt om te ondersteunen bij het voorspellen van mogelijke strafbare feiten. Hierbij is het wel van belang dat het gebaseerd is op feiten die daadwerkelijk verband houden met criminele activiteiten. AI-systemen die uitsluitend op basis van profilering of beoordeling van persoonlijkheidseigenschappen en -kenmerken strafbare feiten voorspellen, zijn verboden.
• Biometrische categorisering. Systemen die individuen categoriseren op basis van biometrische gegevens (zoals gezichtsafbeeldingen en vingerafdrukken) om ras, politieke opvattingen, lidmaatschap van een vakbond, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele gerichtheid af te leiden zijn verboden. Dit verbod beschermt de privacy en grondrechten van personen. Uitzonderingen gelden alleen voor het rechtmatig labelen of filteren van rechtmatig verkregen biometrische datasets, op het gebied van rechtshandhaving.
• Het gebruik van AI-systemen voor biometrische identificatie op afstand in realtime in openbare ruimten. Dit wordt verboden, behalve als het strikt noodzakelijk is voor specifieke en afgebakende situaties. Voorbeelden hiervan zijn het zoeken naar slachtoffers van ontvoering of vermiste personen, het voorkomen van imminente dreigingen voor het leven van mensen en het opsporen van verdachten van bepaalde zeer ernstige misdrijven. De inzet hiervan dient bij nationale wetgeving voorzien te zijn van een wettelijke grondslag waarin de voorwaarden gedetailleerd zijn vastgelegd.
• Andere verboden praktijken. Andere AI-praktijken die verboden zijn vanaf februari 2025 zijn emotieherkenning op de werkplek en in het onderwijs. Ook het ongericht scrapen van gezichtsafbeeldingen van internet of camerabeelden (CCTV) om databanken voor gezichtsherkenning aan te leggen of aan te vullen zijn verboden.

Meer informatie vind je in artikel 5 van de AI-verordening op de website van EUR-Lex. De Europese Commissie komt nog met richtsnoeren voor de praktische implementatie van de verboden.

Wat betekent dit voor mijn organisatie?

Het is belangrijk dat organisaties de verboden AI-systemen die zij gebruiken identificeren, zodat zij hiermee geleidelijk kunnen stoppen. Dit moet vóór februari 2025 gebeuren. Wanneer dit niet op tijd gebeurt, kunnen toezichthouders forse boetes opleggen.

Op de Pleio-omgeving van het algoritmekader vind je een praktisch overzicht met de belangrijkste bestaande normen. Hier staan ook de maatregelen die kunnen helpen bij de inzet van algoritmes en AI. Later komen de eisen van de AI-verordening in het algoritmekader te staan.

Serie van artikelen

De AI-verordening is een uitgebreide wet met veel verschillende bepalingen en overwegingen. Hoe het zit met wél toegestane AI-systemen? De verplichtingen en nuances die hierbij komen kijken lees je binnenkort op DigitaleOverheid.nl. Dit is het tweede artikel in een serie die we de komende weken publiceren over de AI-verordening. Hierin gaan we onder andere dieper in op de hoog-risico AI-systemen en toezicht op de verordening.

Meer weten over de tijdlijn van de verordening? Ga dan naar het eerste artikel van deze serie.

Vragen

Heb je vragen over de implementatie van de verordening en wat het inhoudt voor jouw overheidsorganisatie? Stel ze aan het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) via: [email protected]. Ben je geen overheidsorganisatie, dan verwijzen we je graag door naar het Ondernemersplein.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @[email protected]

#AI #AIArtificialIntelligence_ #AIToepassingen #AIVerordening #artificiëleIntelligentie #KunstmatigeIntelligentie

Welke AI-praktijken zijn verboden?

Op 1 augustus 2024 treedt de Europese AI-verordening in werking. In het eerdere artikel op DigitaleOverheid.nl kon je lezen wat de AI-verordening voor jouw organisatie gaat betekenen. In dit artikel lees je meer over de praktijken rond Artificiële Intelligentie (AI) die verboden zijn vanaf februari 2025. De verbodsbepalingen kunnen gevolgen hebben voor jouw overheidsorganisatie.

Waarom worden er AI-praktijken verboden?

Er zijn vele nuttige toepassingen van AI, maar deze technologie kan ook misbruikt worden voor manipulatie, uitbuiting en sociale controle. De Europese AI-verordening wil dit soort praktijken verbieden om burgers te beschermen.

Wat wordt er verboden?

Dit zijn in het kort de verboden AI-praktijken:

• Manipulatieve of misleidende AI-systemen. Hoewel AI-systemen kunnen helpen bij het nemen van gerichte en weloverwogen beslissingen, is er ook een risico. AI-technieken kunnen mensen beïnvloeden om keuzes te maken die ze normaal niet zouden maken. Denk bijvoorbeeld aan het gebruik van audio-, beeld- en videomateriaal dat zij niet bewust kunnen waarnemen. Daarom zijn AI-systemen die via onderbewuste technieken en AI-systemen die gericht manipuleren of misleiden, verboden. AI-systemen die kwetsbaarheden – zoals leeftijd, handicap of een sociaaleconomische situatie – misbruiken om mensen te beïnvloeden zijn ook verboden.
• AI-systemen voor ‘social scoring’. Dit houdt in dat AI-systemen mensen beoordelen op basis van hun sociale gedrag of persoonlijke kenmerken. Dit kan voor problemen zorgen, zoals discriminatie en uitsluiting van bepaalde groepen.
• AI-gebaseerde voorspelde risicobeoordelingen voor criminaliteit. AI kan worden gebruikt om te ondersteunen bij het voorspellen van mogelijke strafbare feiten. Hierbij is het wel van belang dat het gebaseerd is op feiten die daadwerkelijk verband houden met criminele activiteiten. AI-systemen die uitsluitend op basis van profilering of beoordeling van persoonlijkheidseigenschappen en -kenmerken strafbare feiten voorspellen, zijn verboden.
• Biometrische categorisering. Systemen die individuen categoriseren op basis van biometrische gegevens (zoals gezichtsafbeeldingen en vingerafdrukken) om ras, politieke opvattingen, lidmaatschap van een vakbond, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele gerichtheid af te leiden zijn verboden. Dit verbod beschermt de privacy en grondrechten van personen. Uitzonderingen gelden alleen voor het rechtmatig labelen of filteren van rechtmatig verkregen biometrische datasets, op het gebied van rechtshandhaving.
• Het gebruik van AI-systemen voor biometrische identificatie op afstand in realtime in openbare ruimten. Dit wordt verboden, behalve als het strikt noodzakelijk is voor specifieke en afgebakende situaties. Voorbeelden hiervan zijn het zoeken naar slachtoffers van ontvoering of vermiste personen, het voorkomen van imminente dreigingen voor het leven van mensen en het opsporen van verdachten van bepaalde zeer ernstige misdrijven. De inzet hiervan dient bij nationale wetgeving voorzien te zijn van een wettelijke grondslag waarin de voorwaarden gedetailleerd zijn vastgelegd.
• Andere verboden praktijken. Andere AI-praktijken die verboden zijn vanaf februari 2025 zijn emotieherkenning op de werkplek en in het onderwijs. Ook het ongericht scrapen van gezichtsafbeeldingen van internet of camerabeelden (CCTV) om databanken voor gezichtsherkenning aan te leggen of aan te vullen zijn verboden.

Meer informatie vind je in artikel 5 van de AI-verordening op de website van EUR-Lex. De Europese Commissie komt nog met richtsnoeren voor de praktische implementatie van de verboden.

Wat betekent dit voor mijn organisatie?

Het is belangrijk dat organisaties de verboden AI-systemen die zij gebruiken identificeren, zodat zij hiermee geleidelijk kunnen stoppen. Dit moet vóór februari 2025 gebeuren. Wanneer dit niet op tijd gebeurt, kunnen toezichthouders forse boetes opleggen.

Op de Pleio-omgeving van het algoritmekader vind je een praktisch overzicht met de belangrijkste bestaande normen. Hier staan ook de maatregelen die kunnen helpen bij de inzet van algoritmes en AI. Later komen de eisen van de AI-verordening in het algoritmekader te staan.

Serie van artikelen

De AI-verordening is een uitgebreide wet met veel verschillende bepalingen en overwegingen. Hoe het zit met wél toegestane AI-systemen? De verplichtingen en nuances die hierbij komen kijken lees je binnenkort op DigitaleOverheid.nl. Dit is het tweede artikel in een serie die we de komende weken publiceren over de AI-verordening. Hierin gaan we onder andere dieper in op de hoog-risico AI-systemen en toezicht op de verordening.

Meer weten over de tijdlijn van de verordening? Ga dan naar het eerste artikel van deze serie.

Vragen

Heb je vragen over de implementatie van de verordening en wat het inhoudt voor jouw overheidsorganisatie? Stel ze aan het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) via: [email protected]. Ben je geen overheidsorganisatie, dan verwijzen we je graag door naar het Ondernemersplein.

 

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @[email protected]

#AI #AIArtificialIntelligence_ #AIToepassingen #AIVerordening #artificiëleIntelligentie #KunstmatigeIntelligentie #nieuwsbrief132024

Overheid zet steeds meer kunstmatige intelligentie in

Het gebruik van kunstmatige intelligentie (AI) door overheidsinstanties neemt toe. Uit onderzoek van TNO blijkt dat de overheid ruim 1,5 keer meer AI-toepassingen gebruikt, vergeleken met 2021. Vooral gemeentes doen veel met de mogelijkheden die AI biedt. Van de in totaal 266 gevonden AI-toepassingen worden er 105 (39%) door gemeentes ingezet. Daarnaast neemt de transparantie over het gebruik van AI en algoritmes toe. 

Scope onderzoek

Voor de toepassing van AI in publieke dienstverlening zocht TNO antwoord op de volgende vragen:

• • Waar past de publieke sector AI toe?
  • Wat veranderde er sinds 2021?
  • Welke inzichten zijn de afgelopen jaren opgedaan over AI binnen de overheid?

Toepassing

De overheid gebruikt AI vooral voor kennisverwerking, archivering en anonimisering, gevolgd door inspectie en handhaving. De toename in anonimiseringssoftware is te verklaren door de invloed van de Wet open overheid (Woo). Er worden ook diverse innovatieve toepassingen in het publieke domein gebruikt. Denk aan een virtuele assistent voor het sneller en beter beantwoorden van Kamervragen.

Transparantie

In 2024 is de overheid transparanter over de toepassing van AI binnen de publieke dienstverlening. Deze openheid hangt samen met de komst van het Algoritmeregister in 2022. Daarin registreren overheidsorganisaties hun impactvolle algoritmes. Al vele organisaties maken gebruik van het landelijke register.

Derde AI quickscan

De cijfers over het aantal AI-toepassingen komen uit onderzoek dat TNO deed op verzoek van de werkgroep Publieke Diensten van de Nederlandse AI Coalitie. Dit onderzoek is een vervolg op de quickscan AI in de publieke dienstverlening uit 2019 en 2021, die TNO uitvoerde in opdracht van het ministerie van Binnenlandse Zaken.

Voor meer informatie, bezoek de website van de Nederlandse AI Coalitie en het Algoritmeregister. Meepraten over de ontwikkeling van het Algoritmeregister en -kader? Check dan de Pleio omgeving en meld je aan voor 1 van de aankomende evenementen. 

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @[email protected]

#AI #AIArtificialIntelligence_ #AIToepassingen #Algoritme #algoritmen #Algoritmeregister #algoritmes #anonimisering #archivering #handhaving #inspectie #kennisverwerking #KunstmatigeIntelligentie #nieuwsbrief122024 #onderzoek #publiekeSector #quickscan #TNO #virtueleAssistent