Toelichting bij COM(2018)795 - Gecoördineerd plan inzake kunstmatige intelligentie - Hoofdinhoud
Dit is een beperkte versie
U kijkt naar een beperkte versie van dit dossier in de EU Monitor.
| dossier | COM(2018)795 - Gecoördineerd plan inzake kunstmatige intelligentie. |
|---|---|
| bron | COM(2018)795   |
| datum | 07-12-2018 |
COM(2018) 795 final
MEDEDELING VAN DE COMMISSIE AAN HET EUROPEES PARLEMENT, DE EUROPESE RAAD, DE RAAD, HET EUROPEES ECONOMISCH EN SOCIAAL COMITÉ EN HET COMITÉ VAN DE REGIO'S
Gecoördineerd plan inzake kunstmatige intelligentie
Inhoudsopgave
- Inleiding
- Brussel, 7.12.2018
- 2.1. Gemeenschappelijke doelstellingen en aanvullende inspanningen
- 2.7. Veiligheidsaspecten van KI-toepassingen en -infrastructuur, en de internationale veiligheidsagenda
- 3. CONCLUSIES
- https://ec.europa.eu/digital-single-market/en/news/appointment-members-high-level-expert-group-impact-digital-transformation-eu-labour-markets
– DE EUROPESE STRATEGIE VOOR KI
Net als elektriciteit in het verleden is kunstmatige intelligentie (KI) de wereld aan het transformeren. KI staat ons ten dienste wanneer we online teksten vertalen of een mobiele app gebruiken om de beste manier te vinden om naar onze volgende bestemming te gaan. Thuis kan een slimme thermostaat de energierekening met wel 25 % verlagen door de gewoonten van de mensen die in het huis wonen te analyseren en de temperatuur daaraan aan te passen 1 . In de gezondheidszorg kunnen algoritmen dermatologen helpen betere diagnoses te stellen. Door van grote verzamelingen medische beelden te leren, sporen ze bijvoorbeeld 95 % van de huidkankers op 2 .
Door grote hoeveelheden gegevens te interpreteren om efficiënte oplossingen te bieden, verbetert KI producten, processen en bedrijfsmodellen in alle economische sectoren. KI kan bedrijven helpen bepalen welke machines onderhoud nodig hebben voordat ze defect raken. KI verandert ook openbare diensten.
Kunstmatige intelligentie heeft betrekking op systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie te ondernemen om specifieke doelstellingen te verwezenlijken. Wij maken dagelijks gebruik van KI, bijvoorbeeld om spam te blokkeren of met digitale assistenten te spreken.
Dankzij de toename van de rekenkracht, de beschikbaarheid van gegevens en de vooruitgang op het gebied van algoritmen is KI uitgegroeid tot een van de belangrijkste technologieën van de 21e eeuw.
De veranderingen die KI met zich meebrengt, brengen ook bezorgdheid teweeg. Werknemers zijn bang dat ze hun baan zullen verliezen door automatisering, consumenten vragen zich af wie verantwoordelijk is als een systeem op basis van KI een verkeerde beslissing neemt, kleine ondernemingen weten niet hoe ze KI in hun bedrijf kunnen toepassen, KI-start-ups vinden in Europa niet de middelen en het talent die ze nodig hebben, en de internationale concurrentie is feller dan ooit, met grootschalige investeringen in de VS en China.
Om deze uitdagingen het hoofd te bieden en de mogelijkheden van KI optimaal te benutten, heeft de Commissie in april 2018 een Europese strategie 3 gepubliceerd. De Commissie stelde een benadering voor waarbij mensen in het centrum van de ontwikkeling van KI worden geplaatst en moedigt het gebruik van deze krachtige technologie aan om de grootste uitdagingen die de wereld wachten, te helpen oplossen: van de genezing van ziekten tot de strijd tegen klimaatverandering en het anticiperen op natuurrampen, het veiliger maken van het vervoer 4 , het bestrijden van criminaliteit en het verbeteren van de cyberveiligheid.
Deze strategie ondersteunt de ontwikkeling van ethische, veilige en geavanceerde KI in Europa. Ze bouwt voort op de wetenschappelijke en industriële troeven 5 van Europa en rust op drie pijlers: het verhogen van publieke en private investeringen in KI, het anticiperen op socio-economische veranderingen, en het waarborgen van een passend ethisch en juridisch kader. Coördinatie op Europees niveau is essentieel om het welslagen ervan te waarborgen.
2. HET GECOÖRDINEERDE PLAN INZAKE KI – OVERZICHT
In haar strategie voor KI voor Europa heeft de Commissie voorgesteld om samen met de lidstaten uiterlijk eind 2018 met een gecoördineerd plan inzake KI te komen, met als doel de impact van investeringen op EU- en nationaal niveau te maximaliseren, synergieën en samenwerking in de hele EU aan te moedigen, beste praktijken uit te wisselen en gezamenlijk te bepalen welke stappen nodig zijn om ervoor te zorgen dat de EU als geheel mondiaal kan concurreren. Het voorstel voor een gecoördineerd plan bouwt voort op de verklaring inzake samenwerking op het gebied van KI, die in april 2018 op de Digitale dag is gedaan en door alle lidstaten en Noorwegen 6 werd ondertekend. Het werd in juni 2018 door de Raad bekrachtigd 7 .
Het plan is op verschillende bijeenkomsten tussen juni en november 2018 door de lidstaten (als leden van de groep voor de digitalisering van het Europese bedrijfsleven en KI), Noorwegen, Zwitserland en de Commissie opgesteld. Ook tijdens de zittingen van de Raad Concurrentievermogen onder het Oostenrijkse voorzitterschap van de EU vonden besprekingen plaats.
Tijdens deze bijeenkomsten hebben de lidstaten en de Raad een reeks gezamenlijke acties aangewezen om, voortbouwend op de Europese strategie, investeringen aan te moedigen, gegevens – de grondstof voor KI – te bundelen, talent te stimuleren 8 en vertrouwen te scheppen. Ze verleenden prioriteit aan gebieden van algemeen belang, zoals gezondheidszorg, vervoer en mobiliteit, veiligheid, beveiliging en energie alsook aan economisch belangrijke sectoren zoals de maakindustrie en financiële diensten.
Het resultaat van deze gezamenlijke werkzaamheden, het gecoördineerde plan, vormt de bijlage bij deze mededeling. Het beschrijft de acties die in 2019-2020 van start moeten gaan en bereidt de weg voor de activiteiten in de volgende jaren. Het zal jaarlijks worden geëvalueerd en geactualiseerd.
In deze mededeling worden de belangrijkste doelstellingen en initiatieven van het plan belicht.
Het gecoördineerde plan biedt een strategisch kader voor nationale KI-strategieën. Tot op heden hebben vijf lidstaten al een nationale KI-strategie met een specifiek budget vastgesteld 9 . Alle andere lidstaten worden aangemoedigd om, voortbouwend op de op Europees niveau verrichte werkzaamheden, uiterlijk medio 2019 hun nationale KI-strategie te ontwikkelen. Verwacht wordt dat daarin investeringsniveaus en uitvoeringsmaatregelen zullen worden aangegeven.
Met de steun van het door het Gemeenschappelijk Centrum voor onderzoek van de Commissie ontwikkelde AI Watch 10 zullen de lidstaten en de Commissie in de loop van volgend jaar ook gemeenschappelijke indicatoren overeenkomen om de opname en ontwikkeling van KI in de Unie en het succespercentage van de bestaande strategieën te monitoren.
Europa hinkt momenteel achterop wat private investeringen in KI betreft 11 . Zonder grote inspanningen loopt de EU het risico om de door KI geboden kansen mis te lopen, met een braindrain te worden geconfronteerd en een afnemer van elders ontwikkelde oplossingen te worden. Daarom zijn in de EU-strategie voor KI ambitieuze maar realistische doelstellingen geformuleerd: om de doelstelling van 20 miljard euro per jaar in het komende decennium te bereiken, moeten de publieke en private investeringen in KI in de Unie worden opgeschaald. Als eerste stap verhoogt de Commissie de investeringen in KI in het raamwerk van het kaderprogramma voor onderzoek en innovatie Horizon 2020 tot 1,5 miljard euro in de periode 2018-2020. Dat komt overeen met een stijging van 70 % ten opzichte van de periode 2014-2017. Als de lidstaten en de private sector vergelijkbare inspanningen leveren, zullen de totale investeringen in de Unie groeien tot meer dan 20 miljard euro voor de periode 2018-2020 12 en zo de Unie in staat stellen de inspanningen in het komende decennium verder op te voeren, met investeringen die geleidelijk oplopen tot 20 miljard euro per jaar. Dit zou overeenkomen met een jaarlijkse investering van 7 miljard euro door de publieke sector (de lidstaten en de Commissie) en Europa op gelijke hoogte brengen met andere continenten. De Commissie heeft voorgesteld dat de Unie in de volgende programmeringsperiode 2021-2027 ten minste 1 miljard euro per jaar investeert in KI uit de programma's Horizon Europa en Digitaal Europa 13 .
Rekening houdend met deze doelstellingen zijn de lidstaten overeengekomen dat er ambitie aan de dag moet worden gelegd en dat de nationale inspanningen moeten worden opgevoerd. Gecoördineerde publieke inspanningen zullen helpen om meer private investeringen aan te trekken.
Publieke investeringen spelen een belangrijke rol, maar een belangrijke taak voor de regulatoren bestaat in het wegnemen van de obstakels die worden opgeworpen door gefragmenteerde markten. Producten en diensten zijn in toenemende mate onderling verbonden en gedigitaliseerd. Tegen deze achtergrond is het van het grootste belang marktfragmentatie in strategische sectoren zoals kunstmatige intelligentie te voorkomen, onder meer door de noodzakelijke voorwaarden daarvoor (bijvoorbeeld gemeenschappelijke normen en snelle communicatienetwerken) te versterken. Een werkelijk eengemaakte markt met een integrale digitale dimensie 14 zal het gemakkelijker maken bedrijven op te schalen en over de grenzen heen handel te drijven en zo de investeringen verder te stimuleren.
2.2. Naar een Europees publiek-privaat KI-partnerschap en meer financiering voor start-ups en innovatieve kleine en middelgrote ondernemingen 15
De lidstaten en de Commissie zullen ook de samenwerking met de private sector versterken. De Commissie zal bedrijven en onderzoeksorganisaties bij elkaar brengen om een gemeenschappelijke strategische onderzoeksagenda op het gebied van KI te ontwikkelen, prioriteiten vast te stellen in het licht van de behoeften van de markt en uitwisselingen tussen sectoren en over de grenzen heen aan te moedigen. Dit zal de weg bereiden voor een nieuw onderzoeks- en innovatiepartnerschap inzake KI en de samenwerking tussen de academische wereld en het bedrijfsleven in Europa bevorderen. Verwacht wordt dat de private sector zich in het kader van dit contractuele partnerschap tot specifieke en hoge investeringen in KI zal verbinden. Dit partnerschap zal voortbouwen op bestaande partnerschappen op het gebied van robotica en big data 16 en goed zijn voor 4,4 miljard euro aan investeringen, waarvan het merendeel (3,2 miljard euro) van de industrie afkomstig is. De belanghebbenden hebben hun steun voor het opzetten van een KI-partnerschap al bevestigd 17 .
Bovendien streeft de Commissie ernaar middelen ter beschikking te stellen om start-ups en innovatoren op het gebied van KI en blockchain te helpen groeien. In 2020 moet aanvankelijk 100 miljoen euro worden uitgetrokken, die verder kan worden aangevuld door de deelname van geïnteresseerde nationale stimuleringsbanken en andere instellingen. Dit kan bijdragen aan het voorbereiden van betere toegang tot financiering voor KI in het kader van het InvestEU-programma vanaf 2021.
Tegelijk boekt de Commissie vooruitgang bij de oprichting van de Europese Innovatieraad, om geavanceerde technologieën en de meest innovatieve start-ups te ondersteunen. In reactie op de oproep van de Europese Raad van juni 2018 18 zal begin 2019 een nieuw proefinitiatief 19 van start gaan dat steun voor de volgende generatie op de mens gerichte KI-technologieën omvat.
2.3. Versterking van excellentie in betrouwbare KI-technologieën en brede verspreiding 20
De lidstaten en de Commissie streven ernaar de nationale onderzoekscapaciteit op te schalen en kritische massa te bereiken door middel van hechtere netwerken van Europese excellentiecentra voor KI-onderzoek. Het doel is samenwerking tussen de beste onderzoeksteams in Europa te bevorderen, zodat zij door de krachten te bundelen de grote wetenschappelijke en technologische uitdagingen op het gebied van KI efficiënter kunnen aangaan.
Om geavanceerde KI-toepassingen op de markt te brengen, zijn experimenten en tests in realistische omgevingen nodig. In het kader van de uitvoering van de in 2016 goedgekeurde strategie voor de digitalisering van het Europese bedrijfsleven 21 ondersteunt de Commissie reeds grootschalige proefprojecten en experimenten op gebieden zoals slimme landbouw, slimme steden en geconnecteerde en autonome voertuigen.
Uit deze proefprojecten en experimenten zullen lessen worden getrokken. Om de investeringen te optimaliseren en dubbel werk te voorkomen, stelt de Commissie voor om, voortbouwend op de sterke basis van bestaande excellentiecentra in de lidstaten, met 1,5 miljard euro uit het KI-onderdeel van het voorgestelde programma Digitaal Europa verscheidene grootschalige referentietestsites te ontwikkelen die openstaan voor alle actoren in heel Europa. De testfaciliteiten die de lidstaten aan het opzetten zijn, betreffen bijvoorbeeld het grensoverschrijdend testen van geconnecteerd en autonoom rijden 22 en het op ware schaal experimenteren met slimme ziekenhuizen. In het geval van geconnecteerde en autonome mobiliteit zullen de identificatie van zulke testfaciliteiten en de tests zelf aanvankelijk worden gecoördineerd door het in de EU-strategie voor de mobiliteit van de toekomst 23 bedoelde EU-brede centrale platform en vervolgens door het overeenkomstige partnerschap dat in het kader van Horizon Europa wordt opgezet.
Even belangrijk is het bevorderen van een zo breed mogelijke opname van KI in de economie, met name door start-ups en kleine en middelgrote ondernemingen. Door bewustmaking van het publiek en door de meest recente wetenschappelijke ontwikkelingen en beproefde, in Europa ontwikkelde state-of-the-arttechnologieën te delen, kan ervoor worden gezorgd dat alle bedrijven, zowel kleine als grote, al dan niet hightech, alsook de publieke sector, deze digitale kansen kunnen grijpen. Het voorgestelde nieuwe programma Digitaal Europa voorziet in mede-investering door de lidstaten en de Commissie in digitale-innovatiehubs in heel Europa, waaronder via de cohesiefondsen. Het programma zal de verspreiding van de KI-capaciteit in elke lidstaat verder vergemakkelijken en zal worden gekoppeld aan een platform voor KI 'on demand' 24 . Daartoe zullen de lidstaten in 2019 digitale-innovatiehubs voor KI op hun grondgebied aanwijzen.
2.4. Onze onderwijs- en opleidingsprogramma's en -systemen aanpassen om onze samenleving beter op KI voor te bereiden 25
Snelle technologische vooruitgang betekent dat de arbeidsmarkt – eerder vroeger dan later – een aanzienlijke transformatie zal ondergaan. Door technologische veranderingen zullen met name andere vaardigheden van werknemers worden verwacht, waardoor mogelijk zeer grote aantallen werknemers zich zullen moeten bijscholen. Er moet dus meer aandacht worden besteed aan permanente educatie. Een specifiek aspect van verandering betreft de werknemers die de KI-oplossingen van de toekomst daadwerkelijk zullen ontwerpen en uitvoeren. Bijna alle lidstaten kampen met een tekort aan specialisten op het gebied van informatie- en communicatietechnologie en er zijn momenteel meer dan 600 000 vacatures voor digitaal deskundigen 26 . Bovendien krijgen getalenteerde onderzoekers en veelbelovende start-ups vaak interessante aanbiedingen uit het buitenland. In 2017 waren er bijvoorbeeld 240 000 Europeanen in Silicon Valley actief 27 , van wie velen de VS waren binnengekomen om een specifieke vacature in de techindustrie te vervullen. Europa moet in staat zijn dit soort talent op te leiden, aan te trekken en te behouden en ondernemerschap, diversiteit en het evenwicht tussen mannen en vrouwen bevorderen.
De lidstaten zullen daarom beste praktijken uitwisselen wat betreft de versterking van excellentie en het behoud van getalenteerde werknemers alsook wat betreft het opvoeren en bespoedigen van de inspanningen om de door het bestaande acquis inzake legale migratie, waaronder de blauwe kaart 28 , geboden mogelijkheden voor het aantrekken van talent, te introduceren en ten volle te benutten. De blauwe kaart is een werkvergunning waarmee hooggekwalificeerde niet-EU-burgers in de EU kunnen wonen en werken. De vaardigheden moeten ook aan bod komen in de medio 2019 te publiceren nationale KI-strategieën. De strategieën moeten betrekking hebben op voor KI relevante vaardigheden binnen de formele onderwijscyclus, waaronder binnen het beroepsonderwijs en het hoger onderwijs, en op manieren om kansen voor masters en doctoraten in KI te verbeteren.
De Commissie zal de masters en doctoraten in KI ondersteunen door middel van de voorgestelde nauwere samenwerking tussen excellentiecentra voor KI-onderzoek en, meer in het algemeen, de onderzoeks- en innovatieprogramma's van de EU. Ook zal interdisciplinariteit worden ondersteund door het aanmoedigen van gecombineerde graden, bijvoorbeeld in rechten of psychologie en KI. Bovendien moeten digitale vaardigheden die de ontwikkeling en het gebruik van KI faciliteren in alle onderwijs- en opleidingscurricula worden opgenomen.
Gezien de disruptieve aard van veel van de technologische ontwikkelingen zullen beleidsmakers strategieën ontwikkelen om veranderingen in de werkgelegenheid op te vangen, teneinde inclusiviteit te waarborgen, aangezien het tempo waarmee bepaalde banen verdwijnen en andere ontstaan, waarschijnlijk zal versnellen, terwijl bedrijfsmodellen en de invulling van functies of banen, zullen veranderen. Hierdoor moeten de bestaande arbeidsmarkt- en socialebeschermingsregelingen mogelijk worden aangepast om transities in de arbeidsmarkt te ondersteunen. De Commissie heeft een deskundigengroep op hoog niveau opgericht over de gevolgen van de digitale transformatie voor de arbeidsmarkt van de EU, die in het voorjaar van 2019 een verslag over deze kwesties zal uitbrengen 29 .
2.5. Opbouw van de Europese dataruimte die essentieel is voor KI in Europa, waaronder voor de publieke sector 30
Verdere ontwikkelingen op het gebied van KI vergen een goed functionerend gegevensecosysteem dat stoelt op vertrouwen, beschikbaarheid van gegevens en een data-infrastructuur 31 . De algemene verordening gegevensbescherming (GDPR) 32 is het fundament van het vertrouwen in de eengemaakte markt voor gegevens. Zij heeft een nieuwe mondiale norm vastgesteld met een sterke nadruk op de rechten van individuen, die de Europese waarden weerspiegelt, en is een belangrijk element om het vertrouwen in KI te waarborgen. Dit vertrouwen is met name van belang als het gaat om de verwerking van gezondheidszorggegevens voor KI-gestuurde toepassingen. De Commissie wil het Europees Comité voor gegevensbescherming aanmoedigen om richtsnoeren te ontwikkelen inzake de verwerking van persoonsgegevens in de context van onderzoek. Dit zal de ontwikkeling vergemakkelijken van grote grensoverschrijdende onderzoeksgegevensbestanden die voor KI kunnen worden gebruikt.
Voor de ontwikkeling van KI zijn enorme hoeveelheden gegevens nodig. Automatisch leren is een vorm van KI die patronen in beschikbare gegevens ontdekt en de kennis vervolgens op nieuwe gegevens toepast. Des te groter een dataset, des te beter KI kan leren en zelfs subtiele relaties in de data kan ontdekken.
Zodra de algoritmen zijn getraind, kunnen ze voorwerpen die ze nog nooit hebben gezien correct indelen, in meer en meer gevallen nauwkeuriger dan mensen. Toegang tot gegevens is bijgevolg een essentieel onderdeel van een concurrerend KI-landschap en moet door de EU worden bevorderd met volledige inachtneming van de regels inzake de bescherming van persoonsgegevens.
De inwerkingtreding van de verordening betreffende het vrije verkeer van niet-persoonsgebonden gegevens 33 in de loop van 2019 zal helpen gegevens, met name machinaal gegenereerde gegevens, te ontsluiten en de grensoverschrijdende activiteiten van bedrijven in de Unie aanzienlijk vergemakkelijken. Openheid ten aanzien van internationale gegevensstromen zal blijven worden gegarandeerd met volledige inachtneming van de EU-regels voor de bescherming van persoonsgegevens en in overeenstemming met de toepasselijke rechtsinstrumenten, met inbegrip van vrijhandelsovereenkomsten.
Door het akkoord over de herziening van de richtlijn overheidsinformatie 34 zal ook de hoeveelheid gegevens die ter beschikking staan van innovatie toenemen.
De totstandbrenging van gemeenschappelijke Europese dataruimten op een aantal gebieden, zoals maakindustrie of energie, zal een belangrijke troef zijn voor Europese innovatoren en bedrijven. Deze gemeenschappelijke Europese dataruimten zullen, zowel voor de publieke sector als voor business-to-businessdoeleinden, gegevens over heel Europa aggregeren en beschikbaar maken voor het trainen van KI 35 op een schaal die de ontwikkeling van nieuwe producten en diensten mogelijk maakt. Essentieel zijn de snelle ontwikkeling en toepassing van Europese regels zoals interoperabiliteitsvereisten en -normen. De Unie moet ook steun verlenen om de naadloze toegang tot en uitwisseling en hergebruik van dergelijke datasets te waarborgen. De identificatie van hoogwaardige datasets door de lidstaten zal ertoe bijdragen dat ze gemakkelijker kunnen worden hergebruikt. De Commissie levert ook een bijdrage met haar grote hoeveelheden aardobservatiegegevens en -informatie van het vlaggenschipprogramma Copernicus.
KI-toepassingen in de gezondheidszorg zijn bijzonder veelbelovend. In 2020 zal de Commissie via Horizon 2020 – in coördinatie met de lidstaten – steun verlenen voor de ontwikkeling van een gemeenschappelijke databank van gezondheidsbeelden (geanonimiseerd en van patiënten die hun gegevens vrijwillig ter beschikking stellen). Deze beelddatabank zal in eerste instantie op de meest voorkomende vormen van kanker zijn toegespitst en KI gebruiken om de diagnose en behandeling te verbeteren. De werkzaamheden zullen aan alle nodige vereisten op het gebied van regelgeving, veiligheid en ethiek voldoen.
KI-instrumenten zijn cruciaal voor de toekomstige werkzaamheden van overheidsdiensten. De lidstaten en de Commissie zullen intercollegiaal leren, en gebieden voor de gezamenlijke aanschaf van KI-oplossingen, waaronder cyberbeveiliging, en specifieke uitdagingen voor de publieke sector bespreken. Wanneer KI wordt toegepast, bijvoorbeeld voor beveiliging en rechtshandhaving, dienen zich bepaalde juridische en ethische uitdagingen aan, aangezien overheidsinstanties zich aan rechtsregels moeten houden, hun beslissingen moeten motiveren en hun besluiten aan rechterlijke toetsing door administratieve rechtbanken onderworpen zijn.
Ten slotte is computercapaciteit essentieel voor de verwerking van gegevens. Het European High-Performance Computing Initiative 36 (EuroHPC) bundelt middelen voor de ontwikkeling van de volgende generatie supercomputers om big data te verwerken en KI te trainen. In dit verband zijn het lopende partnerschap met de lidstaten en de industrie op het gebied van micro-elektronische componenten en systemen (Ecsel 37 ) en het European Processor Initiative 38 , dat de creatie van energiezuinige processortechnologie voor high-performance computing, datacentra en autonome voertuigen tot doel heeft, van essentieel belang voor de ontwikkeling van een onafhankelijk en innovatief Europees ecosysteem voor het ontwerpen van hoogwaardige chips.
2.6. Ethische richtsnoeren met een mondiaal perspectief opstellen en een innovatievriendelijk rechtskader scheppen 39
Om vertrouwen te scheppen, wat noodzakelijk is voor de acceptatie en het gebruik van KI door de samenleving, moet de technologie voorspelbaar, verantwoordelijk en verifieerbaar zijn, de grondrechten eerbiedigen en ethische regels in acht nemen. Anders kan het gebruik van KI tot onwenselijke resultaten leiden, zoals het creëren van een echokamer, waarin mensen alleen worden geconfronteerd met informatie die met hun mening overeenkomt, of het versterken van discriminatie, zoals in het geval waarin een algoritme binnen 24 uur racistisch werd door blootstelling aan racistisch materiaal 40 .
Het is cruciaal dat mensen begrijpen hoe KI beslissingen neemt. Europa kan een wereldleider worden op het gebied van de ontwikkeling en het bonafide gebruik van KI en een mensgerichte benadering en beginselen inzake ethisch ontwerp ("ethics by design") bevorderen.
Om dergelijke beginselen steviger in de ontwikkeling en het gebruik van KI te verankeren, heeft de Commissie een onafhankelijke groep van deskundigen op hoog niveau inzake KI belast met de opstelling van ethische richtsnoeren inzake KI. Eind 2018 wordt een eerste versie gepubliceerd en in maart 2019 zullen de deskundigen hun definitieve versie van de richtsnoeren aan de Commissie presenteren na breed overleg via de Europese KI-alliantie 41 . De ambitie is om de ethische benadering van Europa vervolgens ingang te doen vinden op het wereldtoneel. De Commissie stelt de samenwerking open voor alle niet-EU-landen die bereid zijn deze waarden te onderschrijven.
Verdere ontwikkelingen op het gebied van KI vereisen ook een regelgevingskader dat flexibel genoeg is om innovatie te bevorderen en tegelijkertijd een hoog niveau van bescherming en veiligheid te waarborgen. De Commissie beoordeelt momenteel of de nationale en EU-kaders voor veiligheid en aansprakelijkheid geschikt zijn voor het beoogde doel in het licht van deze nieuwe uitdagingen of dat er lacunes moeten worden opgevuld. Daartoe zal de Commissie uiterlijk medio 2019 een verslag publiceren over de mogelijke lacunes in en oriëntaties voor de veiligheids- en aansprakelijkheidskaders voor KI.
2.7. Veiligheidsaspecten van KI-toepassingen en -infrastructuur, en de internationale veiligheidsagenda
Er is behoefte aan een beter inzicht in de wijze waarop KI een veiligheidsimpact kan hebben op drie gebieden: hoe KI de doelstellingen van de veiligheidssector kan bevorderen; hoe KI-technologieën tegen aanvallen kunnen worden beschermd; en hoe mogelijk misbruik van KI voor kwaadwillige doeleinden kan worden aangepakt.
Door de toenemende potentie en gevoeligheid van KI-toepassingen op veel gebieden van de digitale economie en samenleving, zoals autonome mobiliteit of het vermijden van stroomuitval, is het zeer belangrijk om eisen inzake cyberbeveiliging voor KI vast te stellen 42 .
De toepassing van KI in wapensystemen heeft het potentieel om gewapende conflicten fundamenteel te veranderen en doet daarom ernstige zorgen en vragen rijzen. De Unie zal blijven benadrukken dat het internationaal recht, met inbegrip van het internationaal humanitair recht en het recht inzake mensenrechten, onverkort van toepassing is op alle wapensystemen, met inbegrip van autonome wapensystemen, en dat staten verantwoordelijk en aansprakelijk blijven voor de ontwikkeling en het gebruik ervan in gewapende conflicten. Verder blijft het standpunt van de EU dat menselijke controle moet worden gehandhaafd in beslissingen over het gebruik van dodelijk geweld en in de volledige levenscyclus van wapensystemen moet worden ingebouwd 43 .
KI maakt al deel uit van ons dagelijks leven, maar het potentieel ervan is veel groter dan we tot nu toe hebben gezien. Wil Europa een leidende rol op het gebied van KI spelen, dan moet het voortbouwen op zijn troeven en de ontwikkeling van ethische, veilige en geavanceerde KI in Europa ondersteunen.
De Commissie verzoekt derhalve:
·de Europese Raad om het gecoördineerde plan te bekrachtigen;
·de lidstaten om het gecoördineerde plan uit te voeren, met inbegrip van de ontwikkeling, uiterlijk medio 2019, van nationale strategieën voor KI, met een overzicht van de investeringsniveaus en de uitvoeringsmaatregelen;
·de medewetgevers om snel de resterende wetgevingsinitiatieven goed te keuren die essentieel zijn voor het welslagen van de Europese KI-strategie, met inbegrip van de voorstellen die in de context van het volgende meerjarig financieel kader zijn gedaan.
(1)
www.latribune.fr/entreprises-finance">https://www.latribune.fr/entreprises-finance
(2)
www.theguardian.com/society/2018/may/29">https://www.theguardian.com/society/2018/may/29
(3)
COM(2018) 237.
(4)
Naar raming wordt ongeveer 90 % van de verkeersongevallen door menselijke fouten veroorzaakt (zie COM(2016) 787).
(5)
Europa heeft onderzoekers en start-ups van wereldklasse in KI en is een koploper op het gebied van robotica en business-to-businesssoftware/platforms. Zijn sterke vervoers-, gezondheids- en industriesector zouden een voortrekkersrol op het gebied van KI moeten vervullen.
(6)
https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence
(7)
www.consilium.europa.eu/en/press/press-releases">https://www.consilium.europa.eu/en/press/press-releases
(8)
Al deze acties moeten in overeenstemming zijn met de EU-regels inzake mededingingsrecht en staatssteun.
(9)
Frankrijk, Finland, Zweden, het Verenigd Koninkrijk en Duitsland hebben al gerichte KI-strategieën. Sommige landen, zoals Denemarken, Luxemburg, Nederland, Ierland en Noorwegen nemen KI-gerelateerde acties op in hun bredere digitaliseringsstrategieën. Oostenrijk, België, Tsjechië, Denemarken, Estland, Duitsland, Italië, Letland, Polen, Portugal, Slovenië, Slowakije en Spanje zijn strategieën aan het ontwikkelen.
(10)
https://ec.europa.eu/knowledge4policy/ai-watch_en
(11)
In totaal werd in Europa in 2016 circa 2,4-3,2 miljard euro uitgetrokken, tegenover 6,5-9,7 miljard euro in Azië en 12,1-18,6 miljard euro in Noord-Amerika. Bron: 10 imperatives for Europe in the age of AI and automation, McKinsey, 2017.
(12)
Dit kan investeringen uit de Europese structuur- en investeringsfondsen omvatten. Vijf regio’s hebben in hun strategieën voor slimme specialisatie KI-gerelateerde prioriteiten opgenomen: Nedersaksen [DE], Pohjois-Savo [FI], Łódzkie [PL], noordwest-Roemenië en noordoost-Roemenië. Zie: s3platform.jrc.ec.europa.eu/map
(13)
De voorstellen voor het volgende meerjarig financieel kader, met name het nieuwe programma Digitaal Europa en Horizon Europa, het meest ambitieuze EU-kaderprogramma voor onderzoek en innovatie ooit, ondersteunen de Europese KI-strategie.
(14)
Zie de recente mededeling van de Commissie 'De eengemaakte markt in een veranderende wereld' (COM(2018)772).
(15)
Zie deel B van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.
(16)
Publiek-private partnerschappen voor robotica ("SPARC") en big data ("Big Data Value") vertegenwoordigen 1,2 miljard euro aan overheidsinvesteringen plus 3,2 miljard euro aan private investeringen voor de periode 2014-2020, wat een totaal van 4,4 miljard euro geeft.
(17)
De 'Big Data Value Association', de private partner in het publiek-private partnerschap voor big data, heeft een standpuntnota over KI goedgekeurd, die een aanbeveling bevat om over te gaan tot de sluiting van een partnerschap op het gebied van KI (november 2018). bdva.eu/sites/default/files
(18)
www.consilium.europa.eu/en/press/press-releases">https://www.consilium.europa.eu/en/press/press-releases
(19)
Alleen al in 2018 zijn 74 innovatieve kmo-projecten en start-ups gefinancierd om KI-gerelateerde innovaties te ontwikkelen in de proeffase van de Europese Innovatieraad.
(20)
Zie deel C van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.
(21)
COM(2016) 180.
(22)
https://ec.europa.eu/digital-single-market/en/cross-border-corridors-connected-and-automated-mobility-cam
(23)
COM(2018) 283.
(24)
ai4eu.org/
(25)
Zie deel C van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.
(26)
www.pocbigdata.eu/monitorICTonlinevacancies">https://www.pocbigdata.eu/monitorICTonlinevacancies
(27)
https://jointventure.org/images/stories/pdf/index2018.pdf
(28)
Richtlijn 2009/50/EG van de Raad betreffende de voorwaarden voor toegang en verblijf van onderdanen van derde landen met het oog op een hooggekwalificeerde baan. De Commissie heeft een voorstel ingediend om deze handeling te herzien – COM (2016) 378.
(29)
https://ec.europa.eu/digital-single-market/en/news/appointment-members-high-level-expert-group-impact-digital-transformation-eu-labour-markets
(30)
Zie de delen E en G van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.
(31)
"Data is the lifeline of AI", zie hoofdstuk 12 van het verslag van het Gemeenschappelijk Centrum voor onderzoek 'Artificial Intelligence: a European Perspective' https://ec.europa.eu/jrc/en/publication/eur-scientific-and-technical-research-reports/artificial-intelligence-european-perspective
(32)
Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens.
(33)
Verordening (EU) 2018/1807 van het Europees Parlement en de Raad van 14 november 2018 inzake een kader voor het vrije verkeer van niet-persoonsgebonden gegevens in de Europese Unie.
(34)
Voorstel voor een richtlijn van het Europees Parlement en de Raad inzake het hergebruik van overheidsinformatie (herschikking) (COM(2018) 234).
(35)
Links naar de databanken zullen beschikbaar worden gesteld via het platform voor KI 'on demand', dat diensten aan de KI-gemeenschap verleent.
(36)
https://ec.europa.eu/digital-single-market/en/eurohpc-joint-undertaking
(37)
www.ecsel.eu/">https://www.ecsel.eu/
(38)
https://ec.europa.eu/digital-single-market/en/news/european-processor-initiative-consortium-develop-europes-microprocessors-future-supercomputers
(39)
Zie deel C van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.
(40)
www.theguardian.com/technology/2016/mar/24">https://www.theguardian.com/technology/2016/mar/24
(41)
https://ec.europa.eu/digital-single-market/en/european-ai-alliance
(42)
Dit beginsel wordt uiteengezet in de gezamenlijke mededeling inzake cyberbeveiliging van september 2017 (JOIN(2017) 450).
(43)
De hoge vertegenwoordiger van de Unie voor buitenlandse zaken en veiligheidsbeleid zal, met de steun van de Commissie, voortbouwen op overleg in de Verenigde Naties, het Global Tech Panel en andere multilaterale fora, en voorstellen voor de aanpak van deze complexe veiligheidsuitdagingen coördineren.