Bijlagen bij COM(2020)64 - Verslag over de gevolgen van kunstmatige intelligentie, het internet der dingen en robotica op het gebied van veiligheid en aansprakelijkheid - Hoofdinhoud
Dit is een beperkte versie
U kijkt naar een beperkte versie van dit dossier in de EU Monitor.
| dossier | COM(2020)64 - Verslag over de gevolgen van kunstmatige intelligentie, het internet der dingen en robotica op het gebied van veiligheid en ... |
|---|---|
| document | COM(2020)64   |
| datum | 19 februari 2020 |
(37) Artikel 10, lid 8, betreffende de instructies voor de eindgebruiker en bijlage VI betreffende de EU-conformiteitsverklaring.
(38) Tot dusver wordt in de context van KI het begrip “zelflerend” doorgaans gebruikt om aan te geven dat machines in staat zijn om tijdens hun training te leren; het is nog geen vereiste dat KI-machines na hun ingebruikneming blijven leren; het is integendeel met name in de gezondheidszorg gewoonlijk zo dat het leerproces van KI-machines na de succesvolle afronding van hun training stopt. In dit stadium betekent het autonome gedrag dat KI-systemen vertonen, niet dat het product taken uitvoert die door de ontwikkelaars niet zijn voorzien.
(39) Dit is in overeenstemming met punt 2.1 van de “Blauwe Gids”: richtlijnen voor de uitvoering van de productvoorschriften van de EU, 2016.
(40) Artikel 5 van Richtlijn 2001/95/EG van het Europees Parlement en de Raad van 3 december 2001 inzake algemene productveiligheid.
(41) In geval van een wijziging van het spoorwegsysteem die gevolgen kan hebben voor de veiligheid (bv. een technische of operationele wijziging of ook wel een organisatorische verandering die van invloed kan zijn op het operationele of onderhoudsproces), wordt het te volgen proces beschreven in bijlage I bij Uitvoeringsverordening (EU) 2015/1136 (PB L 185 van 14.7.2015, blz. 6). In geval van een “belangrijke wijziging” moet aan de initiatiefnemer van de wijziging een veiligheidsbeoordelingsverslag worden overgelegd door een onafhankelijke “beoordelingsinstantie” (de nationale veiligheidsinstantie of een andere technisch bekwame instantie zou deze rol kunnen vervullen). Na de risicoanalyse neemt de initiatiefnemer van de wijziging gepaste maatregelen om de risico’s te beperken (indien de initiatiefnemer een spoorwegonderneming of een infrastructuurbeheerder is, is de toepassing van de verordening onderdeel van het veiligheidsbeheersysteem, waarvan de toepassing onder toezicht staat van de nationale veiligheidsautoriteit).
(42) Policy and Investment Recommendations for Trustworthy AI, Deskundigengroep op hoog niveau inzake kunstmatige intelligentie, juni 2019.
(43) Dit sluit echter niet uit dat in een bepaalde situatie in toezicht moet worden voorzien als uitvloeisel van een of meer van de bestaande meer algemene verplichtingen betreffende het in de handel brengen van het product.
(44) Statuut van de Wereldgezondheidsorganisatie, eerste streepje: “Gezondheid is een toestand van volledig lichamelijk, geestelijk en sociaal welzijn en niet slechts de afwezigheid van ziekte of zwakheid.” (https://www.who.int/about/who-we-are/constitution).
(45) Neziha Akalin, Annica Kristoffersson and Amy Loutfi: “Evaluating the Sense of Safety and Security in Human–Robot Interaction with Older People”, in Social Robots: Technological, Societal and Ethical Aspects of Human-Robot Interaction, blz. 237-264, juli 2019.
(46) https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top , https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:52019DC0168
(47) Op basis van de belangrijkste vereisten die de deskundigengroep op hoog niveau heeft voorgesteld in de ethische richtsnoeren voor betrouwbare KI: https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines
(48) Verordening (EG) nr. 2008/765 en Besluit (EG) nr. 2008/768 en de geharmoniseerde sectorale productveiligheidswetgeving, bijvoorbeeld de machinerichtlijn (Richtlijn 2006/42/EG).
(49) In artikel 2 van de richtlijn algemene productveiligheid wordt bepaald dat voor een veilig product rekening moet worden gehouden met “het effect ervan op andere producten, ingeval redelijkerwijs kan worden verwacht dat het product in combinatie met die andere producten zal worden gebruikt”.
(50) Punt 1.2.1 van bijlage I bij de machinerichtlijn.
(51) Blauwe Gids, richtlijnen voor de uitvoering van de productvoorschriften van de EU, 2016
(52) Radiomodules zijn elektronische apparaten die radiosignalen (Wi-Fi, Bluetooth) uitzenden en/of ontvangen tussen twee apparaten.
(53) Artikel 3, lid 3, onder i), van de richtlijn radioapparatuur.
(54) Richtlijn 2014/33/EU, artikel 16, lid 2.
(55) De installateur is volgens de liftenrichtlijn (Richtlijn 2014/33/EU) het equivalent van de fabrikant en moet de verantwoordelijkheid op zich nemen voor het ontwerp, de vervaardiging, de installatie en het in de handel brengen van de lift.
(56) Machinerichtlijn, bijlage I, punt 1.7.4.2: “Iedere gebruiksaanwijzing moet, in voorkomend geval, ten minste de volgende informatie bevatten: […] i) instructies voor de montage, installatie en aansluiting van de machine, met inbegrip van tekeningen, schema’s en de bevestigingsmiddelen, en aanduiding van het chassis of de installatie waarop de machine moet worden gemonteerd”.
(57) Geharmoniseerd voor motorrijtuigen bij Richtlijn 2009/103/EG betreffende de verzekering tegen de wettelijke aansprakelijkheid waartoe de deelneming aan het verkeer van motorrijtuigen aanleiding kan geven en de controle op de verzekering tegen deze aansprakelijkheid.
(58) In de meeste lidstaten geldt risicoaansprakelijkheid voor de persoon op wiens naam het motorrijtuig is geregistreerd.
(59) “Liability for Artificial Intelligence and other emerging technologies”, verslag, https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199
(60) “Liability for Artificial Intelligence and other emerging technologies”, verslag, https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199
(61) Vgl. de onbemande luchtvaartuigsystemen als bedoeld in Uitvoeringsverordening (EU) 2019/947 van de Commissie van 24 mei 2019 inzake de regels en procedures voor de exploitatie van onbemande luchtvaartuigen.
(62) “Liability for Artificial Intelligence and other emerging technologies”, verslag, https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199
(63) Zie het verslag van de formatie nieuwe technologieën, blz. 3 en beleidsaanbeveling 27.2 van de deskundigengroep op hoog niveau inzake kunstmatige intelligentie.