Le 20 octobre 2020, les députés du Parlement européen ont adopté trois résolutions adressant des recommandations à la Commission européenne afin de la guider dans la rédaction des futures réglementations relatives à l’intelligence artificielle (IA).

 

Ces lignes directrices ont plus particulièrement pour objet de favoriser l’innovation tout en préservant l’éthique et la confiance dans les nouvelles technologies (1), la protection des droits de propriété intellectuelle (2) et la responsabilité des différents intervenants (3).

 

Ces trois initiatives font suite à la publication par la Commission le 19 février 2020 d’un livre blanc sur l’IA et d’un rapport sur le cadre de sécurité et de responsabilité de l’IA et à la diffusion le 17 juillet 2020 des résultats de la consultation publique ayant eu lieu entre février et juin 2020 sur la question de l’IA. Elles présagent les propositions législatives que la Commission devrait présenter sur le sujet au début de l’année 2021.

 

1. Un cadre éthique pour l’intelligence artificielle

La première résolution adoptée à la suite d’un rapport présenté par le député Ibán García del Blanco comprend des recommandations ainsi qu’une proposition de règlement sur les principes éthiques dans le cadre du développement, de déploiement et de l’utilisation de l’IA, de la robotique et des technologies connexes. Elle repose plus particulièrement sur les principes et objectifs suivants :

• Instaurer la confiance de tous les acteurs dans l’IA, en particulier lorsqu’elles sont considérées comme à haut risque ;
• Promouvoir le développement, le déploiement et l’utilisation de l’IA au sein de l’Union, en offrant notamment aux développeurs et aux utilisateurs un cadre réglementaire approprié favorisant la sécurité juridique tout en garantissant les droits fondamentaux, la protection des consommateurs et le respect de principes éthiques ;
• Favoriser la transparence et l’amélioration des échanges d’informations entre les citoyens et au sein des organisations qui développent, déploient ou utilisent l’IA afin de garantir qu’elle respecte le droit de l’Union, ses valeurs et ses droits fondamentaux, ainsi que les principes éthiques.

Sur la base de ces principes, la proposition de règlement présente 24 articles partagés entre principes éthiques, obligations relatives aux technologies à haut risque et contrôle par les instances européennes et nationales, et prône notamment :

• Une IA axée sur l’humain, développée et contrôlée par l’homme (articles 5 et 7) ;
• Le contrôle des IA à haut risque, notamment par :
  • l’évaluation obligatoire de leur conformité (article 6),
  • des garanties relatives à leur sécurité, à leur transparence, à leur traçabilité et enfin à la responsabilité de leurs développeurs, de leurs déployeurs et de leurs utilisateurs (article 8),
  • des garanties contre les biais et discriminations fondées sur des motifs tels que la race, le genre, l’orientation sexuelle ou la religion (article 9),
  • la responsabilité sociale et égalité entre les genres afin que l’IA ne contribue notamment pas à la diffusion d’éléments de désinformation (article 10),
  • une IA durable sur le plan environnemental (article 11) ;
  • le respect de la vie privée et la limitation de l’utilisation des technologies à des fins d’identification à distance dans les lieux publics, telle que la reconnaissance biométrique ou faciale (article 12) ;
  • un droit à réparation pour les personnes ayant subi des dommages occasionnés par leur développement, déploiement ou utilisation (article 13),
  • une méthode d’évaluation des technologies à haut risque et la mise en place d’une évaluation de leur conformité aux obligations prévues aux articles 6 à 12 (articles 14 et 15) ;
• La mise en place d’un certificat européen de conformité éthique (article 16) ;
• La mise en place dans chaque Etat membre d’un organisme public indépendant de contrôle de l’application du présent règlement (article 18).

 

2. La protection des droits de propriété intellectuelle

La deuxième résolution, adoptée à la suite d’un rapport présenté par le député Stéphane Séjourné, comprend quant à lui 22 recommandations afin de préserver la souveraineté numérique et industrielle de l’UE, assurer sa compétitivité et protéger l’innovation et les droits de propriété intellectuelle. Elle énonce qu’il serait notamment nécessaire à ces fins :

• D’appréhender les différentes dimensions de l’IA à travers des définitions technologiquement neutres et suffisamment souples pour qu’elles s’appliquent aux évolutions technologiques de demain et aux usages futurs ;
• De mettre en place un régime de propriété intellectuelle efficace et adapté à l’ère numérique au niveau européen, en prévoyant notamment des garanties solides pour protéger le système de brevets de l’UE contre les agissements illicites portant préjudice aux développeurs innovants ;
• De privilégier une évaluation sectorielle et par type des implications des technologies de l’IA en matière de droits de propriété intellectuelle, en prenant notamment en compte le degré d’intervention humaine, l’autonomie de l’IA, l’importance du rôle et de la source des données et des contenus protégés par le droit d’auteur ;
• De ne pas doter les technologies de l’IA de la personnalité juridique[1];
• D’opérer une distinction entre les créations humaines assistées par l’IA, pour lesquelles le cadre actuel sur le droit d’auteur reste applicable, et les créations autonomes générées par l’IA qui doivent être protégées au titre du cadre juridique des droits de propriété intellectuelle afin d’encourager les investissements mais qui pourraient ne pas bénéficier de la protection par le droit d’auteur, afin de respecter le principe d’originalité lié à une personne physique, sauf à ce que les droits soient octroyés à des personnes physiques ou morales qui ont créé l’œuvre[2] ;
• De favoriser un accès plus transparent et ouvert à certaines données et bases de données à caractère non personnel dans l’UE ainsi que l’interopérabilité des données, en créant notamment un espace européen unique des données;
• De mettre en place des systèmes de conception impliquant des processus de contrôle, de révision, de transparence, de responsabilité et de vérification des processus décisionnels de l’IA avec intervention humaine ;
• De renforcer la sensibilisation et l’éducation aux médias, ainsi que la mise à disposition de technologies d’IA pour vérifier les informations et lutter contre les hypertrucages en facilitant notamment le traçage de l’utilisation d’œuvres protégées par le droit d’auteur.

 

3. Un régime SPECIAL de responsabilité en cas de dommage causé par l’iA

La troisième et dernière résolution adoptée à la suite d’un rapport présenté par le député Alex Voss comprend des recommandations et une proposition de règlement sur un régime de responsabilité civile pour l’exploitation des systèmes d’IA. Elle se fonde plus particulièrement sur les principes et objectifs suivants :

• Atteindre un équilibre entre la protection des citoyens et le soutien de l’investissement dans l’innovation;
• Garantir une sécurité juridique maximale tout au long de la chaîne des responsabilités, y compris pour le producteur, l’opérateur, les personnes lésées et tout autre tiers ;
• Favoriser l’introduction de nouveaux concepts, plutôt que remplacer les régimes de responsabilité existants ;
• Préserver la confiance dans les nouvelles technologies en offrant aux citoyens un régime de protection identique que le préjudice soit causé par un système d’IA ou non, qu’il soit de nature physique/matérielle ou virtuelle/immatérielle.

La proposition de règlement présente 14 articles applicables « lorsqu’une activité, un dispositif ou un procédé physique ou virtuel piloté par un système d’IA a causé un préjudice ou un dommage sous la forme d’une atteinte à la vie, à la santé ou à l’intégrité physique d’une personne physique ou aux biens d’une personne physique ou morale, ou a causé un préjudice immatériel important entraînant une perte économique vérifiable ». Elle prévoit plus particulièrement :

• Concernant les systèmes d’IA à haut risque :
  • Un régime de responsabilité objective de leurs opérateurs pour tous les préjudices causés par de tels systèmes d’IA, sauf à prouver qu’ils ont agi avec la diligence requise ou que les préjudices ont été causés par une activité, un dispositif ou un procédé autonome piloté par ces systèmes d’IA et sauf cas de force majeure(article 4) ;
  • L’obligation pour les opérateurs frontaux et d’amont de veiller à ce que l’exploitation des systèmes d’IA et leurs services soient couverts par une assurance de responsabilité (article 4) ;
  • Des montants maximaux d’indemnisation selon le type de préjudices causés et des méthodes de calcul des indemnités (articles 5 et 6) ;
  • Des délais spécifiques de prescription (article 7).
• Concernant les autres systèmes d’IA: un régime de responsabilité pour faute de leurs opérateurs, sauf notamment à prouver que le préjudice a été causé sans faute de leur part et sauf cas de force majeure (article 8) ;
• Des règles de répartition de la responsabilité en cas de faute concurrente ou exclusive de la personne lésée (article 10) et en cas de multiplicité des opérateurs (article 11), dont les parts de responsabilités seront déterminées au prorata du degré de contrôle exercé par chacun sur le risque lié à l’exploitation et au fonctionnement du système d’IA (article 12).

 

Ces trois résolutions invitent donc la Commission à mettre en place un cadre réglementaire harmonisé au niveau de l’UE dans le domaine de l’IA en adoptant des règles assez souples pour qu’elles puissent suivre l’évolution rapide des nouvelles technologies. Elles incitent plus particulièrement à trouver un juste équilibre entre la protection des citoyens et le soutien des investissements et du développement de l’innovation en privilégiant une IA innovante, humaine et européenne.

 

 

 

 

Retrouvez l’intégralité des articles sur le thème de l’économie digitale rédigés par nos avocats ici.

 

[1] Sur ce point, votre notre contribution contre la création d’une personnalité juridique des l’IA (Article Editions Francis Lefevere du 18 avril 2018)

[2] Sur ce point, votre notre contribution à la page 101 du rapport du CSPLA sur les enjeux juridiques et économique de l’intelligence artificielle dans le secteurs de la création culturelle (Rapport du 27 janvier 2020 sous la direction des Professeurs Alexandra Bensamoun et Joelle Farchy)