Le 17 mai dernier, le Conseil de l’Europe a adopté le premier traité international juridiquement contraignant visant à garantir le respect des normes juridiques en matière des droits de l’homme, de la démocratie et de l’Etat de droit dans le cadre du recours aux systèmes d’intelligence artificielle (IA).

Ce traité, élaboré par le Comité sur l’intelligence artificielle (CAI), se présente sous forme de convention-cadre et s’inscrit dans une démarche d’encadrement de l’IA. Il ne dépasse pas les règles négociées dans le cadre du règlement européen sur l’IA adopté à l’unanimité le 21 mai dernier, lequel servira d’outil de mise en œuvre de la convention.

C’est l’occasion de revenir sur ses objectifs et les obligations qui en découlent.

Objectifs posés par le traité du Conseil de l’Europe sur l’IA

Le traité vise à répondre aux défis particuliers survenant tout au long du cycle de vie des systèmes d’intelligence artificielle (IA) et à encourager la prise en compte des risques et des impacts liés à ces technologies.

Il s’applique aux activités menées dans le cadre du cycle de vie des systèmes d’IA qui sont susceptibles de porter atteinte aux droits de l’homme, à la démocratie et à l’Etat de droit, que ces activités soient menées par des pouvoirs publics ou des acteurs privés.

Le Conseil de l’Europe reconnaît que, bien que les activités menées dans le cadre du cycle de vie des systèmes d’IA puissent offrir des opportunités sans précédents pour la protection et la promotion des droits de l’homme, la démocratie et l’Etat de droit, ils peuvent aussi porter atteinte à ces derniers ainsi qu’à la dignité humaine et à l’autonomie personnelle. Cette dualité souligne l’importance cruciale de l’établissement de normes internationales pour encadrer l’utilisation des systèmes d’IA. En adoptant ce traité, le Conseil de l’Europe cherche à naviguer entre innovation technologique et protection des valeurs fondamentales.

Etant donné que l’IA transcende les frontières, il était nécessaire de créer un cadre juridique international. Le traité, ouvert à la signature de pays non européens, s’inscrit dans ce contexte puisqu’il a rassemblé, lors de sa rédaction, 46 Etats membres du Conseil de l’Europe, l’Union européenne ainsi que 11 Etats non-membres et des représentants du secteur privé, de la société civile et du monde universitaire en qualité d’observateurs.

Obligations découlant du traité du Conseil de l’Europe sur l’IA

Le traité impose des obligations générales applicables pour l’utilisation des systèmes d’IA, en particulier la protection des droits de l’homme, l’intégrité des processus démocratiques et le respect de l’Etat de droit. Il prévoit aussi des principes tels que la transparence et le contrôle, l’obligation de rendre des comptes et la responsabilité pour les impacts négatifs causés par les systèmes d’IA, ainsi que le respect de la vie privée et la protection des données à caractère personnel dans le cadre des activités menées au cours du cycle de vie des systèmes d’IA.

Les parties au traité doivent veiller à ce que les victimes de violations des droits de l’homme disposent de voies de recours et de garanties procédurales. En sus, les personnes interagissant avec un système d’IA doivent être informées de cette interaction, garantissant ainsi la transparence lors de l’utilisation de ces technologies.

Les parties doivent également adopter des mesures pour identifier, évaluer, prévenir et atténuer les risques posés par les systèmes d’IA en tenant compte des impacts réels et potentiels sur les droits de l’homme, la démocratie et l’Etat de droit.

Un mécanisme de suivi, sous forme de conférence des parties, est prévu pour assurer la mise en œuvre effective du traité. Le traité prévoit aussi un mécanisme de contrôle indépendant ainsi que l’organisation de débats publics et de consultations multipartites sur les risques soulevés par l’IA.

Le traité sera ouvert à la signature à Vilnius (Lituanie) le 5 septembre prochain, lors d’une conférence des ministres de la justice. Il entrera en vigueur le premier jour du mois suivant l’expiration d’une période de trois mois après que cinq signataires, dont au moins trois Etats membres du Conseil de l’Europe, auront manifesté leur consentement à être liés par le traité.