Tractatenblad 2025, 4

22 (2024) Nr. 1

A. TITEL

Kaderverdrag van de Raad van Europa over artificiële intelligentie en de mensenrechten, de democratie en de rechtsstaat;

Vilnius, 5 september 2024

Voor een overzicht van de verdragsgegevens, zie verdragsnummer 013947 in de Verdragenbank.

B. TEKST¹⁾

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law

Preamble

The member States of the Council of Europe and the other signatories hereto,

Considering that the aim of the Council of Europe is to achieve greater unity between its members, based in particular on the respect for human rights, democracy and the rule of law;

Recognising the value of fostering co-operation between the Parties to this Convention and of extending such co-operation to other States that share the same values;

Conscious of the accelerating developments in science and technology and the profound changes brought about through activities within the lifecycle of artificial intelligence systems, which have the potential to promote human prosperity as well as individual and societal well-being, sustainable development, gender equality and the empowerment of all women and girls, as well as other important goals and interests, by enhancing progress and innovation;

Recognising that activities within the lifecycle of artificial intelligence systems may offer unprecedented opportunities to protect and promote human rights, democracy and the rule of law;

Concerned that certain activities within the lifecycle of artificial intelligence systems may undermine human dignity and individual autonomy, human rights, democracy and the rule of law;

Concerned about the risks of discrimination in digital contexts, particularly those involving artificial intelligence systems, and their potential effect of creating or aggravating inequalities, including those experienced by women and individuals in vulnerable situations, regarding the enjoyment of their human rights and their full, equal and effective participation in economic, social, cultural and political affairs;

Concerned by the misuse of artificial intelligence systems and opposing the use of such systems for repressive purposes in violation of international human rights law, including through arbitrary or unlawful surveillance and censorship practices that erode privacy and individual autonomy;

Conscious of the fact that human rights, democracy and the rule of law are inherently interwoven;

Convinced of the need to establish, as a matter of priority, a globally applicable legal framework setting out common general principles and rules governing the activities within the lifecycle of artificial intelligence systems that effectively preserves shared values and harnesses the benefits of artificial intelligence for the promotion of these values in a manner conducive to responsible innovation;

Recognising the need to promote digital literacy, knowledge about, and trust in the design, development, use and decommissioning of artificial intelligence systems;

Recognising the framework character of this Convention, which may be supplemented by further instruments to address specific issues relating to the activities within the lifecycle of artificial intelligence systems;

Underlining that this Convention is intended to address specific challenges which arise throughout the lifecycle of artificial intelligence systems and encourage the consideration of the wider risks and impacts related to these technologies including, but not limited to, human health and the environment, and socio-economic aspects, such as employment and labour;

Noting relevant efforts to advance international understanding and co-operation on artificial intelligence by other international and supranational organisations and fora;

Mindful of applicable international human rights instruments, such as the 1948 Universal Declaration of Human Rights, the 1950 Convention for the Protection of Human Rights and Fundamental Freedoms (ETS No. 5), the 1966 International Covenant on Civil and Political Rights, the 1966 International Covenant on Economic, Social and Cultural Rights, the 1961 European Social Charter (ETS No. 35), as well as their respective protocols, and the 1996 European Social Charter (Revised) (ETS No. 163);

Mindful also of the 1989 United Nations Convention on the Rights of the Child and the 2006 United Nations Convention on the Rights of Persons with Disabilities;

Mindful also of the privacy rights of individuals and the protection of personal data, as applicable and conferred, for example, by the 1981 Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data (ETS No. 108) and its protocols;

Affirming the commitment of the Parties to protecting human rights, democracy and the rule of law, and fostering trustworthiness of artificial intelligence systems through this Convention,

Have agreed as follows:

CHAPTER I GENERAL PROVISIONS

Article 1 Object and purpose

• 1. The provisions of this Convention aim to ensure that activities within the lifecycle of artificial intelligence systems are fully consistent with human rights, democracy and the rule of law.

• 2. Each Party shall adopt or maintain appropriate legislative, administrative or other measures to give effect to the provisions set out in this Convention. These measures shall be graduated and differentiated as may be necessary in view of the severity and probability of the occurrence of adverse impacts on human rights, democracy and the rule of law throughout the lifecycle of artificial intelligence systems. This may include specific or horizontal measures that apply irrespective of the type of technology used.

• 3. In order to ensure effective implementation of its provisions by the Parties, this Convention establishes a follow-up mechanism and provides for international co-operation.

Article 2 Definition of artificial intelligence systems

For the purposes of this Convention, “artificial intelligence system” means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations or decisions that may influence physical or virtual environments. Different artificial intelligence systems vary in their levels of autonomy and adaptiveness after deployment.

Article 3 Scope

• 1. The scope of this Convention covers the activities within the lifecycle of artificial intelligence systems that have the potential to interfere with human rights, democracy and the rule of law as follows:

  • a) Each Party shall apply this Convention to the activities within the lifecycle of artificial intelligence systems undertaken by public authorities, or private actors acting on their behalf.

  • b) Each Party shall address risks and impacts arising from activities within the lifecycle of artificial intelligence systems by private actors to the extent not covered in subparagraph a in a manner conforming with the object and purpose of this Convention.

  Each Party shall specify in a declaration submitted to the Secretary General of the Council of Europe at the time of signature, or when depositing its instrument of ratification, acceptance, approval or accession, how it intends to implement this obligation, either by applying the principles and obligations set forth in Chapters II to VI of this Convention to activities of private actors or by taking other appropriate measures to fulfil the obligation set out in this subparagraph. Parties may, at any time and in the same manner, amend their declarations.

  When implementing the obligation under this subparagraph, a Party may not derogate from or limit the application of its international obligations undertaken to protect human rights, democracy and the rule of law.

• 2. A Party shall not be required to apply this Convention to activities within the lifecycle of artificial intelligence systems related to the protection of its national security interests, with the understanding that such activities are conducted in a manner consistent with applicable international law, including international human rights law obligations, and with respect for its democratic institutions and processes.

• 3. Without prejudice to Article 13 and Article 25, paragraph 2, this Convention shall not apply to research and development activities regarding artificial intelligence systems not yet made available for use, unless testing or similar activities are undertaken in such a way that they have the potential to interfere with human rights, democracy and the rule of law.

• 4. Matters relating to national defence do not fall within the scope of this Convention.

CHAPTER II GENERAL OBLIGATIONS

Article 4 Protection of human rights

Each Party shall adopt or maintain measures to ensure that the activities within the lifecycle of artificial intelligence systems are consistent with obligations to protect human rights, as enshrined in applicable international law and in its domestic law.

Article 5 Integrity of democratic processes and respect for the rule of law

• 1. Each Party shall adopt or maintain measures that seek to ensure that artificial intelligence systems are not used to undermine the integrity, independence and effectiveness of democratic institutions and processes, including the principle of the separation of powers, respect for judicial independence and access to justice.

• 2. Each Party shall adopt or maintain measures that seek to protect its democratic processes in the context of activities within the lifecycle of artificial intelligence systems, including individuals’ fair access to and participation in public debate, as well as their ability to freely form opinions.

CHAPTER III PRINCIPLES RELATED TO ACTIVITIES WITHIN THE LIFECYCLE OF ARTIFICIAL INTELLIGENCE SYSTEMS

Article 6 General approach

This chapter sets forth general common principles that each Party shall implement in regard to artificial intelligence systems in a manner appropriate to its domestic legal system and the other obligations of this Convention.

Article 7 Human dignity and individual autonomy

Each Party shall adopt or maintain measures to respect human dignity and individual autonomy in relation to activities within the lifecycle of artificial intelligence systems.

Article 8 Transparency and oversight

Each Party shall adopt or maintain measures to ensure that adequate transparency and oversight requirements tailored to the specific contexts and risks are in place in respect of activities within the lifecycle of artificial intelligence systems, including with regard to the identification of content generated by artificial intelligence systems.

Article 9 Accountability and responsibility

Each Party shall adopt or maintain measures to ensure accountability and responsibility for adverse impacts on human rights, democracy and the rule of law resulting from activities within the lifecycle of artificial intelligence systems.

Article 10 Equality and non-discrimination

• 1. Each Party shall adopt or maintain measures with a view to ensuring that activities within the lifecycle of artificial intelligence systems respect equality, including gender equality, and the prohibition of discrimination, as provided under applicable international and domestic law.

• 2. Each Party undertakes to adopt or maintain measures aimed at overcoming inequalities to achieve fair, just and equitable outcomes, in line with its applicable domestic and international human rights obligations, in relation to activities within the lifecycle of artificial intelligence systems.

Article 11 Privacy and personal data protection

Each Party shall adopt or maintain measures to ensure that, with regard to activities within the lifecycle of artificial intelligence systems:

• a) privacy rights of individuals and their personal data are protected, including through applicable domestic and international laws, standards and frameworks; and

• b) effective guarantees and safeguards have been put in place for individuals, in accordance with applicable domestic and international legal obligations.

Article 12 Reliability

Each Party shall take, as appropriate, measures to promote the reliability of artificial intelligence systems and trust in their outputs, which could include requirements related to adequate quality and security throughout the lifecycle of artificial intelligence systems.

Article 13 Safe innovation

With a view to fostering innovation while avoiding adverse impacts on human rights, democracy and the rule of law, each Party is called upon to enable, as appropriate, the establishment of controlled environments for developing, experimenting and testing artificial intelligence systems under the supervision of its competent authorities.

CHAPTER IV REMEDIES

Article 14 Remedies

• 1. Each Party shall, to the extent remedies are required by its international obligations and consistent with its domestic legal system, adopt or maintain measures to ensure the availability of accessible and effective remedies for violations of human rights resulting from the activities within the lifecycle of artificial intelligence systems.

• 2. With the aim of supporting paragraph 1 above, each Party shall adopt or maintain measures including:

  • a) measures to ensure that relevant information regarding artificial intelligence systems which have the potential to significantly affect human rights and their relevant usage is documented, provided to bodies authorised to access that information and, where appropriate and applicable, made available or communicated to affected persons;

  • b) measures to ensure that the information referred to in subparagraph a is sufficient for the affected persons to contest the decision(s) made or substantially informed by the use of the system, and, where relevant and appropriate, the use of the system itself; and

  • c) an effective possibility for persons concerned to lodge a complaint to competent authorities.

Article 15 Procedural safeguards

• 1. Each Party shall ensure that, where an artificial intelligence system significantly impacts upon the enjoyment of human rights, effective procedural guarantees, safeguards and rights, in accordance with the applicable international and domestic law, are available to persons affected thereby.

• 2. Each Party shall seek to ensure that, as appropriate for the context, persons interacting with artificial intelligence systems are notified that they are interacting with such systems rather than with a human.

CHAPTER V ASSESSMENT AND MITIGATION OF RISKS AND ADVERSE IMPACTS

Article 16 Risk and impact management framework

• 1. Each Party shall, taking into account the principles set forth in Chapter III, adopt or maintain measures for the identification, assessment, prevention and mitigation of risks posed by artificial intelligence systems by considering actual and potential impacts to human rights, democracy and the rule of law.

• 2. Such measures shall be graduated and differentiated, as appropriate, and:

  • a) take due account of the context and intended use of artificial intelligence systems, in particular as concerns risks to human rights, democracy, and the rule of law;

  • b) take due account of the severity and probability of potential impacts;

  • c) consider, where appropriate, the perspectives of relevant stakeholders, in particular persons whose rights may be impacted;

  • d) apply iteratively throughout the activities within the lifecycle of the artificial intelligence system;

  • e) include monitoring for risks and adverse impacts to human rights, democracy, and the rule of law;

  • f) include documentation of risks, actual and potential impacts, and the risk management approach; and

  • g) require, where appropriate, testing of artificial intelligence systems before making them available for first use and when they are significantly modified.

• 3. Each Party shall adopt or maintain measures that seek to ensure that adverse impacts of artificial intelligence systems to human rights, democracy, and the rule of law are adequately addressed. Such adverse impacts and measures to address them should be documented and inform the relevant risk management measures described in paragraph 2.

• 4. Each Party shall assess the need for a moratorium or ban or other appropriate measures in respect of certain uses of artificial intelligence systems where it considers such uses incompatible with the respect for human rights, the functioning of democracy or the rule of law.

CHAPTER VI IMPLEMENTATION OF THE CONVENTION

Article 17 Non-discrimination

The implementation of the provisions of this Convention by the Parties shall be secured without discrimination on any ground, in accordance with their international human rights obligations.

Article 18 Rights of persons with disabilities and of children

Each Party shall, in accordance with its domestic law and applicable international obligations, take due account of any specific needs and vulnerabilities in relation to respect for the rights of persons with disabilities and of children.

Article 19 Public consultation

Each Party shall seek to ensure that important questions raised in relation to artificial intelligence systems are, as appropriate, duly considered through public discussion and multistakeholder consultation in the light of social, economic, legal, ethical, environmental and other relevant implications.

Article 20 Digital literacy and skills

Each Party shall encourage and promote adequate digital literacy and digital skills for all segments of the population, including specific expert skills for those responsible for the identification, assessment, prevention and mitigation of risks posed by artificial intelligence systems.

Article 21 Safeguard for existing human rights

Nothing in this Convention shall be construed as limiting, derogating from or otherwise affecting the human rights or other related legal rights and obligations which may be guaranteed under the relevant laws of a Party or any other relevant international agreement to which it is party.

Article 22 Wider protection

None of the provisions of this Convention shall be interpreted as limiting or otherwise affecting the possibility for a Party to grant a wider measure of protection than is stipulated in this Convention.

CHAPTER VII FOLLOW-UP MECHANISM AND CO-OPERATION

Article 23 Conference of the Parties

• 1. The Conference of the Parties shall be composed of representatives of the Parties to this Convention.

• 2. The Parties shall consult periodically with a view to:

  • a) facilitating the effective application and implementation of this Convention, including the identification of any problems and the effects of any reservation made in pursuance of Article 34, paragraph 1, or any declaration made under this Convention;

  • b) considering the possible supplementation to or amendment of this Convention;

  • c) considering matters and making specific recommendations concerning the interpretation and application of this Convention;

  • d) facilitating the exchange of information on significant legal, policy or technological developments of relevance, including in pursuit of the objectives defined in Article 25, for the implementation of this Convention;

  • e) facilitating, where necessary, the friendly settlement of disputes related to the application of this Convention; and

  • f) facilitating co-operation with relevant stakeholders concerning pertinent aspects of the implementation of this Convention, including through public hearings where appropriate.

• 3. The Conference of the Parties shall be convened by the Secretary General of the Council of Europe whenever necessary and, in any case, when a majority of the Parties or the Committee of Ministers requests its convocation.

• 4. The Conference of the Parties shall adopt its own rules of procedure by consensus within twelve months of the entry into force of this Convention.

• 5. The Parties shall be assisted by the Secretariat of the Council of Europe in carrying out their functions pursuant to this article.

• 6. The Conference of the Parties may propose to the Committee of Ministers appropriate ways to engage relevant expertise in support of the effective implementation of this Convention.

• 7. Any Party which is not a member of the Council of Europe shall contribute to the funding of the activities of the Conference of the Parties. The contribution of a non-member of the Council of Europe shall be established jointly by the Committee of Ministers and that non-member.

• 8. The Conference of the Parties may decide to restrict the participation in its work of a Party that has ceased to be a member of the Council of Europe under Article 8 of the Statute of the Council of Europe (ETS No. 1) for a serious violation of Article 3 of the Statute. Similarly, measures can be taken in respect of any Party that is not a member State of the Council of Europe by a decision of the Committee of Ministers to cease its relations with that State on grounds similar to those mentioned in Article 3 of the Statute.

Article 24 Reporting obligation

• 1. Each Party shall provide a report to the Conference of the Parties within the first two years after becoming a Party, and then periodically thereafter with details of the activities undertaken to give effect to Article 3, paragraph 1, sub-paragraphs a and b.

• 2. The Conference of the Parties shall determine the format and the process for the report in accordance with its rules of procedure.

Article 25 International co-operation

• 1. The Parties shall co-operate in the realisation of the purpose of this Convention. Parties are further encouraged, as appropriate, to assist States that are not Parties to this Convention in acting consistently with the terms of this Convention and becoming a Party to it.

• 2. The Parties shall, as appropriate, exchange relevant and useful information between themselves concerning aspects related to artificial intelligence which may have significant positive or negative effects on the enjoyment of human rights, the functioning of democracy and the observance of the rule of law, including risks and effects that have arisen in research contexts and in relation to the private sector. Parties are encouraged to involve, as appropriate, relevant stakeholders and States that are not Parties to this Convention in such exchanges of information.

• 3. The Parties are encouraged to strengthen co-operation, including with relevant stakeholders where appropriate, to prevent and mitigate risks and adverse impacts on human rights, democracy and the rule of law in the context of activities within the lifecycle of artificial intelligence systems.

Article 26 Effective oversight mechanisms

• 1. Each Party shall establish or designate one or more effective mechanisms to oversee compliance with the obligations in this Convention.

• 2. Each Party shall ensure that such mechanisms exercise their duties independently and impartially and that they have the necessary powers, expertise and resources to effectively fulfil their tasks of overseeing compliance with the obligations in this Convention, as given effect by the Parties.

• 3. If a Party has provided for more than one such mechanism, it shall take measures, where practicable, to facilitate effective cooperation among them.

• 4. If a Party has provided for mechanisms different from existing human rights structures, it shall take measures, where practicable, to promote effective cooperation between the mechanisms referred to in paragraph 1 and those existing domestic human rights structures.

CHAPTER VIII FINAL CLAUSES

Article 27 Effects of the Convention

• 1. If two or more Parties have already concluded an agreement or treaty on the matters dealt with in this Convention, or have otherwise established relations on such matters, they shall also be entitled to apply that agreement or treaty or to regulate those relations accordingly, so long as they do so in a manner which is not inconsistent with the object and purpose of this Convention.

• 2. Parties which are members of the European Union shall, in their mutual relations, apply European Union rules governing the matters within the scope of this Convention without prejudice to the object and purpose of this Convention and without prejudice to its full application with other Parties. The same applies to other Parties to the extent that they are bound by such rules.

Article 28 Amendments

• 1. Amendments to this Convention may be proposed by any Party, the Committee of Ministers of the Council of Europe or the Conference of the Parties.

• 2. Any proposal for amendment shall be communicated by the Secretary General of the Council of Europe to the Parties.

• 3. Any amendment proposed by a Party, or the Committee of Ministers, shall be communicated to the Conference of the Parties, which shall submit to the Committee of Ministers its opinion on the proposed amendment.

• 4. The Committee of Ministers shall consider the proposed amendment and the opinion submitted by the Conference of the Parties and may approve the amendment.

• 5. The text of any amendment approved by the Committee of Ministers in accordance with paragraph 4 shall be forwarded to the Parties for acceptance.

• 6. Any amendment approved in accordance with paragraph 4 shall come into force on the thirtieth day after all Parties have informed the Secretary General of their acceptance thereof.

Article 29 Dispute settlement

In the event of a dispute between Parties as to the interpretation or application of this Convention, these Parties shall seek a settlement of the dispute through negotiation or any other peaceful means of their choice, including through the Conference of the Parties, as provided for in Article 23, paragraph 2, sub-paragraph e.

Article 30 Signature and entry into force

• 1. This Convention shall be open for signature by the member States of the Council of Europe, the non-member States which have participated in its elaboration and the European Union.

• 2. This Convention is subject to ratification, acceptance or approval. Instruments of ratification, acceptance or approval shall be deposited with the Secretary General of the Council of Europe.

• 3. This Convention shall enter into force on the first day of the month following the expiration of a period of three months after the date on which five signatories, including at least three member States of the Council of Europe, have expressed their consent to be bound by this Convention in accordance with paragraph 2.

• 4. In respect of any signatory which subsequently expresses its consent to be bound by it, this Convention shall enter into force on the first day of the month following the expiration of a period of three months after the date of the deposit of its instrument of ratification, acceptance or approval.

Article 31 Accession

• 1. After the entry into force of this Convention, the Committee of Ministers of the Council of Europe may, after consulting the Parties to this Convention and obtaining their unanimous consent, invite any non-member State of the Council of Europe which has not participated in the elaboration of this Convention to accede to this Convention by a decision taken by the majority provided for in Article 20.d of the Statute of the Council of Europe, and by unanimous vote of the representatives of the Parties entitled to sit on the Committee of Ministers.

• 2. In respect of any acceding State, this Convention shall enter into force on the first day of the month following the expiration of a period of three months after the date of deposit of the instrument of accession with the Secretary General of the Council of Europe.

Article 32 Territorial application

• 1. Any State or the European Union may, at the time of signature or when depositing its instrument of ratification, acceptance, approval or accession, specify the territory or territories to which this Convention shall apply.

• 2. Any Party may, at a later date, by a declaration addressed to the Secretary General of the Council of Europe, extend the application of this Convention to any other territory specified in the declaration. In respect of such territory, this Convention shall enter into force on the first day of the month following the expiration of a period of three months after the date of receipt of the declaration by the Secretary General.

• 3. Any declaration made under the two preceding paragraphs may, in respect of any territory specified in said declaration, be withdrawn by a notification addressed to the Secretary General of the Council of Europe. The withdrawal shall become effective on the first day of the month following the expiration of a period of three months after the date of receipt of such notification by the Secretary General.

Article 33 Federal clause

• 1. A federal State may reserve the right to assume obligations under this Convention consistent with its fundamental principles governing the relationship between its central government and constituent states or other similar territorial entities, provided that this Convention shall apply to the central government of the federal State.

• 2. With regard to the provisions of this Convention, the application of, which come under the jurisdiction of constituent states or other similar territorial entities that are not obliged by the constitutional system of the federation to take legislative measures, the federal government shall inform the competent authorities of such states of the said provisions with its favourable opinion, and encourage them to take appropriate action to give them effect.

Article 34 Reservations

• 1. By a written notification addressed to the Secretary General of the Council of Europe, any State may, at the time of signature or when depositing its instrument of ratification, acceptance, approval or accession, declare that it avails itself of the reservation provided for in Article 33, paragraph 1.

• 2. No other reservation may be made in respect of this Convention.

Article 35 Denunciation

• 1. Any Party may, at any time, denounce this Convention by means of a notification addressed to the Secretary General of the Council of Europe.

• 2. Such denunciation shall become effective on the first day of the month following the expiration of a period of three months after the date of receipt of the notification by the Secretary General.

Article 36 Notification

The Secretary General of the Council of Europe shall notify the member States of the Council of Europe, the non-member States which have participated in the elaboration of this Convention, the European Union, any signatory, any contracting State, any Party and any other State which has been invited to accede to this Convention, of:

• a) any signature;

• b) the deposit of any instrument of ratification, acceptance, approval or accession;

• c) any date of entry into force of this Convention, in accordance with Article 30, paragraphs 3 and 4, and Article 31, paragraph 2;

• d) any amendment adopted in accordance with Article 28 and the date on which such an amendment enters into force;

• e) any declaration made in pursuance of Article 3, paragraph 1, sub-paragraph b;

• f) any reservation and withdrawal of a reservation made in pursuance of Article 34;

• g) any denunciation made in pursuance of Article 35;

• h) any other act, declaration, notification or communication relating to this Convention.

IN WITNESS WHEREOF the undersigned, being duly authorised thereto, have signed this Convention.

DONE in Vilnius, this 5th day of September 2024, in English and in French, both texts being equally authentic, in a single copy which shall be deposited in the archives of the Council of Europe. The Secretary General of the Council of Europe shall transmit certified copies to each member State of the Council of Europe, to the non-member States which have participated in the elaboration of this Convention, to the European Union and to any State invited to accede to this Convention.

---

Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit

Préambule

Les États membres du Conseil de l’Europe et les autres signataires de la présente Convention,

Considérant que le but du Conseil de l’Europe est de réaliser une union plus étroite entre ses membres, fondée en particulier sur le respect des droits de l’homme, de la démocratie et de l’État de droit;

Reconnaissant l’intérêt de favoriser la coopération entre les Parties à la présente Convention et d’étendre cette coopération à d’autres États qui partagent les mêmes valeurs;

Conscients des développements rapides de la science et de la technologie, et des profonds changements induits par les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle qui ont le potentiel de promouvoir la prospérité humaine et le bien-être des individus et de la société, le développement durable, l’égalité de genre et l’autonomisation de toutes les femmes et filles, ainsi que d’autres objectifs et intérêts importants, en renforçant le progrès et l’innovation;

Reconnaissant que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle peuvent offrir des opportunités sans précédents pour la protection et la promotion des droits de l’homme, de la démocratie et de l’État de droit;

Préoccupés par le fait que certaines activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle peuvent porter atteinte à la dignité humaine et à l’autonomie personnelle, aux droits de l’homme, à la démocratie et à l’État de droit;

Préoccupés par les risques de discrimination dans les cadres numériques, en particulier ceux impliquant des systèmes d’intelligence artificielle, et par leur effet potentiel de création ou d’aggravation des inégalités, y compris celles vécues par les femmes et les personnes en situation de vulnérabilité, en ce qui concerne la jouissance de leurs droits humains et leur participation pleine, égale et effective aux affaires économiques, sociales, culturelles et politiques;

Préoccupés par l’utilisation abusive de systèmes d’intelligence artificielle et opposés à l’utilisation de ces systèmes à des fins répressives, en violation du droit international des droits de l’homme, notamment par des pratiques de surveillance et de censure arbitraires ou illégales qui portent atteinte à la vie privée et à l’autonomie personnelle;

Conscients du fait que les droits de l’homme, la démocratie et l’État de droit sont intrinsèquement liés entre eux;

Convaincus de la nécessité d’établir, en priorité, un cadre juridique applicable à l’échelle mondiale énonçant des règles et des principes généraux communs régissant les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, qui préserve de manière efficace les valeurs communes et exploite les avantages de l’intelligence artificielle pour la promotion de ces valeurs d’une manière propice à l’innovation responsable;

Reconnaissant la nécessité de promouvoir la maîtrise du numérique, ainsi que la connaissance de la conception, du développement, de l’utilisation et de la mise hors service des systèmes d’intelligence artificielle, et la confiance dans ceux-ci;

Reconnaissant que la présente Convention a valeur de cadre et qu’elle peut être complétée par d’autres instruments destinés à traiter des questions spécifiques liées aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle;

Soulignant que la présente Convention vise à répondre aux défis particuliers survenant tout au long du cycle de vie des systèmes d’intelligence artificielle et à encourager la prise en compte des risques et des impacts plus larges liés à ces technologies, notamment, sans s’y limiter, sur la santé humaine et l’environnement, et sur les aspects socio-économiques tels que l’emploi et le travail;

Constatant les efforts pertinents déployés par d’autres organisations et instances internationales et supranationales pour faire progresser la compréhension et la coopération internationales en matière d’intelligence artificielle;

Gardant à l’esprit les instruments internationaux applicables en matière de droits de l’homme, tels que la Déclaration universelle des droits de l’homme de 1948, la Convention de sauvegarde des droits de l’homme et des libertés fondamentales de 1950 (STE n° 5), le Pacte international relatif aux droits civils et politiques de 1966, le Pacte international relatif aux droits économiques, sociaux et culturels de 1966, la Charte sociale européenne de 1961 (STE n° 35) ainsi que leurs protocoles respectifs, et la Charte sociale européenne (révisée) de 1996 (STE n° 163);

Gardant également à l’esprit la Convention des Nations Unies relative aux droits de l’enfant de 1989 et la Convention des Nations Unies relative aux droits des personnes handicapées de 2006;

Gardant également à l’esprit les droits applicables relatifs au respect de la vie privée des personnes et à la protection des données à caractère personnel, tels que conférés, par exemple, par la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel de 1981 (STE n° 108) et ses protocoles;

Affirmant l’engagement des Parties à protéger les droits de l’homme, la démocratie et l’État de droit, et à favoriser la fiabilité des systèmes d’intelligence artificielle par le biais de la présente Convention,

Sont convenus de ce qui suit:

CHAPITRE I DISPOSITIONS GÉNÉRALES

Article 1er Objet et but

• 1. Les dispositions de la présente Convention visent à garantir que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle sont pleinement compatibles avec les droits de l’homme, la démocratie et l’État de droit.

• 2. Chaque Partie adopte ou maintient les mesures législatives, administratives ou autres appropriées pour donner effet aux dispositions de la présente Convention. Ces mesures sont graduées et différenciées, si nécessaire, en fonction de la gravité et de la probabilité de l’apparition d’impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit tout au long du cycle de vie des systèmes d’intelligence artificielle. Il peut s’agir de mesures particulières ou horizontales qui s’appliquent quel que soit le type de technologie utilisé.

• 3. Afin d’assurer la mise en œuvre effective de ses dispositions par les Parties, la présente Convention établit un mécanisme de suivi et prévoit une coopération internationale.

Article 2 Définition des systèmes d’intelligence artificielle

Aux fins de la présente Convention, on entend par « système d’intelligence artificielle » un système automatisé qui, pour des objectifs explicites ou implicites, déduit, à partir d’entrées reçues, comment générer des résultats en sortie tels que des prévisions, des contenus, des recommandations ou des décisions qui peuvent influer sur des environnements physiques ou virtuels. Différents systèmes d’intelligence artificielle présentent des degrés variables d’autonomie et d’adaptabilité après déploiement.

Article 3 Champ d’application

• 1. Le champ d’application de la présente Convention couvre de la manière suivante les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle qui sont susceptibles de porter atteinte aux droits de l’homme, à la démocratie et à l’État de droit:

  • a) Chaque Partie applique la présente Convention aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle entreprises par les pouvoirs publics ou des acteurs privés qui agissent pour leur compte.

  • b) Chaque Partie répond aux risques et aux impacts découlant des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle par des acteurs privés dans la mesure où ils ne sont pas couverts par l’alinéa a, d’une manière conforme à l’objet et au but de la Convention.

  Chaque Partie spécifie dans une déclaration soumise au Secrétaire Général du Conseil de l’Europe, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, la manière dont elle entend mettre en œuvre cette obligation, soit en appliquant les principes et obligations énoncés aux chapitres II à VI de la présente Convention aux activités des acteurs privés, soit en prenant d’autres mesures appropriées pour satisfaire à l’obligation prévue au présent alinéa. Les Parties peuvent, à tout moment et de la même manière, modifier leur déclaration.

  Lors de la mise en œuvre de l’obligation au titre du présent alinéa, une Partie ne peut déroger ou limiter l’application des obligations internationales qui lui incombent en matière de protection des droits de l’homme, de la démocratie et de l’État de droit.

• 2. Une Partie n’est pas tenue d’appliquer la présente Convention aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle et liées à la protection de ses intérêts de sécurité nationale, étant entendu que ces activités sont menées de manière compatible avec le droit international applicable, y compris les obligations nées du droit international des droits de l’homme, et dans le respect de ses institutions et processus démocratiques.

• 3. Sans préjudice de l’article 13 et de l’article 25, paragraphe 2, la présente Convention ne s’applique pas aux activités de recherche et de développement relatives aux systèmes d’intelligence artificielle qui n’ont pas encore été rendus disponibles à l’utilisation, à moins que des essais ou des activités similaires ne soient entrepris d’une manière telle qu’ils sont susceptibles de porter atteinte aux droits de l’homme, à la démocratie et à l’État de droit.

• 4. Les questions relatives à la défense nationale n’entrent pas dans le champ d’application de la présente Convention.

CHAPITRE II OBLIGATIONS GÉNÉRALES

Article 4 Protection des droits de l’homme

Chaque Partie adopte ou maintient des mesures pour veiller à ce que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle soient cohérentes avec les obligations de protection des droits de l’homme, telles qu’elles sont consacrées par le droit international applicable et par son droit interne.

Article 5 Intégrité des processus démocratiques et respect de l’État de droit

• 1. Chaque Partie adopte ou maintient des mesures visant à garantir que les systèmes d’intelligence artificielle ne sont pas utilisés pour porter atteinte à l’intégrité, à l’indépendance et à l’efficacité des institutions et processus démocratiques, y compris au principe de la séparation des pouvoirs, au respect de l’indépendance de la justice et à l’accès à la justice.

• 2. Chaque Partie adopte ou maintient des mesures qui visent à protéger ses processus démocratiques dans le cadre des activités menées au cours du cycle de vie des systèmes d’intelligence artificielle, y compris l’accès équitable et la participation des personnes au débat public, ainsi que leur capacité à se forger librement une opinion.

CHAPITRE III PRINCIPES RELATIFS AUX ACTIVITES MENEES DANS LE CADRE DU CYCLE DE VIE DES SYSTEMES D’INTELLIGENCE ARTIFICIELLE

Article 6 Approche générale

Le présent chapitre énonce les principes généraux communs que chaque Partie met en œuvre à l’égard des systèmes d’intelligence artificielle, de manière adaptée à son ordre juridique interne et aux autres obligations nées de la présente Convention.

Article 7 Dignité humaine et autonomie personnelle

Chaque Partie adopte ou maintient des mesures pour le respect de la dignité humaine et de l’autonomie personnelle en ce qui concerne les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.

Article 8 Transparence et contrôle

Chaque Partie adopte ou maintient des mesures pour veiller à ce que les exigences de transparence et de contrôle adaptées aux contextes et aux risques spécifiques soient en place en ce qui concerne les activités au sein du cycle de vie des systèmes d’intelligence artificielle, y compris en ce qui concerne l’identification de contenu généré par des systèmes d’intelligence artificielle.

Article 9 Obligation de rendre des comptes et responsabilité

Chaque Partie adopte ou maintient des mesures pour garantir l’obligation de rendre des comptes et d’assumer la responsabilité pour les impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit qui résultent des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.

Article 10 Égalité et non-discrimination

• 1. Chaque Partie adopte ou maintient des mesures visant à garantir le respect de l’égalité, y compris l’égalité de genre, et l’interdiction de la discrimination dans les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, comme le prévoit le droit international et interne applicable.

• 2. Chaque Partie s’engage à adopter ou à maintenir des mesures visant à supprimer les inégalités dans les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, afin d’obtenir des résultats impartiaux, justes et équitables, dans le cadre des obligations nationales et internationales qui lui incombent en matière de droits de l’homme.

Article 11 Respect de la vie privée et protection des données à caractère personnel

Chaque Partie adopte ou maintient des mesures pour garantir que, en ce qui concerne les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle:

• a) les droits à la vie privée des personnes et leurs données à caractère personnel sont protégés, notamment par les lois, normes et cadres nationaux et internationaux applicables; et

• b) des garanties et des protections effectives ont été mises en place pour les personnes, conformément aux obligations juridiques nationales et internationales applicables.

Article 12 Fiabilité

Chaque Partie prend, de manière appropriée, des mesures pour promouvoir la fiabilité des systèmes d’intelligence artificielle et la confiance en leurs résultats, ce qui pourrait inclure des exigences en matière de qualité et de sécurité adéquates tout au long du cycle de vie des systèmes d’intelligence artificielle.

Article 13 Innovation sûre

En vue de favoriser l’innovation tout en évitant les impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit, chaque Partie est appelée à permettre, le cas échéant, la mise en place d’environnements contrôlés pour le développement, l’expérimentation et l’essai de systèmes d’intelligence artificielle sous la surveillance de ses autorités compétentes.

CHAPITRE IV RECOURS

Article 14 Recours

• 1. Chaque Partie adopte ou maintient, dans la mesure où des voies de recours sont requises par ses obligations internationales et conformément à son système juridique interne, des mesures garantissant la disponibilité de voies de recours accessibles et effectives contre les violations des droits de l’homme résultant des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.

• 2. Afin de renforcer la portée du paragraphe 1 ci-dessus, chaque Partie adopte ou maintient des mesures, y compris:

  • a) des mesures garantissant que des informations pertinentes concernant les systèmes d’intelligence artificielle susceptibles d’avoir une incidence significative sur les droits de l’homme et leur utilisation pertinente sont documentées, fournies aux organismes autorisés à avoir accès à ces informations et, si nécessaire et applicable, mises à la disposition des personnes concernées ou communiquées à ces dernières ;

  • b) des mesures garantissant que les informations visées à l’alinéa a sont suffisantes pour permettre aux personnes concernées de contester la ou les décisions prises par le biais de l’utilisation du système ou fondées en grande partie sur celle-ci, et si nécessaire et approprié, de contester l’utilisation du système; et

  • c) une possibilité effective donnée aux personnes concernées de former un recours auprès des autorités compétentes.

Article 15 Garanties procédurales

• 1. Chaque Partie veille à ce que, lorsqu’un système d’intelligence artificielle a un impact significatif sur la jouissance des droits de l’homme, les personnes affectées par celui-ci disposent de garanties, de protections et de droits procéduraux effectifs, conformément au droit international et au droit interne applicables.

• 2. Chaque Partie cherche à veiller à ce que, en fonction du contexte, les personnes qui interagissent avec des systèmes d’intelligence artificielle soient informées du fait qu’elles interagissent avec de tels systèmes et non avec un humain.

CHAPITRE V ÉVALUATION ET ATTENUATION DES RISQUES ET DES IMPACTS NEGATIFS

Article 16 Cadre de gestion des risques et des impacts

• 1. Chaque Partie, compte tenu des principes énoncés au chapitre III, adopte ou maintient des mesures afin d’identifier, d’évaluer, de prévenir et d’atténuer les risques posés par les systèmes d’intelligence artificielle en tenant compte des impacts réels et potentiels sur les droits de l’homme, la démocratie et l’État de droit.

• 2. Ces mesures sont graduées et différenciées, le cas échéant, et:

  • a) tiennent dûment compte du contexte et de l’utilisation prévue des systèmes d’intelligence artificielle, notamment en ce qui concerne les risques pour les droits de l’homme, la démocratie et l’État de droit;

  • b) tiennent dûment compte de la gravité et de la probabilité des impacts potentiels;

  • c) prennent en compte, le cas échéant, le point de vue des parties prenantes pertinentes, en particulier les personnes dont les droits pourraient être affectés;

  • d) s’appliquent de manière itérative tout au long des activités menées dans le cadre du cycle de vie du système d’intelligence artificielle;

  • e) comprennent un suivi des risques et des impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit;

  • f) comprennent la documentation des risques, des impacts réels et potentiels, et de l’approche de la gestion des risques; et

  • g) exigent, le cas échéant, l’essai préalable des systèmes d’intelligence artificielle avant leur mise à disposition pour première utilisation et lorsqu’ils subissent des modifications significatives.

• 3. Chaque Partie adopte ou maintient des mesures qui visent à garantir que les impacts négatifs des systèmes d’intelligence artificielle sur les droits de l’homme, la démocratie et l’État de droit sont traités de manière adéquate. Ces impacts négatifs et les mesures prises pour y remédier devraient être documentés et pris en compte pour l’élaboration des mesures de gestion des risques pertinentes décrites au paragraphe 2.

• 4. Chaque Partie évalue la nécessité d’un moratoire, d’une interdiction ou d’autres mesures appropriées concernant certaines utilisations des systèmes d’intelligence artificielle lorsqu’elle considère que ces utilisations sont incompatibles avec le respect des droits de l’homme, le fonctionnement de la démocratie ou l’État de droit.

CHAPITRE VI MISE EN ŒUVRE DE LA CONVENTION

Article 17 Non-discrimination

La mise en œuvre des dispositions de la présente Convention par les Parties est assurée sans discrimination fondée sur quelque motif que ce soit, conformément à leurs obligations internationales en matière de droits de l’homme.

Article 18 Droits des personnes handicapées et des enfants

Chaque Partie tient dûment compte des besoins et des vulnérabilités spécifiques en rapport avec le respect des droits des personnes handicapées et des enfants, conformément à son droit interne et aux obligations internationales applicables.

Article 19 Consultation publique

Chaque Partie vise à garantir que les questions importantes soulevées par les systèmes d’intelligence artificielle sont, le cas échéant, dûment examinées dans le cadre d’un débat public et de consultations multipartites, à la lumière des incidences sociales, économiques, juridiques, éthiques, environnementales et des autres implications pertinentes.

Article 20 Maîtrise du numérique et compétences numériques

Chaque Partie encourage et promeut la maîtrise du numérique et les compétences numériques adéquates pour toutes les catégories de la population, notamment les compétences spécifiques de pointe pour les personnes chargées de l’identification, de l’évaluation, de la prévention et de l’atténuation des risques que présentent les systèmes d’intelligence artificielle.

Article 21 Sauvegarde des droits de l’homme reconnus

Aucune disposition de la présente Convention ne peut être interprétée comme limitant, dérogeant ou affectant d’une quelconque manière les droits de l’homme ou d’autres droits et obligations juridiques connexes qui peuvent être garantis en vertu du droit interne d’une Partie ou de tout autre accord international pertinent auquel elle est partie.

Article 22 Protection plus étendue

Aucune des dispositions de la présente Convention ne saurait être interprétée comme limitant ou affectant d’une quelconque manière la possibilité pour une Partie d’accorder une protection plus étendue que celle que prévoit la présente Convention.

CHAPITRE VII MECANISME DE SUIVI ET COOPERATION

Article 23 Conférence des Parties

• 1. La Conférence des Parties est composée des représentants des Parties à la présente Convention.

• 2. Les Parties se concertent périodiquement, afin:

  • a) de faciliter l’application et la mise en œuvre effectives de la présente Convention, notamment l’identification de tout problème et des effets de toute réserve formulée au titre de l’article 34, paragraphe 1, ou de toute déclaration faite au titre de la présente Convention;

  • b) d’examiner la possibilité de compléter ou de modifier la présente Convention;

  • c) d’examiner des questions et de formuler des recommandations particulières relatives à l’interprétation et à l’application de la présente Convention;

  • d) de faciliter l’échange d’informations sur les évolutions juridiques, politiques ou technologiques significatives qui présentent un intérêt, notamment en vue de la réalisation des objectifs de l’article 25, pour la mise en œuvre de la présente Convention;

  • e) de faciliter, si nécessaire, le règlement amiable des litiges liés à l’application de la présente Convention; et

  • f) de faciliter la coopération avec les parties prenantes pertinentes sur les aspects pertinents de la mise en œuvre de la présente Convention, notamment par le biais d’auditions publiques.

• 3. La Conférence des Parties est convoquée par le Secrétaire Général du Conseil de l’Europe à chaque fois que nécessaire et, dans tous les cas, lorsque la majorité des Parties ou le Comité des Ministres en demande la convocation.

• 4. La Conférence des Parties adopte son propre règlement intérieur par consensus dans un délai de douze mois à compter de l’entrée en vigueur de la présente Convention.

• 5. Les Parties sont assistées par le Secrétariat du Conseil de l’Europe dans l’exercice des fonctions qui leur incombent en vertu du présent article.

• 6. La Conférence des Parties peut proposer au Comité des Ministres des moyens appropriés pour mobiliser l’expertise pertinente afin de soutenir la mise en œuvre effective de la présente Convention.

• 7. Toute Partie qui n’est pas membre du Conseil de l’Europe contribue au financement des activités de la Conférence des Parties. La contribution d’un non membre du Conseil de l’Europe est établie de manière conjointe par le Comité des Ministres et ce non membre du Conseil de l’Europe.

• 8. La Conférence des Parties peut décider de restreindre la participation à ses travaux d’une Partie qui a cessé d’être membre du Conseil de l’Europe en vertu de l’article 8 du Statut du Conseil de l’Europe (STE no 1), en raison d’une violation grave de l’article 3 du Statut. De même, des mesures peuvent être prises à l’égard de toute Partie qui n’est pas un État membre du Conseil de l’Europe et qui est visée par une décision du Comité des Ministres mettant fin à ses relations avec elle pour des motifs analogues à ceux mentionnés à l’article 3 du Statut.

Article 24 Obligation de rapport

• 1. Chaque Partie fournit à la Conférence des Parties, dans un délai de deux ans à compter de la date à laquelle elle devient Partie, puis de manière périodique par la suite, un rapport contenant les détails des activités qu’elle a entreprises pour donner effet à l’article 3, paragraphe 1, alinéas a et b.

• 2. La Conférence des Parties détermine le format et le processus pour le rapport en accord avec son règlement intérieur.

Article 25 Coopération internationale

• 1. Les Parties coopèrent à la réalisation de l’objectif de la présente Convention. Les Parties sont en outre encouragées à aider, le cas échéant, les États qui ne sont pas parties à la présente Convention à agir conformément aux dispositions de la présente Convention et à devenir parties à celle-ci.

• 2. Les Parties échangent entre elles, le cas échéant, des informations pertinentes et utiles sur les aspects liés à l’intelligence artificielle qui peuvent avoir un effet positif ou négatif significatif sur la jouissance des droits de l’homme, le fonctionnement de la démocratie et le respect de l’État de droit, notamment sur les risques et les effets apparus dans le cadre de la recherche et en relation avec le secteur privé. Les Parties sont encouragées à associer, le cas échéant, les parties prenantes pertinentes et les États qui ne sont pas Parties à la présente Convention à cet échange d’information.

• 3. Les Parties sont encouragées à renforcer la coopération, y compris, le cas échéant, avec les parties prenantes pertinentes, afin de prévenir et d’atténuer les risques et les impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit dans le contexte des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.

Article 26 Mécanismes de contrôle effectifs

• 1. Chaque Partie met en place ou désigne un ou plusieurs mécanismes effectifs de contrôle du respect des obligations nées de la présente Convention.

• 2. Chaque Partie veille à ce que ces mécanismes exercent leurs fonctions de manière indépendante et impartiale, et à ce qu’ils disposent des compétences, de l’expertise et des ressources nécessaires pour s’acquitter efficacement de leur mission de contrôle du respect des obligations nées de la présente Convention, telles qu’elles ont été mises en œuvre par les Parties.

• 3. Lorsqu’une Partie a prévu plus d’un mécanisme de ce type, elle prend des mesures, autant que faire se peut, pour faciliter une coopération efficace entre eux.

• 4. Lorsqu’une Partie a prévu des mécanismes différents des structures existantes en matière de droits de l’homme, elle prend des mesures, autant que faire se peut, pour promouvoir une coopération efficace entre les mécanismes visés au paragraphe 1 et les structures nationales existantes en matière de droits de l’homme.

CHAPITRE VIII CLAUSES FINALES

Article 27 Effets de la Convention

• 1. Si deux ou plusieurs Parties ont déjà conclu un accord ou un traité sur les questions visées par la présente Convention, ou ont établi d’une autre manière leurs relations sur ces questions, elles ont également le droit d’appliquer cet accord ou ce traité, ou de régler ces relations en conséquence, tant qu’elles le font d’une manière qui n’est pas incompatible avec l’objet et le but de la présente Convention.

• 2. Les Parties qui sont membres de l’Union européenne appliquent, dans leurs relations mutuelles, les règles de l’Union européenne qui régissent les questions relevant du champ d’application de la présente Convention, sans préjudice de l’objet et du but de la présente Convention et sans préjudice de son entière application à l’égard des autres Parties. Il en va de même pour les autres Parties dans la mesure où elles sont liées par de telles règles.

Article 28 Amendements

• 1. Des amendements à la présente Convention peuvent être proposés par une Partie, par le Comité des Ministres du Conseil de l’Europe ou par la Conférence des Parties.

• 2. Toute proposition d’amendement est communiquée par le Secrétaire Général du Conseil de l’Europe aux Parties.

• 3. Tout amendement proposé par une Partie ou par le Comité des Ministres est communiqué à la Conférence des Parties, qui soumet au Comité des Ministres son avis sur l’amendement proposé.

• 4. Le Comité des Ministres examine l’amendement proposé ainsi que l’avis soumis par la Conférence des Parties et peut approuver l’amendement.

• 5. Le texte de tout amendement approuvé par le Comité des Ministres conformément au paragraphe 4 est transmis aux Parties pour acceptation.

• 6. Tout amendement approuvé conformément au paragraphe 4 entre en vigueur le trentième jour après que toutes les Parties ont informé le Secrétaire Général qu’elles l’ont accepté.

Article 29 Règlement des différends

En cas de différend entre elles sur l’interprétation ou l’application de la présente Convention, les Parties s’efforceront de parvenir à un règlement du différend par la négociation ou par tout autre moyen pacifique de leur choix, y compris par le biais de la Conférence des Parties, comme le prévoit l’article 23, paragraphe 2, alinéa e.

Article 30 Signature et entrée en vigueur

• 1. La présente Convention est ouverte à la signature des États membres du Conseil de l’Europe, des États non membres qui ont participé à son élaboration et de l’Union européenne.

• 2. La présente Convention est soumise à ratification, acceptation ou approbation. Les instruments de ratification, d’acceptation ou d’approbation sont déposés près le Secrétaire Général du Conseil de l’Europe.

• 3. La présente Convention entrera en vigueur le premier jour du mois qui suit l’expiration d’une période de trois mois après la date à laquelle cinq signataires, dont au moins trois États membres du Conseil de l’Europe, auront manifesté leur consentement à être liés par la présente Convention conformément au paragraphe 2.

• 4. Pour tout signataire qui exprimera ultérieurement son consentement à être lié par la Convention, celle-ci entrera en vigueur le premier jour du mois qui suit l’expiration d’une période de trois mois après la date du dépôt de son instrument de ratification, d’acceptation ou d’approbation.

Article 31 Adhésion

• 1. Après l’entrée en vigueur de la présente Convention, le Comité des Ministres du Conseil de l’Europe pourra, après avoir consulté les Parties à la présente Convention et obtenu leur consentement unanime, inviter tout État non membre du Conseil de l’Europe qui n’a pas participé à l’élaboration de la Convention à y adhérer par une décision prise à la majorité prévue à l’article 20.d du Statut du Conseil de l’Europe et à l’unanimité des représentants des Parties ayant le droit de siéger au Comité des Ministres.

• 2. Pour tout État adhérent, la présente Convention entrera en vigueur le premier jour du mois qui suit l’expiration d’une période de trois mois après la date de dépôt de l’instrument d’adhésion près le Secrétaire Général du Conseil de l’Europe.

Article 32 Application territoriale

• 1. Tout État ou l’Union européenne peut, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, désigner le ou les territoires auxquels s’appliquera la présente Convention.

• 2. Toute Partie peut, à une date ultérieure, par une déclaration adressée au Secrétaire Général du Conseil de l’Europe, étendre l’application de la présente Convention à tout autre territoire désigné dans cette déclaration. La Convention entrera en vigueur à l’égard de ce territoire le premier jour du mois qui suit l’expiration d’une période de trois mois après la date de réception de la déclaration par le Secrétaire Général.

• 3. Toute déclaration faite en vertu des deux paragraphes précédents pourra être retirée à l’égard de tout territoire désigné dans cette déclaration par notification adressée au Secrétaire Général du Conseil de l’Europe. Ce retrait prendra effet le premier jour du mois qui suit l’expiration d’une période de trois mois après la date de réception de la notification par le Secrétaire Général.

Article 33 Clause fédérale

• 1. Un État fédéral peut se réserver le droit d’assumer des obligations en vertu de la présente Convention conformément aux principes fondamentaux régissant les relations entre son gouvernement central et les États constitutifs ou autres entités territoriales similaires, à condition que la Convention s’applique au gouvernement central de l’État fédéral.

• 2. En ce qui concerne les dispositions de la présente Convention dont l’application relève de la compétence des États constitutifs ou d’autres entités territoriales similaires, qui ne sont pas tenus par le système constitutionnel de la fédération de prendre des mesures législatives, le gouvernement fédéral informe les autorités compétentes de ces États desdites dispositions avec son avis favorable et les encourage à prendre les mesures appropriées pour leur donner effet.

Article 34 Réserves

• 1. Par une notification écrite adressée au Secrétaire Général du Conseil de l’Europe, tout État peut, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, déclarer qu’il se prévaut de la réserve prévue à l’article 33, paragraphe 1.

• 2. Aucune autre réserve ne peut être formulée à l’égard de la présente Convention.

Article 35 Dénonciation

• 1. Toute Partie peut, à tout moment, dénoncer la présente Convention en adressant une notification au Secrétaire Général du Conseil de l’Europe.

• 2. La dénonciation prendra effet le premier jour du mois qui suit l’expiration d’une période de trois mois après la date de réception de la notification par le Secrétaire Général.

Article 36 Notification

Le Secrétaire Général du Conseil de l’Europe notifiera aux États membres du Conseil de l’Europe, aux États non membres qui ont participé à l’élaboration de la présente Convention, à l’Union européenne, à tout signataire, à tout État contractant, à toute Partie, et à tout autre État invité à adhérer à la présente Convention:

• a) toute signature;

• b) le dépôt de tout instrument de ratification, d’acceptation, d’approbation ou d’adhésion;

• c) toute date d’entrée en vigueur de la présente Convention conformément à l’article 30, paragraphes 3 et 4, et à l’article 31, paragraphe 2;

• d) tout amendement adopté conformément à l’article 28 et la date à laquelle cet amendement entre en vigueur;

• e) toute déclaration formulée en vertu de l’article 3, paragraphe 1, alinéa b;

• f) toute réserve et tout retrait de réserve formulés en vertu de l’article 34;

• g) toute dénonciation effectuée conformément aux dispositions de l’article 35;

• h) tout autre acte, déclaration, notification ou communication ayant trait à la présente Convention.

EN FOI DE QUOI, les soussignés, dûment autorisés à cet effet, ont signé la présente Convention.

FAIT à Vilnius, le 5 septembre 2024, en français et en anglais, les deux textes faisant également foi, en un seul exemplaire qui sera déposé dans les archives du Conseil de l’Europe. Le Secrétaire Général du Conseil de l’Europe en communiquera copie certifiée conforme à chacun des États membres du Conseil de l’Europe, aux États non membres qui ont participé à l’élaboration de la Convention, à l’Union européenne et à tout État invité à adhérer à la présente Convention.

---

C. VERTALING

Kaderverdrag van de Raad van Europa over artificiële intelligentie en de mensenrechten, de democratie en de rechtsstaat

Preambule

De lidstaten van de Raad van Europa en de andere staten die dit verdrag hebben ondertekend,

Overwegend dat het doel van de Raad van Europa is om een grotere eenheid tussen zijn leden tot stand te brengen, met name op basis van de eerbiediging van de mensenrechten, de democratie en de rechtsstaat;

De waarde onderkennend van het bevorderen van de samenwerking tussen de partijen bij dit verdrag en van de uitbreiding daarvan tot andere staten die dezelfde waarden delen;

Zich bewust van de snelle ontwikkelingen op het gebied van wetenschap en technologie en van de ingrijpende veranderingen die voortvloeien uit de activiteiten binnen de levenscyclus van artificiële-intelligentiesystemen („AI-systemen”), die door een verbetering van de vooruitgang en innovatie het potentieel hebben om de menselijke welvaart, het individuele en het maatschappelijke welzijn, de duurzame ontwikkeling, de gendergelijkheid, de empowerment van vrouwen en meisjes en andere belangrijke doelstellingen en belangen te bevorderen;

Onderkennend dat de activiteiten binnen de levenscyclus van AI-systemen ongekende kansen kunnen bieden om de mensenrechten, de democratie en de rechtsstaat te beschermen en te bevorderen;

Bezorgd dat bepaalde activiteiten binnen de levenscyclus van AI-systemen de menselijke waardigheid, de individuele autonomie, de mensenrechten, de democratie en de rechtsstaat kunnen ondermijnen;

Bezorgd over de risico’s van discriminatie in digitale context, met name indien daar AI-systemen mee gemoeid zijn, en over de potentiële gevolgen van die systemen voor het creëren of verergeren van ongelijkheden, bijvoorbeeld voor vrouwen en personen in kwetsbare situaties, met betrekking tot de uitoefening van hun mensenrechten en hun volledige, gelijke en doeltreffende deelname aan economische, sociale, culturele en politieke aangelegenheden;

Bezorgd over misbruik van AI-systemen en zich verzettend tegen het gebruik van dergelijke systemen voor repressieve doeleinden die met het internationaal recht inzake de mensenrechten in strijd zijn, onder meer door willekeurige of onrechtmatige inzet van toezicht en censuur die de privacy en de individuele autonomie uithollen;

Zich bewust van de inherente verbinding tussen de mensenrechten, de democratie en de rechtsstaat;

Ervan overtuigd dat prioriteit moet worden gegeven aan de instelling van een mondiaal toepasselijk rechtskader met gemeenschappelijke algemene beginselen en regels voor de activiteiten binnen de levenscyclus van AI-systemen, dat doeltreffend de gedeelde waarden in stand houdt en de voordelen van AI benut, ter bevordering van deze waarden op een voor verantwoorde innovatie bevorderlijke wijze;

Onderkennend dat de digitale geletterdheid en de kennis van en het vertrouwen in het ontwerp, de ontwikkeling, het gebruik en de ontmanteling van AI-systemen moeten worden bevorderd;

Onderkennend dat dit verdrag een kaderkarakter heeft en met extra instrumenten kan worden aangevuld om specifieke kwesties in verband met de activiteiten binnen de levenscyclus van AI-systemen aan te pakken;

Onderstrepend dat dit verdrag is bedoeld om specifieke uitdagingen aan te pakken die zich tijdens de levenscyclus van AI-systemen voordoen en de bredere risico’s en gevolgen van deze technologie in overweging te nemen, waaronder, maar niet uitsluitend, de volksgezondheid, het milieu en sociaal-economische aspecten zoals werkgelegenheid en arbeid;

Nota nemend van de inspanningen ter bevordering van het internationale begrip en de internationale samenwerking op het gebied van AI door andere internationale en supranationale organisaties en fora;

Indachtig de toepasselijke internationale mensenrechteninstrumenten, zoals de Universele Verklaring van de Rechten van de Mens van 1948, het Verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden (ETS nr. 5) van 1950, het Europees Sociaal Handvest (ETS nr. 35) van 1961, het Internationaal Verdrag inzake burgerrechten en politieke rechten van 1966, het Internationaal Verdrag inzake economische, sociale en culturele rechten van 1966, hun bijbehorende protocollen, en het Europees Sociaal Handvest (herziene versie) (ETS nr. 163) van 1996;

Mede indachtig het Verdrag van de Verenigde Naties inzake de rechten van het kind van 1989 en het Verdrag van de Verenigde Naties inzake de rechten van personen met een handicap van 2006;

Voorts indachtig de privacyrechten van personen en de bescherming van persoonsgegevens, zoals van toepassing bij en verleend krachtens bijvoorbeeld het Verdrag tot bescherming van personen met betrekking tot de geautomatiseerde verwerking van persoonsgegevens (ETS nr. 108) van 1981 en de bijbehorende protocollen;

De toezegging bevestigend van de partijen aan de bescherming van de mensenrechten, de democratie en de rechtsstaat, en aan de bevordering van de betrouwbaarheid van AI-systemen door middel van dit verdrag,

zijn als volgt overeengekomen:

HOOFDSTUK I ALGEMENE BEPALINGEN

Artikel 1 Onderwerp en doel

• 1. Dit verdrag heeft tot doel te waarborgen dat de activiteiten binnen de levenscyclus van artificiële-intelligentiesystemen volledig conform de mensenrechten, de democratie en de rechtsstaat zijn.

• 2. Elke partij treft of handhaaft passende wettelijke, bestuurlijke of andere maatregelen om dit verdrag gevolg te doen vinden. Deze maatregelen zijn gekalibreerd en gedifferentieerd naargelang de ernst en de waarschijnlijkheid van de negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat gedurende de hele levenscyclus van artificiële-intelligentiesystemen. Dit kunnen specifieke of horizontale maatregelen zijn die ongeacht het soort technologie van toepassing zijn.

• 3. Om te waarborgen dat de partijen het verdrag doeltreffend uitvoeren, wordt een follow-upmechanisme ingesteld en internationale samenwerking vastgesteld.

Artikel 2 Definitie van artificiële-intelligentiesystemen

Voor de toepassing van dit verdrag wordt onder „artificiële-intelligentiesysteem” („AI-systeem”) verstaan een machinaal systeem dat voor expliciete of impliciete doeleinden uit de ontvangen input afleidt hoe het output kan genereren zoals voorspellingen, inhoud, aanbevelingen en beslissingen die op fysieke of virtuele omgevingen van invloed kunnen zijn. De autonomie en het aanpassingsvermogen van de verschillende AI-systemen na de uitrol lopen uiteen.

Artikel 3 Toepassingsgebied

• 1. Het toepassingsgebied van dit verdrag omvat de activiteiten binnen de levenscyclus van AI-systemen die de mensenrechten, de democratie en de rechtsstaat kunnen schenden, als volgt:

  • a. elke partij past dit verdrag toe op de activiteiten binnen de levenscyclus van AI-systemen die door overheidsinstanties of door namens hen optredende particuliere partijen worden verricht;

  • b. voor de risico’s en de gevolgen die voortvloeien uit de activiteiten binnen de levenscyclus van AI-systemen door particuliere partijen voor zover deze niet onder a) vallen, volgt elke partij een aanpak die conform het onderwerp en het doel van dit verdrag is.

  Elke partij specificeert in een verklaring die bij de ondertekening of de neerlegging van haar akte van bekrachtiging, aanvaarding, goedkeuring of toetreding bij de Secretaris-Generaal van de Raad van Europa wordt ingediend, hoe de partij voornemens is deze verplichting uit te voeren: hetzij door de beginselen en de verplichtingen van de hoofdstukken II tot en met VI van dit verdrag op de activiteiten van particuliere partijen toe te passen hetzij door andere passende maatregelen te treffen om aan deze verplichting te voldoen. De partijen kunnen hun verklaringen te allen tijde en op dezelfde wijze wijzigen.

  Bij de uitvoering van deze verplichting mag een partij niet afwijken of de toepassing beperken van haar internationale verplichtingen ter bescherming van de mensenrechten, de democratie en de rechtsstaat.

• 2. Een partij is niet verplicht dit verdrag toe te passen op activiteiten binnen de levenscyclus van AI-systemen die met de bescherming van haar nationale veiligheidsbelangen verband houden, met dien verstande dat die activiteiten stroken met het toepasselijke internationale recht, waaronder de internationaalrechtelijke verplichtingen inzake de mensenrechten, en de democratische instellingen en processen in acht nemen.

• 3. Onverminderd artikel 13 en artikel 25, lid 2, is dit verdrag niet van toepassing op onderzoeks- en ontwikkelingsactiviteiten met betrekking tot nog niet voor gebruik beschikbaar gestelde AI-systemen, tenzij testen of soortgelijke activiteiten worden uitgevoerd op een wijze die de mensenrechten, de democratie en de rechtsstaat kunnen schenden.

• 4. Aangelegenheden welke betrekking hebben op de nationale verdediging vallen niet binnen het toepassingsgebied van dit verdrag.

HOOFDSTUK II ALGEMENE VERPLICHTINGEN

Artikel 4 Bescherming van de mensenrechten

Elke partij treft of handhaaft maatregelen om te waarborgen dat de activiteiten binnen de levenscyclus van AI-systemen overeenkomstig de toepasselijke nationale en internationale mensenrechtenverplichtingen.

Artikel 5 Integriteit van de democratische processen en eerbiediging van de rechtsstaat

• 1. Elke partij treft of handhaaft maatregelen om te waarborgen dat AI-systemen niet worden gebruikt om de integriteit, de onafhankelijkheid en de doeltreffendheid van de democratische instellingen en processen te ondermijnen, zoals het beginsel van de scheiding der machten, de eerbiediging van een onafhankelijke rechterlijke macht en de toegang tot de rechter.

• 2. Elke partij treft of handhaaft maatregelen om haar democratische processen in het kader van activiteiten binnen de levenscyclus van AI-systemen te beschermen, zoals een billijke toegang van personen tot en deelname aan het publieke debat en vrije meningsvorming.

HOOFDSTUK III BEGINSELEN BETREFFENDE ACTIVITEITEN BINNEN DE LEVENSCYCLUS VAN ARTIFICIËLE-INTELLIGENTIESYSTEMEN

Artikel 6 Algemene benadering

Dit hoofdstuk bevat algemene gemeenschappelijke beginselen betreffende AI-systemen die elke partij moet uitvoeren op een wijze die bij haar nationale rechtsstelsel en de andere verplichtingen van dit verdrag past.

Artikel 7 Menselijke waardigheid en individuele autonomie

Elke partij treft of handhaaft maatregelen om de menselijke waardigheid en de individuele autonomie met betrekking tot activiteiten binnen de levenscyclus van AI-systemen te eerbiedigen.

Artikel 8 Transparantie en toezicht

Elke partij treft of handhaaft maatregelen om te waarborgen dat er afdoende, op de specifieke context en risico’s afgestemde transparantie- en toezichtsvereisten gelden met betrekking tot activiteiten binnen de levenscyclus van AI-systemen, onder meer ten aanzien van de aanduiding van door AI-systemen gegenereerde inhoud.

Artikel 9 Verantwoordingsplicht en aansprakelijkheid

Elke partij treft of handhaaft maatregelen om de verantwoordingsplicht en de aansprakelijkheid te waarborgen voor negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat die uit activiteiten binnen de levenscyclus van AI-systemen voortvloeien.

Artikel 10 Gelijkheid en non-discriminatie

• 1. Elke partij treft of handhaaft maatregelen om te waarborgen dat de activiteiten binnen de levenscyclus van AI-systemen zorgen voor de eerbiediging van de gelijkheid, waaronder de gendergelijkheid, en het verbod op discriminatie, zoals vastgesteld in het toepasselijke internationale en nationale recht.

• 2. Elke partij verbindt zich ertoe maatregelen te treffen of te handhaven die erop gericht zijn ongelijkheden weg te nemen om rechtvaardige en billijke resultaten te bereiken, overeenkomstig de toepasselijke nationale en internationale mensenrechtenverplichtingen met betrekking tot de activiteiten binnen de levenscyclus van AI-systemen.

Artikel 11 Bescherming van de privacy en persoonsgegevens

Elke partij treft of handhaaft maatregelen om met betrekking tot de activiteiten binnen de levenscyclus van AI-systemen te waarborgen dat:

• a. de privacyrechten van personen en hun persoonsgegevens worden beschermd, onder meer door middel van toepasselijke nationale en internationale wetten, normen en kaders; en

• b. er doeltreffende waarborgen voor personen zijn ingevoerd, overeenkomstig de toepasselijke nationale en internationale wettelijke verplichtingen.

Artikel 12 Betrouwbaarheid

Elke partij treft al naargelang maatregelen om de betrouwbaarheid van AI-systemen en het vertrouwen in de output te bevorderen, zoals vereisten betreffende een toereikende kwaliteit en veiligheid gedurende de hele levenscyclus van AI-systemen.

Artikel 13 Veilige innovatie

Met het oog op het bevorderen van de innovatie en het voorkomen van negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat, wordt elke partij verzocht om al naargelang steun te bieden aan de totstandbrenging van een gecontroleerde omgeving voor het ontwikkelen van, het experimenteren met en het testen van AI-systemen onder toezicht van haar bevoegde autoriteiten.

HOOFDSTUK IV RECHTSMIDDELEN

Artikel 14 Rechtsmiddelen

• 1. Voor zover de internationale verplichtingen rechtsmiddelen zulks vereisen en overeenkomstig het nationale rechtsstelsel, treft of handhaaft elke partij maatregelen om toegankelijke en doeltreffende rechtsmiddelen tegen mensenrechtenschendingen als gevolg van activiteiten binnen de levenscyclus van AI-systemen beschikbaar te stellen.

• 2. Ter ondersteuning van lid 1 treft of handhaaft elke partij maatregelen zoals:

  • a. maatregelen om te waarborgen dat belangrijke inlichtingen over AI-systemen met mogelijk aanzienlijke gevolgen voor de mensenrechten en het gebruik ervan worden gedocumenteerd, worden verstrekt aan instanties die bevoegd zijn om toegang tot die inlichtingen te krijgen en, waar passend en van toepassing, aan de getroffen personen ter beschikking worden gesteld of worden meegedeeld;

  • b. maatregelen om te waarborgen dat de in a) genoemde inlichtingen volstaan opdat getroffen personen de op grond van het gebruik van het systeem genomen of daarop in hoge mate gebaseerde beslissingen kunnen aanvechten, alsook, waar passend en van toepassing, het gebruik van het systeem zelf; en

  • c. een doeltreffende mogelijkheid voor de betrokken personen om bij de bevoegde autoriteiten een klacht in te dienen.

Artikel 15 Procedurele waarborgen

• 1. Elke partij waarborgt dat, indien een AI-systeem een aanzienlijke impact op de uitoefening van de mensenrechten heeft, er doeltreffende procedurele waarborgen en rechten voor de betrokken personen beschikbaar zijn overeenkomstig het toepasselijke internationale en nationale recht.

• 2. Elke partij beoogt te waarborgen dat, naargelang de context, personen die met AI-systemen in contact staan ervan in kennis worden gesteld dat zij met dergelijke systemen en niet met een mens in contact staan.

HOOFDSTUK V BEOORDELING EN BEPERKING VAN RISICO’S EN NEGATIEVE GEVOLGEN

Artikel 16 Kader voor risico- en effectbeheer

• 1. Met inachtneming van de beginselen van hoofdstuk III, treft of handhaaft elke partij maatregelen voor de vaststelling, de beoordeling, de preventie en de beperking van risico’s van AI-systemen door de feitelijke en de potentiële gevolgen voor de mensenrechten, de democratie en de rechtsstaat in aanmerking te nemen.

• 2. Deze maatregelen zijn, naargelang het geval, gekalibreerd en gedifferentieerd en:

  • a. nemen terdege de context en het beoogde gebruik van AI-systemen in aanmerking, met name ten aanzien van de risico’s voor de mensenrechten, de democratie en de rechtsstaat;

  • b. nemen terdege de ernst en de waarschijnlijkheid van de potentiële gevolgen in aanmerking;

  • c. nemen in voorkomend geval de standpunten van de belanghebbenden in aanmerking, met name van personen wier rechten kunnen worden aangetast;

  • d. zijn iteratief van toepassing op de activiteiten binnen de levenscyclus van AI-systemen;

  • e. omvatten het toezicht op de risico’s en de negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat;

  • f. omvatten de documentatie van de risico’s, de feitelijke en de potentiële gevolgen en de risicobeheersbenadering; en

  • g. vereisen, in voorkomend geval, dat AI-systemen worden getest alvorens die voor eerste gebruik beschikbaar worden gesteld alsook wanneer die ingrijpend worden gewijzigd.

• 3. Elke partij treft of handhaaft maatregelen om te waarborgen dat de negatieve gevolgen van AI-systemen voor de mensenrechten, de democratie en de rechtsstaat afdoende worden aangepakt. Dergelijke negatieve gevolgen en de maatregelen om die tegen te gaan, worden gedocumenteerd en dienen als basis voor de in lid 2 beschreven toepasselijke risicobeheersmaatregelen.

• 4. Elke partij beoordeelt de noodzaak van een moratorium, een verbod of andere passende maatregelen ten aanzien van bepaalde vormen van gebruik van AI-systemen indien zij van oordeel is dat dergelijk gebruik onverenigbaar is met de eerbiediging van de mensenrechten, de werking van de democratie of de rechtsstaat.

HOOFDSTUK VI UITVOERING VAN HET VERDRAG

Artikel 17 Non-discriminatie

De uitvoering van dit verdrag door de partijen wordt gewaarborgd vrij van discriminatie op enige grond, overeenkomstig de internationale mensenrechtenverplichtingen.

Artikel 18 Rechten van personen met een handicap en van kinderen

Overeenkomstig het nationale recht en de toepasselijke internationale verplichtingen neemt elke partij de specifieke behoeften en kwetsbaarheden met betrekking tot de eerbiediging van de rechten van personen met een handicap en van kinderen naar behoren in aanmerking.

Artikel 19 Openbare raadpleging

Elke partij beoogt te waarborgen dat belangrijke vragen met betrekking tot AI-systemen in voorkomend geval naar behoren in overweging worden genomen door middel van een openbaar debat en een raadpleging van belanghebbenden in het licht van de sociale, economische, juridische, ethische, milieu- en andere toepasselijke gevolgen.

Artikel 20 Digitale geletterdheid en vaardigheden

Elke partij bevordert een passend niveau van digitale geletterdheid en digitale vaardigheden voor alle segmenten van de bevolking, en van specifieke specialistische vaardigheden voor de verantwoordelijken voor de vaststelling, de beoordeling, de preventie en de beperking van de risico’s van AI-systemen.

Artikel 21 Waarborging van de bestaande mensenrechten

Niets in dit verdrag mag worden uitgelegd als een beperking, een afwijking of een andere aantasting van de mensenrechten of andere daarmee verband houdende wettelijke rechten en verplichtingen die kunnen worden gewaarborgd op grond van de toepasselijke wetgeving van een partij of van een andere toepasselijke internationale overeenkomst waarbij zij partij is.

Artikel 22 Ruimere bescherming

Geen van de bepalingen van dit verdrag mag worden uitgelegd als een beperking of een andere aantasting van de mogelijkheid voor een partij om een ruimere beschermingsmaatregel toe te kennen dan in dit verdrag is vastgesteld.

HOOFDSTUK VII FOLLOW-UPMECHANISME EN SAMENWERKING

Artikel 23 Conferentie van de partijen

• 1. De Conferentie van de partijen bestaat uit vertegenwoordigers van de partijen bij dit verdrag.

• 2. De partijen voeren periodiek overleg teneinde:

  • a. de doeltreffende toepassing en uitvoering van dit verdrag te vergemakkelijken, waaronder het in kaart brengen van eventuele problemen en de gevolgen van een voorbehoud krachtens artikel 34, lid 1, of een verklaring krachtens dit verdrag;

  • b. mogelijke aanvullingen of wijzigingen van dit verdrag in overweging te nemen;

  • c. aangelegenheden in overweging te nemen en specifieke aanbevelingen te doen met betrekking tot de uitlegging en de toepassing van dit verdrag;

  • d. met het oog op de uitvoering van dit verdrag de uitwisseling van inlichtingen over belangrijke juridische, beleids- of technologische ontwikkelingen te vergemakkelijken, onder meer in het licht van de verwezenlijking van de in artikel 25 omschreven doelstellingen;

  • e. de minnelijke schikking van geschillen in verband met de toepassing van dit verdrag waar nodig te vergemakkelijken; en

  • f. de samenwerking met belanghebbenden met betrekking tot toepasselijke aspecten van de uitvoering van dit verdrag te vergemakkelijken, waar nodig onder meer middels openbare hoorzittingen.

• 3. De Secretaris-Generaal van de Raad van Europa roept de Conferentie van de partijen bijeen wanneer hij dit noodzakelijk acht en in ieder geval indien een meerderheid van de partijen of het Comité van Ministers daarom verzoekt.

• 4. De Conferentie van de partijen stelt binnen twaalf maanden na de inwerkingtreding van dit verdrag bij consensus haar reglement van orde vast.

• 5. De partijen krijgen ondersteuning van het Secretariaat van de Raad van Europa bij de uitvoering van hun taken krachtens dit artikel.

• 6. De Conferentie van de partijen kan het Comité van Ministers passende manieren voorstellen om deskundigen in te zetten ter ondersteuning van de doeltreffende uitvoering van dit verdrag.

• 7. Elke partij die geen lid is van de Raad van Europa draagt bij aan de financiering van de activiteiten van de Conferentie van de partijen. De bijdrage van een niet-lidstaat van de Raad van Europa wordt gezamenlijk door het Comité van Ministers en die niet-lidstaat vastgesteld.

• 8. De Conferentie van de partijen kan besluiten om de deelname van een partij aan haar werkzaamheden te beperken als die partij wegens een ernstige inbreuk van artikel 3 van het Statuut van de Raad van Europa (ETS nr. 1) niet langer lid is van de Raad krachtens artikel 8 van het Statuut. Evenzo kunnen bij een besluit van het Comité van Ministers maatregelen worden getroffen ten aanzien van een partij die geen lidstaat van de Raad van Europa is om de betrekkingen met die staat te beëindigen op vergelijkbare gronden als die van artikel 3 van het Statuut.

Artikel 24 Verslagverplichting

• 1. Elke partij verstrekt binnen twee jaar nadat zij partij is geworden, en vervolgens op gezette tijden, aan de Conferentie van de partijen een verslag met bijzonderheden over de tot uitvoering van artikel 3, lid 1, punten a) en b), ondernomen activiteiten.

• 2. De Conferentie van de partijen bepaalt de vorm en de procedure voor het indienen van het verslag overeenkomstig het reglement van orde.

Artikel 25 Internationale samenwerking

• 1. De partijen werken samen bij de verwezenlijking van het doel van dit verdrag. De partijen worden voorts aangemoedigd om, in voorkomend geval, staten die geen partij bij dit verdrag zijn, bij te staan bij hun optreden overeenkomstig dit verdrag en om partij bij dit verdrag te worden.

• 2. De partijen wisselen onderling, waar nodig, belangrijke en nuttige inlichtingen uit over aspecten in verband met AI die aanzienlijke positieve of negatieve gevolgen kunnen hebben voor de uitoefening van de mensenrechten, de werking van de democratie en de eerbiediging van de rechtsstaat, waaronder risico’s en gevolgen die zich in onderzoeksverband en met betrekking tot de particuliere sector hebben voorgedaan. De partijen worden aangemoedigd om, in voorkomend geval, belanghebbenden en staten die geen partij bij dit verdrag zijn, bij deze uitwisseling van inlichtingen te betrekken.

• 3. De partijen worden aangemoedigd om, in voorkomend geval ook met belanghebbenden, de samenwerking te versterken om risico’s en negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat in het kader van activiteiten binnen de levenscyclus van AI-systemen te voorkomen en te beperken.

Artikel 26 Doeltreffende toezichtmechanismen

• 1. Elke partij stelt een of meer doeltreffende mechanismen in of wijst deze aan om toe te zien op de naleving van de verplichtingen overeenkomstig dit verdrag.

• 2. Elke partij waarborgt dat die mechanismen hun taken onafhankelijk en onpartijdig uitoefenen en over de nodige bevoegdheden, deskundigheid en middelen beschikken om doeltreffend toezicht te houden op de naleving van de verplichtingen van dit verdrag door de partijen.

• 3. Indien een partij meer dan één mechanisme heeft aangewezen, treft zij waar mogelijk maatregelen om een doeltreffende onderlinge samenwerking te vergemakkelijken.

• 4. Indien een partij andere mechanismen dan de bestaande mensenrechtenstructuren heeft aangewezen, treft zij waar mogelijk maatregelen ter bevordering van een doeltreffende samenwerking tussen de in lid 1 genoemde mechanismen en die bestaande nationale mensenrechtenstructuren.

HOOFDSTUK VIII SLOTBEPALINGEN

Artikel 27 Gevolgen van het verdrag

• 1. Indien twee of meer partijen reeds een akkoord of een verdrag over de in dit verdrag geregelde aangelegenheden hebben gesloten, of anderszins betrekkingen ten aanzien van dergelijke aangelegenheden hebben aangeknoopt, zijn zij ook gerechtigd dat akkoord of verdrag dienovereenkomstig toe te passen of die betrekkingen dienovereenkomstig te regelen, mits zij dit doen op een wijze die niet met het onderwerp en het doel van dit verdrag onverenigbaar is.

• 2. Partijen die lid zijn van de Europese Unie passen in hun wederzijdse betrekkingen de regels van de Europese Unie toe die op de binnen het toepassingsgebied van dit verdrag vallende aangelegenheden gelden, onverminderd het onderwerp en het doel van dit verdrag en onverminderd de volledige toepassing jegens andere partijen. Hetzelfde geldt voor andere partijen, voor zover zij door dergelijke regels gebonden zijn.

Artikel 28 Wijzigingen

• 1. Wijzigingen van dit verdrag kunnen door elke partij, het Comité van Ministers van de Raad van Europa of de Conferentie van de partijen worden voorgesteld.

• 2. Elk voorstel tot wijziging wordt door de Secretaris-Generaal van de Raad van Europa aan de partijen meegedeeld.

• 3. Elke door een partij of door het Comité van Ministers voorgestelde wijziging wordt meegedeeld aan de Conferentie van de partijen, die haar oordeel over de voorgestelde wijziging aan het Comité van Ministers voorlegt.

• 4. Het Comité van Ministers bestudeert de voorgestelde wijziging en het door de Conferentie van de partijen voorgelegde oordeel en kan de wijziging goedkeuren.

• 5. De tekst van elke door het Comité van Ministers overeenkomstig lid 4 goedgekeurde wijziging wordt aan de partijen ter aanvaarding toegezonden.

• 6. Elke overeenkomstig lid 4 aangenomen wijziging treedt in werking dertig dagen nadat de partijen de Secretaris-Generaal hebben meegedeeld dat zij haar hebben aanvaard.

Artikel 29 Geschillenbeslechting

Bij een geschil tussen partijen over de uitlegging of de toepassing van dit verdrag streven deze partijen naar een geschillenbeslechting door middel van onderhandelingen of andere vreedzame middelen van hun keuze, waaronder de Conferentie van de partijen, overeenkomstig artikel 23, lid 2, punt e).

Artikel 30 Ondertekening en inwerkingtreding

• 1. Dit verdrag staat open voor ondertekening door de lidstaten van de Raad van Europa, de niet-lidstaten die aan de opstelling hebben deelgenomen en de Europese Unie.

• 2. Dit verdrag moet worden bekrachtigd, aanvaard of goedgekeurd. De akten van bekrachtiging, aanvaarding of goedkeuring worden bij de Secretaris-Generaal van de Raad van Europa neergelegd.

• 3. Dit verdrag treedt in werking op de eerste dag van de maand die volgt op het verstrijken van een tijdvak van drie maanden na de datum waarop vijf ondertekenaars, waaronder ten minste drie lidstaten van de Raad van Europa, overeenkomstig lid 2 hun instemming door dit verdrag te worden gebonden tot uitdrukking hebben gebracht.

• 4. Voor iedere ondertekenaar die nadien zijn instemming betuigt door dit verdrag te worden gebonden, treedt dit in werking op de eerste dag van de maand die volgt op het verstrijken van een termijn van drie maanden na de datum van de neerlegging van de akte van bekrachtiging, aanvaarding of goedkeuring.

Artikel 31 Toetreding

• 1. Na de inwerkingtreding van dit verdrag kan het Comité van Ministers van de Raad van Europa, na raadpleging van de partijen bij dit verdrag en met eenparigheid van stemmen, elke niet-lidstaat van de Raad van Europa die niet aan de opstelling van dit verdrag heeft deelgenomen, uitnodigen tot dit verdrag toe te treden bij besluit van de in artikel 20, onderdeel d, van het Statuut van de Raad van Europa bedoelde meerderheid en met eenparigheid van stemmen van de vertegenwoordigers van de partijen die gerechtigd zijn zitting in het Comité van Ministers te nemen.

• 2. Voor iedere toetredende staat treedt dit verdrag in werking op de eerste dag van de maand die volgt op het verstrijken van een termijn van drie maanden na de datum van neerlegging van de akte van toetreding bij de Secretaris-Generaal van de Raad van Europa.

Artikel 32 Territoriale toepassing

• 1. Elke staat of de Europese Unie kan, op het tijdstip van ondertekening of bij de neerlegging van de akte van bekrachtiging, aanvaarding, goedkeuring of toetreding, het grondgebied of de grondgebieden waarop dit verdrag van toepassing is nader aanduiden.

• 2. Elke partij kan op een later tijdstip door middel van een verklaring gericht aan de Secretaris-Generaal van de Raad van Europa de toepassing van dit verdrag uitbreiden tot elk ander grondgebied dat in de verklaring wordt genoemd. Ten aanzien van een dergelijk grondgebied treedt dit verdrag in werking op de eerste dag van de maand die volgt op het verstrijken van een tijdvak van drie maanden na de datum van ontvangst van de verklaring door de Secretaris-Generaal.

• 3. Elke krachtens de twee voorgaande leden gedane verklaring kan, met betrekking tot elk in die verklaring genoemd grondgebied, worden ingetrokken door middel van een aan de Secretaris-Generaal van de Raad van Europa gerichte kennisgeving. De intrekking wordt van kracht op de eerste dag van de maand die volgt op het verstrijken van een tijdvak van drie maanden na de datum van ontvangst van de kennisgeving door de Secretaris-Generaal.

Artikel 33 Federale clausule

• 1. Een federale staat kan zich het recht voorbehouden de verplichtingen krachtens dit verdrag aan te gaan voor zover deze conform de fundamentele beginselen zijn die ten grondslag liggen aan de betrekkingen tussen de centrale regering en de constituerende staten of andere vergelijkbare territoriale entiteiten, mits dit verdrag op de centrale regering van de federale staat van toepassing is.

• 2. Ten aanzien van de bepalingen van dit verdrag waarvan de toepassing onder de rechtsbevoegdheid valt van elk van de constituerende staten of andere vergelijkbare territoriale entiteiten die, ingevolge het constitutionele stelsel van de federatie, niet verplicht zijn wetgevende maatregelen te treffen, brengt de centrale regering de bevoegde autoriteiten van deze staten op de hoogte van de genoemde bepalingen, vergezeld van een gunstig advies, hen aanmoedigende om passende maatregelen te treffen ter effectuering hiervan.

Artikel 34 Voorbehouden

• 1. Door middel van een schriftelijke kennisgeving aan de Secretaris-Generaal van de Raad van Europa kan elke staat, op het tijdstip van ondertekening of bij de neerlegging van de akte van bekrachtiging, aanvaarding, goedkeuring of toetreding, verklaren dat hij van het in artikel 33, lid 1, bedoelde voorbehoud gebruik maakt.

• 2. Ten aanzien van dit verdrag kan geen ander voorbehoud worden gemaakt.

Artikel 35 Opzegging

• 1. Elke partij kan dit verdrag te allen tijde opzeggen door middel van een kennisgeving gericht aan de Secretaris-Generaal van de Raad van Europa.

• 2. De opzegging wordt van kracht op de eerste dag van de maand na het verstrijken van een tijdvak van drie maanden na de datum van ontvangst van de kennisgeving door de Secretaris-Generaal.

Artikel 36 Kennisgeving

De Secretaris-Generaal van de Raad van Europa stelt de lidstaten van de Raad van Europa, de niet-lidstaten die aan de opstelling van dit verdrag hebben deelgenomen, de Europese Unie, elke ondertekenaar, elke verdragsluitende staat, elke partij en elke staat die is uitgenodigd tot dit verdrag toe te treden, in kennis van:

• a. elke ondertekening;

• b. de neerlegging van elke akte van bekrachtiging, aanvaarding, goedkeuring of toetreding;

• c. elke datum van inwerkingtreding van dit verdrag overeenkomstig artikel 30, leden 3 en 4, en artikel 31, lid 2;

• d. elke overeenkomstig artikel 28 aangenomen wijziging en de datum waarop een dergelijke wijziging in werking treedt;

• e. elke verklaring krachtens artikel 3, lid 1, punt b);

• f. elk voorbehoud en elke intrekking van een voorbehoud krachtens artikel 34;

• g. elke opzegging krachtens artikel 35;

• h. elke andere akte, kennisgeving of mededeling met betrekking tot dit verdrag.

TEN BLIJKE WAARVAN de ondergetekenden, daartoe naar behoren gemachtigd, dit verdrag hebben ondertekend.

GEDAAN te Vilnius, op 5 september 2024, in de Engelse en de Franse taal, waarbij beide teksten gelijkelijk authentiek zijn, in een enkel exemplaar dat zal worden neergelegd in het archief van de Raad van Europa. De Secretaris-Generaal van de Raad van Europa doet een gewaarmerkt afschrift toekomen aan iedere lidstaat van de Raad van Europa, aan de niet-lidstaten die hebben deelgenomen aan de opstelling van dit verdrag, aan de Europese Unie en aan iedere staat die is uitgenodigd tot dit verdrag toe te treden.

---

D. PARLEMENT

Het Verdrag behoeft ingevolge artikel 91 van de Grondwet de goedkeuring van de Staten-Generaal, alvorens het Koninkrijk aan het Verdrag kan worden gebonden.

G. INWERKINGTREDING

De bepalingen van het Verdrag zullen ingevolge artikel 30, derde lid, in werking treden op de eerste dag van de maand die volgt op het verstrijken van een tijdvak van drie maanden na de datum waarop vijf ondertekenaars, waaronder ten minste drie lidstaten van de Raad van Europa, hun instemming om door het Verdrag te worden gebonden tot uitdrukking hebben gebracht in overeenstemming met artikel 30, tweede lid. Voor elke ondertekenende staat die nadien zijn instemming betuigt door het Verdrag te worden gebonden, zal het Verdrag ingevolge artikel 30, vierde lid, in werking treden op de eerste dag van de maand die volgt op het verstrijken van een termijn van drie maanden na de datum van nederlegging van de akte van bekrachtiging, aanvaarding of goedkeuring.

Uitgegeven de eenentwintigste januari 2025.

De Minister van Buitenlandse Zaken, C.C.J. VELDKAMP

---

1) Het voor eensluidend gewaarmerkt afschrift is nog niet ontvangen. In de tekst kunnen derhalve onjuistheden voorkomen die in een volgend Tractatenblad zullen worden gecorrigeerd.