Cũng giống với cánh tay vươn dài của GPDR, thì Đạo luật AI (EU Artificial Intelligence Act) có tính chất ngoài lãnh thổ. Theo Điều 2(1), Đạo luật AI áp dụng cho các nhà cung cấp (và đôi khi là người triển khai – người dùng) hệ thống AI ở các nước thứ ba (tức là bên ngoài EU).
Phạm vi áp dụng Đạo luật AI được nêu trong Điều 2, trong đó tạo ra một mạng lưới rộng lớn bao gồm nhiều chủ thể khác nhau cả trong và ngoài EU. Theo Điều 2(1)(a), Đạo luật áp dụng cho các nhà cung cấp đưa vào thị trường EU hoặc đưa vào sử dụng tại EU, các hệ thống AI hoặc mô hình AI có mục đích chung (General purpose AI – GPAI), bất kể các nhà cung cấp đó được thành lập hay đặt tại trong EU hoặc ở một nước thứ ba. Điều này có nghĩa là Đạo luật áp dụng cho mọi nhà cung cấp hệ thống AI hoặc mô hình GPAI bất kể họ có trụ sở ở đâu.
Điều 2(1)(c) đề cập cụ thể đến phạm vi tiếp cận ngoài lãnh thổ này bằng cách bao gồm các nhà cung cấp và nhà triển khai hệ thống AI có nơi thành lập hoặc đặt tại quốc gia thứ ba, nơi sử dụng kết quả đầu ra (output) do hệ thống tạo ra ở EU. Quyền tài phán dựa trên kết quả đầu ra này là một khía cạnh quan trọng trong phạm vi ngoài lãnh thổ của Đạo luật.
Một cơ chế quan trọng để thực thi phạm vi hoạt động ngoài lãnh thổ của Đạo luật AI là khái niệm “người đại diện được ủy quyền” (authorised representative). Theo định nghĩa trong Đạo luật, ‘đại diện được ủy quyền’ có nghĩa là một thể nhân hoặc pháp nhân có trụ sở hoặc được thành lập tại EU đã nhận và chấp nhận ủy quyền bằng văn bản từ nhà cung cấp hệ thống AI hoặc mô hình GPAI để thay mặt họ thực hiện và thực hiện nghĩa vụ và thủ tục do Đạo luật quy định.
Điều 22 yêu cầu các nhà cung cấp hệ thống AI có rủi ro cao được thành lập ở nước thứ ba phải chỉ định một đại diện được ủy quyền tại EU trước khi cung cấp hệ thống của họ trên thị trường EU. Trách nhiệm của người đại diện được ủy quyền bao gồm xác minh tuyên bố về sự phù hợp và tài liệu kỹ thuật của EU, lưu giữ các tài liệu này và thông tin liên quan khác để cơ quan có thẩm quyền sử dụng trong 10 năm, cung cấp thông tin và tài liệu cho cơ quan có thẩm quyền theo yêu cầu, hợp tác với cơ quan chức năng về các hành động giảm thiểu rủi ro, và tuân thủ các nghĩa vụ đăng ký.
Tương tự, Điều 54 yêu cầu các nhà cung cấp mô hình GPAI thành lập ở nước thứ ba phải chỉ định đại diện được ủy quyền tại EU. Trách nhiệm của họ bao gồm xác minh tài liệu kỹ thuật, cung cấp thông tin để chứng minh sự tuân thủ và hợp tác với chính quyền về các hành động liên quan đến các mô hình GPAI.
Điều 53 nêu ra các nghĩa vụ cụ thể đối với các nhà cung cấp mô hình GPAI, được áp dụng bất kể vị trí của nhà cung cấp. Chúng bao gồm việc tuân thủ luật bản quyền của EU và xuất bản bản tóm tắt nội dung đào tạo. Giải thích tại Recital 106 dường như cũng mở rộng hơn nữa phạm vi tiếp cận bên ngoài lãnh thổ trong bối cảnh tuân thủ bản quyền, quy định rằng các nhà cung cấp mô hình GPAI phải tuân thủ luật bản quyền của EU, bất kể việc đào tạo các mô hình này diễn ra ở đâu.
Trích từ AI EU Act
Article 2: Scope
1. This Regulation applies to:
(a) providers placing on the market or putting into service AI systems or placing on the market general-purpose AI models in the Union, irrespective of whether those providers are established or located within the Union or in a third country;
(b) deployers of AI systems that have their place of establishment or are located within the Union;
(c) providers and deployers of AI systems that have their place of establishment or are located in a third country, where the output produced by the AI system is used in the Union;
(d) importers and distributors of AI systems;
(e) product manufacturers placing on the market or putting into service an AI system together with their product and under their own name or trademark;
(f) authorised representatives of providers, which are not established in the Union;
(g) affected persons that are located in the Union.
Article 22: Authorised Representatives of providers of high-risk AI systems
1. Prior to making their high-risk AI systems available on the Union market, providers established in third countries shall, by written mandate, appoint an authorised representative which is established in the Union.
2. The provider shall enable its authorised representative to perform the tasks specified in the mandate received from the provider.
3. The authorised representative shall perform the tasks specified in the mandate received from the provider. It shall provide a copy of the mandate to the market surveillance authorities upon request, in one of the official languages of the institutions of the Union, as indicated by the competent authority. For the purposes of this Regulation, the mandate shall empower the authorised representative to carry out the following tasks:
(a) verify that the EU declaration of conformity referred to in Article 47 and the technical documentation referred to in Article 11 have been drawn up and that an appropriate conformity assessment procedure has been carried out by the provider;
(b) keep at the disposal of the competent authorities and national authorities or bodies referred to in Article 74(10), for a period of 10 years after the high-risk AI system has been placed on the market or put into service, the contact details of the provider that appointed the authorised representative, a copy of the EU declaration of conformity referred to in Article 47, the technical documentation and, if applicable, the certificate issued by the notified body;
(c) provide a competent authority, upon a reasoned request, with all the information and documentation, including that referred to in point (b) of this subparagraph, necessary to demonstrate the conformity of a high-risk AI system with the requirements set out in Section 2, including access to the logs, as referred to in Article 12(1), automatically generated by the high-risk AI system, to the extent such logs are under the control of the provider;
(d) cooperate with competent authorities, upon a reasoned request, in any action the latter take in relation to the high-risk AI system, in particular to reduce and mitigate the risks posed by the high-risk AI system;
(e) where applicable, comply with the registration obligations referred to in Article 49(1), or, if the registration is carried out by the provider itself, ensure that the information referred to in point 3 of Section A of Annex VIII is correct. The mandate shall empower the authorised representative to be addressed, in addition to or instead of the provider, by the competent authorities, on all issues related to ensuring compliance with this Regulation.
4. The authorised representative shall terminate the mandate if it considers or has reason to consider the provider to be acting contrary to its obligations pursuant to this Regulation. In such a case, it shall immediately inform the relevant market surveillance authority, as well as, where applicable, the relevant notified body, about the termination of the mandate and the reasons therefor.
Article 53: Obligations for Providers of General-Purpose AI Models
1. Providers of general-purpose AI models shall:
(a) draw up and keep up-to-date the technical documentation of the model, including its training and testing process and the results of its evaluation, which shall contain, at a minimum, the information set out in Annex XI for the purpose of providing it, upon request, to the AI Office and the national competent authorities;
(b) draw up, keep up-to-date and make available information and documentation to providers of AI systems who intend to integrate the general-purpose AI model into their AI systems. Without prejudice to the need to observe and protect intellectual property rights and confidential business information or trade secrets in accordance with Union and national law, the information and documentation shall:
(i) enable providers of AI systems to have a good understanding of the capabilities and limitations of the general-purpose AI model and to comply with their obligations pursuant to this Regulation; and
(ii) contain, at a minimum, the elements set out in Annex XII;
(c) put in place a policy to comply with Union law on copyright and related rights, and in particular to identify and comply with, including through state-of-the-art technologies, a reservation of rights expressed pursuant to Article 4(3) of Directive (EU) 2019/790;
(d) draw up and make publicly available a sufficiently detailed summary about the content used for training of the general-purpose AI model, according to a template provided by the AI Office.
2. The obligations set out in paragraph 1, points (a) and (b), shall not apply to providers of AI models that are released under a free and open-source licence that allows for the access, usage, modification, and distribution of the model, and whose parameters, including the weights, the information on the model architecture, and the information on model usage, are made publicly available. This exception shall not apply to general-purpose AI models with systemic risks.
3. Providers of general-purpose AI models shall cooperate as necessary with the Commission and the national competent authorities in the exercise of their competences and powers pursuant to this Regulation.
4. Providers of general-purpose AI models may rely on codes of practice within the meaning of Article 56 to demonstrate compliance with the obligations set out in paragraph 1 of this Article, until a harmonised standard is published. Compliance with European harmonised standards grants providers the presumption of conformity to the extent that those standards cover those obligations. Providers of general-purpose AI models who do not adhere to an approved code of practice or do not comply with a European harmonised standard shall demonstrate alternative adequate means of compliance for assessment by the Commission.
5. For the purpose of facilitating compliance with Annex XI, in particular points 2 (d) and (e) thereof, the Commission is empowered to adopt delegated acts in accordance with Article 97 to detail measurement and calculation methodologies with a view to allowing for comparable and verifiable documentation.
6. The Commission is empowered to adopt delegated acts in accordance with Article 97(2) to amend Annexes XI and XII in light of evolving technological developments.
7. Any information or documentation obtained pursuant to this Article, including trade secrets, shall be treated in accordance with the confidentiality obligations set out in Article 78.
Article 54: Authorised Representative
1. Prior to placing a general-purpose AI model on the Union market, providers established in third countries shall, by written mandate, appoint an authorised representative which is established in the Union.
2. The provider shall enable its authorised representative to perform the tasks specified in the mandate received from the provider.
3. The authorised representative shall perform the tasks specified in the mandate received from the provider. It shall provide a copy of the mandate to the AI Office upon request, in one of the official languages of the institutions of the Union. For the purposes of this Regulation, the mandate shall empower the authorised representative to carry out the following tasks:
(a) verify that the technical documentation specified in Annex XI has been drawn up and all obligations referred to in Article 53 and, where applicable, Article 55 have been fulfilled by the provider;
(b) keep a copy of the technical documentation specified in Annex XI at the disposal of the AI Office and national competent authorities, for a period of 10 years after the general-purpose AI model has been placed on the market, and the contact details of the provider that appointed the authorised representative;
(c) provide the AI Office, upon a reasoned request, with all the information and documentation, including that referred to in point (b), necessary to demonstrate compliance with the obligations in this Chapter;
(d) cooperate with the AI Office and competent authorities, upon a reasoned request, in any action they take in relation to the general-purpose AI model, including when the model is integrated into AI systems placed on the market or put into service in the Union.
4. The mandate shall empower the authorised representative to be addressed, in addition to or instead of the provider, by the AI Office or the competent authorities, on all issues related to ensuring compliance with this Regulation.
5. The authorised representative shall terminate the mandate if it considers or has reason to consider the provider to be acting contrary to its obligations pursuant to this Regulation. In such a case, it shall also immediately inform the AI Office about the termination of the mandate and the reasons therefor.
6. The obligation set out in this Article shall not apply to providers of general-purpose AI models that are released under a free and open-source licence that allows for the access, usage, modification, and distribution of the model, and whose parameters, including the weights, the information on the model architecture, and the information on model usage, are made publicly available, unless the general-purpose AI models present systemic risks.
Recital 106
Providers that place general-purpose AI models on the Union market should ensure compliance with the relevant obligations in this Regulation. To that end, providers of general-purpose AI models should put in place a policy to comply with Union law on copyright and related rights, in particular to identify and comply with the reservation of rights expressed by rightsholders pursuant to Article 4(3) of Directive (EU) 2019/790. Any provider placing a general-purpose AI model on the Union market should comply with this obligation, regardless of the jurisdiction in which the copyright-relevant acts underpinning the training of those general-purpose AI models take place. This is necessary to ensure a level playing field among providers of general-purpose AI models where no provider should be able to gain a competitive advantage in the Union market by applying lower copyright standards than those provided in the Union.
