Sự bùng nổ của Trí tuệ nhân tạo AI đã mở ra kỷ nguyên của sự đổi mới kỹ thuật số, nhưng đồng thời cũng đặt ra những thách thức nghiêm trọng về mặt đạo đức, pháp lý và an toàn xã hội. Khung quản trị rủi ro AI ở Châu Âu được định hình chủ yếu bởi Đạo luật AI của Liên minh Châu Âu (EU AI Act). Đây là văn bản pháp lý đầu tiên và toàn diện nhất trên thế giới nhằm thiết lập một khuôn khổ quy định thống nhất về Trí tuệ nhân tạo.

Đạo luật Trí tuệ nhân tạo của Liên minh Châu Âu (EU AI Act)

Đạo luật AI được thông qua vào tháng 6/2023, là một khuôn khổ pháp lý phân loại các hệ thống AI, bao gồm học máy, theo mức độ rủi ro và quy định những yêu cầu nghiêm ngặt về tính an toàn, tính minh bạch và trách nhiệm pháp lý. Đạo luật AI giúp định hình cách các hệ thống AI được phát triển và triển khai, nhằm bảo đảm rằng các ứng dụng của AI không gây ra nguy cơ tiềm tàng cho xã hội và người dân.

Các hệ thống AI có thể bị yêu cầu chứng minh tính minh bạch và cung cấp các giải thích rõ ràng về cách mà mô hình đưa ra quyết định. Ngoài ra, các nhà phát triển phải chịu trách nhiệm về việc bảo đảm rằng các mô hình của họ không vi phạm quyền con người, không phân biệt đối xử và bảo vệ quyền riêng tư. Để bảo đảm mức độ tin cậy của hệ thống AI, quy định trong Đạo luật AI thì hệ thống AI phải được đánh giá mức độ phù hợp trước khi đưa ra triển khai thực tế. Đạo luật AI ra “cơ quan thông báo” là cơ quan quản lý nhà nước về hoạt động đánh giá được xác định. Cơ quan thông báo có giấy phép được xác minh, chỉ định và giám sát hoạt động của các tổ chức cung cấp dịch vụ đánh giá, xác định sự an toàn và tin cậy của sản phẩm AI. Tổ chức đánh giá phù hợp là các đơn vị, tổ chức cung cấp dịch vụ liên quan đến hoạt động đánh giá độc lập, bao gồm các thử nghiệm, chứng nhận và giám sát đối với các hệ thống, sản phẩm, dịch vụ AI.

Đạo luật AI của EU là một khuôn khổ pháp lý mang tính bước ngoặt được thiết kế để giải quyết các rủi ro liên quan đến việc phát triển, triển khai và sử dụng AI trên toàn Liên minh Châu Âu. Đạo luật này là một phần trong chiến lược rộng lớn hơn của Ủy ban Châu Âu nhằm định vị EU là quốc gia dẫn đầu về AI đáng tin cậy, đồng thời bảo đảm công nghệ AI là an toàn và tôn trọng các quyền cơ bản.

Yêu cầu về tính minh bạch và trách nhiệm giải trình

Các hệ thống tương tác với con người hoặc thao túng nội dung (deepfake) phải tiết lộ bản chất là AI. Các nhà phát triển và người dùng hệ thống AI có rủi ro được yêu cầu duy trì nhật ký và tài liệu về quá trình phát triển, triển khai và kết quả của hệ thống. Điều này bảo đảm khả năng truy xuất nguồn gốc và cho phép các cơ quan chức năng kiểm tra việc tuân thủ Đạo luật.

Giám sát của con người: Các hệ thống AI có rủi ro cao phải được thiết kế để cho phép con người giám sát, bảo đảm rằng các quyết định do AI đưa ra có thể bị hủy bỏ hoặc can thiệp trong trường hợp trục trặc hoặc xảy ra kết quả không mong muốn.

Quản trị dữ liệu và thuật toán: Đạo luật AI yêu cầu các tập dữ liệu được sử dụng để đào tạo các hệ thống AI có rủi ro, bắt buộc phải:

- Có liên quan và đại diện.

- Không có thành kiến và phân biệt đối xử.

- Chất lượng cao để giảm thiểu rủi ro và bảo đảm độ chính xác.

- Cần có tài liệu và khả năng truy xuất nguồn gốc phù hợp để theo dõi nguồn gốc và cách sử dụng của tập dữ liệu.

Các biện pháp quản trị AI trong Đạo luật AI

1- Quản trị theo rủi ro và phân loại hệ thống AI

Đạo luật AI của EU thực hiện phương pháp quản trị tiếp cận dựa trên rủi ro. Các hệ thống AI được phân loại thành 4 cấp độ rủi ro riêng biệt:

Rủi ro không thể chấp nhận: Các hệ thống AI được coi là gây ra mối đe dọa đáng kể đến các quyền cơ bản, chẳng hạn như việc chấm điểm xã hội của Chính phủ hoặc nhận dạng sinh trắc học theo thời gian thực tại nơi công cộng (trừ một số trường hợp được xác định hẹp). Những hệ thống này bị cấm theo Điều 5 Đạo luật AI.

Rủi ro cao: Các hệ thống AI có tác động đáng kể đến an toàn, an ninh hoặc các quyền cơ bản. Điều này bao gồm AI được sử dụng trong các cơ sở hạ tầng quan trọng (ví dụ như giao thông, y tế, giáo dục,…). Các hệ thống AI có rủi ro cao phải tuân thủ các nghĩa vụ nghiêm ngặt, bao gồm:

- Đánh giá sự phù hợp trước khi triển khai ra thị trường.

- Quy trình quản lý rủi ro.

- Yêu cầu về chất lượng dữ liệu.

- Lưu giữ hồ sơ và truy xuất nguồn gốc.

- Nghĩa vụ giám sát và minh bạch của con người.

Rủi ro hạn chế: Các hệ thống này có mức độ rủi ro vừa phải và tuân thủ các yêu cầu về tính minh bạch, chẳng hạn như thông báo cho người dùng rằng họ đang tương tác với AI (ví dụ như chatbot, deepfake,…).

Rủi ro tối thiếu hoặc không rủi ro: Đây là những ứng dụng AI ít hoặc không gây rủi ro, chẳng hạn như bộ lọc thư rác hoặc AI được sử dụng trong trò chơi điện tử và phần lớn không bị Đạo luật AI quản lý.

Hệ thống AI có mức độ rủi ro cao sẽ phải tuân thủ các yêu cầu nghiêm ngặt hơn về kiểm tra và chứng nhận. Ví dụ: Dự án “AI4EU - Nền tảng AI4EU” đang phát triển các công cụ để phân loại và đánh giá rủi ro của các hệ thống AI. Các sản phẩm AI được phân loại theo mức độ rủi ro và được kiểm tra tương ứng. Chẳng hạn như, các ứng dụng AI trong lĩnh vực y tế như phân tích hình ảnh y khoa sẽ được kiểm tra kỹ lưỡng để bảo đảm tính chính xác và an toàn.

2- Tăng cường minh bạch và khả năng giải thích các thuật toán

Đạo luật AI yêu cầu các hệ thống AI phải cung cấp thông tin rõ ràng về cách thức hoạt động và đưa ra quyết định. Điều này nhằm bảo đảm rằng người dùng và các bên liên quan có thể hiểu và giải thích các quyết định của hệ thống AI. Ví dụ, dịch vụ đánh giá của TÜV SÜD: TÜV SÜD đã phát triển các tiêu chuẩn đánh giá để bảo đảm rằng các mô hình AI có khả năng giải thích và minh bạch hóa. Đối với các ứng dụng AI trong tài chính, như hệ thống chấm điểm tín dụng, TÜV SÜD kiểm tra các thuật toán để bảo đảm chúng có thể giải thích được cách mà các quyết định tín dụng được đưa ra.

3- Bảo vệ quyền riêng tư và quyền kiểm soát của con người

Đạo luật AI yêu cầu các hệ thống AI phải đảm bảo quyền riêng tư và quyền kiểm soát của con người, bao gồm việc bảo vệ dữ liệu cá nhân và cho phép người dùng kiểm soát các quyết định tự động. Ví dụ, chương trình đánh giá của Viện Fraunhofer (Fraunhofer Institute) đã thực hiện các thử nghiệm để bảo đảm rằng các hệ thống AI tuân thủ các quy định về bảo vệ dữ liệu và quyền riêng tư. Họ đã kiểm tra các mô hình AI để bảo đảm rằng chúng không xâm phạm quyền riêng tư của người dùng và có thể cung cấp các tùy chọn cho người dùng để điều chỉnh các quyết định của hệ thống.

4- Khuyến khích đổi mới bằng khuôn khổ pháp lý

Đạo luật AI không chỉ yêu cầu tuân thủ các quy định mà còn khuyến khích đổi mới trong công nghệ AI. Các quy định sẽ tạo điều kiện cho các công ty và tổ chức phát triển các giải pháp AI trong khuôn khổ pháp lý rõ ràng và đồng bộ. Ví dụ dự án Zertifizierte K được tài trợ bởi Bộ Kinh tế và Năng lượng bang North Rhine, Westphalia của Đức đang phát triển các tiêu chuẩn và quy trình để đánh giá các hệ thống AI trong công nghiệp. Dự án này giúp các công ty công nghệ học máy tiếp cận các tiêu chuẩn pháp lý mới và đổi mới công nghệ trong một khuôn khổ hợp pháp.

5- Tổ chức, triển khai cung cấp dịch vụ đánh giá và chứng nhận AI

Đạo luật AI sẽ tạo ra một môi trường pháp lý rõ ràng cho việc đánh giá và chứng nhận các hệ thống AI. Điều này sẽ thúc đẩy sự hình thành và phát triển của các tổ chức và dịch vụ cung cấp đánh giá và chứng nhận AI. Ví dụ, dịch vụ chứng nhận của DEKRA (DEKRA Certification Services) đã triển khai chứng nhận cho các hệ thống AI trong nhiều lĩnh vực, từ chăm sóc sức khỏe đến sản xuất. DEKRA đang điều chỉnh các quy trình của mình để phù hợp với các yêu cầu của Đạo luật AI. Từ đó, bảo đảm rằng các sản phẩm AI được chứng nhận đạt tiêu chuẩn an toàn và tin cậy.

6- Thiết lập tiêu chuẩn quốc tế EU về quản trị AI

Đạo luật AI yêu cầu cơ quan tiêu chuẩn Châu Âu đẩy mạnh xúc tiến hoạt động chuẩn hóa để thiết lập về quản trị AI nói chung và quản trị AI/ML nói riêng, làm cơ sở xây dựng và thực hiện quy trình đánh giá và chứng nhận trong phạm vi Liên minh và hài hòa với tiêu chuẩn các quốc gia, khu vực khác trên thế giới. Chương trình thử nghiệm của Atos đã phát triển các chương trình thử nghiệm để kiểm tra các hệ thống AI trong lĩnh vực an ninh mạng và dịch vụ tài chính. Các chương trình này sẽ được điều chỉnh để tuân thủ các tiêu chuẩn và quy định của Đạo luật AI, tạo điều kiện cho việc áp dụng các tiêu chuẩn quốc tế trong khuôn khổ pháp lý của EU.

Kết luận

Đạo luật AI của EU (EU AI Act) đã thiết lập một khuôn khổ quản trị rủi ro AI mang tính toàn cầu, chuyển đổi AI từ một lĩnh vực kỹ thuật thuần túy sang một vấn đề về quản trị và quyền cơ bản, sử dụng phương pháp tiếp cận dựa trên rủi ro với bốn cấp độ, từ cấm các ứng dụng “rủi ro không thể chấp nhận (chấm điểm xã hội) đến yêu cầu minh bạch tối thiểu”. Các hệ thống rủi ro cao phải tuân thủ nghiêm ngặt các nghĩa vụ về chất lượng dữ liệu, khả năng giám sát của con người, khả năng giải thích và ghi chép chi tiết. Hệ thống này yêu cầu đánh giá sự phù hợp và gắn dấu CE Mark trước khi triển khai, được giám sát bởi các cơ quan thông báo và tổ chức chứng nhận độc lập. Mục tiêu cốt lõi là bảo vệ quyền cơ bản của công dân, bảo đảm an toàn, công bằng và củng cố niềm tin vào AI có trách nhiệm. Sự ra đời của Đạo luật AI EU định vị Châu Âu là người thiết lập tiêu chuẩn quốc tế mới về quản trị AI. Bằng việc xây dựng mục tiêu này, EU đã không chỉ tự bảo vệ công dân của mình mà còn thiết lập một tiêu chuẩn quốc tế mới về quản trị AI, tạo ra một mô hình cho các quốc gia và khu vực khác trên thế giới.

Bài học kinh nghiệm cốt lõi cho Việt Nam

Phân loại rủi ro bắt buộc: Áp dụng phương pháp tiếp cận dựa trên rủi ro, phân loại AI thành các cấp độ (từ cấm tuyệt đối đến rủi ro tối thiểu) để áp dụng quy định tương ứng. Tập trung quản lý chặt chẽ nhóm rủi ro cao (như y tế, hạ tầng, giáo dục,…).

Yêu cầu kỹ thuật và minh bạch: Ban hành tiêu chuẩn quốc gia (TCVN) về chất lượng dữ liệu, tính công bằng, khả năng giải thích và giám sát của con người (Human Oversight) cho AI rủi ro cao.

Cơ chế chứng nhận độc lập: Thiết lập quy trình đánh giá sự phù hợp bắt buộc và phát triển các tổ chức chứng nhận độc lập tại Việt Nam để kiểm định an toàn và tin cậy của các sản phẩm AI, tương tự như quy trình gắn dấu CE Mark của EU.

Bảo vệ quyền cơ bản: Đặt mục tiêu bảo vệ quyền riêng tư và chống phân biệt đối xử của thuật toán là trọng tâm của mọi quy định AI.

Môi trường thử nghiệm (sandboxes): Sử dụng các môi trường thử nghiệm có kiểm soát để khuyến khích đổi mới, cho phép các công nghệ mới phát triển linh hoạt trước khi bị quy định hóa hoàn toàn.

Tóm lại, kinh nghiệm từ Đạo luật AI của Châu Âu cho Việt Nam là “Quản trị AI cần phải có cấu trúc, dựa trên rủi ro, tập trung vào tính an toàn, quyền cơ bản và được hỗ trợ bởi một hệ thống kiểm định độc lập và minh bạch”.

Lê Thị Thùy Trang