Sự phát triển bùng nổ của Trí tuệ nhân tạo AI đã đánh dấu một bước ngoặt lịch sử, mang lại tiềm năng to lớn để cải thiện chất lượng cuộc sống, thúc đẩy kinh tế, và giải quyết các thách thức toàn cầu. Tuy nhiên, cùng với những cơ hội không giới hạn đó là những rủi ro mới mẻ và phức tạp đối với an toàn quốc gia, bảo mật dữ liệu, quyền riêng tư, và công bằng xã hội. Ngày 30/10/2023, Tổng thống Hoa Kỳ Biden đã ban hành “Sắc lệnh hành pháp về phát triển và sử dụng trí tuệ nhân tạo an toàn, bảo mật và đáng tin cậy (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)”. Đây là một nỗ lực nhằm cân bằng giữa việc thúc đẩy đổi mới (Innovation) và quản lý rủi ro (Risk Management), bảo đảm AI phục vụ lợi ích của người dân Mỹ mà không gây tổn hại đến các giá trị cốt lõi của quốc gia.

Sắc lệnh hành pháp về phát triển và sử dụng trí tuệ nhân tạo của Hoa Kỳ là văn bản hành pháp tiếp nối những hành động của Chính phủ Hoa Kỳ hướng tới mục tiêu duy trì vai trò lãnh đạo toàn cầu của Hoa Kỳ về phát triển và ứng dụng trí tuệ nhân tạo. Sắc lệnh này nhấn mạnh tầm quan trọng, sự cấp thiết ở mức độ rất cao đối với việc phát triển và sử dụng AI an toàn, tin cậy và có trách nhiệm. Chính phủ Hoa Kỳ đã yêu cầu, đòi hỏi sự nỗ lực hành động của các cơ quan Chính phủ, doanh nghiệp, cộng đồng cùng chung tay để thực hiện các mục tiêu mà sắc lệnh hành pháp đã đưa ra. Sắc lệnh này đề ra rất nhiều chương trình hành động, nhiệm vụ với sự chỉ định, phân công thực hiện cụ thể cho hầu hết các bộ, ngành, cơ quan chính phủ nhằm đạt được mục tiêu phát triển và ứng dụng AI một cách tin cậy. Trong sắc lệnh này, vấn đề liên quan đến quản lý, đánh giá, kiểm định sự tin cậy của các hệ thống, sản phẩm, dịch vụ AI được coi là nhiệm vụ trọng tâm với những nội dung nổi bật như sau:

1- Triển khai xây dựng các quy định, hướng dẫn và tiêu chuẩn đánh giá và kiểm tra năng lực bảo đảm tính tin cậy của hệ thống, sản phẩm, dịch vụ AI. Tập trung vào các rủi ro có thể gây hại, chẳng hạn như sử dụng AI trong khu vực công, trong lĩnh vực an ninh mạng và an toàn sinh học.

2- Thiết lập các quy trình, thủ tục, hướng dẫn phù hợp, các thực hành tốt nhất cho phép các tổ chức, doanh nghiệp phát triển và ứng dụng AI. Triển khai các hệ thống an toàn, bảo mật và đáng tin cậy liên quan đến việc đánh giá và quản lý tính an toàn, an ninh và độ tin cậy của các mô hình, thuật toán trong các hệ thống AI.

3- Yêu cầu Viện Tiêu chuẩn Quốc gia (NIST) xây dựng khung quản lý rủi ro AI (AI Risk Management Framework AI RMF) làm cơ sở đề ra các nguyên tắc, biện pháp, hướng dẫn kiểm tra, đánh giá rủi ro, các tác động, ảnh hưởng ở mọi mặt thực thi đến tính tin cậy của các hệ thống AI. Khung được xây dựng sẽ được đệ trình, tham vấn của tất cả các bên liên quan để tiến tới ban hành và triển khai áp dụng trong thực tiễn.

Trọng tâm của Sắc lệnh được cụ thể hóa thông qua việc giao nhiệm vụ cho Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) xây dựng và triển khai Khung quản lý rủi ro AI (AI RMF). Khung AI RMF này cung cấp một phương pháp tiếp cận có cấu trúc và khả năng thích ứng cao, được xây dựng trên bốn trụ cột chức năng chính “quản trị, toàn cảnh, đánh giá và quản lý”. Bốn chức năng này tạo thành một chu trình quản lý rủi ro xuyên suốt toàn bộ vòng đời của hệ thống AI, từ thiết kế cho đến vận hành và loại bỏ:

Hình 1: Các trụ cột của khung quản trị rủi ro AI RMF của Viện Tiêu chuẩn Quốc gia

Chức năng quản trị: Chức năng này bao gồm 6 hoạt động chính được phân chia trong 19 hoạt động nhánh. Mục tiêu của việc thực thi quản trị là tạo lập, nuôi dưỡng và duy trì văn hóa quản lý rủi ro trong các tổ chức thiết kế, phát triển, triển khai, đánh giá hoặc mua lại các hệ thống AI. Chức năng quản trị là phác thảo các quy trình, tài liệu và tổ chức thực hiện các hoạt động nhằm nhận diện, xác định và quản lý những rủi ro mà hệ thống có thể gây ra cho người dùng và xã hội cũng như các quy trình để đạt được những kết quả đó. Cơ cấu tổ chức hoạt động của bộ phận quản trị phụ thuộc vào các nguyên tắc, chính sách, các ưu tiên mang tính chiến lược của tổ chức. Trong quá trình thực hiện có thể kết hợp các quy trình lại với nhau để đánh giá các tác động tiềm ẩn. Bộ phận này còn có chức năng kết nối các khía cạnh kỹ thuật của thiết kế và phát triển hệ thống AI phù hợp với mục đích sử dụng của tổ chức. Quản trị còn là chức năng hỗ trợ các tổ chức, cá nhân liên quan đến việc thu thập, sử dụng dữ liệu, huấn luyện, triển khai và giám sát các hệ thống AI.

Quản trị là một chức năng mang tính chỉ đạo xuyên suốt đối với các chức năng còn lại của toàn bộ Khung quản lý rủi ro AI. Các khía cạnh quản trị, đặc biệt là những khía cạnh liên quan đến việc tuân thủ hoặc đánh giá, cần được thực hiện vào từng chức năng khác. Lưu ý là quản trị là một yêu cầu nội tại mang tính duy trì thường xuyên, liên tục để quản lý rủi ro một cách hiệu quả trong suốt vòng đời của hệ thống AI cấu trúc phân cấp thực thi trong một tổ chức.

Quản trị tốt có thúc đẩy các thực hành tốt, tuân thủ chuẩn mực nội bộ, góp phần nâng cao văn hóa quản trị rủi ro của tổ chức phát triển và sử dụng AI. Hơn nữa, các cơ quan quản lý có thể dựa vào đó để xây dựng và ban hành các chính sách, quy định, tiêu chuẩn cho việc quản lý rủi ro. Hướng dẫn tổ chức, cá nhân nhận biết, xác định rõ mục tiêu, giá trị để tạo ra môi trường văn hóa quản trị rủi ro phù hợp đối với các hệ thống, sản phẩm, dịch vụ AI.

Chức năng toàn cảnh. Chức năng này bao gồm các hoạt động nhận biết các bối cảnh để định hình các rủi ro liên quan đến toàn bộ các khâu, công đoạn liên quan, phụ thuộc lẫn nhau với sự có mặt của nhiều bên liên quan trong suốt vòng đời của hệ thống AI (từ khi có yêu cầu thiết kế, phát triển, triển khai, vận hành, sử dụng và loại bỏ). Chức năng này có 5 hoạt động chính được phân chia trong 15 hoạt động nhánh.

Chức năng đánh giá: Chức năng này sử dụng các phương pháp, công cụ, kỹ thuật định tính, định lượng hoặc kết hợp để phân tích, đánh giá, đo kiểm chuẩn và giám sát, kiểm định mức độ an toàn, tin cậy và rủi ro trong các hệ thống, sản phẩm, dịch vụ AI; dựa trên tri thức, hiểu biết về các vấn đề rủi ro xác định từ chức năng toàn cảnh. Các kết quả đánh giá, thẩm định trên từng vấn đề rủi ro, tính tin cậy và tác động ảnh hưởng sẽ được liên thông tới chức năng quản lý. Như vậy, hệ thống AI cần được kiểm tra, đánh giá, thẩm định chức năng, độ tin cậy cũng như rủi ro có thể xảy ra trước khi triển khai và trong khi vận hành và cần được ghi chép, mô tả trong các tài liệu. Đánh giá rủi ro hệ thống AI bao gồm 4 hoạt động chính và phân chia trong 22 hoạt động nhánh. Các hoạt động này bao gồm việc cung cấp các số liệu theo dõi về các đặc điểm đáng tin cậy, các tác động tới xã hội, phương thức kết hợp hoạt động giữa AI và con người. Các quy trình được phát triển hoặc áp dụng trong hoạt động đánh giá, kiểm thử phần mềm nghiêm ngặt theo các tiêu chuẩn, đo lường độ không bảo đảm, tài liệu hóa và lập báo cáo chính thức về kết quả. Các quy trình đánh giá, thẩm định độc lập có thể giúp cải thiện hiệu quả các hoạt động kiểm tra nội bộ, giảm thiểu nguy cơ phát sinh sự thiên vị do xung đột lợi ích tiềm ẩn.

Chức năng quản lý: Chức năng này yêu cầu phân bổ nguồn lực để quản lý và đánh giá, thẩm định các vấn đề rủi ro một cách thường xuyên và theo quy định. Xử lý rủi ro bao gồm lập kế hoạch ứng phó, phục hồi và công tác truyền thông về sự cố hoặc sự kiện rủi ro. Chức năng quản lý bao gồm danh mục 4 hoạt động chính phân chia trong 13 hoạt động nhánh. Trong đó, sử dụng thông tin từ các chuyên gia tư vấn và bên liên quan tạo ra bởi chức năng quản trị đã được xử lý từ hoạt động của chức năng toàn cảnh để đề ra cách thức nhằm giảm thiểu khả năng xảy ra lỗi và các tác động tiêu cực của hệ thống AI. Hệ thống hóa các tài liệu mô tả, phân tích, đánh giá theo từng chức năng, từng vấn đề liên quan đến rủi ro hoặc tính tin cậy thu được trong hoạt động của chức năng toàn cảnh và chức năng đánh giá là phương pháp thực hành tốt cho các nỗ lực quản lý rủi ro, đồng thời tăng tính minh bạch và trách nhiệm giải trình trong các hệ thống AI. Trong đó các quy trình đánh giá rủi ro tiên tiến cần được áp dụng và cải tiến liên tục.

AI RMF cung cấp phương pháp tiếp cận có cấu trúc để xác định, đánh giá, quản lý và giảm thiểu rủi ro liên quan đến công nghệ AI. Phương pháp này nhấn mạnh tầm quan trọng của việc tích hợp quản lý rủi ro vào toàn bộ vòng đời của các hệ thống AI.

Tập trung vào các cân nhắc về đạo đức: Tương tự như ISO/IEC 42001, khuôn khổ NIST đề cập đến các cân nhắc về đạo đức trong việc triển khai AI. Nó khuyến khích các tổ chức ưu tiên tính công bằng, trách nhiệm giải trình, minh bạch và quyền riêng tư trong các sáng kiến AI của họ.

Hướng dẫn triển khai: Khung quản trị AI của NIST cung cấp hướng dẫn thực tế cho các tổ chức để triển khai các chiến lược quản lý rủi ro hiệu quả, phù hợp với bối cảnh và nhu cầu cụ thể của họ. Điều này bao gồm việc thiết lập các cấu trúc quản trị phù hợp với mục tiêu của tổ chức và các yêu cầu pháp lý.

Phù hợp với các tiêu chuẩn quốc tế: Khung quản trị AI của Viện Tiêu chuẩn Quốc gia phù hợp với các tiêu chuẩn quốc tế như ISO/IEC 42001, củng cố tầm quan trọng của các thông lệ tốt nhất toàn cầu trong quản trị AI. Các tổ chức có thể tận dụng cả hai khuôn khổ để nâng cao chiến lược quản trị tổng thể của mình.

Tác động đến quản trị AI nâng cao trách nhiệm giải trình: Cả ISO/IEC 42001 và Khung quản trị AI của Viện Tiêu chuẩn Quốc gia đều thúc đẩy trách nhiệm giải trình bằng cách thiết lập các hướng dẫn rõ ràng về hành vi đạo đức trong quá trình phát triển và triển khai AI.

Giảm thiểu rủi ro: Các tiêu chuẩn này cung cấp các phương pháp có cấu trúc để xác định và giảm thiểu rủi ro liên quan đến công nghệ AI, bảo đảm hoạt động an toàn hơn.

Niềm tin của bên liên quan: Bằng cách tuân thủ các tiêu chuẩn này, các tổ chức có thể xây dựng niềm tin với các bên liên quan bằng cách thể hiện cam kết của họ đối với các hoạt động có trách nhiệm.

Tuân thủ quy định: Việc triển khai các khuôn khổ này giúp các tổ chức tuân thủ các quy định mới nổi liên quan đến quản trị AI, chẳng hạn như các quy định đang được xây dựng tại EU và các khu vực pháp lý khác.

Cải tiến liên tục: Cả hai khuôn khổ đều nhấn mạnh đến nhu cầu giám sát và cải tiến liên tục các hệ thống AI để thích ứng với những thách thức đang phát triển và những tiến bộ công nghệ.

Khung quản trị AI có khả năng thích ứng cao và tập trung vào rủi ro, phù hợp với các tổ chức ưu tiên quản lý rủi ro AI, trong khi ISO/IEC 42001 cung cấp phương pháp tiếp cận có cấu trúc đối với quản lý AI có đạo đức, phù hợp với các tổ chức nhấn mạnh tính minh bạch và tuân thủ.

Kết luận

Như vậy, với việc kết hợp giữa sắc lệnh hành pháp và Khung quản lý rủi ro AI tạo thành một chu trình quản lý rủi ro xuyên suốt của toàn bộ vòng đời của hệ thống AI. Sự kết hợp này không chỉ nhằm bảo vệ an toàn quốc gia và quyền riêng tư của công dân mà còn nhằm xây dựng niềm tin của các bên liên quan vào công nghệ AI. Việc nhấn mạnh vào tính công bằng, trách nhiệm giải trình và minh bạch, cùng với sự phù hợp với các tiêu chuẩn quốc tế như ISO/IEC 42001, cho thấy quyết tâm của Hoa Kỳ trong việc thiết lập một chuẩn mực toàn cầu cho quản trị AI có đạo đức.

Sắc lệnh hành pháp và Khung quản lý rủi ro AI là nền tảng pháp lý và kỹ thuật vững chắc, định hình cách thức các tổ chức tại Hoa Kỳ và cả quốc tế phải tiếp cận, phát triển và triển khai AI để đạt được mục tiêu kép “Tận dụng tối đa tiềm năng của AI trong khi giảm thiểu rủi ro một cách hiệu quả và liên tục”. Đây là bước đi chiến lược nhằm bảo đảm AI thực sự phục vụ lợi ích và các giá trị cốt lõi của xã hội.

Kinh nghiệm cho Việt Nam

Thông qua việc nghiên cứu Sắc lệnh hành pháp và Khung quản lý rủi ro về phát triển và sử dụng trí tuệ nhân tạo của Hoa Kỳ, dưới đây là các bài học kinh nghiệm cụ thể được hệ thống hóa cho Việt Nam:

Về chính sách và quản trị chiến lược: Ban hành Chiến lược về AI toàn diện để thống nhất hành động. Thành lập Ban chỉ đạo quốc gia về AI với sự tham gia của các bộ, ngành quan trọng để điều phối chính sách. Áp dụng nguyên tắc “Thử nghiệm trong môi trường thực tế có kiểm soát (Regulatory sandboxes) cho các công nghệ AI mới và rủi ro cao đối với các lĩnh vực có tính quan trọng (y tế, giáo dục, fintech…).

Xây dựng nền tảng đáng tin cậy dựa trên kinh nghiệm từ Khung quản trị AI: Xây dựng “Khung quản lý rủi ro AI Việt Nam” dựa trên 4 trụ cột “Quản trị, toàn cảnh, đánh giá, quản lý”, đây là nền tảng kỹ thuật để định lượng rủi ro AI. Ban hành các Tiêu chuẩn quốc gia về tính chính xác, tính công bằng (Fairness), và khả năng giải thích (Explainability) cho các hệ thống AI sử dụng trong khu vực công hoặc các lĩnh vực nhạy cảm. Yêu cầu các công cụ AI tạo sinh (Generative AI), đặc biệt là hình ảnh, video (deepfake), phải có “dấu nước” kỹ thuật số để dễ dàng xác định nguồn gốc nội dung do AI tạo ra.

Việt Nam cần tận dụng cơ hội này để trở thành một trong những quốc gia tiên phong trong việc phát triển AI một cách có trách nhiệm và đáng tin cậy tại khu vực Đông Nam Á.

Lê Thị Thùy Trang