Một số nguyên tắc về nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo có trách nhiệm (phiên bản 1.0)

Ngày 11/6/2024, Bộ trưởng Bộ Khoa học và Công nghệ ban hành Quyết định số 1290/QĐ-BKHCN về “Tài liệu hướng dẫn một số nguyên tắc về nghiên cứu, phát triển các hệ thống Trí tuệ nhân tạo có trách nhiệm (Phiên bản 1.0)”.
Một số nguyên tắc về nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo có trách nhiệm (phiên bản 1.0)

Để phát triển hệ thống trí tuệ nhân tạo (TTNT) hỗ trợ, giải quyết các vấn đề khó khăn mà con người, cộng đồng đang phải đối mặt; yêu cầu cần nghiên cứu, có biện pháp giảm thiểu các rủi ro trong quá trình phát triển, sử dụng TTNT; và cân đối các yếu tố kinh tế, đạo đức và pháp lý liên quan. Vì vậy, các cơ quan chuyên môn cần nghiên cứu, xây dựng các tiêu chuẩn, hướng dẫn để định hướng kể cả đó là các quy định mềm và không có tính ràng buộc. Cùng với việc chia sẻ, trao đổi thông tin về các quy trình, các biện pháp thực hành tốt giữa các bên liên quan (như nhà phát triển, nhà cung cấp dịch vụ, người dùng) dựa trên các quan điểm cơ bản sau:

Thứ nhất, hướng đến một xã hội lấy con người làm trung tâm, mọi người được hưởng những lợi ích từ cuộc sống cũng như từ các hệ thống TTNT.

Thứ hai, đảm bảo sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống TTNT, cụ thể là: (1) phát huy lợi ích của TTNT thông qua các hoạt động nghiên cứu, phát triển và đổi mới sáng tạo; và (2) giảm thiểu nguy cơ xâm phạm quyền hoặc lợi ích hợp pháp của các tổ chức, cá nhân từ các hệ thống TTNT.

Thứ ba, đảm bảo các hoạt động nghiên cứu, phát triển các hệ thống TTNT dựa trên các công nghệ hoặc kỹ thuật cụ thể nhưng vẫn đảm bảo tính trung lập về công nghệ và các nhà phát triển cũng không bị ảnh hưởng bởi sự phát triển quá nhanh của các công nghệ liên quan đến TTNT trong tương lai.

Thứ tư, ở giai đoạn hiện nay, tạm thời xác định rằng các văn bản có thể ở dạng hướng dẫn, không có tính ràng buộc và khuyến khích xây dựng, áp dụng các tiêu chuẩn, quy trình thực hành dựa trên các khuyến nghị quốc tế làm nền tảng để thúc đẩy nghiên cứu, phát triển và sử dụng các hệ thống TTNT. Thứ năm, trong mọi trường hợp, khuyến khích việc trao đổi, thảo luận với sự tham gia của các bên liên quan đến hệ thống TTNT cho dù việc nghiên cứu, phát triển các hệ thống TTNT trong các lĩnh vực có các đặc điểm, cách thức sử dụng và 2 lợi ích, rủi ro khác nhau. Thứ sáu, các nguyên tắc, hướng dẫn sẽ tiếp tục được nghiên cứu, cập nhật để phù hợp với tình hình thực tiễn.

Mục tiêu nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng TTNT đảm bảo an toàn và có trách nhiệm; việc chia sẻ kinh nghiệm trong hoạt động nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng TTNT nhằm đạt được sự tin tưởng của người dùng và xã hội đối với TTNT. Đồng thời cần chú ý trong nghiên cứu, phát triển các hệ thống TTNT một cách có trách nhiệm và khuyến nghị tự nguyện tham khảo, áp dụng trong quá trình nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống TTNT. Đối tượng gồm cơ quan, tổ chức khoa học và công nghệ, tổ chức, doanh nghiệp, cá nhân có hoạt động nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống TTNT được khuyến khích áp dụng các nội dung trong tài liệu.

Nội dung hướng dẫn đưa ra các khái niệm, thuật ngữ về Trí tuệ nhân tạo (Artificial intelligence-AI); Hệ thống TTNT (AI system); Mô hình (Model); Trách nhiệm giải trình (Accountability); Tính minh bạch (Transparency); Rủi ro (Risk); Thiên vị (Bias); Nhà phát triển/đơn vị/Tổ chức phát triển (Developer); Người dùng/Cá nhân sử dụng (User); Bên liên quan (Stakeholder)... Các nguyên tắc nghiên cứu, phát triển các hệ thống dựa trên tinh thần hợp tác, thúc đẩy đổi mới sáng tạo Nhà phát triển cần chú ý đến khả năng kết nối và tương tác của các hệ thống TTNT nhằm:

(1) tăng cường lợi ích của hệ thống TTNT thông qua quá trình kết nối các hệ thống TTNT; (2) tăng cường sự phối hợp để kiểm soát rủi ro… Ngoài ra, để tăng sự chấp nhận của xã hội đối với các hệ thống TTNT, bao gồm cả người dùng, sau khi thực hiện các hướng dẫn yêu cầu các nhà phát triển nên thực hiện thêm: (1) cung cấp cho người dùng thông tin và mô tả về đặc tính kỹ thuật của hệ thống TTNT mà họ phát triển, các thuật toán, các cơ chế đảm bảo an toàn…; (2) lắng nghe các quan điểm và đối thoại với các bên liên quan. Đồng thời, các nhà phát triển cũng cần thực hiện chia sẻ thông tin và hợp tác chặt chẽ với các nhà cung cấp để đảm bảo cập nhật và giải quyết các vấn đề liên quan trong quá trình cung cấp dịch vụ và sử dụng các hệ thống TTNT…

Bài của ĐB

Đăng trên Bản tin Khoa học và Công nghệ Hải Dương số 3 ra tháng 6 năm 2024


Bạn đã không sử dụng Site, Bấm vào đây để duy trì trạng thái đăng nhập. Thời gian chờ: 60 giây