Chính phủ nêu 4 cấp độ rủi ro trong phát triển trí tuệ nhân tạo

Nội dung này được đề cập trong dự thảo Luật Trí tuệ nhân tạo, do Bộ trưởng Khoa học và Công nghệ (KH&CN) Nguyễn Mạnh Hùng trình Quốc hội trong phiên làm việc sáng 21/11.

Theo Bộ trưởng Nguyễn Mạnh Hùng, Luật này được xây dựng trên nguyên tắc vừa quản lý các rủi ro, vừa thúc đẩy phát triển và đổi mới sáng tạo đối với trí tuệ nhân tạo.

"Luật bảo đảm phát triển trí tuệ nhân tạo vì con người, lấy con người làm trung tâm, Nhà nước giữ vai trò chủ đạo trong quản lý, điều phối và kiến tạo phát triển đối với trí tuệ nhân tạo”, Bộ trưởng nhấn mạnh.

Ông cho biết dự thảo luật thiết lập cơ chế quản lý theo mức độ rủi ro, bảo đảm việc phát triển, ứng dụng và sử dụng trí tuệ nhân tạo được an toàn, minh bạch, có thể kiểm soát và có trách nhiệm giải trình.

Theo đó, Chính phủ quy định 4 mức độ rủi ro trong phát triển trí tuệ nhân tạo, gồm: không chấp nhận được (mức độ cao nhất); rủi ro cao; rủi ro trung bình và rủi ro thấp.

Cũng theo tờ trình của Chính phủ, với hệ thống rủi ro trung bình và cao, nhà cung cấp phải thông báo cho Bộ KH&CN.

Các hệ thống có rủi ro không chấp nhận được bị cấm phát triển, cung cấp, triển khai hoặc sử dụng dưới bất kỳ hình thức nào.

Chính phủ cũng nêu rõ danh mục cấm bao gồm hệ thống dùng cho hành vi bị pháp luật nghiêm cấm, sử dụng yếu tố giả mạo để lừa dối, thao túng gây tổn hại nghiêm trọng, lợi dụng điểm yếu của nhóm người dễ bị tổn thương (trẻ em, người cao tuổi...), hoặc tạo nội dung giả mạo gây nguy hại nghiêm trọng đến an ninh quốc gia.

Theo phương án Chính phủ trình, tổ chức, cá nhân vi phạm trong lĩnh vực này sẽ bị xử lý kỷ luật, xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự. Nếu gây thiệt hại, phải bồi thường theo pháp luật dân sự.

Trường hợp nhiều chủ thể cùng tham gia (phát triển, cung cấp, triển khai) thì phải liên đới bồi thường. Trách nhiệm bồi thường được xác định dựa trên mức độ kiểm soát thực tế, khả năng dự báo và các biện pháp quản lý rủi ro mà mỗi bên đã áp dụng.

Dự thảo luật quy định mức phạt hành chính bằng tiền tối đa 2 tỷ đồng đối với tổ chức và 1 tỷ đồng đối với cá nhân.

Với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm trước liền kề của tổ chức đó. Trường hợp tái phạm thì phạt tối đa 2% doanh thu toàn cầu của năm trước liền kề của tổ chức đó.

Cùng với việc xử lý vi phạm, Chính phủ cũng đề xuất nhiều chính sách hỗ trợ nghiên cứu, đầu tư, đào tạo nhân lực chất lượng cao, tạo điều kiện cho doanh nghiệp, tổ chức và cá nhân tham gia phát triển và ứng dụng trí tuệ nhân tạo.

Trình bày báo cáo thẩm tra, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải cho biết cơ quan thẩm tra đề nghị bổ sung nguyên tắc cốt lõi để đảm bảo chất lượng đối với dữ liệu phục vụ AI, như dữ liệu phải đúng, đủ, sạch, sống và thống nhất dùng chung; có cơ chế kết nối liên thông, chia sẻ dữ liệu, không để dữ liệu bị phân tán, tạo điểm nghẽn trong nghiên cứu phát triển AI.

Cũng theo cơ quan thẩm tra, dự thảo luật cần có quy định về nguyên tắc bắt buộc về đảm bảo an ninh mạng, bảo mật dữ liệu, phòng vệ đối với hạ tầng AI quốc gia, chống nguy cơ chiếm quyền điều khiển, rò rỉ dữ liệu.

Với quan điểm “những hành vi và lỗi do con người thực hiện thì AI cũng có thể thực hiện”, cơ quan thẩm tra đề nghị bổ sung nguyên tắc để phân biệt trách nhiệm giữa các chủ thể, các bên liên quan đối với nhà cung cấp nước ngoài khi cung cấp dịch vụ AI xuyên biên giới; phân biệt giữa các trường hợp cố ý, không cố ý hoặc lỗi do giới hạn kỹ thuật không tiên lượng trước được.

Dự thảo Luật Trí tuệ nhân tạo gồm 8 chương, 36 điều và dự kiến được Quốc hội xem xét thông qua tại kỳ họp thứ 10.