Trí tuệ nhân tạo, làm sao để kiểm soát con dao hai lưỡi?

Dân trí Trí tuệ nhân tạo (AI) có thể chơi cờ, lái xe hoặc chẩn đoán các vấn đề y khoa. Một số ví dụ của trí tuệ nhân tạo là phần mềm DeepMind’s AlphaGo của Google, các thiết bị tự lái của Tesla và dịch vụ Watson của IBM.

Loại AI này được gọi là trí tuệ nhân tạo có giới hạn, đây là những hệ thống máy móc có khả năng thực hiện một công việc cụ thể. Chúng ta vẫn gặp loại trí tuệ này trong cuộc sống hàng ngày và ngày càng có nhiều người sử dụng chúng, nhưng bên cạnh khả năng ưu việt của AI, chúng ta cũng bắt đầu nhận thấy một số vấn đề. Trường hợp xấu nhất đã từng xảy ra là một chiếc ô tô tự lái đã đâm vào một người đi bộ vào tháng 3/2018. Người đi bộ đã thiệt mạng và vụ việc vẫn đang trong quá trình điều tra.

tri tue.jpg

Thế hệ sắp tới của trí tuệ nhân tạo

Thế hệ sắp tới của AI sẽ không còn chỉ là trí tuệ nhân tạo có giới hạn nữa mà sẽ là trí tuệ nhân tạo tổng hợp. Với thế hệ này, số tiền đặt cược gần như chắc chắn sẽ cao hơn nhiều cho trò chơi được – mất.

Trí tuệ nhân tạo tổng hợp (AGI) sẽ có khả năng tính toán ưu việt và trí thông minh ngang tầm con người. Những hệ thống này sẽ có khả năng học tập, giải quyết vấn đề, thích ứng và tự nâng cấp bản thân. Chúng thậm chí còn biết làm những việc mà ban đầu chúng không được thiết kế để làm những việc đó.

Điều hết sức quan trọng là tốc độ nâng cấp của chúng có thể tăng theo cấp số nhân khi chúng đã trở nên thông minh hơn nhiều so với con người đã tạo ra chúng. Nếu đưa trí tuệ nhân tạo tổng hợp vào sử dụng thì chẳng mấy chốc sẽ sinh ra trí tuệ nhân tạo siêu phàm.

Hiện nay các AGI chưa hoàn toàn đi vào thực tế nhưng người ta ước tính rằng chúng sẽ bắt đầu “sống” cùng con người từ năm 2029 hoặc muộn nhất thì cũng trước khi kết thúc thế kỉ này.

Điều gần như chắc chắn sẽ xảy ra là sớm muộn gì chúng cũng sẽ đi vào cuộc sống con người. Khi đó điều hiển nhiên và đáng quan ngại là chúng ta sẽ không thể kiểm soát chúng.

Những nguy cơ đi kèm với trí tuệ nhân tạo tổng hợp

Không nghi ngờ gì nữa, chắc chắc AGI sẽ làm thay đổi loài người. Một số ứng dụng tiên tiến bao gồm chữa bệnh, giải quyết những thách thức phức tạp của toàn thế giới như biến đổi khí hậu và an ninh lương thực, và khởi phát sự bùng nổ công nghệ toàn cầu.

Nhưng đi kèm đó, nếu con người không thể kiểm soát chúng thì những hậu quả khôn lường chắc chắn sẽ xảy ra.

Trong những bộ phim Hollywood, thảm họa do trí tuệ nhân tạo gây ra cũng chỉ dừng lại ở mức những người máy giết người. Theo giáo sư Max Tegmark của Viện Công nghệ Massachusette (MIT) thì trên thực tế, vấn đề không nằm ở sự ác tâm mà chính là ở trí thông minh. Điều này đã được ông luận bàn trong cuốn sách của mình có tên “Cuộc sống 3.0: làm người trong kỉ nguyên trí tuệ nhân tạo”

Vấn đề ở đây là khoa học về những hệ thống “máy như người” sẽ nắm quyền lãnh đạo, chúng sẽ biết xác định thêm nhiều các hiệu quả hơn để thực hiện các công việc, pha trộn các biện pháp để có cách đạt được mục tiêu nhắm đến và thậm chí chúng còn biết phát triển, xây dựng thêm những mục tiêu của chính mình.

Hãy thử hình dung những trường hợp sau làm ví dụ:

- Một hệ thống AGI được phân công ngăn ngừa HIV và quyết định xử lí vấn đề bằng cách giết luôn tất cả những người mang căn bệnh đó, hoặc được phân công chữa bệnh ung thư thì quyết định giết luôn tất cả những người có bất cứ bẩm chất di truyền nào có thể mắc bệnh ung thư.

- Một máy bay quân sự không người lái AGI điều khiển bằng trí tuệ nhân tạo tổng hợp tự quyết định cách duy nhất để đảm bảo nhắm trúng mục tiêu là quét sạch toàn bộ khu vực.

- Một AGI có chức năng bảo vệ môi trường quyết định rằng cách duy nhất để làm chậm hay đảo ngược quá trình biến đổi khí hậu là loại bỏ tất cả máy móc công nghệ và con người đã chế tạo ra các máy móc công nghệ đó.

Những kịch bản này cho thấy nguy cơ một cuộc chiến giữa các hệ thống trí tuệ nhân tạo tổng hợp khác nhau, chúng không còn lấy mục đích của con người làm nhiệm vụ trung tâm của chúng nữa.

Trong những tình huống tương lai như thế, con người sẽ trở thành lạc hậu và hậu quả cuối cùng là sự tuyệt chủng không thể cứu vãn của loài người.

Ở một số kịch bản khác, tương lai đỡ cực đoan hơn nhưng cũng vẫn cực kì đen tối, khi mà trí tuệ nhân tạo tổng hợp được sử dụng vào những mục đích ác tâm như là khủng bố và tấn công mạng, loại bỏ nhu cầu sức lao động của con người, và theo dõi hàng loạt, v.v.

Vì vậy tìm ra biện pháp an toàn nhất để thiết kế và quản lí AGI để giảm thiểu nguy cơ và tối đa hóa lợi ích là điều vô cùng quan trọng.

Làm thế nào để kiểm soát trí tuệ nhân tạo tổng hợp

Kiểm soát AGI không đơn giản chỉ là áp dụng những biện pháp kiểm soát như kiểm soát con người.

Nhiều biện pháp kiểm soát hành vi của con người dựa vào nhận thức, cảm xúc của con người và dựa vào việc áp dụng các giá trị đạo đức của con người. AGI không cần những thuộc tính này, vì thế chúng hoàn toàn có thể gây hại cho con người. Những dạng kiểm soát hiện nay là không đủ để áp dụng cho chúng.

Có ba tập hợp các biện pháp kiểm soát hiện đang được tranh luận và rất cần được phát triển và thử nghiệm ngay tức thì, đó là:

- Kiểm soát để đảm bảo các nhà thiết kế hệ thống AGI tạo ra các hệ thống này an toàn.

- Kiểm soát được gắn vào ngay trong chính bản thân các AGI, như là “ý thức”, giá trị đạo đức, qui trình vận hành, nguyên tắc ra quyết định, v.v.

- Kiểm soát được đưa vào trong những hệ thống bao trùm mà AGI sẽ hoạt động trong đó, như là qui định, mã thực hành, qui trình vận hành tiêu chuẩn, hệ thống giám sát và cơ sở hạ tầng.

Yếu tố con người và công thái học đưa ra những phương pháp xác định, thiết kế và kiểm nghiệm các cách kiểm soát đó rất tốt trước khi có các hệ thống AGI.

Ví dụ: hoàn toàn có thể chạy mô hình các cách kiểm soát của một hệ thống cụ thể để làm mô hình cho hành vi của các hệ thống AGI trong phạm vi cơ chế kiểm soát đó và xác định các rủi ro về độ an toàn.

Điều này sẽ cho phép chúng ta xác định cần áp dụng các cách kiểm soát mới vào đâu, rồi thiết kế các cách kiểm soát đó, và lên mô hình lại để xem đã loại bỏ được các rủi ro hay chưa.

Ngoài ra, các mô hình về nhận thức và ra quyết định của chúng ta cũng có thể đem dùng để đảm bảo các AGI hành xử đúng mực và có các giá trị nhân văn.

Hành động ngay chứ không trì hoãn

Các nghiên cứu này đang được tiến hành rồi nhưng vẫn chưa đủ và vẫn chưa nhận được sự quan tâm cần thiết.

Thậm chí doanh nhân công nghệ có uy tín là Elon Musk đã cảnh báo về “khủng hoảng hiện sinh” mà con người đang đối mặt do sự tiến bộ của AI và ông cũng đã lên tiếng về sự cần thiết phải điều tiết AI trước khi quá muộn.

Thập kỉ tới đây chính là giai đoạn quyết định. Có một cơ hội để tạo ra các hệ thống AGI an toàn và hiệu quả để phục vụ xã hội loài người. Đồng thời, nếu vẫn chỉ “làm việc như bình thường” tức là chúng ta cứ đuổi theo các tiến bộ nhanh chóng của công nghệ mà không hề chuẩn bị trước cho các tình huống sau này thì sẽ dẫn đến sự tuyệt chủng của loài người. Quả bóng đang ở trên sân chơi của chúng ta, nhưng sẽ chẳng được bao lâu nữa đâu.

Phạm Hường (Theo The Conversation)

MỚI NHẤT
Chú mèo may mắn bất ngờ “tái sinh” sau khi bị… đông cứng
Chú mèo may mắn bất ngờ “tái sinh” sau khi bị… đông cứng

(Dân trí) - Với cơn lốc lớn và nền nhiệt độ đã xuống dưới 0 độ C vừa qua tại thành phố Kalispell gần Công viên Quốc gia Glacier (Mỹ), các nhân viên cứu hộ đã cứu được một con mèo bị đông cứng… sống trở lại.

Chủ nhật, 10/02/2019 - 04:06

Trái Đất có thể hình thành một siêu lục địa mất hàng tỷ năm
Trái Đất có thể hình thành một siêu lục địa mất hàng tỷ năm

(Dân trí) - Những sự kiện như động đất và núi lửa được cho là đã đóng vai trò quan trọng trong việc giữ cho khí hậu của chúng ta ổn định và trong sự phát triển của sự sống trên hành tinh. Bên cạnh đó, các siêu lục địa và đại dương toàn cầu hình thành theo chu kỳ đều đặn trong hàng trăm triệu năm xảy ra theo một chu kỳ phức tạp.

Chủ nhật, 10/02/2019 - 04:02

Hầm chứa hạt giống cho ngày tận thế ở Na Uy bị ảnh hưởng nghiêm trọng bởi biến đổi khí hậu
Hầm chứa hạt giống cho ngày tận thế ở Na Uy bị ảnh hưởng nghiêm trọng bởi biến đổi khí hậu

(Dân trí) - Trong 5 thập kỷ qua, nhiệt độ không khí ở khu vực hầm chứa hạt giống dự phòng ở Na Uy đã tăng từ 3 - 5 độ C, tiềm ẩn những nguy cơ lớn đến việc lưu giữ các loại hạt giống.

Thứ bảy, 09/02/2019 - 06:30

Ung thư xương ác tính được phát hiện có từ loài rùa Kỷ Trias
Ung thư xương ác tính được phát hiện có từ loài rùa Kỷ Trias

(Dân trí) - Ung thư là căn bệnh từng được tìm thấy trong hóa thạch khủng long, xác ướp Ai Cập và hiện là loài rùa già nhất được biết đến từ Kỷ Trias.

Thứ bảy, 09/02/2019 - 06:27

Hàng loạt loài mới được tìm thấy ở khu vực biển sâu ở Costa Rica
Hàng loạt loài mới được tìm thấy ở khu vực biển sâu ở Costa Rica

(Dân trí) - Các nhà khoa học gần đây đã có những phát hiện mới ở vùng biển của Costa Rica và đã phát hiện ra một kho tàng các loài mới lạ với đủ hình dạng và kích cỡ. Họ cũng tìm thấy một khu vực rất nhiều rác.

Thứ bảy, 09/02/2019 - 06:23

Suy nghĩ tốt đẹp có thể kích thích hệ miễn dịch
Suy nghĩ tốt đẹp có thể kích thích hệ miễn dịch

(Dân trí) - Phật đã nói “kẻ thù lớn nhất của bạn không thể làm hại bạn nhiều bằng chính những suy nghĩ vô ý của bạn”. Hiện nay, các nhà khoa học dường như đã chứng minh được ngài đã đúng, sau khi nghiên cứu mới cho thấy những suy nghĩ tiêu cực có thể có hại về mặt tâm lý, trong khi suy nghĩ tích cực làm bình ổn nhịp tim và thậm chí kích thích hệ miễn dịch.

Thứ sáu, 08/02/2019 - 04:07

Sóc bay phát ánh sáng màu hồng trong tia cực tím
Sóc bay phát ánh sáng màu hồng trong tia cực tím

(Dân trí) - Các nhà khoa học từ Đại học Texas A&M và Đại học Northland ở Wisconsin đã tình cờ phát hiện ra một điều khá kì thú về loài sóc bay.

Thứ sáu, 08/02/2019 - 09:20

Nghiên cứu di truyền cung cấp những hiểu biết mới về sự tiến hóa của màu da
Nghiên cứu di truyền cung cấp những hiểu biết mới về sự tiến hóa của màu da

(Dân trí) - Màu da là một trong những đặc điểm dễ thấy và thay đổi nhất ở con người và các nhà khoa học luôn tò mò về sự biến đổi này phát triển như thế nào. Giờ đây, một nghiên cứu về các quần thể người Mỹ Latinh khác nhau do các nhà di truyền học UCL dẫn đầu đã xác định các biến thể di truyền mới liên quan đến màu da

Thứ sáu, 08/02/2019 - 06:38

Các loài động vật lớn nhất Trái Đất đứng trước nguy cơ tuyệt chủng là do con người
Các loài động vật lớn nhất Trái Đất đứng trước nguy cơ tuyệt chủng là do con người

(Dân trí) - Trong một nghiên cứu mới được công bố, các nhà khoa học đã chỉ ra vai trò của con người trong vấn đề tuyệt chủng của nhiều loài động vật lớn trên Trái Đất.

Thứ sáu, 08/02/2019 - 06:27

Loài ong có thể học… giải được toán
Loài ong có thể học… giải được toán

(Dân trí) - Những con ong có một khả năng đặc biệt đó là có thể hiểu được ý nghĩa của các con số và làm một số bài toán số học đơn giản nếu được… dạy.

Thứ sáu, 08/02/2019 - 06:24

Năm 2018 là năm nóng kỷ lục thứ 4 được ghi nhận
Năm 2018 là năm nóng kỷ lục thứ 4 được ghi nhận

(Dân trí) - Theo số liệu của NASA và Cơ quan Khí quyển và Hải dương học Quốc gia (NOAA), năm 2018 là năm nóng kỷ lục thứ tư gần đây.

Thứ sáu, 08/02/2019 - 06:21

Màu sắc của đại dương sẽ thay đổi như thế nào do sự nóng lên toàn cầu?
Màu sắc của đại dương sẽ thay đổi như thế nào do sự nóng lên toàn cầu?

(Dân trí) - Vào cuối thế kỷ 21, đại dương thế giới sẽ có màu sắc rực rỡ hơn do sự phát triển nhanh chóng của tảo xanh lam và các dạng thực vật phù du khác, chúng sẽ xuất hiện do tình trạng nóng lên toàn cầu...

Thứ năm, 07/02/2019 - 07:04

ĐÁNG QUAN TÂM
Hơn 100 loài mới được phát hiện trong… ruột con người
Hơn 100 loài mới được phát hiện trong… ruột con người

(Dân trí) - Bên trong mỗi con người là một “điểm nóng đa dạng sinh học” với hàng trăm loài sinh vật khác nhau mà bạn có thể hoàn toàn không biết.

Thứ năm, 07/02/2019 - 06:49

Phát lộ mê cung lăng mộ ở Ai Cập với nhiều xác ướp có niên đại 2.300 năm
Phát lộ mê cung lăng mộ ở Ai Cập với nhiều xác ướp có niên đại 2.300 năm

(Dân trí) - Các nhà khảo cổ vừa phát hiện ra một mê cung bí ẩn chứa những ngôi mộ ở Ai Cập với hàng chục xác ướp, ở mọi lứa tuổi, có thể có từ thời triều đại Ptolemaic, tồn tại từ năm 305 đến 30 trước Công Nguyên.

Thứ năm, 07/02/2019 - 06:46

Các nhà khoa học đã tìm ra cách đơn giản để thoát khỏi trầm cảm
Các nhà khoa học đã tìm ra cách đơn giản để thoát khỏi trầm cảm

(Dân trí) - Các bác sĩ Anh đã kết luận rằng những người có chế độ ăn uống lành mạnh thường thoát khỏi chứng trầm cảm mãn tính dễ hơn những người thích các loại thực phẩm nhiều chất béo.

Thứ tư, 06/02/2019 - 05:54

Nạn nhân đầu tiên của thảm hoạ tuyệt chủng lớn nhất trên Trái Đất là... thực vật
Nạn nhân đầu tiên của thảm hoạ tuyệt chủng lớn nhất trên Trái Đất là... thực vật

(Dân trí) - Khoảng 252 triệu năm trước, một thảm hoạ tuyệt chủng đã quét sạch 96% động vật trên biển và 70% động vật trên cạn. Theo một nghiên cứu hiện được công bố trên tạp chí Nature Communications, nạn nhân đầu tiên của thảm kịch này không phải là động vật, mà là thực vật.

Thứ tư, 06/02/2019 - 05:48

Bộ não nữ giới thường “trẻ” hơn so với nam giới
Bộ não nữ giới thường “trẻ” hơn so với nam giới

(Dân trí) - Trung bình, bộ não của phụ nữ có xu hướng… trẻ hơn ba tuổi so với nam giới cùng tuổi, ít nhất là về tỷ lệ trao đổi chất.

Thứ tư, 06/02/2019 - 05:44

Từ tính ở Bắc Cực đang di chuyển đến Nga
Từ tính ở Bắc Cực đang di chuyển đến Nga

(Dân trí) - Cơ quan Khí quyển và Đại dương Quốc gia Hoa Kỳ có xu hướng cập nhật vị trí của cực Bắc từ tính cứ sau 5 năm một lần. Nhưng cực từ tính dường như đang thay đổi và di chuyển quá nhanh.

Thứ tư, 06/02/2019 - 05:41

7 dự báo thú vị về công nghệ 10 năm tới
7 dự báo thú vị về công nghệ 10 năm tới

Từ những chiếc xe không người lái đến những công nhân người máy, tất cả chúng ta đều đã nghe về nhiều công nghệ mới nổi sẽ định hình cuộc sống hàng ngày như trí tuệ nhân tạo (AI), Siêu máy tính và lưu trữ Dữ liệu lớn (big data) với phần lớn dự kiến đạt đến đỉnh điểm vào năm 2025.

Thứ tư, 06/02/2019 - 04:01

Tìm ra phương pháp mới hỗ trợ điều trị bệnh tiểu đường
Tìm ra phương pháp mới hỗ trợ điều trị bệnh tiểu đường

(Dân trí) - Các nhà nghiên cứu vừa tạo ra một bước đột phá có thể biến đổi tế bào gốc của con người thành tế bào sản xuất insulin chức năng (còn gọi là tế bào beta).

Thứ ba, 05/02/2019 - 06:20

Tìm thấy bằng chứng về “bia Anh đầu tiên” ở Cambridgeshire
Tìm thấy bằng chứng về “bia Anh đầu tiên” ở Cambridgeshire

(Dân trí) - Bằng chứng về loại bia đầu tiên được cho là tìm thấy ở Anh, có niên đại từ hơn 2.000 năm trước, đã được các công nhân làm đường phát hiện.

Thứ ba, 05/02/2019 - 06:05

Phát hiện hàng trăm cấu trúc đá bí ẩn ở Tây Sahara
Phát hiện hàng trăm cấu trúc đá bí ẩn ở Tây Sahara

(Dân trí) - Hàng trăm cấu trúc bằng đá được xác định có thể có niên đại hàng ngàn năm trước đã được phát hiện ở Tây Sahara, một khu vực ở châu Phi ít được các nhà khảo cổ học khám phá.

Thứ ba, 05/02/2019 - 06:02

Phát hiện hóa thạch quý hiếm 185 triệu năm tuổi tại Anh
Phát hiện hóa thạch quý hiếm 185 triệu năm tuổi tại Anh

(Dân trí) - Một thợ săn hóa thạch trẻ tuổi tại Anh vừa phát hiện ra một hóa thạch 185 triệu năm tuổi sau khi phá vỡ một tảng đá có bề ngoài như một quả đạn pháo súng thần công trên bãi biển ở Yorkshire.

Thứ ba, 05/02/2019 - 05:52

Tìm thấy hàng chục xác ướp, có cả trẻ con ở Ai Cập
Tìm thấy hàng chục xác ướp, có cả trẻ con ở Ai Cập

(Dân trí) - Các nhà khảo cổ Ai Cập phát hiện 50 xác ướp, có cả trẻ em từ thời Ptolemaic trong một khu chôn cất cổ ở Minya, phía nam thủ đô Cairo.

Thứ hai, 04/02/2019 - 05:53