Nỗi lo của giới khoa học
Trước đó, có tin KAIST lên kế hoạch mở phòng nghiên cứu ứng dụng AI vào sản xuất vũ khí để hợp tác với Hanwha Systems, một công ty quốc phòng đã chế ra nhiều loại bom chùm, bất chấp lệnh cấm nghiên cứu và sản xuất vũ khí này của Liên Hợp Quốc. Động thái của KAIST khiến cho hơn 50 nhà nghiên cứu về AI và công nghệ robot phẫn nộ. Trong lá thư gửi tới KAIST, họ nói rằng sẽ ngừng hợp tác cho tới khi nào được đảm bảo rằng nơi này không góp phần tạo ra các loại vũ khí có khả năng tự hành, hoàn toàn thiếu sự kiểm soát của con người.
“Vào thời điểm khi LHQ đang thảo luận về cách thức kiềm chế mối đe dọa mà vũ khí tự hành gây ra với an ninh thế giới, thật đáng tiếc khi một học viện danh giá như KAIST lại mong muốn đẩy mạnh cuộc chạy đua vũ trang khi phát triển những vũ khí như thế”, lá thư viết. “Nếu được phát triển thành công, vũ khí tự hành sẽ là một cuộc cách mạng thứ ba trong chiến tranh. Chúng sẽ cho phép chiến tranh diễn ra nhanh hơn, ở quy mô lớn hơn rất nhiều trước kia. Chúng cũng có khả năng trở thành vũ khí khủng bố. Những chính phủ chuyên quyền và các nhóm khủng bố có thể dùng chúng chống lại người dân vô tội. Chiếc hộp tai ương này sẽ rất khó đóng lại, một khi người ta mở nó ra”.
Cuộc tẩy chay nói trên do giáo sư Toby Walsh, một chuyên gia AI của Đại học New South Wales phát động. Ông từng công bố các lá thư mở hồi năm 2015 và 2017, cảnh báo nhân loại về mối nguy hại do vũ khí tự hành gây ra. Lá thư hồi năm 2017 đã thu thập được 116 chữ ký ủng hộ, gồm của Elon Musk, lãnh đạo công ty Tesla. Bất chấp việc được xem là người cổ súy mạnh cho việc phát triển công nghệ, chính Musk đã từng lên tiếng cảnh báo về mối đe dọa do AI gây ra. Một nhân vật khác ủng hộ lá thư cũng nổi tiếng không kém là Mustafa Suleyman, đồng sáng lập công ty chuyên về AI có tên DeepMind đã được Google mua lại.
“Hồi năm 2015, chúng tôi từng cảnh báo về một cuộc chạy đua liên quan tới vũ khí tự hành”, Walsh nói. “Cuộc chạy đua đó đã bắt đầu. Nhân loại giờ đã có thể thấy nhiều mẫu thử nghiệm vũ khí tự hành đang được nhiều quốc gia phát triển, gồm Mỹ, Nga, Trung Quốc, Israel, Hàn Quốc và Anh. Tất cả chúng ta đều đang bị nhốt trong một cuộc chạy đua vũ trang không ai mong muốn. Hành động của KAIST chỉ thúc đẩy cuộc chạy đua này và chúng tôi không thể tha thứ cho điều đó”, ông nói.
Theo giới quan sát, cho tới nay các vũ khí tự hành - với khả năng ra quyết định độc lập không cần tới sự can thiệp của con người - chưa tồn tại. Nhưng ít nhất 381 vũ khí và hệ thống robot có khả năng bán tự hành đã xuất hiện ở 12 quốc gia. Nhiều nước đã không ngần ngại khoe ra thành tựu của họ.
Đơn cử như vào tháng 1 năm nay, Bộ Quốc phòng Mỹ công bố một đoạn video có cảnh một đàn 103 máy bay tự hành đang lướt đi trên bầu trời California. Điều đáng chú ý là không ai đang nắm quyền điều khiển các máy bay tự hành đó. Lộ trình bay của chúng được sắp đặt theo thời gian thực bởi một thuật toán tiên tiến.
Theo phát ngôn viên của chương trình, các máy bay tự hành này tồn tại theo “cơ chế tập thể, chia sẻ cùng một bộ não có trách nhiệm ra quyết định và thích nghi với nhau giống các con vật sống trong một đàn lớn ở ngoài thiên nhiên”. Các máy bay tự hành trong video không mang vũ khí, nhưng công nghệ giúp việc này diễn ra đang phát triển với tốc độ cực nhanh.
Một nghiên cứu của công ty International Data Corporation cho thấy chi tiêu toàn cầu vào công nghệ robot sẽ tăng từ 91,5 tỉ USD trong năm 2016 lên 188 tỉ USD trong năm 2020, qua đó khiến viễn cảnh robot giết người tự hành trở thành một mối đe dọa gần với thực tại hơn.
Robot đã và đang giết người
Có một thực tế không thể phủ nhận là robot đã từng giết người. Cái chết đầu tiên do robot gây ra cho con người xảy ra vào ngày 25.1.1979. Thời điểm đó, Robert Williams, 25 tuổi, một công nhân làm việc tại nhà máy đúc thiết bị của công ty sản xuất ô tô Ford có trụ sở ở Flat Rock, Michigan, được yêu cầu kiểm tra sự cố tại một cỗ máy chuyên dùng để nhặt lấy linh kiện được đúc và loại bỏ vật liệu thừa.
Trong lúc William đang đứng trên cỗ máy cao 5 tầng để kiểm tra, một cánh tay robot được giao nhiệm vụ nhặt linh kiện đúc đã âm thầm xuất hiện ngay phía trên đầu anh. Tiếp đó nó lao xuống để nhặt “linh kiện” đúng như đã được lập trình. Cú va chạm cực mạnh vào đầu khiến William chết ngay tại chỗ. Anh nằm đó suốt 30 phút trước khi có người phát hiện thấy sự cố.
Trong cái ngày định mệnh này, Williams trở thành người đầu tiên trong lịch sử nhân loại bị robot giết. Tuy nhiên cái chết của anh là hoàn toàn do vô tình. Khi ấy Ford chưa triển khai các cơ chế đảm bảo an toàn đầy đủ để Williams không gặp nguy hiểm.
Không có tiếng chuông báo động nào vang lên khi cánh tay robot tới gần anh. Khi ấy cũng chẳng có công nghệ nào tồn tại để robot thay đổi hành vi, khi nó thấy con người xuất hiện. Năm 1979, AI liên quan tới robot chưa đủ độ phức tạp như ngày hôm nay để ngăn chặn một cái chết như thế.
Tòa án Mỹ sau này phán quyết rằng người ta đã không cẩn trọng khi thiết kế robot dẫn tới cái chết của Williams. Gia đình anh nhận được số tiền đền bù trị giá 10 triệu USD từ Unit Handling Systems, một chi nhánh của công ty Litton Industries đã thiết kế và sản xuất robot trên.
Cái chết tiếp theo do robot thực hiện chỉ xảy ra cách biến cố này có 2 năm, ở Nhật Bản, dưới cùng một hoàn cảnh: Một cánh tay robot đã không thấy sự hiện diện của người công nhân Kenji Urada, 37 tuổi, nên đã nghiền nát anh.
Trong những năm tiếp theo, các nhà nghiên cứu robot, các nhà khoa học máy tính và chuyên gia AI đã đầu tư rất nhiều để giải quyết câu hỏi: Làm sao để robot có thể giao tiếp an toàn với con người? Tuy nhiên nhiều thập niên sau, cái chết do robot và AI gây ra vẫn diễn ra khá phổ biến. Uber và Tesla gần đây đều đã lên báo sau khi có tin các xe tự hành của họ gây tai nạn và khiến hành khách hoặc người đi đường tử nạn. Dù nhiều cơ chế đảm bảo an toàn đã được triển khai, vấn đề vẫn tồn tại.
Nhưng không một cái chết nào trong đó là do ý chí của robot gây ra. Tất cả đều là tai nạn. Nhưng dư luận vẫn lo lắng, một phần vì ảnh hưởng từ các bộ phim nổi tiếng như “Terminator” và “Matrix”, nói rằng AI rồi sẽ có khả năng tư duy và sau đó quyết định loại bỏ con người.
Shimon Whiteson, một giáo sư về khoa học máy tính tại Đại học Oxford kiêm đồng sáng lập viên phòng nghiên cứu Morpheus Labs, gọi hiện tượng này là “ngụy biện gán ghép đặc tính con người cho vật vô tri”. Whiteson định nghĩa cụ thể hiện tượng này là khi người ta “giả định một hệ thống với trí thông minh giống con người hẳn cũng có khao khát sống con người, như sự tự do, sự sinh tồn, phẩm giá... Tuy nhiên đây là điều không thể xảy ra, bởi đơn giản là các hệ thống máy móc chỉ có được những khao khát mà chúng ta trao cho nó”.
Ông nói rằng nguy cơ lớn hiện nay là lập trình viên lên kế hoạch để máy móc làm một việc, nhưng rốt cục nó lại làm điều khác hẳn những gì anh ta mong muốn. “Anh sẽ giao tiếp các giá trị của mình với một hệ thống thông minh theo cách nào, để hành động diễn ra sau đó sẽ tuân theo dự định thực sự của anh? Sự khác biệt giữa hai bên sẽ gây ra nhiều hậu quả hơn, khi máy móc trở nên thông minh và có khả năng tự hành nhất định”, Whiteson giải thích.
Và Whiteson tin rằng mối đe dọa lớn nhất là các nhà khoa học cố tình tạo ra các robot có thể giết người mà không cần mệnh lệnh hoặc sự can thiệp từ con người. Đó cũng chính là điều Walsh lo ngại, khi thông báo rằng các nước đang đổ hàng núi tiền vào vũ khí tự hành. “Đó sẽ là những vũ khí hủy diệt hàng loạt. Chỉ cần một nhà lập trình và một máy in 3D là người ta có thể làm công việc trước đó từng cần tới cả một đạo quân. Họ sẽ công nghiệp hóa chiến tranh, thay đổi tốc độ và khoảng thời gian của chiến tranh. Họ có thể giết người 24/7 và sẽ giết nhanh hơn khả năng của con người, trong việc tự vệ và chống lại hành động tấn công”, ông nói.
Hậu quả khủng khiếp nếu thiếu quy định quản lý
Tháng Tư này sẽ đánh dấu 5 năm kể từ thời điểm triển khai Chiến dịch quốc tế chống robot sát thủ, vốn kêu gọi việc cần có hành động khẩn cấp để cấm các loại robot với khả năng lựa chọn mục tiêu và tấn công mà không cần sự can thiệp của con người. Sáng kiến này được triển khai hồi năm 2013, có chữ ký của một nhà khoa học đoạt giải Nobel và giám đốc nhiều tổ chức phi chính phủ, nói rằng vũ khí tự hành có thể được triển khai trong 20 năm tới và đem đến cho máy móc khả năng định đoạt vấn đề sinh tử với con người trên chiến trường.
Đầu tuần này, chuyên gia và đại diện của nhiều chính quyền đã gặp nhau ở Geneva, Thụy Sĩ, để thảo luận về các hệ thống vũ khí sát thương có khả năng tự hành (LAWS). Đây chỉ là cái tên khác của các robot sát thủ - xe tăng, máy bay, tàu chiến, súng ống được tích hợp AI - những vũ khí với khả năng tham chiến trong tương lai mà không cần tới con người.
Toby Walsh cùng những người đồng chí hướng với ông đã kêu gọi việc ngăn chặn sớm LAWS vì lợi ích của nhân loại. Tuy nhiên từ trước cuộc gặp về LAWS ở Geneva, Mỹ đã tuyên bố rằng thay vì biến LAWS thành một thứ gì đó khủng khiếp và cần tránh xa hoặc phải bị cấm đoán, nhân loại nên khuyến khích sự sáng tạo.
Mỹ có lý do để bênh vực LAWS. Nước này từng công khai nói rằng tự động hóa vũ khí là bước ngoặt quan trọng trong kế hoạch hiện đại hóa quân đội và đảm bảo ưu thế số một trên toàn cầu. Mỹ hiện đang nghiên cứu mẫu máy bay không người lái X-47B, có thể cất cánh, hạ cánh trong điều kiện thời tiết khắc nghiệt và tiếp nhiên liệu được trên không. Quốc gia này cũng đang thử nghiệm tàu săn ngầm tự hành Sea Hunter, vốn có thể hoạt động trên biển suốt nhiều tháng mà không có sự hiện diện của con người. Nó được trang bị lượng vũ khí cần thiết để đánh chìm các loại tàu ngầm và tàu chiến. Cùng lúc, Mỹ đang nghiên cứu chế tạo xe tăng tự hành Crusher nặng 6.000 tấn, với khả năng vượt qua mọi loại địa hình khó khăn và được quảng cáo có thể “giải quyết bất kỳ nhiệm vụ nào”.
Anh quốc, đồng minh thân thiết với Mỹ, cũng đang ráo riết nghiên cứu công nghệ vũ khí tự hành. Anh đã đầu tư rất nhiều vào các loại xe không người lái, vốn có thể gắn vũ khí trong tương lai. Ngoài ra nước này đang nghiên cứu Taranis, một chiếc máy bay không người lái với khả năng bay tự hành và chọc thủng lưới radar của đối phương.
Đồng minh khác của Mỹ là Israel đã có một loại robot tự hành mang tên Harop. Đây là một robot bay với khả năng lượn lờ trên bầu trời khu vực cần tấn công trong một thời gian dài, tự xác định mục tiêu và sẽ tấn công khi con người ra lệnh.
Về phần mình, Nga đang phát triển nhiều loại vũ khí tích hợp AI. Nước này đã có một chiếc xe tăng robot mang tên Nerehta với khả năng mang theo súng máy hoặc súng phóng lựu. Chiếc xe tăng đời mới T-14 Armata hiện đã có khả năng bán tự hành và sẽ sớm trở thành vũ khí tự hành trong tương lai không xa.
Tháng 7 năm ngoái, công ty Kalashnikov - một nhà thầu lớn của Bộ Quốc phòng Nga cho biết đang phát triển một loại súng có thể dùng mạng thần kinh để đưa ra các quyết định bắn hay không bắn mục tiêu mà chẳng cần sự can thiệp của con người.
Ở Trung Quốc, tính tới năm 2016, nước này đã thử nghiệm công nghệ tự hành ở cả trên không, trên bộ và trên biển. Trong khi đó hồi tháng 12 năm ngoái, Hàn Quốc nói rằng đã có kế hoạch phát triển một loại máy bay không người lái hoạt động theo đàn. Chúng sẽ nhắm vào các mục tiêu nằm ở Triều Tiên trong tình huống có chiến tranh.
Như thế, nhiều quốc gia với tiềm lực mạnh nhất trên thế giới đã đặt nền móng cho một cuộc chạy đua vũ trang nguy hiểm, trong khi luật lệ chưa bắt kịp xu hướng mới này. Một báo cáo hồi năm 2015, do Tổ chức giám sát nhân quyền và Trường luật Harvard phối hợp công bố, đã nói chi tiết về việc sự thiếu quy định quản lý trong hoạt động sản xuất vũ khí tự hành có thể gây ra tai họa khó lường. Theo họ, dưới luật pháp hiện hành, các nhà lập trình, nhà sản xuất robot và quân nhân đều sẽ thoát khỏi trách nhiệm liên quan tới những cái chết do vũ khí tự hành gây ra trên chiến trường.
Giới nghiên cứu tin rằng thiếu những quy định quản lý cần thiết, việc vũ khí hóa robot và AI sẽ khiến thế giới tiến gần hơn bao giờ hết tới điểm diệt vong. “Hãy tưởng tượng hàng đàn xe tăng và máy bay tự hành đang sầm sập tiến tới biên giới và rồi một trong số chúng bất ngờ khai hỏa vì bị ai đó dùng công nghệ cao chiếm quyền điều khiển”, Noel Sharkey, giáo sư AI và robot tại Đại học Sheffield, chia sẻ với phóng viên Guardian. “Sự cố này có thể châm ngòi cho một cuộc chiến mà không một con người nào có thể hiểu được hoặc thoát khỏi. Thậm chí chúng ta còn không thể biết hệ thống sẽ phản ứng ra sao khi xung đột xảy ra. Tất cả có thể sẽ kết thúc chỉ trong vài phút, với thế giới bị hủy diệt trên quy mô lớn và vô số người phải trả giá bằng sinh mạng của họ”.
