Các nhà nghiên cứu đã công bố một nghiên cứu nêu bật những trở ngại mà nhân loại phải giải quyết để đảm bảo rằng trí tuệ nhân tạo an toàn, đáng tin cậy và phù hợp với các giá trị của con người. Nghiên cứu được công bố trên Tạp chí Quốc tế về Tương tác giữa Người và Máy tính.
Ozlem Garibay - trợ lý giáo sư tại Khoa Kỹ thuật Công nghiệp và Hệ thống Quản lý của UCF, là nhà nghiên cứu chính của nghiên cứu. Theo Garibay, trong khi công nghệ AI ngày càng trở nên phổ biến trong các khía cạnh khác nhau trong cuộc sống của chúng ta, thì nó cũng đưa ra vô số thách thức cần được xem xét kỹ lưỡng.
Ví dụ, sự tích hợp rộng rãi AI sắp tới có thể tác động đáng kể đến cuộc sống của con người cũng như cách AI tác động đến các hệ thống xã hội theo những cách chưa được hiểu đầy đủ.
Theo đó, 6 thách thức mà Garibay và nhóm các nhà nghiên cứu đã xác định là:
Sức khỏe con người: AI có thể mang lại lợi ích cho con người. trong lĩnh vực y học và sức khoẻ. Bên cạnh việc sử dụng chúng để theo dõi và đánh giá sức khoẻ con người, các nhà khoa học cũng nên quan tâm đến việc hỗ trợ sức khỏe của người dùng khi tương tác với AI.
Trách nhiệm: AI có trách nhiệm ưu tiên phúc lợi của con người và xã hội trong suốt vòng đời của nó. Điều này đảm bảo rằng các lợi ích tiềm năng của AI được tận dụng theo cách phù hợp với các giá trị và ưu tiên của con người, đồng thời giảm thiểu rủi ro về hậu quả không lường trước hoặc vi phạm đạo đức.
Quyền riêng tư: Việc thu thập, sử dụng và phổ biến dữ liệu trong các hệ thống AI cần được xem xét cẩn thận để đảm bảo bảo vệ quyền riêng tư của các cá nhân và ngăn chặn việc lạm dụng đối với các cá nhân hoặc nhóm.
Nguyên tắc thiết kế: Các nguyên tắc thiết kế lấy con người làm trung tâm cho các hệ thống AI nên sử dụng một khuôn khổ có thể cung cấp thông tin cho các học viên. Khuôn khổ này sẽ phân biệt giữa AI có rủi ro cực thấp, AI không cần các biện pháp đặc biệt, AI có rủi ro cực cao và AI không được phép sử dụng.
Quản trị và Giám sát: Cần có một khung quản trị xem xét toàn bộ vòng đời AI từ lúc hình thành ý tưởng đến phát triển đến triển khai.
Tương tác giữa con người và AI: Để thúc đẩy mối quan hệ đạo đức và bình đẳng giữa con người và các hệ thống AI, điều bắt buộc là các tương tác phải được xác định dựa trên nguyên tắc cơ bản là tôn trọng năng lực nhận thức của con người. Cụ thể, con người phải duy trì quyền kiểm soát hoàn toàn và chịu trách nhiệm đối với hành vi và kết quả của các hệ thống AI.
Nghiên cứu được thực hiện trong hơn 20 tháng, bao gồm quan điểm của 26 chuyên gia quốc tế có nền tảng kiến thức đa dạng về công nghệ AI.
“Những thách thức này đòi hỏi phải tạo ra các công nghệ trí tuệ nhân tạo lấy con người làm trung tâm, ưu tiên đạo đức, sự công bằng và nâng cao phúc lợi của con người.
Những thách thức thúc giục việc áp dụng phương pháp tiếp cận lấy con người làm trung tâm bao gồm thiết kế có trách nhiệm, bảo vệ quyền riêng tư, tuân thủ các nguyên tắc thiết kế lấy con người làm trung tâm, quản trị và giám sát phù hợp cũng như tương tác tôn trọng với năng lực nhận thức của con người”, Ozlem Garibay cho biết.
Nhìn chung, những thách thức này là lời kêu gọi cộng đồng khoa học hành động để phát triển và triển khai các công nghệ trí tuệ nhân tạo ưu tiên và mang lại lợi ích cho nhân loại, bà Garibay nói.
