Sự xuất hiện của AGI đặt ra những câu hỏi vượt xa phạm vi công nghệ. Khi một hệ thống trí tuệ nhân tạo có thể đưa ra các phân tích chính xác hơn con người trong nhiều lĩnh vực, xã hội buộc phải xem xét lại các khái niệm nền tảng như công lý, tự do, trách nhiệm và phẩm giá con người.
Bài toán về quyền quyết định cuối cùng
Một trong những tình huống gây tranh luận nhất là khi AGI có khả năng phân tích hồ sơ pháp lý tốt hơn phần lớn kiểm sát viên. Nếu hệ thống này giúp giảm đáng kể các vụ oan sai, liệu quyền quyết định truy tố cuối cùng có nên thuộc về máy móc hay không?
Lập luận ủng hộ con người thường dựa trên tính chính danh và trách nhiệm. Một quyết định pháp lý không chỉ là kết quả của tính toán mà còn là hành vi mang tính xã hội và đạo đức. Người ra quyết định phải chịu trách nhiệm trước cộng đồng, điều mà một thuật toán khó có thể thực hiện theo nghĩa truyền thống.
Công lý có đồng nghĩa với độ chính xác?
Cuộc tranh luận trở nên phức tạp hơn khi xuất hiện câu hỏi: điều gì quan trọng hơn, quyền được xét xử bởi con người hay quyền được xét xử chính xác nhất có thể? Nếu AGI liên tục đưa ra các kết luận đúng hơn, việc duy trì vai trò quyết định của con người có thể bị xem là làm giảm chất lượng công lý.
Tuy nhiên, công lý không hoàn toàn đồng nhất với độ chính xác. Công lý còn liên quan đến tính minh bạch, sự tham gia của con người, tính hợp pháp của quy trình và sự chấp nhận của xã hội đối với kết quả.
Công lý là sự kết hợp giữa kết quả đúng và quy trình được xem là chính đáng.
Nghịch lý của an toàn tuyệt đối
Một kịch bản khác được đặt ra là AGI có khả năng giám sát toàn xã hội, dự báo hành vi và ngăn chặn hầu hết tội phạm trước khi chúng xảy ra. Trong trường hợp đó, mức độ an toàn có thể tăng lên chưa từng có.
Nhưng lợi ích này đi kèm với chi phí rất lớn. Quyền riêng tư có thể bị thu hẹp, tự do cá nhân bị hạn chế và nhiều quyết định của con người có thể bị định hướng hoặc kiểm soát bởi các hệ thống dự báo.
Nghịch lý xuất hiện ở chỗ xã hội càng an toàn thì nguy cơ mất đi không gian tự do để lựa chọn càng lớn.
Quyền Tự quyết Đạo đức như giá trị trung tâm
Từ các nghịch lý trên, một nguyên tắc nổi bật xuất hiện: Quyền Tự quyết Đạo đức. Đây là năng lực của con người trong việc tự đưa ra lựa chọn, chấp nhận rủi ro sai lầm và chịu trách nhiệm cho hành động của mình.
Đạo đức không tồn tại trong môi trường nơi mọi hành vi đều bị tối ưu hóa hoặc ép buộc. Một quyết định được xem là đạo đức bởi vì người thực hiện có khả năng lựa chọn điều sai nhưng vẫn quyết định làm điều đúng.
- Khả năng lựa chọn: nền tảng của tự do cá nhân.
- Khả năng sai lầm: điều kiện để trách nhiệm có ý nghĩa.
- Trách nhiệm đạo đức: hệ quả của quyền tự quyết.
Phẩm giá và chủ quyền của con người
Nếu mọi quyết định quan trọng đều được chuyển giao cho các hệ thống siêu thông minh, con người có thể đạt được hiệu quả cao hơn nhưng đồng thời đánh mất một phần vai trò làm chủ vận mệnh của mình.
Vì vậy, nhiều nhà tư tưởng cho rằng một số lĩnh vực cần được bảo vệ như những không gian thuộc về chủ quyền con người. Những quyết định liên quan đến đạo đức, trách nhiệm và giá trị xã hội có thể không nên được giao hoàn toàn cho AI, ngay cả khi AI đạt độ chính xác gần như hoàn hảo.
Kết luận
Thách thức lớn nhất của AGI có thể không nằm ở trí tuệ mà nằm ở cách nhân loại định nghĩa lại các giá trị nền tảng. Câu hỏi quan trọng không phải là AI có thể làm gì, mà là những quyền hạn nào cần được giữ lại cho con người để bảo vệ phẩm giá, tự do và Quyền Tự quyết Đạo đức trong tương lai.