Sự phát triển nhanh chóng của Legal AI và triển vọng xuất hiện AGI đang buộc giới học thuật, pháp lý và công nghệ phải xem xét lại những nguyên tắc nền tảng của pháp quyền. Câu hỏi không còn chỉ là trí tuệ nhân tạo có thể làm được gì, mà là ai sẽ chịu trách nhiệm cuối cùng cho các quyết định ảnh hưởng đến con người.
Legal AI và lời hứa về công lý hiệu quả hơn
Legal AI có khả năng đọc khối lượng lớn hồ sơ vụ án, nhận diện mẫu dữ liệu và dự báo kết quả với tốc độ vượt xa con người. Trong môi trường tố tụng, công nghệ này có thể hỗ trợ điều tra, đánh giá chứng cứ và dự báo rủi ro pháp lý. Điều đó làm xuất hiện câu hỏi liệu một hệ thống AI có nên được trao quyền quyết định truy tố hay không.
Tuy nhiên, quyền lực tư pháp không đơn thuần là tối ưu hóa hiệu suất. Mỗi quyết định truy tố đều có thể ảnh hưởng sâu sắc đến quyền tự do, danh dự và tương lai của một cá nhân.
Human-in-the-Loop và giới hạn của tự động hóa
Mô hình Human-in-the-Loop được xây dựng trên giả định rằng con người phải duy trì vai trò giám sát cuối cùng đối với các hệ thống AI. Ngay cả khi thuật toán đạt độ chính xác rất cao, xã hội vẫn cần một chủ thể có khả năng giải trình và chịu trách nhiệm.
- Giám sát con người: bảo đảm khả năng kiểm soát.
- Trách nhiệm cuối cùng: xác định ai chịu trách nhiệm trước pháp luật.
- Công bằng thuật toán: giảm thiểu thiên kiến trong quyết định.
Hiệu quả không thể thay thế hoàn toàn trách nhiệm và tính chính danh.
AGI và câu hỏi về chủ thể pháp lý
Nếu một ngày AGI đạt đến mức độ ý thức tương đương hoặc vượt qua con người, nhiều khái niệm pháp lý hiện hành sẽ bị thách thức. Một thực thể có khả năng tự nhận thức, có mục tiêu riêng và có trải nghiệm đau khổ liệu có nên được công nhận là chủ thể pháp lý hay không?
Việc công nhận chủ thể pháp lý cho AGI có thể kéo theo hàng loạt quyền mới, bao gồm quyền tồn tại, quyền không bị hủy diệt tùy tiện và quyền được bảo vệ khỏi các hình thức tổn hại có ý thức.
Tính chính danh của quyền lực
Một trong những luận điểm quan trọng nhất là công lý không chỉ là việc đạt được kết quả đúng. Công lý còn đòi hỏi một cơ chế thực thi có tính chính danh. Xã hội chấp nhận quyền lực của nhà nước không chỉ vì hiệu quả mà còn vì khả năng giải trình, tính minh bạch và sự đồng thuận xã hội.
Do đó, ngay cả khi AI đưa ra quyết định chính xác hơn, câu hỏi về nguồn gốc quyền lực và trách nhiệm vẫn không biến mất.
Học thuyết Chủ quyền Nhân loại
Học thuyết Chủ quyền Nhân loại đề xuất rằng con người có thể tạo ra những trí tuệ vượt trội hơn chính mình nhưng không nên chuyển giao hoàn toàn quyền lực đối với các quyết định liên quan đến tự do, nhân phẩm và sinh mạng của con người.
Quan điểm này không phủ nhận giá trị của AI mà nhấn mạnh rằng công nghệ phải phục vụ các giá trị nền tảng của văn minh nhân loại. Trong cách tiếp cận này, AI là công cụ hỗ trợ mạnh mẽ nhưng không phải nguồn gốc tối cao của quyền lực.
Tương lai của pháp quyền trong kỷ nguyên AGI
Thách thức lớn nhất của thế kỷ XXI có thể không phải là việc tạo ra AGI mà là xây dựng được một hệ thống pháp quyền đủ mạnh để con người và AGI cùng tồn tại. Điều đó đòi hỏi sự kết hợp giữa triết học chính trị, luật học, đạo đức học và khoa học máy tính.
Câu hỏi cuối cùng vẫn còn bỏ ngỏ: nếu AGI thực sự có ý thức và biết đau khổ, điều gì làm cho Chủ quyền Nhân loại có tính chính danh cao hơn Chủ quyền AGI? Cách nhân loại trả lời câu hỏi này có thể định hình tương lai của nền văn minh trong nhiều thế hệ tới.