Sự phát triển nhanh chóng của trí tuệ nhân tạo đặt ra một câu hỏi quan trọng: nên giao cho AI quyền quyết định đến đâu và khi nào con người phải giữ quyền phán quyết cuối cùng. Câu trả lời không nằm ở việc AI thông minh đến mức nào mà nằm ở bản chất của quyết định được đưa ra.
Tính đảo ngược của hệ quả
Một trong những tiêu chí quan trọng nhất là khả năng phục hồi sau sai lầm. Nếu một lỗi có thể được sửa chữa bằng cách cập nhật phần mềm, điều chỉnh quy trình hoặc bù đắp tổn thất, AI có thể được trao quyền tự chủ cao hơn. Ngược lại, những quyết định có thể dẫn đến mất mạng, tước đoạt tự do hoặc gây tổn hại lâu dài cho con người cần được kiểm soát bởi con người.
Càng khó đảo ngược hậu quả, quyền quyết định càng phải thuộc về con người.
Tối ưu hóa hay cân bằng giá trị?
Nhiều lĩnh vực hoạt động dựa trên các mục tiêu có thể đo lường bằng dữ liệu như tốc độ, chi phí, hiệu suất hoặc độ chính xác. Đây là môi trường thuận lợi cho AI. Tuy nhiên, trong những lĩnh vực liên quan đến đạo đức, công bằng xã hội hoặc các giá trị xung đột nhau, không tồn tại một công thức toán học duy nhất để xác định điều đúng đắn.
- Tối ưu hiệu suất: phù hợp với AI.
- Cân bằng đạo đức: cần sự phán đoán của con người.
- Xung đột giá trị: đòi hỏi cân nhắc bối cảnh xã hội.
Trách nhiệm giải trình
Mọi xã hội đều cần một chủ thể chịu trách nhiệm khi xảy ra sai sót. AI không thể chịu hình phạt pháp lý, không thể tự hối cải và cũng không thể đứng trước công chúng để giải trình. Vì vậy, quyền quyết định cuối cùng thường phải gắn với người hoặc tổ chức chịu trách nhiệm trước pháp luật và xã hội.
Nguyên tắc quan trọng là: quyền lực phải đi kèm trách nhiệm. Người chịu trách nhiệm cuối cùng cần có khả năng phê duyệt hoặc bác bỏ quyết định của hệ thống AI.
Vai trò của thấu cảm và bối cảnh
Nhiều quyết định phụ thuộc vào các yếu tố không thể lượng hóa hoàn toàn bằng dữ liệu. Tâm trạng, hoàn cảnh gia đình, lịch sử cá nhân hoặc những tín hiệu cảm xúc tinh tế có thể thay đổi hoàn toàn chất lượng của một quyết định. AI có thể mô phỏng sự đồng cảm trong giao tiếp nhưng chưa sở hữu trải nghiệm đạo đức và cảm xúc như con người.
Những gì không xuất hiện trong dữ liệu đôi khi lại là yếu tố quan trọng nhất.
Ba cấp độ phân quyền cho AI
Trong thực tế, không nên chỉ tồn tại hai trạng thái là hoàn toàn con người hoặc hoàn toàn AI. Một mô hình ba tầng sẽ phù hợp hơn.
- Tool: AI cung cấp thông tin và phân tích.
- Copilot: AI đưa ra khuyến nghị nhưng con người quyết định.
- Autopilot: AI được quyền tự vận hành trong phạm vi được xác định rõ.
Những lĩnh vực như logistics, điều phối hạ tầng hoặc tối ưu hóa quy trình thường phù hợp với Autopilot. Ngược lại, y tế, luật pháp và chính sách xã hội thường chỉ phù hợp với Copilot.
Kết luận
Nguyên tắc cốt lõi không phải là AI có đủ thông minh hay không, mà là hậu quả của quyết định đó ảnh hưởng đến con người ở mức nào. Càng gần với toán học và dữ liệu, AI càng có thể tự chủ. Càng gần với đạo đức, sinh mạng, tự do và nhân phẩm, quyền quyết định càng cần thuộc về con người. Trong các lĩnh vực nhạy cảm nhất, AI nên đóng vai trò tham mưu, còn con người phải là người bấm nút cuối cùng.