Trí tuệ nhân tạo đang mở ra một khả năng mới cho thực thi pháp luật: phân tích dữ liệu nhanh hơn, phát hiện dấu hiệu bất thường sớm hơn và hỗ trợ cán bộ điều tra nhìn thấy những mối liên hệ khó nhận ra bằng phương pháp thủ công. Nhưng trong lĩnh vực nơi quyền lực nhà nước tác động trực tiếp đến tự do cá nhân, AI không thể được đối xử như một nguồn chân lý. Nó phải được đặt trong khuôn khổ pháp quyền, trách nhiệm giải trình và quyền phản biện của công dân.
AI là công cụ tín hiệu, không phải quan tòa
Nguyên tắc trung tâm của việc dùng AI trong thực thi pháp luật là phân biệt giữa tín hiệu và phán quyết. AI có thể chỉ ra một dòng tiền bất thường, một mẫu di chuyển đáng chú ý, một quan hệ dữ liệu đáng kiểm tra hoặc một cụm vụ việc có đặc điểm tương tự. Tuy nhiên, tất cả những kết quả đó chỉ nên được hiểu là giả thuyết nghiệp vụ. Chúng trả lời câu hỏi “cần kiểm tra thêm ở đâu”, chứ không trả lời câu hỏi “ai có tội”.
Nếu AI được trao vai trò như một quan tòa thuật toán, nền pháp quyền sẽ bị đảo ngược. Khi đó, con người không còn được đánh giá bằng chứng cứ hợp pháp và tranh tụng công khai, mà bị phân loại bởi xác suất, mô hình và dữ liệu mà họ có thể không hiểu, không tiếp cận và không phản biện được. Đó là lý do AI chỉ được phép tham mưu, còn kết luận pháp lý phải thuộc về con người có thẩm quyền và chịu trách nhiệm.
Bài học Hayek: tri thức xã hội luôn phân tán
Tinh thần Friedrich Hayek nhắc chúng ta rằng sai lầm của các hệ thống quyền lực tập trung nằm ở ảo tưởng tri thức: tưởng rằng một trung tâm có thể nắm đủ thông tin để điều khiển xã hội. Trong thực thi pháp luật, dữ liệu lớn không đồng nghĩa với hiểu biết đầy đủ. Tri thức cần thiết cho một vụ việc còn nằm trong hồ sơ cụ thể, lời khai, bối cảnh địa phương, kinh nghiệm cán bộ cơ sở, sự biến đổi của cộng đồng và phẩm giá riêng biệt của từng con người.
AI có thể xử lý lượng dữ liệu lớn, nhưng không thể thay thế toàn bộ tri thức thực địa. Một hệ thống pháp quyền đúng nghĩa vì thế phải thiết kế AI như một công cụ bổ sung cho con người, không phải như một trung tâm kế hoạch hóa quyền lực. Càng nhiều dữ liệu được xử lý, càng cần nhiều cơ chế kiểm tra, giới hạn và phản biện.
Nguồn tin nghiệp vụ khác với chứng cứ pháp lý
Một trong những ranh giới quan trọng nhất là ranh giới giữa AI như nguồn tin nghiệp vụ và AI như chứng cứ pháp lý. Khi đóng vai trò nguồn tin nghiệp vụ, AI giúp sàng lọc dữ liệu, phát hiện điểm bất thường và gợi ý hướng xác minh. Đây là vai trò hợp lý vì nó giúp tiết kiệm thời gian và mở rộng tầm nhìn điều tra.
Nhưng AI không thể tự động trở thành chứng cứ buộc tội. Lý do rất rõ: mô hình hoạt động bằng xác suất, có thể sai vì dữ liệu đầu vào, có thể tái tạo định kiến lịch sử, và không có tư cách tố tụng để chịu trách nhiệm trước tòa. Muốn có giá trị pháp lý, tín hiệu AI phải được chuyển hóa thành chứng cứ độc lập: tài liệu xác thực, vật chứng, dữ liệu có nguồn gốc hợp pháp, giám định độc lập hoặc thông tin có thể bị luật sư chất vấn trong quá trình tranh tụng.
Giới hạn dữ liệu là giới hạn quyền lực
Một nền pháp quyền không cho phép quét dữ liệu đại trà chỉ vì công nghệ làm được điều đó. Công dân trong xã hội tự do không phải là nghi phạm tiềm năng để bị nhà nước mặc nhiên theo dõi. Mọi hoạt động dùng AI phải bắt đầu từ một mục đích hợp pháp cụ thể: vụ án nào, loại tội phạm nào, phạm vi dữ liệu nào, thời hạn bao lâu và ai là người phê duyệt.
Nếu thiếu các câu hỏi giới hạn đó, AI rất dễ trượt từ công cụ điều tra hợp pháp sang cơ chế giám sát toàn diện. Sự khác biệt giữa điều tra và giám sát nằm ở tính cụ thể của mục đích, tính hợp pháp của dữ liệu và trách nhiệm của người ra quyết định. Dữ liệu càng rộng, nguy cơ lạm quyền càng cao; vì vậy, giới hạn dữ liệu chính là giới hạn quyền lực.
Bảo vệ người vô can bằng privacy by default
Trong quá trình xử lý dữ liệu, hệ thống phải đặc biệt bảo vệ người vô can. Nguyên tắc privacy by default đòi hỏi ẩn danh mặc định, che mờ khuôn mặt, mã hóa danh tính, giới hạn truy cập và xóa dữ liệu đúng hạn. Khi AI quét camera công cộng, dữ liệu viễn thông hoặc giao dịch tài chính, hệ thống phải tách người không liên quan khỏi vùng nghi vấn càng sớm càng tốt.
Điểm quan trọng là không chỉ dữ liệu thô cần được kiểm soát, mà cả dữ liệu trung gian cũng phải bị xử lý đúng hạn. Nếu một người đã được loại khỏi diện nghi ngờ, thông tin của họ không thể bị giữ lại trong kho dữ liệu để phục vụ những thuật toán tương lai. Bảo vệ người vô can không phải là chi tiết kỹ thuật; đó là thước đo đạo đức của hệ thống thực thi pháp luật.
Không có pháp quyền trong hộp đen
Pháp luật không thể vận hành bằng hộp đen. Một mô hình AI đưa ra kết luận rủi ro nhưng không giải thích được dựa trên dữ liệu nào, logic nào hoặc tiêu chí nào thì không thể có giá trị pháp lý trong những quyết định ảnh hưởng đến quyền con người. Người dân và luật sư phải có khả năng hiểu vì sao một nhãn rủi ro được tạo ra, vì sao một người bị kiểm tra hoặc vì sao một hồ sơ bị đưa vào danh sách cần giám sát.
Giải trình không chỉ là yêu cầu kỹ thuật, mà là điều kiện của tranh tụng. Một kết luận không thể giải thích thì không thể bị phản biện. Một kết luận không thể bị phản biện thì không thuộc về nền tư pháp văn minh. Vì vậy, mọi mô hình AI trong pháp luật phải chịu kiểm toán độc lập, có hồ sơ vận hành và có cơ chế truy vết quyết định.
Bốn quyền cốt lõi của công dân
Để bảo vệ công dân trước sai lầm thuật toán, hệ thống cần công nhận ít nhất bốn quyền: quyền được biết, quyền được giải thích, quyền phản biện và quyền sửa sai dữ liệu. Nếu một công dân bị AI đánh giá sai là nguy cơ cao, họ phải biết nhãn đó tồn tại, được giải thích nguồn dữ liệu và logic đánh giá, được nộp bằng chứng phản biện, và được yêu cầu con người có thẩm quyền can thiệp.
- Quyền được biết: công dân biết mình có bị gắn nhãn, theo dõi hoặc đánh giá rủi ro hay không.
- Quyền được giải thích: công dân hiểu nguồn dữ liệu và logic chính của đánh giá.
- Quyền phản biện: công dân có thể đưa ra chứng cứ, lập luận và yêu cầu xem xét lại.
- Quyền sửa sai: dữ liệu sai phải được sửa, nhãn sai phải được xóa và thiệt hại phải được khắc phục.
Nếu AI sai, hệ thống không thể chỉ âm thầm cập nhật dữ liệu. Nó phải xóa nhãn sai, phục hồi danh dự, bồi thường khi có thiệt hại và dùng chính lỗi đó để hiệu chỉnh mô hình. Công lý không chỉ là phát hiện đúng người sai phạm; công lý còn là bảo vệ người không sai khỏi sự nghi ngờ vô căn cứ.
Mô hình phi tập trung để chống độc quyền chân lý
Cốt lõi của AI pháp quyền là không để bất kỳ trung tâm nào độc quyền chân lý. Dữ liệu phải được giới hạn, mô hình phải bị kiểm toán, con người phải có quyền phủ quyết nhưng phải giải trình, cộng đồng và cơ quan độc lập phải có quyền giám sát. Một quyết định đi ngược lại AI không thể dựa trên cảm tính mơ hồ, nhưng một quyết định đi theo AI cũng không thể dựa trên niềm tin mù quáng vào thuật toán.
Điều này tạo ra một cơ chế kiểm soát kép. Máy móc kiểm tra những điểm con người có thể bỏ sót; con người kiểm tra những điểm máy móc có thể hiểu sai. Cơ quan độc lập kiểm tra cả hai. Cộng đồng và pháp luật đặt ra giới hạn cho toàn bộ hệ thống. Nhờ đó, AI không trở thành bạo chúa kỹ thuật số mà trở thành công cụ phục vụ trật tự pháp quyền.
Nguyên tắc vàng cho cán bộ thực thi pháp luật
Trong thực tế, cán bộ sử dụng AI cần ghi nhớ một số nguyên tắc vàng. Thứ nhất, con người giữ quyền kết luận, AI chỉ tham mưu. Thứ hai, suy đoán vô tội không bao giờ bị đảo ngược bởi xác suất thống kê. Thứ ba, thuật toán phải minh bạch và có thể giải trình. Thứ tư, AI báo nguy cơ thì trước hết nên kích hoạt phục vụ, phòng ngừa và hỗ trợ, không mặc nhiên kích hoạt cưỡng chế. Thứ năm, tri thức thực địa phải được dùng để hiệu chỉnh mô hình.
AI càng mạnh thì trách nhiệm con người càng không được yếu đi. Không ai được phép đổ lỗi cho thuật toán để né tránh trách nhiệm công vụ.
Hiến chương AI pháp quyền
Các nguyên tắc trên có thể được phát triển thành một Hiến chương AI pháp quyền. Hiến chương này gồm bảy trục: AI chỉ là tín hiệu tham mưu; cấm thu thập dữ liệu đại trà không mục đích; mô hình phải giải trình và chịu kiểm toán độc lập; công dân có quyền phản biện và sửa sai dữ liệu; người vô can được ẩn danh và xóa dữ liệu đúng hạn; cán bộ phê duyệt phải chịu trách nhiệm cá nhân; và khi AI xung đột với quyền con người, pháp quyền cùng suy đoán vô tội phải được ưu tiên.
Điểm mạnh của hiến chương là biến đạo đức công nghệ thành cơ chế thể chế. Thay vì chỉ nói AI phải “có trách nhiệm”, nó chỉ rõ ai được phép dùng, dùng vào mục đích nào, dữ liệu nào được xử lý, mô hình nào được kiểm toán, công dân phản biện ra sao và trách nhiệm thuộc về ai khi có sai lầm.
Năm điều cấm tuyệt đối
Bên cạnh các nguyên tắc tích cực, hệ thống cần năm điều cấm rõ ràng. Không dùng AI làm chứng cứ duy nhất để buộc tội. Không quét dữ liệu đại trà khi không có mục đích tố tụng cụ thể. Không dùng mô hình hộp đen trong quyết định ảnh hưởng đến quyền con người. Không dán nhãn nguy cơ vĩnh viễn lên hồ sơ công dân. Không cho phép cán bộ đổ lỗi cho thuật toán để né tránh trách nhiệm.
Nếu các điều cấm này bị vi phạm, hậu quả không chỉ là vài lỗi kỹ thuật. Đó có thể là oan sai hệ thống, giám sát toàn diện, vô hiệu hóa quyền bào chữa, kỳ thị kỹ thuật số và sự suy thoái trách nhiệm cá nhân. Một nền tư pháp dựa vào công nghệ không kiểm soát có thể trở nên nhanh hơn, nhưng không chắc công bằng hơn.
Kết luận
AI trong thực thi pháp luật chỉ chính đáng khi nó biết khiêm tốn trước pháp quyền. Nó có thể giúp con người nhìn thấy những tín hiệu bị che khuất, nhưng không được thay thế con người trong phán quyết đạo đức và pháp lý. Nó có thể tăng hiệu quả điều tra, nhưng không được xâm phạm quyền riêng tư của người vô can. Nó có thể hỗ trợ công lý, nhưng không được trở thành công lý.
Bài học quan trọng nhất là tri thức xã hội luôn phân tán, còn quyền lực luôn có xu hướng tập trung. Nhiệm vụ của pháp quyền trong kỷ nguyên AI là thiết kế những cơ chế để thuật toán phải giải trình, dữ liệu phải có giới hạn, con người phải chịu trách nhiệm và công dân luôn có quyền phản biện. Khi đó, AI mới thật sự trở thành công cụ của pháp quyền, thay vì quan tòa thuật toán.