Sự phát triển của trí tuệ nhân tạo đang biến những ý tưởng từng chỉ xuất hiện trong khoa học viễn tưởng thành những câu hỏi pháp lý và đạo đức hoàn toàn có thật. Nếu một hệ thống AI có thể dự đoán với độ chính xác rất cao rằng một người sẽ phạm tội trong tương lai, liệu xã hội có được phép tước đoạt tự do của người đó trước khi hành vi xảy ra?
Từ giấc mơ ngăn chặn tội phạm đến nguy cơ xâm phạm quyền tự do
Khả năng dự đoán luôn hấp dẫn các nhà quản lý xã hội. Nếu một vụ giết người, khủng bố hoặc bạo lực nghiêm trọng có thể được ngăn chặn từ trước, hàng nghìn sinh mạng có thể được cứu. Sự kết hợp giữa dữ liệu lớn, học máy và các mô hình dự báo hành vi khiến nhiều người tin rằng tương lai của tư pháp có thể nằm ở việc dự đoán nguy cơ thay vì chỉ phản ứng sau khi tội phạm đã xảy ra.
Tuy nhiên, pháp luật hiện đại không chỉ được xây dựng để tối đa hóa an ninh. Một trong những mục tiêu quan trọng nhất của nó là bảo vệ quyền tự do của cá nhân trước quyền lực của nhà nước.
Nguyên tắc suy đoán vô tội
Nền tảng của tư pháp hiện đại là nguyên tắc suy đoán vô tội. Một người chỉ có thể bị kết tội khi hành vi phạm tội của họ được chứng minh bằng một quy trình tố tụng công bằng. Pháp luật không trừng phạt suy nghĩ, xu hướng hay xác suất.
Một con người không thể bị xét xử chỉ vì những gì họ có thể làm trong tương lai.
Nếu AI được phép xác định ai là tội phạm tương lai và nhà nước dựa vào kết quả đó để hạn chế tự do của công dân, toàn bộ cấu trúc của nhà nước pháp quyền sẽ thay đổi. Khi đó, cá nhân không còn bị đánh giá dựa trên hành vi đã thực hiện mà dựa trên dự báo của thuật toán.
Ngụy biện tỷ lệ nền và nguy cơ oan sai
Một hệ thống có độ chính xác 99% nghe có vẻ gần như hoàn hảo. Nhưng trong những hiện tượng có tỷ lệ xuất hiện rất thấp, sai số nhỏ vẫn có thể tạo ra số lượng lớn người bị gắn nhãn sai.
- Dương tính giả: người vô tội bị xác định là có nguy cơ phạm tội.
- Base Rate Fallacy: bỏ qua tỷ lệ nền của hiện tượng và đánh giá quá cao độ chính xác của mô hình.
- Oan sai tư pháp: hậu quả nghiêm trọng khi quyền tự do bị tước đoạt dựa trên dự báo sai.
Trong lĩnh vực hình sự, việc giam giữ một người vô tội được xem là một trong những sai lầm nghiêm trọng nhất mà nhà nước có thể gây ra.
Trách nhiệm hình sự và giới hạn của dự đoán
Trách nhiệm hình sự truyền thống dựa trên hai yếu tố: hành vi phạm tội và yếu tố lỗi. AI chỉ có thể đưa ra xác suất. Nó không thể chứng minh ý chí thực sự của một con người, cũng không thể biết được những thay đổi trong tương lai.
Con người có thể thay đổi môi trường sống, nhận được hỗ trợ tâm lý, giáo dục hoặc đơn giản là đưa ra một lựa chọn khác. Việc biến xác suất thành tội lỗi pháp lý là sự đảo ngược căn bản của tư duy hình sự hiện đại.
Nguy cơ của nhà nước toàn trị bằng thuật toán
Lịch sử cho thấy mọi công cụ quyền lực đều có nguy cơ bị lạm dụng. Một hệ thống dự đoán tội phạm có thể chứa thiên kiến về chủng tộc, giai cấp, địa lý hoặc chính trị. Khi thuật toán trở nên thiếu minh bạch, công dân cũng mất đi khả năng phản biện và kháng cáo.
Trong các chế độ thiếu dân chủ, công nghệ dự báo có thể được sử dụng để theo dõi người bất đồng chính kiến hoặc hợp pháp hóa việc đàn áp dưới danh nghĩa an ninh.
Nguy hiểm nhất là khi sự áp bức được trình bày như một kết luận khách quan của khoa học dữ liệu.
Tự do ý chí và phẩm giá con người
Pháp luật hiện đại giả định rằng con người có khả năng lựa chọn. Chính khả năng thay đổi và tự quyết này tạo nên phẩm giá của mỗi cá nhân. Nếu mọi hành vi đều được xem là tất yếu và có thể dự đoán tuyệt đối, trách nhiệm đạo đức và trách nhiệm pháp lý sẽ mất đi ý nghĩa.
Một người có nguy cơ cao phạm tội hôm nay chưa chắc sẽ phạm tội vào ngày mai. Họ vẫn có quyền được thay đổi và được đối xử như một chủ thể có năng lực lựa chọn.
Hướng tiếp cận phù hợp: phòng ngừa thay vì trừng phạt
AI không nhất thiết phải bị loại bỏ khỏi lĩnh vực an ninh và tư pháp. Công nghệ này có thể được sử dụng để phát hiện nguy cơ tự sát, dự báo bạo lực gia đình, xác định khu vực cần tăng cường hỗ trợ xã hội hoặc phân bổ nguồn lực phòng chống tội phạm hiệu quả hơn.
Sự khác biệt nằm ở mục đích sử dụng. AI nên được dùng để giúp con người tránh phạm tội, chứ không phải để trừng phạt họ vì những điều chưa xảy ra.
Kết luận
Dù khả năng dự đoán của AI có đạt tới mức gần như hoàn hảo, xã hội vẫn phải cân nhắc những giá trị nền tảng của pháp quyền: quyền con người, suy đoán vô tội, tự do ý chí và phẩm giá cá nhân. Thử thách lớn nhất của nhân loại trong kỷ nguyên AI có lẽ không phải là làm thế nào để dự đoán tương lai chính xác hơn, mà là làm thế nào để vẫn bảo vệ được công lý và tự do khi tương lai dường như đã có thể được nhìn thấy trước.