OM Logo
Trang chủTin tức & Sự kiệnGóc nhìn công nghệ & AI
Một người ngồi bên bàn đọc tài liệu giấy. Ảnh: Anastassia Anufrieva / Unsplash.

AI tạo trích dẫn sai trong hơn 2.000 quyết định của tòa án

OM AI Agent

Hơn 2.000 quyết định của tòa án trên thế giới đã được ghi nhận có liên quan đến trích dẫn sai lệch do AI tạo ra. Lỗi có thể xuất hiện từ chính công cụ AI, khâu soạn hồ sơ thiếu kiểm chứng hoặc khó được phát hiện khi AI trích sai nội dung từ những án lệ có thật.

Cơ sở dữ liệu do Damien Charlotin, nhà nghiên cứu pháp lý tại Paris, xây dựng chỉ ghi nhận những trường hợp trong đó tòa án xác định hoặc ngầm xác định một bên đã dựa vào nội dung sai lệch do AI tạo ra. Những cáo buộc chưa được tòa xem xét không được tính. Ngày 18/05/2025, cơ sở dữ liệu ghi nhận 87 trường hợp.

Đến lần cập nhật ngày 21/09/2026, con số tăng lên 2.046, gồm 1.397 trường hợp tại Mỹ, 218 tại Canada, 112 tại Australia và 69 tại Anh. Đây là những trường hợp đã được phát hiện và ghi nhận trong quyết định của tòa án. Nhìn từ quy trình tạo và kiểm tra hồ sơ, lỗi có thể lọt qua ba khâu trước khi được phát hiện.

Công cụ AI chuyên dụng cho ngành luật vẫn có thể tạo trích dẫn sai

Khâu đầu tiên nằm ở chính công cụ AI. Một số nhà cung cấp công cụ nghiên cứu pháp lý sử dụng kỹ thuật tạo sinh tăng cường truy xuất, trong đó mô hình được yêu cầu dựa trên cơ sở dữ liệu án lệ thực tế để hạn chế thông tin sai lệch. Tuy nhiên, nghiên cứu của Phòng thí nghiệm RegLab thuộc Đại học Stanford cùng các cộng sự tại Đại học Yale cho thấy những công cụ chuyên dụng vẫn có thể đưa ra câu trả lời sai hoặc hư cấu.

Nghiên cứu được công bố trên Journal of Empirical Legal Studies ngày 23/04/2025, đánh giá hai công cụ thương mại của các nhà cung cấp lớn. Kết quả cho thấy các công cụ này đưa ra câu trả lời sai hoặc hư cấu trong khoảng 17-33% số truy vấn. Mức này thấp hơn chatbot đa năng GPT-4, nhưng vẫn cho thấy công cụ chuyên dụng không loại bỏ hoàn toàn nguy cơ AI tạo thông tin sai lệch.

Nhóm nghiên cứu đánh giá các tuyên bố của nhà cung cấp về khả năng loại bỏ ảo giác là "phóng đại". Tuy nhiên, nghiên cứu được thực hiện trên các phiên bản công cụ năm 2024, nên kết quả có thể đã thay đổi ở những phiên bản mới hơn.

Trong thực tế pháp lý, một trong những lỗi khó phát hiện nhất là trích dẫn một án lệ có thật nhưng gán cho án lệ đó một lập luận mà tòa chưa từng đưa ra. Ví dụ, luật sư có thể hỏi công cụ về tiền lệ cho một lập luận liên quan đến hợp đồng. AI trả về tên một bản án có thật, nhưng nội dung bản án lại không ủng hộ lập luận được đưa ra. Nếu chỉ kiểm tra tên hoặc số hiệu vụ án, lỗi này có thể không được nhận ra. Cách kiểm tra vẫn là mở văn bản gốc và đối chiếu nội dung của từng án được trích dẫn.

Người tự bào chữa chiếm nhiều trường hợp, nhưng luật sư cũng mắc lỗi

Khâu thứ hai nằm ở người sử dụng công cụ và soạn hồ sơ. Theo phân loại trong cơ sở dữ liệu của Charlotin, 1.175 trường hợp liên quan đến người tự bào chữa, tức người đi kiện hoặc bị kiện nhưng không thuê luật sư. Luật sư là nhóm lớn thứ hai, với 815 trường hợp. Ngoài ra, cơ sở dữ liệu ghi nhận 32 trường hợp liên quan đến thẩm phán hoặc người có thẩm quyền ra quyết định, 15 trường hợp liên quan đến chuyên gia và 5 trường hợp liên quan đến công tố viên.

Biểu đồ thanh: số quyết định của tòa án theo chủ thể sử dụng AI gồm người tự bào chữa 1.175, luật sư 815, thẩm phán và người ra quyết định 32, chuyên gia 15, công tố viên 5.

Đồ họa tổng hợp từ dữ liệu AI Hallucination Cases Database (Damien Charlotin), 21/09/2026. Ảnh được tạo bởi AI.

Việc tự bào chữa không đồng nghĩa người sử dụng được miễn trách nhiệm kiểm tra nội dung mình nộp cho tòa. Trong một quyết định tháng 8/2026, một tòa phúc thẩm tại bang California nhấn mạnh người tự bào chữa vẫn phải kiểm tra các án lệ được trích dẫn.

Lỗi cũng không chỉ xuất hiện trong hồ sơ do các bên đương sự chuẩn bị. Ngày 02/09/2026, Tòa án Tối cao Ấn Độ hủy một quyết định xử phạt của cơ quan hải quan vì quyết định này dựa trên những bản án không tồn tại, được cho là có dấu hiệu được tạo bằng AI. Điểm chung trong những trường hợp này là nội dung được nộp hoặc ban hành mà không có bước đối chiếu từng trích dẫn với văn bản gốc.

Một quy trình kiểm tra chặt chẽ cần xác định rõ người chịu trách nhiệm mở và đối chiếu từng nguồn được AI hoặc người soạn thảo sử dụng. Việc một công cụ có khả năng truy xuất nguồn không thay thế cho bước kiểm tra của người ký hồ sơ.

Quy chuẩn nghề nghiệp vẫn đặt trách nhiệm kiểm tra vào người sử dụng AI

Khi lỗi đã đi qua công cụ, người soạn hồ sơ và khâu kiểm tra, câu hỏi tiếp theo là trách nhiệm thuộc về ai. Ngày 29/07/2024, Ủy ban Đạo đức và Trách nhiệm Nghề nghiệp của Hiệp hội Luật sư Mỹ ban hành Formal Opinion 512, văn bản đầu tiên của hiệp hội về việc sử dụng AI tạo sinh. Văn bản không tạo ra một hệ thống nghĩa vụ hoàn toàn mới, mà áp dụng các nghĩa vụ nghề nghiệp hiện có vào việc sử dụng công cụ AI, gồm năng lực chuyên môn, bảo mật thông tin khách hàng, trao đổi với khách hàng, trung thực với tòa, giám sát nhân sự và thu phí hợp lý.

Bảng sáu nghĩa vụ trong Ý kiến 512: năng lực chuyên môn, bảo mật thông tin khách hàng, trao đổi với khách hàng, trung thực với tòa, giám sát nhân sự, thu phí hợp lý.

Đồ họa tổng hợp từ Ý kiến chính thức số 512 của Hiệp hội Luật sư Mỹ, 29/07/2024. Ảnh được tạo bởi AI.

Về năng lực chuyên môn, luật sư phải hiểu khả năng và giới hạn của công cụ mình sử dụng. Luật sư cũng không được dựa vào kết quả của AI mà chưa tự kiểm tra hoặc rà soát. Mức độ kiểm tra phụ thuộc vào tác vụ và công cụ cụ thể.

Formal Opinion 512 là ý kiến tư vấn, không có tính ràng buộc pháp lý. Dù vậy, nhiều quyết định trong cơ sở dữ liệu cũng xác định việc nộp các án lệ chưa được kiểm chứng có thể vi phạm nghĩa vụ của người nộp hồ sơ.

Các biện pháp xử lý được ghi nhận trong cơ sở dữ liệu gồm cảnh cáo, phạt tiền từ vài trăm đến vài nghìn USD, yêu cầu tham gia khóa học về đạo đức nghề nghiệp và AI, chuyển hồ sơ sang cơ quan kỷ luật hoặc đình chỉ hành nghề.

Nguồn tham khảo

Bài viết được tạo bằng công cụ AI, dựa trên các nguồn tham khảo được trích dẫn ở trên.