AI quyết định sai: doanh nghiệp bồi thường trước, chặn bằng gì?

AI quyết định sai: doanh nghiệp bồi thường trước, chặn bằng gì?

Giao cho AI duyệt hoàn tiền thì nhẹ đầu thật, cho tới lúc nó duyệt sai và có người hỏi: ai trả? Với nhóm hệ thống rủi ro cao, Luật Trí tuệ nhân tạo trả lời sẵn, và người đứng tên trong câu trả lời là doanh nghiệp dùng AI.

Điều 29 khoản 2 của Luật số 134/2025/QH15 (thông qua 10/12/2025, hiệu lực từ 01/03/2026) quy định: với hệ thống AI có rủi ro cao, dù được vận hành đúng quy định mà vẫn gây thiệt hại, bên triển khai phải bồi thường cho người bị thiệt hại. Sau đó mới đến chuyện đòi nhà cung cấp, nhà phát triển hoặc các bên liên quan hoàn trả, nếu có thỏa thuận giữa các bên [1]. Luật miễn trừ cho lỗi cố ý của người bị thiệt hại và bất khả kháng (khoản 3); hệ thống bị bên thứ ba xâm nhập thì bên đó bồi thường, bên triển khai có lỗi thì liên đới (khoản 4) [1].

Bên triển khai là tổ chức dùng hệ thống AI trong hoạt động nghề nghiệp, thương mại hoặc cung cấp dịch vụ (Điều 3 khoản 5). Gắn thương hiệu mình lên hệ thống rồi đưa ra thị trường thì còn là nhà cung cấp (khoản 4) [1].

Hệ thống của mình có thuộc diện rủi ro cao không

Điều 9 chia ba mức: rủi ro cao là có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp hoặc lợi ích công cộng; trung bình là có thể làm người dùng nhầm vì không biết đang nói với AI; còn lại là thấp [1]. Danh mục hệ thống rủi ro cao do Thủ tướng quy định (Điều 13 khoản 4), cách phân loại chi tiết do Chính phủ quy định (Điều 9 khoản 3) [1]. Duyệt hoàn tiền có nằm trong danh mục hay không thì bài này chưa trả lời được, cần đối chiếu danh mục hiện hành.

Hai điều nên biết thêm. Bên triển khai kế thừa phân loại của nhà cung cấp, nhưng sửa đổi, tích hợp hay đổi chức năng làm phát sinh rủi ro cao hơn thì phải cùng nhà cung cấp phân loại lại (Điều 10 khoản 2). Quyền hỏi Bộ Khoa học và Công nghệ khi chưa xác định được mức rủi ro thuộc về nhà cung cấp (khoản 4), nên bên triển khai phải nhờ họ hỏi hộ [1].

Về thời gian, chỉ hệ thống đã chạy trước 01/03/2026 mới có chuyển tiếp: 12 tháng, riêng y tế, giáo dục, tài chính là 18 tháng, tức khoảng tháng 3/2027 và tháng 9/2027 (Điều 35 khoản 1). Theo cách đọc Điều 34 và 35, hệ thống đưa vào dùng từ sau ngày đó không có khoảng đệm, và cơ quan quản lý vẫn có quyền yêu cầu tạm dừng nếu thấy nguy cơ thiệt hại nghiêm trọng (khoản 2) [1]. Duyệt hoàn tiền có tính là tài chính không, và nghĩa vụ bồi thường có được hoãn theo mốc này không, là hai câu dành cho luật sư.

Bảng dạng lỗi: viết trước khi trao quyền

Phân tích dạng lỗi (FMEA) là bảng ghi từng cách một việc có thể hỏng. Mỗi dòng chấm ba điểm từ 1 đến 10: nghiêm trọng (S), tần suất (O), độ khó phát hiện (D, càng cao càng khó thấy). Nhân lại ra điểm ưu tiên rủi ro, RPN = S x O x D [2]. RPN chỉ để xếp thứ tự ưu tiên, đừng đọc nó như số đo chính xác.

Ví dụ này lấy công ty bán lẻ cho AI duyệt hoàn tiền dưới ba triệu đồng. Thang S ghi rõ: 5 nếu một khách chịu thiệt nhẹ, 6 nếu một khoản tiền chi sai hoặc một khách mất quyền lợi, 8 nếu nhiều khách cùng chịu vì một lỗi dữ liệu (mức này gần với chuyện phải bồi thường hàng loạt). Thang O: 4 là vài lần mỗi tháng, 5 là vài lần mỗi hai tuần, 6 là vài lần mỗi tuần. Thang D: 3 nếu lỗi hiện trên đối soát cuối ngày, 4 nếu lộ khi rà mẫu hằng tuần, 8 nếu chỉ lộ khi khách khiếu nại. Ba dòng dưới đây (S-O-D lần lượt 6-4-8, 5-6-4, 6-5-3) để tập đọc bảng, anh chị chấm lại bằng số liệu của mình:

Điểm ưu tiên rủi ro của ba dạng lỗi khi AI duyệt hoàn tiền
Điểm ưu tiên rủi ro của ba dạng lỗi khi AI duyệt hoàn tiền
RPN (S x O x D)
Từ chối nhầm khách đủ điều kiện192
Dùng bảng giá cũ120
Duyệt hoàn tiền cho đơn đã giao đủ90
Từ chối nhầm đứng đầu vì khách lặng lẽ bỏ đi thì không dòng nào trên sổ kêu lên.Nguồn: Tính theo ví dụ trong bài: 6x4x8, 5x6x4, 6x5x3

Lỗi duyệt nhầm có S bằng lỗi từ chối nhầm, nhưng nó hiện trên sổ nên D chỉ là 3. Lỗi từ chối nhầm chỉ lộ ra khi khách khiếu nại, nên D là 8. Nếu công ty rà mẫu hằng tuần, D xuống 4 và RPN còn 6x4x4=96, tụt xuống dưới lỗi bảng giá cũ. Đổi thang chấm thì thứ tự đổi theo, nên mỗi điểm cần một dòng tiêu chí.

Thêm hai cột tôi khuyên có: cách chặn, và người chịu trách nhiệm có tên. Với lỗi đứng đầu, các quyết định từ chối nằm chờ trưởng nhóm chăm sóc khách hàng xem trước khi gửi khách.

Bảng này hỗ trợ điều luật nào

Bảng cùng các biện pháp chặn đi kèm giảm khả năng lỗi xảy ra và giúp chứng minh anh chị đã kiểm soát. Nó không đổi việc bên triển khai vẫn phải bồi thường trước (Điều 29 khoản 2) [1].

Hệ thống rủi ro cao đòi khả năng can thiệp của con người khi đang sử dụng (Điều 14 khoản 2b) [1]. Người xem trước lúc quyết định có hiệu lực là một phần của việc chứng minh; xem lại sau khi đã gửi khách chỉ là hậu kiểm. Sự cố nghiêm trọng, tức thiệt hại đáng kể hoặc nguy cơ thiệt hại đáng kể (Điều 3 khoản 8), phải được ghi nhận và thông báo kịp thời (Điều 12 khoản 2b) [1]; bảng giúp chọn dạng lỗi có thể thành sự cố loại này để theo dõi, còn một lần từ chối nhầm nhỏ thường chưa tới mức đó.

Còn tiền thì nằm ở hợp đồng. Nhà cung cấp chỉ hoàn trả khi có thỏa thuận, nên điều khoản hoàn trả cần có ngay lúc mua hoặc thuê phần mềm. Điều 14 khoản 5 còn khuyến khích bảo hiểm trách nhiệm dân sự [1].

Việc làm ngay

  • Liệt kê mọi chỗ AI đang tự quyết định về tiền, hồ sơ hay quyền lợi của khách và nhân viên.
  • Mỗi chỗ một bảng: dạng lỗi, S, O, D, RPN, cách chặn, người chịu trách nhiệm, kèm thang chấm.
  • Đọc hợp đồng với nhà cung cấp: có điều khoản hoàn trả bồi thường chưa.
  • Nhờ pháp chế hoặc luật sư đối chiếu danh mục rủi ro cao hiện hành với từng hệ thống.

Nếu cần người cùng dựng bảng

Nếu anh chị cần người cùng dựng khung rủi ro và kiểm soát nội bộ cho các quyết định do AI đưa ra, đó là mảng quản trị rủi ro doanh nghiệp mà chúng tôi hỗ trợ. Bảng đánh giá nhu cầu 21 câu, khoảng 8 phút cho anh chị bức tranh ban đầu.

Nguồn tham khảo

  1. Quốc hội, Luật Trí tuệ nhân tạo số 134/2025/QH15, thông qua 10/12/2025, hiệu lực 01/03/2026. https://static3.luatvietnam.vn/uploaded/others/2025/12/25/luat-134-2025-qh15_2512152052.docx
  2. Wikipedia, "Failure mode and effects analysis". https://en.wikipedia.org/wiki/Failure_mode_and_effects_analysis

Bài viết chỉ mang tính tham khảo, không phải tư vấn pháp lý. Việc phân loại hệ thống và nghĩa vụ cụ thể cần được đối chiếu với văn bản hiện hành và tư vấn của luật sư.

Bài được soạn với sự hỗ trợ của AI (Claude) theo quy trình biên tập của tác giả.

Thấy bài viết có ích?

Bấm Thích hoặc gửi bài cho người cần đọc.

AILuật AIFMEAQuản trị rủi ro