AI càng mạnh, ranh giới giao việc càng quan trọng

Có một cách nhìn về AI nghe rất hợp lý: công cụ càng mạnh thì càng nên giao cho nó nhiều việc.

Nhưng nếu đi thêm một bước, có lẽ câu hỏi đáng quan tâm hơn không phải là AI làm được bao nhiêu, mà là ta đã biết phần nào nên giao và phần nào không nên giao hay chưa.

Hai câu hỏi này khác nhau khá nhiều.

Một hệ thống có thể đủ khả năng viết, phân tích, gọi công cụ, sửa file, gửi dữ liệu hoặc thực hiện cả một chuỗi hành động. Khả năng kỹ thuật mở rộng rất nhanh. Nhưng quyền được hành động không nhất thiết phải mở rộng với cùng tốc độ.

Đây là chỗ judgment trở nên quan trọng hơn, chứ không kém đi.

Làm được không đồng nghĩa nên được quyền làm

Trong nhiều công việc, phần dễ tự động hóa nhất thường là phần có cấu trúc rõ: lấy dữ liệu, chuẩn hóa, phân loại, chuyển định dạng, so sánh với rule, tạo bản nháp hoặc phát hiện điểm bất thường.

Những phần này có một đặc điểm thuận lợi: ta thường mô tả được đầu vào, đầu ra và cách kiểm tra.

Khó hơn là những quyết định như:

mục tiêu nào đáng theo đuổi;
đánh đổi nào có thể chấp nhận;
dữ liệu nào đủ để kết luận;
khi nào một ngoại lệ đáng phá rule;
rủi ro nào cần người chịu trách nhiệm;
một hành động đúng về kỹ thuật có đúng trong bối cảnh hay không.

Đây không chỉ là khác biệt giữa “việc dễ” và “việc khó”.

Nó là khác biệt giữa thực thi và phán đoán.

Một hệ thống có thể rất giỏi thực thi nhưng vẫn cần một ranh giới rõ trước những quyết định có hậu quả khó đảo ngược.

AI càng tiện, con người càng dễ bỏ qua bước đặt câu hỏi

Khi một việc mất hai giờ, ta thường suy nghĩ khá kỹ trước khi làm.

Khi cùng việc đó chỉ còn mất hai phút, chi phí thử trở nên rất thấp. Đây là một lợi thế lớn. Nhưng nó cũng tạo ra một thay đổi âm thầm: ta dễ chuyển từ “có nên làm việc này không?” sang “hãy làm thử rồi xem”.

Trong môi trường ít rủi ro, cách đó rất hữu ích.

Nhưng khi AI được nối với dữ liệu thật, hệ thống thật và quyền hành động thật, tốc độ không còn chỉ là lợi ích. Một quyết định sai cũng có thể được thực thi nhanh hơn, lặp lại nhiều hơn và lan rộng hơn.

Vì vậy, năng lực mới của AI không chỉ tạo ra câu hỏi về năng suất.

Nó tạo ra câu hỏi về quyền.

AI được đọc gì?

Được sửa gì?

Được đề xuất gì?

Được tự quyết gì?

Việc nào phải dừng để người kiểm tra?

Việc nào nếu sai có thể tự phục hồi, và việc nào cần chặn từ trước?

Nếu những câu hỏi này chưa rõ, thêm khả năng cho AI đôi khi chỉ làm hệ thống chạy nhanh hơn trước khi ta kịp hiểu nó đang chạy về đâu.

Judgment không phải là làm lại công việc của AI

Giữ con người trong vòng kiểm soát không có nghĩa là con người phải đọc lại từng dòng, bấm duyệt mọi bước hoặc trở thành nút thắt cổ chai.

Nếu automation làm xong 100 bước rồi một người phải kiểm tra lại cả 100 bước bằng tay, ta chưa thiết kế được một hệ thống tốt.

Vai trò con người nên nằm ở nơi judgment thật sự có giá trị.

Ví dụ, AI có thể:

gom và chuẩn hóa dữ liệu;
tìm những điểm lệch khỏi rule;
đưa ra vài phương án;
mô tả bằng chứng cho từng phương án;
đánh dấu phần chưa chắc chắn;
thực hiện các bước có thể hoàn tác.

Con người có thể tập trung vào:

xác nhận mục tiêu;
đặt ngưỡng chấp nhận;
xử lý ngoại lệ;
phê duyệt hành động có hậu quả lớn;
chịu trách nhiệm cho quyết định cuối cùng.

NIST, trong AI Risk Management Framework, cũng nhấn mạnh việc cần định nghĩa rõ vai trò và trách nhiệm của con người trong các cấu hình human–AI, thay vì giả định một mức giám sát giống nhau cho mọi hệ thống. Mức can thiệp phù hợp phụ thuộc vào bối cảnh và mức rủi ro.

Điểm đáng chú ý ở đây là: human-in-the-loop không nhất thiết là một bước duyệt. Nó là một quyết định kiến trúc về nơi con người cần xuất hiện.

Có thể chia công việc theo khả năng đảo ngược

Một cách đơn giản để nghĩ về ranh giới là hỏi: nếu AI làm sai, ta sửa lại dễ đến đâu?

Có những việc sai nhưng rẻ để sửa.

Tạo một bản nháp chưa tốt có thể viết lại.

Phân loại một tập dữ liệu nội bộ có thể chạy lại.

Đề xuất một kế hoạch chưa hợp lý có thể bỏ.

Nhưng có những hành động khó đảo ngược hơn.

Gửi một thông tin ra bên ngoài.

Xóa dữ liệu.

Thay đổi quyền truy cập.

Chi tiền.

Tác động trực tiếp tới khách hàng.

Đưa một thay đổi lên production.

Với nhóm đầu, có thể cho AI nhiều tự do hơn và kiểm tra bằng sampling, validation hoặc monitoring.

Với nhóm sau, quyền nên hẹp hơn, bằng chứng cần rõ hơn và human gate có giá trị hơn.

Không phải vì AI “không đủ thông minh”.

Mà vì chi phí của sai lầm không giống nhau.

Cũng có thể chia theo mức độ mơ hồ

Một trục khác là độ rõ của tiêu chuẩn.

Nếu một nhiệm vụ có rule rõ, dữ liệu đủ và đầu ra kiểm tra được, automation thường có đất diễn tốt.

Nếu nhiệm vụ phụ thuộc mạnh vào bối cảnh, mục tiêu còn tranh luận hoặc tiêu chuẩn thành công chưa rõ, việc tự động hóa quyết định cuối cùng dễ tạo ra cảm giác chắc chắn giả.

Ví dụ, “kiểm tra file có thiếu trường bắt buộc không?” là câu hỏi khá xác định.

Nhưng “chiến lược này có đáng theo đuổi không?” thường không thể được giải quyết chỉ bằng việc thêm một prompt dài hơn.

AI vẫn có thể giúp rất nhiều ở bước hai: tìm phản biện, tổng hợp dữ liệu, tạo kịch bản, mô phỏng giả định, chỉ ra phần còn thiếu.

Nhưng hỗ trợ judgment khác với sở hữu judgment.

Một hệ thống trưởng thành không cố tự động hóa 100%

Có một hấp lực khá tự nhiên khi xây automation: cứ còn bước thủ công là cảm giác hệ thống chưa hoàn thiện.

Nhưng 100% automation không phải lúc nào cũng là đích đến.

Đích đến hợp lý hơn có thể là:

tự động hóa tối đa phần có thể kiểm chứng, và giữ judgment ở những điểm có nhiều bất định hoặc hậu quả lớn.

Điều này cũng làm thay đổi cách đo một hệ thống AI.

Không chỉ hỏi nó tiết kiệm bao nhiêu thời gian.

Cần hỏi thêm:

nó giảm bao nhiêu công việc lặp lại;
nó đưa đúng thông tin tới người quyết định nhanh hơn không;
nó có làm phần chưa chắc chắn trở nên nhìn thấy được không;
nó có giữ được ranh giới quyền khi xảy ra lỗi không;
khi con người cần can thiệp, họ có đủ ngữ cảnh để quyết định không.

Một automation tốt không chỉ “chạy không cần người”.

Nó còn phải biết khi nào cần người.

Khả năng của AI tăng, thiết kế trách nhiệm phải tăng theo

NIST mô tả quản trị rủi ro AI như một quá trình gắn với bối cảnh, vai trò, đo lường và quản lý rủi ro. Một điểm quan trọng là không có một cấu hình human–AI phù hợp cho mọi trường hợp.

Điều này khá gần với một nguyên tắc thực dụng:

quyền của hệ thống nên tăng theo mức độ kiểm chứng được, không chỉ theo mức độ thông minh của mô hình.

Một model tốt hơn có thể giúp xử lý nhiều tình huống hơn.

Nhưng để trao thêm quyền, còn cần những thứ khác:

quan sát được nó đã làm gì;
biết dữ liệu nào đã được dùng;
có validation trước hành động;
giới hạn phạm vi quyền;
có cách dừng hoặc phục hồi;
có người chịu trách nhiệm ở điểm cuối.

Năng lực AI và năng lực quản trị không nên phát triển lệch nhau quá xa.

Nếu không, ta có một hệ thống ngày càng giỏi hành động nhưng chưa chắc ngày càng giỏi tự kiểm soát.

Điều đáng giữ lại

AI đang làm phần “làm” ngày càng rẻ.

Viết một bản nháp rẻ hơn. Phân tích một tập dữ liệu rẻ hơn. Tạo một workflow rẻ hơn. Thử một ý tưởng rẻ hơn.

Khi phần làm trở nên rẻ, giá trị tương đối của phần chọn việc gì đáng làm, đặt tiêu chuẩn nào, kiểm tra điều gì và chịu trách nhiệm ra sao sẽ tăng lên.

Có lẽ lợi thế không nằm ở việc cố giữ lại thật nhiều việc cho con người.

Cũng không nằm ở việc giao hết cho AI.

Nó nằm ở khả năng thiết kế một ranh giới đủ tốt để cả hai làm đúng phần của mình.

Và khi AI mạnh hơn, ranh giới đó không tự biến mất.

Nó trở thành một phần quan trọng hơn của hệ thống.