Lý giải của AI cho quyết định của nó có thể tác động đến tư duy của con người

Trí tuệ nhân tạo (AI) có thể đưa ra những nhận định sai lầm nhưng đầy tự tin, và giờ đây nó cũng đang ảnh hưởng khiến con người hành xử theo cách tương tự.

Trong một nghiên cứu mới, các nhà nghiên cứu đã thử nghiệm tác động của AI đối với con người khi họ xem xét các đề xuất đổi mới sáng tạo. Kết quả cho thấy các công cụ gợi ý của AI có sức thuyết phục mạnh mẽ, khiến người đánh giá bác bỏ quyết định của những chuyên gia độc lập và bỏ qua những ý tưởng đầy hứa hẹn. Tương tự, họ cũng tán thành việc AI chấp thuận những ý tưởng mà các chuyên gia con người đánh giá là kém chất lượng.

Điều thú vị là người đánh giá có xu hướng nghe theo quyết định sai lầm của AI nhiều hơn khi mô hình này đưa ra lời giải thích. Những lời giải thích này làm suy giảm khả năng phán đoán của con người thay vì nâng cao nó. Mọi người đưa ra quyết định chính xác hơn khi không được cung cấp lý do cho quyết định của AI.

Kết quả nghiên cứu cho thấy lời giải thích từ LLM không nhất thiết giúp cải thiện quá trình ra quyết định, theo nhóm nghiên cứu từ Trường Kinh doanh Harvard, MIT và Đại học Washington. Sự hợp tác hiệu quả giữa con người và AI đòi hỏi các thiết kế giúp duy trì, thay vì thay thế, khả năng phán đoán độc lập của con người.

Lý giải của AI có thể làm suy yếu khả năng phán đoán của con người

Doanh nghiệp đều sàng lọc các dự án đề xuất trước khi triển khai, nhưng quá trình này luôn tiềm ẩn sự bất định và rủi ro về các sự đánh đổi, chẳng hạn như kết quả dương tính giả (tiếp tục thực hiện các dự án cuối cùng lại thất bại) hoặc âm tính giả (bác bỏ những ý tưởng lẽ ra đã thành công). Ví dụ điển hình cho trường hợp thứ nhất là Google Glass hoặc Fire Phone của Amazon; còn ví dụ cho trường hợp thứ hai là việc Xerox chấm dứt sớm các dự án Ethernet và PostScript.

Do bị hạn chế về thời gian và chỉ có thông tin cơ bản để tham khảo, những người ra quyết định ngày càng chuyển sang sử dụng các LLM - vốn áp dụng thuật toán dự đoán để đưa ra gợi ý và lý giải dựa trên ngữ cảnh cụ thể.

Gợi ý dành cho doanh nghiệp

Các nhà nghiên cứu đã bắt tay vào tìm hiểu vai trò của AI trong quy trình mà họ gọi là “sàng lọc đổi mới sáng tạo ở giai đoạn đầu”. Họ đánh giá mức độ ảnh hưởng của các khuyến nghị từ mô hình ngôn ngữ lớn (LLM) đối với người thẩm định, trong cả hai trường hợp: có và không có phần giải thích từ mô hình về cách thức cũng như lý do đưa ra quyết định.

Trong thử nghiệm, 228 người thẩm định giàu kinh nghiệm được yêu cầu đánh giá gần 50 hồ sơ tham gia một cuộc thi do MIT tổ chức. Họ thử nghiệm ba kịch bản khác nhau: đề xuất chỉ do con người đánh giá mà không có sự hỗ trợ của AI; đánh giá của LLM kèm theo lý do bằng văn bản cho quyết định đó; và khuyến nghị đạt/không đạt từ AI dạng hộp đen (black-box) mà không có lời giải thích đi kèm.

Quyết định của những người thẩm định sau đó được so sánh với quyết định của bốn chuyên gia con người. Các quyết định của chuyên gia được coi là chuẩn mực đúng. Hành vi của người thẩm định được đánh giá dựa trên việc họ tuân thủ hoàn toàn khuyến nghị của LLM, bác bỏ khuyến nghị đó, hay bác bỏ một cách hiệu quả (nghĩa là họ tự xác minh các kết quả thuyết phục từ mô hình trước khi đưa ra quyết định).

Các quyết định của họ được phân loại thành: đúng (đồng ý với quyết định tích cực/tiêu cực của chuyên gia), dương tính giả (ủng hộ các hồ sơ mà chuyên gia sẽ từ chối), và âm tính giả (từ chối các hồ sơ mà chuyên gia sẽ chọn tiếp tục).

Nhìn chung, người thẩm định chấp nhận khuyến nghị của LLM trong 67% trường hợp. Họ đồng ý với các quyết định của LLM (cả dạng hộp đen lẫn dạng có giải thích) trong khoảng 75% trường hợp, nhưng chỉ đồng ý với quyết định của con người trong 54% trường hợp.

Một điều có vẻ trái ngược với trực giác là những khuyến nghị dạng hộp đen giúp cải thiện chất lượng quyết định (khiến chúng tiệm cận với quyết định của chuyên gia), trong khi các khuyến nghị có kèm lời giải thích lại không làm được điều này. Khi nhận được khuyến nghị từ chối hồ sơ kèm theo lý do cụ thể từ LLM, người thẩm định có xu hướng đồng ý nhiều hơn mức bình thường; điều này giúp giảm tỷ lệ dương tính giả nhưng lại làm tăng đáng kể tỷ lệ âm tính giả.

Các nhà nghiên cứu cho rằng nguyên nhân là do các lời giải thích bằng văn bản đã “kìm hãm” việc bác bỏ khuyến nghị một cách hiệu quả; LLM đưa ra những lập luận thuyết phục, dễ được chấp nhận, từ đó vô hình trung làm nản lòng việc con người tự mình xác minh thông tin. Điều này đi ngược lại với giả định phổ biến cho rằng lời giải thích của LLM giúp tăng cường hiệu quả ra quyết định của con người.

Các nhà nghiên cứu chỉ ra rằng con người có xu hướng nhận thức thiên về việc coi trọng thông tin tiêu cực hơn thông tin tích cực; hiện tượng này được gọi là “thiên kiến tiêu cực” (negativity bias).

Việc từ chối là một quyết định chủ động mang tính loại bỏ; nó tạo cảm giác quan trọng và đòi hỏi trách nhiệm giải trình cao hơn so với việc giữ lại các lựa chọn khác. Phương pháp này cũng giúp duy trì hiện trạng, tránh rủi ro và định kiến, đồng thời không đòi hỏi phải huy động thêm nguồn lực.

Các nhà nghiên cứu giải thích rằng, những lời giải thích từ mô hình ngôn ngữ lớn (LLM) cung cấp các “lý lẽ có sẵn” để chấp nhận các quyết định từ chối mà không cần kiểm chứng độc lập; theo đó, con người thực chất đã “ủy thác” việc tư duy cho AI. Người đánh giá thường dựa vào các yếu tố bề mặt như sự trôi chảy, tính mạch lạc và vẻ đáng tin cậy. LLM đặc biệt có lợi thế trong việc tận dụng điều này nhờ khả năng sử dụng ngôn ngữ trôi chảy và phong thái như chuyên gia, tạo ra một “ảo giác về chiều sâu của lời giải thích”.

Do đó, các nhà nghiên cứu cho rằng mọi người có xu hướng đánh giá quá cao mức độ hiểu biết của mình về một quyết định, bất chấp việc họ có ít thông tin chi tiết về cơ sở lý luận của quyết định đó.

Tìm kiếm sự cân bằng trong các hệ thống gợi ý

Các nhà nghiên cứu chỉ ra rằng những phát hiện của họ mang lại ý nghĩa rõ ràng cho các doanh nghiệp đang thiết kế hệ thống đánh giá có sự hỗ trợ của AI.

Họ khuyến nghị các doanh nghiệp cần thận trọng khi sử dụng các giải thích từ mô hình ngôn ngữ lớn (LLM) trong quá trình ra quyết định quan trọng. Không nên tin tưởng hoàn toàn vào các gợi ý của AI mà chưa qua kiểm chứng, việc thử nghiệm luôn là bước cần thiết trước khi triển khai thực tế. Quy trình này giúp nâng cao độ chính xác, khuyến khích người đánh giá phát hiện lỗi và hiểu rõ cơ chế hoạt động của mô hình, đồng thời có thể gia tăng sự đồng thuận giữa con người và AI.

Các nhà nghiên cứu lưu ý rằng trong những bối cảnh ra quyết định như kiểm soát chất lượng, sàng lọc tuân thủ hoặc phát hiện gian lận, giải thích từ LLM có thể hỗ trợ con người đưa ra quyết định thận trọng. Ngược lại, đối với các nhiệm vụ như sàng lọc sơ bộ, những diễn giải từ LLM có thể làm giảm hiệu quả công việc do “gây trở ngại cho tư duy độc lập và hạn chế các quyết định thay đổi mang tính tích cực từ phía con người”. Trong trường hợp này, gợi ý đơn giản hơn hoặc ít chi tiết hơn có thể giúp duy trì quyền quyết định và khả năng kiểm chứng của con người.

Các nhà nghiên cứu khuyên rằng việc thiết kế hệ thống giải thích trong tương lai cần tính đến bản chất của nhiệm vụ cũng như những tổn thất tiềm tàng do sai sót của AI gây ra. Doanh nghiệp có thể thử nghiệm các mô hình cung cấp những góc nhìn đối lập (ví dụ vừa đưa ra lý do từ chối vừa đưa ra lý do chấp nhận một ý tưởng) hoặc hiển thị mức độ không chắc chắn dựa trên ngưỡng cố định, thay vì chỉ đưa ra quyết định có/không. Hệ thống cũng có thể được thiết kế để khuyến khích con người đưa ra ý kiến phản biện hoặc không đồng thuận.

Ngoài ra, nghiên cứu cũng cho thấy cơ hội để kiểm chứng xem liệu các giải thích dạng diễn giải có tác động khác biệt hay không ở những giai đoạn sau của quá trình ra quyết định - khi người đánh giá có ít lựa chọn hơn, nắm nhiều thông tin hơn, cũng như có động lực lớn hơn để kiểm chứng kết quả và suy xét kỹ lưỡng vấn đề.

Cuối cùng, nghiên cứu nhấn mạnh: Các tổ chức không nên coi giải thích của AI đơn thuần là công cụ minh bạch mang lại lợi ích trong mọi trường hợp, mà hãy xem chúng như những biện pháp can thiệp hành vi; hiệu quả của các biện pháp này phụ thuộc vào cách người đánh giá xử lý thông tin trong bối cảnh thiếu chắc chắn.