Lãnh đạo CNTT thường chịu áp lực phải triển khai nhiều tác nhân AI (AI agent) và chứng minh giá trị kinh doanh của chúng. Tuy nhiên, cách tiếp cận “hành động nhanh và chấp nhận rủi ro” (move fast and break things) có thể dẫn đến tác nhân AI hoạt động mất kiểm soát, nợ kỹ thuật AI, ảnh hưởng đến kinh doanh và các vấn đề về tuân thủ.

Việc tránh sai lầm bắt đầu từ một kế hoạch vững chắc và các quy trình nền tảng. Lãnh đạo cần có quy trình đánh giá giá trị kinh doanh của tác nhân AI trước khi đầu tư phát triển. Việc lựa chọn giữa mua giải pháp có sẵn hay tự phát triển là điều cần cân nhắc.

Khi xây dựng các tác nhân AI, lãnh đạo CNTT nên thiết lập mô hình bảo mật trước khi triển khai thử nghiệm và đảm bảo có cơ chế quan sát (observability).

Sai lầm trong triển khai vẫn có thể xảy ra ngay cả với những kế hoạch được chuẩn bị kỹ lưỡng nhất. Những sai lầm dưới đây thường xuất hiện ở các giai đoạn: trước khi xây dựng, trong quá trình phát triển kỹ thuật và sau khi đã triển khai.

1. Sử dụng tác nhân AI trong khi chỉ cần tự động hóa theo quy tắc cố định (deterministic automation)

Nhiều tổ chức coi tác nhân AI là giải pháp mặc định cho các quy trình vốn đã vận hành hiệu quả với đầu vào xác định, đầu ra nhất quán và khả năng thực thi đáng tin cậy ở quy mô lớn. Các tác nhân AI làm tăng chi phí, độ trễ và tính biến thiên – những yếu tố làm suy giảm chính sự ổn định vốn có của các quy trình đó. Trước khi triển khai một tác nhân AI, hãy tự hỏi: liệu nhiệm vụ này có thực sự cần đến khả năng phán đoán hay chỉ cần vận hành theo quy trình sẵn có?

Ngay cả khi quy trình làm việc hiện tại cần được hiện đại hóa, các hình thức tự động hóa theo quy tắc cố định, mô hình dự báo và các giải pháp tích hợp hệ thống có thể mang lại hiệu quả cao hơn. Một vấn đề khác đối với các giải pháp AI dạng tác nhân là chi phí, rất khó dự đoán do giá cả của các mô hình AI thường xuyên thay đổi. Một tác nhân AI hiệu quả cần hội tụ đồng thời bốn yếu tố: tiết kiệm chi phí, tốc độ nhanh, độ chính xác cao và tính bảo mật. Các doanh nghiệp thường đánh giá thấp chi phí; có khi phải gỡ bỏ sau đó vì chi phí vận hành ở quy mô lớn quá cao.

Cách tránh sai lầm: Thiết lập quy trình đánh giá ý tưởng dựa trên giá trị kinh doanh và yêu cầu kiến trúc sư thẩm định trước khi quyết định phương án xây dựng hoặc mua tác nhân AI.

2. Xây dựng tác nhân AI thiếu cơ chế xác định quyền sở hữu hoặc trách nhiệm giải trình về quyết định

Một trong những lỗ hổng lớn nhất trong quản trị dữ liệu là việc xác định chủ sở hữu dữ liệu. Tác nhân AI cũng cần có chủ sở hữu, đặc biệt là những tác nhân tự động hóa toàn bộ hoặc một phần quy trình ra quyết định trong các lĩnh vực kinh doanh trọng yếu.

Điều gì sẽ xảy ra khi tác nhân AI đưa ra quyết định sai lệch hoặc không tối ưu? Cần có người chịu trách nhiệm về kết quả, và thông lệ tốt nhất là thiết lập mô hình quản trị rõ ràng trước khi triển khai bất kỳ thử nghiệm AI nào. CIO cần phối hợp với bộ phận quản lý rủi ro để thiết lập tiêu chí xác định: khi nào AI hỗ trợ con người là bắt buộc, khi nào cần có sự tham gia của con người trong quy trình (human-in-the-middle), và khi nào tác nhân AI được phép hoạt động tự chủ.

Khi tổ chức kích hoạt khả năng cộng tác giữa các tác nhân AI (agent-to-agent), CIO sẽ đối mặt với nhiều thách thức phức tạp hơn trong việc xác định thẩm quyền ra quyết định.

Cách tránh sai lầm: Xác định rõ ràng chủ sở hữu cho tác nhân AI, đồng thời đánh giá các rủi ro và chi phí liên quan đến việc ra quyết định. Các yếu tố này cần được xem xét dựa trên các nguyên tắc hướng dẫn về việc khi nào nên tự động hóa và khâu nào trong quy trình làm việc cần giao cho con người thực hiện.

3. Lên kế hoạch triển khai tác nhân AI thiếu dữ liệu tin cậy

Lãnh đạo CNTT cần đánh giá thực tế cùng với các lãnh đạo doanh nghiệp khác, bởi vì việc triển khai tác nhân AI trên nền tảng dữ liệu kém chất lượng và các quy trình kinh doanh bất cập có thể dẫn đến những chương trình tốn kém và thảm họa triển khai. Nếu giao cho một tác nhân AI xử lý các bản ghi trùng lặp, những định nghĩa mâu thuẫn và các tài liệu chưa được cập nhật suốt hai năm qua, nó sẽ không dọn dẹp được những vấn đề đó, mà thay vào đó, nó sẽ tự tin hành động dựa trên tất cả các dữ liệu này rồi lặp lại cùng một sai lầm trên quy mô lớn. Tác nhân AI không hề thất bại; nó chỉ phơi bày những vấn đề tồn đọng về dữ liệu và quản trị mà doanh nghiệp vốn đã có sẵn, nay lại càng trầm trọng hơn khi được khuếch đại với tốc độ máy tính trên mọi quy trình mà nó tham gia.

Một trong những thách thức lớn nhất mà tổ chức gặp phải với AI tác nhân là việc mở rộng quy mô quá sớm khi chưa thiết lập được nền tảng dữ liệu kinh doanh thống nhất. Tác nhân AI cần dựa vào dữ liệu kinh doanh đáng tin cậy, bối cảnh kinh doanh và cơ chế quản trị để vận hành một cách ổn định và chính xác trên toàn doanh nghiệp.

Cách tránh sai lầm: Hãy đo lường chất lượng dữ liệu và thiết lập ngưỡng điểm tin cậy tối thiểu cho các tập dữ liệu được sử dụng để huấn luyện mô hình AI hoặc cung cấp bối cảnh cho tác nhân AI trong quá trình vận hành thực tế.

4. Cấp quyền truy cập quá nhiều thông tin cho tác nhân AI

Nhiều chuyên gia trong tổ chức thường có quyền truy cập vào nhiều nền tảng và nguồn dữ liệu khác nhau. Tuy nhiên, các chuyên gia khuyến cáo không nên cấp cho tác nhân AI mức độ truy cập thông tin tương đương hoặc cao hơn mức của các chuyên gia này.

Tác nhân AI thực tế hoạt động giống như những nhà thầu bên ngoài có độ tin cậy hạn chế hoặc nhân viên chưa qua kiểm duyệt. Trên thực tế, lãnh đạo sẽ không bao giờ cấp quyền truy cập không giới hạn vào email, hệ thống chia sẻ tệp và nền tảng kế toán cho một thực tập sinh mới, vì vậy cũng không có lý do gì để cấp quyền hạn rộng rãi cho một tác nhân AI.

Tổ chức cần có chính sách và nền tảng để bảo mật dữ liệu nhạy cảm, đảm bảo tuân thủ các quy định về quyền riêng tư dữ liệu và bảo vệ sở hữu trí tuệ.

Cách tránh sai lầm: Các doanh nghiệp hoạt động trong những lĩnh vực chịu sự quản lý chặt chẽ hoặc triển khai tác nhân AI xử lý dữ liệu nhạy cảm cần sử dụng các nền tảng quản trị AI để thiết lập mối liên kết giữa nguồn dữ liệu với tác nhân AI, đồng thời tập trung hóa các quy tắc kiểm soát quyền truy cập dữ liệu.

5. Kiểm thử tác nhân AI giống như phần mềm truyền thống

Việc thực hiện các bài kiểm thử hồi quy (regression tests) chặt chẽ trong quy trình kiểm thử liên tục và triển khai liên tục tự động hóa là mục tiêu đối với các ứng dụng. Cần mở rộng các mục tiêu này khi xây dựng, kiểm thử và triển khai tác nhân AI để tính đến sự biến đổi của dữ liệu, mô hình và bối cảnh suy luận (inference) trong thời gian thực.

Sai lầm phổ biến nhất là coi tác nhân AI giống như một ứng dụng truyền thống: lãnh đạo CNTT nên kiểm thử trước khi triển khai, phê duyệt và mặc định rằng nó an toàn khi vận hành thực tế. Tuy nhiên, tác nhân AI có tính chất phi định định (non-deterministic) và có trạng thái (stateful), nghĩa là cùng một yêu cầu có thể kích hoạt các chuỗi gọi công cụ khác nhau trong mỗi lần thực hiện. Kiểm thử trước khi triển khai không thể liệt kê hết tất cả các lộ trình đó; tệ hơn nữa, một chuỗi các hành động vốn được cấp phép riêng lẻ vẫn có thể dẫn đến hậu quả là rò rỉ dữ liệu hoặc giao dịch trái phép.

Quy trình kiểm thử cũng cần bao gồm cơ chế kiểm soát trong thời gian thực (runtime enforcement): kiểm tra từng lệnh gọi công cụ trước khi thực thi, đồng thời chặn hoặc phát cảnh báo đối với các hành động tiềm ẩn rủi ro ngay khi chúng xảy ra. Khuyến cáo:

• Công tắc tắt khẩn cấp có thể tạm dừng bất kỳ tác nhân nào trong vài giây.

• Cơ sở dữ liệu hành vi, để họ biết hoạt động bình thường trông như thế nào.

• Đánh giá sau sự cố sau mỗi lần suýt xảy ra sự cố, đặt câu hỏi biện pháp kiểm soát nào đáng lẽ ra phải ngăn chặn được sự cố đó.

• Quy trình phản hồi để triển khai các biện pháp kiểm soát được cải tiến.

Cách tránh sai lầm: Làm mờ ranh giới giữa việc thử nghiệm và giám sát tác nhân AI, vì các khuyến nghị và hành động của chúng cần được đánh giá nhất quán trên cả hai môi trường.

6. Triển khai các tác nhân AI thiếu chiến lược nhân sự

Giám đốc Nhân sự có thể là người chịu trách nhiệm về tác nhân AI trong tuyển dụng và xác định thẩm quyền ra quyết định của chúng, nhưng còn các chuyên viên tuyển dụng và quản lý tuyển dụng thì sao? Các chương trình quản lý sự thay đổi khi ứng dụng AI cần tính đến các mục tiêu kinh doanh liên quan đến thẩm quyền ra quyết định, đánh giá độ chính xác của tác nhân AI và nhận được sự ủng hộ từ những người chịu ảnh hưởng trực tiếp nhất bởi các thay đổi trong quy trình làm việc.

Cách tránh sai lầm: Việc triển khai tác nhân AI chỉ là bước khởi đầu trong vòng đời phát triển các quy trình kinh doanh. Lãnh đạo cần cân nhắc cách giúp nhân viên thích nghi với những thay đổi trong quy trình làm việc, đồng thời phát triển bộ kỹ năng cần thiết để quản lý các tác nhân AI này.

7. Coi việc triển khai tác nhân AI là đích đến cuối cùng

Nhiều sai lầm cộng lại dẫn đến một thực tế quan trọng về tác nhân AI: Triển khai không phải là đích đến cuối cùng; giá trị kinh doanh mới là mục tiêu; và cách tác nhân AI phản hồi trong môi trường vận hành thực tế có thể rất khác so với những gì chúng đã tiếp xúc trong quá trình thử nghiệm.

Giám đốc CNTT thường phải đối mặt với gánh nặng kỹ thuật, một trong những nguyên nhân là do doanh nghiệp ngừng cấp kinh phí cho việc bảo trì và hỗ trợ công nghệ. Cách tiếp cận tương tự này không chỉ dẫn đến “nợ chi phí AI” mà còn làm giảm hiệu quả và gia tăng rủi ro vận hành.

Cách tránh sai lầm: Mặc dù đã có nhiều tranh luận về các mô hình phân bổ chi phí (chargeback) cho các đơn vị kinh doanh đối với các ứng dụng vận hành thực tế và phần mềm dạng dịch vụ (SaaS), phương pháp này cần được cân nhắc áp dụng cho các tác nhân AI được triển khai vào môi trường thực tế.

CIO muốn triển khai nhiều tác nhân AI hơn vào môi trường thực tế cần một mô hình vận hành được xác định rõ ràng, giải quyết được toàn bộ vòng đời liên tục bao gồm: chuyển giao, triển khai, đo lường, phản hồi và cải tiến.

LTV