Nhiệm vụ mới của lãnh đạo CNTT - CIO rất rõ ràng: tạo điều kiện thuận lợi cho việc áp dụng trí tuệ nhân tạo - AI trong toàn doanh nghiệp sao cho hiệu quả và nhanh nhất.

Theo khảo sát của tạp chí CIO.com, ưu tiên hàng đầu của CEO đối với các giám đốc điều hành CNTT của họ là tận dụng AI. Từ nghiên cứu đến đánh giá các sản phẩm AI, các CIO hiện là những nhân vật trung tâm trong chiến lược AI của tổ chức.

Khi các CIO phải đối mặt với áp lực mở rộng quy mô và chứng minh giá trị thực sự, thách thức là làm sao để theo kịp các yếu tố rủi ro mà không tạo ra những trở ngại không cần thiết.

Đây không phải là việc tự động hóa công việc hiện có. Đây là việc định hình lại cách thức công việc được thực hiện.

Trí tuệ nhân tạo là một bước ngoặt trong quản lý rủi ro

Hầu hết các nhà lãnh đạo CNTT vẫn chưa cảm thấy thoải mái với việc cân bằng quản lý rủi ro AI mới. Theo một khảo sát chỉ 31% người được hỏi cảm thấy hoàn toàn sẵn sàng đối mặt với các rủi ro kinh doanh bên ngoài.

Có hai điều thực sự khác biệt về rủi ro mà AI mang lại. Thứ nhất, AI là không xác định, trong khi hầu hết các công nghệ khác đều mang tính xác định. Không thể chứng minh một hệ thống AI sẽ làm hay không làm một công việc xác định. Vì vậy mô hình truyền thống “đặt các biện pháp kiểm soát xung quanh nó và xác minh” không còn hiệu quả. Chúng ta cần một cách khác để quản lý một thứ mà về cơ bản không thể xác định được hành vi của nó.

Thứ hai là sức hút đối với người dùng cuối. Với hầu hết các công nghệ, CNTT có thể dành thời gian để đánh giá trước khi triển khai. Với AI, nếu không nhanh chóng cung cấp các công cụ mạnh mẽ cho người dùng, họ sẽ tìm cách khác – và việc sử dụng ngầm tạo ra nhiều rủi ro hơn so với việc truy cập có kiểm soát. Thời gian thực hiện bị rút ngắn đồng thời mô hình kiểm soát trở nên khó khăn hơn.

Nhiều tổ chức nên tránh vội vàng áp dụng AI chỉ vì sợ bỏ lỡ cơ hội mà không làm rõ trước tiên nó sẽ được sử dụng ở đâu và như thế nào. Tất cả các quyết định về rủi ro nên xuất phát từ những câu hỏi này: “Tổ chức đang cố gắng giải quyết vấn đề gì – đó là dịch vụ khách hàng tốt hơn hay hiểu sâu hơn về dữ liệu của bạn? Tổ chức thực sự đang cố gắng làm gì?”

Mõt khuyến nghị là nên hướng dẫn các quyết định về AI bằng cách đánh giá rủi ro, xem xét các kết quả mong đợi, quy mô đầu tư và tầm quan trọng của nó đối với các mục tiêu của tổ chức. CIO cần xác định mức độ chấp nhận rủi ro, xây dựng sổ đăng ký rủi ro và xác định cách xử lý rủi ro cho từng loại rủi ro. Ví dụ, nếu định sử dụng mô hình AI công khai, có thể xử lý rủi ro đó bằng cách không đưa dữ liệu nhạy cảm vào hoặc mua giấy phép phù hợp để nếu có xảy ra sự cố, Tổ chức sẽ được bảo vệ, hoặc tham khảo ý kiến của cơ quan quản lý trước khi tiến hành.

Tổ chức cũng phải xem xét dịch vụ AI như một rủi ro của bên thứ ba, và không thể đổ hết trách nhiệm lên các nhà cung cấp AI, không thể thuê ngoài trách nhiệm.

Cần phải thẩm định kỹ lưỡng để hiểu rõ nội dung hợp đồng của nhà cung cấp AI, ai chịu trách nhiệm nếu xảy ra vi phạm dữ liệu và tổ chức của bạn có thể theo đuổi họ như thế nào nếu có vấn đề xảy ra.

Tầm quan trọng của thiết kế tổ chức

Theo chuyển gia, lãnh đạo cần đưa ra các quyết định về cấu trúc để thúc đẩy “những căng thẳng nội bộ lành mạnh” nhằm mục đích làm nổi bật và giải quyết các vấn đề rủi ro liên quan đến AI. Điều này bao gồm sự tách biệt giữa các nhóm “áp dụng AI” trong nhóm sản phẩm và kỹ thuật và các nhóm “giám sát AI” trong bộ phận tuân thủ và pháp lý. Bộ phận tuân thủ chịu trách nhiệm về kiểm toán, các vấn đề bảo mật và giám sát liên tục, trong khi bộ phận pháp lý chịu trách nhiệm về tài liệu mô tả các giới hạn. Điều quan trọng là nó phải độc lập với các nhóm đang thúc đẩy AI.

Các công ty cần đầu tư nghiêm túc vào các chức năng tuân thủ này. Tuyển dụng những người thông minh, tinh tế. Những vai trò này không thể chỉ là nói ‘không’, nhưng họ cũng không thể chỉ đóng dấu chấp thuận mọi thứ. Giá trị nằm ở khả năng phán đoán.

Các quyết định về cấu trúc tổ chức có thể quan trọng không kém gì chính các quyết định về việc áp dụng AI. Các công ty thiết kế cấu trúc tổ chức đúng ngay từ đầu sẽ có lợi thế thực sự.

Sự khao khát AI làm tăng rủi ro

Một trong những đặc điểm của làn sóng AI là sự khao khát được tiếp cận – từ lãnh đạo đến nhân viên – để sử dụng các công cụ, xây dựng ứng dụng và bắt đầu đưa chúng vào hoạt động.

Theo chuyên gia, không nên lấy một quy trình hiện có và chỉ làm cho nó nhanh hơn. Điều này chỉ làm cho quy trình trở nên hỗn loạn hơn. Việc quan trọng là làm cho nó nhanh hơn, thông minh hơn và cần có sự tổ chức lại.

Để được như vậy, trước tiên hãy đưa ra quyết định trên cơ sở đúng đắn, hoặc là tìm hiểu cách AI thực sự hoạt động hoặc là tìm người có thể tư vấn cho bạn một cách chính xác. Thứ hai, hãy quay trở lại mục đích kinh doanh. AI mang lại nhiều cơ hội, nhưng câu hỏi cốt lõi là công ty cố gắng đạt được điều gì khi đưa công nghệ này vào? Và thứ ba, hãy tìm ra cách bạn sẽ quản lý rủi ro. Cần thiết lập hệ thống quản lý rủi ro phù hợp để doanh nghiệp có thể hoạt động nhanh chóng mà không phải chịu hậu quả bất lợi.

Mô hình trưởng thành của AI

Môi trường càng an toàn, càng tạo điều kiện thuận lợi cho việc thử nghiệm, áp dụng và theo thời gian, mang lại kết quả kinh doanh.

Dựa trên đánh giá thực tế, một mô hình AI phát triển theo quy trình qua ba cấp độ trưởng thành trong tổ chức cho đến nay:

Cấp độ 1: CNTT cung cấp nền tảng và dịch vụ. Nhân viên có quyền truy cập dữ liệu được kiểm soát dựa trên vai trò và đặc quyền bảo mật của họ. Họ có thể tự tạo tác nhân (agent) cho mình. Nếu một thứ gì đó không đáp ứng các yêu cầu tối thiểu về bảo mật và tuân thủ, nó sẽ không thể tiếp tục.

Cấp độ 2: Một tác nhân do nhân viên xây dựng sẽ trải qua quá trình kiểm tra quản trị CNTT để phát hiện trùng lặp hoặc chồng chéo, cải tiến mô hình, quét bảo mật và đánh giá thủ công. Nếu được chấp thuận, nó sẽ được chia sẻ với toàn doanh nghiệp.

Cấp độ 3: Ở giai đoạn trưởng thành này, một tổ chức đã thiết lập được nền tảng bảo mật trên toàn bộ các ứng dụng của mình để AI có thể mở rộng quy mô một cách an toàn.

LTV