Chính phủ Mỹ yêu cầu các biện pháp bảo vệ trí tuệ nhân tạo

Các cơ quan chính phủ Mỹ sẽ cần cung cấp sự giám sát con người cho các mô hình AI đưa ra những quyết định quan trọng về chăm sóc sức khỏe, việc làm và các vấn đề quan trọng khác ảnh hưởng đến dân chúng để tuân thủ chính sách mới của Văn phòng Quản lý và Ngân sách Nhà Trắng (OMB).

Chính sách sử dụng AI, mới được công bố vừa qua, yêu cầu các cơ quan phải có giám đốc AI (CAIO) và áp dụng các biện pháp bảo vệ để bảo vệ nhân quyền và duy trì an toàn công cộng.

Chính sách nêu rõ: “Trong khi AI đang cải thiện hoạt động và cung cấp dịch vụ trong toàn Chính phủ Liên bang, các cơ quan phải quản lý hiệu quả việc sử dụng nó” và “Với các biện pháp bảo vệ thích hợp được áp dụng, AI có thể là một công cụ hữu ích để hiện đại hóa hoạt động của các cơ quan và cải thiện dịch vụ của Chính phủ Liên bang cho người dân”.

Toàn bộ Chính sách 34 trang yêu cầu hầu hết các cơ quan, ngoại trừ Bộ Quốc phòng và cơ quan tình báo, kiểm kê việc sử dụng AI hàng năm, và phải liên tục theo dõi việc sử dụng AI của họ.

Ví dụ: chính sách của OMB sẽ cho phép hành khách đi máy bay từ chối sử dụng phần mềm nhận dạng khuôn mặt của Cơ quan Quản lý An ninh Vận tải (TSA).

Khi AI được sử dụng trong hệ thống chăm sóc sức khỏe Liên bang để hỗ trợ các quyết định chẩn đoán, người dân được yêu cầu xác minh kết quả của AI. Khi AI được sử dụng để phát hiện gian lận trong các dịch vụ của chính phủ, người dân được yêu cầu xem xét kết quả và những người bị ảnh hưởng có thể tìm kiếm biện pháp khắc phục cho mọi tác hại mà AI tạo ra.

Tác động của AI đến an toàn công cộng

Chính sách xác định một số cách sử dụng AI có thể ảnh hưởng đến an toàn công cộng và nhân quyền, đồng thời yêu cầu các cơ quan áp dụng các biện pháp bảo vệ trước ngày 1 tháng 12 năm nay. Các biện pháp bảo vệ phải bao gồm những cách để giảm thiểu rủi ro phân biệt đối xử theo thuật toán và cung cấp cho công chúng sự minh bạch về chính phủ sử dụng AI.

Các cơ quan phải ngừng sử dụng AI không thể đáp ứng các biện pháp bảo vệ, phải thông báo cho công chúng về bất kỳ AI nào được miễn tuân thủ chính sách của OMB và giải thích lý do biện minh.

AI kiểm soát đập nước, lưới điện, hệ thống điều khiển giao thông, phương tiện và hệ thống robot trong nơi làm việc thuộc nhóm AI có tác động đến an toàn. Trong khi đó, AI chặn hoặc loại bỏ quyền tự do ngôn luận được bảo vệ, đưa ra đánh giá rủi ro của cá nhân cho các cơ quan thực thi pháp luật và tiến hành nhận dạng sinh trắc học được phân loại là có ảnh hưởng đến quyền. Các quyết định của AI về chăm sóc sức khỏe, nhà ở, việc làm, chẩn đoán y tế và tình trạng nhập cư cũng thuộc loại ảnh hưởng đến quyền người dân.

Chính sách của OMB cũng kêu gọi các cơ quan phát hành mã, mô hình và dữ liệu AI do chính phủ sở hữu khi việc phát hành không gây rủi ro cho công chúng hoặc hoạt động của chính phủ.

Chính sách mới nhận được nhiều đánh giá trái chiều từ một số nhóm nhân quyền và quyền kỹ thuật số. Liên minh Tự do Dân sự Mỹ (ACLU) gọi chính sách này là một bước quan trọng nhằm bảo vệ cư dân Mỹ khỏi sự lạm dụng AI. Tuy nhiên, ACLU lưu ý rằng chính sách này có những lỗ hổng lớn, bao gồm những ngoại lệ rộng rãi đối với hệ thống an ninh quốc gia và cơ quan tình báo. Chính sách này cũng có ngoại lệ đối với thông tin thực thi pháp luật nhạy cảm.

Theo ACLU, việc sử dụng AI của liên bang không được phép làm suy yếu các quyền và sự an toàn, nhưng sử dụng AI có hại và mang tính phân biệt đối xử của các cơ quan an ninh quốc gia, chính quyền tiểu bang và nhiều hoạt động khác phần lớn vẫn chưa được kiểm soát.

Đây là một ví dụ điển hình về việc chính phủ liên bang dẫn đầu và cho thấy những gì công chúng mong đợi ở những người có quyền lực và nguồn lực để đảm bảo công nghệ AI được sử dụng một cách an toàn và có trách nhiệm.

Theo đánh giá từ các nhóm quyền kỹ thuật số, mặc dù phần lớn trọng tâm của chính sách này là về an toàn và nhân quyền, nhưng nó cũng khuyến khích các cơ quan chính phủ khám phá việc sử dụng AI có trách nhiệm.

Cách tiếp cận của OMB khác với Đạo luật AI của EU, vốn tập trung nhiều hơn vào rủi ro của AI. Trong khi cách tiếp cận của OMB khuyến khích các cơ quan áp dụng AI theo cách riêng của họ, cho phép đánh giá rủi ro, báo cáo và chịu trách nhiệm.

Chính sách của OMB tuân theo lệnh vào tháng 10 của Tổng thống Joe Biden nêu rõ việc sử dụng AI an toàn.