Tin tức

Có người từng hỏi tôi, cuốn sách nói rất nhiều về quản trị, về quy trình, kiểm toán, đánh giá tác động, Human in the Loop, trách nhiệm giải trình, bằng chứng và cả những thứ rất “kỹ nghệ” (engineering), vậy tại sao không gọi thẳng là AI Governance, mà lại là Đạo đức AI: Nguyên tắc và Thực hành?

Tôi cũng từng lưỡng lự về chuyện ấy. AI Governance nghe có vẻ thời thượng hơn, thực dụng hơn và, thú thực, dễ bán hơn. Governance cho ta những thứ rất cụ thể: ai chịu trách nhiệm? rủi ro được phân loại ra sao? trước khi triển khai phải kiểm thử gì? ai được quyền phê duyệt? log nào phải lưu? sự cố phải báo cáo thế nào? Ngay trong các tài liệu đào tạo mà chúng tôi xây dựng, những nguyên tắc như an toàn, quyền riêng tư, khả năng giải thích, trách nhiệm giải trình hay quyền tự chủ của con người đều nhanh chóng được chuyển thành quy trình giám sát, đánh giá độc lập, báo cáo và cơ chế xử lý. Responsible AI thậm chí còn đi xa hơn nữa, biến những giá trị ấy thành cơ cấu tổ chức, hội đồng đạo đức, red team, quản lý vòng đời mô hình và các công cụ governance cụ thể.

Nhưng chính khi đi sâu vào governance, tôi lại thấy một điều hơi trớ trêu. Càng muốn quản trị AI thật nghiêm túc, ta càng không thể tránh đạo đức học.

Bởi governance có thể quy định rằng hệ thống phải “fair” (công bằng). Nhưng fair là gì? Bình đẳng về cơ hội, bình đẳng về kết quả, hay ưu tiên cho nhóm từng chịu thiệt thòi? Governance có thể yêu cầu con người phải phê duyệt một quyết định rủi ro cao. Nhưng tại sao sự phê duyệt của con người lại làm quyết định ấy chính đáng hơn? Nếu người phê duyệt thiếu information, competence, time và authority, thì cái nút “Approve” chẳng qua chỉ là một nghi lễ hành chính, ngõ hầu chuyển trách nhiệm từ máy sang người. Governance có thể buộc phải giải thích quyết định của AI. Nhưng con người có quyền được giải thích vì họ là chủ thể tự trị, hay chỉ vì giải thích làm giảm rủi ro kiện tụng?

Đến đây thì biểu mẫu, checklist và dashboard bắt đầu cạn lời. Ta buộc phải hỏi những câu cổ xưa hơn công nghệ rất nhiều: Điều gì làm một hành động trở thành đúng? Hậu quả tốt có đủ để chiêu tuyết cho một phương tiện xấu không? Có những điều con người tuyệt đối không được làm với nhau hay không? Trách nhiệm đạo đức thuộc về người gây ra hậu quả, người có ý định, người có khả năng kiểm soát, hay người đáng lẽ phải biết? Ba truyền thống lớn mà tôi đưa vào phần nền tảng, hậu quả luận, bổn phận luận và đức hạnh luận, chính là ba cách khác nhau để trả lời những câu hỏi ấy.

Một hệ thống AI trong bệnh viện chẳng hạn có thể được governance rất đẹp: đã kiểm thử, có audit trail, có bác sĩ trong vòng lặp, có phân quyền, có quy trình kháng nghị. Nhưng nếu bệnh nhân chết, ta vẫn phải hỏi: bác sĩ có lỗi không nếu đã làm đúng quy trình? Nhà phát triển có trách nhiệm không nếu họ không thể dự kiến trường hợp hiếm ấy? Bệnh viện có thể viện dẫn rằng đã tuân thủ đầy đủ tiêu chuẩn để tự chiêu tuyết hay không? Và nếu tất cả đều “đúng quy trình” mà một con người vẫn bị đối xử như một phương tiện thống kê, thì quy trình ấy có thật sự đúng?

Đó là chỗ tôi muốn giữ chữ Ethics.

Bởi governance, xét đến cùng, là phần “hình nhi hạ” (physics), là thiết chế, thủ tục, quyền hạn, kiểm soát và bằng chứng. Nhưng đằng sau nó luôn có một tầng “hình nhi thượng” (metaphysics), hỏi về cái gì có giá trị? con người là gì? tự do có nghĩa gì,?trách nhiệm đòi hỏi điều kiện nào? công bằng có bản chất ra sao,? và một thực thể phải có những thuộc tính gì thì mới đáng được coi là một moral agent hay moral patient?

Nói cho chính xác về triết học, không phải mọi câu hỏi ấy đều là metaphysics. Nhiều câu chúng ta vừa học thực ra thuộc metaethics, chẳng hạn moral reasons (biện luận đạo đức) có tính khách quan hay không? “đúng” và “sai” có chân trị độc lập với con người hay chỉ phản ánh thái độ và quy ước? Nhưng AI rồi sẽ đẩy ta xa hơn, sang cả metaphysics: ý thức là gì? agency là gì? một hệ thống có hành vi như thể có mục đích liệu đã có chủ thể tính chưa? một thực thể không có cảm giác đau đớn có thể có moral status hay không? Lúc ấy muốn né “hình nhi thượng” cũng bất khả.

Và có lẽ đây mới là chỗ đáng ngờ nhất của một số cách tiếp cận AI Governance hiện nay. Chúng ta rất dễ tưởng rằng khi đã có ISO, NIST, risk register, model card, impact assessment và audit trail thì vấn đề đạo đức đã được giải quyết. Không. Những công cụ ấy rất cần thiết, thậm chí bất khả chối từ, nhưng chúng chỉ giúp ta thực thi một lựa chọn giá trị đã được đưa ra từ trước. Chúng không tự chứng minh lựa chọn giá trị ấy là đúng.

Một tổ chức có thể quản trị rất hoàn hảo một mục tiêu sai. Lịch sử nhân loại không thiếu những thiết chế vận hành cực kỳ hiệu quả nhưng đặt trên nền tảng đạo đức đáng kinh hãi. Nô lệ từng có luật lệ cho phép chủ toàn quyền. Phân biệt chủng tộc từng có thủ tục. Những bộ máy ấy đâu thiếu governance. Cái thiếu chính là khả năng chất vấn cái “đương nhiên” đang nằm phía trước mọi quy trình.

Thế nên, AI Ethics không đối lập với AI Governance. Ethics là căn, Governance là dụng. Không có governance, đạo đức rất dễ trở thành những mỹ từ treo trên tường, “fairness, transparency, accountability” rồi thôi. Nhưng không có ethics, governance rất dễ biến thành một kỹ nghệ tuân thủ, đủ giấy tờ để miễn trách nhiệm mà chưa chắc đủ lý lẽ để biện minh rằng điều đang làm là đúng.

Tôi vẫn thích câu đã dùng cho cuốn sách: “Đạo đức AI là quy trình và bằng chứng, không phải lời hứa.” Nhưng sau mấy buổi quay trở lại học triết học đạo đức, tôi muốn thêm một vế: quy trình và bằng chứng cũng chưa phải cứu cánh. Ta còn phải biện minh được vì sao chính những quy trình ấy, những bằng chứng ấy, và những giá trị đứng sau chúng là đáng theo đuổi.

Nếu không làm được việc đó, AI Governance có thể giúp chúng ta trả lời rất chính xác rằng ai đã làm gì, vào lúc nào, theo quy trình nào.

Còn câu hỏi khó hơn vẫn nằm đó:

Ta có nên làm điều ấy ngay từ đầu hay không?

Có lẽ vì thế mà tôi đã không đặt tên cuốn sách là AI Governance