Triển khai AI trong xã hội, pháp luật và đạo đức

CRISP-DM gồm 6 giai đoạn: hiểu nghiệp vụ, hiểu dữ liệu, chuẩn bị dữ liệu, mô hình hóa, đánh giá, triển khai. Giai đoạn đầu tiên là hiểu nghiệp vụ, quyết định vấn đề nghiệp vụ cần giải quyết và tiêu chí thế nào là thành công. Khảo sát chất lượng và phân phối dữ liệu là hiểu dữ liệu; xử lý giá trị thiếu và tạo đặc trưng là chuẩn bị dữ liệu; tích hợp vào hệ thống nghiệp vụ là giai đoạn triển khai. Cũng cần nắm rằng 6 giai đoạn này không chỉ chảy một chiều mà được mô tả như một vòng tuần hoàn, lặp lại quay về giai đoạn trước.

PoC là chứng minh khái niệm (Proof of Concept), là công đoạn làm thử ở quy mô nhỏ trước khi đầu tư vào phát triển chính thức, để xác nhận xem với dữ liệu đó có đạt được độ chính xác cần thiết hay không, và nếu đạt thì nghiệp vụ có vận hành được không. Vì mục đích không phải là tạo ra sản phẩm hoàn chỉnh, nên nếu không quyết định trước điều kiện để tiến tiếp và điều kiện rút lui trước khi bắt đầu, sẽ dẫn tới việc lặp lại những thử nghiệm không ra kết quả. Việc giám sát và học lại sau khi đưa vào môi trường thực tế là MLOps, công việc gắn nhãn đáp án là gán nhãn (annotation), thiết kế lại chính luồng nghiệp vụ là BPR — đều là các công đoạn khác với PoC.

Gán nhãn là công việc gắn bằng tay nhãn đáp án hoặc thông tin vùng vào dữ liệu thô, không thể thiếu đối với học có giám sát. Nếu tiêu chuẩn gán nhãn dao động theo từng người thực hiện thì giới hạn trên của hiệu năng mô hình sẽ bị quyết định ngay tại đó, nên việc thiết kế hướng dẫn công việc và kiểm tra chất lượng là điểm mấu chốt. Thứ được tạo ra bằng cách thu thập và sắp xếp lượng lớn văn bản là corpus; việc chia thành tập huấn luyện và kiểm định, hay xử lý giá trị thiếu và ngoại lai, đều là công việc khác trong chuẩn bị dữ liệu, không phải chính hành động gắn nhãn.

Rò rỉ dữ liệu là hiện tượng thông tin vốn không thể có được tại thời điểm thực hiện dự đoán bị lẫn vào dữ liệu học, khiến độ chính xác khi kiểm định trông cao hơn hẳn so với thực lực. Nó xảy ra dưới các hình thức như đưa ngày tiếp nhận thủ tục hủy dịch vụ vào dự đoán hủy dịch vụ, tính trung bình hoặc độ lệch chuẩn tiền xử lý từ toàn bộ dữ liệu bao gồm cả dữ liệu kiểm định, hay chia ngẫu nhiên dữ liệu chuỗi thời gian mà bỏ qua yếu tố thời gian. Việc khớp quá mức với dữ liệu huấn luyện là quá khớp (overfitting), nguyên nhân không phải "đã dùng thông tin không được phép dùng" mà là "khớp quá mức". Số chiều tăng khiến lượng dữ liệu cần thiết tăng vọt là lời nguyền chiều — nguyên nhân đều khác với rò rỉ.

MLOps là cách nghĩ không dừng lại ở việc đưa mô hình vào rồi kết thúc, mà giám sát cả phân phối dữ liệu đầu vào, xu hướng dự đoán, cho tới chỉ số nghiệp vụ, khi thấy có sai lệch thì cập nhật dữ liệu học và làm lại, rồi lại đưa vào lần nữa — vận hành vòng tuần hoàn đó như một cơ chế. Khi thế giới thay đổi thì xu hướng đầu vào cũng thay đổi, độ chính xác âm thầm giảm dần, nên chỉ xác nhận một lần là không đủ. Thuê tài nguyên tính toán là việc sử dụng đám mây, gộp và tái hiện môi trường thực thi là vai trò của Docker — cả hai đều là công cụ hỗ trợ MLOps, nhưng bản thân chúng không phải định nghĩa của MLOps.

BPR là tái cấu trúc quy trình nghiệp vụ (Business Process Reengineering), chỉ nỗ lực không chỉ cải thiện từng phần quy trình nghiệp vụ hiện có, mà truy ngược lại nghiệp vụ đó tồn tại vì mục đích gì để thiết kế lại chính luồng đó. Nếu giữ nguyên quy trình mà chỉ gắn thêm AI vào, có trường hợp chỉ làm tăng thêm công đoạn con người chép lại đầu ra của AI mà không có hiệu quả, và sự thành bại của việc đưa AI vào không ít trường hợp được quyết định ở đây hơn là ở độ chính xác. Lắng nghe yêu cầu là nắm bắt nhu cầu của các bên liên quan, chỉnh sửa thành dạng có thể học được là chuẩn bị dữ liệu — cả hai đều không phải chính việc thiết kế lại quy trình nghiệp vụ.

Waterfall là phương thức tiến hành cố định các công đoạn theo thứ tự từ định nghĩa yêu cầu trở đi, với tiền đề là không quay lại. Nhưng phát triển AI có tính chất là không biết được đạt tới độ chính xác nào cho tới khi thực sự thử học, nên không thể cố định trước sản phẩm và yêu cầu. Vì vậy giai đoạn khám phá và PoC thường lấy hình thức agile — tiến hành theo các vòng lặp ngắn — rồi khi đã thấy rõ độ chính xác thì mới cố định công đoạn phát triển chính thức, đây là tổ hợp thường được áp dụng. Tính chất này cũng ảnh hưởng trực tiếp tới cả việc thiết kế hợp đồng — nên chọn hợp đồng khoán việc (thầu) hay hợp đồng ủy nhiệm chuẩn (準委任) cho việc thuê ngoài phát triển.

Docker là công nghệ gộp môi trường thực thi bao gồm cả ứng dụng và thư viện thành container. Vì có thể chạy cùng một container ở cả máy phát triển lẫn môi trường thực tế, nên giảm được sự khác biệt kiểu "chạy được ở môi trường của tôi nhưng..." do khác biệt phiên bản. Lưu lại quá trình giữa chừng và kết quả cùng lời giải thích thành 1 tài liệu là Jupyter Notebook; làm cho có thể gọi bằng HTTP là Web API; thuê tài nguyên tính toán chỉ trong thời gian cần thiết là việc sử dụng đám mây — đều là các công cụ khác dùng trong phát triển AI.

Corpus chỉ lượng lớn dữ liệu văn bản được thu thập và sắp xếp cho xử lý ngôn ngữ tự nhiên. Tùy theo mục đích sử dụng, đôi khi được gắn thêm thông tin từ loại hoặc cú pháp. Tập hợp dữ liệu công bố rộng rãi cho nghiên cứu và phát triển nói chung là tập dữ liệu mở (open dataset), bao gồm cả ảnh và âm thanh, không chỉ giới hạn ở văn bản. Biểu diễn vector của từ là sản phẩm của việc học chứ không phải một tập dữ liệu, phân tích hình thái là một phương pháp xử lý văn bản — cả hai đều khác với định nghĩa của corpus. Ngoài ra, corpus cũng có giấy phép và điều khoản sử dụng, nên cần xác nhận riêng việc có được dùng thương mại hay phân phối lại hay không.

Đổi mới mở là cách nghĩ không khép kín trong nghiên cứu phát triển nội bộ công ty, mà tích cực đưa vào công nghệ, tri thức, nhân lực từ bên ngoài để tạo ra giá trị. Đề cương xếp cùng mục vừa này với hợp tác học viện - doanh nghiệp và liên kết với các doanh nghiệp hoặc ngành khác, với phương tiện là nghiên cứu chung với các cơ quan nghiên cứu như trường đại học, hay kết hợp với đối tác có dữ liệu hoặc kênh phân phối mà công ty mình không có. Công bố miễn phí sản phẩm là cách nghĩ của mã nguồn mở, hướng ngược lại với việc đưa vào tài nguyên bên ngoài. Cơ cấu xuyên bộ phận nội bộ hay tận dụng tập dữ liệu công khai đều không chỉ tới chính việc liên kết với chủ thể bên ngoài công ty.

Thông tin đã xử lý ẩn danh là thông tin đã được xử lý sao cho không thể xác định một cá nhân cụ thể, và không thể khôi phục lại thông tin cá nhân gốc. Vì đã xử lý tới mức này, nếu thực hiện thủ tục theo quy định thì có thể cung cấp cho bên thứ ba mà không cần sự đồng ý của đương sự. Ngược lại, thông tin đã xử lý giả danh là thông tin đã được xử lý tới mức không thể xác định một cá nhân cụ thể trừ khi đối chiếu với thông tin khác — công sức xử lý nhẹ hơn như xóa tên nhưng vẫn giữ được giá trị phân tích — nhưng đổi lại về nguyên tắc không thể cung cấp cho bên thứ ba, tiền đề là sử dụng phân tích trong nội bộ doanh nghiệp. Có thể ghi nhớ theo hướng: xử lý càng nhẹ thì càng khó đưa ra ngoài.

Mã định danh cá nhân bao gồm dữ liệu về đặc điểm cơ thể như dữ liệu vân tay, dữ liệu nhận diện khuôn mặt, mã chuyển đổi từ trình tự bazơ DNA, và các số được cấp cho cá nhân như số My Number, số hộ chiếu, số bằng lái xe. Những thứ này tự chúng đã được coi là thông tin cá nhân, nên hiểu rằng nếu không có họ tên thì không phải thông tin cá nhân là sai. Việc có phải thông tin cá nhân hay không cũng không được quyết định bởi có sự đồng ý khi thu thập hay không, và cũng không phải chỉ trở thành thông tin cá nhân khi đã được đưa vào cơ sở dữ liệu. Ngoài ra, thứ đã được sắp xếp có hệ thống và có thể tra cứu được gọi là dữ liệu cá nhân, và bị áp thêm nghĩa vụ bổ sung.

GDPR là quy định bảo vệ dữ liệu chung của EU, là văn bản pháp luật của EU tách biệt với Luật bảo vệ thông tin cá nhân của Nhật Bản. Đặc điểm là có phạm vi áp dụng ngoài lãnh thổ: nếu có tình huống như cung cấp hàng hóa hoặc dịch vụ cho người ở trong khu vực EU, hoặc giám sát hành vi của người trong khu vực EU, thì quy định này có thể áp dụng cả cho doanh nghiệp đang phát triển trong nước Nhật Bản. Do đó không thể chỉ phán đoán đối tượng áp dụng dựa vào việc cơ sở có ở EU hay không. Đây cũng không phải là văn bản mở rộng luật Nhật Bản, và cũng không phải là hướng dẫn không có tính ràng buộc.

Điều 30-4 của Luật bản quyền quy định rằng có thể sử dụng tác phẩm trong giới hạn cần thiết, nếu không nhằm mục đích tự mình thụ hưởng hoặc cho người khác thụ hưởng tư tưởng hoặc tình cảm được thể hiện trong tác phẩm. Thụ hưởng ở đây chỉ việc thưởng thức tư tưởng hay tình cảm thể hiện trong tác phẩm để có được sự thỏa mãn về tri thức hay tinh thần, và hành vi đọc vào làm dữ liệu cho học máy được xem là không thuộc trường hợp này. Khoản 2 của điều này nêu rõ phân tích thông tin, và việc tạo dữ liệu học cùng việc học được đặt ở đây. Việc công bố miễn phí, không vì mục đích kinh doanh, hay khối lượng ít, đều không phải là điều kiện mà điều luật này quy định.

Điều 30-4 có một điều khoản ngoại lệ nêu rằng: xét theo loại và công dụng của tác phẩm đó cũng như hình thức sử dụng, nếu việc này gây tổn hại bất chính tới lợi ích của người giữ bản quyền thì không thuộc phạm vi này. Do đó không thể nói "nếu là học AI thì sử dụng thế nào cũng tự do". Ví dụ, nếu sao chép mà không mua cơ sở dữ liệu được bán cho mục đích phân tích thông tin rồi dùng cho việc học, sẽ gây tổn hại tới thị trường của cơ sở dữ liệu đó, và được cho là thuộc điều khoản ngoại lệ. Ngoài ra, dù giai đoạn đầu vào là học có hợp pháp, nếu sản phẩm sinh ra giống với tác phẩm hiện có thì vấn đề xâm phạm bản quyền vẫn có thể phát sinh riêng ở giai đoạn đầu ra là sinh ra hoặc sử dụng. Đầu vào và đầu ra được đánh giá tách biệt. Việc có mua có trả tiền hay không không phải tiêu chí quyết định việc áp dụng điều luật này.

Vì bản quyền là chế độ bảo vệ sự thể hiện sáng tạo của con người, nên thứ chỉ do AI tự động xuất ra thì không trở thành tác phẩm. Mặt khác, nếu con người tham gia ở mức độ có thể nói là đã đưa ra đặc điểm bản chất trên phương diện thể hiện, thì vẫn có khả năng được công nhận tính chất tác phẩm. Chìa khóa phán đoán là đóng góp sáng tạo, và được xem xét riêng theo từng trường hợp dựa trên tính cụ thể của chỉ thị và thử sai, mức độ lựa chọn hoặc chỉnh sửa sản phẩm sinh ra. Do đó, cả cách hiểu rằng luôn luôn không trở thành tác phẩm, lẫn cách hiểu rằng người đưa ra chỉ thị luôn luôn có quyền, đều là sai. Ngoài ra, tách biệt với Luật bản quyền, đôi khi điều khoản sử dụng của dịch vụ đã dùng có quy định cách xử lý sản phẩm sinh ra, nên cần xác nhận cả hai.

Sáng chế theo nhiệm vụ chỉ sáng chế mà người lao động thực hiện theo nhiệm vụ. Quyền được cấp bằng sáng chế về nguyên tắc phát sinh cho người lao động là người sáng chế, nhưng nếu quy định trước trong quy chế làm việc v.v. thì cũng có thể để nó thuộc về người sử dụng lao động ngay từ khi phát sinh. Trong trường hợp đó, người lao động được công nhận quyền nhận lợi ích kinh tế tương xứng bằng tiền hoặc hình thức khác, nên đây không phải chế độ tước quyền mà không có đối giá. Ngoài ra, quyền không phải lúc nào cũng thuộc về người sử dụng lao động, cũng không phải là không có khả năng để nó thuộc về người sử dụng lao động — điểm mấu chốt là cách xử lý thay đổi tùy theo có quy định hay không.

3 điều kiện của bí mật kinh doanh là được quản lý như bí mật (tính quản lý bí mật), là thông tin kỹ thuật hoặc kinh doanh hữu ích cho hoạt động kinh doanh (tính hữu ích), và không được biết đến rộng rãi (tính không được biết đến rộng rãi); chỉ khi thỏa mãn cả 3 mới được bảo vệ. Tính mới và tính tiến bộ là điều kiện để được cấp bằng sáng chế, không phải điều kiện của bí mật kinh doanh. Trong khi sáng chế là chế độ đổi lấy sự độc quyền bằng việc công bố nội dung, bí mật kinh doanh là chế độ bảo vệ bằng cách không công bố, nên những thông tin không muốn công bố như trọng số của mô hình đã học hay bí quyết tiền xử lý sẽ được bảo vệ theo hướng này.

Dữ liệu cung cấp giới hạn chỉ thông tin được cung cấp cho những người cụ thể trong hoạt động kinh doanh, được tích lũy với lượng đáng kể bằng phương pháp điện từ và được quản lý. Đây là phân loại được thiết lập để bảo vệ giao dịch mua bán hoặc chia sẻ dữ liệu, ý nghĩa nằm ở chỗ có thể được bảo vệ dù không thỏa mãn đủ cả 3 điều kiện của bí mật kinh doanh. Vì đã cung cấp cho nhiều đối tác nên không nhất thiết thỏa mãn nghiêm ngặt tính không được biết đến rộng rãi. Thông tin chỉ giữ kín trong nội bộ công ty là chuyện được bảo vệ ở phía bí mật kinh doanh, và phân loại này cũng không liên quan tới việc có nộp đơn hay được đăng ký bằng sáng chế hay không.

Hợp đồng khoán việc là hợp đồng hứa hẹn hoàn thành công việc, nếu không hoàn thành thì không thể yêu cầu thù lao, và phải chịu trách nhiệm với sản phẩm không phù hợp với hợp đồng. Hợp đồng ủy nhiệm chuẩn là hợp đồng ủy thác xử lý công việc, điều hứa hẹn không phải là hoàn thành mà là thực hiện nghiệp vụ với nghĩa vụ chú ý cẩn trọng của người quản lý tốt. Vì phát triển AI không biết được đạt tới độ chính xác nào cho tới khi thử học, nên cách phân chia thường được áp dụng là dùng hợp đồng ủy nhiệm chuẩn cho giai đoạn khám phá và PoC, còn hợp đồng khoán việc cho công đoạn triển khai khi đặc tả đã được cố định. Hướng dẫn về hợp đồng sử dụng AI và dữ liệu của Bộ Kinh tế, Thương mại và Công nghiệp cũng chỉ ra mô hình chia hợp đồng theo từng giai đoạn.

Luật cứng là văn bản pháp luật do nhà nước ban hành và có tính cưỡng chế khi vi phạm, ví dụ như Luật Bảo vệ thông tin cá nhân hay Luật Bản quyền. Luật mềm là các quy tắc không có tính ràng buộc pháp lý, như hướng dẫn, quy chuẩn tự nguyện của ngành, hay bộ quy tắc ứng xử của doanh nghiệp. Vì luật mềm không phải là văn bản pháp luật nên cách phân biệt "có chế tài / không có chế tài" là không đúng bản chất. Đây cũng không phải là sự phân biệt trong nước với quốc tế, hay mới với cũ. Trong các lĩnh vực thay đổi công nghệ nhanh, cách làm phổ biến là dùng luật mềm để định hướng trước, chỉ luật hóa những phần thực sự cần thiết, và chính sách AI của Nhật Bản về cơ bản lấy luật mềm làm trung tâm.

Cách tiếp cận dựa trên rủi ro là quan điểm thay đổi mức độ ứng phó và quy định theo mức độ rủi ro mà mục đích sử dụng AI gây ra. Cùng là công nghệ nhận diện khuôn mặt, nhưng mở khóa màn hình thiết bị cá nhân và giám sát liên tục ở nơi công cộng lại ảnh hưởng đến con người hoàn toàn khác nhau. Nếu áp dụng quy định nghiêm ngặt đồng loạt bất kể mục đích thì sẽ chặn cả những cách dùng vô hại, còn nếu nới lỏng đồng loạt thì sẽ bỏ mặc những cách dùng gây hại lớn. Vì vậy, mục đích sử dụng có ảnh hưởng lớn thì áp nghĩa vụ nghiêm ngặt, mục đích ảnh hưởng nhỏ thì xử lý nhẹ hơn. Về phía doanh nghiệp, cách tiếp cận này cũng được dùng để phân loại các dự án AI nội bộ theo mức độ rủi ro, chỉ đưa những dự án rủi ro cao vào quy trình thẩm định chặt chẽ.

Privacy by Design là quan điểm đưa việc bảo vệ quyền riêng tư vào ngay từ giai đoạn lập kế hoạch, thiết kế, thay vì bổ sung biện pháp sau khi sự cố đã xảy ra. Các quyết định như thiết kế để không thu thập dữ liệu, xóa dữ liệu sau một khoảng thời gian cần thiết, xử lý dữ liệu ở dạng không thể định danh, càng đưa vào muộn thì chi phí càng lớn. Việc công khai mục đích sử dụng hay giới hạn quyền xem tự nó là đúng đắn, nhưng không đề cập đến thời điểm đưa vào nên không phải là cách giải thích cho khái niệm này. Security by Design, tức đưa biện pháp bảo mật vào từ khâu thiết kế, là khái niệm song hành với Privacy by Design.

Đặc trưng đóng vai trò thay thế cho thuộc tính nhạy cảm được gọi là biến đại diện (proxy variable). Mã bưu chính có tương quan chặt với chủng tộc hay thu nhập thông qua khu vực cư trú, còn trường học hoặc câu lạc bộ đã tham gia đôi khi tương quan với giới tính. Chừng nào các đặc trưng như vậy còn tồn tại, thì dù bỏ trường giới tính hay chủng tộc khỏi đầu vào, mô hình vẫn học được cùng một sự phân biệt đối xử một cách gián tiếp. Vì vậy, việc kiểm tra tính công bằng không phải là xóa bớt trường đầu vào, mà là tổng hợp đầu ra theo từng thuộc tính để đo chênh lệch. Hơn nữa, định nghĩa về công bằng có nhiều loại như cân bằng tỉ lệ đạt theo từng thuộc tính, cân bằng tỉ lệ sai theo từng thuộc tính, và nhìn chung không thể thỏa mãn đồng thời tất cả các định nghĩa này, nên cần lựa chọn và giải thích định nghĩa nào phù hợp với mục đích sử dụng.

Adversarial Attack là kiểu tấn công thêm vào đầu vào một thay đổi rất nhỏ mà mắt người hầu như không nhận ra, khiến mô hình đang vận hành đưa ra phán đoán sai. Mục tiêu nhắm đến là giai đoạn suy luận, bản thân mô hình không bị viết lại. Việc trộn dữ liệu bị can thiệp vào dữ liệu huấn luyện làm sai lệch kết quả học là đầu độc dữ liệu (data poisoning), nhắm vào giai đoạn huấn luyện. Việc gửi số lượng lớn truy vấn để tái tạo mô hình tương đương là đánh cắp mô hình (model extraction), còn can thiệp vào tham số hay bản phân phối của mô hình là đầu độc mô hình (model poisoning); mỗi loại nhắm vào thời điểm và đối tượng khác nhau. Việc phòng chống tất cả các dạng này đều được thực hiện theo quan điểm Security by Design, tức đưa bảo mật vào từ khâu thiết kế.

Đánh cắp mô hình là kiểu tấn công gửi số lượng lớn đầu vào tới mô hình mục tiêu để thu thập đầu ra, từ đó dựng lại tại chỗ một mô hình hoạt động tương đương. Thứ bị đánh cắp là chính mô hình, và cuộc tấn công có thể thành công chỉ với việc cung cấp mô hình dưới dạng API công khai. Ngược lại, đánh cắp dữ liệu (data extraction) là kiểu tấn công lấy ra thông tin từng có trong dữ liệu huấn luyện thông qua quan sát đầu ra, ở đây thứ bị đánh cắp là dữ liệu. Việc trộn dữ liệu bị can thiệp vào dữ liệu huấn luyện là đầu độc dữ liệu, còn can thiệp vào tham số hay bản phân phối của mô hình là đầu độc mô hình; loại trước nhắm vào giai đoạn huấn luyện, loại sau nhắm vào giai đoạn huấn luyện hoặc phân phối. Nếu phân loại theo "cái gì bị đánh cắp" và "nhắm vào thời điểm nào" thì sẽ khó nhầm lẫn.

Bong bóng lọc (filter bubble) là hiện tượng thuật toán gợi ý chọn lọc thông tin theo sở thích người dùng, khiến người đó chỉ còn thấy được thông tin hợp gu của mình như thể bị bao bọc trong một cái bong bóng; nguyên nhân nằm ở việc tối ưu hóa của thuật toán. Người dùng thường không nhận ra rằng mình đang bị chọn lọc thông tin. Việc những người cùng quan điểm trong một không gian khép kín lặp đi lặp lại phát ngôn và đồng cảm, rồi tin rằng quan điểm đó là đúng duy nhất, được gọi là buồng vang (echo chamber), nguyên nhân nằm ở xu hướng con người tụ tập với người giống mình. Việc video, âm thanh giả bị tiếp nhận như thật là deepfake và tin giả (fake news), còn việc không thể truy ra căn cứ phán đoán là vấn đề hộp đen (black box); đây đều là các chủ đề khác trong cùng nhóm lớn.

Deepfake là công nghệ dùng học sâu để tạo ra video hoặc âm thanh cho thấy một người có thật nói những điều họ chưa từng nói, làm những việc họ chưa từng làm, và cũng chỉ chung cho sản phẩm được tạo ra như vậy. Trọng tâm nằm ở việc giả mạo một người có thật, khác với mục đích của việc tạo ảnh khuôn mặt cho người không tồn tại. Deepfake bị lợi dụng cho vu khống, lừa đảo, can thiệp bầu cử, và làm tăng đáng kể sức thuyết phục của tin giả. Về đối sách, ngoài nghiên cứu công nghệ phát hiện, người ta còn hướng đến việc gắn thông tin nguồn gốc ngay từ thiết bị ghi hình hoặc thời điểm tạo ra, để có thể xác minh việc chỉnh sửa về sau. Tóm tắt văn bản hay trực quan hóa căn cứ phán đoán đều không liên quan đến việc lạm dụng.

Nguồn gốc dữ liệu (data provenance) là bản ghi về việc dữ liệu nào được lấy từ đâu, được xử lý ra sao rồi dùng cho huấn luyện. Nếu không có bản ghi này, khi đầu ra phát sinh vấn đề sẽ không thể truy đến dữ liệu là nguyên nhân, và cũng không thể sửa chữa hay giải thích. Tính minh bạch không chỉ có nghĩa là công khai bên trong mô hình, mà còn bao gồm việc trình bày cho đối tượng phù hợp về mục đích sử dụng, dữ liệu nào được dùng để tạo ra mô hình, và giới hạn nằm ở đâu. Việc giảm tài nguyên tính toán, tăng tốc suy luận, hay tăng lượng dữ liệu đều không phải là mục đích của việc ghi lại nguồn gốc. Bên cạnh đó, cũng cần nắm cả khái niệm truy xuất nguồn gốc (traceability), tức khả năng theo dõi phán đoán nào ra đời từ dữ liệu nào, qua mô hình nào.

Đánh giá đạo đức là thủ tục ở giai đoạn lập kế hoạch AI, rà soát và đánh giá các ảnh hưởng, rủi ro có thể xảy ra, và mức độ nghiêm ngặt của việc thẩm định sẽ thay đổi theo kết quả đánh giá đó. Việc theo dõi xu hướng đầu ra và khiếu nại sau khi vận hành là giám sát (monitoring), việc đứng từ vị trí độc lập để xác nhận có đúng phương châm hay không là kiểm toán AI, còn việc tổng hợp và công bố phương châm công ty là chính sách AI (AI policy); đây đều là các yếu tố khác cấu thành nên quản trị AI. Bên cạnh các yếu tố này, còn có việc giữ lại sự tham gia của con người ở những điểm mấu chốt của phán đoán, khả năng tái lập để có thể xây dựng lại mô hình sau này, và khả năng truy xuất nguồn gốc để theo dõi đường đi của phán đoán.