AI的社會應用與法律、倫理

CRISP-DM由業務理解、資料理解、資料準備、建模、評估、部署這6個階段構成。最初是業務理解，決定要解決的業務課題，以及怎樣才算成功的判斷基準。調查資料品質與分布是資料理解，缺失值處理與特徵量製作是資料準備，整合進業務系統則屬於部署階段。這6個階段不只是單向流動，還會回到前一階段反覆進行，呈現為一個循環，這一點也值得掌握。

PoC即概念驗證，是在投入正式開發之前先小規模製作嘗試，確認用該資料能否得到所需精確度、若能達到又是否能讓業務順利運作的工程。由於目的不是製作完成品，若不在開始前先訂好前進的條件與撤退的條件，就會不斷重複做不出成果的嘗試。部署後持續監控與重新訓練的是MLOps，標上正解標籤的作業是標註，重新設計業務流程本身的則是BPR，這些都是與PoC不同的工程。

標註是在原始資料上以人工方式加上正解標籤或區域資訊的作業，是監督式學習不可或缺的環節。若標註標準因作業人員而異，模型效能的上限就會因此被限制住，因此作業指示書與品質檢查的設計是關鍵。把大量文章蒐集整理而成的是語料庫，分成訓練用與驗證用、以及缺失值與離群值的處理，則是資料準備中的其他作業，都不是加標籤這個行為本身。

資料洩漏是指，在進行預測的時間點本來無法取得的資訊，混入了訓練資料中，導致驗證時的精確度遠比實際能力更高的現象。像是在解約預測中放入解約手續受理日、把前處理的平均值或標準差用包含驗證資料在內的整體來計算、或是不考慮時間順序、隨機分割時間序列資料，都會造成這種情況。過度配合訓練資料是過度擬合，其原因不在於「使用了不該用的資訊」，而在於「配合過頭」。維度增加導致所需資料量膨脹的是維度的詛咒，兩者的原因都與資料洩漏不同。

MLOps是這樣一種想法：不把部署模型當成終點，而是持續監控輸入資料的分布、預測的傾向、乃至業務指標，一旦出現落差就更新訓練資料重新製作模型，再次部署，把這樣的循環當作機制持續運轉。因為世界會改變，輸入的傾向也會跟著改變，精確度會在不知不覺間下降，因此只確認一次是不夠的。租借運算資源是雲端的使用，把執行環境整合以便重現則是Docker的角色，兩者雖是支撐MLOps的工具，但本身並不是MLOps的定義。

BPR即企業流程再造，指的不是局部改善既有業務程序，而是回溯到「這項業務是為了什麼」，把流程本身重新設計的作為。若在保留既有程序的情況下疊加AI，有時只會增加人工謄寫AI輸出結果的工序，而看不出效果，AI導入的成敗，往往取決於這一點而非精確度。聽取需求屬於掌握利害關係人需求的範疇，整理成可供學習的形式屬於資料準備，兩者都不是業務流程再設計本身。

瀑布式開發是從需求定義開始依序固定各工程、以不回頭為前提推進的方式。然而AI開發具有「不實際訓練看看就不知道能達到什麼精確度」的性質，因此無法事先確定成果物與需求。於是探索與PoC的階段會採取以短週期反覆進行的敏捷形式，等精確度有了眉目後，再固定正式開發工程的做法便應運而生。這種性質也直接影響到開發委託該採用承攬契約還是準委任契約的契約設計。

Docker是把包含應用程式與函式庫的執行環境整合成容器的技術。由於相同的容器可以在開發機與正式環境上運作，因此能減少因版本差異造成「在自己的環境明明可以動」這類落差。把過程與結果連同說明文留存為一份文件的是Jupyter Notebook，做成可透過HTTP呼叫的形式是Web API，只在需要的時間內租用運算資源則是雲端的使用，這些都是AI開發中使用的其他工具。

語料庫是指為自然語言處理而蒐集並整理的大量文章資料。依用途不同，有時也會附上詞性或句法資訊。一般為研究或開發而公開的資料集合是開放資料集，也包含圖像與語音，並不限於文章。單字的向量表示是學習的成果物，並非資料的集合；形態素解析則是處理文章的一種手法，兩者的定義都與語料庫不同。順帶一提，語料庫也有授權與使用條款，能否商用或再散布須個別確認。

開放式創新是不侷限於自家公司內部的研究開發、積極引入外部技術、知識與人才以創造價值的想法。課綱把它與產學合作、以及和其他企業或其他業種的合作並列在同一個中項目，與大學等研究機構的共同研究、或與擁有自家所沒有之資料與通路的對象組合，都是實現的手段。把成果物免費公開屬於開放原始碼的想法，方向與引入外部資源正好相反。公司內跨部門體制與運用公開資料集，都不是指與公司外部主體合作本身。

匿名加工資訊是經過加工使特定個人無法被識別、且原始個人資訊也無法還原的資訊。由於已加工到這種程度，只要辦理規定手續，就能在未經本人同意的情況下提供給第三方。另一方面，假名加工資訊是加工到若不與其他資訊對照就無法識別特定個人的程度，例如刪除姓名，加工手續較輕、能保留分析價值，但相對地原則上不能提供給第三方，設想的是在事業者內部作分析使用。可以這樣記憶：加工程度越輕，就越不能對外提供，比較不容易搞混。

個人識別符號包括指紋資料、臉部辨識資料、將DNA鹼基序列轉換而成的符號等身體特徵資料，以及My Number（日本個人編號）、護照號碼、駕照號碼等分配給個人的號碼。這些單獨就屬於個人資訊，因此「沒有姓名就不是個人資訊」的理解是錯誤的。是否屬於個人資訊，也不是由取得時是否有同意來決定，更不是做成資料庫後才變成個人資訊。順帶一提，經系統性整理、能夠檢索的狀態稱為個人資料，會被課以額外的義務。

GDPR是歐盟的一般資料保護規則，是與日本個人資訊保護法不同、屬於歐盟的法令。其特色在於具有域外適用效力，只要有向歐盟境內的人提供商品或服務、或是監控歐盟境內人士行為等情事，即使是在日本國內開發的事業者也可能適用。因此不能只憑據點是否在歐盟來判斷是否為適用對象。它也並非日本法律的擴展，也不是沒有拘束力的方針，這些都值得留意。

著作權法第30條之4規定，若使用目的不是為了自己或他人享受著作物所表現的思想或情感，可在必要限度內使用著作物。所謂享受，是指透過鑑賞著作物所表現的思想或情感，獲得知性或精神上的滿足，機器學習時將其作為資料讀入的行為，被歸類為不屬於此類。同條第2款明確列出資訊解析，訓練用資料的製作與訓練即定位於此。是否免費公開、是否以營利為目的、份量多寡，都不是這項條文所規定的要件。

第30條之4設有但書：若依該著作物的種類與用途、以及使用的態樣來看，會不當損害著作權人的利益，則不適用此限。因此不能說「只要是為了AI訓練，任何使用方式都自由」。例如，若不購買為資訊解析而銷售的資料庫，直接複製後用於訓練，就會損及該資料庫的市場，被認為適用但書。此外，即使訓練這個輸入階段合法，若生成物與既有著作物相似，在生成或利用這個輸出階段，仍會另外產生著作權侵權的問題。輸入與輸出是分別評估的。是否有償購入，並不是決定此條文是否適用的判斷基準。

著作權是保護人類創作性表現的制度，因此僅由AI自動輸出的東西並不構成著作物。另一方面，若人類的參與程度足以說是賦予了表現上的本質特徵，就有被認定具有著作物性的餘地。判斷的關鍵在於創作性貢獻，指示與試錯的具體程度、對生成物的選擇或修改程度等，會被個別檢視。因此，「永遠不會是著作物」的理解，以及「下指示的人永遠享有權利」的理解，都是錯誤的。此外，除著作權法外，所使用服務的使用條款有時也會另外規定生成物的處理方式，兩者都需要確認。

職務發明是指員工作為職務所完成的發明。取得專利的權利原則上歸屬於作為發明人的員工，但只要事先在工作規則等規定，也能使其自發生之時起就歸屬雇主。在此情況下，員工被認可擁有獲得相當金錢及其他經濟上利益的權利，並非可以無償剝奪權利的制度。此外，權利也並非永遠歸屬雇主、亦非完全沒有歸屬雇主的餘地，是否訂有規定會改變處理方式，這正是重點所在。

營業秘密的3項要件為：作為秘密受到管理（秘密管理性）、屬於對事業活動有用的技術或營業資訊（有用性）、未被公開知悉（非公知性），須同時滿足這3項才受到保護。新穎性與進步性是取得專利的要件，並非營業秘密的要件。專利是以公開內容換取獨佔的制度，相對地營業秘密則是靠不公開來保護的制度，因此像已訓練模型的權重或前處理的巧思這類不想公開的資訊，就要靠營業秘密來保護。

限定提供資料是指以事業形式提供給特定對象、以電磁方式相當程度累積並受管理的資訊。這是為保護資料買賣或共享等交易而設的分類，其意義在於即使未完全滿足營業秘密的3項要件，也可能受到保護。因為既然要提供給多方對象，就不一定能嚴格滿足非公知性。只在自家公司內部作為秘密封閉保管的資訊，屬於營業秘密的保護範疇，這項分類也與專利的申請或登記與否無關。

承攬契約是約定完成工作的契約，若未完成就無法請求報酬，且對不符合契約內容的成果物負有責任。準委任契約是委託處理事務的契約，約定的不是完成，而是以善良管理人的注意義務執行業務。由於AI開發要實際訓練過才知道能達到的精確度，因此常見的做法是：探索與PoC階段採準委任契約，規格已固定的實作工程則採承攬契約。日本經濟產業省的AI・資料使用相關契約指引，也提出了分階段簽約的模式。

硬法是由國家制定、違反時會受到強制力約束的法令，個人資訊保護法或著作權法都屬於此類。軟法則是像指引、業界自主規範、企業行為準則這樣，不具法律拘束力的規範。軟法並非法令，因此「有罰則的法令與無罰則的法令」這種切分方式並不適用。這也不是國內與國際的區別，也不是新舊的區別。在技術變化快速的領域，常見的做法是先以軟法指出方向，再把有必要的部分制定為法令，日本的AI政策基本上就是以軟法為中心。

風險基礎方法是依AI用途所帶來的風險大小，改變法規或因應強度的想法。即使是同樣的臉部辨識技術，用於解鎖裝置畫面與用於公共空間的常態監控，對人所造成的影響截然不同。若不分用途一律施加嚴格法規，就會連害處小的用法也一併擋下；若一律放寬，則會放任害處大的用法。因此，對影響大的用途課以較重的義務，對影響小的用途則予以較輕的處理。在事業者一方，也會依風險高低把公司內部的AI專案分類，只把高風險的案件送去嚴格審查，運用相同的想法。

隱私保護設計是這樣一種想法：不是等問題發生後才追加對策，而是從企劃或設計階段起，就把隱私保護納入其中。不蒐集資料的設計、在必要期間內刪除、以無法識別身分的形式處理，這些判斷若越晚導入，費用就會越高。公開用途或限制查閱權限，本身雖是正確的做法，但缺乏「何時導入」的觀點，因此不能算是這個想法的說明。它與從設計階段就納入資安對策的資安保護設計（Security by Design）是成對的概念。

取代敏感屬性發揮作用的特徵量，稱為代理變數。郵遞區號透過居住地區，與種族或所得有強烈相關，畢業學校或社團活動經歷有時也與性別相關。只要這類特徵量仍然存在，即使把性別欄或種族欄從輸入中拿掉，模型仍會間接學到相同的歧視。因此，公平性的確認不應是刪除輸入項目，而應是把輸出依屬性彙整、測量其差異。此外，公平性的定義有讓各屬性的通過率一致、讓錯誤率一致等多種，一般而言無法同時滿足所有定義，因此需要依用途選擇要採用哪一種定義並加以說明。

對抗式攻擊是在輸入中加入人眼幾乎察覺不到的微小變化，使運行中的模型做出錯誤判斷的攻擊。它瞄準的是推論階段，並不會改寫模型本身。在訓練資料中混入動過手腳的資料以扭曲訓練結果的是資料汙染，瞄準的是訓練階段。大量查詢以重現同等模型的是模型竊取，對模型參數或發布物動手腳的則是模型汙染，兩者瞄準的時間點與對象各不相同。針對任何一種攻擊的防範，都要依從設計階段就納入資安的資安保護設計想法來推進。

模型竊取是對目標模型輸入大量資料以蒐集輸出，在自己手上重現出功能相同模型的攻擊。被偷走的是模型本身，即使只是以公開API的形式提供，也可能成立。相對地，資料竊取是透過觀察輸出等方式，取出訓練資料中所包含資訊的攻擊，被偷走的是資料一方。在訓練資料中混入動過手腳資料的是資料汙染，對模型參數或發布物動手腳的則是模型汙染，前者瞄準訓練階段，後者瞄準訓練或發布階段。依「什麼被偷」「瞄準哪個時間點」來整理，就不容易搞混。

過濾氣泡是指，推薦演算法依使用者的喜好篩選資訊，結果使該人像被泡泡包住一樣，只看得到自己喜歡的資訊的現象，原因在於演算法的最佳化。使用者本身並不會察覺自己正被篩選。意見相同的人在封閉空間中反覆發言與共鳴、進而深信該意見是唯一正確答案的是回聲室效應，其原因在於人有物以類聚的傾向。偽造影像或音訊被當作真的接受，是深偽與假新聞的話題；判斷依據無法追溯，是黑箱問題，這些都屬於不同中項目的話題。

深偽是指利用深度學習，製作出彷彿真實存在的人物說著沒說過的話、做著沒做過的事的影像或音訊，以及這種生成物本身的技術與稱呼。其核心在於冒充真實人物，這與生成不存在人物的臉孔目的不同。它被用於毀謗名譽、詐騙、干預選舉，並大幅提升假新聞的說服力。作為對策，除了研究偵測技術外，也在推動於拍攝器材或生成階段就嵌入來歷資訊，使事後能驗證是否遭到竄改的方向。文章摘要與判斷依據的可視化，都不是濫用的話題。

資料來歷是指，哪些資料從何處取得、經過怎樣的加工後用於訓練的記錄。若沒有留下這些記錄，一旦輸出出現問題，就無法追溯到造成問題的資料，也無從修正或說明。透明性不僅是公開模型內部這麼簡單，還包含依對象說明「用途為何」「以什麼資料製作」「限制何在」。減少運算資源、加快推論速度、增加資料量，都不是記錄來歷的目的。此外，也應一併掌握可追溯性，也就是使人能夠追蹤「從哪些資料、經過哪個模型、得出哪個判斷」的機制。

倫理評估是在AI企劃階段，找出並評估可能設想到之影響或風險的程序，並依評估結果改變審查的嚴格程度。運用開始後監看輸出傾向與客訴的是監控，以獨立於負責部門的立場確認是否依方針運用的是對AI的稽核，把自家方針整理成文件對外呈現的則是AI政策，這些都是構成AI治理的其他要素。除此之外，還有在判斷關鍵處保留人類介入、使事後能重建模型的可重現性、以及能追溯判斷路徑的可追溯性，並列其中。