AIの社会実装と法律・倫理

1. AIプロジェクトの進め方とデータの扱い

AIを企画から運用まで運ぶ道筋を、CRISP-DM・PoC・MLOps という3つの言葉で押さえます。学習データを集めるときの落とし穴も一緒に見ます。

AIプロジェクトは、モデルを作るところから始まりません。まず「誰のどんな困りごとを、どうなったら解けたと言えるのか」を決めるところから始まります。シラバスの中項目35でも、キーワードの筆頭に「AIのビジネス活用」と「ステークホルダーのニーズ」が並んでいます。ここを飛ばして精度の高いモデルを作っても、現場が本当に困っていたのは別のところだった、ということが起こります。ステークホルダーとは、経営層・現場の担当者・情報システム部門・顧客・規制当局など、そのAIの影響を受ける関係者すべてを指します。関係者ごとに「成功」の定義が違うので、着手前に目標と評価の物差しをそろえておく必要があります。

AIを入れれば業務がよくなる、とは限りません。今の業務手順をそのまま残したままAIを載せると、AIの出した答えを人が手作業で転記する工程が新たに増えるだけ、ということが実際に起こります。そこで出てくるのがBPR（ビジネスプロセス・リエンジニアリング）です。BPRは、既存の業務プロセスを部分的に改善するのではなく、目的にさかのぼって業務の流れそのものを設計し直す考え方です。AI導入で効果が出るかどうかは、モデルの精度よりも、業務プロセスを組み替えられたかどうかで決まる場面が少なくありません。

データ分析プロジェクトの標準的な進め方として、シラバスはCRISP-DMを挙げています。CRISP-DMは、ビジネス理解・データ理解・データ準備・モデリング・評価・展開という6つの段階からなります。大事なのは、この6つが一方向に流れるだけではなく、前の段階へ戻りながら反復する円環として描かれている点です。データを見て初めて課題設定の甘さに気づく、評価してみて特徴量の作り直しが要ると分かる、ということが普通に起こるからです。機械学習の本番運用まで含めて品質保証の観点を足したものがCRISP-ML(Q)で、シラバスにはCRISP-MLとして載っています。

本格的な開発に入る前に、小さく作って確かめる工程をPoC（Proof of Concept、概念実証）と呼びます。PoCの目的は完成品を作ることではなく、「そもそもこのデータでこの精度は出るのか」「出たとして業務は回るのか」を、少ない投資で判断することです。したがってPoCには、始める前に「どの数字がどこまで届いたら次へ進む、届かなければやめる」という撤退の基準を置いておく必要があります。これがないと、成果の出ないPoCを延々と繰り返すことになります。

開発の進め方には、要件定義から順に工程を固めて後戻りしないウォーターフォールと、短い期間で作って試すことを繰り返すアジャイルがあります。AI開発は、やってみないと精度が分からないという性質を持つため、要件と成果物を先に固定するウォーターフォールとは相性がよくありません。実務では、探索とPoCの部分を反復的に進め、精度が見通せてから本開発の工程を固める、という組み合わせが取られます。この「精度を事前に約束できない」という性質は、後の講義で扱う開発委託契約の型にも直接効いてきます。

道具の側も押さえておきます。開発言語はPythonが事実上の標準で、試行錯誤の記録にはコードと実行結果と説明を1つの文書にまとめられるJupyter Notebookが使われます。ライブラリの版までそろえた実行環境をそのまま持ち運びたいときはDockerでコンテナにします。同じコンテナを開発機でも本番でも動かせるので、「自分の環境では動いたのに」という食い違いが減ります。計算資源はクラウドから必要な分だけ借り、学習済みモデルは Web API として公開して、他システムからHTTPで呼び出せる形にするのが一般的です。

作って終わりではありません。運用に入ると、世の中が変わって入力データの傾向が学習時とずれていき、精度が静かに落ちていきます。これを見張り、必要なら学習データを更新して作り直し、また配置する、という循環を仕組みとして回す考え方がMLOpsです。監視の対象はサーバーの死活だけではなく、入力データの分布、予測の分布、業務指標まで含みます。誰がいつどのデータでどのモデルを作ったかを記録しておくことも、MLOpsが担う仕事です。

体制も論点です。データサイエンティストは、統計や機械学習の知識に加え、業務の理解とデータ基盤の扱いを併せ持つ職種として位置づけられます。ただし1社ですべての知見をそろえるのは難しいので、シラバスは「産学連携」「他企業や他業種との連携」「オープン・イノベーション」を並べています。オープン・イノベーションは、自社内の研究開発だけに閉じず、外部の技術・知識・人材を積極的に取り込んで価値を生む考え方です。産学連携は大学など研究機関との共同研究、他業種との連携は自社にないデータや販路を持つ相手との組み合わせを指します。

最後にデータです。教師あり学習に必要な正解ラベルを人手で付ける作業をアノテーションと呼びます。ラベルの付け方の基準が作業者ごとにぶれると、モデルの上限がそこで決まってしまうので、作業指示書と品質チェックの設計が要になります。ゼロから集める代わりに、公開されているオープンデータセットや、言語処理向けに大量の文章を集めて整理したコーパスを使う手もあります。ただし、どのデータにもライセンスと利用規約が付いているので、商用利用や再配布の可否を必ず確認します。

データの扱いでとくに怖いのがデータリーケージです。これは、予測時点では本来手に入らないはずの情報が学習データに混ざり込み、検証時の精度が実力よりずっと高く出てしまう現象です。解約予測に「解約手続きの受付日」を特徴量として入れてしまう、前処理の平均や標準偏差を検証データも含めた全体から計算してしまう、時系列データを時間を無視してランダムに分割してしまう、といった形で起こります。過学習は「訓練データに合わせすぎる」ことが原因ですが、データリーケージは「そもそも使ってはいけない情報を使っている」ことが原因で、両者は別物です。検証の数字が不自然に良いときは、まずリーケージを疑います。

import requests url = "https://example.com/v1/predict"payload = {"text": "this product works well"}res = requests.post(url, json=payload, timeout=10)print(res.status_code)print(res.json())

用語

ステークホルダーのニーズ

経営層・現場・情報システム部門・顧客など、そのAIの影響を受ける関係者それぞれが求めるもの。着手前に目標と評価の物差しをそろえる対象。

BPR

ビジネスプロセス・リエンジニアリング。既存の業務手順を部分改善するのではなく、目的にさかのぼって業務の流れ自体を設計し直す取り組み。

CRISP-DM

データ分析プロジェクトの標準プロセスモデル。ビジネス理解・データ理解・データ準備・モデリング・評価・展開の6段階を反復する。

CRISP-ML

CRISP-DMを機械学習の本番運用まで広げ、各段階に品質保証の観点を加えたプロセスモデル。CRISP-ML(Q)とも書かれる。

PoC

概念実証。本格開発の前に小規模に試して、実現可能性と効果を確かめる工程。始める前に次へ進む条件と撤退の条件を決めておく。

ウォーターフォール

要件定義から順に工程を固め、後戻りしないことを前提に進める開発の進め方。成果物と要件を先に確定できる案件に向く。

アジャイル

短い期間で作って試すことを繰り返す開発の進め方。やってみないと精度が分からないAI開発の探索段階と相性がよい。

Python

AI開発で事実上の標準となっている言語。機械学習やデータ処理のライブラリが充実している。シラバスの中項目35のキーワード。

Jupyter Notebook

コードと実行結果と説明文を1つの文書にまとめて残せる対話的な開発環境。試行錯誤の過程を記録しながら分析を進められる。

Docker

アプリケーションとライブラリを含む実行環境をコンテナとしてまとめる技術。開発機と本番で同じ環境を再現できる。

Web API

学習済みモデルの機能を、HTTP経由で他システムから呼び出せる形で公開する仕組み。利用側はモデルの中身を知らずに使える。

MLOps

機械学習モデルの配置・監視・再学習・再配置を継続的に回す運用の考え方。入力データや予測の分布の変化も監視の対象にする。

データサイエンティスト

統計や機械学習の知識に加え、業務の理解とデータ基盤の扱いを併せ持つ職種。シラバスの中項目35のキーワード。

オープン・イノベーション

自社内の研究開発に閉じず、外部の技術・知識・人材を取り込んで価値を生む考え方。産学連携や他業種との連携がその手段になる。

アノテーション

生のデータに正解ラベルや領域情報を人手で付ける作業。基準のぶれがそのままモデルの性能の上限になるため、指示書と品質管理が要る。

オープンデータセット

研究や開発のために公開されているデータの集まり。利用にはライセンスと利用規約の確認が必要で、商用利用の可否は個別に異なる。

コーパス

自然言語処理のために集められ、整理された大量の文章データ。用途に応じて品詞や構文の情報が付与されていることもある。

データリーケージ

予測時点では手に入らないはずの情報が学習データに混入し、検証時の精度が実力より高く出てしまう現象。原因は過学習とは異なる。

例題

出典・根拠：一般社団法人日本ディープラーニング協会「G検定 試験出題範囲（シラバス 2024）」第1.4版（2026年5月11日） 技術分野　AI の社会実装に向けて　35. AI プロジェクトの進め方／一般社団法人日本ディープラーニング協会「G検定 試験出題範囲（シラバス 2024）」第1.4版（2026年5月11日） 技術分野　AI の社会実装に向けて　36. データの収集・加工・分析・学習

2. AIをめぐる法律と契約

個人情報・著作権・特許・営業秘密、そして開発を外部に頼むときの契約。AIを世に出すまでに必ず通る法律の関門を、制度の建て付けから押さえます。

個人情報保護法は、生存する個人に関する情報の取り扱いのルールを定めた法律です。まず用語の三段階を押さえます。個人情報は、生存する個人に関する情報で、特定の個人を識別できるものです。個人データは、その個人情報を検索できるように体系的に整理したもの（個人情報データベース等）を構成する個人情報です。保有個人データは、事業者が開示や訂正、利用停止などに応じる権限を持つ個人データです。義務の重さはこの順に増えていくので、手元のデータがどこに当たるかで、できること・しなければならないことが変わります。

「氏名が入っていなければ個人情報ではない」というのは誤りです。個人識別符号という区分があり、指紋データや顔認識データ、DNAの塩基配列を変換した符号のような身体的特徴のデータや、マイナンバー、旅券番号、運転免許証番号のような個人に割り当てられた番号は、それ単体で個人情報になります。また、人種・信条・社会的身分・病歴・犯罪の経歴・犯罪被害の事実など、不当な差別や偏見が生じうる情報は要配慮個人情報とされ、取得の場面から原則として本人の同意が要ります。

個人情報を扱うときは、利用目的をできる限り特定し、あらかじめ公表するか本人に通知しなければなりません。学習に使うつもりなら、そのことが利用目的の範囲に収まっているかを確認します。個人データを第三者に渡すときは、原則として本人の同意が必要です。ここで区別が要るのが委託です。利用目的の達成に必要な範囲で取り扱いを外部に委ねる委託は第三者提供に当たらず、本人同意なしに行えますが、その代わり委託元には委託先を監督する義務が生じます。クラウド事業者やアノテーション会社にデータを渡す場面は、この委託として整理されることが多い場面です。

本人の同意なしにデータを広く使いたいときの制度が、匿名加工情報と仮名加工情報です。匿名加工情報は、特定の個人を識別できないように加工し、かつ元の個人情報を復元できないようにしたものです。ここまで加工してあるので、本人の同意なしに第三者へ提供できます。仮名加工情報は、他の情報と照合しない限り特定の個人を識別できないように加工したものです。氏名などを削れば足りるので加工の手間は軽く、元データの分析価値を残せますが、その代わり原則として第三者への提供はできず、事業者の内部での分析利用が想定されています。加工の程度が軽いほど外に出せなくなる、と覚えると取り違えにくくなります。

GDPRは、EUの一般データ保護規則です。日本の個人情報保護法とは別の、EUの法令である点をまず押さえます。そのうえで、EU域内にいる人の個人データを扱う場合には、EU域外の日本企業にも適用されうるという域外適用の性質を持ちます。EU向けにサービスを提供している、あるいはEU域内の人の行動を監視しているといった事情があれば、日本国内で開発していても対象になり得ます。

著作権法に移ります。著作物とは、思想または感情を創作的に表現したもので、文芸・学術・美術・音楽の範囲に属するものです。ここで効いてくるのが創作性で、単なる事実やデータそのもの、ありふれた表現には著作物性が認められません。プログラムのソースコードは著作物になり得ますが、アルゴリズムそのものは表現ではないので著作権では保護されません。他人の著作物を無断で複製したり公衆に送信したりすれば著作権侵害になりますが、法律はいくつかの場合に権利を制限しています。

AI開発でいちばん重要な条文が著作権法 第30条の4です。この条文は、著作物に表現された思想または感情を自ら享受し、または他人に享受させることを目的としない場合には、必要と認められる限度で、方法を問わずその著作物を利用できると定めています。そして第2号に情報解析が明示されており、大量の著作物からデータを抽出して統計的に解析する行為、つまり機械学習のための学習用データの作成と学習がここに当たります。「享受」とは、著作物に表現された思想や感情を鑑賞して知的・精神的な満足を得ることを指し、学習のためにデータとして読み込む行為はそれに当たらない、という整理です。

ただし、これを「AI学習ならどんな利用でも自由」と読んではいけません。第30条の4には、当該著作物の種類および用途ならびに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない、というただし書きが付いています。たとえば、情報解析用に販売されているデータベースを買わずに複製して学習に使うような場合は、そのデータベースの市場を害するので、ただし書きに当たると考えられています。さらに、学習という入力段階が適法であっても、生成物が既存の著作物と類似していれば、生成・利用という出力段階では通常どおり著作権侵害が問題になります。入力段階と出力段階は別々に評価される、というのがこの分野の基本の型です。文化庁の「AIと著作権に関する考え方について」が、この整理を詳しく示しています。

生成物の側の論点がAI生成物の著作物性です。著作権は人間の創作的な表現を保護する制度なので、AIが自動的に出力しただけのものは著作物になりません。他方、人間が表現上の本質的な特徴を与えたと言える程度に関与していれば、その成果物に著作物性が認められる余地があります。判断の鍵になるのが創作的寄与で、指示や試行錯誤の具体性、生成物の選択や修正の度合いなどが個別に見られます。「AIが作ったものは常に著作物である」も「AIが作ったものは決して著作物にならない」も、どちらも誤りです。なお、学習や生成のためにサービスを使うときは、著作権法とは別に、そのサービスの利用規約が生成物の扱いを定めていることがあるので、両方を見る必要があります。

特許法は発明を保護します。発明は自然法則を利用した技術的思想の創作のうち高度なものとされ、特許を受けるには新規性（出願前に公然と知られていないこと）と進歩性（その分野の通常の技術者が容易に思いつくものでないこと）が要ります。学会発表やプレスリリースを先に出してしまうと自らの発明の新規性を失わせることがあるので、出願との順序が実務上の勘所になります。著作権が表現を保護し、出願も登録もなしに創作と同時に発生するのに対し、特許権はアイデア（技術的思想）を保護し、出願と審査を経て登録されて初めて発生します。両者は保護する対象も発生の仕方も違うので、AIの成果物は片方に当たり、もう片方には当たらないということが普通に起こります。

従業者が職務としてした発明を職務発明といいます。特許を受ける権利は原則として発明者である従業者に生じますが、あらかじめ勤務規則などで定めておけば、発生した時から使用者に帰属させることもできます。その場合、従業者には相当の金銭その他の経済上の利益を受ける権利が認められます。使用者が対価なしに権利を取り上げられる制度ではありません。

技術を守る方法は特許だけではありません。不正競争防止法は営業秘密を保護します。営業秘密と認められるには、秘密として管理されていること（秘密管理性）、事業活動に有用な技術上または営業上の情報であること（有用性）、公然と知られていないこと（非公知性）の3つをすべて満たす必要があります。学習済みモデルの重みや学習データの前処理の工夫のように、公開したくない情報はこちらで守ることになります。特許は公開と引き換えに独占を得る制度、営業秘密は公開しないことで守る制度なので、どちらを選ぶかは戦略の問題です。

3要件を満たさなくても、複数の相手に反復して提供されるデータには保護の道があります。同じ不正競争防止法の限定提供データがそれで、業として特定の者に提供する情報で、電磁的方法により相当量蓄積され、管理されているものが対象です。データを売買・共有する取引を保護するために設けられた区分で、秘密として囲い込む営業秘密とは想定している場面が異なります。また、AIとデータをめぐっては独占禁止法も論点になります。データを持つ事業者が競合の参入を難しくする形で取引を拒んだり条件を付けたりすると、競争制限や公正競争阻害性の観点から問題とされ得ます。

最後に契約です。AI開発を外部に委託するとき、精度をどこまで約束できるかが最大の争点になります。請負契約は仕事の完成を約束する契約で、完成しなければ報酬を請求できず、契約に適合しない成果物には修補などの責任を負います。準委任契約は事務の処理を委託する契約で、約束するのは仕事の完成ではなく、善良な管理者の注意をもって業務を遂行することです。AI開発では、学習してみるまで到達できる精度が分からないため、探索やPoCの段階は準委任契約で進め、仕様が固まった実装工程を請負契約にするという分け方がよく取られます。経済産業省の「AI・データの利用に関する契約ガイドライン」が、アセスメント・PoC・開発・追加学習という段階に分けた契約の型を示しており、シラバスにもこの名称で載っています。開発の前段でデータや情報を交換するときはNDA（秘密保持契約）を結び、納品後の面倒を見る範囲は保守契約で定めます。

自社が作ったAIをサービスとして提供する側に回ると、論点が変わります。SaaS型では、ソフトウェアの所有権を渡すのではなく、利用する権利を継続的に提供します。そのため、利用者が入力したデータを提供者が自社モデルの改善に使ってよいかというデータ利用権の定めが要になります。ここを利用規約で明確にしていないと、後から利用者との間で紛争になります。精度保証についても、開発委託の場合と同様に、どの条件下でどの指標がどの水準を満たすのかを具体的に書くか、あるいは保証しないことを明示するかを決めておきます。

用語

個人情報

生存する個人に関する情報で、氏名や生年月日などにより特定の個人を識別できるもの。個人識別符号が含まれるものもこれに当たる。

個人データ

検索できるように体系的に整理された個人情報データベース等を構成する個人情報。安全管理措置や第三者提供の規律がここに掛かる。

保有個人データ

事業者が開示・訂正・利用停止などに応じる権限を持つ個人データ。本人からの請求に対応する義務が生じる。

個人識別符号

指紋・顔認識データ・DNAの塩基配列を変換した符号や、マイナンバー・旅券番号などの番号。それ単体で個人情報になる。

要配慮個人情報

人種・信条・社会的身分・病歴・犯罪の経歴など、不当な差別や偏見が生じうる情報。取得の段階から原則として本人の同意が要る。

第三者提供

個人データを自社以外の者に渡すこと。原則として本人の同意が必要。委託や事業承継に伴う提供は第三者提供に当たらない。

委託

利用目的の達成に必要な範囲で個人データの取り扱いを外部に委ねること。第三者提供に当たらない代わりに、委託先を監督する義務が生じる。

匿名加工情報

特定の個人を識別できず、かつ元の個人情報を復元できないように加工した情報。本人の同意なしに第三者へ提供できる。

仮名加工情報

他の情報と照合しない限り特定の個人を識別できないように加工した情報。原則として第三者提供はできず、内部での分析利用が想定される。

GDPR

EUの一般データ保護規則。日本の法律ではないが、EU域内にいる人の個人データを扱う場合には域外の事業者にも適用されうる。

創作性

著作物と認められるための要件の一つ。単なる事実やありふれた表現には認められず、作り手の個性が表れている必要がある。

著作権法 第30条の4

思想または感情を自ら享受し他人にも享受させることを目的としない利用を認める規定。第2号に情報解析が明示され、ただし書きがある。

AI生成物

AIが出力した成果物。著作物性は人間の創作的寄与の有無で個別に判断され、常に著作物になるとも、決してならないとも言えない。

新規性・進歩性

特許の要件。新規性は出願前に公然と知られていないこと、進歩性はその分野の通常の技術者が容易に思いつくものでないこと。

職務発明

従業者が職務としてした発明。勤務規則等で定めれば権利を発生時から使用者に帰属させられるが、従業者には相当の利益を受ける権利がある。

営業秘密

不正競争防止法が守る情報。秘密管理性・有用性・非公知性の3要件をすべて満たす必要がある。公開せずに守る点が特許と対照的。

限定提供データ

業として特定の者に提供する、電磁的方法により相当量蓄積され管理されているデータ。営業秘密の3要件を満たさなくても保護されうる。

請負契約

仕事の完成を約束する契約。完成しなければ報酬を請求できず、契約に適合しない成果物には責任を負う。仕様が固まった工程に向く。

準委任契約

事務の処理を委託する契約。約束するのは完成ではなく、善良な管理者の注意をもって業務を遂行すること。探索やPoCの段階に向く。

AI・データの利用に関する契約ガイドライン

経済産業省が示した、AI開発とデータ提供の契約の考え方。段階を分けて契約する型を示す。シラバスに名称が載っている資料。

データ利用権

SaaS型のAIサービスで、利用者が入力したデータを提供者がどこまで使えるかを定める権利関係。利用規約で明確にしておく必要がある。

例題

出典・根拠：一般社団法人日本ディープラーニング協会「G検定 試験出題範囲（シラバス 2024）」第1.4版（2026年5月11日） 法律・倫理分野　AIに関する法律と契約　1. 個人情報保護法、2. 著作権法、3. 特許法、4. 不正競争防止法、5. 独占禁止法、6. AI開発委託契約、7. AIサービス提供契約／著作権法 第30条の4／文化庁「AIと著作権に関する考え方について」

3. AI倫理とAIガバナンス

法律で決まっていないところをどう律するか。プライバシー・公平性・安全性・透明性という論点と、それを組織で回す仕組みを見ます。

法律・倫理分野の後半は、法令に書かれていない領域の話です。ここでまず押さえるのがハードローとソフトローの区別です。ハードローは、国家が定め違反に強制力が及ぶ法令のことで、個人情報保護法や著作権法がこれに当たります。ソフトローは、ガイドライン・業界の自主規範・企業の行動指針のように、法的な拘束力を持たない規律です。技術の変化が速い分野では、法律を作って施行するまでの間に前提が変わってしまうため、まずソフトローで方向を示し、必要なところだけ法律にするという進め方が取られます。日本のAI政策は基本的にこのソフトロー中心です。なお2025年には、AIの研究開発と活用を推進するための法律が成立していますが、これは研究開発と利活用を後押しする推進法であって、行為を禁じて違反者を罰する規制法ではなく、罰則規定も置かれていません。この点は、リスクの大きさに応じて禁止や義務を課すEUの規則とは性格が異なります。総務省と経済産業省が示している事業者向けのガイドラインも、名前のとおりガイドラインであってソフトローです。

規制の考え方として重要なのがリスクベースアプローチです。これは、AIの用途がもたらすリスクの大きさに応じて規制や対応の強度を変えるという考え方です。同じ顔認識技術でも、スマートフォンの画面ロック解除と、公共空間での常時監視とでは、人に及ぶ影響がまるで違います。用途を問わず一律に規制すると、害の小さい使い方まで止めてしまってイノベーションを損ない、逆に一律に緩めると害の大きい使い方を放置することになります。そこで、影響の大きい用途には強い義務を、小さい用途には軽い扱いを割り当てます。事業者の側でも、社内のAI案件をリスクの高さで区分し、高リスクのものだけ厳しい審査に回す、という形で同じ考え方を使います。

プライバシーは、個人情報保護法が守る範囲より広い概念です。法律に触れていなくても、人が「そこまで見られたくない」と感じることはあります。対応の基本になるのがプライバシー・バイ・デザインで、問題が起きてから対策を足すのではなく、企画・設計の段階からプライバシー保護を組み込むという考え方です。データを集めない設計にする、必要な期間で消す、識別できない形で処理する、といった判断は後から入れるほど高くつきます。シラバスは、データ収集段階と推論段階で問題の所在が違うことも挙げています。集めるときの問題は、本人が知らないうちに撮られる・記録されることであり、推論するときの問題は、集めた情報から本人が明かしていない属性を推定してしまうことです。カメラ画像については、経済産業省などが公表しているカメラ画像利活用ガイドブックが、撮影していることの告知の仕方や、生活者とのコミュニケーションの取り方を具体的に示しています。

公平性は、AIの出力が特定の属性の人に不利に働かないかという論点です。原因は大きく2つに分けられます。1つはデータの偏りで、そもそも学習データが現実の人口構成を反映していない場合です。特定の層のデータばかり集まってしまうことをサンプリングバイアスと呼びます。もう1つは、モデルや設計の側で生じるアルゴリズムバイアスです。過去の採用実績を学習すれば、過去の人事判断に含まれていた偏りをそのまま再生産します。

ここで最も間違えやすいのが、性別や人種のようなセンシティブ属性を入力から取り除けば公平になる、という発想です。これは成り立ちません。郵便番号は居住地域を通じて人種や所得と強く相関し、出身校や部活動の履歴は性別と相関することがあります。こうした、センシティブ属性の代わりとして働いてしまう特徴量を代理変数と呼びます。代理変数が残っている限り、モデルは間接的に同じ差別を学習します。したがって公平性の確認は、入力の項目を削ることではなく、出力を属性ごとに集計して差を測ることで行います。さらに厄介なことに、公平性の定義は1つではありません。属性ごとの合格率をそろえる、属性ごとの誤り率をそろえる、同じスコアの人を同じ確率で扱う、といった複数の定義があり、一般にはこれらを同時にすべて満たすことはできません。どの定義を採るのかを、用途に照らして選んで説明することが求められます。

安全性とセキュリティでは、AI特有の攻撃を区別できることが問われます。Adversarial Attack（Adversarial Examples）は、人間の目にはほとんど分からない微小な変化を入力に加えて、モデルに誤った判定をさせる攻撃です。運用中のモデルの入力側を狙う攻撃で、モデルそのものは書き換えません。データ汚染は、学習に使われるデータに細工したものを紛れ込ませて、学習の結果を攻撃者の望む方向にゆがめる攻撃です。学習段階を狙う点が決定的に違います。モデル汚染は、モデルのパラメータや配布物そのものに手を入れて挙動を変えるものです。データ窃取は、モデルの出力を観察するなどして学習データに含まれていた情報を取り出す攻撃、モデル窃取は、大量に問い合わせて出力を集め、同等の働きをするモデルを手元に再現してしまう攻撃です。前者は学習データが、後者はモデル自体が盗まれます。これらへの備えも、設計段階からセキュリティを組み込むセキュリティ・バイ・デザインの考え方で進めます。

悪用の代表がディープフェイクです。深層学習を使って、実在する人物が言っていないことを言い、していないことをしているかのような映像や音声を作り出す技術と、その生成物を指します。名誉毀損や詐欺、選挙への干渉に使われ、フェイクニュースの説得力を跳ね上げます。対策としては、検出技術の研究に加えて、撮影機器や生成時点で来歴情報を埋め込み、後から改変を検証できるようにする方向が進められています。

透明性は、AIが何をどう判断したのかを外から分かるようにすることです。深層学習のモデルは、内部で何が起きているのかを人が追いにくいブラックボックスになりがちです。融資の審査や採用の選考のように、結果が人の生活を左右する場面では、なぜその結論になったのかを説明できることが求められます。これが説明可能性です。あわせて重要なのがデータの来歴で、どのデータをどこから取得し、どう加工して学習に使ったかを記録しておくことを指します。来歴が残っていなければ、問題が起きたときに原因のデータまでたどり着けません。透明性は、モデルの内部を公開することだけを意味するのではなく、何のために使っているのか、どんなデータで作ったのか、どこに限界があるのかを対象に応じて示すことまで含みます。

民主主義への影響として挙げられるのがエコーチェンバーとフィルターバブルです。エコーチェンバーは、同じ意見を持つ人どうしが閉じた空間で発信と共感を繰り返すうちに、その意見が唯一正しいものだと信じ込んでいく現象です。反響室で音が響き合う様子にたとえた言葉で、原因は人が似た者どうしで集まるという性質にあります。フィルターバブルは、推薦アルゴリズムが利用者の好みに合わせて情報を選別した結果、その人が泡に包まれたように自分好みの情報しか見えなくなる現象です。こちらの原因はアルゴリズムによる最適化であり、利用者は選別されていること自体に気づきません。原因がアルゴリズムの側にあるのはフィルターバブルのほうだ、という点が両者を分ける鍵です。

そのほかの価値も、シラバスは中項目として立てています。環境保護では、大規模モデルの学習が消費する電力と、それに伴う二酸化炭素の排出が気候変動の観点から議論されています。労働政策では、雇用が奪われるかどうかだけでなく、AIとの協働の形をどう設計するか、労働力不足を補う手段としてどう使うか、そして人がAIに頼りきることで自分の判断力や技能を失っていくスキルの喪失が論点です。その他の重要な価値としては、障害の有無や言語にかかわらず使えるようにするインクルージョン、自律型兵器をめぐる軍事利用、故人の映像や声を生成することの是非という死者への敬意、そしてAIの推薦や誘導によって人の選択が方向づけられることへの人間の自律性が挙げられています。

これらを個人の心がけに任せず、組織の仕組みとして回すのがAIガバナンスです。出発点はAIポリシーで、自社がAIをどう扱うのかという方針を文書にして公表します。個別の案件については、企画の段階で影響を洗い出す倫理アセスメントを行い、リスクの高いものは審査に回します。運用が始まったら、出力の傾向や苦情をモニタリングし、想定と違う挙動が出ていないかを見張ります。判断の要所には人間の関与を残し、AIの結論をそのまま実行するのではなく人が確認して覆せるようにします。作ったモデルを後から再び作れるように、データ・コード・設定・乱数の種まで残しておくことが再現性で、どのデータからどのモデルを経てどの判断が出たのかを追えるようにしておくことがトレーサビリティです。そして、これらが方針どおり運用されているかを、担当部署から独立した立場で確かめるのがAIに対する監査です。設計や評価に関わる人の顔ぶれが偏っていると見落としが生まれるため、ダイバーシティも体制づくりの要件として挙げられています。

用語

ハードロー

国家が定め、違反に強制力が及ぶ法令。個人情報保護法や著作権法がこれに当たる。改正には時間がかかる。

ソフトロー

ガイドライン・業界の自主規範・企業の行動指針など、法的な拘束力を持たない規律。変化の速い分野で先に方向を示す役割を担う。

リスクベースアプローチ

用途がもたらすリスクの大きさに応じて、規制や社内対応の強度を変える考え方。一律規制とも一律放任とも異なる。

価値原則

各国や各機関のAIガイドラインに共通して現れる、守るべき価値の柱。人間中心、公平性、透明性、安全性などが繰り返し挙げられる。

プライバシー・バイ・デザイン

問題が起きてから対策するのではなく、企画・設計の段階からプライバシー保護を組み込む考え方。

カメラ画像利活用ガイドブック

カメラ画像を扱う事業者向けに、告知の仕方や生活者とのコミュニケーションの取り方を示した資料。シラバスに名称が載っている。

サンプリングバイアス

データを集める過程で特定の層に偏りが生じ、学習データが現実の分布を反映しなくなること。公平性の問題の主要な原因の一つ。

アルゴリズムバイアス

モデルや設計の側に起因して不公平な出力が生じること。過去の判断を学習することで、その偏りを再生産する場合も含まれる。

センシティブ属性

性別・人種・年齢・障害の有無など、それによる不利益な取り扱いが許されない属性。公平性の評価はこの属性ごとに出力を集計して行う。

代理変数

センシティブ属性の代わりとして働いてしまう特徴量。郵便番号が居住地域を通じて人種や所得と相関する例が典型。

Adversarial Attack

人間には気づけない微小な変化を入力に加えて、運用中のモデルに誤った判定をさせる攻撃。Adversarial Examples とも呼ばれる。

データ汚染

学習に使われるデータに細工したものを紛れ込ませ、学習結果を攻撃者の望む方向にゆがめる攻撃。狙うのは学習段階である。

モデル窃取

対象のモデルに大量に問い合わせて入出力を集め、同等の働きをするモデルを手元に再現してしまう攻撃。

データ窃取

モデルの出力を観察するなどして、学習データに含まれていた情報を取り出す攻撃。盗まれるのはモデルではなくデータである。

セキュリティ・バイ・デザイン

設計の段階からセキュリティ対策を組み込む考え方。プライバシー・バイ・デザインと対になる概念。

ディープフェイク

深層学習を使い、実在する人物が言っていないことを言い、していないことをしているかのような映像や音声を作り出す技術とその生成物。

ブラックボックス

内部で何が起きているのかを人が追いにくい状態。深層学習のモデルは規模が大きく、判断根拠が直接には読み取れない。

データの来歴

どのデータをどこから取得し、どう加工して学習に使ったかの記録。透明性の確保と、問題発生時の原因追跡の土台になる。

エコーチェンバー

同じ意見を持つ人どうしが閉じた空間で発信と共感を繰り返し、その意見が唯一正しいと信じ込んでいく現象。

フィルターバブル

推薦アルゴリズムによる最適化の結果、自分好みの情報しか見えなくなる現象。原因がアルゴリズムの側にある点がエコーチェンバーとの違い。

倫理アセスメント

AIの企画段階で、想定される影響やリスクを洗い出して評価する手続き。結果に応じて審査の厳しさを変える。

人間の関与

AIの結論をそのまま実行せず、要所で人が確認し、必要なら覆せるようにしておくこと。影響の大きい判断ほど強く求められる。

トレーサビリティ

どのデータからどのモデルを経てどの判断が出たのかを、後から追跡できるようにしておくこと。

AIに対する監査

AIの開発と運用が方針どおりに行われているかを、担当部署から独立した立場で確かめる仕組み。

例題

出典・根拠：一般社団法人日本ディープラーニング協会「G検定 試験出題範囲（シラバス 2024）」第1.4版（2026年5月11日） 法律・倫理分野　AI倫理・AIガバナンス　8. 国内外のガイドライン、9. プライバシー、10. 公平性、11. 安全性とセキュリティ、12. 悪用、13. 透明性、14. 民主主義、15. 環境保護、16. 労働政策、17. その他の重要な価値、18. AIガバナンス

演習：この章の問題を解く

ランダム出題の演習ツールです（JavaScript が有効な場合に動きます）。上の「確認問題」はそのままでもすべて読めます。