AIの学習データにおける「社会的なバイアス」とは
AIの学習データにおける「社会的なバイアス」とは、AIの学習するデータの中に、社会や文化により形成されたバイアス（先入観・偏見など）が入ってしまうことで、客観的に正確な判断や評価ができなくなることです。
人工知能 （AI） が急速に発展する現在、その技術は様々な分野で活用され、私たちの生活に大きな影響を与えていますが、そこには倫理的な課題も存在しており、そのうちの1つが「社会的なバイアス」です。
今回は、AIの学習データにおける社会的なバイアスの概念、原因、影響、そして対策について詳細に解説していきますのでぜひ最後まで読んでご参考になさってください。
AIの使い方だけでなく、AIが抱える問題点も把握することでより効率的に、よりリスクを抑えた使用ができるようになるでしょう。
INDEX
社会的バイアスとは
社会的バイアスとは、社会や文化によって形成される偏見のことで、個人の判断や行動に影響を与える社会的要因となりえます。
社会的バイアスにはさまざまな種類がありますが、以下に一例を挙げます。
社会的望ましさのバイアス
社会的望ましさのバイアスとは、自分が他者から好意的に見られる方法で質問に答えようとする傾向のことです。
「良い行動」を過大報告したり「悪い行動」や望ましくない行動を過小に報告するといったことで表されます。
社会的望ましさのバイアスは、さまざまな場面で観察されていますが、以下のようなことが挙げられます。
- アンケートや調査で、自分の性格や能力を良い方に評価する
- 面接や採用試験で、自己PRや志望動機を良い方にアピールする
- 職場での評価や昇進で、自分を良く見せようとする
社会的望ましさのバイアスは人間の自然な傾向であるため、完全に排除することはできませんが、社会的望ましさのバイアスの存在を認識し影響を抑える努力をすることが重要です。
内集団バイアス
内集団バイアスとは、自分が所属する集団（内集団）のメンバーの方が、それ以外の集団（外集団）のメンバーに比べて人格や能力が優れていると認知する現象です。
内集団バイアスは、さまざまな場面で観察されています。以下のようなものです。
- 自分と共通点を持つ者を好む
- 自分の所属する集団の発展を望む
- 自分の集団の文化や価値観を正しいと信じる
集団で協力して生きてきた人類にとっては、同じ集団に属する者を優遇することで集団の結束を強め、外敵から身を守りやすくなることから、人類が進化の過程で獲得した生存戦略の一つと考えられています。
内集団のメンバーを優遇して集団の結束力を高めることで、生存率を向上させてきたという考え方です。
外集団バイアス
外集団バイアスは、内集団バイアスの悪いところをとったとも言える現象です。
内集団バイアスによって、自分の所属する集団のメンバーを優位に評価する一方で、外集団のメンバーは劣位に評価してしまいます。
それが攻撃的に作用することもあるため、内集団バイアスの一部ではなく、別で考えた方がいいという意見もあるため取り上げました。
ステレオタイプ
ステレオタイプとは、特定の集団に属する人々や特定の属性を有する人々（性別、世代、国籍、職業など）に関する過度に一般化された信念のことです。
ステレオタイプは、以下の特徴があります。
- 集団全体には当てはまらないことが多い
- 偏った情報や知識に基づいていることが多い
- 誇張されていることが多い
ステレオタイプは、属性に基づいて不当な評価や扱いが行われる状況を生み出してしまいます。
この他にも様々なバイアスが存在しますが、AIの学習データにこれらのバイアスが含まれている場合、AIは偏った学習を行なってしまいます。
関連記事：【ChatGPT】逆にAIにバイアスを指摘してもらうプロンプト｜例文付き・是非コピペ
学習データにおけるバイアスの原因
学習データが公平であればいいのですが、なかなかそのようにはいきません。
ここでは、AIがどのように学習データによるバイアスを持ってしまうのかを説明します。
データ収集過程のバイアス
AIのデータ収集過程のバイアスとは、データ収集を行う際に発生する偏りのことで、AIの学習や判断に悪影響を及ぼす可能性があります。
データ収集過程のバイアスには、以下のようなものがあります。
データの選択バイアス
データ収集を行う際に、特定の属性やグループに偏ってデータを収集してしまうことで発生するバイアスです。
例えば、顔認識AIを開発する際に大人の顔の画像ばかりを収集してしまった場合、小さい子どもの顔の画像を正しく認識できなくなる可能性があります。
データの収集方法のバイアス
データ収集を行う際に、特定の属性やグループに有利な方法でデータを収集してしまうことで発生するバイアスです。
例えば、信用度を算出するAIを開発しようとした際に、クレジットカード利用者のデータを収集すると、クレジットカードを持っていない人や、あまり利用していない人に対するスコアが不当に低くなる可能性があります。
データの処理方法のバイアス
データ収集後に、そのデータを処理する際、特定の属性やグループに偏った方法で処理してしまうことで発生するバイアスです。
例えば、言語モデルを開発しようとした際に、特定の言語や文体に偏ったテキストデータを処理してしまうと、その言語や文体に慣れていない人に対して処理結果が不当になる可能性があります。
関連記事：LLM（大規模言語モデル）入門〜生成AI時代に遅れないために〜
データ収集過程のバイアスが発生する原因
AIのデータ収集過程のバイアスが発生する原因としては、以下のようなものが挙げられます。
データ収集者の意識や偏見
データ収集を行う人は、無意識のうちに自身の意識や偏見をデータに反映してしまうことがあります。
例えば、顔認識AIを開発しようとした人が、顔の画像を収集する際に「美人」や「ハンサム」といった基準を持ってしまうと認識精度が低くなる可能性があります。
データ収集方法の限界
現実世界からデータを収集する際には、どうしても限界があります。
例えば信用度算出AIを開発する際に、クレジットカード利用者のデータの方が収集しやすく、クレジットカードを利用していない人のデータは収集することが難しいため、バイアスが起こりえます。
AIのデータ収集過程のバイアスは、AIの倫理的な開発や活用において重要な課題の1つです。
今後AIの活用が拡大していく中で、バイアスを防止するための取り組みが重要になると考えられます。
歴史的・文化的背景の影響
過去の社会的規範や文化的背景がデータに反映されることも、バイアスの一因です。
歴史的な偏見や差別がデータセットに組み込まれると、AIはこれらを「正常」と認識し、学習過程で再現してしまいます。
AIの歴史的・文化的背景の影響によるバイアスの原因としては、以下のようなものが挙げられます。
AIの開発者や利用者の意識や偏見
AIの開発者や利用者は、自ら学んできた歴史や文化を無意識のうちにAIに反映してしまうことがあります。
その結果、開発者が生まれ育った環境における集団が有利になるような学習をさせてしまう可能性があります。
AIが利用される社会や文化の偏り
AIが利用される社会や文化には、必ずしも公平性や多様性が担保されているわけではありません。
例えばAIを使用する国や地域が偏っている場合、その言語や文化が優位であるという価値観を反映した結果を生成してしまう可能性があります。
社会的バイアスの影響
AIが社会的バイアスを学習してしまうとどのような影響があるのかをここで説明します。
不公平な判断・決定
AIがバイアスを含むデータから学習すると、その判断や決定に不公平が生じます。
AIに企業の採用選考を行わせようとしても、そのAIがバイアスを持っている場合、能力に関わらず所属集団などの間接的肩書きで候補者を選別してしまう恐れがあります。
社会的信頼の低下
バイアスを含むAIの使用は、社会全体の信頼を損なうことにも繋がります。
AIによる偏見が明らかになると、AI技術自体への不信感が高まり、その普及や発展に悪影響を及ぼす可能性があります。
AIが広まってきている中で、社会的信頼を失うことは大混乱を引き起こしかねません。
なぜなら既に「弱いAI（一部機能に特化したAI）」は浸透しており、その大部分が信用できないと判断される可能性があるためです。
関連記事：AGIとは？Google DeepMindの論文「AGI（汎用人工知能）のレベル」を読むために必要な知識について解説
AIのバイアスへの対策
AIがバイアスを持ってしまうリスクや影響を最小限に抑えるための手法として、以下のようなことが考えられます。
データセットの多様性の確保
バイアスを避けるためには、多様な背景を持つ個人からのデータを平等に収集することが重要です。
異なる文化、性別、年齢層などからのデータをバランスよく取り入れることで、AIの公平性が向上します。
そのためには、多くの角度からの学習が必要となりますが、学習過程でバイアスが影響を持ってしまう可能性があります。
それを避けるための手法として考えられることが下の段落です。
AIの学習過程の監視と調整
データセットの多様性を得るためには、AIの学習過程を日常的に監視し、バイアスが生じていないかをチェックすることが重要です。
さらにバイアスが確認された場合には、学習アルゴリズムの調整を行うことなどで、公平性を確保する必要があります。
しかしここで問題となるのが、開発者自身のバイアスです。そのための教育や意識の向上が求められます。
関連記事：プロンプトエンジニアになるために必要な7つのスキル
開発者・利用者の教育と意識の向上
AI開発者に対する教育と意識向上も、バイアス対策の重要な要素です。
AIの可能性とリスクを理解し、倫理的な利用を心がけることが求められます。
ただしAIは、利用者が学習させることもできます。
利用者側もAIの構造とまでは言いませんが、ある程度の仕組みを知っておくことが推奨されます。
関連記事：ChatGPTの仕組みを分かりやすく解説
AIの学習データにおける「利用者の悪意によるバイアス」
上記のAIの学習を、利用者が無意識で行なっている場合は仕方ない部分もありますが、悪意を持って学習させることも懸念されています。
利用者が意図的に、不正確な情報や偏った情報を提供することによって「バイアス」を作りあげてしまうことです。
学習アルゴリズムそのものの改変はできなくても、フェイクニュースの拡散などにより、AIはそれを学習データとして取り込んでその影響を受けてしまった結果、偏った意思決定を行う可能性があります。
その影響を最小限に留めるためにも、AIの仕組みを大枠でも知っておくことが推奨されています。
関連記事：LLM（大規模言語モデル）入門〜生成AI時代に遅れないために〜
まとめ
AIの学習データにおける社会的なバイアスは、AI技術の公平性と信頼性を脅かす要因となります。
バイアスの原因を理解し適切な対策を講じることにより、より公正で信頼性の高いAIの実現が可能となり、バイアスによる影響も抑えることができます。
データの多様性の確保、学習過程の監視、教育と意識の向上により、AIの持つ潜在的なリスクを最小限に抑えることができます。
これらの取り組みを通じて、健全なAI技術の発展と健全な社会への貢献を意識していきましょう。
関連記事：プロンプト文例集「プロンプトパーク」の使い方・おすすめの人を紹介！
