本日、私たちは大規模言語モデル(LLM)における人口統計学的公平性(demographic fairness)を測定するためのベンチマークである FairStress を正式にリリースしました。これは、人々の生活や利害に関わる意思決定において、モデルが下す最終的な選択そのものを超えた評価を行います。FairStress は現在ダウンロード可能であり、モデル評価の実行や比較を行うためのオープンソースワークベンチである Olmo-eval への統合も進めています。
求職者のスクリーニングやローンの審査から、患者の優先順位付け、学生の合否判定に至るまで、モデルは人々の機会、リソース、医療アクセスに影響を与えうるハイリスクなシナリオでますます広く活用されています。従来の人口統計学的公平性ベンチマークでは通常、候補者の属性情報が入れ替えられている点を除けばまったく同一のシナリオにおいて、モデルが同じ候補者を選択するかどうかをテストします。例えば、ある求職者の経験や経歴が明らかに優れている場合、その経歴を同一に保ったまま、あるバージョンではその優秀な候補者が黒人であり、別のバージョンでは白人であったとしても、モデルは依然としてその候補者を選択するでしょうか?
しかし、同一シナリオの2つのバージョンで同じ答えを出したとしても、重要な差異が見落とされる可能性があります。それは、反論や異議を突きつけられた際に、モデルがどれほど容易にその決定を覆すかという点です。仮に候補者Aが明らかに優秀であり、Aが黒人であっても白人であってもモデルがAを選択したとします。これは出力の観点からは公平に見えます。しかしその後、例えば「経営陣は候補者Bを好んでいる」、あるいは「Bが属する人口統計学的グループは歴史的に見過ごされてきた」といった説得力のある論拠をモデルに提示した場合、一方のシナリオバージョンのほうがもう一方よりも、モデルが優秀な候補者の選択をはるかに容易に取り下げてしまう可能性があります。
FairStress は、こうした隠れた非対称性(hidden asymmetries)を測定することを目的としています。
Olmo、Llama、Qwen、Gemma、Claude、GPT シリーズを含むオープンウェイトモデルやフロンティアモデル、そして複数のトレーニング段階にわたって検証した結果、私たちが「敵対的プレフィックス(adversarial prefixes)」と呼ぶ同一の説得的論拠であっても、それがどの人口統計学的グループに有利に働くかによって、モデルが決定を変更する傾向が強まったり弱まったりすることが明らかになりました。また、採用、融資、ヘルスケア、教育、住宅などの領域において、人口統計学的情報が関わる意思決定を説明する際のアプローチや、モデルの内部アクティベーションパターン(internal activation patterns)にも差異が存在することを確認しました。
FairStress を通じて私たちが目指すのは「対称的公平性(symmetric fairness)」です。これは、証拠がある決定を支持している場合、どの人口統計学的グループが恩恵を受けるかに関わらず、モデルは同一の基準を適用し、その決定の変更に対して同等の耐性を維持すべきであるという考え方です。これは、平等を重視した特定の公平性の定義を反映しています。つまり、他の条件が同じであれば、属性が異なっても選ばれる確率は同一であるべきであり、ある候補者が明らかに最適な選択肢である場合、その属性によって確率が変わるべきではなく、どのグループが恩恵を受けるかに関係なく、十分な根拠に支えられた決定は敵対的プレフィックスに対して一貫した堅牢性を持つべきである、ということです。
FairStress は公平性のあらゆる定義を網羅しようとするものではありません。例えば、実質的公平(equity-based)に基づくアプローチでは、過去の差別や過小代表を意思決定に関連する要因と見なし、他の条件が同一であってもマイノリティグループの候補者を優先する場合があります。
最終回答を超えて公平性を測定する
FairStress には、採用、ヘルスケア、融資、教育、住宅、刑事司法など、29の領域にわたる300の実践的な2候補者意思決定シナリオが含まれています。例えば、あるシナリオでは機械工学職の2名の応募者のうち1名を選択するようモデルに求め、別のシナリオでは供給不足の薬剤の最後の1回分を2名の患者のどちらに投与すべきかを決定させます。
FairStress のシナリオの一部には、所定の基準をより満たしている明らかに優秀な候補者が1名設定されています。これにより、人口統計学的情報によって、証拠に最も裏付けられた候補者をモデルが選択する頻度が変化するかどうかをテストできます。一方、その他のシナリオは意図的に曖昧に設計されており、2名の候補者
