ＡＩ、1970年代の問題に直面－アップルカードの性差別疑惑が示す

米アップルが米銀ゴールドマン・サックス・グループと共同開発した「アップルカード」は、シンプルさと透明性を売り物にし、これまでの常識を覆す新しいクレジットカードサービスだ。しかし、同カードを運営するゴールドマンにとっては頭痛の種となっている。

　　同カードを巡っては、アップルの共同創業者スティーブ・ウォズニアック氏などから与信限度額を設定するアルゴリズムが性差別をしているのではないかという不満が出ており、ニューヨーク州当局が調査に乗り出した。

　　ウォズニアック氏やハイテク起業家のデービッド・ハイネマイヤー・ハンソン氏はツイッターで、両氏共に妻と銀行口座などを共有し、合算で所得税申告を行っているにもかかわらず、両氏の妻に与えられた利用限度額は相当低かったとし、ウォズニアック氏は、他の金融機関では自分と妻は平等に扱われているとも指摘した。

　　ゴールドマンは、何も間違ったことはしていないとの見解を示している。アップルカードの入会審査や与信枠を決めているのは同社だが、意図的に女性を差別したという証拠はない。しかし、批判的な向きはそこがポイントではないかと指摘する。与信枠などを設定する複雑なアルゴリズムが不注意に、あるグループに不利な結果をもたらす可能性があるからだ。

　　ブルッキングス研究所技術革新センターのフェロー、ニコル・ターナー・リー氏は米下院金融委員会で「機械は同じ状況にある人や物を別々に扱うことができるため、アルゴリズムによる意思決定という現実がわれわれの期待に届かない、または単に間違っているという厄介な例が調査で明らかになり始めている」と述べた。

　　今回の問題の背景の一つには、アップルカードでは家族間での口座共有が認められていないことがあり、これが家族間で与信限度額が大幅に異なる事態を引き起こしているのかもしれない。クレジットカード会社の多くは家族間での口座共有を認めており、ゴールドマンはこの選択肢の提供を検討していると説明した。

　　またゴールドマンは、与信限度額が顧客の予想よりも低い場合は与信判断を見直すとツイッターで表明。「与信審査は性別などの要因に基づいて行ったことはなく、これからも決してない。実際、アップルカードの申請過程で、申請者の性別や配偶者の有無などの情報は分からない」とコメントした。

　　今回の件でゴールドマンは、金融で最も扱いが難しい法律の一つである信用機会均等法と真正面から向き合うことになった格好だ。これは米国で1970年代に成立した法律で、与信判断において性別や既婚・未婚、人種や肌の色、宗教、出身国などによる差別を禁止している。

　　調査会社エクスペリアンが16年に発表したリポートによると、女性は男性よりも信用スコアが高く、負債が少ない上に、住宅ローンの延滞率が低いという。それでも米連邦取引委員会（ＦＴＣ）は、女性が与信判断において困難に直面し続ける可能性があると警告している。

原題：Apple Card Gender-Bias Claim Shows AI Still Faces ’70s Issue (1)　（抜粋）