Hemich

米国上院議員で大統領候補のエリザベス・ウォーレン氏は、Apple Cardの「性差別的」アルゴリズムは、その偏見が説明できないのであれば撤回されるべきだと述べた…

背景

この論争は、Ruby on Railsの開発者デビッド・ハンソン氏が、資産を共有しており妻の信用スコアの方が彼よりも高いにもかかわらず、ゴールドマン・サックスが彼に付与したApple Cardのクレジット限度額が妻の20倍であるとツイートしたことから始まった。

アップルの共同創業者スティーブ・ウォズニアック氏も同様の報告をしており、資産を共有しているため信用力は同等であるにもかかわらず、自身の限度額は妻の10倍にも上ると指摘している。

ハンソン氏は、ツイートが拡散された後に問題は解決したものの、Apple Cardのクレジット限度額を決定するために使用されたアルゴリズムに疑問が生じていると述べた。

悪意のある人物が差別しようとしたとは考えていません。しかし、それは問題ではありません。この決定がどのように行われたのか誰も説明できないのに、機械学習アルゴリズムに問題がないとどうして言えるのでしょうか？

ゴールドマン・サックスのアップルカード性差別疑惑に対する反応

同銀行は当初、各個人の信用枠は、収入、信用スコア、負債、そして負債管理方法など、様々な要素に基づいて個別に評価されるとの簡潔な声明を発表した。これら全てを考慮し、家族構成員ごとに異なる限度額が提示される可能性があるとしている。

論争が収まらないため、ゴールドマンは新たな声明を発表し、同社の評価システムは申込者の性別や婚姻状況を考慮していないと述べ、誤りがあったと感じた人の信用限度額を再評価することを申し出た。

エリザベス・ウォーレンが発言

ロイター通信によると、ウォーレン氏は、ゴールドマンがアルゴリズムの仕組みや、アップルカードの信用限度額決定が性差別的であるように見える理由を説明できないようだというハンソン氏の懸念に同意した。

エリザベス・ウォーレン米上院議員は、ゴールドマン・サックスがアップルのクレジットカードの申込者を評価する方法に偏りがあるという疑惑に対する同社の対応に疑問を呈し、説明できないのであればアルゴリズムを削除すべきだと示唆したとブルームバーグが水曜日に報じた。

彼女は、信用限度額に不満がある場合には顧客サポートに連絡するよう勧める銀行の現在の姿勢を拒否した。

民主党の大統領候補は、そのアルゴリズムがどのように設計されたか、そしてそれが実際にどのような影響を及ぼしたかについての情報を提供するのは同社の責任だと述べ、「それができないのであれば、同社はそれを撤回する必要がある」と付け加えた。

「アルゴリズムの良し悪しは、そこに詰め込まれるデータの良し悪しによって決まるということを、私たちはより深く理解し始めている」とウォーレン氏は付け加えた。

これまでのところ、Apple Cardの発行会社は、この手続きは性差別的ではないという主張を繰り返すだけだ。

ゴールドマン・サックスは、信用度を判断する際に、性別、人種、年齢、性的指向、その他法的に禁止されている要素に基づいて決定を下したことはなく、今後も決して下すことはありません。

ウォーレン氏は以前、アップルが「競争を潰そうとしている」と非難し、巨大テック企業の解体を訴えていた。アップルの場合、同社はApp Storeを運営し、自社アプリを提供するべきではないと彼女は主張する。

hemich.com を Google ニュース フィードに追加します。 

FTC: 収益を生み出す自動アフィリエイトリンクを使用しています。詳細はこちら。