アルゴリズムに選ばれる社会 ――それは、人間を幸せにするのか

信用まで「点数」になったとき

金融の世界では、これはさらに切実である。

融資の可否や条件は、人の生活そのものを左右する。

米国消費者金融保護局（CFPB）は、AIや複雑なアルゴリズムを利用した融資判断であっても、融資を拒否した場合には具体的で正確な理由を消費者に説明しなければならないと繰り返し示している。

その背景には、モデルが複雑になりすぎると、利用している金融機関自身が「なぜこの人が否決されたのか」を十分説明できなくなる、いわゆるブラックボックス化への懸念がある。

ここで考えたいのは、単にAIの精度の問題ではない。

人間が、

「あなたの信用度は72点です」

と言われたとき、それをどう受け止めるのかという問題である。

点数には、不思議な力がある。

数字で示されると、客観的な事実のように感じる。

しかし、その72点は自然界に存在していたものではない。

何をデータとして集めるのか。
何を重視するのか。
何を「信用」と定義するのか。
過去のどのデータから未来を予測するのか。

その背後には必ず、人間が設計した基準が存在する。

アルゴリズムは価値判断を消すのではない。価値判断を数式の中へ隠すことがある。

ここを忘れてはいけない。