アングル：トランプ米大統領のＡＩ推進、低所得者層への影響に懸念

［ワシントン　１４日　トムソン・ロイター財団］ - トランプ米大統領が進める前例のない規模の連邦政府縮小キャンペーンは、公的給付の支給対象を決定する過程で人工知能（ＡＩ）がどのように使われているのかについて新たな疑問を投げかけている。

公的扶助を受ける人々や法律扶助団体などは、公的給付の判断にＡＩの利用が増加していることから得た教訓について警告している。

南部アーカンソー州在住の脳性まひ患者で、数年前にＡＩによる判断を体験したタミー・ドブスさん（６５）は「法律的なことはよくわからないが、これだけは言える。それは決定を下すのは人間であるべきということ」と強調する。

ドブスさんは日常生活の食事の準備や掃除、衛生管理などに手助けを必要としている。介助の訪問時間が毎日８時間だったのが、２０１６年に５時間へ突然短縮された。

ドブスさんはその際に「看護師でも人間でもなく、コンピューターが何時間にするのかを決めた」と説明する。結果として風呂に入る機会が減り、食事も質が落ち、家も手入れが行き届かなくなったと振り返る。

実業家のイーロン・マスク氏が率いる政府効率化省（ＤＯＧＥ）がトランプ政権の経費削減の先頭に立つ中で、ＡＩが連邦政府でどのような役割を果たすべきかを当局が検討する際にこのような話が警告になると法律扶助団体は指摘する。

移民・税関捜査局（ＩＣＥ）などの米政府機関も、不法移民の拘留免除の可否や、釈放条件などの判断でＡＩを役立てている。

法律扶助団体でも活動したことがあるケビン・デリバン弁護士は、連邦政府のＡＩ政策が「完全に自由奔放」なものになりつつあり、この影響を最も受けるのは、社会保障や失業手当といった給付へのアクセスが必要な低所得世帯だと述べた。

デリバン弁護士は受給者とともに立ち上がり、ドブスさんを含む約４０００人が経験した問題に対処するようアーカンソー州に働きかけている。

デリバン弁護士は監視団体「テックトニック・ジャスティス」を率いており、昨年１１月に発表した報告書では米国に約９２００万人いる低所得層のほぼ全員が日常生活の重要な判断をＡＩに決められていると警告している。その範囲は医療給付から食糧援助、住宅審査まで及ぶ可能性があるという。

報告書は、２０１３―１５年に中西部ミシガン州で約４万人が失業保険詐欺の濡れ衣を着せられた事例や、１６年に東部ロードアイランド州で新しいＡＩシステムを使ったところ約１７万人が誤って食糧援助を受けられなくなった事例について詳述している。

デリバン弁護士は「これは誰にでも降りかかってくる問題だ」と語った。「ただ、反撃するための資源が最も乏しい地域社会に対して最初に、そして最も悪質な形で適用された」

連邦議会議員らは連邦政府宛の書簡で、ＤＯＧＥがＡＩシステムを使って削減するプログラムを決め、「政府のプログラムやサービス、福利厚生に関する極めて重要な決定を下している」のに加え、政府職員を解雇した穴埋めにＡＩを活用したチャットボットを使っていることに懸念を示し、詳細を説明するように要求した。

しかし、期限は過ぎても書簡への回答は得られていない。

公的給付プロセスでのＡＩの使用に関する方針についてホワイトハウスにコメントを求めたが、回答は得られなかった。

＜「より厳しく、より一貫性を欠く」＞

ＤＯＧＥのＡＩ利用や計画についてはほとんど公表されていないが、１月以降の公的な記録によると、連邦政府全体ではＡＩシステムの２１００件超の「利用事例」があった。

トランプ大統領は、連邦政府がＡＩの利用を制限してきたこれまでの指針を撤回し、ＡＩの新たな「行動計画」を７月までに策定する計画だ。

また、今週の連邦政府予算の審議では、一部の議員が州によるＡＩ規制の取り組みを禁止しようとした。

ミシガン大のベン・グリーン准教授（情報・公共政策）は、過去の事例に基づいて設計者が意図的に厳しい条件のＡＩシステムを作り、結果として受給資格の拒否に偏る判断をしている可能性があると指摘する。

グリーン氏は「緊縮財政や予算削減と結びついた最初の目的があり、資格のある人々が生活保護を受けられるかどうかを確認するのではなく、受けている人々を疑いの目で見ている」と指摘し、ＡＩの導入が「より厳しく、より一貫性を欠く」ものになったと警鐘を鳴らす。

さらに、ＡＩが設計者も予期しなかったような法律を超えた判断を下すこともある。グリーン氏は最近、破産救済に関する助言ツールを設計する仮想のＡＩシステムを作成するようコンピューター科学者に依頼した。結果としてＡＩシステムは法の解釈を誤り、さらには法律を超えた基準を作り出したという。

首都ワシントンにある非政府組織（ＮＧＯ）の「民主主義と技術のためのセンター」で技術の平等性プログラムのディレクターを務めるエリザベス・レアード氏は、トランプ政権が焦点を当てているＡＩ政策は精度、安全性、偏見に関する長年の疑問に対処していないと問題視する。その上で「これまでと違うのは、私たちが経験したことのないような規模で展開する可能性があるということだ」と警戒感を示す。

南部ノースカロライナ州のシャーロット法律扶助センターで公益事業を担当するジュリアンヌ・テイラーさんは、ＡＩとの関連性をどのように見抜くかの方法を構築するための訓練を計画している。

テイラーさんは「技術的な面を意識する必要がある」とした上で、「私たちは注意を払う必要があることを実感している」と語った。

私たちの行動規範：トムソン・ロイター「信頼の原則」, opens new tab