AIのせいで、人間であることの証明がどんどん面倒に…。きっかけは83万件の幽霊学生

AIで課題を書く学生を叱ってたら、学生ごと偽物だった。

そんな話が、アメリカから届きました。司法省が10月29日に発表した「Operation Ghostbusters（ゴーストバスターズ作戦）」です。

盗んだ個人情報で架空の学生を大学に入学させ、国の学費支援を受け取っていた疑いがあるそう。そんな不正の疑いがある「幽霊学生」アカウントは、83万840件。全部が不正と決まったわけではなく、まだ「疑い」の段階です。

僕も大学生時代、友達に「代わりに出席の返事しといて！」なんてお願いしたことはありますが…それの比じゃないくらいの事態になってますね…。

幽霊なのに、課題はちゃんと出していた

幽霊学生というくらいだから、名簿に名前があるだけかと思っていました。

ところが、課題はAIに書かせ、オンライン授業には人を雇って顔を出させていた。1学期で消えると目立つので、何学期もまたいで在籍させ続けていたというのです。

アメリカ合衆国教育省も以前から、「学生のふりをするAIボット」を不正の手口として名指ししていました。AIのおかげで、幽霊はずいぶん長生きできるようになったみたいです。

お金の流れとしては、学費支援はまず本物の大学に支払われ、授業料を引いた「おつり」が学生の口座へ。その口座を詐欺側が握っていて、一部はケニアの関係者に渡っていたとのこと。

確認された被害は3,200万米ドル超。全体では2億米ドルを超えるとも見積もられています。これまでに5人が起訴されました。

ツケを払うのは、本物の学生

Image: Kent Hasegawa-generated with Flow

この問題、人間がツケを払わされるという意味でも厄介です。

教育省は今年4月から、学費支援の申請でリアルタイムの本人確認を始めています。リスクが高いと判定されると、その場でスマホのカメラに身分証を見せないと先に進めないそう。

ノートPCではダメ。途中で止めることもできない。身分証がその場で出せなければ申請は差し戻しで、大学の窓口まで出向くことになります。

しかも差し戻された申請には、不正なのか、巻き込まれただけなのかを見分ける目印がないとのこと。

AI幽霊はスルスル通り抜けていく。本物の学生は、カメラの前で身分証を構えて足止めされる。つまり、AIが人間のふりを上手にするほど、人間は「自分は人間です」と証明するための手間がかかる。

銀行アプリで顔を撮るあれも、「私はロボットではありません」のチェックボックスも、根っこは同じ話ですよね。

顔写真も、もう本人の証明にならない

しかも、カメラに顔を見せれば安心、というわけでもなさそうです。

今年、日本でも近畿大学の入試で替え玉事件がありました。塾の元講師が教え子になりすまし、自分と教え子の顔を合成した写真で出願。その写真は確認をすり抜けて、合格しました。写真はスマホのAIツールで作ったとみられるそうです。

バレたきっかけは、合成写真がそのまま載った学生証でした。家族が「顔が違う」と気づいたとか。合格は取り消され、10月に有罪判決が出ています。

AIが顔まで作れるなら、次は何を見せれば「本人」になるんだろう。指紋か、静脈か、それとも窓口に本人が来ること…？

人間であることの証明がどんどん面倒になるけど、デジタル移行を推し進めないと現場はたいへん。まさに過渡期って感じです。

Source: Capital FM, The College Investor, WJLA, U.S. Department of Education, 秋田魁新報, ITmedia NEWS, 弁護士ドットコムニュース