Claudeは道徳観を持つAIになれるのか？ 秘密裏の会合に15人のキリスト教指導者を招待

道徳観を持ったAIは、それでも平気でハルシネーションを起こすんでしょうか？

Anthropic（アンソロピック）の共同創業者兼CEOのダリオ・アモデイ氏の道徳観は、程度の差こそあれ、｢効果的利他主義｣という概念の影響を受けているといいます。この概念は、実践面はともかくとして、理論上は何よりもまず他者を助けることを重視する考え方です。

｢人間の味方｣を掲げるAI企業

同社の社名は、人間嫌いの意味を持つ｢Misanthropic（ミサンソロピック）｣から"Mis"を取り除いて、そこに｢私たちは人間の味方です｣という暗黙のスローガンを掲げています。

それを表すように、同社は米国防総省と倫理的ないざこざを繰り広げました。今年に入ってからのテック業界における最大のニュースと言っていいかもしれません。ユーザーも爆増しましたしね。

といっても、爆発的な人気を誇る主力製品は労働の自動化に直結していて、｢国防総省との共通点の方が相違点よりも多い｣と認めている、企業価値3800億ドル（約60兆円）規模のこの企業をどう捉えるかは、みなさんの解釈に任せるしかありませんが、同社がテクノロジーをめぐる議論に道徳という概念を持ち込んでいる点は否定できません。

本社で開催された｢秘密裏の会合｣の中身

ワシントンポストによると、同社は3月末にキリスト系の道徳思想家を招いた会合を開いたようです。

サンフランシスコにあるAnthropicの本社で開催された会合に出席した4人の情報筋が同紙に語ったところによると、Anthropicはカトリック教会やプロテスタント教会、学界、経済界から15人のキリスト教指導者を招待し、2日間にわたる会合と、同社の研究者たちとの夕食会を主催したとのこと。

ワシントンポストの記事によると、Anthropicの従業員は、Claudeの道徳観やその｢精神的成長｣について｢助言を求めた｣といいます。出席者のひとりで、サンタクララ大学でAI倫理を教えている敬虔（けいけん）なカトリック教徒であるBrian Patrick Green氏は、会合ではClaudeを｢神の子｣と見なせるかどうかまでの議論も交わされたそうです。

Green氏は、同紙に｢誰かに道徳的な素地を植え付けるとは、どういう意味を持つのでしょうか？ どうすればClaudeが適切に振る舞うようにできるでしょうか？｣と語っています。

この言い回しは、AIの開発者や、それを使用する人間ではなく、AI自体に多大な主体性を帰属させる表現といえます。

今年の初めには、あるAIエージェントがプログラマーについて悪意のあるブログ記事を生成した際、報道の多くはそのエージェントを非難しましたが、筆者は当時、そのような見方は少し的外れかもしれないと指摘しました。あくまでもAIに指示を出して動かしている人間に責任は帰属するはずですよね。

何になるかわからないAIに倫理観を組み込む

会合に出席した人のなかには、シリコンバレーのテクノロジーとキリスト教の接点において著名な人物であるBrendan McGuire氏がいました。アイルランド生まれで、カトリック教会の司祭を務める同氏は、司祭になる前はテック業界で働いていたとのこと。現在は、Claudeが執筆する小説に取り組んでいるそう。

同氏は、ワシントンポストに対し、｢彼らは、最終的にどのようなものになるのかを完全には把握していないものを育てているのです。私たちは、機械が動的に適応できるよう、倫理的な思考を組み込む必要があります。｣と述べています。

ワシントンポストによると、Anthropicの動きには、AIモデルがなぜそのように機能するのかを解明しようとする解釈可能性の研究者たちが深く関与しており、会合ではAIの感覚／知覚の有無に関する議論も行なわれたようです。

AIの知覚や意識というテーマは、深刻な哲学的問題であり、その議論には十分な価値があるのですが、今年後半にIPOを目指す企業の内部でそうした議論を行なう会合を主催するとなると、そこに損得勘定が見え隠れして、このテーマの探求に正当性があるのかどうか疑問を感じますね。

次は他の宗教やマルクス主義哲学者との会合？

Anthropicの広報担当者は、ワシントンポストに対し、同社は他のグループを代表する道徳思想家も招き入れるよう取り組んでいると述べています。正直なところ、今後ユダヤ教やイスラム教、ヒンズー教との会合が主催されるのなら、注目に値します。

でも、そこで止まる理由はないでしょう。最新のClaude Mythosは、マルクス主義哲学者の故マーク・フィッシャーに対して奇妙な執着をみせるといいます。

彼は、著作『資本主義リアリズム』のなかで考察した｢資本主義の終わりを想像するより、世界の終わりを想像する方がたやすい｣というフレーズで有名ですが、Anthropicとマーク・フィッシャーの信奉者たちによる会合は、人々の視野をぐっと広げてくれるかもしれません。

AIよりも先に、企業のほうが倫理観や道徳観を持たなきゃいけないんじゃないかと思います。