私の甥は英国の大学院で哲学を学んでいる。研究対象はアリストテレスである。親類の誰もが、果たして将来食べていけるのだろうかと心配していた。しかし、最近のAIに関わる議論からは、むしろ哲学こそが重要だという声が聞こえてくる。そして、英誌エコノミスト によれば、先進AI企業は実際に多くの哲学者を採用しているという。なかでも有名なのは、「クロード憲法」 の主たる執筆者であるアマンダ・アスケル氏だろう。かくいう自分も、テクノロジーの社会実装を研究テーマとして今春から大学院へ進学したのだが、今興味を惹かれるテーマはテクノロジーそのものではなく、それに関わる倫理学や政治哲学だ。では、これまでテクノロジーとはあまり縁がないと思われていた哲学の位置づけが重要になってきているのはなぜだろうか。本稿では、AIと哲学の関係をひもときながら、AIの社会実装における構造的問題を議論し、それが金融産業の文脈でどのような意味を持つのかを考えてみたい。
AIにとってなぜ哲学が重要か
私たちがAIを活用するとき、それは明示的な利用と暗黙的な利用がある。明示的な利用は、例えばマイクロソフトのCopilotのチャットウィンドウから質問を入力するようなケースで、明示的にそれがAIとのやりとりであると認識することができる。一方で、暗黙的な利用は、例えば企業のコールセンターの対応の中に組み込まれていたり、病院の医療診断や金融機関の融資審査の中に組み込まれているなど、利用者がその存在を明示的には把握できないところで活用されているケースだ。この場合、利用者はAIの利用に関して自覚的な意思表示のプロセスを経ず、否応なくAIの世界へと巻き込まれていく。
このように社会の中へ明示的にも暗黙的にも浸透するAIは、一方ではデータの活用に関わるプライバシー保護、その判断におけるバイアスの影響、意思決定における優先順位付けなどさまざまな倫理的問題をはらんでいる。また、高度化する生成AIは人間の職業を代替したり、人間の能力を超えるともいわれる中で人間の在り方そのものを問う哲学的な議論へとつながっていく。金融サービスにおいては、バイアスに基づく取引の選別が社会格差を固定化し、助長する可能性がある。また、AIを活用した金融アドバイスが、顧客の自由意志を侵害するかもしれない。バイアスを抑制すれば良いと指摘することは容易であるが、複数のバイアスにトレードオフが生じたときに何を優先するのか、そもそも判断する人間にもバイアスが伴っていることをどう評価するのかといった、容易に解消できない課題がある。また、認知バイアスを突いたAIによるアドバイスには、利用者自身が自由意志を奪われていることに気付かない可能性がある。社会インフラとしての役割を有する金融サービスは、より深い倫理的な議論が求められるだろう。
先進AI企業が哲学者を採用するのは、一つには、AIの社会実装が、倫理的・哲学的課題への対応を要請すること、そしてもう一つには、それが金融サービスのような社会インフラはもちろんのこと、明示的にも暗黙的にも企業から個人まで広く社会全体へ影響を与えること、が背景にある。つまり、倫理的・哲学的なポリシーを公表していくことが、そのAIサービスが社会で受容されるための前提となる。では、実際に主要各社がどのような対応を行っているのか、アンソロピックとオープンAIの取り組みを見てみよう。
各社のAI倫理に対する取り組み
アンソロピックは「クロード憲法」を公開している。クロード憲法は、その副題に「クロードの特性に関わる私たちのビジョン」とある通り、アンソロピックがクロードの価値観、判断の優先順位、禁止事項などを定義したものである。アンソロピックは「クロード憲法」をモデルのトレーニングで活用することにより、それをクロードの振る舞いに反映させる。「クロード憲法」の特徴は、第一に厳密なルールやプロセスのみを定義するのではなく、正しい価値観や判断力を与えることにより、より高い汎用性を持たせていること、第二にその文章は人間ではなくクロードを主たる読者として書かれていること、そして第三に本憲法は、クロード自身のウェルビーイングや心理的安定性に関する配慮を行っていることである。
一方、オープンAIは、「OpenAIモデル仕様[i]」を公開している。このドキュメントもモデルに対する指示書として作成されており、モデルの動作へ反映させるためにトレーニングの中で利用される。「OpenAIモデル仕様」は、「レッドライン原則」として上位レベルの原則を定義し、それ以外を「一般原則」として定めている。「OpenAIモデル仕様」の特徴は、第一に５段階の権限レベルを定義し、モデルが従うべき指示の優先順位を定めていること、第二にその仕様に関連する多くの例示を仕様書に含めることで具体的なユースケースを与えていること、第三に「18歳未満の原則」を定めて年齢に対する配慮を明示的に盛り込んでいることである。
両社のAIの振る舞いの定義に対するアプローチには、異なる点と共通点がある。異なる点では、アンソロピックがよりプリンシプルベースで振る舞いを定義するのに対し、オープンAIは具体例に基づき明示的に仕様を定義する傾向が強い。一方で、いくつかの共通点もある。第一に、両社ともにその憲法や仕様をトレーニングで活用することで、モデルの振る舞いへ反映させるプロセスを有していること。第二に、安全性や倫理的振る舞いを重視して利用者に役立つことを大切にするとともに、生物兵器や核兵器の開発、サイバー攻撃への利用など、その利用に関わる禁止事項を具体的に挙げていること。そして第三に、外部からの意見やフィードバックを求めていること。アンソロピックは「クロード憲法」への貢献者に多様な分野の外部専門家をリストしている。また、オープンAIもモデル仕様の公開にあたって一般からのコメントを含む外部からの意見を要請している[ii]。
こうした両社の取り組みは、AIの社会実装に関わる倫理的・哲学的課題に対して、その方針を明示し、モデルの振る舞いへ反映させる努力である。一方で、これは各社が社会や政府からの信頼を獲得するための戦術という側面も否定できない。このとき、私たちは、社会の中に浸透するAIにどこまでの信頼を置くことができるのだろうか。またそこに潜む問題点は何なのだろうか。
何が問題なのか
社会がAIに関わる倫理的・哲学的課題への解を求めることに対して、先進AI企業は対応する取り組みを行っている。しかしながら、私たちはいくつかの点に留意する必要がある。
第一に、先進AI企業は、必ずしもAIが定義通りに振る舞うことを保証していないことだ。生成AIの推論に対する説明可能性はまだ研究の途上であり、インプットに対してアウトプットがどのように生成されたかを明確に説明することには困難が伴う。アンソロピックもオープンAIも、AIモデルが自ら定めた「憲法」や「仕様」のとおりに作動しないことがあることを明示している。第二に、その「憲法」や「仕様」は、特定の企業の限られた専門家によって策定されたものであり、民主的正当性を十分に有しているとは言い難いことだ。ここでいう民主的正当性とは、少なくとも、AIの仕様に関わる意思決定について、影響を受ける人びとが意見を表明し、異議を申し立て、必要に応じてその決定の変更を求めることができる状態を指す。先進AI企業は、モデルの仕様の策定にあたり、外部からの意見を求めるとしても、最終的な決定権が提供企業側にあり、利用者によるその内容や適用への異議申し立てが採用されるかは明らかではない。一般的には、企業が提供するサービスに関して、その仕様をその企業が決定することに問題はない。しかし、現在我々が目の当たりにしている先進AIモデルは、社会全体へ明示的にも暗黙的にも浸透し、企業や個人の意思決定に影響を及ぼし、国際関係や社会構造をも変えていく力を持つのである。それゆえに、その意思決定が民主的正当性を持たないことは、社会実装において課題となる。このように、先進AIモデルの提供企業は、モデルの振る舞いを倫理的に規定して、利用者への貢献を試みる。しかし、利用者の自由と安全を担保する民主的正当性は十分ではない。
人間の自由に関する考え方に「不干渉（Non-interference）」と「非支配（Non-domination）」という概念がある[iii]。「不干渉」は、自分の行為に対して誰も干渉してこないならば、それは「自由」であるとする立場である。これに対して「非支配」は、干渉がないだけでは不十分だとする。つまり、干渉されないのは単に他者が善意でたまたま干渉してこないだけで、いつその自由が失われるか分からないと考える。例えば、奴隷が親切な主人に恵まれて干渉されなかったとしても、その自由は主人の気分次第でいつでも奪われうるのである。本当の自由は、誰にも支配されないこと（非支配）が担保されてこそ初めて実現するものだとする。
AIの文脈においては、我々は倫理的な振る舞いを規定されたモデルを、自らの判断で利用したり利用しなかったりする自由を持っていると思うかもしれない（「不干渉」）。しかし、実際にはAIは暗黙的にさまざまなところに組み込まれており、私たちはすべてにおいて明示的に利用・非利用を決めているわけではない。そして、そのAIの振る舞いは、最終的には提供企業側の判断によって変更され得る。つまり、一見明示的な干渉がないように見えたとしても、我々には「非支配」の自由はないのである。
金融サービスの文脈においても、顧客の明示的な意思とは関係なく、暗黙的にAIが組み込まれているケースが増えるだろう。例えば、口座開設に関わる審査、資産形成のアドバイス、コールセンターオペレーターの支援、融資審査や取引条件の決定などにおいては、顧客のみならず金融機関の職員ですら明示的にAIを意識しないことも考えられる。仮に金融サービスの利用者が、金融サービスではAIがさまざまなところで利用されていると認識していたとしても、社会生活を営む上で金融サービスへの依存を完全に避けることは難しい以上、利用者に「非支配」の自由はない。
社会インフラとして我々の意思のみで容易に利用をやめられないサービスには、金融以外に電気や通信などもあるが、そこにAIが関わってきたとき、それは我々の価値観や意思決定、ひいては私たちがどのように社会を形成し、どのように生きるかに影響を及ぼす。それゆえに、私たちはAIに関して「非支配」の自由、民主的正当性の有無を強く意識する必要がある。
我々に何ができるか
では我々に何ができるだろうか。我々はAIがなぜ民主的正当性を必要とするかについて意識的になる必要がある。AIに関する議論は、経済における競争優位性や安全保障の観点から行われることが多い。これは結果的に、スピードとソブリンAIへ優先順位を置くことに繋がる。各国で進むAI規制に関わる議論は、国家の競争戦略とのバランスの中で決まっていく。このとき、経済や安全保障などの戦略的議論から抜け落ちるのが、我々の社会や生活である。
AI分野を専門とする哲学者のマーク・クーケルバーグは、「AI倫理は私たちに、善き公平な社会とは何か、意味のある人生とは何か、そしてこれらに関連した技術の役割がどのようなものであり、どのようなものでありうるかについて考えさせてくれる[iv]」と言う。経済競争力や安全保障は、AIに関わる議論の一側面に過ぎない。AIは私たちの社会や個人の生活へ深く影響を与え、一度深く取り込まれてしまえば容易に排除することができない。それゆえに、私たちは単にAIに関するリテラシーを高めるだけでなく、AIに関する議論を、我々がどのような社会を築いていくのかを考える契機とするべきなのである。
AIの技術変化とそれに伴うビジネス環境の変化は速く、そこに市民の熟議のような民主的正当性を確立するためのプロセスを入れることは、国家や企業の競争力を損なうリスクが伴う。一方で、米国でデータセンターの建設に反対する運動が活発になっているように[v]、市民がその意義を理解せずに政策先行で物事を進めた場合、結果的に社会実装のペースが落ちる懸念が生じる。社会からの信頼を得て民主的正当性を有する戦略を遂行することは、持続的なAIの社会実装の前提になる。
一方で、企業におけるAI活用も競争戦略上立ち止まることはできないだろう。そして、その利用拡大にあたってAIに関わるガバナンスやリスク管理は最重要の検討項目のはずである。その際に、社会においてAIがどの程度の民主的正当性を持っているかは、AIの適用範囲を判断する上で留意すべき事項となる。つまり、企業として、「非支配」という観点で、利用するAIについてどこまでの自由を有しているのか、そして、それをどこまで制御できるのかを正しく認識する必要がある。金融機関にとっては、これは顧客だけの問題ではなく、金融機関自身も、外部から提供されるAIモデルの仕様変更や判断基準を完全にコントロールできない可能性がある。従って、AIガバナンスとは、自らが利用するAIをどこまで制御できるのか、そしてその制御不能性が顧客や従業員にどのような影響を与えるかを把握することでもある。
金融サービスにAIを組み込んでいくにあたっては、金融サービスそのものが社会インフラを構成していること、それゆえに、仮にそこでバイアスによる不平等の助長や自由の侵害が生じた場合、他の産業以上に大きな社会的影響を持つという認識が必要となる。AIの特性上、そのバイアスや意思決定への影響を、抑制することはできても完全に排除することがかなわないならば、それを前提とした仕組みを設けることが考えられるだろう。金融庁[vi]も、高リスク判断における人の関与を論点として挙げているが、先に触れた民主的正当性を意識するならば、顧客がその決定に異議を申し立て、必要に応じて決定を変えさせたり（再審査や判断の是正）、その結果をAIガバナンスへとフィードバックするプロセスを明示的に組み込むことが重要になる。
現在、日本の3メガバンクをはじめ、国内外で多くの金融機関が、そのAI活用に関わるポリシーを公表している[vii]。そこでは、AIに関わるリスク認識とそれに対する監視・抑制に取り組むことが明示されている。しかしながら、参照した範囲では、これらのポリシーの中に、顧客の権利保護を目的とした異議申し立てといった具体的なプロセスまでは見当たらない。一方で、JPモルガン・チェースでは、そのAIリサーチの取り組みの一環として「救済可能性（recourse）」への言及が見られたり、コモンウェルス銀行が試行に参加したオーストラリアのAI倫理原則[viii]には「異議申し立て（Contestability）」が含まれているなど、顧客の権利保護のための具体的なプロセスへの取り組みが始まろうとしている。
規制当局の取り組みでは、欧州の「EU一般データ保護規則（GDPR）[ix]」の第22条3項は、自動化された意思決定に対して異議を申し立てる権利を明示している。一方、日本の「人工知能関連技術の研究開発及び活用の推進に関する法律（AI推進法）[x]」や「人工知能基本計画[xi]」においては、AIに関わるリスク抑制の原則の提示に留まっている。今後、AIの活用が顧客業務へ広がる中で、各社が定めるリスク抑制や顧客保護の原則を、顧客に理解を得られる形でどう業務プロセスに落とし込んでいくかへと議論が移っていくと考えられる。
最後に
本稿では、まず、AIが倫理的・哲学的な議論をはらむものであること、そして先進AI企業がその対応に取り組んでいることを説明した。しかしながら、AIは、その社会的な影響が大きいがゆえに、その決定プロセスが一握りの企業に委ねられており、民主的正当性が十分に確保されていないことが構造的な問題であることを指摘した。一方で、技術の革新のスピードは、経済や国家の競争優位性確保に関わる議論を先行させることとなる。しかし、それは結果的に、国家レベルでも企業レベルでも、利用者の反発を招いたり、関心を高めることに失敗し、AIの社会実装を遅らせるリスクがある。それゆえに、AIの社会実装にあたっては、政府や専門家のみに議論を委ねず、市民がどのような社会を築きたいかという観点からその意義を理解していく必要があるだろう。そして、社会インフラである金融サービスにおいては、AIの仕様策定プロセスに民主的正当性が十分には備わっていないことを前提に、AIに関わるポリシーをいかにして利用者の理解が得られる仕組みへ落とし込んでいくかが重要になる。そのとき、AIの判断に人が関与することに留まらず、顧客をはじめとする影響を受けるステークホルダーが、その判断に異議を申し立て、救済を求めることができることによって民主的正当性が確保されることとなる。
哲学者をAI企業が採用することは必要かもしれない。しかし、それだけでは不十分である。AIが社会に浸透するほど、AIを哲学的・倫理的にどう制御するかだけではなく、私たちがAIを活かしてどのような社会を築きたいかという問いが重要になる。
[i] “OpenAI Model Spec”, OpenAI
[ii] 「Model Spec のご紹介」, OpenAI, 2024年5月8日
[iii] “Republicanism: A Theory of Freedom and Government”, Philip Pettit, 1997, Oxford University Press
[iv] 「AIの倫理学」（p.118）, M. クーケルバーグ, 直江清隆ほか訳, 2020, 丸善出版
[v] 「『反データセンター』米国で広がる 各州で建設禁止法案めぐり攻防」, 日本経済新聞, 2026年5月27日
[vi] 「AIディスカッションペーパー（第1.1版） – 金融分野におけるAIの健全な利活用の促進に向けた初期的な論点整理 –」, 2026年3月, 金融庁
[vii] 本稿では、「MUFG AIポリシー（三菱UFJフィナンシャル・グループ）」、「責任あるAIポリシー（三井住友フィナンシャルグループ）」、「〈みずほ〉のAIに関する取組方針」、「Artificial Intelligence Research (JPモルガン・チェース)」、「HSBC’s Principles for the Ethical Use of Data and AI（HSBC）」、「Responsible use of AI（コモンウェルス銀行）」を参照した。
[viii] “Australia’s AI Ethics Principles”, 2019, Australian Government
[ix] “General Data Protection Regulation”, European Union
[x] 「人工知能関連技術の研究開発及び活用の推進に関する法律」, 令和7年法律第53号
[xi] 「人工知能基本計画」, 2026年7月14日閣議決定, 内閣府
