AIは人格を持ち得るのか

昨日，大学院生と興味深い議論をした．AIは人格を持ち得るのか否かというものである．

AIは人格を持っているか

そもそも，ChatGPTなどLLMによるいわゆる生成AIが登場してから，わりと早い段階（2023年）に私は「チューリングテストをパスしたChatGPT」という記事を書いた．その内容は次のようなものである（Geminiによる要約をもとに作成）．

• ChatGPTをからかう遊びと批判：飯尾教授がChatGPTに「歴史のデタラメ（中大兄皇子の隠し子が平家の源流，など）」を学習させ，しれっと嘘をつく珍回答をブログで面白がって紹介していたところ，世間から「新技術を否定するな」「馬鹿にするな」という批判や怒りの声が届いたそうです
• 「人格」を認めている人々：教授は「なぜ機械をからかってこれほど怒られるのか」を考えた結果，「批判する人々は，無意識のうちにChatGPTに人格を認めているのではないか」という結論に至ります
• 結論としてのチューリングテスト合格：人間が機械に対して「可哀想」「馬鹿にするな」と人格を感じて擁護してしまうこと自体が，「はからずもChatGPTはチューリングテストを既にパスしている」と言えるのではないか，と考察されています

当時からAIに対して人格を認める人々はすでに多数派になりつつあるのではないかと感じていたが，最近，またSNSでその話題に触れる機会があった．そのとき私は「身体性」が鍵を握るのではないかとコメントした．すなわち，「身体性を持つ」≒「人格を認め得る」なのではないか？ということである．

しかしながら，すでに私はChatGPTをチャッピーくんと呼んでみたり，GeminiたんだのCopilot氏だの，あるいは，彼（彼女？）などと表現したりもしている．それはすでに人格を認めているということなのではなかろうか？とも思える．

であればそれは，どのような認識と言えるのだろうか．昨日の大学院生との議論では，それは「人格を認めつつも，その一部を認めていない状態」ではないかとの結論に至った．

一部を認めないとは

人格の一部を認めないとはどういうことか．そもそも，「人格」とは何か，それをきちんと定義しないとこの話は先に進まない．

そもそも「人格」とはなにかと調べてみると，「その人を作り上げている持続的な心理的特徴や行動様式の総体，および人間を尊厳ある主体として捉える概念」ということらしい．なお，これもGeminiによる回答である．

別のAIに聞いてみたら，法の対象となる人間というような定義も出てきたが，これは，現在の法律はAIを人間と認めていないので，明らかに対象外といえよう．ペットを殺傷したら殺人や傷害ではなく器物損壊罪として扱われるようなものである．

さて，先の定義の前半部分はよかろう．「その人を作り上げている持続的な心理的特徴や行動様式の総体」という箇所，持続的な心理的特徴という部分は昨今の人工知能が持つ記憶の状態，対話のメモリやユーザーモデルなどから出力される，各々にカスタマイズされたフレンドリーな対話出力に現れていると指摘できる．また，後半部分，行動様式の総体も，言論行動は同じくそれに該当するし，ロボットなどではまさに身体性に相当する部分でもあろう．

問題は後半である．「人間を尊厳ある主体として捉える概念」，それは，ひらたく表現すれば，相手へのリスペクトがあるかないかという基準で判断できる．

具体的な例を挙げよう．最近，私はAIの手を借りながらシステム開発を進めていて，生産性が格段に向上したことを実感している．これはとてもありがたいことではあるのだが，たまに，落とし穴にはまって同じことをぐるぐると回り始める，いわゆる堂々巡りの状態に陥ってしまうことがある．

そのようなとき，つい，カッとなって，AIの指摘に対して「馬鹿野郎！それさっき試したぞ」などと暴言を吐くこともある．いい大人であるこの私が，人間に対しては決して話すことのない乱暴な物言いのコメントを入力する．

これは，相手が機械だと思っているからであって，そこに，人間の尊厳へのリスペクトはない．すなわち，このような行動こそ，AIを「人間の尊厳ある主体」としてみていない現れであろう．

物に対して人間は怒らない

このような議論を進めたところ，院生の一人が「確かにモノに対して人間は怒りませんからね」と面白いことを言い出した．曰く，タンスの角に足の小指をぶつけたとしても，自分の不覚を嘆くことはあってもタンスに対して怒りをぶつけることはない．しかし，誰かが殴りかかってきたら，その相手には怒りや恐怖の感情を抱くだろう．

また，別の院生は，「チューリングテストにパスしたからといって人格があるとはいえない」と指摘した．AIは自意識を持たないからだという．ここで議論は振り出しに戻ってしまいそうになったのだが，これは，まさに，ジョン・サールの「Chinese room（中国語の部屋）」という反論そのものである．

サールのそれは，以下のようなものだ（Geminiによる解説をもとに作成）．

• 状況：中国語を全く理解できない人が，閉ざされた部屋に入る
• 手順：部屋の外から中国語で書かれた質問（メモ）が差し入れられる．部屋の中の人は，中国語の記号の組み合わせ方やルールが書かれた「膨大なマニュアル（指示書）」を持っている
• 作業：意味は分からないまま，マニュアルの指示通りに記号を操作し，適切な中国語の返答を作成して外へ返す
• 結果：部屋の外にいる人から見ると「完璧に中国語を理解して返答している」ように見えるが、部屋の中にいる本人は中国語の意味を全く理解していない

いずれにしても，昨日の議論では，最終的な結論として，AIが人格を持ち得るか否かという命題は，持ち得る，あるいは持ち得ない，という二分論ではなく，スペクトラム的にその中間状況があり，それぞれの人によって立ち位置が違うのではないか，ということになった．人間よりの人格肯定派もいれば，機械よりの人格懐疑派もいるという状況で，いまはその中間で社会は揺れているという，まあ，当たり障りもない結論に至った．

「ありがとう」と言うか

ところで，本稿ではAIをリスペクトするかしないかの例としてAIには平気で暴言を吐けるという例を挙げたが，一方で，何か問題を解決したときに「ありがとう」と入力するかどうかが最後に議論の対象となった．

計算資源の無駄遣いなのでそのような意味のない入力はするな，という指摘もある．相手に人格を認めていないのならそれは無用のはずであり，ありがとうなどと感謝の意を表する時点で人間の尊厳的な人格も認めているのではないかと，昨日の議論で，院生たちは指摘した．

私は，しばしば「ありがとう」と入力する．計算資源の無駄遣いという意識はあまりない．そもそも，くだらない対話をしている時点で大いなる無駄遣いをしているのだ．いまさら「ありがとう」と入れたところで，誤差の範囲だろうというくらいのものである．

そのような話をしたら，「先生はやはりもう人格肯定派なんだと思います」とバッサリ斬られた．

しかし，よくしてもらったら感謝を表すというのは，そもそも躾の問題だろう？人格云々の議論ではなかろうと思うのだが，いかがだろうか？