神秘的な中国の部屋が私たちに意識について教えてくれること

投稿日 2023 年 8 月 3 日 | デボン・フライによるレビュー

あなたが、奇妙で謎めいたシンボルを含む紙が積み上げられた引き出しでいっぱいの部屋に閉じ込められたと想像してください。 部屋の中央には、簡単に読める平易な英語で書かれた分厚い取扱説明書が置かれたテーブルがあります。

ドアには鍵がかかっていますが、小さなスリットがあり、そこには真鍮のレターボックスのフラップが付いています。 それを通じて、部屋にあるのと同じ謎のシンボルが含まれたメッセージを受け取ります。 膨大な取扱説明書には、受け取る各メッセージの記号が記載されており、引き出しからどの紙を選んで返信として郵便ポストに投函すればよいかが正確に示されています。

部屋に閉じ込められた人は気づかないうちに、謎の記号は実は漢字だった。 内部にいる人は、マニュアルに従っているだけで、何も理解せず、送受信されるメッセージ以外のことにも意識することなく、無意識のうちに外部の人々と一貫した会話を行っています。

この物語は 1980 年にアメリカの哲学者ジョン・サールによって考案され、認知科学と心の哲学において最も影響力があり、最も引用されている論文の 1 つとなり、コンピューター、人工知能 (AI)、および機械に対する私たちの見方に大きな影響を与えています。感覚 (Cole、2023)。

Searle (1980) は、この思考実験を用いて、コンピューター プログラム (これも設定された規則に従って記号を操作します) は言語を真に理解するわけではなく、人間と同等の応答をする場合でもいかなる形の意識も必要としないと主張しました。

2022 年、ある Google エンジニアが、自分が取り組んでいた AI プログラムには感覚があり、生きていると主張して話題になりました (Tiku、2022)。 ChatGPT のような言語ベースの AI の最近の進歩により、多くの人が実際の人間と同様に AI を操作できるようになりました (「なぜ ChatGPT は人間味があるのか​​?」を参照)。

したがって、多くのユーザーが AI に知覚力が備わったと本気で信じているのも不思議ではありません (Davalos & Lanxon、2023)。 しかし、ほとんどの専門家は、特にサールの中国人の部屋の議論の影響により、AI に意識があるとは考えていません (Davalos & Lanxon, 2023; Pang, 2023a)。

意識は、定義することも完全に理解することも難しい難しい概念です (「意識とは何ですか?」および​​「意識の多次元」を参照; Pang, 2023b; Pang, 2023c)。 ChatGPT のような AI プログラムは、人間が書いた何十億もの文章の統計分析を使用する大規模言語モデル (LLM) を採用し、予測確率に基づいて出力を作成します (Pang、2023a)。 この意味で、これは膨大な量のデータに基づく純粋に数学的なアプローチです。

これは途方もない成果であり、非常に複雑なタスクですが、本質的には、中国の部屋の思考実験に閉じ込められた人のように、AI は指示に従い、入力に基づいて出力を作成します。 センティエンスには、洗練された出力やチューリング テストに合格する必要さえありません。チューリング テストでは、人間の評価者は、機械とのコミュニケーションと他の人間とのコミュニケーションの違いを見分けることができません (Oppy & Dowe、2021)。

しかし、サールの思考実験には、さらに厄介な意味合いがもうひとつあります。中国語の部屋の中に、中国語で行われているコミュニケーションにまったく気づいていない意識のある人間がいるのです。 AI が意識を持っていることを示唆する証拠はありませんが、少しの間、意識があったと仮定してみましょう。意識を持った部分は、それ自体の言語モデルを理解する可能性は低く、感覚を持ちながらも、自身の言語ベースの出力の意味については何も知らない可能性があります。中国人の部屋の中の人のように。

AI に意識があるとしたら、一種の閉じ込め症候群に陥っている可能性があります (「応答しない身体の中に閉じ込められた心の謎」; Pang、2023c を参照)。 この障壁を克服できるかどうかは不明です。