はじめに
レコメンデーションシステムとパーソナライゼーションの機械学習エンジニアとして、私は常に人工知能と人間の経験の交差点に魅力を感じてきました。この記事では、認知ロボット学の第一人者であるマーレイ・シャナハン教授が共有した洞察を深掘りし、AI の意識に対する我々の前提を問い直し、機械知能の概念化について再考するよう呼びかけます。
シミュレーターとLanguage Models
このビデオでは、Language Modelsがさまざまな言語生成プロセスをシミュレートできる「シミュレーター」であるという概念について説明しています。Language Modelsの確率的性質により、会話の中でさまざまな可能性のある応答を生成することができます。Lara Reynolds氏とKyle McDonald氏が開発した「Loom」システムでは、Language Modelとの会話の中で可能性の木構造を視覚化し、仮想的な展開を探索することができます。
AIの擬人化と言語の限界
ビデオでは、Language Modelsの機能や限界について、我々が思い込んでいるようなものではない可能性があることを指摘しています。シャナハンは、私たちの生活に入り込んできた大規模Language Modelsのような、奇妙で奇抜な人工物について話し合うための新しい形の言語と思考が必要だと述べています。ビデオでは、これらの新しいAIシステムについて語るために「意識に隣接した言語」という概念が提案されています。
身体性と知識の獲得
シャナハンは、基本的な常識的知識を獲得するためには、身体性と物理的な世界とのインタラクションが重要であると主張しています。ビデオでは、ジョージ・レイコフの研究と、私たちが世界を概念化し理解する際のメタファーの役割について触れています。シャナハンは、生物知能と人工知能を含む可能な心の空間が、哲学的および科学的研究の重要な領域であると示唆しています。
意識、主観性、intentional stance
ビデオでは、ウィトゲンシュタインの「私的言語」に対する議論と、非人間的な存在に意識を帰属させる難しさについて探っています。シャナハンは、「intentional stance」の概念、つまりシステムの振る舞いを説明するために信念、欲望、意図を帰属させるという考えについて説明し、これが意識の帰属とどのように関連しているかを論じています。ビデオでは、ダニエル・デネットの研究と、AIシステムに対する擬人化の問題点についても触れています。
推論、チューリングテスト、Language Modelsの限界
ビデオでは、現在のLanguage Modelsには推論、問題解決、複数ステップのタスクに限界があり、Language Modelsと他の推論コンポーネントを組み合わせたハイブリッドアプローチの必要性について議論しています。また、チューリングテストについて再検討し、今日のLanguage Modelsは「チューリングテストの精神」には合格するかもしれないが、チューリングが驚くであろう重大な弱点を持っていると指摘しています。さらに、ナーゲルの「コウモリになるとはどのようなことか」という思考実験と、根本的に異なる存在の意識を理解する困難さについても触れています。
まとめ
急速に進化する人工知能の分野に取り組むには、微妙な注意と開かれた心が不可欠です。シャナハンの洞察は、私たちの前提を問い直し、機械知能の奇妙な性質を理解するための新しい方法を開発する必要性を示唆しています。この探索を受け入れることで、人類に真に貢献する意味のある責任あるAIの進歩につなげることができるでしょう。
キーポイント:
- Language Modelsは単一の「オブジェクト」にコミットせず、可能な応答の分布を生成する「シミュレーター」である
- AIを擬人化すると、その機能と限界に関する誤解につながる可能性がある
- 身体性と物理的な世界とのインタラクションが、常識的知識の獲得に重要である
- 非人間的存在に意識を帰属させることは哲学的に複雑で、「intentional stance」などの概念が関係する
- 現在のLanguage Modelsには推論や複数ステップのタスクに限界があり、ハイブリッドアプローチが必要とされている