AIは理解している？

AIに関する話をしていて、よく出てくる言葉。

「AIに理解させる」とか「AIがわかる」とか。

この場合の理解とは何でしょうか？

僕はこれについて、いまだに解釈に戸惑います。

人の理解と、AIの理解は何か違う気がします。

たとえば翻訳機能。AIは日本語と英語を翻訳できるレベルで理解していると言えるのか。
僕の日本語のニュアンスをくみ取って翻訳する時、僕の意図を理解していると言えるのか？
知らない専門用語を調べてもらったり、業界的な慣用表現を調べてもらったりするとき、AIはその業界を理解していると言えるのだろうか？

AIに人生の意味を聞いた時、AIは人を理解していると言えるのだろうか？

AIに僕の今の気持ちを話した時、AIは僕を理解したと言えるのだろうか？

この問いは実は、「理解」という言葉のブレ幅への問いでもあります。

そもそも「理解」とはなんなん？という事です。

もうすこし思考を広げてみます。

今ちょうど桜がきれいに咲いていますが、あなたはどれが桜の木か知っていますか？
と、問われれば、たいていの方は知っていると答えるでしょう。
ですが、あなたはさくらの木のことをどれくらい理解していますか？
と、問われれば、何でも知っているよと言える人はどれくらいいるでしょう。

そういった桜の専門家であっても、あなたはさくらの木が常にしている光合成の仕組みについて説明できますか？と聞けば、さらに知っている人は減るでしょう。

光合成の仕組みを知っている人に、ではどのようにして光からエネルギーに変換しているかその物理的な原理を説明できますかと聞けば、さらに説明できる人は減るでしょう。

そして最後は、まだ誰も解明していないところにたどり着くはずです。

知識としての理解という言葉はには、実はどこまでを対象とするかという曖昧さが付きまといます。

また、さくらについてどういう認識を持っているかも、人の理解には含まれます。満開の桜の美しい印象を強く認識している人と、葉っぱになって毛虫がいっぱいの印象の方を強く認識している人では、桜という言葉に関連する価値判断が変わってきます。

「桜並木の近くの素敵な家」という一文をどう理解するかが変わってきます。

人の理解には体験やそれに伴う価値判断も含まれます。

今のは知識面の話です。
理解にはもう一面あります。

例えば、「僕は君の気持ちを理解している」という時は、単に知識として承知しているという事でしょうか？
僕があるプロジェクトにかける熱い思いを語ったとします。
それを見ていた同僚が「お前の想いは理解した」と言ったとします。

この時の理解は、ただ、僕が何か熱心にしようとしている状態だとインプットしたという事でしょうか。

きっと、もうちょっとプラスアルファの意味がありますよね。
少なからず合意の意図があるはずです。

もし合意できないならきっと「熱い思いは分かったけど理解できない」と言うはずです。
状態を認識する事とは別に、考えを許容する、その価値判断の合理性であったり必然性については納得するといった、もう一歩価値判断に踏み込んだ「わかる」があると思います。

理解には特定の誰かの価値判断、意思決定の影響も含むことがあります。

ではAIはどうでしょうか？

まず、情報としての理解。
これは人の理解と少し分けて考える必要があります。
僕も当初は辞書的に意味を定義しているのだと思っていたのですが、どうやらそういう事でもなさそうです。ざっくり言うとものすごーーーーーく推理力のある赤ちゃんで、何にも知らないのに、すごい情報量と推理で誰よりも知っているような感じになれます。

まずもって、知る、知らないという概念自体が無いと思った方が良いです。
推論の元になるデータがあるかないかです。
人が考えるような意味での理解はしていないので、チャットごとに違う見解を平気で出してきます。

すごくたくさんの情報参照して、我々が理解できる形でアウトプットできます。

しかし、それは我々が言う所の理解とは少し違います。

AIにさっきは違うニュアンスで言ったじゃないか、と抗議すれば、きっと訂正してくれます。ChatGPTやGeminiみたいな一般向けのAIも徐々に長期記憶を持ち始めています。そのためより自然で、よりつじつまの合うやり取りができりるようになってきています。

しかし、それは理解でしょうか？

特に、僕が後に上げた方のケース、意思決定を伴う理解についてはどうでしょうか？

我々が「理解」という時は、単に物事の情報をデータとして認知するだけではなく、それに伴う価値判断、そして意思決定も含むものとして使われていると思います。

この点からはAIは「理解している」とは言えないと思います。

この認識の違いは重要で、AIの提案を採用する場合も、この点について慎重であるべきです。我々は日常的に、○○さんの提案だから受け入れるという事を、結構頻繁にしているます。

脳はそもそも燃費が悪いという話があります。

人の脳はフル活用するとお腹がすくんです。
なので、ショートカットできることはショートカットできるように進化してきたそうです。だから、第三者を信用して、いちいちその詳細を確認しないという、情報処理の効率化が行われています。

その時にあてにしているのが、その第三者の価値判断です。
その人がそう判断したのだから、その情報を信用しようとなります。
その人が理解しているのだろうから、と。

そう。我々の理解には、少なからずこのニュアンスが含まれます。