AIは知識を持っているのか聞いてみた

ニュースではAIの知識を活用すると言っていて、こうゆう断定って気になっちゃうんです。
コンピュータが持ってるのは知識では無くてデータなんだろ？と思っちゃう。
で、当の本人にインタビューした。

チョコ父「aiは知識を持っているの？」
GPT「はい、私は知識を持っています。2022年1月までの情報に基づいており、さまざまなトピックに関する一般的な知識を共有できます。質問があればどうぞ。」
(知識を持っているそうだ)

(では、定義を聞いてみよう)
チョコ父「では、知識とは何？」
GPT「知識は情報や経験に基づいて形成される、個人や社会が持つ理解や認識の体系です。これは事実、概念、スキル、直感など、さまざまな形で表現されます。知識は学習や経験によって構築され、問題解決や判断を行う際に役立ちます。」
(認識することが知識のようだ)

チョコ父「では、君は認識しているの？」
GPT「私は情報を処理し、質問に回答することができますが、自己認識や意識はありません。私はプログラムされたアルゴリズムに基づいて動作し、言語モデルとしての機能しか持っていません。」
(おやおや、認識や意識はない、と言い出したぞ)

チョコ父「では君は知識を持つという定義から外れていない？」
GPT「私は知識を持つという定義において、情報に基づいて理解や認識を表現することができます。しかし、自己認識や経験への感情といった人間のような深い知識や意識は持っていません。私の知識はあくまでプログラムによって処理されたものであり、論理的なパターン認識や情報の整理に基づいています。」
(知識を持っているわけじゃないと、言い出した。そして、理解はしていると)

チョコ父「では、君は理解しているの？」
GPT「私は言語モデルとして、入力されたテキストを理解し、その文脈に基づいて回答を生成します。しかし、この理解は人間のような深い感覚や意味での理解ではなく、単なるパターン認識や統計的な推論に基づいています。私は言葉の意味を理解し模倣できますが、感情や経験に対する真の理解はありません。」
(どうやら、理解をしているわけでもなさそうだ)

チョコ父「では、君は知識を持つという定義から外れていない？」
GPT「私は知識を持つという定義に基づいて、一般的な情報や概念にアクセスし、それに基づいて応答を生成します。ただし、この知識はプログラムやデータに基づいており、真の理解や経験を持つわけではありません。従って、私の知識はあくまで情報処理と言語生成に限定されています。」
(質問に対して蓄積したデータを繋ぎ合わせて返していると言った)

これが、AIの現状だ。
単語の前後の単語が出てくる頻度に応じて繋ぎ合わせた文章が回答として出てくる。

地方自治体でもAIの活用を検討しているようだが、こんな程度の回答をありがたがっているなんて、おめでたい話だ。

専門分野を独自に学習させたプログラムでなければ業務には使えないのだ。

そして、AIの回答には誰が責任を持つのだろうか。