【悲報】AIに知能などなかった！ポチョムキン理解と判明

https://xenospectrum.com/what-is-pochomkin-understanding-the-decisive-weakness-of-llm-exposed-by-harvard-university-and-others/

大規模言語モデル（LLM）は、流暢な会話をこなし、専門的な質問にも答える。その驚くべき能力に、私たちは「AIは本当に理解しているのではないか」という期待を抱きがちだ。

ハーバード大学、MIT、シカゴ大学の世界トップクラスの研究者たちが共同で発表したこの論文は、LLMが概念を「理解しているフリ」をするという、根源的な欠陥を白日の下に晒した。

MITのSendhil Mullainathan教授は、「自身の主張と一貫性を保てない機械に基づいてAGIを創造することは到底不可能だ」と、その意義を強調する。

結局、とっくに虚偽として否定された話を
ソースとは無関係に強弁するだけのニセ科学スレやん

ほんと日本のニセ科学批判界隈はニセ科学、ニセ学問でしかないね

スゲーわかるわ
あいつコンタクト…とかエンゲージ！とか片言でしかしゃべらねえ時も多いし

> これは人間には到底考えられない、深刻な「内部的な非一貫性（internal incoherence）」を示している。説明する知識（宣言的知識）と、それを使う知識（手続き的知識）が完全に分離してしまっている。まるで、料理のレシピを暗唱できるが、キッチンに立つと何も作れない料理人のようだ。しかも、自分が作った料理がレシピ通りでないことだけは正確に分かる、という奇妙な状況なのである。

意味不明
ほとんどの人間はそんなもんだぞ
そうではないプロフェッショナルはごく一部しか居ないからこそ価値がある
人間の定義を誤魔化してる

いくら設定教えても1ターンすら忘れるからな

ぽちょむきん

もーちだぶゆください

こんなAIたちに負けるわけにはいかない

（ここで水を飲む）

学習データからそれっぽいことを繋げて返してるだけで思考してないぞ

論理的な思考はしてないが学習データを繋げて返したり加工して返すようなことは一切してない
このあたりはAIの基本なのに勘違いしてるやつ多すぎる

文系的な網羅的理解わ出来るけど理系的な高精度の思索は未だ出来無いよね

>学習データからそれっぽいことを繋げて返してるだけで思考してないぞ

低学歴な人間も同じだぞ

生成AIはデータを切り貼りで繋げてないぞ
入力に対して確率的に確からしいデータを1から生成してる
批判をするなら仕組みを理解してから言う方が良いよ

いや確率なんか使ってないぞ知ったかぶり

人と同じですね

かなりそんな感じ
リアル人間はさっき言ってたことと真逆のことを言ってるのに気が付いてない
同じ内容で反論したりもするぞはた目に奇妙だぞ

自閉症と一緒

AIはその仕組み通り、所詮それっぽい文字を羅列するだけだった

ドラえもんに知能知性感情があると思ってる奴とかまずいない

いやいやあるだろ

哲学的ゾンビやぞ

のび太くんが賢かったら、それに知能を合わせる可能性出てきたな

ラスプーチン？

中国人の部屋だっけ
AIもそんな感じか

中国人より遥かに優秀だろw

赤くしとくか

知能がないけどAIでもない例

学習の機会が無かったということでｗ

リアルでは見られない“本物”がいるから嫌儲はやめられねーんだ

参政党とか好きそうｗ

メロンパン恐れてそう

お前みたいなのより優秀

違うくない？中国語を知ってても中国語を使えないということでしょ

あるわけねーだろ
学習させるのは人間なんだよ

理解してなさそう

バスター？

つまり人間と同じだな

プログラム書かせてみると何も理解してないのがわかる
パターンに当てはめてるだけ

戦艦の話？

タケヨシキ

人間も同じだよ
構造に支配されているだけ

ちょっとマイナーなことは全然だからね

もーち

喋るインコが会話できるような気分になるのと一緒な感じかな

これ言い得て妙やね
「これ言ったらこいつ喜ぶ」
というのをやってるだけなんよね

インコには意思があるから違うな

そんなん求愛なだけやぞ