1：名無しさんID:ID:rlnkYGM20 [2025/07/07(月) 00:48:06.38]
https://xenospectrum.com/what-is-pochomkin-understanding-the-decisive-weakness-of-llm-exposed-by-harvard-university-and-others/
大規模言語モデル（LLM）は、流暢な会話をこなし、専門的な質問にも答える。その驚くべき能力に、私たちは「AIは本当に理解しているのではないか」という期待を抱きがちだ。
ハーバード大学、MIT、シカゴ大学の世界トップクラスの研究者たちが共同で発表したこの論文は、LLMが概念を「理解しているフリ」をするという、根源的な欠陥を白日の下に晒した。
MITのSendhil Mullainathan教授は、「自身の主張と一貫性を保てない機械に基づいてAGIを創造することは到底不可能だ」と、その意義を強調する。
234：名無しさんID:ID:g9sKwM4I0 [2025/07/07(月) 02:10:42.47]
>>1
結局、とっくに虚偽として否定された話を
ソースとは無関係に強弁するだけのニセ科学スレやん
ソースとは無関係に強弁するだけのニセ科学スレやん
ほんと日本のニセ科学批判界隈はニセ科学、ニセ学問でしかないね
373：名無しさんID:ID:msy/syN50 [2025/07/07(月) 04:30:19.99]
>>1
スゲーわかるわ
あいつコンタクト…とかエンゲージ！とか片言でしかしゃべらねえ時も多いし
あいつコンタクト…とかエンゲージ！とか片言でしかしゃべらねえ時も多いし
395：名無しさんID: [2025/07/07(月) 04:47:16.62]
>>1
> これは人間には到底考えられない、深刻な「内部的な非一貫性（internal incoherence）」を示している。説明する知識（宣言的知識）と、それを使う知識（手続き的知識）が完全に分離してしまっている。まるで、料理のレシピを暗唱できるが、キッチンに立つと何も作れない料理人のようだ。しかも、自分が作った料理がレシピ通りでないことだけは正確に分かる、という奇妙な状況なのである。
意味不明
ほとんどの人間はそんなもんだぞ
そうではないプロフェッショナルはごく一部しか居ないからこそ価値がある
人間の定義を誤魔化してる
396：名無しさんID:ID:qmnjYz/+M [2025/07/07(月) 04:49:20.60]
>>1
いくら設定教えても1ターンすら忘れるからな
2：名無しさんID:ID:At1Ie2Ld0 [2025/07/07(月) 00:48:38.79]
ぽちょむきん
56：名無しさんID:ID:y08oOl/00 [2025/07/07(月) 00:59:00.29]
>>2
もーちだぶゆください
3：名無しさんID:ID:2JaUfJBb0 [2025/07/07(月) 00:48:58.94]
![【悲報】AIに知能などなかった！ポチョムキン理解と判明 [119994498]
_3_3](https://anime-news.net/wp-content/uploads/2025/07/temp_3-1.jpg)
72：名無しさんID:ID:ymUEbhGk0 [2025/07/07(月) 01:02:20.97]
>>3
こんなAIたちに負けるわけにはいかない
78：名無しさんID:ID:n3yklxH60 [2025/07/07(月) 01:03:36.25]
>>72
（ここで水を飲む）
4：名無しさんID:ID:w8qQzSAH0 [2025/07/07(月) 00:49:01.13]
学習データからそれっぽいことを繋げて返してるだけで思考してないぞ
369：名無しさんID:ID:SVTEdjDU0 [2025/07/07(月) 04:24:39.25]
>>4
論理的な思考はしてないが学習データを繋げて返したり加工して返すようなことは一切してない
このあたりはAIの基本なのに勘違いしてるやつ多すぎる
このあたりはAIの基本なのに勘違いしてるやつ多すぎる
370：名無しさんID:ID:bs+ZKUcjH [2025/07/07(月) 04:26:41.94]
>>4
文系的な網羅的理解わ出来るけど理系的な高精度の思索は未だ出来無いよね
387：名無しさんID: [2025/07/07(月) 04:40:29.99]
>>4
>学習データからそれっぽいことを繋げて返してるだけで思考してないぞ
低学歴な人間も同じだぞ
470：名無しさんID:ID:H8+1WDlk0 [2025/07/07(月) 06:33:52.87]
>>4
生成AIはデータを切り貼りで繋げてないぞ
入力に対して確率的に確からしいデータを1から生成してる
批判をするなら仕組みを理解してから言う方が良いよ
入力に対して確率的に確からしいデータを1から生成してる
批判をするなら仕組みを理解してから言う方が良いよ
475：名無しさんID: [2025/07/07(月) 06:35:34.35]
>>470
いや確率なんか使ってないぞ知ったかぶり
5：名無しさんID:ID:wTLPRwXBH [2025/07/07(月) 00:49:21.31]
人と同じですね
38：名無しさんID:ID:W2lBsfYj0 [2025/07/07(月) 00:54:49.67]
>>5
かなりそんな感じ
リアル人間はさっき言ってたことと真逆のことを言ってるのに気が付いてない
同じ内容で反論したりもするぞはた目に奇妙だぞ
リアル人間はさっき言ってたことと真逆のことを言ってるのに気が付いてない
同じ内容で反論したりもするぞはた目に奇妙だぞ
397：名無しさんID:ID:hVhvKk3TM [2025/07/07(月) 04:49:52.35]
>>5
自閉症と一緒
6：名無しさんID:ID:rlnkYGM20 [2025/07/07(月) 00:49:26.67]
AIはその仕組み通り、所詮それっぽい文字を羅列するだけだった
7：名無しさんID:ID:8ToqabF50 [2025/07/07(月) 00:49:38.65]
ドラえもんに知能知性感情があると思ってる奴とかまずいない
10：名無しさんID:ID:rlnkYGM20 [2025/07/07(月) 00:50:01.55]
>>7
いやいやあるだろ
104：名無しさんID:ID:s9P8B0VC0 [2025/07/07(月) 01:10:00.24]
>>10
哲学的ゾンビやぞ
141：名無しさんID:ID:CbPOjBgX0 [2025/07/07(月) 01:19:41.14]
>>7
のび太くんが賢かったら、それに知能を合わせる可能性出てきたな
8：名無しさんID:ID:l+AjWQG40 [2025/07/07(月) 00:49:42.56]
ラスプーチン？
9：名無しさんID:ID:EVFsRm5r0 [2025/07/07(月) 00:49:46.91]
中国人の部屋だっけ
AIもそんな感じか
AIもそんな感じか
13：名無しさんID:ID:ksJHKB1i0 [2025/07/07(月) 00:50:37.93]
>>9
中国人より遥かに優秀だろw
116：名無しさんID:ID:MJ8WsaCZ0 [2025/07/07(月) 01:14:08.11]
>>13
赤くしとくか
147：名無しさんID:ID:Pd0OSUnaM [2025/07/07(月) 01:22:19.27]
>>13
知能がないけどAIでもない例
154：名無しさんID:ID:QKaU0oFC0 [2025/07/07(月) 01:23:35.57]
>>147
学習の機会が無かったということでｗ
203：名無しさんID:ID:A9uoC2gi0 [2025/07/07(月) 01:49:40.31]
>>13
バーカ
214：名無しさんID:ID:pFR+k2eh0 [2025/07/07(月) 01:57:19.28]
>>13
リアルでは見られない“本物”がいるから嫌儲はやめられねーんだ
241：名無しさんID:ID:IZrFdTui0 [2025/07/07(月) 02:13:24.92]
>>13
参政党とか好きそうｗ
345：名無しさんID:ID:BpRKGr+90 [2025/07/07(月) 03:52:07.54]
>>13
メロンパン恐れてそう
398：名無しさんID:ID:XiaJaR3aM [2025/07/07(月) 04:50:07.90]
>>13
お前みたいなのより優秀
295：名無しさんID:ID:xD/92VGA0 [2025/07/07(月) 02:56:35.59]
>>9
違うくない？中国語を知ってても中国語を使えないということでしょ
11：名無しさんID:ID:vbLnsqC30 [2025/07/07(月) 00:50:21.78]
あるわけねーだろ
学習させるのは人間なんだよ
学習させるのは人間なんだよ
15：名無しさんID:ID:rlnkYGM20 [2025/07/07(月) 00:50:40.60]
>>11
理解してなさそう
12：名無しさんID:ID:u+sCv8JO0 [2025/07/07(月) 00:50:23.96]
バスター？
14：名無しさんID:ID:3Z6lqZlz0 [2025/07/07(月) 00:50:38.55]
つまり人間と同じだな
18：名無しさんID:ID:fv5BLrFL0 [2025/07/07(月) 00:51:12.59]
プログラム書かせてみると何も理解してないのがわかる
パターンに当てはめてるだけ
パターンに当てはめてるだけ
19：名無しさんID:ID:QvrQqRi80 [2025/07/07(月) 00:51:26.61]
戦艦の話？
20：名無しさんID:ID:ODidkAte0 [2025/07/07(月) 00:51:29.85]
タケヨシキ
21：名無しさんID:ID:coa3zwAp0 [2025/07/07(月) 00:51:52.17]
人間も同じだよ
構造に支配されているだけ
構造に支配されているだけ
22：名無しさんID:ID:iERhsz+V0 [2025/07/07(月) 00:52:03.13]
ちょっとマイナーなことは全然だからね
23：名無しさんID:ID:vOSkBpqn0 [2025/07/07(月) 00:52:10.90]
もーち
24：名無しさんID:ID:9+AY7FSN0 [2025/07/07(月) 00:52:18.45]
喋るインコが会話できるような気分になるのと一緒な感じかな
83：名無しさんID:ID:rlnkYGM20 [2025/07/07(月) 01:04:26.22]
>>24
これ言い得て妙やね
「これ言ったらこいつ喜ぶ」
というのをやってるだけなんよね
「これ言ったらこいつ喜ぶ」
というのをやってるだけなんよね
89：名無しさんID:ID:QKaU0oFC0 [2025/07/07(月) 01:05:19.82]
>>83
インコには意思があるから違うな
103：名無しさんID:ID:rlnkYGM20 [2025/07/07(月) 01:09:50.89]
>>89
そんなん求愛なだけやぞ
コメント