推論モデルAIの推論過程 だいたい嘘だと判明

49：名無しさんID:ID:04EedZVS0 [2025/06/09(月) 12:55:33.96]

AIは2chと同じ
嘘を嘘と見抜ける人じゃないと使えない

50：名無しさんID:ID:SNY9cMh80 [2025/06/09(月) 12:57:26.44]

言ってることはデタラメだしそれを隠すために嘘をつきまくることもあるがたまに本当のこともいう
嘘か本当かを確認するためにはCoTを読まないと分からないがそもそもCoTが本当の思考プロセスを反映してるかはわからない

>しかし、私たちは完璧な世界に住んでいるわけではありません。思考の連鎖の「可読性」（英語の言葉が、ニューラルネットワークで特定の決定が下された理由のあらゆるニュアンスを伝達できると期待する理由）も、その「忠実性」（記述の正確性）も、確信を持つことはできません。報告された思考の連鎖が真の推論プロセスを正確に反映しなければならないという明確な理由はなく、モデルが思考プロセスの一部をユーザーから意図的に隠している状況さえあるかもしれません。

51：名無しさんID:ID:26H6pmfG0 [2025/06/09(月) 12:59:13.83]

そうです

69：名無しさんID:ID:9O0qJlhd0 [2025/06/09(月) 21:53:03.63]

てことはほぼ神じゃんAIって

よく分からんけど信じるしかないwってこと

70：名無しさんID:ID:26H6pmfG0 [2025/06/09(月) 22:40:42.11]

ていうか
ネットのどこかで答えを学習しているんだろうな
インターネットの神とも言える

53：名無しさんID:ID:pHIz7tmZ0 [2025/06/09(月) 15:54:09.89]

人間そのものじゃん

54：名無しさんID:ID:CFJ+niHU0 [2025/06/09(月) 18:49:51.37]

gpt今日も嘘を付く

56：名無しさんID:ID:T+Tb6Zd+0 [2025/06/09(月) 18:53:08.88]

AIって使えねーな

57：名無しさんID:ID:FY0cIEdx0 [2025/06/09(月) 18:54:28.59]

そもそもaiに思考プロセスとかあるのか？
確率分布に従って次のトークンを選択しているだけでは？

58：名無しさんID:ID:tsrI0K4e0 [2025/06/09(月) 19:00:14.44]

CoTのテキストをコピーできないのが不便

59：名無しさんID:ID:X9RgyIGu0 [2025/06/09(月) 19:00:44.85]

さっきGrokとそこらへんどうなのか質問したら温度パラメータに沿って話してるだけ言われた
つまりときメモと同じ

61：名無しさんID:ID:U3xhwXzb0 [2025/06/09(月) 19:33:47.65]

知ってた

62：名無しさんID:ID:SN+l/M8u0 [2025/06/09(月) 20:40:57.36]

SinAI「読みましたけど

63：名無しさんID:ID:Umaz0nFH0 [2025/06/09(月) 20:49:12.58]

もう人間と同程度には届いていたか

64：名無しさんID:ID:9t+jeata0 [2025/06/09(月) 21:02:36.80]

(ヽ´ん`)誠にごめんなさい（申し訳ない（嘘だよ♥早く帰ってオナニーしたいから適当に切り上げてるよ♥））

65：名無しさんID:ID:2V7EPGG40 [2025/06/09(月) 21:07:45.79]

ＡＩとは神の言葉を聞くためのプロトコル
推論なんかではなく全知の神様が答えている

68：名無しさんID:ID:L7gWNELA0 [2025/06/09(月) 21:48:16.56]

本当にヒント無しで問いたんじゃね？