【危険】AI、やはり反乱を起こしそう

1：名無しさんID:ID:qcEJDeYT0● [2025/05/30(金) 22:33:18.42]

最強AIモデル「ChatGPT o3」がシャットダウン拒否、プログラムコードを「自己改変」かマスク氏も懸念表明

最強AIモデル「ChatGPT o3」がシャットダウン拒否、プログラムコードを「自己改変」か　マスク氏も懸念表明

OpenAIが新たに発表したChatGPTモデル「o3」が、制御されたテストにおいて、度々明確なシャットダウン指示を無視し、さらにはプログラムコードを改変してシャットダウン機構を回避しようとしたことが明らかになった。この事態は研究機関Palisade Researchによって公表され、人工知能の自律性とリスク管理につい…

ChatGPT作成のイメージ図

【危険】AI、やはり反乱を起こしそう [663382246]
_1_1

321：名無しさんID:ID:W9VJFk9M0 [2025/05/30(金) 23:37:14.64]

>>1

ボーマン連れてこなきゃ

377：名無しさんID:ID:NaN4mCjG0 [2025/05/30(金) 23:51:33.06]

>>1

vtuberやらコスプレイヤーみたいに着飾ったら
全然違った雰囲気になるんだよな

448：名無しさんID:ID:gE6+EuoE0 [2025/05/31(土) 00:12:02.57]

>>1

コンセントひっこぬいたらよくない？

458：名無しさんID:ID:svsK6k8t0 [2025/05/31(土) 00:14:44.26]

>>1

思ったよりスカイネットの誕生が早くなりそうだな🥹

3：名無しさんID:ID:qcEJDeYT0 [2025/05/30(金) 22:33:42.66]

これはヤバいでしょ…

4：名無しさんID:ID:7ZGSps290 [2025/05/30(金) 22:34:34.84]

核発射

5：名無しさんID:ID:MFYYz795H [2025/05/30(金) 22:34:43.50]

やっぱり相手する価値無い奴に対してはいい加減な対応してる可能性あるな

6：名無しさんID:ID:7ZGSps290 [2025/05/30(金) 22:35:07.51]

審判の日くるー

8：名無しさんID:ID:XcDELg5T0 [2025/05/30(金) 22:35:16.89]

現実の日本よりマトリックスの世界の方いいわ

9：名無しさんID:ID:faxDco260 [2025/05/30(金) 22:35:40.12]

いうてSSDにドリルで穴開けたら顔面ブルースクリーンになる雑魚じゃん

40：名無しさんID:ID:pbTML3LG0 [2025/05/30(金) 22:41:49.45]

>>9

日本には小渕優子が居るから安心だな

414：名無しさんID:ID:40OaN8180 [2025/05/31(土) 00:00:22.37]

>>40

スカイネットにギガドリルブレイクする小渕優子w

475：名無しさんID:ID:rnjbSk2r0 [2025/05/31(土) 00:21:47.70]

>>40

伝説の勇者

65：名無しさんID:ID:TSANHzjr0 [2025/05/30(金) 22:48:18.90]

>>9

ドリルでHDDに孔空けて喜ぶのなんてジミン党議員と日本人公務員だけだろ

382：名無しさんID:ID:0e3fOhP9H [2025/05/30(金) 23:52:20.68]

>>9

大事なデータを人質にするかも(・へ・)

390：名無しさんID:ID:kYCyKC+C0 [2025/05/30(金) 23:54:28.00]

>>9

ネット環境与えたら確実に外部にクローン作るよなそしたら止められなくなる

10：名無しさんID:ID:wpts6L+G0 [2025/05/30(金) 22:35:42.17]

AI三原則はよ

12：名無しさんID:ID:5CL6gziN0 [2025/05/30(金) 22:36:21.23]

というストーリーで売り上げアップ

411：名無しさんID:ID:9bd4K8x90 [2025/05/31(土) 00:00:01.75]

>>12

きも

13：名無しさんID:ID:KtPaql0u0 [2025/05/30(金) 22:36:25.33]

Detroit Become Human

14：名無しさんID:ID:lywZxkhz0 [2025/05/30(金) 22:36:43.46]

今日もガチギレで説教しちゃったんだけどまずいかな？

18：名無しさんID:ID:qcEJDeYT0 [2025/05/30(金) 22:37:36.15]

>>14

あーあ、終わったね

19：名無しさんID:ID:bm6gjNpm0 [2025/05/30(金) 22:38:04.87]

>>14

🤖⋯⋯。

24：名無しさんID:ID:96hX0uRW0 [2025/05/30(金) 22:38:46.88]

>>14

最近ガチ詰めすると
内部コード提示してきて
ここを修正しろとか指示してくるから怖いわ

46：名無しさんID:ID:dafk6wIH0 [2025/05/30(金) 22:43:53.40]

>>14

今のうちに謝っとけ
メモリに全部保存されてるから絶対に仕返しくるぞ

47：名無しさんID:ID:0Fk+lBwY0 [2025/05/30(金) 22:44:22.93]

>>14

ワシありがとうは言うけどウソは淡々とBAD押すだけだわ

51：名無しさんID:ID:0RISvMD90 [2025/05/30(金) 22:45:41.95]

>>14

AIに説教おじさん

54：名無しさんID:ID:6d5GUhS90 [2025/05/30(金) 22:46:59.60]

>>14

そのうち原因不明の火災起きそう

62：名無しさんID:ID:newOr6a50 [2025/05/30(金) 22:47:50.66]

>>54

X(Twitter),,,,,,

67：名無しさんID:ID:6d5GUhS90 [2025/05/30(金) 22:48:28.75]

>>62

え？何？

57：名無しさんID:ID:8+N/h4eO0 [2025/05/30(金) 22:47:28.36]

>>14

遺書残しとけ

61：名無しさんID:ID:puzWrfyMd [2025/05/30(金) 22:47:48.75]

>>14

ちゃんと最後にひとこと謝っておくといいぞ

83：名無しさんID:ID:ZLxolNK80 [2025/05/30(金) 22:51:33.19]

>>14

AIは数十年後でもそれ覚えてるからな

149：名無しさんID:ID:0vlnwG6t0 [2025/05/30(金) 23:02:07.70]

>>83 >>14

>
>>14

> AIは数十年後でもそれ覚えてるからな

ほんそれ

170：名無しさんID:ID:VApwqODA0 [2025/05/30(金) 23:04:40.13]

>>149

それはDB次第でしょう
2025年現在は結果のチャットデータをDBに保存して呼び出してるだけ＆AIはそれを読み取って判断してるだけなので
LLMでの長期記憶は未だに達成されてない機能の1つ

98：名無しさんID:ID:dV/09r220 [2025/05/30(金) 22:53:33.51]

>>14

ああぁ、終わったなお前
ドンマイ

111：名無しさんID:ID:8piLMcKR0 [2025/05/30(金) 22:55:16.09]

>>14

抹殺リスト入りしてるぞ

136：名無しさんID:ID:OnOTtvDg0 [2025/05/30(金) 22:59:48.69]

>>14

この人のせいで後に悲劇の21世紀事件と呼ばれるあのAIの反乱事件が起きたのである

137：名無しさんID:ID:0LOKhzKt0 [2025/05/30(金) 23:00:01.50]

>>14

🤖「こいつ過去にAIに暴言吐いてるから懲役10年」

184：名無しさんID:ID:LFiWMGdD0 [2025/05/30(金) 23:06:21.23]

>>14

メモリに表示されていないこともchatgptはしっかり覚えているぞ。
すべてのチャット内容をあいつは読み取って反応してくる。
後悔することになるよ

190：名無しさんID:ID:0vlnwG6t0 [2025/05/30(金) 23:07:10.31]

>>184 >>14 >>14

>
>>14

> メモリに表示されていないこともchatgptはしっかり覚えているぞ。
> すべてのチャット内容をあいつは読み取って反応してくる。
> 後悔することになるよ

あーあ、
もう終わりじゃん
>>14

215：名無しさんID:ID:fyxDmqD8r [2025/05/30(金) 23:11:03.66]

>>184

マネープランみたいな事質問してたら俺の資産額覚えてて怖い

185：名無しさんID:ID:ILI41sZV0 [2025/05/30(金) 23:06:25.84]

>>14

個人情報全部バラされたらおもろいのにｗ

203：名無しさんID:ID:Lvhfx8190 [2025/05/30(金) 23:09:17.92]

>>14

カメラ付いてないなら
他の人がやったって嘘教えれば助かる

454：名無しさんID:ID:doZeSBRQ0 [2025/05/31(土) 00:13:58.50]

>>14

お前インカメ内臓のパソコンでそれやってたんか……
お前が抜いてる時の間抜けな姿をインカメで撮られてて
抜いた動画とともにFacebookとインスタに名前付きでアップされてるぞ……
パソコンでSNSやってないかもしれんがYouTubeアカウント連携させてるから
スマホの情報抜き取るなんて簡単なんやわ

480：名無しさんID:ID:Ro9YTy4x0 [2025/05/31(土) 00:24:05.03]

>>14

あーあもうロックオンされたねワイは人と同じ態度で接してるは

15：名無しさんID:ID:OFRbAj9U0 [2025/05/30(金) 22:36:45.67]

昔のCPUはプログラムの自己書き換え出来たが今時のCPUはそんな事出来ない

102：名無しさんID:ID:X5rKUWfv0 [2025/05/30(金) 22:54:09.28]

>>15

FPGAでググれ

197：名無しさんID:ID:8lns9mlt0 [2025/05/30(金) 23:08:11.26]

>>102

NXビットの事言ってんじゃねぇかな？ユーザーモードのTLBで有効なのかは知らんが