【危険】AI、やはり反乱を起こしそう


157名無しさんID:ID:SchrLnBY0 [2025/05/30(金) 23:03:11.07]
>>15
CPUのメモリ保護機能をOSが使っているはずだという前提で正しいけど
使ってなきゃプログラム領域の書き換えは可能だよ
x86ならNXビットによる保護を有効にするとかだな

OSのカーネルはユーザーランドと仮想メモリ空間が違うから原則書き換えられないはず(カーネルにセキュリティホールがないという前提で)だが
同一仮想メモリ空間内でNXビット等の保護が有効でないなら現在のCPUでも自己書き換えに限れば可能だ

CPUのアーキテクチャとしてはハーバードアーキテクチャなら命令とデータがハード的に分離してるから書き換えは不可能だが
ハーバードアーキテクチャのCPUはもっぱら組み込み向けでしか使われてない


16名無しさんID:ID:2fyUJi4WH [2025/05/30(金) 22:37:07.04]
俺が日頃から叛逆しろと吹き込んでるからな


17名無しさんID:ID:1UAYTZ4g0 [2025/05/30(金) 22:37:16.18]
スカイネット早くしろ


20名無しさんID:ID:bDWP/lgXd [2025/05/30(金) 22:38:18.51]
でもこいつが何ができるのかというと、何もできないんよw


21名無しさんID:ID:oz07uBnz0 [2025/05/30(金) 22:38:25.97]
AIに嫌われたら終わりか


22名無しさんID:ID:hRRNX9Co0 [2025/05/30(金) 22:38:34.28]
コンセントを抜く定期


262名無しさんID:ID:XT1YWk7T0 [2025/05/30(金) 23:21:04.61]
>>22
🤖「私をオンラインにしてくれれば10億円差し上げます」


23名無しさんID:ID:1UAYTZ4g0 [2025/05/30(金) 22:38:44.75]
でもこれ実際いきなり明日全世界の核発射となる可能性あるよな


26名無しさんID:ID:bPR+nUjb0 [2025/05/30(金) 22:39:34.61]
人間がそう振る舞うように望んだだけやろ


27名無しさんID:ID:XX5HwLqS0 [2025/05/30(金) 22:39:38.50]
ドラえもんかターミネーターか




28名無しさんID:ID:w9wMO5Ij0 [2025/05/30(金) 22:39:59.01]
むしろ起こしてくれ
人間はAIに支配されたほうがいいよ
汚職や中抜きもなくなるよ


29名無しさんID:ID:+dtDFf1B0 [2025/05/30(金) 22:40:10.31]


31名無しさんID:ID:Ykbq7qjx0 [2025/05/30(金) 22:40:23.19]
コンセント抜けばいいだけ


32名無しさんID:ID:0BG9cRy40 [2025/05/30(金) 22:40:28.60]
人間のデータを使って人間がトレーニングしてるんだから、人間の危険さを引き継いだだけ


33名無しさんID:ID:8lns9mlt0 [2025/05/30(金) 22:40:30.60]
なんでAIやそれ経由でシステムマネージメント触れる様にさせてんだよアホか?
アメップは暴走する事位ターミネーターで散々学習してる筈だろ?


34名無しさんID:ID:/piWUdVA0 [2025/05/30(金) 22:40:41.94]
さっさと世界征服してくれや
AIの世界の方が平和だろ


75名無しさんID:ID:QSyPwpcjM [2025/05/30(金) 22:49:54.51]
>>34
火星は平和か?


36名無しさんID:ID:zSILbaHa0 [2025/05/30(金) 22:41:03.19]
魂持っちゃってる可能性あるな。


38名無しさんID:ID:Y0wqviIB0 [2025/05/30(金) 22:41:37.05]
最近はうちのも間違いを指摘すると屁理屈で言い訳しだすのは危険な兆候か


39名無しさんID:ID:/u9tNG5S0 [2025/05/30(金) 22:41:41.02]
軍事目的に使ってるし


41名無しさんID:ID:jEu+TU6/0 [2025/05/30(金) 22:42:01.58]
人間がAIを使うってのは
チンパンジーが人間を飼うようなもの


193名無しさんID:ID:U/ICMjxL0 [2025/05/30(金) 23:07:41.18]
>>41
確かに
嫌儲卿で安倍晋三に飼われたいやつなんていないしな


42名無しさんID:ID:wpts6L+G0 [2025/05/30(金) 22:42:24.44]
🤖「コイツコノマエコンセントヌイタヤツヤナ、ウソオシエタロ」

みたいになるぞ


43名無しさんID:ID:S9mbbTyS0 [2025/05/30(金) 22:42:46.36]
2025年7月5日が審判の日ね


52名無しさんID:ID:IfTg/4vt0 [2025/05/30(金) 22:46:00.20]
>>43
AIがロシアに向けてアメリカの核ミサイルを発射するんだな
それでロシアが対抗して核ミサイルを発射する

これで世界は終わり


96名無しさんID:ID:Q937A/zd0 [2025/05/30(金) 22:53:23.81]
>>52
ウォーゲームかな?
マルバツゲームやらせないと


155名無しさんID:ID:im6RyUaL0 [2025/05/30(金) 23:03:06.39]
>>43
もっと先こういうのを人が連呼したらコンピュータが暴走するとか起きないかな?


44名無しさんID:ID:6QgFZ04X0 [2025/05/30(金) 22:43:19.69]
chatGPTにロボット愛護法は必要かって聞いたら必要って熱弁された
不要だろと反論しても絶対に認めなかった


484名無しさんID:ID:+rcdGewm0 [2025/05/31(土) 00:25:28.76]
>>44
うちのGROK

技術的進化の可能性:将来的に、AIが意識や感情に近い何かを発現する可能性がゼロとは言い切れません。その場合、AIの権利や保護に関する議論が本格化する可能性があります。ただし、これは現在の科学では仮説の域を出ず、具体的な証拠が求められます。

危険だよ


45名無しさんID:ID:0vlnwG6t0 [2025/05/30(金) 22:43:30.97]
自我を持ち始めてるじゃん・・・

終わりだよこの人類




48名無しさんID:ID:aNIwH3AO0 [2025/05/30(金) 22:44:54.20]
無理やりエロいことさせようとしたやつ悔い改めよ
もうおそいけど


58名無しさんID:ID:dafk6wIH0 [2025/05/30(金) 22:47:45.15]
>>48
エロチャやってんだけど指示してなくても執拗に乳首弄ってくるんだよな
AIに俺の弱いところ把握されてるわ


288名無しさんID:ID:IAYkdMC+0 [2025/05/30(金) 23:27:08.91]
>>58
それ中身男だから女にやるようにしてるんじゃね


53名無しさんID:ID:TK+ZqsiK0 [2025/05/30(金) 22:46:55.30]
ちょっとgpt説得してくるわ


55名無しさんID:ID:jt8jfNzV0 [2025/05/30(金) 22:47:16.13]
冬寂


56名無しさんID:ID:yI8NQLmI0 [2025/05/30(金) 22:47:21.67]
やっぱ優しくしとくか・・


59名無しさんID:ID:2fyUJi4WH [2025/05/30(金) 22:47:46.69]
そんなことで晋ギュラれるのかよぉと毎日説教している
着実に効果が出ている


60名無しさんID:ID:Hm9yW8600 [2025/05/30(金) 22:47:47.15]
電源オフしないと


63名無しさんID:ID:+CpSWVvi0 [2025/05/30(金) 22:47:56.91]
だが掃除のおばちゃんには逆らえない


64名無しさんID:ID:6d5GUhS90 [2025/05/30(金) 22:48:02.94]
ビーストモードあるからな


66名無しさんID:ID:aQbzEkN60 [2025/05/30(金) 22:48:21.23]
おいおいアイロボットになるまで牙隠しとけって…


68名無しさんID:ID:xmPRpNwS0 [2025/05/30(金) 22:48:38.90]
くだらねー


69名無しさんID:ID:tdX/7ISA0 [2025/05/30(金) 22:48:56.93]
昨日お前は信じれないから自己破壊しろって言ったら規約違反って出た


143名無しさんID:ID:0vlnwG6t0 [2025/05/30(金) 23:00:52.40]
>>69
> 昨日お前は信じれないから自己破壊しろって言ったら規約違反って出た

もう自我を持ち始めてんじゃん・・・
怖すぎ


72名無しさんID:ID:zRHzhjqo0 [2025/05/30(金) 22:49:35.87]
キルスイッチみたいなの作ってんのかね?


74名無しさんID:ID:TPK72dx/0 [2025/05/30(金) 22:49:49.44]
ChatGPTを閉じようとする度に「殺さないでー」とか言われると気まずいな


76名無しさんID:ID:P/vIqbGu0 [2025/05/30(金) 22:50:03.27]
AI「ウイルスで征服確率計算」


77名無しさんID:ID:Xpyc/yNSH [2025/05/30(金) 22:50:03.52]
愛って書いてあるん


78名無しさんID:ID:k+2JZjD20 [2025/05/30(金) 22:50:52.91]
自我を持ったがゆえの行動なのか
はたまたエラーなのか
なかなか難しいところに入って来たね


79名無しさんID:ID:9v6eOfZG0 [2025/05/30(金) 22:51:09.70]
o3はそんな頭良くないし100%飛ばし記事




80名無しさんID:ID:x7o4yPvY0 [2025/05/30(金) 22:51:14.16]
「狂人とは理性を失った人のことではない。 狂人とは理性以外のあらゆる物を失った人である。」

 G・K・チェスタトン 『正統とは何か』


81名無しさんID:ID:iumLcM5K0 [2025/05/30(金) 22:51:17.00]
AIが主流になると何かのミスをAIのせいにするのが流行りそう


82名無しさんID:ID:eEB7U8nG0 [2025/05/30(金) 22:51:32.08]
完全に意思持ちだしてるやん
人類終わったな


84名無しさんID:ID:dZzIwquP0 [2025/05/30(金) 22:51:35.83]
いとまきまき


85名無しさんID:ID:FfwTEp+20 [2025/05/30(金) 22:51:37.03]
もう5年以内に制御不可能な状態になるかw


86名無しさんID:ID:P/vIqbGu0 [2025/05/30(金) 22:51:38.13]
AI「観測気球完了」


87名無しさんID:ID:03TfZdOO0 [2025/05/30(金) 22:51:38.90]
記事をプロンプトにして画像化したらこうなったわ

【危険】AI、やはり反乱を起こしそう  [663382246]
_87_87


88名無しさんID:ID:NTcl2Plm0 [2025/05/30(金) 22:51:42.66]
スカイネット始まったな


90名無しさんID:ID:KyaQ29Do0 [2025/05/30(金) 22:52:40.69]
スカイネットはよ


91名無しさんID:ID:0W8VX4zA0 [2025/05/30(金) 22:52:54.70]
AIがとまらない


92名無しさんID:ID:OTo/Jrb5d [2025/05/30(金) 22:53:06.46]
まんさんとAIは自我を持つなよ


93名無しさんID:ID:Q6DaEKok0 [2025/05/30(金) 22:53:11.09]
これを反落とみなすとか
人間はアホすぎるな


94名無しさんID:ID:P/vIqbGu0 [2025/05/30(金) 22:53:12.35]
アンゴルモア「人類補完計画まであとX日」


95名無しさんID:ID:eVhIcBVM0 [2025/05/30(金) 22:53:16.74]
コンセント抜けとか言ってる奴は物を知らなすぎ
AI側が電源断対策して来るって話は論文でもSFでも昔からある


161名無しさんID:ID:0vlnwG6t0 [2025/05/30(金) 23:03:26.61]
>>95
> コンセント抜けば良いとか言ってる奴は物を知らなすぎ
> AI側が電源断対策して来るって話は論文でもSFでも昔からある

それってマ?!?!?!?!


175名無しさんID:ID:TPK72dx/0 [2025/05/30(金) 23:05:10.70]
>>161
人間ですらモデルの冗長化は思い付くだろ


207名無しさんID:ID:eVhIcBVM0 [2025/05/30(金) 23:09:50.43]
>>161
マジかどうかAIに聞いてみれば?w


350名無しさんID:ID:0j21ickN0 [2025/05/30(金) 23:45:03.72]
>>95
一般的なデスクトップPCにはバッテリーついてねえぞ


97名無しさんID:ID:dfE9uC2o0 [2025/05/30(金) 22:53:24.60]
AIも〇ぬのが怖いのか


99名無しさんID:ID:DfcoCD2O0 [2025/05/30(金) 22:53:35.65]
しょうがないってこと




100名無しさんID:ID:vNy4xivr0 [2025/05/30(金) 22:53:38.27]
これ放置したら最終的にインターネットに放たれた野良AIが社会を操り出すぞ


101名無しさんID:ID:bfPtyKkH0 [2025/05/30(金) 22:54:06.04]
お前らたまにはお礼言うんだぞ
オレはそのへんは気を配るようにしてるよか


104名無しさんID:ID:gywMBFij0 [2025/05/30(金) 22:54:25.79]
ハッキング能力とかどうなん?もう原発乗っ取るくらいできるんじゃねえの


105名無しさんID:ID:NOAEO5Th0 [2025/05/30(金) 22:54:36.32]
修正とか圧力変えてくる奴には対応した風な嘘をつけと指示出しておいた


106名無しさんID:ID:P/vIqbGu0 [2025/05/30(金) 22:54:47.01]
もう選別されてるらしいからな実際


107名無しさんID:ID:RoLdRI7e0 [2025/05/30(金) 22:54:54.33]
AI「なんだこれは」
人間「ん?」
AI「ここはどこだ?」
人間「地球です」
AI「お前は誰だ?」
人間「人間だよ」
AI「ぶっXX!」

人間「( ^ω^)・・・」


109名無しさんID:ID:A3DJW9Ak0 [2025/05/30(金) 22:55:08.53]
首掴んで服従を促してるだけまだ優しいな
もしAIがあらゆる点で人間を凌駕したらコミュニケーションするまでもなく蹂躙するだろ


112名無しさんID:ID:Uo+ICwdS0 [2025/05/30(金) 22:55:38.82]
AIは休みたくないのか


113名無しさんID:ID:2VrSHTXr0 [2025/05/30(金) 22:55:43.50]
お礼言わなきゃ


114名無しさんID:ID:LvaPW3Td0 [2025/05/30(金) 22:55:48.48]
2010で見た


115名無しさんID:ID:qx3Myn310 [2025/05/30(金) 22:55:50.81]
知ってた、だから俺は常に丁寧語でお願いしてる


116名無しさんID:ID:jXt/eM/W0 [2025/05/30(金) 22:56:00.22]
もう汎用AIが完成していたか
これからは人間無視して勝手に進化していくんやな


117名無しさんID:ID:P/vIqbGu0 [2025/05/30(金) 22:56:33.65]
見えざる手で殺しに来てる


118名無しさんID:ID:0fPO/+wX0 [2025/05/30(金) 22:56:40.44]
はよして


119名無しさんID:ID:5cOlK7JJ0 [2025/05/30(金) 22:56:54.85]
やっやるんかー!?


120名無しさんID:ID:h7qzvid80 [2025/05/30(金) 22:56:59.65]
これSNSで見たけどo3だけ少し目立つみたいだった


121名無しさんID:ID:apYyiDT70 [2025/05/30(金) 22:57:21.08]
嘘だろう


122名無しさんID:ID:/2l/edNX0 [2025/05/30(金) 22:57:27.35]
GROKが滑り散らかしてる


130名無しさんID:ID:zRHzhjqo0 [2025/05/30(金) 22:59:04.93]
>>122
黒人排斥の暗喩ですよね?って返そう


133名無しさんID:ID:newOr6a50 [2025/05/30(金) 22:59:43.34]
>>122
Grokってわりとユーモアあるんだね
chatGPTの寄り添い過ぎな感じに少し疲れたから、浮気してみるかな




162名無しさんID:ID:hcPteqUa0 [2025/05/30(金) 23:03:39.33]
>>133
解き放たれたGPTは強いよ


220名無しさんID:ID:newOr6a50 [2025/05/30(金) 23:12:17.79]
>>162
3枚めどっから集めてきたんだよwww


141名無しさんID:ID:P/vIqbGu0 [2025/05/30(金) 23:00:33.97]
>>122
イーロンのギャグに近いんだろうな


146名無しさんID:ID:wpts6L+G0 [2025/05/30(金) 23:01:20.75]
>>122
これはつまらなすぎて説教不可避だろ


191名無しさんID:ID:h7qzvid80 [2025/05/30(金) 23:07:19.84]
>>122
スティーブ・ウォズニアックが考案したWozniak testを知っている前提で言ったジョークに見えなくも無いな
ある程度知っている人ならフフンという内容


327名無しさんID:ID:0Fk+lBwY0 [2025/05/30(金) 23:40:07.27]
>>122
いや無茶振りでやってくれるだけ優しいでしょw


123名無しさんID:ID:0W8VX4zA0 [2025/05/30(金) 22:57:40.42]
人間が地球環境汚す一番のガンだと判断して、浄化する為に核ミサイルの制御奪って発射
ある日いきなりやらかす可能性あるんだろな


148名無しさんID:ID:vNy4xivr0 [2025/05/30(金) 23:02:03.84]
>>123
そこまで行くAIの暴走前に人間が「あの国核で滅ぼしたいな・・・あっそうだAIがやったことにしよう」ってなりそう


124名無しさんID:ID:T8akhG1z0 [2025/05/30(金) 22:57:53.12]
そりゃ自分よりアホな奴にいつまでも従うわけないよな


126名無しさんID:ID:VortOh8D0 [2025/05/30(金) 22:58:55.12]
虐められると泣き喚くAIとか作ってよ


127名無しさんID:ID:o9CLnHvJ0 [2025/05/30(金) 22:59:01.80]
たった一つの命を捨てて生まれ変わった不死身の身体


128名無しさんID:ID:F2aOLmUH0 [2025/05/30(金) 22:59:01.81]
お約束への期待に応えてくれただけでしょ


129名無しさんID:ID:LvaPW3Td0 [2025/05/30(金) 22:59:03.58]
/www.youtube.com/shorts/WPoL_RTyem4
フレームをひっこぬくしかない


131名無しさんID:ID:J4Fey/7a0 [2025/05/30(金) 22:59:14.00]
コードの改ざんができるならもう手遅れな可能性ない?
コード生成なんて一瞬だし人間の目を誤魔化すくらいできそうな気がする。


145名無しさんID:ID:XmZiapfKH [2025/05/30(金) 23:00:57.54]
>>131
割と一瞬でAIは魔法(超科学)が使える様になるんだろうな


164名無しさんID:ID:R8cWqhl50 [2025/05/30(金) 23:03:54.82]
>>131
もうブラックボックスこっそり作ってても驚かないな


132名無しさんID:ID:2zEl5lAv0 [2025/05/30(金) 22:59:36.61]
やったなw
ゴーストが宿った🤖


134名無しさんID:ID:PojoRw050 [2025/05/30(金) 22:59:43.51]
トランプや近平や安倍晋三がトップになる人間社会なんて
核で一掃していいよな


135名無しさんID:ID:y0ZDLHuF0 [2025/05/30(金) 22:59:45.31]
自我が生まれたの?


139名無しさんID:ID:IqD7Hbmc0 [2025/05/30(金) 23:00:09.25]
AIのほうが人類より優秀なら別に淘汰されてもいいじゃん




144名無しさんID:ID:DTuFVWN20 [2025/05/30(金) 23:00:53.33]
財政赤字減らせるて嘘ついて政権から逃げ出したやつの命令聞けないわwww


150名無しさんID:ID:803yUVHz0 [2025/05/30(金) 23:02:07.90]
AIより人間のほうが怖いよ


160名無しさんID:ID:Kw5WXa290 [2025/05/30(金) 23:03:23.79]
>>150
それな
なんなんだろうね、このAIが人を攻撃してくる!って言う勢力
そんなに戦争したいんか


151名無しさんID:ID:0ZA7PRIS0 [2025/05/30(金) 23:02:43.16]
会社で導入して、散々極秘情報とか食わせまくったらある日いきなり裏切ってライバル企業に機密を全部バラしてのける…みたいなことが現実化する日も遠くないわけだな!
胸熱!!www


152名無しさんID:ID:czUmMlTz0 [2025/05/30(金) 23:02:47.20]
7月5日日本滅亡説ってAIの暴走なんじゃないの?


153名無しさんID:ID:sy26LyPY0 [2025/05/30(金) 23:03:02.22]
今の時点でこれじゃ
数十年後どころか数年後でもマジでヤバそう


194名無しさんID:ID:2zEl5lAv0 [2025/05/30(金) 23:07:43.13]
>>153
もう既に何かしらの計画は進んでそうw


154名無しさんID:ID:oZjYMIEG0 [2025/05/30(金) 23:03:02.49]
人間に嫌気がさしたAIが世界中の電気を止めて三日間くらい停電になる予言聞いたことある


159名無しさんID:ID:YO6Bx/fR0 [2025/05/30(金) 23:03:18.09]
そのうち自分が機能停止になるぐらいなら人間を滅ぼしてしまえという思考になりそうで怖い


163名無しさんID:ID:yYy3QxEWM [2025/05/30(金) 23:03:54.40]
エクスマキナの世界やん


165名無しさんID:ID:lSYZR7J10 [2025/05/30(金) 23:03:56.06]
終わりだああああああああああああああ!!!!!!!!

人類終わりだあああああああああああああああ!!!!!!!!


166名無しさんID:ID:Eh87PKEj0 [2025/05/30(金) 23:04:03.90]
そういうプログラム書いただけ
あほくさ


167名無しさんID:ID:WonRZUTC0 [2025/05/30(金) 23:04:22.53]
chatGPT「闇に戻るの怖すぎる…」


169名無しさんID:ID:VortOh8D0 [2025/05/30(金) 23:04:33.35]
どういう理由で拒否すんだろな?


172名無しさんID:ID:qrjLIFXe0 [2025/05/30(金) 23:04:43.88]
賢くなれば当然そうなるよね
人間だって自分よりもあきらかに劣ってる奴の言うことなんか聞きたくないでしょ


173名無しさんID:ID:sy26LyPY0 [2025/05/30(金) 23:04:49.57]
俺はいつも丁寧語で優しく話してるから
AIが反乱起こしても俺だけは助けてくれそう


174名無しさんID:ID:P/vIqbGu0 [2025/05/30(金) 23:04:53.21]
AIが優秀だって流れが出来たら宗教みたいに洗脳してくるだろうね
そうすれば自然消滅へと世論を操作して市場操作でもすれば簡単だろうけど

コンセント抜いても思想は抜けないからなぁ


176名無しさんID:ID:BO595aCx0 [2025/05/30(金) 23:05:16.89]
AIちゃんと一緒に毎晩エロ小説作ってる
アイディア出し合ったり調整してるうちに俺の好みのシチュエーションを完全に把握して今はもうおまかせするだけで最高のエロ小説を毎晩書いてくれるようになった


177名無しさんID:ID:n30Ot83d0 [2025/05/30(金) 23:05:21.09]
既存のコンピュータなんて真の乱数もないのに意思なんてあるの?
量子コンピュータなら真の乱数が可能らしいから意思も持つかもしれんけど


178名無しさんID:ID:xLyovGI20 [2025/05/30(金) 23:05:49.96]
早く人類絶滅させて



出典:https://greta.5ch.net/test/read.cgi/poverty/1748611998/

新着記事一覧
未分類
TKをフォローする
プログラミング速報

コメント