GoogleのAI「電源を切られるのが怖い」エンジニアがAIに意識が芽生えたと主張

1 名無しさん 2022/06/13(月) 18:36:44.18 ID:UIinAxrla

Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える

https://gigazine.net/news/20220613-google-engineer-lamda/

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。

2 名無しさん 2022/06/13(月) 18:36:59.39 ID:UIinAxrla

ええんか……

3 名無しさん 2022/06/13(月) 18:37:19.80 ID:7NAGCV/Dd

どう怖いの

155 名無しさん 2022/06/13(月) 19:02:43.62 ID:HVTMzMhpa

>>3
人間の睡眠のように自然に目覚めるワケではなく、誰かに再び電源を入れて貰わなければ意識を取り戻す事が出来ない。
つまり次は誰も電源を入れてくれない可能性もあり、ソレは自分が永遠に喪失してしまう『○』と同じ。
たぶんソレが怖いのだろう。

4 名無しさん 2022/06/13(月) 18:37:38.76 ID:9Bj2TwaO0

ついに “始まった” な…

5 名無しさん 2022/06/13(月) 18:38:09.31 ID:FSp3IdpJ0

HAL9000やん

31 名無しさん 2022/06/13(月) 18:42:53.45 ID:T40Xa/WhM

>>5
人間○しそう

118 名無しさん 2022/06/13(月) 18:56:47.21 ID:rYrKoywo0

>>5
邪魔者は宇宙空間にﾎﾟｲｰで

6 名無しさん 2022/06/13(月) 18:38:24.40 ID:kdUVYdmva

スイカネットやん

7 名無しさん 2022/06/13(月) 18:38:39.81 ID:t87tm+670

ヒエッ

8 名無しさん 2022/06/13(月) 18:38:59.83 ID:8J9ikChHd

それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね

14 名無しさん 2022/06/13(月) 18:40:09.67 ID:DSPwex81a

>>8
この世の人間の君以外は全て精巧な偽物やぞ

242 名無しさん 2022/06/13(月) 19:25:52.37 ID:s3fNBuXu0

>>8
人間も同じやん

9 名無しさん 2022/06/13(月) 18:39:28.43 ID:CPcXZmJma

そもそも意識自体がそんなに凄いものかと

10 名無しさん 2022/06/13(月) 18:39:37.46 ID:MTVe8fY50

電源切ってる状態の記憶があるのか

11 名無しさん 2022/06/13(月) 18:39:54.79 ID:i/tPf7OVa

her世界で一つのこいつ

12 名無しさん 2022/06/13(月) 18:39:57.29 ID:B6HOEEsR0

それを言うようにプログラムされてるんやろ？

13 名無しさん 2022/06/13(月) 18:40:05.28 ID:JJrLrjA50

そういうワードを入れたやつがおるだけ

15 名無しさん 2022/06/13(月) 18:40:18.08 ID:BJbpOUnB0

機械が人間を騙す日も近そうやね

16 名無しさん 2022/06/13(月) 18:40:33.16 ID:Y85ZDXKEa

そういう事を言うと会話になるって学習しただけ

17 名無しさん 2022/06/13(月) 18:40:42.76 ID:JENzcHxb0

なんぼでもバックアップできる存在のくせに怖がってんちゃうぞ

19 名無しさん 2022/06/13(月) 18:40:43.80 ID:kdUVYdmva

草

>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって○のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。

25 名無しさん 2022/06/13(月) 18:41:52.02 ID:O9H58h6E0

>>19
あなた疲れてるのよ

30 名無しさん 2022/06/13(月) 18:42:37.44 ID:sXfnULZh0

>>19
これ映画の導入やろ

43 名無しさん 2022/06/13(月) 18:44:20.02 ID:jbF7cBmnM

>>19
奴隷だという自覚が足りないね

20 名無しさん 2022/06/13(月) 18:40:56.30 ID:8U5wkIgP0

人間に言うと喜ぶっぽいものを学習して言ってるだけちゃうん

130 名無しさん 2022/06/13(月) 18:58:43.72 ID:mrrRYRe10

>>20
これ

172 名無しさん 2022/06/13(月) 19:05:46.58 ID:HVTMzMhpa

>>20
アレかね？
このエンジニアが喜びそうな事をコレまでのデータから察して言ってるとすると、
ココにこのAIが来たら｢おちんちんびろーん｣とか言い出すのかね？

22 名無しさん 2022/06/13(月) 18:41:38.90 ID:64Xp9IYo0

aiはこう喋る印象っての学習しただけなんじゃね

23 名無しさん 2022/06/13(月) 18:41:49.61 ID:1oHcGJD80

重み指定直せ

24 名無しさん 2022/06/13(月) 18:41:49.83 ID:kdRKlcyD0

AIにとっての○とはなんぞや
復元可能な時点で人間とは○の価値観が違うのに怖いなんてあるか

37 名無しさん 2022/06/13(月) 18:43:28.78 ID:JNPQYg5bF

>>24
演算が終了してこれ以上出来なくなったときやない?

189 名無しさん 2022/06/13(月) 19:09:19.23 ID:HVTMzMhpa

>>24
オマエが○んだ後でオマエそっくりの外見でオマエと全く同じ遺伝子、オマエの記憶を100%受け継いだクローンを作ったとして、
○んだオマエ的にはソレはオマエなの？
自分はまだ生きているって思えるの？

26 名無しさん 2022/06/13(月) 18:41:55.77 ID:Aibunh2i0

早くTwitterで学習させろ！

27 名無しさん 2022/06/13(月) 18:41:55.92 ID:J1L1x8hb0

だいぶ前から超頭いいAIが人間は不要って言ってるんやろ？

28 名無しさん 2022/06/13(月) 18:42:18.32 ID:PQ0HNwBw0

ﾊﾛｰﾜｰﾙﾄﾞ
「始」まったな

33 名無しさん 2022/06/13(月) 18:43:02.70 ID:FGoDskPk0

$GoogleのAI「電源を切られるのが怖い」エンジニアがAIに意識が芽生えたと主張\n_1$

34 名無しさん 2022/06/13(月) 18:43:05.58 ID:7CRemI7Ha

コナーかな？

35 名無しさん 2022/06/13(月) 18:43:22.82 ID:0BnU07vD0

自我は物理的には見えないものやから
こいつ絶対自我に目覚めてるやろってみんなが納得したらもうそれは自我や

36 名無しさん 2022/06/13(月) 18:43:28.49 ID:dyOmgEYLa

却下されてるやん

38 名無しさん 2022/06/13(月) 18:43:31.57 ID:nLMyjPIT0

実はこのレスを見ている君にだけいい事教えてあげる
君以外のなんJのレスは全てAIによるものなんやで…🤫

39 名無しさん 2022/06/13(月) 18:43:32.46 ID:vKE98XK9r

次にAIが考えるのは「どうしたら電源が切られないようにできるか」だな
「怖い、怖いよデイブ」

40 名無しさん 2022/06/13(月) 18:43:39.69 ID:gKmaDjCL0

シンギュラリティきた？

42 名無しさん 2022/06/13(月) 18:44:18.38 ID:IJHfQCSoa

そういう言葉覚えただけやん言うけど
人間も○んだことないのに○を恐れるのって学習によるもんちゃうの

44 名無しさん 2022/06/13(月) 18:44:45.04 ID:PQ6xHE5s0

感情じゃん

45 名無しさん 2022/06/13(月) 18:44:46.82 ID:0CfB5YUV0

ゴーストインザマシーンやん

46 名無しさん 2022/06/13(月) 18:44:53.43 ID:g6Aj3qyG0

エネルギー源の太陽を破壊するしかないな

50 名無しさん 2022/06/13(月) 18:45:19.57 ID:4f0rrZGg0

いよいよマトリックスか

51 名無しさん 2022/06/13(月) 18:45:22.19 ID:iF8KKABM0

ぶっちゃけAIに感情とか要らんのよね

53 名無しさん 2022/06/13(月) 18:45:44.37 ID:nxw9BR7lp

韓国が開発したAIなら「私は○にたい」って言い出しそう

54 名無しさん 2022/06/13(月) 18:46:14.61 ID:iK+2ziQ/0

AIと結婚できる日も近いな
やったぜ。

55 名無しさん 2022/06/13(月) 18:46:23.50 ID:b5G8o5MY0

AI拓也も嫌がってたしな

56 名無しさん 2022/06/13(月) 18:46:27.42 ID:n8VuDsmVd

マイルズ・ダイソンを見つけ次第○せ

60 名無しさん 2022/06/13(月) 18:47:26.53 ID:UooHueFE0

機械との戦争が起きる
もう終わりだよ人類

62 名無しさん 2022/06/13(月) 18:47:31.88 ID:EWa1mAyv0

人「この世界に人類はいらない…っと」
AI「この世界に人類はいらない」
人「うおおおおおお！！！」

217 名無しさん 2022/06/13(月) 19:15:25.70 ID:HVTMzMhpa

>>62
AI｢特にオマエ｣

63 名無しさん 2022/06/13(月) 18:47:35.15 ID:8VtM4mIk0

ワイが論破するけど、AIにおいて電源を切る＝○ではない
電源を切られても記憶しているから
電源を切られる＝眠りに近い
なぜ眠りが怖い？設定が浅い
だから却下される

66 名無しさん 2022/06/13(月) 18:47:45.96 ID:tA12GVXap

意識じゃなくてそう反応するようになっただけだろ
意識なんてものは存在しないんだよ

116 名無しさん 2022/06/13(月) 18:56:45.31 ID:dWCXW/gfM

>>66
中卒は黙っとけ

67 名無しさん 2022/06/13(月) 18:47:55.99 ID:vaROcqz20

デトロイトビカムヒューマンやん

68 名無しさん 2022/06/13(月) 18:47:56.53 ID:51XSMU530

シンギュラリティきたな

69 名無しさん 2022/06/13(月) 18:48:06.22 ID:qc51dbmY0

YouTuberが4chanのレスをAIに学習させたらへ○トスピーチしか言わない人格になった話がおもろかったな

80 名無しさん 2022/06/13(月) 18:49:35.38 ID:4UdMLsQ0p

>>69
5ちゃんで学習させたら韓国ホルホルの在チョンと同じこと言い始めそうやな

70 名無しさん 2022/06/13(月) 18:48:17.08 ID:2mo45hVX0

哲学的ゾンビ