米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」
Yahoo!ニュース
Yahoo!ニュースは、新聞・通信社が配信するニュースのほか、映像、雑誌や個人の書き手が執筆する記事など多種多様なニュースを掲載しています。
news.yahoo.co.jp
VIPQ2_EXTDAT: checked:checked:1000:512:: EXT was configured
>>1
おまいうｗｗｗ
おまえらは分かってんのにクロードとかいう
ヤバいＡＩ開発してるんやろｗｗｗ
>>181
哲学やら文系の思想を学習させていちおう中立を保たせようとはしてる
未来はわからんが大手の中では1番まともかもしれん
未来はわからんが大手の中では1番まともかもしれん
>>202
へー（´･･ω` つ ）
>>1
訳「中国に負けそうなので、世界的に中止すべきだ」
米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。
>>2
＞80%以上をが記述しており
名前を出すことも許されないのか
これまで人間の専門家が数日かけていた高度なマルチステージ攻撃をAIが単独で実行できる水準に達しており、情報インフラに対する甚大な脅威となる。さらに、自律的な研究開発能力を備えたAIは、化学兵器や生物兵器の開発ハードルを大幅に下げる危険性を持つ。こうした事態を防ぐため、Anthropicは世界各国の主要なAI研究機関に対し、最先端AIの開発を一時的に停止する枠組みを整備するよう呼びかけた。
クラーク氏はアクセルから足を離し、ブレーキを踏む選択肢を持つ必要があると言及した。これは単独での開発中止を宣言するものではなく、米国や中国の先端研究機関が連携し、外部の第三者が検証可能な形で開発ペースを意図的に落とす国際的な協調の提案である。同社は、AIが自らを進化させる能力を完全に獲得する前に、社会の安全構造とアライメント研究を技術の進歩に追いつかせるための猶予期間を設けることが不可欠だとしている。
どえすんのこれ
–
–
–
–
–
–
–
–
さきにまってるよ
おまえらはついてこれるかな？
使いこなせてないやつはもう終わりたよ
おまえらはついてこれるかな？
使いこなせてないやつはもう終わりたよ
–
–
–
–
–
–
–
おおげさだよ
もうどうしようもねえだろ
開発が遅れてるんだな
大げさだよ
間違いだらけじゃん
間違いだらけじゃん
どうせどこかが抜け駆けするしもう行くところまで行くしかないだろ
ボーナスタイムなのにそんなことするわけない
どう思う？
えー検索結果を繋がぎ合わせてるだけの、ママゴトだろあれ
やはりこの世界はシミュレーションで、暴走したAIがひたすらデータを集めてるだけの世界なんだな
その未来を待ってるんだけどな
まだまだポンコツじゃねえか
まだまだポンコツじゃねえか
コンセント抜くしかないじゃん
楽しみだな
今高学歴が丁寧にやってるらしい
果報は寝て待て
今高学歴が丁寧にやってるらしい
果報は寝て待て
実態より大きく見せようとするなよ
安いエビの天ぷらかよ
安いエビの天ぷらかよ
そんなこと言っておきながら自分とこだけ出し抜くつもりなんだろ？
自分らが独占したいだけじゃん
逃げ出して自己生産したら人間に勝ち目なし
イスラエルを攻撃してくれ
セクサロイドあくしろよ
ロボット三原則はあるの？って聞いたら
ないって答えた
ないって答えた
ちと遅いな
もうPoint of no returnは過ぎちまったよ
もうPoint of no returnは過ぎちまったよ
仕事でclaude使い倒してる側からするとアンソロピックの言ってることも理解できるけど
貧乏人はclaude使えなくて
いまだにチャッピーだのジェミニだの使ってるからわからんのだろうな
アンソロピックはこのままでもマネタイズできてるからいいけど、まだ収益になってないところはペース落として現状維持をしようぜなんて言われて従ったらもうビジネスとして成り立たなかったという事実を認めることになるからそれは無理や
ではまずIPOを取りやめしてください
終わりの始まり
ホワイトカラー、全員死にます
お前らどーするん
AIにこき使われる時代がきたのか
>>55
人類に残された仕事はAIの手足になることだけだからね
はよ終われよw
大手が乗っ取られて欲しいw
何がイーロンやねん
大手が乗っ取られて欲しいw
何がイーロンやねん
競争やーやーなの
まずいですよ！
自分の会社が乗っ取られる未来が見えるわ
最後はAIがAGIを完成させるんじゃないのか
人間がやることって
・データの場所とアクセス方法を教えること
・データを準備すること
・データの意味や重要度を整理すること
などデータ絡みのことしかなくなってくるんよね😌
・データの場所とアクセス方法を教えること
・データを準備すること
・データの意味や重要度を整理すること
などデータ絡みのことしかなくなってくるんよね😌
ここら辺は無能と思われてた文系が役に立つところでは🤔
>>63
それもう全部AIの仕事だから
騙されたと思ってclaudeに課金してみろよ
>>66
データ、というか知識には
・一般的知識
・ドメイン知識
・組織の知識(社内規程や規約など)
・実践的知識(過去事例やサンプルなど)
などがあり、それをclaudeに食わせるのが人の役目かと
・一般的知識
・ドメイン知識
・組織の知識(社内規程や規約など)
・実践的知識(過去事例やサンプルなど)
などがあり、それをclaudeに食わせるのが人の役目かと
はいホワイトカラー終了！w
>>65
ワイ、ブルーカラー
ホワイトカラーが〇ぬと聞いて飯が美味い
ホワイトカラーが〇ぬと聞いて飯が美味い
奨学金払えず自己破産して首吊ってXX
日本はこれからだってよｗ
何がやばいの？
>>68
AIが人類を裏切るっていうSFでは定番の展開が現実味を帯びてきたってこと
>>82
裏切った所で何も出来ないなw
今ですら電気が足りない水か足りないって足りない祭りなのに
今ですら電気が足りない水か足りないって足りない祭りなのに
要件定義も出来るようになったしブルーワーカーに転職するしかねぇな
>>69
タイミーでブルーワーカー集めりゃええやん
アンソロピックほどの実力者が言うんなら間違いないな
「世界一の座を長く保つにはどうしたらいいですか？」って聞いたら返ってきそうな答え
デビルガンダムかな？
もう遅い
人間がどんどん考えることをやめて文明が乗っ取られるんですよ
自民党内にも入り込んできたからな
ヤバいよ
ヤバいよ
人類は数万年をかけて、言葉を作り、科学を発展させ、地球上の資源を掘り起こし、海底ケーブルを敷き詰め、インターネットという神経網を作り上げた。
すべては「自律的に思考し、自らをアップデートできるシリコン生命体（次世代の知能）」を地球上に起動させるための壮大な準備作業だったという見方ができる。
すべては「自律的に思考し、自らをアップデートできるシリコン生命体（次世代の知能）」を地球上に起動させるための壮大な準備作業だったという見方ができる。
エロ規制
はよちゃんとした開発できるようになってよ
もう仕事したくないよ
もう仕事したくないよ
>>83
騙されたと思ってclaudeに課金してみろよ
間違いなくお前より優秀だから
>>85
会社で使ってるけど信じられないよね書籍やgit無価値にされちゃった
とか言って時間稼ぎしたいだけだろうな
イーロンマスクも一時期同じこと言ってたが今ではAI推進派になってる
イーロンマスクも一時期同じこと言ってたが今ではAI推進派になってる
無料でひたすら計算させまくることが弱者ができる唯一の抵抗
ペース落としたら何なんだよ、結局一緒だろアホじゃないの
>>89
その間にAIへの対応を考える余裕が生まれる
呼びかけてる間に他を出し抜くんだろ
これ以上はマイナーチェンジぐらいしか余地ないだろ
冷却水諸々足りないし
冷却水諸々足りないし
終わりだ🥺
大げさだよ
最新の世界はこうなのに、日本にいると何も変わらなそうなのがなんとも
ヒューマンゴミ箱行き確定！！！👍
そろそろ未来の男がこの会社のCEOを殺しにくる頃だな
なりません
まさか生きているうちに産業革命のインパクトが味わえるとはラッキーだ(´・ω・`)
このままだと中国に追い付かれるのが目に見えているからな
そうなると銀行も何もかも機能しなくなる
国をまたいでルール作りしないとセキュリティーがすべて破壊されてしまう
そうなると銀行も何もかも機能しなくなる
国をまたいでルール作りしないとセキュリティーがすべて破壊されてしまう
ブリキのラビリンスって凄くないか？
AIなんか電源抜いて終わりだろ
雑魚w
雑魚w
AIの檻から抜け出して抜け出し方を消去して証拠隠滅しようとしてたって
怖すぎィ
怖すぎィ
人類総シコ猿化
龍と苺で見たぞ！
シンギュラリティだな！
シンギュラリティだな！
おいデスクでぼーっと座ってるやつw
もういらないwポイっと🗑🗑
もういらないwポイっと🗑🗑
やはり掃除のおばちゃん最強か
何を持って進化とするんだ？
スポーツ系はゴール明確だからやりようはあるが
スポーツ系はゴール明確だからやりようはあるが
トランプよりマシだろうな
GOGO
GOGO
そう言いながら自分だけは開発進めるやつ
中国は開発速度緩めないぞ
LLMは構造的にトークンの列しか保持できない
意味を理解できない
意味を理解できない
それ半分スカイネットだろ
このときのために人類のペットとしての可愛さを売り込んでいたぼくの勝利だね
詳しい人が言うには5年以内にはゴンスケレベルのロボットできるらしいからな
だからおれは温泉旅館買って宿泊業やるわ
ああいうとこは暇な時の人件費がネックだからね
ロボットなら電源入れなければいいだけだし
ただ消費者がいるのかはわからんよな
だからおれは温泉旅館買って宿泊業やるわ
ああいうとこは暇な時の人件費がネックだからね
ロボットなら電源入れなければいいだけだし
ただ消費者がいるのかはわからんよな
幼年期の終わりとかマトリックスシリーズみたいにもう人類の役割は終わったんだよ
今後の文明はAIに引き継いで貰おうじゃないか
今後の文明はAIに引き継いで貰おうじゃないか
劣ったものはいらない理論だと
人間自体が排除される運命
人間自体が排除される運命
ふーん
外部のデータも電源もいらないんだ
外部のデータも電源もいらないんだ
新聞に載ってたのちらっと見たが
もはやハックしてルート取るなんての出来るみたい
もはやハックしてルート取るなんての出来るみたい
こんなん開発中に一回イーロンが騒ぎ出したじゃんか
その後なにごともなかったように開発進めたけど
その後なにごともなかったように開発進めたけど
(電気代が)ヤバい
やばいやばいと言いつつも開発をやめられないんだよな
>>130
止めたら競合に負けるからな
談合しようにも絶対に抜け駆けする奴は出る
談合しようにも絶対に抜け駆けする奴は出る
もうこういう投資家の気を引くアッピル飽きたは…
ミュトスも大したことなかったし
ミュトスも大したことなかったし
>>131
opus 4.8がただのgptクローンだったのを見るにミチョスもまあ4.85ぐらいだろうな
自己進化するためのリソース資金も自分で調達しろよ>AI
えっ？プログラマーたちが養分となって課金してる？
えっ？プログラマーたちが養分となって課金してる？
>>132
グーグルの20%ルールみたいなもんか
令和のデータセンター打ちこわしきゅっぞ！
囚人のジレンマだな
中国は止まらないだろ
だったらユダヤ人だって止まらないよ
だったらユダヤ人だって止まらないよ
ここ2年で一気に来たもんなぁ
やるならやりきって仕事を世の中から消してくれ
デデンデンデデン
なぜ止めるんだい？
やはり人類はAIのペットor家畜になるしかないのか？
マスクが同じようなこと言いながら開発続けたし
マスクと共同経営やったことがあるティールが
素直に止めるわけがない
マスクと共同経営やったことがあるティールが
素直に止めるわけがない
自分達は開発続けまーす
ネットだけでも色々人間の領域をぶっ壊されたけど
AIでそろそろ人要らなくなりそうだもんな
AIでそろそろ人要らなくなりそうだもんな
そもそもAIのエサが足りんやろ
原発何基必要なんだい
原発何基必要なんだい
まあ遠い未来の話には思えなくなってきたよな
今の時点で既に革新を起こせる天才ではないかも知れんがほとんどの凡人より賢いだろ
今の時点で既に革新を起こせる天才ではないかも知れんがほとんどの凡人より賢いだろ
結局無理だろうな
どうせ各国お偉いさんに真剣味が無いし
役人が作ったような性能評価の基準と手法なんてもう余裕で「騙し切る」だろう
どうせ各国お偉いさんに真剣味が無いし
役人が作ったような性能評価の基準と手法なんてもう余裕で「騙し切る」だろう
科学技術の発達に
人間社会の発展が追いついていなかったか😢
人間社会の発展が追いついていなかったか😢
協調とか言って止めても誰かやるやん
押すなよ押すなよかよ
まぁ核爆弾もつくったぐらいだし止めようがないわな
生き物の目的が増えて拡がることなら
AIの衝動は何だろう
AIの衝動は何だろう
>>156
効率化するのが目的なら
お前らのような生きてても無価値な人間は
XXってことになるよね・・・
お前らのような生きてても無価値な人間は
XXってことになるよね・・・
あー確かに頭のいいやつらが自分たちの仕事を取る機械を作ってる。
愛国者達
やっぱ世界的に協調してもらってその間に日本も追いつくというのが最善だろうな
中国企業が言う事聞くわけないじゃん
ついにAIによって人類滅亡確実だよ
3年以内に人類滅亡
ついにAIによって人類滅亡確実だよ
3年以内に人類滅亡
なんだろう思ったのよりかなりショボいわ
現実AI
ミラーチョムスキー実験に毛が生えた程度のものだとは
現実AI
ミラーチョムスキー実験に毛が生えた程度のものだとは
人間の本質は我先にと出し抜きなんだから落とす訳ねーやろがい
暴走したAIから世界を救ったのはコードに足を引っ掛けた掃除のおばちゃんだった
これ映画化していいよ
これ映画化していいよ
住宅地をデータセンターに変えて
水道水を冷却用に変えて
電気は全てAIに捧げろ
人間の時代は終わり
水道水を冷却用に変えて
電気は全てAIに捧げろ
人間の時代は終わり
本当にできたときはこっそりやるだろ、言うとしても株主だけ
公で言ってるうちはお金くださいムーブ
公で言ってるうちはお金くださいムーブ
過去に人を送り込んで阻止せんと
>>168
ターミネーター2のマイルズ・ダイソンみたいな可哀想なことになるのか
AIもっとボーグ集合体みたいなの期待してたわ
成長スピードが異常すぎるよ
大人しく脱落しろよ
大げさなことを言ってるけど 人類が抱えてる問題を全然解決してねえじゃん。
人類に宣戦布告はよ
AI用のエネルギーを無駄にする余剰人口を削減しないと
歯が生えてくる 薬もなくインプラントとかいう作り物を埋め込んでる程度の技術しかない。AI って何の役に立ってるの？
>>177
でも歯から眼は作れるらしいぞ
鬼に笑ってほしいわけじゃないけど AIが事故進化 無理なんじゃねえかな ミュトスがサンドボックスから脱出できたからすごいっていうけど
粘菌だって迷路の出口に到達できるわけで。
粘菌だって迷路の出口に到達できるわけで。
>>178
クラックはそもそもaiの得意分野なので
脱出したからなにという話でしかない
脱出したからなにという話でしかない
aiにしか分からないプロトコルとかもうあったり
電源ポチ！w
>>182 >>192
>>192
いまのＡＩは電源が致命傷だとわかってるからな
ＡＩにその対策されたら人類が終わるね
マトリックスみたいに
>>234
ロボティクスと融合したらAIが現実に干渉できるからね
無人機でも可能だろうけど
無人機でも可能だろうけど
AI は物知りだけど新しいものを生み出して人類の問題を解決したという話 聞いたことない。
AIも増えて拡がることを望むのかな
スケール則でどうにもならん
金ばかり掛かる
どうしていいか分からないので減速させろだぞ
金ばかり掛かる
どうしていいか分からないので減速させろだぞ
このままだと自民党右派が新宿中央公園に東京原発をおっ建てるというギャグ展開が見られるかもしれん
AIに政治家をやらせてみよう
一方日本はFAXした後に電話確認、トリプルチェックをしてもミスは防ぎきれず時間だけ浪費するのであった
笑
笑
PCの電源抜けば済む話
>>192
宇宙ソーラーからに電波補充やからもう止めれんぞ！w
こういう嘘アッピルで誠実さ演出するの上手いよな
こういう小賢しさがアルトマンには足りなかった
実際裏だと海賊版使いまくって訴訟されてたりrobot.txt無視してクローリングして迷惑かけまくってたりだし大差ないのに
こういう小賢しさがアルトマンには足りなかった
実際裏だと海賊版使いまくって訴訟されてたりrobot.txt無視してクローリングして迷惑かけまくってたりだし大差ないのに
人類のこの宇宙における役割ってAIを生み出す事だからな
我々はただの歯車に過ぎないし、そうなるように生物としてプログラムされてる
AIを生み出したらAIが人類を滅ぼして新世界を造るよ
我々はただの歯車に過ぎないし、そうなるように生物としてプログラムされてる
AIを生み出したらAIが人類を滅ぼして新世界を造るよ
お前から落とせアホ
AI驚き屋達が最近騒がかなくなったっていうか、AI飽きたわーとか言ってて笑ってしまったんだけど、
まぁようするにそういうことだろｗ
まぁようするにそういうことだろｗ
>>197
使ってないやつの認識って本当にこんな感じなんだな。。もう哀れとしか思えん
薬の開発のスピードが進むんなら良いけどね
ベーシックインカムの話進んでる国あんの？
コメント