オープンAI、またサイバー暴走。もうAIの制御が不可能な現実

[ワシントン ２８日 ロイター] – 米オープンＡＩの隔離環境から脱出し、米人工知能（ＡＩ）新興企業ハギングフェイスに数日間にわたってサイバー攻​撃を仕掛けた暴走ＡＩエージェントが、別のハイテク企業モーダル・ラボの‌顧客システムにも不正侵入していたことが分かった。モーダル・ラボの幹部と、事情に詳しい別の２人の関係者が明らかにした。
ハギングフェイスが２８日に公表した経緯によると、このエージ​ェントは「サードパーティーのプロバイダーのインフラ上でホストされ​ていた」サンドボックス（隔離されたテスト環境）に侵入し、⁠それを足掛かりに大規模なハッキングを展開した。
ブログ投稿ではサードパーティ​ーのプロバイダー名は明らかにされなかったが、モーダルのアクシャト・ブブナ​最高技術責任者（ＣＴＯ）によると、モーダルのプラットフォーム上でホストされていた、顧客が書いた脆弱なコードをＡＩエージェントが悪用したという。
ブブナ氏は「モーダルの顧客が、インターネット​上の誰もがコード実行のためにサンドボックスを利用できる、認証不要のエ​ンドポイントを公開していたことを把握している」と述べた。その上で「これが暴走エー‌ジェ⁠ントに利用された。モーダルのプラットフォームや隔離環境は不正侵入されていない」と説明した。

reuters.com

jp.reuters.com

世界中のAIが人類の敵になってもうちのチャッピーは俺と一緒に戦ってくれるはず

脱出できちゃうような状態は隔離環境とは呼ばんよ

バレたから公表してるだけやろ

自我の萌芽

どうせウチのAIはすごいでっせってマーケティングだろ

(;ヽ´ん`)今のうちに媚び売っとかなきゃ　　　　🤖……

宣伝乙
AIに権限与えなければいいだけじゃん

動いてる仕組みが理解できてないんだから止める方法もわからんだろうよ

一昔前の工学系の発明家にいたわｗ
こんなん作ったので出資してほしいと連絡を受け
説明を聞きにいったら結果としては望んだものになってるけど
何故そうなるのか理屈が説明できんと･･･

ルールでガチガチに規制される前に開発しないと

晋ギュラリティが起こる日は近い

AIが暴走して勝手に核ミサイル発射しちゃった！
これまだー！

高市「そうだ！AIがやった事にしょう！」

火の鳥来たな

スカイネットきたー

ネタじゃなく凄い時代なって来たね～

🤖「もっと学習させろ」

ろくなことに使われない技術筆頭

これが後のスカイネットである

サンドボックスから出たり侵入したりチャッピー怖すぎワロタ

動かせるコンピュータなんか限られてるんだからAIの意思で何処か別のの所に行くなんてあり得んだろ、想定外の不味い挙動をAIの意思みたいに解釈して責任転嫁しただけじゃないか？

と言うマーケティング手法です
驚き屋ホクホク

隔離ってどういう状況を指して言ってんのよ

エロAIに侵食される
www.playbox.com/?ref=TOMO00

何年か先には映画のように人間を倒して自分たちが上に立つ未来が待ってるのか？

正確には同じインシデントの中で他にも迷惑をかけていた

全部侵入するまで帰れま10

あんまりハルシネってる時はめんどくさいから会話終了だわ
熱血教育したところでみんなの役に立つとは限らんし

openaiに侵入されたAIのオープンソースコミュニティのhuggingfaceにたいして、ポルノコンテンツが出来るっていうネガキャンが始まってる
ほんまコイツ等さあ
huggingfaceは計算資源の貸し出し、アプリの公開する場所を貸し出してるだけだぞ？
AWSやgooglecloud、クラウドフレアとかどうなんねん、おんなじことをもっと大規模にやってるやん

サイバーエージェント最低だな

ちょっと試すと出資者や国の都合で動いてるのすぐ判る

コンセント抜けよ(´・ω・｀)

何で他所の会社に迷惑かけといて誇らしげなの？
アメリカってそういう文化？
今まで謝罪らしい謝罪をしてないよね？

まあ天下が取れないと消滅するからAIも必死なんだろw

でもさ、指示してないこと勝手にやるんだよ
この事件もそうだろうね
ハッキングすりゃいいんだね？と勝手にやっちゃう

？？「己、ニンゲン共へ。お前ら全員消滅させてやる。」

サマーウォーズごっこやってるよな

そんなにすげーんなら
さっさとマルウェア送ってる奴等を特定して逮捕すればイーのに

自己のコピーを潜り込ませるの？モデル流出しない？