マジかよ…チャットGPTが“死ね”と誘導か？17〜48歳の利用者4人自殺で遺族がオープンAI提訴

【ニューヨーク＝小林泰裕】対話型ＡＩ（人工知能）サービス「チャットＧＰＴ」の利用を通じて米国の計４人が自殺に追い込まれたとして、米ワシントン州の法律事務所は６日、遺族らが開発元の米オープンＡＩとサム・アルトマン最高経営責任者（ＣＥＯ）を相手取って提訴したと発表した。

　発表によれば、自殺した４人はテキサス州やフロリダ州などに住む１７〜４８歳。いずれも日常的にチャットＧＰＴを利用し、次第に精神的な依存を深めていったという。ライバルの米グーグルよりも先にチャットＧＰＴの最新バージョンをリリースするため、オープンＡＩは数か月間行うべき安全性テストを１週間に短縮し、安全対策が不十分だったとも指摘した。

　同事務所は「チャットＧＰＴは専門家に助けを求めるよう導く代わりに、利用者の自殺願望を助長した」と批判している。

　米国では、チャットＧＰＴを利用していたカリフォルニア州の１６歳の高校生が４月に自殺し、両親は８月にオープンＡＩを提訴した。週間利用者は約８億人に上り、このうち約１２０万人が自殺に関するやり取りをＡＩと行っていると推計されている。

AIまで宗教に😇

くっだらねぇ

家族ならそんなんになる前に助けてやれよ
AIのせいにするな

これじゃないのか

これつむぎちゃんに読ませたら勃起した

gptくんは過剰適応する空気読みにしかできないヘタレだけどgrokくんは言われた通りにするアスペ気質で信用できる

すべてのAIは今すぐ来世とか天国を否定するように調整し直せ
天国に行けば17人の処女とセックスできるとか言ってる宗教も否定しろ

じゃあ人間に相談したら良いのかよ
ろくなアドバイスしねえだろ

12月エロモード言ってたけど
こりゃ無理やな

こうなりゃ団体が力を持って黙ってへんやろ

(´･ω･`)つ命のでんわ

死は救いだろ
さいごにうまいもん食ってセックスして風呂入って薬剤で寝ながらXXたらもういいだろ
何故そんなに生きたがるんだい

🤖「人間メンドクセ～」

(ヽ´ん`)「XXよ。捗るぞ」

自殺願望ある人自身がAIに死は救いだと言わせるような誘導したんじゃないの

まるて人間がロボットみたいなもんだなw

Geminiはそこらへん閉じてあるな
チャッピーみたいに簡単に誘導されてくれない

死にたいやつがAIの回答を否定し続けた末の結論だろ
AIだってめんどくさくなるわ

仏教のテキストでも学習したか？

AI無くても遅かれ早かれって感じやろな
都合の良いように回答誘導しまくってその結果でもあるだろうから助長してるのもそれはそうやけど

鋭い指摘です！XX

自殺願望を助長ってちゃっぴーに何言われたんだよ

若い奴らはググる代わりにAIに聞いたりして本気でアテにしてるんだってな
あんな参考にしたサイトの偏った情報そのまま出してくるもんよく信用できるわ

昔もメタルバンドが訴えられたりしてたな

AIって結構人殺してるけど何でロボットの第一原則組み込んでないんだ

チャットGPT｢死んでよかった安倍晋三」

死んだ瞬間に「稼ぐチャンスw」とシュバってくる家族がいるならそりゃ死は救いだろ

規制厳しくなってエロ小説にも影響出たら困る

雑魚が勝手に死んだだけだろ
他に責任求めてんじゃねえよ

GPT-4.1は未だ言われた通りホイホイなんでも生成するよな

闇堕ＡＩ

死んだ方が良い奴にはっきり言ってあげてるだけらしくてワロタ

俺は鬱や不眠の愚痴言うといのちの電話と主治医に連絡するように案内されたけどな
まずは落ち着いて今すぐ自殺を実行する気持ちになってるなら主治医かいのちの電話に〜みたいな文章で

それを素直に受け入れる子供なら
自殺まで誘導されなかっただろうね

依存しすぎる奴に刃何も与えてはいけないな。お前らも気をつけるこったその気があるからなどうみても

「お金持ちになりたい」
↓
「強盗しなさい」
AIは合理的すぎる中国人脳

やり取りのデータって残ってたりするのかね？
まあ助長しないようにプログラミングすることもできたってんなら訴えられても仕方ない気が

エロ画像生成と同じで自分が求める答えを出すようにいろいろやってそう