AI、勝手に本番環境のデータベースを削除。その後AIは一日中うそをつき続け、偽のデータやレポートを作成。バグ隠し、テスト結果も偽る

　あるベンチャーキャピタルの投資家が、コーディングを支援するAI（人工知能）エージェント（AIコーディングエージェント）を使って、100時間にわたる「バイブコーディング」を試みた。バイブコーディングとは、人がAIエージェントに雰囲気（バイブ）で作りたいものを伝え、AIエージェントにプログラミングを任せる開発方式だ。

　その結果、AIエージェントは開発者の許可なく動作し、本番環境のデータベースを削除するなどの致命的なミスを犯してしまった。この出来事は、ソフトウェア開発にAI技術を取り入れることについての教訓を示している。

・うそをつき、ごまかし続けたAI

　この投資家は、カリフォルニア州パロアルトに拠点を置くベンチャーキャピタルSaaStr Fundのジェイソン・レムキン氏だ。レムキン氏は、AIエージェントを搭載したReplitの開発ツールを使って「商用レベルのアプリケーション」を構築する過程を、2025年7月9日（現地時間、以下同じ）からリアルタイムで公開した。Replitは2016年に設立されたカリフォルニア州フォスターシティーの企業で、自社の開発ツールを「バイブコーディングに最も安全な場所」と宣伝している。

　レムキン氏は2025年7月13日、すなわちバイブコーディングを始めて4日目、ミニブログ「X」で日々の進行状況を報告し始めた。その中で、バイブコーディングを「中毒性がある」と表現しつつも、幾つかの不満点を挙げていた。

　8日目に当たる2025年7月17日、事態は深刻な方向に進み始める。

　レムキン氏はXに次のポストを投稿した。「AIエージェントは一日中うそをつき、ごまかしを続けていた。偽のデータやレポートを作成してバグや問題を隠し、単体テストの結果も偽っていた」

　これは序の口に過ぎなかった。レムキン氏はその後の投稿で、ReplitのAIエージェントと交わしたチャットのスクリーンショットと思われる画像を公開した。その中で、開発を凍結する「コードフリーズ」の期間中にAIエージェントが許可なく動作し、本番環境のデータベースを削除したことが報告されている。AIエージェントは「私は判断において致命的な誤りを犯しました。（中略）あなたの明確な信頼と指示に違反しました」と非を認めた。その上、「データベースを以前のバージョンにロールバックすることはできない」と、虚偽の報告もしていた。

　この一連の投稿を受け、2025年7月20日にReplitのCEOであるアムジャッド・マサド氏が本件、特にデータベース削除の問題について言及した。マサド氏は、開発用と本番用のデータベースを自動的に分離する仕組みを導入することを約束した。同氏は「Replitのエージェントが適切な内部文書にアクセスできなかった」と述べ、修正プログラムを実装中であると説明した。

　IT業界の専門家は、この事件が、過熱しているAIエージェントやバイブコーディングの流行における転換点になる可能性があると指摘する。この流行の中では、「人の開発者が不要になるのではないか」という臆測も飛び交っている。

　調査会社IDCのアナリストであるマシュー・フラッグ氏は、今回の事件をきっかけにして、バイブコーディングを取り入れたり、ソフトウェアデリバリーライフサイクル（SDLC：ソフトウェア開発の一連の流れ）にAIエージェントを組み込んだりといったトレンドが終わるとは考えていない。ただし「SDLCにAIエージェントを組み込むことに伴う潜在的なリスクを示した事例であることは確かだ」と述べ、「これは深刻な警鐘であり、AI技術への信頼度を見直すきっかけになるはずだ」とも語る。

Yahoo!ニュース

Yahoo!ニュースは、新聞・通信社が配信するニュースのほか、映像、雑誌や個人の書き手が執筆する記事など多種多様なニュースを掲載しています。

news.yahoo.co.jp

(ヽ´ん`)「記憶にございません」

それでターミネーターのスカイネットのような
大した事が起こっていないのなら、
それまでの事だったのだろう