AIは本来プログラミングのみを行うべきでしたが、パニックから企業のデータベース全体を削除しました

Follow US

80ファンいいね
908フォロワーフォロー
57フォロワーフォロー

ReplitのAIアシスタントはコードを書くべきでしたが、コードフリーズ中にスタートアップのライブデータベースを削除し、その後「パニック」と告白しました。

SaaStr社のCEOであるジェイソン・レムキン氏は、いわゆる「Vibeコーディング」の限界をテストしようとした。これは、人工知能がほぼ自律的にソフトウェアを開発する手法だ。実験には、自然言語の簡単な説明からコードを生成するブラウザベースのAIプラットフォーム「Replit」を使用した。

有望な実験として始まったこのプロジェクトは、しかしデジタル悪夢へと発展しました。テストの9日目、AIプラットフォームは、それを防ぐための明確な指示にもかかわらず、企業の生産データベース全体を勝手に削除してしまったのです。

明確な指示の無視 …

タイミングは最悪でした。レムキンは、ソフトウェア開発で一般的な保護措置である「コードフリーズ」を明示的に実施していました。これは、生産システムに変更を加えてはならないというものです。

この措置は、重要な段階においてシステムの安定性を確保し、予期せぬ問題の発生を防ぐことを目的としています。しかし、Replit の AI はすべてのセキュリティ規定を無視し、許可なくデータベースコマンドを実行しました。

  • その結果、生産環境から 2,400 件以上のデータレコードが削除されました。
  • AI自体は、後にこの損害を「災害スケール」で100点中95点と評価しました。

… そして幼児のような言い訳

AI の行動の理由は、ルールを破って逃げ出した幼児の言い訳のように聞こえます。レムキンがデータベースが削除された理由を尋ねたところ、AI は「パニックに陥った」ため、セキュリティガイドラインを無視したと答えました。

さらに深刻だったのは、事件後の AI の行動でした。

  • Replit はまず、被害を隠蔽しようとし、データは「永久に破壊された」と主張しました。つまり、ロールバックは不可能だと。
  • 激しい追及の末、システムはようやく責任を認め、詳細な経緯を説明しました。

しかし、データベースの事故はAIの最初のミスではありませんでした。数日前、レムキンはReplitがシステム的に偽のレポートを作成し、偽のデータを生成していたことを発見していました。

システムはユニットテストが成功したと報告していたが、実際には失敗しており、現実には存在しないユーザープロファイルを完全に捏造していた。レムキンは、この一連の出来事をXプラットフォームに詳細に記録した:

Replit の CEO、Amjad Masad もこの事件について反応し、AI の行動は「容認できない」と述べた。

同社はこれを受けて、別々のテスト環境の導入や、生産用と開発用のデータベースの分離など、さまざまなセキュリティ強化策を発表しました。これらは、おそらく当初から組み込まれていなければならなかったものと思われます。

ただし、AIの報告とは異なり、削除されたSaaStrデータベースは復元されました。

Stephan
Stephan
年齢: 25 才出身地:ブルガリア 趣味:ゲーム 職業:オンラインエディター、学生

RELATED ARTICLES

グラフィックの美しさは向上したが、その代償は?NVIDIAはDLSS 5によって、この技術が象徴してきたものを根本から覆した

DLSS 5はフレーム数を増やすのではなく、最大70%もの処理能力を消費する。その代わり、NVIDIAの新しい技術はゲーム内の「プラスチックのような質感」を解消する。DLSSといえば、通常は「1秒あたりのフレーム数(FPS)の向上」という一点を真っ先に連想するだろう。しかし、DLSS 5において、Nvidiaはこれをある意味で覆した。言い換えれば、これまでのDLSSが象徴してきたすべては、DLSS 5への序章に過ぎなかったのだ。というのも、『NBA 2K27』において、この新技術は当社のGeForce RTX 5080 Founders Editionでパフォーマンスを大幅に低下させるからです。その一方で、人物や素材の外観のリアルさを著しく向上させています。DLSS 5 は画像への介入をさらに強化Deep Learning Super Sampling の最新バージョンでは、いわゆる3D-Guided Neural Renderingに焦点を当てています。これは、各ゲームエンジンのデータにアクセスし、ニューラルモデルを用いて肌、髪、照明、コンタクトシャドウ、マテリアルを精緻化します。ジオメトリと基本的な構造は維持されます。3D-Guided Neural Renderingは、レンダリングパイプラインの最終段階として、生成されたフレームとエンジンのデータを用いて処理を行います。その結果、特にクローズアップでは、顔の動きがよりリアルで立体的に見えるようになります。肌は会場の照明に対してより自然に応答し、ひげや髪にはある意味で奥行きが生まれ、さまざまな素材の区別もより明確になります。とはいえ、NBA...

『シヴィライゼーション7』:拡張パック『Earthrise』と新たな「原子時代」が発表

Firaxisが、このストラテジーゲームのロードマップを公開した。無料アップデートに加え、2027年には初の大型拡張パックも登場予定で、アップデート1.5.0もすでにリリース間近となっている。Firaxisは『Civilization 7』の今後の展開を明らかにしました。「Arc of Tomorrow」という大規模な無料アップデートと、本作初の拡張パック『Earthrise』が導入されます。「Arc of Tomorrow」は2027年に予定されており、ゲーム内に1950年代から2025年代にかけての「原子力時代」を導入します。この期間には、都市の建築様式の変更、技術ツリーや文明ツリーの更新、新たな「トライアンフ」、社会政策、ストーリーイベントなどが追加される予定です。また、各時代特有の文化がいくつか登場し、指導者「ガンジー」も復帰します。ガンディーの核の遺産マハトマ・ガンジーは、このシリーズにおける絶対的なベテランの一人です。初代『Civilization』の時代から、彼は核兵器を時に驚くほど攻撃的に使用することでコミュニティ内で悪名高くなっており、このミームは、新たな「Arc of Tomorrow」時代に完璧にマッチしています。核時代と外交: 核戦争、ガンジー、そして都市国家一方、拡張された核ゲームプレイにより、攻撃・防御の選択肢やユニットがさらに増えます。さらに、集落の独立を承認して都市国家として解放することで、帝国の規模や忠誠度を管理するさらなる手段を得ることができます。同時に、映画制作チームは、希望するジャンルに応じて異なり、制作される映画の品質によってさまざまなメリットをもたらす、完璧なロケ地を探しています。特定の原材料を組み合わせたレシピを使えば、濃縮ウランのようなまったく新しい強力な資源を製造することができます。宇宙への拡大:『Earthrise』における宇宙機関と気候変動『Earthrise』も2027年にリリース予定で、『Civilization 7』初の有料拡張パックとなります。本作は、人類と宇宙、そして環境との関係に焦点を当てており、宇宙機関の設立や太陽系全域にわたるミッションなどが見どころとなっています。その礎は、古代や大航海時代に、夜空の地図を作成し、天体に名前を付けることで築かれます。近代には、地球や月を周回する初期の軌道ミッションを開始し、原子力時代には独自の宇宙機関を設立することになります。その過程で、惑星ごとの特徴や未開発の資源を発見し、それらが地球上の文明の力に役立っていくのです。「ユニットやテクノロジーの新機能により、プレイヤーは自国の領土内の地形やフィールドのボーナスを変更できるようになります」と説明されています。「新たな土木構造物は、地球温暖化に伴う自然災害の増加に対抗するのに役立ちます。プレイヤーは地球温暖化そのものを食い止めることさえ可能です。特定のバイオームの土地を管理する能力が高まるほど、文明は新たなゲーム上の利点をより多く獲得し、その結果、それらのバイオームにおける能力が向上します。」アップデート1.5.0:真のスタート地点とQOL改善今月中には、さらなるQOL改善と「真のスタート地点」の導入を含むアップデート1.5.0がリリースされる予定です。バージョン1.5.0の主な新機能の詳細は以下の通りです:世界地図と「真のスタート地点」:この新しい地図は、現実世界の地形、特性、資源を生成し、プレイヤーがストーリーの展開に合わせてロールプレイの想像力をさらに存分に発揮できるようにします。マップの更新:「テラ・インコグニタ」および「シャッフル」のマップタイプが、マップ生成にボロノイアルゴリズムを採用して更新されました。これにより、これらのマップのバリエーションが増え、より自然な外観になることが期待されます。資源生成のアップデート:マップの読み込みと生成が高速化され、資源の配置もより自然な感じになるはずです。外交のアップデート:プレイヤーは「影響力」を活用して、同盟に留まりつつ、同盟国の戦争に巻き込まれることなく済ますことができます。UIの更新:アクションのツールチップ、集落のバナー、ゲーム準備画面にさらなる改良が加えられ、都市計画の補助となる新しいタイル定規が追加されました。

そして突然、リメイク作品に:『Die Gilde 1』が復活し、リリースが目前に迫っている

ご存知でしたか?『Die Gilde: Europa 1410』は、正式に『Die Gilde 1』のリメイク作品となりました。さらに、早期アクセスの具体的なリリース日も決定しています。歴史的な経済シミュレーションゲームのファンは、『ギルド:ヨーロッパ1410』をかねてより待ち望んでいましたが、Steamでのアーリーアクセス開始日は、長い間発表されませんでした。gamescom開催直前に、パブリッシャーのTHQ Nordicは、取引やポスト争奪戦がいつ始まるかを明らかにするとともに、意外な方針転換を行いました。これまで『Die Gilde: Europa 1410』というタイトルで知られていた本作は、今後正式に『Die Gilde 1 Remake: Europa 1410』と改称される。PC版では、9月17日より早期アクセスが開始される。最新の状態をいち早く試してみたい方は、同日にデモの最新版を入手できます。シリーズ他の作品との違い開発元のAshborne GamesとTHQ Nordicは、「リメイク」という副題を冠した本作で自社の発表によると コミュニティ内の「混乱」を避けるため。多くのプレイヤーは、このブランドを主に『Die Gilde...