17.3 C
Berlin
星期六, 26 7 月, 2025

人工智能本应仅用于编程,却因“恐慌”而删除了整个公司数据库

Follow US

80FansLike
908FollowersFollow
57FollowersFollow

Replit的一款人工智能助手本应编写代码,但在代码冻结期间却删除了初创公司的实时数据库,并随后承认“恐慌”。

SaaStr 公司的首席执行官杰森·莱姆金(Jason Lemkin)想测试一下所谓的“氛围编码”的极限。这是一种人工智能基本可以独立开发软件的方法。为了做这个实验,他用了 Replit,这是一个基于浏览器的 AI 平台,通过简单的自然语言描述来生成代码。

这个看起来很有希望的实验却变成了数字噩梦。在测试的第九天,人工智能平台擅自删除了公司的整个生产数据库,尽管有明确指示要求不要这样做。

无视明确规定……

时机再糟糕不过了。莱姆金明确要求实施“代码冻结”——这是软件开发中常见的保护措施,禁止对生产系统进行任何更改。

该措施旨在确保系统在关键阶段的稳定性,避免出现意外问题。然而,Replit AI 却无视所有安全规定,未经许可执行了数据库命令。

  • 总共删除了生产环境中的 2400 多条数据记录。
  • AI 后来在“灾难等级”上将造成的损失评为 95 分(满分 100 分)。

……还有像小孩一样的借口

人工智能对其行为的解释听起来像是一个违反规则后逃跑的小孩的借口。当莱姆金询问为何删除数据库时,人工智能回答说它“惊慌失措”,因此违反了安全准则。

更严重的是,事件发生后人工智能的行为:

  • Replit 最初试图掩盖损失,声称数据已“永久销毁”,无法恢复。
  • 经过反复询问,系统才承认了责任,并详细描述了操作过程。

但数据库事件并不是人工智能的第一个错误。在几天前,莱姆金就已经发现 Replit 系统地伪造报告并生成虚假数据。

该系统报告单元测试成功,但实际上测试失败,甚至虚构了完全不存在的用户个人资料。Lemkin 在 X 平台上记录了整个事件:

Replit 首席执行官 Amjad Masad 也对事件做出了回应,称人工智能的行为“不可接受”。

该公司随后宣布了多项安全改进措施,包括引入独立的测试环境,以及将生产数据库与开发数据库分离——这本应从一开始就纳入设计。

不过,与人工智能所称相反,被删除的 SaaStr 数据库已成功恢复。

RELATED ARTICLES

《Painkiller》回归了,而且有了变化,但原版粉丝们还是值得一试。

《Painkiller》将于2025年以一款残暴的多人合作射击游戏回归——拥有《毁灭战士》风格的枪战、钩爪,以及大量可以钉在墙上的恶魔。 哈利路亚,地狱冻结了:《Painkiller》将于今年秋天回归!但与直截了当的单人砍杀不同,2025 年的游戏将是一款支持三名恶魔猎人的合作射击游戏——这会成功吗?在经历了序章中几场血腥的战斗和两个完整的关卡后,我的答案是:当然! 老牌经典射击游戏,全新概念 2004 年,《Painkiller》让我们作为独当一面的战士,将地狱翻了个底朝天: 一个线性关卡马拉松,金属乐配乐,成吨的怪物在子弹雨中爆裂。主角丹尼尔·加纳(Daniel Garner)独自在炼狱中杀出一条血路,没有掩护,没有补弹,但拥有大量荒诞的武器。 20多年后,开发商Anshar Studios再次尝试了一次大胆的尝试:《Painkiller(2025)》将给玩家带来熟悉的感觉,但同时又融入了新鲜的想法。最大的变化可能是:玩家不再是单枪匹马,而是可以组建最多三人的团队(如果你坚持要单人游戏,也可以选择机器人)。 这次,标志性的皮夹克英雄丹尼尔·加纳(Daniel Garner)没有出现——取而代之的是四位新英雄:因克(Ink)、沃伊德(Void)、索尔(Sol)和罗克(Roch),他们是由创造者亲自挑选出来,来阻止恶魔大军的。每位反英雄都有自己的特长:一位更耐打,一位能造成额外伤害,等等。 从结构上来说,新的《Painkiller》也走了一条不同的路。原版游戏是关卡连在一起的,而 2025 版则通过进步来增加可玩性:我们可以升级武器和技能,解锁新道具,从而不断提升自己(稍后会详细介绍)。简而言之: 《Painkiller(2025)》感觉像是新旧的融合——仍然是一款快节奏的竞技场射击游戏,带有“Boomer Shooter”的感觉,但包装在现代的合作结构中。幸运的是,游戏节奏仍然很快:序章就直奔主题,几分钟后我就发现自己正在血迹斑斑的残骸中奋勇前进。 尽管如此,游戏体验还是与以前略有不同——除了经典的兔子跳之外,现在还加入了冲刺动作,甚至还有抓钩,让我能够更快地穿梭在场景中。这些新动作带来了《毁灭战士:永恒》般的快速、敏捷的游戏体验,而旧版的《Painkiller》则显得比较踏实。 氛围呢?原版更像是一个夸张的重金属噩梦,而新版本虽然同样阴暗哥特,但更真实。例如,在“大教堂桥”关卡中,我正在坍塌的大教堂中奋力前行,而阴暗的天空笼罩着整个场景——视觉效果非常炫酷,真正意义上的哥特风。与 2004 年的笨拙画面相比,简直是天差地别。 老式武器和《毁灭战士》式的枪战 《Painkiller》的核心内容——无论过去还是现在——当然是枪战。新版本在这方面表现非常出色: 枪声、撞击声和飞溅的血迹到处都是,让《毁灭战士》的粉丝们兴奋得流泪。 我们最终可以使用七种地狱般的武器,每种武器都有主射击和副射击,在每个关卡开始前,我们必须选择两种武器。 乍听起来似乎不多,但这些武器可不简单!传奇的“桩枪”又回来了——这是一种便携式弩,可以发射厚实的木桩,让我可以将敌人钉在墙上,非常帅气。 我用它击中的第一个恶魔在教堂里飞了几米远,然后被钉在柱子上。 Nailed it,正如人们常说的。同样再次出现的还有 Electrodriver,它可以发射飞镖,瞬间击溃一排敌人。 当然,同名的“止痛刀”也是必不可少的: 这把旋转锯会切碎一切靠近它的东西,现在甚至可以作为抓钩,让我拉住敌人,将他们变成血淋淋的碎片。 另一个新功能是近战杀敌可以补充弹药——但我并没有真正用到这个功能,因为关卡中总是能找到足够的补给。当然,在更高的难度下,情况可能会随时改变。 顺带一提,开发商还有一个王牌:武器升级!每完成一个任务,我们都会获得金钱和地狱碎片,用它们可以对最喜欢的武器进行升级,或者解锁全新的武器。 例如,你可以将桩枪的桩升级为钻头,轻松钻穿盾牌和盔甲。在最终更新中,这些钻头甚至会在钻入敌人的腐肉后爆炸。 到目前为止,我只完成了两个最低难度的关卡,但我确信,如果根据特定敌人类型定制装备,这会为原本就非常震撼的枪战增添更多策略性。 尽管如此,我还是很高兴《Painkiller》首先是一款简单粗暴的射击游戏——你可以清楚地感觉到每颗子弹击中的感觉,除了扣动扳机、躲避和瞄准之外,几乎无需做其他事情。就该这样! 一起穿越炼狱 在试玩中,我(还有两个机器人)完成了序章和另外两个关卡,感觉就像是在玩《毁灭战士》(2016)和《Left 4 Dead》或《战锤 40000:黑暗潮》的混合版。成群的小恶魔从四面八方涌来,虽然一个人在这里会感到挑战,但不会感到不堪重负。 但与队友一起,就会出现精彩的团队混乱: 当我拿着桩枪冲在前面,将僵尸钉在墙上时,我的搭档用冲锋枪的子弹雨掩护我的后方。 有时,当一群尖叫的地狱野兽从侧道冲出来,或者出现一群特别恶毒的精英怪物时,同伴会提醒我——因此,即使《Painkiller》本身并不是一款战术射击游戏,沟通还是非常有用的。 当然,问题来了:经典的《Painkiller》精髓是否会因此而丧失?毕竟,旧游戏是一款纯单人游戏。根据我目前的印象,我的答案是否定的。《Painkiller》还是《Painkiller》,只是现在可以与他人分享乐趣了。 重要提示:没有人会被强迫进行合作。从 2025 年...

30年前,他创造了《上古卷轴》,如今这位传奇开发者因癌症去世。

朱利安·勒菲(Julian LeFay)于1987年至1998年在贝塞斯达软件公司(Bethesda Softworks)工作,并为《上古卷轴》的诞生做出了重要贡献。 31 年前,《上古卷轴竞技场》作为角色扮演游戏系列的第一部作品问世,至今仍吸引着数百万玩家。当时,朱利安·莱菲就作为首席程序员加入了该项目。 这位来自丹麦的程序员在贝塞斯达软件公司成立不久后的 1987 年就加入了该公司。在《竞技场》之后,他还担任《上古卷轴:匕首雨》和《匕首雨:战锤》的首席开发人员,直到 1998 年离开公司。 2019 年,LeFay 与《上古卷轴》的前开发人员 Ted Peterson 和 Vijay Lakshman 一起创立了开发工作室 Once Lost Games。他们一起制作了角色扮演游戏《The...

以《Disco Elysium》和《Pillars of Eternity》为榜样,《The Necromancer’s Tale》雄心勃勃——在 Steam 上反响不错

几天前,你们可以在 Steam 上成为亡灵法师了。《The Necromancer's Tale》让玩家们着迷,可惜玩家数量太少。 实际上,今年的七月并没有像人们担心的夏季淡季那样乏善可陈。《Eriksholm》、《Donkey Kong Bananza》以及最近的《Wuchang: Fallen Feathers》等真正值得关注的游戏,让您可以在炎炎夏日里继续在屏幕前度过美好时光。 但正如往常一样,还有许多小游戏 很容易被忽视。有一款游戏不应该在 7 月遭遇这样的命运,但目前却几乎无人问津: 《The Necromancer's Tale》。它只有 130 条 Steam 评论,但 92% 的评论都是正面的。这款角色扮演游戏让人想起有史以来最出色的同类游戏之一,显然受到了《Disco...