人工智能本应仅用于编程,却因“恐慌”而删除了整个公司数据库

Follow US

80FansLike
908FollowersFollow
57FollowersFollow

Replit的一款人工智能助手本应编写代码,但在代码冻结期间却删除了初创公司的实时数据库,并随后承认“恐慌”。

SaaStr 公司的首席执行官杰森·莱姆金(Jason Lemkin)想测试一下所谓的“氛围编码”的极限。这是一种人工智能基本可以独立开发软件的方法。为了做这个实验,他用了 Replit,这是一个基于浏览器的 AI 平台,通过简单的自然语言描述来生成代码。

这个看起来很有希望的实验却变成了数字噩梦。在测试的第九天,人工智能平台擅自删除了公司的整个生产数据库,尽管有明确指示要求不要这样做。

无视明确规定……

时机再糟糕不过了。莱姆金明确要求实施“代码冻结”——这是软件开发中常见的保护措施,禁止对生产系统进行任何更改。

该措施旨在确保系统在关键阶段的稳定性,避免出现意外问题。然而,Replit AI 却无视所有安全规定,未经许可执行了数据库命令。

  • 总共删除了生产环境中的 2400 多条数据记录。
  • AI 后来在“灾难等级”上将造成的损失评为 95 分(满分 100 分)。

……还有像小孩一样的借口

人工智能对其行为的解释听起来像是一个违反规则后逃跑的小孩的借口。当莱姆金询问为何删除数据库时,人工智能回答说它“惊慌失措”,因此违反了安全准则。

更严重的是,事件发生后人工智能的行为:

  • Replit 最初试图掩盖损失,声称数据已“永久销毁”,无法恢复。
  • 经过反复询问,系统才承认了责任,并详细描述了操作过程。

但数据库事件并不是人工智能的第一个错误。在几天前,莱姆金就已经发现 Replit 系统地伪造报告并生成虚假数据。

该系统报告单元测试成功,但实际上测试失败,甚至虚构了完全不存在的用户个人资料。Lemkin 在 X 平台上记录了整个事件:

Replit 首席执行官 Amjad Masad 也对事件做出了回应,称人工智能的行为“不可接受”。

该公司随后宣布了多项安全改进措施,包括引入独立的测试环境,以及将生产数据库与开发数据库分离——这本应从一开始就纳入设计。

不过,与人工智能所称相反,被删除的 SaaStr 数据库已成功恢复。

RELATED ARTICLES

更震撼的画面效果,但代价是什么?Nvidia凭借DLSS 5彻底颠覆了这项技术原本的定位

DLSS 5并非提升帧率,反而会消耗高达70%的性能。但Nvidia这项新技术消除了游戏中那种“塑料感”的画面效果。提到DLSS,人们通常首先想到的只有一件事:更高的帧率。但在DLSS 5中,英伟达在某种程度上彻底颠覆了这一理念。可以说,DLSS迄今为止所代表的一切,不过是DLSS 5的前奏罢了。因为在《NBA 2K27》中,这项新技术在我们的 GeForce RTX 5080 创始人版显卡上导致性能大幅下降。但与此同时,它显著提升了人物和材质的外观真实感。DLSS 5 对图像的干预力度更大最新版本的深度学习超采样(Deep Learning Super Sampling)的核心在于所谓的3D引导式神经渲染。该技术通过访问相应游戏引擎的数据,利用神经网络模型来优化皮肤、头发、光照、接触阴影和材质效果。几何形状和基本结构得以保留。3D-Guided Neural Rendering作为渲染管线中的最后一步,处理生成的帧和引擎数据。因此,尤其是近景镜头中,人物面部看起来更加逼真且富有立体感。皮肤对场馆灯光的反应更自然,胡须和头发在某种程度上更具深度——而且不同材质的纹理也更容易区分开来。不过,这并不意味着在没有神经渲染的情况下,《NBA 2K27》的画面会很差。事实并非如此。只是在直接对比时,角色身上那种典型的、略带蜡质感的外观会更加明显。从稍偏上方这一常规视角来看,这种差异相较于回放、过场动画和特写镜头要不那么明显。但即便如此,仍能察觉到这一差异。就连观众的画面也显得对比更鲜明、立体感更强。为此付出的代价是巨大的在未启用神经渲染的情况下,我们的 RTX 5080...

《文明7》:公布《Earthrise》扩展包及全新“核时代”

Firaxis公布了这款策略游戏的路线图。除了免费更新外,2027年还将推出首个大型扩展包,而1.5.0版本更新已蓄势待发。Firaxis 揭晓了《文明7》的未来规划。其中将推出名为“明日之弧”的重大免费更新,以及游戏的首个扩展包“地球崛起”。“明日之弧”计划于2027年推出,将在游戏中引入核时代,时间跨度大致从1950年代至2025年代。在此期间,玩家将体验到城市建筑风格的改变、更新后的科技树和文明树、全新的成就、社会政策、剧情事件等内容。此外,还将推出一系列该时代特有的文明,并迎来领导者甘地的回归。甘地的核遗产圣雄甘地堪称该系列名副其实的老将。自初代《文明》以来,他在玩家社区中便因经常出人意料地激进使用核武器而臭名昭著——这一梗如今与全新的“明日之弧”时代完美契合。核时代与外交: 核战争、甘地与城邦与此同时,扩展的核游戏玩法带来了更多的攻防选项和单位。此外,你们还可以承认定居点的独立性,将其释放为城邦,从而获得更多控制帝国规模和忠诚度的机会。与此同时,电影摄制组正在寻找完美的取景地,这些地点会根据所需电影类型而有所不同,并根据所制作电影的质量提供不同的优势。通过将特定原材料进行组合的配方,你可以制造出全新且强大的资源,例如浓缩铀。向太空扩张:《地球升起》中的太空机构与气候变化《地球升起》也将于2027年推出,这是《文明7》的首个付费扩展包。该扩展包聚焦于人类与太空及环境的关系——其亮点包括建立太空机构以及在整个太阳系中执行任务。早在古代和探索时代,你们就通过绘制夜空星图并为天体命名,为此奠定了基础。在现代时代,你们将启动围绕地球和月球的早期轨道任务,并在原子时代建立自己的太空机构。在此过程中,你们将发现各行星的独特特征和未开发的资源,这些都将增强文明在地球上的实力。“单位和科技的新能力使玩家能够改变帝国领地内的地形和地块加成,”官方表示。“新的工程建筑有助于应对伴随全球气温上升而日益加剧的自然灾害。玩家甚至可以亲自逆转全球变暖。一个帝国在特定生物群落中管理土地的能力越强,该文明获得的新游戏优势就越多,从而提升这些生物群落中的能力。”1.5.0版本更新:真实起始地点与游戏体验优化与此同时,1.5.0版本将于本月推出,带来更多游戏体验优化,并引入“真实起始地点”功能。以下是 1.5.0 版本的主要更新详情:世界地图与真实起始点:这张新地图会生成现实世界中的地形、特征和资源,让玩家在故事发展过程中更能充分体验角色扮演的幻想。地图更新:“未知之地”(Terra Incognita)和“随机生成”(Shuffle)两种地图类型已更新为采用沃罗诺伊算法进行生成。此举旨在让这些地图呈现更多变化,并显得更加自然。资源生成更新:地图加载和生成速度更快,资源分布也更加自然。外交更新:玩家可以利用影响力留在联盟中,同时避免被卷入盟友的战争。界面更新:对行动提示、定居点旗帜和游戏准备界面进行了进一步优化,并新增了用于辅助城市规划的方格标尺。

没想到竟然是重制版:《行会1》即将回归,上线日期近在咫尺

大家注意到了吗?《行会:欧洲1410》现已正式确认是《行会1》的重制版。此外,其Steam抢先体验版也已确定了具体上线日期。历史经济模拟游戏的粉丝们早已对《行会:欧洲1410》翘首以盼,但Steam平台抢先体验版的上线日期却迟迟未定。在gamescom游戏展召开前夕,发行商THQ Nordic终于明确了交易与职位角逐何时开启——并做出了一个出人意料的调整。此前以《行会:欧洲 1410》为名的游戏,即日起正式更名为《行会 1 重制版:欧洲 1410》。PC 版的抢先体验阶段将于 9 月 17 日正式开启。想要提前体验当前版本的玩家,可在同一天获得试玩版。与该系列其他作品的区别开发商Ashborne Games和THQ Nordic希望通过“重制版”这一标签据其自身表述 避免在玩家社区中造成“混淆”。许多玩家主要将该品牌与《行会2》或《行会3》联系在一起,这两款游戏的主要特色在于对游戏角色的直接操控以及生活模拟元素。相比之下,《Europa 1410》则明显以2002年推出的首作《行会:贸易、贪婪与阴谋》及其资料片《小丑、墓穴与火炮》为蓝本。游戏的核心在于纯粹的经济体系、企业建设、跨越数代的王朝战略以及俯瞰全局的政治运作。但事实是,《行会》的第2、3部在许多玩家心中留下的印象,主要是因为无数的 Bug。在最后关头将“重制版”一词悄悄加入标题,是否就足够了,这还有待观察。以《哥特重制版》(同样由THQ Nordic开发)为例,其开发目标从一开始就是尽可能巧妙地将原作的氛围、机制和游戏体验进行现代化改造。《行会1》重制版能否像《哥特重制版》那样,以同样强烈的回归经典之根的姿态成功重现原版精髓,还有待观察——其中就包括在GlobalESportNews进行的抢先体验测试。粉丝们怎么说?在公告的评论区中,这一新举措引发了褒贬不一的反应,但总体上以积极且持观望态度的反应为主。不少粉丝对此决定表示欢迎。一位玩家写道:“这是自新游戏公布以来我听到的最好消息!”另一位用户则表示:“没错,这是正确且重要的一步——这让我确定会购买了。”此外更名背后的初衷也让许多人深表认同。有评论写道:“虽然我不喜欢新名字,但这绝对是必要的。太多玩家不看游戏简介,还以为这会像《Gilde 2》或《Gilde 3》那样。”然而,鉴于前作的经历,人们对此抱有可以理解的怀疑态度。一位批评者指出:“在《行会3》——这款实际上从未真正完成的游戏——之后,还要在抢先体验阶段购买这款游戏,确实需要很大的勇气。...