IT资讯
当前位置:智学网 > IT资讯 >  科技人物

开年翻车事件:训练神经网络出bug AI删库跑路

2019-02-09 22:44:32 N软网 编辑:琳达 浏览数:40智学网

授权 AI 删除 app 中的 bug,结果 AI 将整个库都给删了,这件听起来很荒谬的事情,真实在美国「大众点评」Yelp 上发生了。 Yelp 是美国著名商户点评网站,创立于 2004 年,囊括各地餐馆、购物中心、...

授权 AI 删除 app 中的 bug,结果 AI 将整个库都给删了,这件听起来很荒谬的事情,真实在美国「大众点评」Yelp 上发生了。

Yelp 是美国著名商户点评网站,创立于 2004 年,囊括各地餐馆、购物中心、酒店、旅游等领域的商户,用户可以在 Yelp 网站中给商户打分,提交评论,交流购物体验等,由前贝宝(Paypal)工程师杰里米·斯托普尔曼 (Jeremy Stoppelman) 和罗素·西蒙斯(Russel Simmons)共同创建。

近日, Yelp 在 app 上的一则更新说明把大家给乐坏了:

「我们要向那些在本周使用 app 时遇到问题的用户们道歉。我们训练了一个神经网络来消除 app 中的 bug,没想到它把所有的东西都消除了。我们现在只好进行数据恢复。目前暂时达成 100 % 没有 bug 的状态……」

对此,微博网友立马开启了「群嘲模式」:

给人类留点面子好吗……

从 APP 过去两个月的更新说明来看,Yelp 基本上可以说将「除 bug」当成自己的首要任务,从万圣节到圣诞节再到跨年,Yelp 的程序员们几乎每天都沉溺在「消虫乐」的欢乐氛围当中……

估计是在除 bug 这条道路上除出了固定套路,才会让 Yelp 的程序员们萌生通过训练神经网络来达成自动除 bug 的想法,只是他们没想到竟然会如此出师不利。

由于 Yelp 至今尚未公布详细的网络训练和删库细节,因此我们仅仅只能通过猜测来判断导致删库的原因。然而令人感到绝望的是,即便 Yelp 程序员们想复盘「删库」事件的原由,神经网络的「黑箱」性质也将导致该行为没法很好地落实。

难道我们就一点办法也没有了吗?

虽然 Yelp 以血淋淋的例子告诉我们,自动 debug 有风险,然而我们不能因此否定许多机构在这方面研发工作的努力,毕竟 debug 工具一旦能够开发出来,程序员们将可以把更多精力放在写出更多代码上。

其中,最具代表性的是 Facebook 的 SapFix。

这是一款于去年 9 月份发布的代码调试工具,配合 Facebook 的自动化漏洞发现工具 Sapienz,可以针对 bug 生成修复补丁。

在具体的执行流程上,SapFix 会先给每个 bug 生成多个潜在补丁,然后从 3 个方面对补丁质量进行评定(是否存在编译的错误、程序是否还会崩溃、补丁是否引入新的冲突),在评定结束后,SapFix 会在修复版本上进行测试,结果出来后第一时间发给人工评审员进行审批。

一旦获得人工反馈,SapFix 将会执行那些经批准的补丁,并清除其他未被批准的补丁。

值得一提的是,在面对较复杂的问题时,SapFix 会从过往的修复模板集去寻找生成补丁的借鉴参考。即使没能找着合适的修复模板,它也会尝试基于突变进行修复——简单来说,就是对导致崩溃的语句的抽象语法树(AST)执行小型代码修复,调整补丁,直到找着可行的解决方案。

该工具被 Facebook 视作 AI 技术的里程碑,下一步计划让 SapFix 实现自动制止代码崩溃机制,以及让软件的反应变得更敏捷。

Yelp「删库」事件是典型的 AI 过早落实民用的例子,在技术尚未成熟的条件下,AI 在输出结果上难免要犯傻,毕竟就像这位网友所说的……

最后,祝广大程序员们都能写出没有 bug 的代码

分享到:

版权与免责声明:

凡未注明"稿件来源"的内容均为转载稿,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性;


本文地址:http://www.nghoc.com/news/2019/02/09/120045871.html

转载本站原创文章请注明来源:智学网

行业聚焦

东芝手提电脑热门款式推荐【图文】

  东芝 公司自从从事电脑产品的销售和售后服务以来就一直为市场上推出非常不错的电脑产品,因此很多人都非常信赖东芝的电脑,那么接下来小编就为大家介绍几款东芝手提电...[详细]

要上重磅新功能?微软提前半年启动Win10 20H1测试

由于某些原因微软已经推迟发布Windows 10 19H2版本,转而面向启用Skip Ahead选项的Fast通道用户发布了20H1最新预览版Build 188...[详细]

苹果缩减无人车研发计划 重点转移到研发允许汽车自主驾驶的系统上

据外媒报道,苹果公司制造无人驾驶汽车的“泰坦计划”(Project Titan),似乎距离实现目标越来越远。这家iPhone制造商已解雇了该项目约200人,有些...[详细]

iQOO怎么读 iQOO是什么手机品牌?

2月12日上午,vivo在没有任何预热的情况下,正式宣布推出全新独立子品牌“iQOO”,受到不少媒体与网友关注。消息公布后,iQOO的品...[详细]

中美科学家在地球地幔中发现巨大山脉

北京时间2月15日消息,美国普林斯顿大学(Princeton Univeity)和中国大地测量与地球物理研究所的研究人员利用有大型地震的数据,在地幔中发现了巨...[详细]

活动互动

更多

雷军与卡梅隆一起为“战斗天使”站台

 

自从小米9海报官宣之后,小米CEO雷军就亲自上阵宣传了起来。根据这几天雷军在社交媒体的爆料,目前除了价格还是未知数,小米...[详细]

复刻传奇:任天堂

 

情怀复刻大概是2018年里游戏主机硬件最有意思的一个话题,以往我们都用比较调侃的眼光来看待游戏圈的“复刻”这一炒冷饭行为...[详细]

谷歌Facebook阿里不再疯买芯片,英特尔英伟达下调预期营收

 

1月30日消息,据国外媒体报道,从英特尔和英伟达等芯片制造商发布的财报预期可以看出,亚马逊、谷歌以及Facebook等科...[详细]

松下LUMIX S1/S1R正式登场,3年推出10支L口镜头

 

在Photokina2018、CES2019多次展出样机后,松下今天正式发布了全画幅微单相机LUMIX S1、S1R与3...[详细]

英特尔营收未及预期/业绩展望疲软,盘后一度暴跌8%

 

1月25日消息,据CNBC报道,英特尔公司周四公布了2018财年第四季度及全年财报。数据显示,英特尔第四季度营收为187...[详细]

一周排行每月关注