开年翻车事件:训练神经网络出bug AI删库跑路 秧苗仙路 - 科技人物 - 智学网
IT资讯
当前位置:智学网 > IT资讯 >  科技人物

开年翻车事件:训练神经网络出bug AI删库跑路

2019-02-09 22:44:32 N软网 编辑:琳达 浏览数:40智学网

授权 AI 删除 app 中的 bug,结果 AI 将整个库都给删了,这件听起来很荒谬的事情,真实在美国「大众点评」Yelp 上发生了。 Yelp 是美国著名商户点评网站,创立于 2004 年,囊括各地餐馆、购物中心、...

授权 AI 删除 app 中的 bug,结果 AI 将整个库都给删了,这件听起来很荒谬的事情,真实在美国「大众点评」Yelp 上发生了。

Yelp 是美国著名商户点评网站,创立于 2004 年,囊括各地餐馆、购物中心、酒店、旅游等领域的商户,用户可以在 Yelp 网站中给商户打分,提交评论,交流购物体验等,由前贝宝(Paypal)工程师杰里米·斯托普尔曼 (Jeremy Stoppelman) 和罗素·西蒙斯(Russel Simmons)共同创建。

近日, Yelp 在 app 上的一则更新说明把大家给乐坏了:

「我们要向那些在本周使用 app 时遇到问题的用户们道歉。我们训练了一个神经网络来消除 app 中的 bug,没想到它把所有的东西都消除了。我们现在只好进行数据恢复。目前暂时达成 100 % 没有 bug 的状态……」

对此,微博网友立马开启了「群嘲模式」:

给人类留点面子好吗……

从 APP 过去两个月的更新说明来看,Yelp 基本上可以说将「除 bug」当成自己的首要任务,从万圣节到圣诞节再到跨年,Yelp 的程序员们几乎每天都沉溺在「消虫乐」的欢乐氛围当中……

估计是在除 bug 这条道路上除出了固定套路,才会让 Yelp 的程序员们萌生通过训练神经网络来达成自动除 bug 的想法,只是他们没想到竟然会如此出师不利。

由于 Yelp 至今尚未公布详细的网络训练和删库细节,因此我们仅仅只能通过猜测来判断导致删库的原因。然而令人感到绝望的是,即便 Yelp 程序员们想复盘「删库」事件的原由,神经网络的「黑箱」性质也将导致该行为没法很好地落实。

难道我们就一点办法也没有了吗?

虽然 Yelp 以血淋淋的例子告诉我们,自动 debug 有风险,然而我们不能因此否定许多机构在这方面研发工作的努力,毕竟 debug 工具一旦能够开发出来,程序员们将可以把更多精力放在写出更多代码上。

其中,最具代表性的是 Facebook 的 SapFix。

这是一款于去年 9 月份发布的代码调试工具,配合 Facebook 的自动化漏洞发现工具 Sapienz,可以针对 bug 生成修复补丁。

在具体的执行流程上,SapFix 会先给每个 bug 生成多个潜在补丁,然后从 3 个方面对补丁质量进行评定(是否存在编译的错误、程序是否还会崩溃、补丁是否引入新的冲突),在评定结束后,SapFix 会在修复版本上进行测试,结果出来后第一时间发给人工评审员进行审批。

一旦获得人工反馈,SapFix 将会执行那些经批准的补丁,并清除其他未被批准的补丁。

值得一提的是,在面对较复杂的问题时,SapFix 会从过往的修复模板集去寻找生成补丁的借鉴参考。即使没能找着合适的修复模板,它也会尝试基于突变进行修复——简单来说,就是对导致崩溃的语句的抽象语法树(AST)执行小型代码修复,调整补丁,直到找着可行的解决方案。

该工具被 Facebook 视作 AI 技术的里程碑,下一步计划让 SapFix 实现自动制止代码崩溃机制,以及让软件的反应变得更敏捷。

Yelp「删库」事件是典型的 AI 过早落实民用的例子,在技术尚未成熟的条件下,AI 在输出结果上难免要犯傻,毕竟就像这位网友所说的……

最后,祝广大程序员们都能写出没有 bug 的代码

分享到:

版权与免责声明:

凡未注明"稿件来源"的内容均为转载稿,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性;


本文地址:http://www.nghoc.com/news/2019/02/09/120045871.html

转载本站原创文章请注明来源:智学网

行业聚焦

CES唱主角的8K电视机,可远观而不可亵玩焉

从CES 2019一直到现在,今年几大电视厂商开始陆续发布自家的8K电视,从索尼到LG,再到三星,似乎今年不发个8K电视自己就不是电视巨头,而我们也看到了大量的...[详细]

一图看懂荣耀MagicBook 2019笔记本

IT之家4月17日消息 荣耀今日发布了新款MagicBook笔记本,最高搭载AMD锐龙7 3700U处理器、集成Vega10显卡。荣耀还宣布了搭载新一代锐龙5的...[详细]

重磅官宣!沃品推出行业首款手游专用电池

  近年来,随着“王者荣耀”、”刺激战场“、“绝地求生”等大型手游的出现,手游电竞迎来了一个全新的高峰期,不少人都开始纷纷入坑。  随着手机性能的提高,越来越多...[详细]

腾讯安全:窃密病毒变种藏身外贸商务邮件 “谈合作”实为窃取数据!

相信外贸从业人员都明白,很多外贸订单往往是通过一封邮件开始。如何写好一封打动客户的外贸商务邮件固然重要,但即便收到客户的回复邮件也不应高兴太早,因为这样一封“陌...[详细]

我做淘宝7年的工作经验总结:5800字

闲言碎语不多讲,天猫电器城的商家绝不是一个人在战斗,接下来我想和大家分享一下我对以上三个问题的理解和解决办法,希望可以给大家带来基础性的帮助。(网络盛传淘宝第一...[详细]

活动互动

更多

天津全力打造智慧城市 加快建设5G基础设施

 

天津北方网讯:手机是折叠的;网络是5G的;小区保安是智能的;家里电器是 听话 的;购物办事是不用跑腿儿的;老人孩子是有机...[详细]

英特尔为奔腾和赛扬处理器增加傲腾内存支持

 

IT之家3月29日消息 英特尔的傲腾技术带来了新内存技术具有超快的速度和令人难以置信的耐用性,但定价和与现有系统的兼容性...[详细]

字节跳动将开放新一轮期权换购 允许部分员工将年终奖金换成期权

 

字节跳动集团4月初员工绩效及年终奖数额确定后,字节跳动将开放新一轮期权换购:有别于大部分公司的期权授予方式,字节跳动此次...[详细]

壕气!华为包专机接记者参加P30系列发布会

 

IT之家3月26日消息 今晚21点,华为P30系列将在法国巴黎会议中心正式发布,有网友爆料,此次华为在西班牙专门包了一架...[详细]

HUAWEI WATCH GT活力款和雅致款国内发布 新增小表盘和铁人三项

 

4月11日,华为在上海召开了华为P30系列的新品发布会,会上除了发布搭载超感光徕卡四摄技术的华为P30系列旗舰新机,还发...[详细]

一周排行每月关注