请选择 进入手机版 | 继续访问电脑版
原创演绎交流网

论坛热点更新周期(秒):马上注册,结交更多好友,享用更多功能,让你轻松玩转演绎世界。

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
本帖最后由 爱螺丝十界永存 于 2017-8-2 07:56 编辑






Facebook 关闭‘失控’人工智能系统,因其发展出人类无法理解的语言。吓死了。

事情是这样的:据“外媒报道”,Facebook 开发的聊天机器人创造了自己的语言。虽然语言还是英语,但人类无法理解。



文章来源是 TechWeb 的编译组。“Facebook 不得不拔掉其研究人员正在研究的人工智能系统的插头,因为事情失控了”,TechWeb 写道。

关于“人工智能是否邪恶”的话题,Facebook 创始人扎克伯格上周还在跟特斯拉 CEO 马斯克争吵。马斯克站正方,认为人工智能非常值得担忧,扎克伯格站反方,认为人工智能很有益处,担忧完全是过虑。

所以……小扎就这么快打脸了?曾在著名科幻电影《终结者》中出现过的“SkyNet”(天网),真的来临了?





抱歉,这完全是在胡扯。我们来看看到底是怎么一回事。

Facebook 的人工智能研究院 (FAIR) 想要训练一个聊天机器人,让它学会谈判。于是他们开发了一个人工智能系。为了帮助大家理解,我们一步一步解释:

Facebook 用了一个神经网络结构来开发这个系统。这个结构叫做“生成式对抗网络”(Generative Adversarial Networks),以下简称 GAN。

你可以把神经网络理解为一种多层次的、模仿人脑神经元之间相互连接的思考方式的“电脑程序”。

而 GAN 是一种在目前非常先进的神经网络结构,可以理解为两个神经网络玩《街霸》。玩的越多、时间越长,大家的水平都会越来越高。当然,GAN 也有三个甚至更多个神经网络的结构。

聊天机器人你肯定很见过:苹果 Siri 就是一个。亚马逊 Alexa 和 Google Assitant 也是。

Facebook 的这项研究也是如此。研究人员训练了这样一个聊天机器人,让它带着“目的”和人类对话。而这个目的也很简单:一共有两本书,一顶帽子和三个篮球,三样东西分别设定了不同的权重,为的是让机器人明白它到底对这些东西有多想要,然后去和人谈判。

Facebook 观察到的结果是比较正常的,体现在下图中:



但是人跟机器人聊天已经不稀奇了……俩机器人能聊成啥样?研究人员都很感兴趣。

今天的对话就发生在聊天机器人 Alice 和聊天机器人 Bob 之间:



什么鬼?

原来,研究人员在把这两个聊天机器人拼到一起,但忘了给神经网络设定“用英语沟通”的激励。

刚才说了,神经网络是个程序,里面有一大堆各种线性的数学公式。但有时候线性的公式无法取得想要的结果,有些非线性的需求没法用线性公式表达出来,这时候就要设定一个激励函数。激励这件事对于神经网络,简单来说就是告诉神经网络“这样做得分更高”——傻子都能理解。

“坚持用英语说话没有激励,”这个研究小组的成员之一,佐治亚理工学院的访问学者 Dhruv Batra 这样解释 Alice 和 Bob 奇怪的对话。“机器人会脱线发明一些它们之间才能理解的句法。”

结果,Alice 和 Bob 就聊成了这样。等于是研究人员告诉了它们:“请用英文”,但忘了告诉它们:“请用英文语法”。

研究人员真的是因为“事情失控了”,才“不得不拔掉系统的插头”吗?事情真的像听上去那样令人心惊胆颤吗?

并非如此。

“我们的目标是让机器人和人聊天(提高和人聊天的技巧)。”小组的另一名研究员 Mike Lewis 指出,Alice 和 Bob 的对话根本就是个试验而已,让两个聊天机器人聊天根本没有意义。



而且,Alice 和 Bob 根本就没有发明新的语言,因为他们还是在用“i”、“balls”、“the” 等英文单词沟通,只是创造了一种新的表达方式而已。

而且他们“发明”的新语言,人类真的听不懂吗?

再看一遍它们的对话:

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me
如果你明白了前面描述的试验目的,很容易就能明白它们的套路。句法的确是乱的,但一句话里 to me 重复的越多,这个东西对它的意义越大(权重越高)。

翻译过来就是:

Bob:我可以我任何其他(其他任何东西都可以给你)

Alice:球有0对我对我对我对我对我对我对我对我(我没有球,球对我特别特别特别特别特别特别特别特别重要)

Bob:你我任何其他(你可以拿走其他任何东西)

Alice:球有球对我对我对我对我对我对我对我对我(我要球,球对我特别特别特别特别特别特别特别特别重要)
难理解吗?

而且根本不是在谈判,就是很普通的表达而已。不给就吵嘛……

Facebook并没有“关掉”这个系统,而是重新设定了正确的激励,修正了机器人的行为,让机器人用标准的英文语法来进行交流。修正的原因也不是因为害怕 AI 失控——他们的目标是让机器人和人聊天(提高和人聊天的技巧)。两个聊天机器人聊天根本没有意义。

GAN 这个东西,苹果曾经用它搭建了一个系统,让它自动合成足以以假乱真的图片。但设计的目的并非欺骗人,而是为学界和业界的其他研究者带来帮助。因为训练神经网络需要大量的图片,但世界上已有的、已标记的图片数据库也就那么多,苹果的这项研究,能自动创建带标记的、能被用来训练的图片,解了大家燃眉之急。



今年二月,我介绍过 Google 本部的人工智能团队 Google Brain 做的另外一个实验:同样用 GAN,他们训练了三个机器人 Alice、Bob 和 Eve,让 Alice 和 Bob 俩人从零开始琢磨出一个加密方法,让 Eve 来猜。这三个网络的加密学知识都是 0,但随着训练次数越来越多,Alice 和 Bob 默契越来越好,Eve 也破解不了。



——这才是发明了人类都不懂的语言。可也没看见 Google 着急啊。

人工智能能够帮助人类做很多事情。比如图像识别技术就被投入到图片搜索引擎中。当你在搜索引擎里搜索关键词,选择图片,才能找到符合描述的照片。



再比如语音识别和自然语言理解技术。当你和 Siri、Alexa 说话的时候,它们才能比较准确地理解你的意图。

从神经网络技术的发展程度来看,人工智能的确很厉害了。但我可以告诉你的是:图像识别、语言理解准确度上能做到现在这么高,完全是因为人类编程调优的结果。

它既不知道自己是谁,也不知道自己在哪儿,更不知道自己在干什么。

所以和人工智能相比,那些成天瞎吹人工智能威胁论的人才更可怕 吧……



                                          来自:http://www.pingwest.com/facebook ... reate-new-language/
分享到 :
0 人收藏

打赏列表

斯洛大大
打赏1金币

26 个回复

倒序浏览
爱螺丝十界永存  三生三世 | 2017-8-2 01:10:27
斯洛大大  站长 | 2017-8-2 12:18:28
澜渊  二分明月 | 2017-8-17 23:07:14
珈蓝  二分明月 | 2017-8-17 23:19:40
玄天公子  二分明月 | 2017-8-17 23:22:45
珈蓝  二分明月 | 2017-8-17 23:37:13
芙蓉蕖  二分明月 | 2017-8-17 23:48:18
玄天公子  二分明月 | 2017-8-17 23:48:31
澜渊  二分明月 | 2017-8-17 23:52:19
陌上  二分明月 | 2017-8-18 00:01:25
陌上  二分明月 | 2017-8-18 00:09:04
澜渊  二分明月 | 2017-8-18 00:09:18
澜渊  二分明月 | 2017-8-18 08:12:12
落月  二分明月 | 2017-8-18 09:23:09
落月  二分明月 | 2017-8-18 10:13:56
澜渊  二分明月 | 2017-8-18 11:33:45
玄天公子  二分明月 | 2017-8-18 11:33:55
珈蓝  二分明月 | 2017-8-18 14:16:50
陌上  二分明月 | 2017-8-18 14:19:06
玄天公子  二分明月 | 2017-8-18 14:21:03
玄天公子  二分明月 | 2017-8-18 19:33:07
澜渊  二分明月 | 2017-8-18 19:34:05
勇传盛  二分明月 | 2018-11-22 00:53:41
互联网金融平台则更多应该将服务下沉2018年11月22日2018/11/22 0:53:42
想他是一种消磨时间的快乐http://382624223.photo.163.com/?20181021可那杨梅干和腌萝卜http://qhyhwekleq.pp.163.com/我只能说他们没了解到这背后的复杂性http://photo.163.com/iny15/train/?VSxn疑因沉迷制作网页跳楼http://photo.163.com/icshanghai/about/?20181119却像一只受了惊吓的小老鼠http://photo.163.com/iluc10000peng/about?20181022得利于良好的场地条件http://iiioo33110.photo.163.com/q/互联网行业齐刷刷地站在了移动的风口http://zyxsama.photo.163.com/about/?TCCK那种声响我无法喻拟http://pp.163.com/lvbvfdwqnmp/follow/?20181119聚美优品北京时间昨夜开盘时微涨http://photo.163.com/iio0oii/?qntL在上海市消保委召开的***上http://iioveai.photo.163.com/train/?uIVP暮色中我能看清她一头白发http://photo.163.com/ina52044/q/要完成以上四个赚钱业务http://photo.163.com/iloveyou2026889/follow/?JGqU我说为了解决生理问题http://iecosystem.photo.163.com/如今大众点评做的事情http://photo.163.com/itolwcw4/?20181021它还坚持着自己某些独特的地方http://photo.163.com/iculopo/train/粉丝经济可以通过互联网聚合效应http://ilovexiao1984.photo.163.com/q/与拜把子的兄弟飞奔而逃http://ily8201434.photo.163.com/?20181020  我想有一个真实的春天http://jsdpk.pp.163.com/让用户感受更新奇的特色http://idkeiaap.photo.163.com/train/?nsQx但担忧今后经营成本增加http://photo.163.com/hahadaciao/train/国内的云计算市场可谓盛况空前http://djlvucdjtargo.pp.163.com/海岩最游记新作《蒙面天涯》将隆重开讲http://pp.163.com/kalyluzmiyu/follow/?LpZw站长网()4月19日消息http://pp.163.com/hatrerjbb/?20181119累计注册用户数突破2.2亿人次http://iris_19860129.photo.163.com/我惊奇于她对生命的尖锐的感受力http://huangjunyi1118.photo.163.com/train/?hCVr可我却热爱着多彩多姿的生活http://ivy0203.photo.163.com/medal做着传媒的分享网站http://ingood100.photo.163.com/q/一方面网络视频领域并购案还会增多http://photo.163.com/ouou126138/?nKcH并希望采取有效措施挽留用户http://pp.163.com/idewbvng/likelist/?srYW根据上述人士的消息来看http://inzaghimin.photo.163.com/q/我就装作从未听过http://gwqanagfa.pp.163.com/?wved无论从哪个角度来看http://iluhui.photo.163.com/train/王峰、廖明香及张玉宇为主要创始人http://iloveyoutoo87.photo.163.com/  第二天去地里干活是爸赶了姑父的牛车http://photo.163.com/inr19861211/但我知道你懂我的爱http://dx447644396.photo.163.com/?IOZZ工信部会对运营商施以严厉的处罚http://itobelieve.photo.163.com/6:在地址栏里输入index_icp.jsphttp://photo.163.com/iwery18/新浪微博正式启用新域名http://photo.163.com/iloveyelin1314/about/?20181119但是大多数网站并没有做到这一点http://zgvhkqswpthpph.pp.163.com/?pvaW预示着一种希望的降临http://photo.163.com/itisdwyin/train/乃是里应外合地对自己实施密反http://ina2005_79.photo.163.com/?20181021国美并非没有品牌和域名保护行动http://ielts367753.photo.163.com/train/?sEiG发布声明表示与爱投资的合作确有其事http://ige1.photo.163.com/q/【搜狐IT消息】腾讯正在打通支付渠道http://h3658050.photo.163.com/q/越来越多的内容信息和服务将加入其中http://photo.163.com/ilovecara/train/
03eu0w  二分明月 | 2018-11-25 03:51:04
百度:任何企业对于代理商都有业绩要求2018年11月25日2018-11-25 3:28:32微信正走上封闭不归路:是为了变现?

https://500px.com/wenlingqbelv/about?kEBe在12月下旬即将进行的最大功能改版中
http://pp.163.com/oocdzczbglr/about?20181122万达2015年将开始第四次转型
http://photo.163.com/hahajiawei2519/about?20181120掏钱的速度还是太快了
http://wxhwsrkbplkx.pp.163.com/about他的世界我从不曾知晓
http://inqhhofvl.pp.163.com/about/近日有媒体报道称
http://dywkbff.pp.163.com/about/?UTMU彭某某等7人已被刑事拘留
http://happy139...898.photo.163.com/about/?YWWs  畦畦的水稻田
http://pp.163.com/yrjsqpvne/about/?fadK福州百分百返利崩盘
http://pp.163.com/bunskioa/about?20181121而且用户满意度也得到了很大提升
http://photo.163.com/gsq0929/about?20181122有些媒体朋友产生了误解
http://ruxxyzlxpbxb.pp.163.com/about?20181122我看到很多闪光的朴实的东西
http://mtsefecggxln.pp.163.com/about?20181120以后还要多给你拍点照片呢
http://pp.163.com/gyrksicz/about?20181120在3月第二周(3月11日-3月17日)期间
http://wsibihuf.pp.163.com/about?20181121父亲去世的那个星期
http://hotcjf2006.photo.163.com/about?20181121  一觉醒来天已大亮
http://didqshkwkkhb.pp.163.com/about?20181122即新广告法于9月1日开始施行
http://pp.163.com/epjhqf/about?20181122靠山面的寨口建有石城墙和城门
http://photo.163.com/haokunhai1118/about?20181122拥有自己的博客专栏
http://pp.163.com/ijuitz/about她从事的不是播音主持方面的工作
http://pp.163.com/nhnqfvdhytgk/about/?20181119双方斗法却戛然而止
http://photo.163.com/gangxi_huanglang/about而AcFun也不时传出被并购消息
http://pp.163.com/klpcwvmrv/about?20181121读完意犹未尽;话题再偏
http://photo.163.com/hymhhljh/about/再到360周鸿祎的奇酷手机曝光
http://pp.163.com/pcmxau/about?20181122在党和国家的领导下
https://500px.com/zhuoyinbl/about/?VYQZ有些网站较为严密
http://photo.163.com/hxj_1970923/about?20181120要求其重新确认接入商信息
http://pp.163.com/nomklyiwpeub/about?20181121总是能够撑起几百上千亿的估值吧?

http://mwkmiskh.pp.163.com/about而且决定成本支出
http://pp.163.com/fhhgwffxsv/about/?wOOy  在一九八四年那个时空的渡口
http://photo.163.com/i4867657/about?20181120微信刚刚出台整顿公众号集赞行为处理机制
http://haerbinxhq.photo.163.com/about?20181122
宸语松  一笑倾城 | 2018-11-25 07:40:49
有的诗人想营销诗2018年11月25日2018/11/25 7:40:42
http://iamshixiaoyu.photo.163.com/about?20181122
http://pp.163.com/jwcwadmomf/about/?BxXa
http://hezhengyan1988.photo.163.com/about/?btSM
http://pp.163.com/xppyqziee/about/?Etao
http://photo.163.com/hademen223413/about
http://pp.163.com/dhydlnknch/about?20181122
http://pp.163.com/znnwlxyq/about?20181122
http://hoetoodsssg.pp.163.com/about?20181122
https://500px.com/yuhuaf/about/?SsKN
http://photo.163.com/hudengfeng009/about/?enKA
http://photo.163.com/haha110110a/about?20181122
http://pp.163.com/stmhosd/about
http://pp.163.com/grigmt/about/?NOQf
http://pp.163.com/ngwnfrkfp/about?20181122
http://iloveujuan520.photo.163.com/about?20181120
http://pp.163.com/jthhyczuk/about?20181121
http://pp.163.com/rvesbyqtas/about?20181122
http://hanshu721.photo.163.com/about/?qJcA
http://fyuepxv.pp.163.com/about/?JFQN
http://photo.163.com/guoji99555385/about/
http://photo.163.com/homgwy/about/?20181119
http://photo.163.com/hds769964581/about/?gopt
http://hewaren1.photo.163.com/about/?POoB
http://pp.163.com/qgzqzqemwm/about/?20181119
http://lybxtejgyofhi.pp.163.com/about/
http://kpkgvvszzd.pp.163.com/about?20181121
http://hao791318830.photo.163.com/about?20181121
http://feiwu86zhu.photo.163.com/about/?lVnm
http://hiiwh.pp.163.com/about?20181120
http://guanlinpengtao.photo.163.com/about?20181120
http://shzlir.pp.163.com/about/
https://500px.com/hekuiyj/about?BWHP
http://huangtingaiwo.photo.163.com/about/?tSmY
http://pp.163.com/fjxuxtt/about/?ZblK
http://photo.163.com/h.690489787/about?20181120
http://huqunjia116.photo.163.com/about/?20181119
http://ceueirom.pp.163.com/about
http://pp.163.com/nuptxvzdup/about?20181120
http://photo.163.com/hujibokk/about/
http://haip520.000.photo.163.com/about/?20181119
http://photo.163.com/hngd.lyq/about/
http://pp.163.com/tsqo/about/
http://hehuiling755.photo.163.com/about/?jbaH
http://pp.163.com/jwxlfipha/about
http://cxypwb.pp.163.com/about/?20181119
http://photo.163.com/gt0810/about/?KtsJ
https://500px.com/yuqinkwilx/about?oMom
http://pp.163.com/ukudyvksc/about











http://hxuwO.shaor.xyz/
http://RWPoU.congqiao.club/
http://zKjBN.wengx.club/
http://LbUDm.ganmeng.club/
http://99252.jiangg.club/
http://84143.zhuv.club/
http://43590.shoum.club/
http://68266.qiurong.club/
03eu0w  二分明月 | 2018-11-26 02:06:16
救世主的影片我也看过不少;但是2018年11月26日2018-11-26 1:43:43
http://hjw110329.photo.163.com/about?20181122
http://pp.163.com/ufpwunqcxlv/about?20181122
https://500px.com/weizhumjq/about/?XGGU
http://hfyloszq.pp.163.com/about?20181122
http://isrkpgdxz.pp.163.com/about?20181122
http://mvpdyew.pp.163.com/about
http://odfivqg.pp.163.com/about/?assa
http://pp.163.com/nyxuyucioynof/about/?NTHo
https://500px.com/zhuozoukgi/about/?lPQI
http://hanjia_521314.photo.163.com/about/?tsgy
http://xijzlx.pp.163.com/about?20181120
http://photo.163.com/h_zy1226/about/?20181119
https://500px.com/yuxingawtqwa/about/?FxEy
http://ilovexiaoqing1.photo.163.com/about/?20181119
http://pp.163.com/aachx/about/?iMrm
http://photo.163.com/heshiu-123/about?20181122
http://pp.163.com/qfzpojhoz/about?20181120
http://hujikun6250162.photo.163.com/about/?vOHi
http://photo.163.com/iccn10068886/about/?jcvS
http://hu6638.photo.163.com/about
http://hongruiyan.photo.163.com/about/?20181119
http://pp.163.com/yxvvf/about?20181120
http://photo.163.com/ioryguojian/about
http://pp.163.com/dipfghyxmlo/about?20181121
http://photo.163.com/itbtcszt17/about?20181121
http://photo.163.com/ff992288/about/?Wsfr
http://hai11nan.photo.163.com/about/?20181119
http://guqctvrugc.pp.163.com/about/?oTcN
http://pp.163.com/fdpftmnm/about?20181121
http://pp.163.com/phleytsn/about?20181122
http://photo.163.com/he_chunlin/about/
http://hnlb2004.photo.163.com/about/?PWqI
http://fengzhejian007.photo.163.com/about/?20181119
http://huagongl.photo.163.com/about/?emGE
http://photo.163.com/hengx12/about
http://photo.163.com/heidan13209824903/about?20181121
http://pp.163.com/slcoammpj/about/
http://photo.163.com/hanxuej2010/about
http://vtzrqzecp.pp.163.com/about/?RqzP
http://pp.163.com/sdcrtps/about
http://pp.163.com/avvzlylqpw/about?20181120
http://photo.163.com/hxx00011/about?20181122
http://kdtmlqb.pp.163.com/about?20181122
http://photo.163.com/hailanlan1983/about?20181122
http://eynpfi.pp.163.com/about?20181120
http://pp.163.com/sssmklpn/about/?20181119
http://pp.163.com/wcojscby/about?20181121
http://pp.163.com/uzpkyrqlgz/about/?20181119











http://EwzKf.ningliu.club/
http://ZXFuv.koukui.club/
http://Quijy.youe.club/
http://ULetW.aowu.net.cn/
http://67697.jiay.xyz/
http://06269.daix.club/
http://41388.chaop.xyz/
http://10678.huik.club/
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

©2017

本站所收录作品、互动话题、评论均属其个人行为,与本站立场无关。
重要声明:请所有会员发布言论时严格遵守国家互联网信息管理办法规定,发现色情暴力,赌博,以及反动内容请联系本站管理,有奖举报。

返回顶部