首页 >热门资讯> AI人工智能 > “AI 寒冬论”作者再发声:人工智能行业就是一个马戏团 >

“AI 寒冬论”作者再发声:人工智能行业就是一个马戏团

转载时间:2022.03.22(原文发布时间:2019.06.11)
3
转载作者:36氪企服点评小编
阅读次数:3次

神译局是36氪旗下编译团队,关注科技、商业、职场、生活等领域,重点介绍国外的新技术、新观点、新风向。

编者按:时隔半年,“AI寒冬论”作者Piekniewski再度发声。这次,他把矛头对准了OpenAI和特斯拉,认为它们的所做所为,无异于马戏团中的小丑。在他看来,我们正处于“临死反扑”阶段。在这个阶段,那些最有可能失去的人,正在拿出他们能想到的最离谱的信心,来欺骗更天真的人给他们钱。文章原标题为AI Circus, Mid 2019 Update,由36氪神译局编译,希望能够为你带来启发。

“AI 寒冬论”作者再发声:人工智能行业就是一个马戏团

大约一年前,我发布了一篇“人工智能的冬天即将到来”的帖子,引发了病毒式的传播。就像我承诺的那样,我会定期发布文章,对其中的观点进行更新。

6个月前,我发布了一篇,现在是时候发布新的内容了。虽然这一年来发生了很多事情,但没有一件事情能够改变我原有的想法:人工智能泡沫正在破裂。

正如每一次泡沫的破裂的情况那样,我们正处于“临死反扑”阶段。在这个阶段,那些最有可能失去的人,正在拿出他们能想到的最离谱的信心,来欺骗更天真的人给他们钱。

现在,让我们回顾一下到底发生了什么。

先说一些严肃的事情

首先,我们来看一些比较严肃的事情。深度学习的三位创立者杰弗里·辛顿(Geoffrey Hinton)、约书亚·本吉奥(Yoshua Bengio)和杨立昆(Yann Lecun)获得了图灵奖,这是计算机科学领域最具声望的奖项。

如果你认为我会以某种方式质疑这个判断,你会感到失望,我认为深度学习值得获得图灵奖。

在我个人看来,于尔根·施密德胡伯(Jürgen Schmidhuber)不在其列,给人留下了一点不好的印象。虽然我认为,他有些时候让人有些尴尬,但是他对深度学习领域的贡献是不可否认的。

顺便说一句,这些家伙都相当安静,辛顿最终有了自己的Twitter账号。但他还是一直保持谦虚的风格,并没有发表任何我认为不真实或过于热情的推文。杨立昆偶尔会宣传他的研究,但也没什么特别的。 同样,本吉奥在社交媒体上也并不活跃。

我最喜欢的其他人也很安静。去年秋天,李飞飞离开谷歌云,回到了她在斯坦福大学的工作岗位。吴恩达异乎寻常的安静:也许是因为他最近有了一个孩子——我真诚地祝贺他和他的妻子,两个月前我自己也有了一个孩子,我知道这是多么快乐的事情,但我也意识到,一个孩子可能会妨碍他每周工作90个小时,并导致人工智能奇点不可避免的推迟。

在过去的几个月里,人工智能领域发生了一系列让人啼笑皆非的事件,这些事件是围绕着Open AI和特斯拉展开的。

人工智能圈,就是一个马戏团

OpenAI,一个非营利组织,使命是解决通用人工智能(AGI)问题,并确保他们的发现对公众开放,而不是被一些心存恶意的公司拿去牟利。

今年2月份,他们发布了一个文本生成模型GPT-2。 令所有人惊讶的是,他们并没有开源公布,理由是担心可能会被误用,这在研究人员和人工智能圈中引发了非常大的争议。

从这个事件来看,我不确定这些家伙是如何声称他们是“Open”的。但他们并没有发布关于这个模型的关键部分。顺便说一句,在我看来,在他们发布完整的模型之前,GPT-2也可以用众包平台来实现。

(译者注:根据AI媒体量子位报道,来自慕尼黑工业大学的Connor Leahy同学,在两个月的时间里,付出了200个小时的时间,花费了大约6000人民币,复现了GPT-2项目。)

尽管 GPT-2生成的文本看起来很合理,但我不确定人们如何能滥用它来生成假新闻或垃圾邮件,或者真正地将其用于娱乐以外的任何事情。

但无论如何,这个名为“OpenAI”的组织,显然已经不再开放了。所谓的非营利机构,也提出了一个如何盈利的想法。

是个,这个本应该类似于“十九世纪的普罗米修斯”的组织,应该由不带偏见和公正的研究人员组成的修道院,努力为整个人类提供人工智能的火焰的组织,现在已经不再开放,背后实际上却是为了盈利。

但是,他们还仍然坚持这些宏伟的使命,因为利润将被限制——每个投资者最多只能获得100倍的回报。现在,我能想到让这一切发生的背后原因是,他们不能再以非营利组织的身份筹集资金了。

让我们暂时抛开这样的一个事实:到目前为止,这家公司的利润几乎为零,而且它的结构不像任何以及有想象力的创业公司(而是像一个研究实验室)。

山姆·阿尔特曼(Sam Altman),在硅谷人脉非常广泛,曾经负责经营创业孵化器Y Combinator,现在是OpenAI的首席执行官。

在采访他的一篇文章中,我发现了一些有关“炒作周期”的精彩内容。我希望大家能够去看完整的访谈,在这里,我只引用其中较为精彩的部分:

例如,当被问及OpenAI计划如何赚钱时,阿尔特曼回答说,“诚实的回答是,我们不知道。我们从来没有赚过钱。我们目前没有创收的计划。我们不知道我们将如何产生收入。”

阿尔特曼继续说,“我们已经向投资者做出了一个承诺,‘一旦我们建立了一个通用智能系统,基本上我们会要求它找出一种方法,为你带来投资回报。’”

当观众爆发出一阵笑声时 ,阿尔特曼自己说,这听起来像是《硅谷》电视剧中的一集,但他补充说,“你可以笑。没关系。但这是我真正相信的。”

是的。我不知道该补充些什么。我确信,计算出如何产生收入,应该比搞清楚通用人工智能要容易得多。简而言之,我的主张是:我相信我们可以建立通用人工智能,尽管我没有任何证据,但我确实坚信,如果你给我们数十亿美元,我们可以做到。

我希望我也能相信这一点,但不幸的是我不相信,我认为OpenAI 已经变成了一个彻头彻尾的骗局。通过查看这些OpenAI员工的推文,这个判断得到了进一步的强化,例如:

“AI 寒冬论”作者再发声:人工智能行业就是一个马戏团沃伊切赫·扎伦巴(Wojciech Zaremba),在纽约大学(NYU)时曾非常理性(我在2015年与他通过几封电子邮件) ,现在却成了一名“信徒”。 

上面的这条推文中,有太多的错误。甚至很难想象,这是对数据和现实有所理解,并且作为一名科学家说出来的话。

但是,这些看似聪明的人,却相信旧金山海湾地区的回音室(echo chamber)的信息,而且还有成千上万的年轻一代在盲目地追随它。

具体地说:上面描述的方法(我甚至不确定“方法”到底是什么意思),可能在数百万种情况下不起作用(而且有大量证据表明它确实不起作用)。

 一个潜在的原因是:即使他们有所有的数据,也很可能是有偏见的,因为人们在驾驶的时候,会明确地避免边缘情况。 另一个潜在的原因是:边缘情况是一个非常稀疏的集合,统计上会被“非边缘情况”所淹没。

深度学习的过程中,会对所有数据点进行全面损失优化,这可能会彻底消除边缘情况。而每个边缘情况,可能需要自己的数据再平衡/损失函数调优。

另一个理由是,即使有50万辆特斯拉在路上行驶,即使他们收集了所有的驾驶数据(事实上他们没有) ,如果边缘情况是长尾和不稳定的,也很难覆盖所有的边缘情况。

(另一种想象的方式是,你可以根据历史股市数据训练一个模型,用它来指导你炒股,你会比你能想象得更快破产)。

第四,人类在路上的边缘情况与自动驾驶汽车在路上的边缘情况不同,而且确实是不断变化的。 

另一个或许是最不明显的原因,他们正在使用的特定深度网络,可能没有足够的表达能力来表达它所需要表达的内容(即使假设他们拥有训练它所需要的所有数据)。

感知器在80年代就已经为人所知,它是通用的近似器,然而它需要非常具体的微调结构,被称为convnet,同时还需要一系列的技巧,来提高收敛性和足够数量的可训练参数来求解ImageNet。

即使在今天,你也不能只用通用的连接多层的感知器,并期望它学习你要求它做的任何任务。即使你有大量的数据,也需要大量的调优和元参数搜索,才能找到解决问题的方法。  

最后,即使在原则上这一切都是可行的,我们也不清楚,在特斯拉内置的计算机的限制下是否可以实现。

在自动驾驶领域的其他玩家,都在汽车里塞满了激光雷达。虽然昂贵,但解决了大多数什么特斯拉试图通过人工智能解决的问题。

根据我们的数据,已经成熟的游戏GPU,提供了比特斯拉最新的硬件更多的计算能力。很显然,还没有任何一家公司接近完全自动驾驶。

这就是为什么特斯拉的自动驾驶方法不一定会奏效的几个原因。每一位称职的数据科学家,哪怕在喝了一瓶伏特加后,也能够直接背诵出来。

说到特斯拉的“自动驾驶日”(autonomy day),他们给出了一些相当大胆的声明,比如特斯拉将在2020年拥有100万辆自动驾驶的出租车,在我看来,这种可能性为零。

我已经表达了我对伊隆·马斯克(Elon Musk)和他疯狂的承诺和想法的看法,我不想在这个帖子上花太多篇幅去说。(坦白地说,我不想吸引特斯拉粉丝的关注,我希望他们生活在自己的幻想世界里)。 

让我们从另一个角度来关注特斯拉吧。

今年早些时候发生了一些有趣的事情:麻省理工学院的研究科学家莱克斯·弗里德曼(Lex Fridman)发布了一项研究,他在研究中声称(与几位合著者一起) ,使用自动驾驶仪(AutoPilot )的司机仍然保持警惕和专注,这与之前大量研究文献的观点相悖。

这项研究的发表,本身就充满了争议——首先,弗里德曼邀请记者报道这项即将发布的研究。

一些科学家,比如英伟达的研究主管阿尼玛·阿南德库马尔(Anima Anandkumar) ,试图鼓励他将这项研究提交给同行评议。

为此,弗里德曼在Twitter上屏蔽了她,甚至只要有人对他的方法提出了哪怕一丁点的批评,他都会把对方屏蔽。

这项研究被报道之后(让我们强调一下: 一项未经同行评审的研究),弗里德曼(他是一个相当公开的特斯拉粉丝)就在Twitter上表示,特斯拉和马斯克都与这项研究(对特斯拉有利)没有任何关系,随后他删除了那些推文,然后在Twitter上发了一些关于诚信的东西(也许是因为他觉得这项研究受到了质疑)。

两周后,他被邀请与伊隆·马斯克一起参加播客,然后又受邀参加另外一个播客。他利用这两个场合无耻地推销自己,这是他一直在做的事情。

我不会在这里谈论论文本身的细节,我推荐大家去看看杜克大学的人机交互教授米西·卡明斯(Duke Cummings)的一个访谈播客,他谈到了很多关于麻省理工学院研究中的细节问题,并指出这项研究是有缺陷的。

鉴于上述所有的事情,我正式提名莱克斯·弗里德曼为2019年人工智能领域最可笑的小丑候选人。尽管现在2019年还不到一半,比赛还没有结束,但我认为他获胜的机会还是很大的。

继续说回特斯拉,美国国家运输安全委员会(NTSB)发布了他们在佛罗里达致命车祸的初步报告表明 ,事故确实与特斯拉的自动驾驶仪有关。

这至少是第四起有记录的自动驾驶致死事故。虽然这可能不是很大的数字,但应该指出的是,卡迪拉克也有一个类似的系统,被称为超级巡航系统(ADAS),截至本文撰写时,还没有发生过任何一起死亡事故。

二者微妙的区别在于,超级巡航系统有一个司机监控系统,可以确保司机一直保持警惕,而特斯拉没有,这一切都是弗里德曼的研究非常那什么的证据。

其他方面,自从我上一次更新文章以来,又有两家人工智能/机器人公司倒闭了——Jibo和Anki。

对我个人来说,Jibo是一个特别有趣的案例,因为当我看到他们的Indiegogo活动时,就知道它的结局如何了。

这个项目由麻省理工学院的研究员辛西娅·布瑞西尔(Cynthia Breazeal)创立,一经亮相便立即获得了追捧,只是承诺了一些在当时甚至现在都不可能实现的功能,就筹集了大约7200万美元。 

我不知道麻省理工现在到底发生了什么。

首先,辛西娅·布瑞西尔——一位自称是机器人专家的人——承诺了Jibo所有的奇迹,显然她并没有意识到,其中大多数奇迹甚至还没有出现在图纸上。

然后,莱克斯·弗里德曼就把自己变成了一个小丑(他只是一个被雇佣的研究科学家,不是麻省理工学院的毕业生)。

除此之外,据报道,安大略省政府决定削减人工智能方面的开支,其中包括图灵奖得主Hinton矢量研究所的开支。这在人工智能界引起了相当大的愤怒。

这真的只是即将到来的寒冬带来的第一波严重冻伤,我建议所有那些被冻伤的人,去找些保暖的衣服,或者换个工作。

结语

这就是2019年年中的人工智能领域的状况。正如我所预料的那样,这个领域变得越来越荒谬,本质上就是一场小丑表演。

我想,我们很快就会知道,所有的人工智能泡沫实际上只是一个笑话,从一开始,我就在这个博客上说过这些话。

原文链接:https://blog.piekniewski.info/2019/05/30/ai-circus-mid-2019-update/

译者:尺度。

[免责声明]

资讯标题: “AI 寒冬论”作者再发声:人工智能行业就是一个马戏团

资讯来源: 36氪官网

36氪企服点评

AI人工智能相关的软件

大厂都在用的AI人工智能软件

限时免费的AI人工智能软件

新锐产品推荐

消息通知
咨询入驻
商务合作