OpenAI 的起步、现状和未来:全世界最聪明的人都在这了

2016-05-04 11:47

作者:卡德·梅茨(Cade Metz),《连线》杂志高级撰稿人,内容覆盖谷歌、脸书、人工智能、比特币、数据中心、电脑芯片、编程语言,及其他改变世界的方式。

年终岁尾,政客和资本家披露消息的时候总会遵循报喜不报忧的传统。因此,去年12月人工智能大会快要结束之时,电动车公司特斯拉创始人埃隆·马斯克(Elon Musk)和著名科技孵化器Y Combinator总裁山姆·阿尔特曼(Sam Altman),揭开他们新的人工智能公司面纱的行为就颇有几分奇怪了。

不过,事出必有因。他们选择在年底曝光 OpenAI,不是因为没人关注,恰是因为大家都卯足了劲等着。硅谷大佬们一风闻该项目,就开始向 OpenAI 刚聚集起来的人工智能研究精英开出大笔金钱,意图将这些有想法的人笼络到自己旗下。最后的报价——有些甚至是在会议上做出的,足以迫使马斯克和阿尔特曼推迟了该初创公司的发布。在谷歌和 Facebook 实习过后加入 OpenAI 项目的一名研究员,同时也是在最后一刻收到橄榄枝的沃伊切赫·扎伦巴(Wojciech Zaremba)说:“报价相当疯狂。”

什么样的数额才称得上“相当疯狂”呢?两年前,随着随着最新机器学习技术市场真正开始升温,微软副总裁皮特·李(Peter Lee)曾说过,一名顶级人工智能研究员的挖角费用,已经超出了美国橄榄球联盟(NFL)顶级四分位的价值——而且他指的还是在通常情况下,而不是硅谷几家著名企业争相挖角的时候。扎伦巴称,随着 OpenAI 逐渐成型,他收到的报价已经是他市场价值的2到3倍了。

OpenAI没跟这些大财主拼钱袋深度,而是提供了别的东西:仅为探索未来,不用考虑产品和季度利润而做研究的机会;以及最终将研究成果(即使不是全部也是大部分)分享出去的机会。没错:马斯克、阿尔特曼、OpenAI,都旨在奉送有可能是21世纪最革新性技术的东西——免费奉送!

伊利亚·苏特斯科夫(lya Sutskever)

扎伦巴说,这些疯狂的报价实际上反而将他推开了——尽管他对谷歌和Facebook这样的公司有着相当的尊重。他觉得,这些钱说是用来挖他,不如说是要阻止 OpenAI 的创建。于是,疯狂的挖角报价却令他更加投入到 OpenAI 高尚的使命中去了。

核心讽刺意味在于:尽管世界最大的科技公司试图以NFL球队抓住自家明星四分位的凶猛态势网络这些研究人员,研究人员自身却仅仅想要分享技术。

在人工智能研究的纯净世界中,最聪明的头脑并非是,或者说不仅仅是,被下一个产品周期或利润率驱动的。他们想要做出更好的人工智能,而更好的人工智能绝不会在各自为战,毫不分享各自最新发现的环境中诞生。

OpenAI 就是个花数十亿美元将人工智能推向远方的大工程

2016年4月27日,OpenAI 发布其第一批人工智能软件,一个用“强化学习”技术打造人工智能系统的工具包。“强化学习”技术,就是驱动了打败人类棋王的 AlphaGo 的核心技术之一。使用这个工具包,你可以打造模拟新型机器人的系统,玩雅达利(Atari )游戏,当然,还能称霸围棋界。

玩游戏下棋当然只是个开始。OpenAI就是个花数十亿美元将人工智能推向远方的大工程。在公司成型方式和公司的宏图大志中,你都可以看到下一波创新浪潮的形成。OpenAI自身是否会成为这一改变的主要代理人我们尚未可知。但驱动这一很不寻常的初创公司创建的力量,显示出新型AI不仅会改造技术,还会改变我们打造技术的方式。

人工智能无处不在

硅谷并不反对夸张。在用怀疑论看待大胆宣言上它总是很明智。但在人工智能领域,改变是真实存在的。在谷歌和Facebook,深度学习技术已经在辅助互联网服务鉴别照片中的人脸,识别智能手机收到的语音命令,响应互联网搜索查询。而且这一技术还能驱动未来很多很多的其他任务。它能帮助机器理解自然语言——我们人类交谈和书写的自然方式。它能创造出新型机器人,赋予它们不仅能完成任务还能在工作中学习的能力。有人还相信,深度学习最终可以赋予机器类似常识的东西——真正像人类一样思考的能力。

但是,这样的前景也伴随着深深的焦虑。马斯克和阿尔特曼担心,如果人们可以造出能做好事的AI,同样也能造出能做恶事的AI。在对机器人统治世界的恐惧上,他俩并不孤单。不过,与其他人不同,他俩还认为,

迎战恶意AI的最佳方式,不是限制AI,而是扩展它。这也是OpenAI项目吸引到一批年轻聪慧的理想主义者的部分原因。

去年夏天的一个晚上,OpenAI始于硅谷紫檀酒店的一间包房里,毫不夸张地说,它诞生在风险资本世界的中心。

伊利亚·苏特斯科夫( Ilya Sutskever)当时就职谷歌大脑,研究通过分析大量数字数据学习执行任务的深度神经网络人工智能系统。从识别照片到撰写电子邮件到与人交谈,都是深度神经网络想能掌握的能力。苏特斯科夫就是该项目的顶级智囊。马斯克当时正与他在酒店共进晚餐。不过,更大的构想尚在酝酿之中。

扶植了Airbnb、Dropbox、Coinbase等公司的Y Combinator总裁山姆·阿尔特曼安排了一次会面,召集了几名AI研究员和年轻却有经验的创业老手格雷格·布罗克曼(Greg Brockman)。布罗克曼之前是著名硅谷数字支付初创公司Stripe(同样是Y Combinator扶植的)的首席技术官。这些人不拘一格,但都有共同的目标:创建新型AI实验室,一个不仅仅在谷歌控制范围之外,更在任何人控制范围之外的实验室。布罗克曼说:“我能想象的最好的事,就是以安全的方式让人类更加接近建造真正的AI。”

马斯克是警告人类可能终将失去对自我学习系统的控制的最强音。

马斯克会出现在会议上,不仅因为他是阿尔特曼的老友,也因为AI对他旗下各个公司的未来举足轻重。特斯拉需要AI驱动其无人驾驶汽车。SpaceX,需要AI将人类送入太空并维持他们的生命。但在人类终有一天会失去对自我学习系统的控制上,马斯克一直是发出警告的最强音。

问题在于:最有资格解决所有这些问题的人员几乎都已经在为谷歌干活了(当然,还有Facebook、微软、百度和推特)。晚餐会上,没人敢担保这些人会属意一家初创公司,即使这家初创公司背后有马斯克和阿尔特曼撑腰。不过,至少有一名核心人员对跳槽持开放态度。苏特斯科夫说:“我觉得有风险,但它同时也可能是值得尝试的。”

打破循环

有了与马斯克、阿尔特曼和紫檀酒店其他与会人员的谈话垫底,布罗克曼很快决心建立起他们展望的实验室。全力投入该项目后,布罗克曼接触了蒙特利尔大学的计算机科学家,深度学习运动的奠基人,尤舒 . 本吉奥 (Yoshua Bengio)。深度学习领域另两位先驱者——杰夫·辛顿(Geoff Hinton)和伊恩·勒坤(Yann LeCun),一个在谷歌,一个在Facebook,但本吉奥一直致力于学术界,很大程度上游离在产业目标之外。布罗克曼列出了该领域顶级研究员的名单,接下来的几周,他尽可能多地拜访了名单上的人,当然其他人选也在拜访之列。

格雷格·布罗克曼,OpenAI开国元勋之一兼首席技术官

很多研究员都喜欢这个想法,但他们对踏出这一步也相当谨慎。为打破循环,布罗克曼选出了他最想要的研究员,邀请他们到纳帕谷(美国加州葡萄酒的主要产地)酒庄享受美好的周末,诱惑他们加入。对布罗克曼而言,驱车前往纳帕谷的路途也是该项目的催化剂。“一个被人低估了的延揽方式,就是在无法快速到达目的地的途中说服他们。目的地遥远,时间大把,不得不聊天打发时间。”而即便到了酒庄,畅谈的气氛还在。用布罗克曼的话说:“那一天,你能感觉到那种化学氛围。”或者,如苏特斯科夫所言:“红酒都得排在聊天后面。”

酒庄一日游的末尾,布罗克曼邀请所有10位研究员加入实验室,并给了他们3周的考虑时间。截止最后期限,其中9名点了头,并在后续各大硅谷巨头开出天价挖角的时候也一直不改初衷。

苏特斯科夫说起前东家谷歌时是这么说的:“他们真的很想留住我,做出这个决定并不容易。但最终,我还是决定跟OpenAI走了。部分原因是由于这是一个很强大的团队,更大的理由,则是因为OpenAI的使命。”

深度学习运动发源于学术界。直到最近,随着原始计算能力的进步让深度神经网络成为现实而非理论可能性,才有谷歌、Facebook和微软之类的大公司将之引入产业。辛顿和勒坤这样的人才离开学术界加入谷歌和Facebook,是因为在那里有大量的资源可以利用。但他们也有意与其他思想者保持合作。实际上,如勒坤解释的,深度学习研究需要思维的自由流通。“在做研究上故步自封,必然会落后。”

因此,大公司如今也分享了很多他们的AI研究成果。这是真正意义上的改变,尤其是谷歌,这家公司可是一直将技术作为其在线帝国的核心秘密保护的。最近,谷歌开源了驱动其神经网络的软件引擎。但它依然在面向未来的竞争中选择了保持优势。布罗克曼、阿尔特曼和马斯克,则旨在开放的观念进一步推广,称他们不希望一家或两家大公司控制人工智能的未来。

开放的限制

所有的一切听起来都不错。但在OpenAI的理想主义上,研究员们可能会发现自己还是得面对某些在老东家时不得不做出的妥协。开放也有限制。而且AI的长期愿景也不是游戏的唯一兴趣点。OpenAI不是慈善项目。马斯克的公司能从这家初创公司的工作中获益良多,阿尔特曼的Y Combinator扶植的很多公司也是。勒坤说:“相互竞争的目标自然会有。这是个非营利项目,但又与Y Combinator有着紧密联系。而且工作人员也像在业界公司上班一样有报酬。”

据布罗克曼所说,实验室开不出像谷歌和Facebook为AI研究员开出的那种天价高薪,但确实想“给他们一份不错的收入”,而且也提供股票期权形式的福利,先是在Y Combinator,后期可能SpaceX也会提供(SpaceX与特斯拉不同,依然是一家私营公司)。

布罗克曼坚持,OpenAI不会给其姐妹公司以特殊待遇

尽管如此,布罗克曼坚持,OpenAI不会给其姐妹公司以特殊待遇。OpenAI 是个研究机构,不是咨询公司。但被追问时,他承认,OpenAI 的理想愿景也是有限制的。尽管最终目的是共享绝大多数研究成果——不是通过研究论文就是通过互联网服务的方式,公司可能不会开源所有的产品。“所有的研究都在公开状态下进行并非最佳方式。你得酝酿想法,看它最终能通向哪里,然后才是发布。”布罗克曼说,“我们会产出大量开源代码。但我们也会有很多东西没准备好发布。”

苏特斯科夫和布罗克曼都补充道,OpenAI可能会为其某些工作申请专利。“近期不会对任何东西申请专利,但长期来看,如果我们发现申请专利对世界最有利,未必不会改变策略。”举个例子,OpenAI可以进行预防性专利申请,避免被人抢注。

不过,在一部分人看来,专利意味着盈利动机,至少对开源的坚持不像OpenAI创始人们承诺的那么强。艾伦人工智能研究所负责人奥伦·埃奇奥尼(Oren Etzioni)说:“专利不就是利益这回事吗?这让我怀疑他们真实的目的。”

超级智能问题

马斯克和阿尔特曼宣布OpenAI之时,他们也将该项目描绘为缓和恶意人工超级智能威胁的方法上。当然,超级智能有可能超出了OpenAI科技的处理范围,但他们坚持,任何威胁都能被缓解,因为该技术可以被每个人使用。“我们认为,更有可能的是,很多很多的AI系统将拦阻偶发的坏人利用事件。”

但业内不是每个人都买账。与马斯克一样,警告人们注意AI危险的牛津哲学家尼克·博斯特罗姆指出,

如果无限制地共享研究,坏人就会在有人确保该技术安全之前抢先夺走它。

“如果你手握一个能对全世界造成伤害的按钮,那你一定不想把它交到大家手上。”另一方面,如果OpenAI决定为防坏人利用而将技术保密,博斯特罗姆又质疑它与谷歌或Facebook有何不同。

不过,他确实承认,OpenAI的非营利性形象可能带来一些改变——虽然未必如此。该项目的真正力量,在于它能切实挑战谷歌和Facebook那样的公司。“它可以减小超级智能被垄断的可能性,消除某些实体或组织拥有远超其他人所有AI的一个可能根源。”

不过,正如这位哲学家在一篇新论文中所阐述的,像OpenAI这种致力于免费分享成果的机构的一个主要影响,是它能加速人工智能的发展进程,至少短期内能加速。而若能出于利他主义,选择更高层级的开放而不是让步于商业利益,那么从长远看也是能加速AI发展进程的。

“出于博爱动机的研发创始人,会通过追求开放科技,而达到更加加速进展,或许也是有道理的。”

就像施乐帕克(Xerox PARC)

今年1月初,布罗克曼的9名AI研究员在他位于旧金山教会区的公寓里齐聚。OpenAI实在是太新了,以致于他们连块白板都没有。(你能想象吗?)他们当天就买了几块,立即投入了工作。

布罗克曼称OpenAI将从探索强化学习开始。强化学习是机器通过不断重复任务并记录哪种方法能产生最佳结果的方式来学习。但是OpenAI的另一个主要目标,是被称为“无监督学习”的技术——创建能真正离开人类指导进行自我学习的机器。当下,深度学习由精心标注的数据驱动。如果你想教会一个神经网络识别猫的照片,你就得向它灌输一定量的照片实例,且这些实例必须被标注为猫照片。这个学习过程需要在人类标注员监督下完成。但就像许多其他研究人员设想的,OpenAI旨在创建无须精心标注的数据就能学习的神经网络。

“如果你拥有非常好的无监督学习,机器就能从互联网上众多此类知识中进行学习——就像人类通过观察四周或读书来学习一样。”

布罗克曼将OpenAI比作70年代繁荣兴盛的施乐帕克科技研究中心的现代版化身。正如帕克中心开放自由的研究产生出从图形用户界面到激光打印机,再到面向对象编程等等各种划时代发明一样,布罗克曼和他的团队寻求在我们曾以为是科幻小说的领域里挖掘更深。确实,帕克中心是施乐公司的私产,但它为其他诸多公司提供了养分,其中最著名的当属苹果公司,因为像史蒂夫·乔布斯(Steve Jobs)这样的人物,也是对它的研究知情的。布罗克曼希望每个人都了解OpenAI的研究。

本月,抱着尽可能推动这股暖流的希望,布罗克曼又网罗了其他几位著名研究员。包括伊恩·古德费洛(Ian Goodfellow),前谷歌大脑团队高级研究员。“帕克中心真正特别的地方在于,他们聚集了一堆够聪明的人,让这些聪明人干自己想干的事。”布罗克曼说,“是共同的愿景,而非中央控制。”

摒弃控制,是开源理念的精华。如果有足够的人投身到一个共同目标上,最终产生的结果,将胜过独自秘密酝酿的任何东西。但,如果AI变得如预期中的强大,平衡将会被打破。我们不得不确保新的AI系统能遵循一如初建时的平等主义理念。马斯克、阿尔特曼和布罗克曼将他们的信念压在了集体智慧上。但如果他们是正确的,或许终有一天“集体”将不再完全是人类构成。(翻译:nana,编辑:picar)

本文由创业邦(微信公众号:ichuangyebang)发布,转载请注明来源,违者必究。

  • APP
  • 公众号
  • 微博
  • 知乎
中国创业者的信息平台和服务平台,帮助中国创业者实现创业梦想
创业邦公众号,带你随时了解与创业有关的人、事、钱
邦哥自留地,轻松充电,秒知圈内事
创业邦知乎机构号,带你以另一种方式了解世界