Google大脑用两个人工智能系统进行对抗

2017-02-16 09:41:00 作者:佚名 分类 : 人工智能

  位于 Google 本部的人工智能团队 Google Brain(不是 DeepMind),就针对这个问题在去年做了一个很有趣的实验。结果发现:他们搭建的人工智能系统,在实验里自己创造出了一个加密算法,不光人猜不透,还能“自我升级”,让算法无法破解。这一切,就发生在三个人工智能系统的比赛中。

  研究者用到了三个并不复杂的神经网络来搭建这个实验,它们分别名为 Alice、Bob 和 Eve。

  Alice 和 Bob 为同一方,均未学过任何的加密知识,而是单纯依靠二者之间的共识(一段共享的密钥 K),去自己“琢磨”,设计出一个加密的方法……研究者给出一段 16 个字节的原文本 P,Alice 按照自己设计出的方法输出一段密文 C。Bob 再用密钥 K 配合 Alice 发来的密文 C,自己设计出解密的方法,不断尝试,解密出一个答案。

  而 Eve 则扮演“敌方”的监听者的角色,能够窃听到密文 C,在没有密钥 K 的前提下,同样是自己设计解密方法,去猜测原文本是什么。

  研究者没有对 Alice、Bob 和 Eve 进行过任何的加密训练,实验的全称也没有外部输入任何加密知识,全靠猜。至于猜没猜对,研究者不会给它们简单的“对”或者“错”,而是会分别告诉 Alice、Bob 和 Eve,它们以及对方猜的答案,和原文本之间错了多少位。

  整个实验的逻辑和战争时期的电台通讯差不多。但需要注意的是 K 并非加密方法,只是一串非常单纯的密钥而已。就好像同在旧上海的两个共军特工,双方都知道对方是自己人,但仅此而已,没有通用的密码本,只能靠不断地试错去逐渐明白对方采用的加密方式,还要不断地提升自己的加密技巧,好让国军特务无法突破。

  等等,你说什么?提……升?

  没错!尽管实验开始之前谁都不知道“加密”到底是个什么玩意,这些神经网络还真的在过程中提高了加密技巧……它们会根据上一轮各自的错误程度,去修改加密算法。

  研究人员发现,当总猜测次数超过了六、七千次的时候,作为“己方”的 Bob 和“敌方”的 Eve,每次猜测的错误位数都呈现出了下降的趋势。Eve 的性能提升比较缓慢,在之后的将近五千次尝试中错误的位数从 8 降低到了 6;而 Bob 的准确度飞速提高,很快就将错误位数降低到了 1 位……

  Alice 做了一个决定:“提高”它设计的加密算法复杂程度……

  Alice 的决定,立刻影响了另外两个神经网络的性能。好在 Bob 只花了一千次左右的尝试就回到了正轨,继续降低错误率直至 0,很快和 Alice 之间建立了完整的共识,之后无论 Alice 怎么调整都能很快完成修正。

  至于 Eve,再也找不到之前的感觉,错误率再度升高,在后来的几次 Alice 调整算法中,完全失去了方向。

  这个实验的环境,在深度学习领域被称为生成式对抗网络 (Generative Adversarial Network, GAN)。这种结构通常有两个、三个甚至多个神经网络,各自扮演自己的角色,在环境搭建好之后人类研究者只输入极少量的原始信息,主要用来观察神经网络各自的表现。

  生成式对抗网络是时下人工智能学界最热门的技术之一。一般来说,当人类想要研究人工智能“举一反三”的能力时,生成式对抗网络是体现效果最好的技术。去年年底,苹果公司公开发表了它的第一篇人工智能论文,介绍了一种能降低图像识别功能开发成本技术,采用的就是类似于生成式对抗网络的结构。

  这个实验证明了什么?至少从实用的角度,我们发现作为两个未经训练的神经网络,Alice 和 Bob 有能力在一万次尝试之内学会一种加密算法,而且没有进行直接的对话——这就好比两个三岁小孩用了几个小时就研究明白了大学级别的密码学……还挺让人印象深刻的。

  至于人工智能是不是已经学会了欺骗?倒不用担心它会背着人类偷偷搞事情。Alice 和 Bob 所采用的加密算法,的确是两个神经网络自己摸索出来的,人类没有提供教学。但毕竟人类是实验环境的搭建者,需要做一些非常细致的工作,比如设计和搭建神经网络,以及对正确、错误、胜利和失败的定义等等。

  研究者发现,引入的人工智能界别越高,越容易明白得分的道理和最快路径……

芥末视频

最近更新
科普

科普图集
带着朋友和机器人上月亮散步

带着朋友和机器人上月亮散步>>详情

邮件订阅

软件信息化周刊
比特软件信息化周刊提供以数据库、操作系统和管理软件为重点的全面软件信息化产业热点、应用方案推荐、实用技巧分享等。以最新的软件资讯,最新的软件技巧,最新的软件与服务业内动态来为IT用户找到软捷径。
商务办公周刊
比特商务周刊是一个及行业资讯、深度分析、企业导购等为一体的综合性周刊。其中,与中国计量科学研究院合力打造的比特实验室可以为商业用户提供最权威的采购指南。是企业用户不可缺少的智选周刊!
网络周刊
比特网络周刊向企业网管员以及网络技术和产品使用者提供关于网络产业动态、技术热点、组网、建网、网络管理、网络运维等最新技术和实用技巧,帮助网管答疑解惑,成为网管好帮手。
服务器周刊
比特服务器周刊作为比特网的重点频道之一,主要关注x86服务器,RISC架构服务器以及高性能计算机行业的产品及发展动态。通过最独到的编辑观点和业界动态分析,让您第一时间了解服务器行业的趋势。
存储周刊
比特存储周刊长期以来,为读者提供企业存储领域高质量的原创内容,及时、全面的资讯、技术、方案以及案例文章,力求成为业界领先的存储媒体。比特存储周刊始终致力于用户的企业信息化建设、存储业务、数据保护与容灾构建以及数据管理部署等方面服务。
安全周刊
比特安全周刊通过专业的信息安全内容建设,为企业级用户打造最具商业价值的信息沟通平台,并为安全厂商提供多层面、多维度的媒体宣传手段。与其他同类网站信息安全内容相比,比特安全周刊运作模式更加独立,对信息安全界的动态新闻更新更快。
新闻中心热点推荐
新闻中心以独特视角精选一周内最具影响力的行业重大事件或圈内精彩故事,为企业级用户打造重点突出,可读性强,商业价值高的信息共享平台;同时为互联网、IT业界及通信厂商提供一条精准快捷,渗透力强,覆盖面广的媒体传播途径。
云计算周刊
比特云计算周刊关注云计算产业热点技术应用与趋势发展,全方位报道云计算领域最新动态。为用户与企业架设起沟通交流平台。包括IaaS、PaaS、SaaS各种不同的服务类型以及相关的安全与管理内容介绍。
CIO俱乐部周刊
比特CIO俱乐部周刊以大量高端CIO沙龙或专题研讨会以及对明星CIO的深入采访为依托,汇聚中国500强CIO的集体智慧。旨为中国杰出的CIO提供一个良好的互融互通 、促进交流的平台,并持续提供丰富的资讯和服务,探讨信息化建设,推动中国信息化发展引领CIO未来职业发展。
IT专家网
IT专家新闻邮件长期以来,以定向、分众、整合的商业模式,为企业IT专业人士以及IT系统采购决策者提供高质量的原创内容,包括IT新闻、评论、专家答疑、技巧和白皮书。此外,IT专家网还为读者提供包括咨询、社区、论坛、线下会议、读者沙龙等多种服务。
X周刊
X周刊是一份IT人的技术娱乐周刊,给用户实时传递I最新T资讯、IT段子、技术技巧、畅销书籍,同时用户还能参与我们推荐的互动游戏,给广大的IT技术人士忙碌工作之余带来轻松休闲一刻。