OpenAI创立的意图令人钦佩,但其重点应当调整

2017-01-24 11:22:00 作者:佚名 分类 : 人工智能

  人工智能是商业和科学领域中最热门的话题之一。开发商和行业分析师都在全力以赴的在天空中建造城堡,讲述即将发生的人工智能“觉醒”的故事。

  为这个巨变做准备,Elon Musk和Sam Altman创立了OpenAI,一个非营利性的组织,它的双重使命一是确保AI的使用安全,二是使其利益尽可能广泛的均匀分布。

  尽管开发人工智能并负责任地利用它很重要,但OpenAI不能只专注于一种或两种人工智能的类型,譬如强化学习。强化学习是使用最少的人工智能的类型,它没法向人们或是企业提供一些即时的安全威胁或价值。相反,OpenAI应该对已经具有重大风险(监督学习)和惊人效益(人工智能),这些更为广泛使用的人工智能种类进行研究。

  OpenAI的假设是正确的,人工智能中的潜在危险是完全不受控制的。Nick Bostrom著名的“回形针最大化”思想实验就是一个很好的例子。在OpenAI缺失的地方,标志着其选择投资的资源领域。OpenAI的主要焦点——强化学习是一类机器学习算法,它可以用于聊天机器人,视频游和机器人等任务。有趣的是,它通常不从数据开始或尝试从现有的数据集学习。相反,它试图学习控制一个代理,如机器人,纯粹基于它可以采取的一组动作以及其当前状态。

  强化学习的缺点是,等到它真正成熟至少还需要20-30年,它并不能立即适用于大多数的商业的问题。也就是说,人和企业都不会吵着要聊天机器人或者是互动代理;它们往往有更多超出他们的分析能力的数据超,它们被投资在提取意义和价值的地方。强化学习或许需要潜伏很长的时间,但它是最有潜力应用到有感知的机器人上的技术,但这种技术,可能在未来几年人们会密切注视,但并不是人们目前的首选策略。

  清楚呈现出的威胁

  有一种人工智能技术人们已经在使用,它对社会构成了更大的直接威胁,它就是标准的监督学习。忽略人类被改造成回形针或终结者式的机器人消灭人类的科幻场景,这是我们得出的结论。监督学习是利用过去的数据进行预测的一类机器学习,通常因其使用的方程太过复杂,使得它们对于人类的可解释性和理解是完全不透明的。

  许多公司目前的“前沿”机器学习和数据分析就是实施监督学习,或黑箱建模。随着监督学习的成熟,这种做法在业务过程中变得更加根深蒂固,它带来了严重的潜在问题。监督学习对“数据过拟合”十分敏感,通过分析模型来解释系统的工作原理,对每一个变量和历史数据点都进行了过度微调,得到的结果是一个并不能很好推广到新情况的模型,因为过去的数据是基于抽样的,并不一定能反映系统下面更大的趋势或“规则”。

  如果我们不能理解为什么要做出预测,预测就失去了意义。

  因此,你很可能会留下一个对过去情况过于具体的模型,却并不适用于理解新的情况。如果你利用监督学习算法自动交易金融资产,例如,当训练包含了大萧条的数据时,该算法可能会注意到,市场崩溃的时候正好有一个新的连锁咖啡店开张。这种虚假的相关性可能会不知不觉成为你银行的财务模式的一部分,而下一次类似的大型咖啡连锁店的开张,会引发大量的自动抛售资产,从而毒害更大的金融体系。

  因为人们不知道如何监督学习模型是如何运作的(许多情况下即使是建立他们的人也不清楚),它可能会导致金融的崩溃,人们因未知原因被拒贷款,甚至患者的误诊。除了虚假的相关性,由于缺少对该问题相关的完整数据或是对手的恶性攻击,都有可能产生不准确的预测。

  关键在于,我们还没有准备好将所有的商业决策、医疗决策和重要的生活决定,都交托给这些独立于人类理解的模型上。

  如果我们不能理解为什么要做出预测,那么预测就失去了意义,也无法证明它是正确的。

  计算出你的模型并了解它们

  如果监督学习是最具威胁性的人工智能类型,那最有价值并令人鼓舞的是什么?答案是机器智能。机器智能是人工智能的分支,它能解决人们和公司的最紧迫的业务和这个时代的社会问题。

  机器智能自动从数据中发现并解释答案。

  机器智能技术可以自动压缩原始数据以得到新的发现,并向人们解释所学的知识。

  这不是一个拥有自主思维能力的机器人。

  它通过筛选看似杂乱无章的数据,找到最有意义的变量,解释了发生了什么,以及为什么会发生的模式和因果。

  现在,机器智能可以提供一个完全透明的模型,而不是为了预测乳腺癌的黑箱模型,这可以帮助全球数以百万计的患者。“这是进行乳腺癌诊断时最有力的适应症或影响因素,下面是每个病人的发病率。”模型的洞察力和其易于理解的特性,可能会彻底改变业务和解决问题的方式。

  迄今为止,机器智能是最接近的,没有复杂的潜在副作用,有意识的人工智能。

  机器智能对于企业业务也有非常实际的应用。它已被用于关键项目,如预测美国电力需求,确定全球气候变化模式,建造喷气发动机的新材料,了解星系如何发展和优化玉米产量和种植模式。机器智能的商业应用是无止境的,有一个智能机器,可以像科学家一样思考,并对系统的工作原理产生新的解释。

  世界可以从那些机器中受益匪浅,它们能消化现实世界的信息,并帮助解释很多没有明确答案的情况。这就是智能机器为什么会兴起而大多数人工智能技术沉寂的原因,也是机器智能诞生来解决的问题。

  Musk和其他人如果能注意到这一点将是十分明智的。

  【重磅】未来科技学院前沿科技趋势学习班 (2017第一期)报名

  每一次人类社会的重大技术变革都会导致新的科学革命,互联网与人工智能对于人类的影响已经远远超过了大工业革命。人工智能、互联网、脑科学、虚拟现实、机器人、生物基因等领域正在相互融合,形成一股强大的洪流,对人类社会的各个领域产生巨大的影响。

  一日千里的科技进展,层出不穷的新概念,使企业家,投资人和社会大众面临巨大的科技发展压力,前沿科技现状和未来发展方向是什么?社会大众,企业家和投资家如何应对新科学技术带来的挑战?

  在科学院大数据与知识管理重点实验室,泰智会,人工智能学家的支持下,未来科技学院邀请国内和国际著名科学家、科技企业家讲授人工智能、互联网、脑科学、虚拟现实、机器人,3D打印、生物基因等领域的基本原理和未来发展趋势。欢迎投资界、企业界,科研机构的人士参加。

  未来科技学院第一期前沿科技趋势学习班将在2017年2月下旬(2月24日-26日)在北京中关村互联网金融中心1楼未来科技讲堂举办。线下集中学习三天,之后学员将通过未来科技学院的线上平台进行更多前沿科技讲座学习和答疑互动。集中学习期间,将举办未来科技交流酒会,加强学员以及专家之间的沟通交流。

  未来科技学院第一期学员将受邀加入未来科技学院的“未来科技创新促进会”,共享未来科技学院的高端科学家、企业家和投资人资源,共同解决企业和投资过程中遇到的科技问题;参与前沿科技未来发展重大课题研究;参加未来科技学院组织的讲座、参观和会议;选择投资未来科技学院孵化的前沿科技创新创业项目。

最近更新
科普

科普图集
带着朋友和机器人上月亮散步

带着朋友和机器人上月亮散步>>详情

比食人鱼更恐怖:长着人类牙齿的鱼

比食人鱼更恐怖:长着人类牙齿的鱼>>详情

邮件订阅

软件信息化周刊
比特软件信息化周刊提供以数据库、操作系统和管理软件为重点的全面软件信息化产业热点、应用方案推荐、实用技巧分享等。以最新的软件资讯,最新的软件技巧,最新的软件与服务业内动态来为IT用户找到软捷径。
商务办公周刊
比特商务周刊是一个及行业资讯、深度分析、企业导购等为一体的综合性周刊。其中,与中国计量科学研究院合力打造的比特实验室可以为商业用户提供最权威的采购指南。是企业用户不可缺少的智选周刊!
网络周刊
比特网络周刊向企业网管员以及网络技术和产品使用者提供关于网络产业动态、技术热点、组网、建网、网络管理、网络运维等最新技术和实用技巧,帮助网管答疑解惑,成为网管好帮手。
服务器周刊
比特服务器周刊作为比特网的重点频道之一,主要关注x86服务器,RISC架构服务器以及高性能计算机行业的产品及发展动态。通过最独到的编辑观点和业界动态分析,让您第一时间了解服务器行业的趋势。
存储周刊
比特存储周刊长期以来,为读者提供企业存储领域高质量的原创内容,及时、全面的资讯、技术、方案以及案例文章,力求成为业界领先的存储媒体。比特存储周刊始终致力于用户的企业信息化建设、存储业务、数据保护与容灾构建以及数据管理部署等方面服务。
安全周刊
比特安全周刊通过专业的信息安全内容建设,为企业级用户打造最具商业价值的信息沟通平台,并为安全厂商提供多层面、多维度的媒体宣传手段。与其他同类网站信息安全内容相比,比特安全周刊运作模式更加独立,对信息安全界的动态新闻更新更快。
新闻中心热点推荐
新闻中心以独特视角精选一周内最具影响力的行业重大事件或圈内精彩故事,为企业级用户打造重点突出,可读性强,商业价值高的信息共享平台;同时为互联网、IT业界及通信厂商提供一条精准快捷,渗透力强,覆盖面广的媒体传播途径。
云计算周刊
比特云计算周刊关注云计算产业热点技术应用与趋势发展,全方位报道云计算领域最新动态。为用户与企业架设起沟通交流平台。包括IaaS、PaaS、SaaS各种不同的服务类型以及相关的安全与管理内容介绍。
CIO俱乐部周刊
比特CIO俱乐部周刊以大量高端CIO沙龙或专题研讨会以及对明星CIO的深入采访为依托,汇聚中国500强CIO的集体智慧。旨为中国杰出的CIO提供一个良好的互融互通 、促进交流的平台,并持续提供丰富的资讯和服务,探讨信息化建设,推动中国信息化发展引领CIO未来职业发展。
IT专家网
IT专家新闻邮件长期以来,以定向、分众、整合的商业模式,为企业IT专业人士以及IT系统采购决策者提供高质量的原创内容,包括IT新闻、评论、专家答疑、技巧和白皮书。此外,IT专家网还为读者提供包括咨询、社区、论坛、线下会议、读者沙龙等多种服务。
X周刊
X周刊是一份IT人的技术娱乐周刊,给用户实时传递I最新T资讯、IT段子、技术技巧、畅销书籍,同时用户还能参与我们推荐的互动游戏,给广大的IT技术人士忙碌工作之余带来轻松休闲一刻。