＃AI智者说＃第四期 | 人工智能的到来，到底是福还是祸？
波士顿动力这个公司，开发出过很多牛叉的产品，最近，这家公司又发布了一个视频，视频中的机器人能跑，会跳，还会旋转！这个跳跃，人类的一小步，智能机械的一大步。事物总有两面性，在人工智能美好的蓝图下，也包含着黑暗的一面。如果AI被运用到军事方面的话，那恐怖性和毁灭性将是史无前例的。人工智能时代的到来到底是福还是祸？
让我们来听听“智在人为”2017浙商人工智能榜单入围的新时代浙商们怎么说吧！
任何事物的发展都必须遵循相应的约束，在适合当前形势下的有条件的约束发展才是真正意义上的自由发展。完全的自由发展只能是理论上和学术上的，没有存在的价值。因此，它必须受到一些约束，包括法律、伦理、技术条件、应用范围等多方面。AI目前还是起步，离实际广泛应用还早，芯片的算法集成度、速度、功耗、体积、材料、其它相关科学等多方面需要提升；人工和人工智能设备各有利弊，各有所长，各有不同的应用场景，不可偏颇也不可片面或不可夸大，否则都是不客观或不契合实际的。
包括科学技术在内的事物的发展都有其独特的发展规律，都要经历萌芽、发生、发展、成长、成熟、衰退的过程。AI也一样，没有任何技术包打天下，一招鲜吃遍天，最多在一个阶段成为主流而已；事物的发展都要依靠天时地利人和，即所谓的风口。当前AI天时、地利都不错，技术发展态势、形势、政策都不错，人和也有，但从兴起到普及还有相当长的路要走，人工智能时代的到来至少还要20年以上。和互联网的发展一样，只有在智能手机出现以后，互联网的发展才真正步入成熟期，前面都是在做铺垫作用。AI绝对也不例外，现在极力鼓吹AI还为时太早，个别应用就叫人工智能时代太幼稚。
该来的总会来，“AI不来，BI也要来”；是福不是祸，是祸躲不过。世道是轮回的，积善成德。从技术和应用的角度而言，通过特定应用定向深度学习，它能够代替人类完成无法完成的大数据计算、标准作业、规范作业，这是好事；但是在军事上，它也可以完成人工无法完成的军事行动，助纣为劣，是坏事；好和坏，在于用途和使用者，不在于技术和客观本身。善恶是双面的。祸福是相依的，没有标准答案。
工业革命让人们从“体力劳动”中解放出来，当科技的发展进入人工智能领域，我们也在期待着它所带来的改变。其实人工智能的发展已经在领域上改变着很多人的生活方式，在医药领域，人工智能可以提前模拟病毒的爆发，从而提前防控疫情；在教育领域，人工智能可以代替家教；在旅游领域，人工智能可以实时完成快速调取当前场景信息并实时讲解与翻译等。 曾经人工智能还只是计算机科学的一个分支，但自从1956年“人工智能”这个词背提出以来，这短短的几十年里，它迅速发展。现在，互联网、金融、医疗、教育、物流、娱乐、传媒等行业都在加速自己智能化的进程，人工智能正在由“弱人工智能”向“超级人工智能”高速进化。
以往人类社会的几次技术革命在导致失业的同时，也创造了大量新型工作。而人工智能技术的发展，在替代人类劳动的同时，对创造新工种可能贡献有限，这将在一定程度上对就业产生负面影响。人工智能充分吸收了人类几十万年以来的思维进化成果，并在记忆、计算、逻辑推理上占据绝对优势的人工智能，单从硬件上来看，很可能让人类大脑望尘莫及。而且，人工智能还可以随意运用更多的硬件以获得更大的内存，不但容量大而且更精准。甚至，我们觉得困难的事情，对于人工智能来说未必有多大的难度系数，而这无疑将导致不少工种的在岗人员被替代。因此出现了不少因为人工智能可能产生的社会伦理、道德、战争等的担忧。但是，不管社会发展最终走向何方，未来人类自身的存在方式甚至人体构成模式都会朝着更加注重高效、实用与低耗、持久的方向演化。
这两年因为互联网的发展以及芯片技术的发展，人工智能的发展的还是比较快的。很多行业都融入了人工智能的应用。我比较担心的是，在算法中有很多事情还是不可预见的，如果说这些东西运用到军事化、武器这些东西就比较危险；因此，我觉得人工智能的发展应该是需要受到约束的。
对人工智能发展的约束一方面跟社会伦理道德有关系，另外一方面我觉得各个政府需要制定有关的公约来约束人工智能的军事化——让大家不要把人工智能运用到军事武器的应用里去。当前，人工智能的算法和它神经网络的结构都和人大脑的状态差别比较大，最主要的表现是它的神经网络突触数量比较少，芯片的是运算速度还比较慢，这个就牵涉到芯片技术的发展。人工智能的核心三要素是数据、算法和计算能力，尽管对人工智能的发展做出一定的约束，也不会制约它的发展。只要我们的计算力不断地发展、或者说芯片技术不断发展，然后又有很多现成的数据，那么算法就可以不断地迭代，未来一定可以达到我们想要的一种状态。
我认为，人工智能时代的到来总体还是好的，人工智能可以代替很多人去做人类所做不了的事情，可以提高效率、增加新的工作机会。尤其是一些比较危险的场合就可以用机器替代人去做。
一个新的事物，尤其是一个能够给人们的生活提供便利的事物，想要发展是没有办法去约束的，因为它要发展是历史的一个必然。任何一种新的事物的产生必定是两面性的，说它是福是祸就要看我们从什么方面看待它带来的影响。其实，人工智能时代的到来就好像当初互联网大数据时代来到一样，我们大家都不相信的。所以说，我觉得我们对人工智能的认识有些误区，人工智能时代的到来必定是福大于祸的。
在未来的五到十年，社会财富很有可能会掌握在少数拥有人工智能的巨头上，越来越多的工作岗位会被机器代替，这是一个必然的阶段。现在人工智能的议题是比较热的，而我们对它的认识很浅，所以想当然觉得它会代替所谓的人工。其实不论人工智能多么高端，背后肯定还是要通过人去操作人工智能的设备，人工智能不能完全地代替人工。相信在未来，我们进入人工智能时代的速度会越来越快。刚开始会有一定的阻碍，会经过沉淀期，到爆发阶段，我觉得大概十年左右，我们的生活就会被人工智能所环绕。
人工智能在现阶段无论它有多智能，但是它的基础的指令还是由人类来编写的，因此它后续的迭代进化也是万变不离其宗，还是要基于人类的编写的这个算法去进行升级，但在这个过程中我们去限制它，可能意义并不是很大，因为在现阶段人工智能并没有那么可怕。
至于人工智能是福是祸，我觉得肯定是福大于祸，人工智能是人类的帮手，就像蒸汽机和电，但是今后继续发展的过程中，人工智能也是必须受到约束，我们需要在它的基础算法中去约束它，去设定好它该做什么不该做什么，或者说什么能做什么不能做。
人们对于人工智能的警惕最初的焦点在于“人造的机器会超越人”，库兹韦尔在《奇点临近》中表示，一旦强人工智能实现，它可以很轻易地获得提高，其能力也会增倍，这是机器能力的根本特质。而这种自我强化的智能最终会超过人类智能水平。
但是，目前人们所了解的人工智能系统都不满足这种能力。这是更接近公众心目中的人工智能观念，是灵活的、有创造力的，是一个自适应系统，元程序设计会赋予其自主应对问题的能力，但是它所面临的每一个问题本身并没有程序可以依靠，而是全凭自己在环境中学习和积累经验。
因此在人工智能“够聪明”之前，为它们树立并能够实际遵循的行为准则，以此构建较完善的监管体系或者说是“道德束缚”。
我觉得在现阶段人工智能的发展不需要约束。因为每一个行业都是需要时间和空间去发展的，而人工智能应用现在还处在起步阶段，如果有太多的约束反而会限制了它的发展。人们现在看到机器人能够做到一些“高难度”的动作就开始惊慌，这是没有必要的。我们爱见智能呢，主要经营老人陪伴机器人产品研究、开发、生产及销售，在我们看来“机器人是机器人，人工智能是人工智能”；我们对机器人的定义就是一个自动化执行的机器；而人工智能呢，它具有语言系统、人像识别系统、图像识别系统深度学习等的一个基础设施。人们现在往往会把搭载着人工智能的机器人和人工智能混淆了，所以当看到搭载人工智能的机器人的时候就会有些“惊慌失措”。
其实人工智能已经出现在我们生活中，只是我们没有察觉。比如手机的虚拟个人助理，当你对手机说出一个命令的时候，它们就会帮助你找到有用的信息。这样一看似简单的过程实际上就有人工智能的介入，并且扮演着重要的角色。虚拟个人助理就是通过查询信息，然后向手机中的其他app发送对应的信息来完成指令。在语音唤醒虚拟个人助理的时候，人工智能会收集你的指令信息，利用该信息进一步识别你的语音，并为你提供个性化的结果，最终会让你觉得越来越好用，达成越用越好用的结果。
所以我觉得人工智能在阶段的发展是不需要约束的。
在人工智能发展的过程中，我觉得监管是必不可少的，而且是一定需要的。在现在这样一个互联网发展的时代，我们在发展技术的同时，保护信息的安全是很重要的。安全对抗本质上就是成本升级的对抗，换句话说就是看谁铸就的门槛更高。而当黑产从业者也开始采用AI，欺诈场景更加复杂，这对安全产业就产生了颠覆性的影响。网络黑色链条呈现出分工明确、组织严密的特点，黑产从业人员已超过150万，市场规模更是达到了千亿级别。黑产想要得到的是直接利益，因此金融、电商、航空、游戏等“离钱近”的领域纷纷沦为重灾区。其中，如航空公司等传统企业在向互联网转型时，由于经验、资源方面的缺失，反欺诈从零开始，往往被迫交了很多“学费”。
黑产团伙手段五花八门，人工智能时代，黑色产业链上的攻防升级。在这条产业链中，有团队负责注册、“养号”；有团队负责提供终端机器，提供云服务，模拟真实IP地址；还有团队负责寻找企业漏洞，发起攻击，或是负责专门寻找“买家”等等。伴随着越来越复杂和越来越具有规模化、隐蔽性的欺诈手段，采用传统的反欺诈方案已经不能适应新形势的发展。而岂安科技领先的业务风险分析平台，通过机器学习引擎，此外，我们团队有对黑产多年深入研究的形成的海量数据，以及黑产舆情监控体系，结合用户行为分析，真正把“数据大”变为“大数据”，场景化 为客户解决他们的业务风险痛点。可帮助企业迅速找到“坏用户”，从而帮助客户提高运营能力，聚焦于核心业务。
所以我觉得我们在发展AI的同时需要对它进行监管，我们要保护好我们的信息安全。
我觉得人工智能是需要监管的，主要基于这几点的一个考虑：第一点从技术层面分析这本身是一个不可控的，所以我们需要去约束它。目前比较流行的人工智能的系统是深度神经网络，而深度神经网络从某种意义上来讲，它是一种无法准确估测的系统，我们只知道输入和输出但是不知道里面具体算法的过程，比如像一些图像识别的系统，它的这个系统常常会提取出一些我们人都不能发现的特征，所以总体来说人工智能的系统实际上是一个不太可控的系统，现如今各国都在研究explainable artificial intelligence，称之为可解释的AI，希望能够更加了解AI算法的过程。
人工智能现处于一个发展阶段，目前还没有一个完整的思路。这第二呢，从人工智能延展的角度来分析，是不可控的。人工智能跟量子计算的结合，当然目前二者都不成熟，但将来有一天量子计算能够和人工智能结合，每一个节点的计算都是成倍的，那这个系统就更加不可控了、更加无法约束了。第三点，从人工智能的产品，一些信息就会泄漏，如果没有受到监管，那么这个信息一旦泄露是很可怕的。至于这个约束的方式，我觉得法律条文的约束应该是最后一步，我想首先应该从行业协会的建立监管开始，建立合适的行业约束条款，它不见得有强制的法律效应，但是适应行业的规范。但是当过规范发展到一定程度时，也是可以转化为法律条文的。而不是一开始就从法律条文上将其规定会在一定程度上限制了它的发展，行业的事情行业自己解决。
我觉得人工智能是未来十年发展的一个趋势。但是它肯定需要受到一定的约束，比如说人工智能可能会受到一定的法规限制。以医疗领域为例，医生给病人开处方药诊断之后是负有一定的责任的，但是如果用人工智能替代医生的工作就没有责任一说，所以需要受到一定的法律法规的限制。而由于要先经过一定的实践与应用才能从经验中总结出如何更好地制定适用于这个社会的法律法规，在这中间所耗费的时间都会一定性的限制人工智能的发展。其次由于人工智能是直接应用在商业领域的高科技产品，所以需要人才既又高超的计算机技术，又要对行业有所了解。在培养人才的过程中所耗费的时间也会在短时间内制约它的发展。但是就长远来看，这些都不是大问题。
我觉得，人工智能的到来对整个社会的进步来说是福，因为人工智能可以更加精准科学地做一些判断。但是对于一部分人来说是祸，因为一些工种可能会被淘汰。不过我认为这也是促进社会进步的动力之一，会促使人类花更多的时间和精力投入在对技术的学习和研究上，所以我认为总体来说是福不是祸。
未来对于人工智能的约束更多的是从伦理上去约束它们。就像“克隆技术”一样，克隆技术如果不被禁止，克隆出的产物也会被认为是人类，正如“多利”不会被认为不是羊。在未来，人工智能通过一定的方法，如果最终能够制造出具有人类思维的机器人，那么应该赋予其基本的“人权”，承认其人类的身份。对于“克隆人”我们无非也就是要求它不伤人也好，不破坏公共秩序，总之这就是一个论理性问题，我们要去约束它该做什么不该做什么。又或者说人工智能进一步发展，到了“数据主义”的时候，也就需要一定的约束性了。因为数据主义认为，宇宙由数据流组成，任何现象或实体的价值就在于对数据处理的贡献。人类只是创造万物互联的工具，而万物互联可能从地球这个行星向外扩张，扩展到整个星系，甚至整个宇宙。这个宇宙数据处理系统如同上帝，无所不在、操控一切，而人类注定会并入系统之中。
但是现在的人工智能仍然是弱人工智能时代，它虽然已经有60年的历史了，但如果再发展20年后来看，今天的人工智能仍然是处于早期阶段，我们距离强人工智能时代还很遥远，任何事物的发展都是需要时间的，我们应该对它有更多的包容性，所以我觉得在现阶段，还是不需要太多的去约束于它。
人工智能可以提高人类工作的效率，扩展人类的感知能力，现在人工智能的发展正处于一个转折点的时期，根据摩尔定律指出，每隔18个月IC上可容纳的晶体管数目便会增加一倍，性能也将提升一倍。所以人工智能的发展在开始时平稳的，但是到了一定的时候就会迅速发展。人工智能的发展给我们带来了很多的便利，但是随着人工智能的不断发展让我们越来越畏惧它，一旦突破量变到质变，那么人工智能一定会引领社会进行一场科技大爆发。
对于人工智能，的确是需要约束，但是对它的约束就是“保证它不伤害人”就好。就像汽车，汽车会出车祸难道就要淘汰汽车吗？不会的，汽车还是在使用，因为它给我们生活带来了便利。同样的，人工智能也是这个道理。在今天已经有大量的智能机器人被用于各个领域，它们不仅没有带给我们威胁，恰恰这些应用还会提高我们的生活质量和工作效率。
至于人工智能可能会和人类“抢饭碗”，的确，随着人工智能技术的发展，人工智能在未来确实会替代部分岗位。不过，在目前的科技水平下，相比人类，机器欠缺了原创能力、互动能力和谈判能力。所以，在更多情况下，不是被人工智能替代，而是多一个助手。