当现在还处在 弱人工智能（ANI） 的阶段时，就有人开始「危言耸听」了，特斯拉CEO马斯克就曾说： 未来人类在智力上将被远远抛在后面，将沦为人工智能的「宠物」
然而与之持对立观点的扎克伯格则认为，这些担忧毫无依据 (not valid fear)，简直就是发神经 (hysterical)
对于今天的我们来说，人工智能听起来似乎还是颇为高端和神秘但它可不是什么冰山美人、低调的边缘者
也许在未来的几十年内，它就将会变成一匹脱缰的野马，对人类有限的认知发起一波又一波的冲击
人类社会瞬息万变，不管你信不信，时代正站在变革的边缘
目前关于人工智能的大部分研究集中在ANI上，即让机器专注于具体的任务，例如人脸识别、语音识别、自然语言处理等方面
现在已经运用在了聊天机器人、无人驾驶、精准医疗、人机对弈等领域
当我们越来越依赖 AI 社会将是一个怎样的局面 前段时间，日本有名女子患了白血病，治疗效果一直不佳
Watson （认知计算系统IBM Watson）通过快速大量的阅读有关白血病的文档资料，通过对该名患者的基因分析与系统联系，实现对这名女子病情的有效分析
很快诊断出了这位患者的病发原因
让我们想象一下这样的画面，当AI的运作越来越稳定，开始深度介入你的生活，从厨房到卧室，从生活起居再到工作社交…… AI作为一种辅助工具，当它几乎可以满足我们所有能想象到需求，被运用在天文、气候、医学、军事等重要领域，能让人类的生活更加美好吗？ ( 人工智能之父 Marvin Minsky ) 于是乎，各种脑补纷至沓来：AI难道不会出错吗？人类能和AI和谐共处吗？人爱上AI了怎么办？AI闹革命了怎么办？…… 当人工智能开始「耍花招」 还记得杰昆·菲尼克斯和斯嘉丽·约翰逊主演的电影《HER》吗？ 人工智能系统萨曼莎，拥有着迷人的性感声线，并且温柔体贴、幽默风趣
与孤独的男主人公展开了一段浪漫的人机恋情如果故事就这么结束了，这电影一定不是一部好电影
( 电影《her》剧照 ) 也许是人工智能系统萨曼莎和人一样存在「无穷的欲望」，在不久之后它开始玩起了「劈腿」游戏
通过「语音聊天」，它能够同时与无数个寂寞的男人海誓山盟，谈情说爱
就和远距离恋爱一样，反正你看不到……萨曼莎成功「玩弄」了菲尼克斯的感情
当然，萨曼莎还只能出现在电影中，AlphaGo也仅作为尖端科技与我们阁屏相望
但是AI就像一个未知的幻境，让人们对它的猜想和思考根本停不下来！！…… 不可靠的人脸识别 假如你成功的安装了AI家庭系统，所有的事由AI把关
门禁系统规定必须在通过人脸识别确定是主人后，房门才能开启是不是听起来非常安全，万无一失毕竟我就是我，是颜色不一样的烟火
那么，你家可能就会很危险了！近日来自北卡罗来纳大学的一个研究团队（Chaos Computer Club）凭借他们在社交媒体上收集到的若干照片，利用特殊的电脑合成和渲染技术，生成一个平面化的3D模型骗过了人脸识别系统，投了一张反对票
Hey，在IT领域，这可绝对不是什么新鲜事儿！ AI目标函数的陷阱 为了AI系统能够更高效的运行，设计者在设计过程中加入了目标函数，通俗的说就是当AI某种指标达到函数的指标时，它将获得某种奖励
想象一下系统滥用设计者意图的后果：它可能使用其以一种无意识的方法获得奖励
比如，一个AI通过清洁脏乱可获得奖励，那它可能故意制造脏乱来进行清理以获得更多的奖励
如果人工智能系统萨曼莎被设定为每帮助一个 「孤独患者」便能获得奖励，那么它就可能设法去帮助更多的「孤独患者」了… 谁来拯救人工智能的安全 像史蒂芬·霍金、伊隆·马斯克、比尔·盖茨这样的专家，最近越发看重AI的潜力和威胁
人们对于人工智能这个热点话题仍说法各异
但是拜托！! 在异想天开AI将威胁到人类对地球的主宰地位之前，先来解决一下现有的BUG好不好！！前一段刚上线不到一天的微软聊天机器人Tay，从彬彬有礼的美国「姑娘」变得出言不逊、脏话不断的bad girl
是的，「她」被黑客PWN掉了！你们能想象在更多更重要的领域，人工智能被PWN掉的后果吗…… ( 机器人Tay ) 当危险来临时，必将有一个英雄出现 那么这个英雄将会是你吗？ 当白帽黑客与人工智能碰撞，将产生怎样的火花？在前瞻性地意识到人工智能可能的安全问题之后，知名的黑客大赛 GeekPwn引入 「人工智能Pwn」 比赛项目，简单的说就是利用人工智能的种种弱点，黑掉它，改变设计者的初衷
该项目最高 80万元 的奖金，这在世界范围内尚属首次
选手现场需要实现对已发布的AI服务或产品完成误导、欺骗，使它们做出违反常规或者错误的判断、决策
例如，外国某研究人员通过「欺骗」神经网络函数，彻底修改了识图AI的思维和三观，使它们熊猫、秃鹫都傻傻分不清楚…… 人工智能对抗将成为黑客的终极目标吗？10月24日在上海的极棒嘉年华，或许你能触摸到这个问题的真实答案
想要了解GeekPwn赛事信息可以登录官方网站或添加GeekPwn官方账号