行业动态

在人工智能时代,每个人都是偶然的黑客。

本文转载自微信公众号: Creation (识别码:杏树100 ),发言人:王琦,KEEN创始人兼首席执行官,国际安全极客大赛极客网创始人。

今天,我和大家分享人类“攻击”情报的话题,“攻击”就是攻击的攻击,这包括我多年工作的心得。 我想从传统课程的人工智能开始。。

让我们先做一个小测试。 大屏幕左边有一张图片。 如果我问你看到了什么,我相信每个人都有自己的答案。。 图片右边有两句话,一句是正常人的问题,另一句是具有人工智能的机器人的答案。。

1

这个小测试是,你认为谁是正常人,小明,右边的两个人回答? 在给出答案之前,我想说,事实上,每个人都做过非常典型但不那么严格的图灵测试。。

20世纪50年代,人工智能之父图灵提出了一种测试机器是否具有人类智能的方法。。 他提到,如果我们同时与一个看不见的人和机器进行问答交流(通过敲击键盘),如果30 %的成年人不能在5分钟内判断对方是人还是机器,我们认为机器已经具备人工智能。。

如果你发现自己错了,当答案稍后公布时,那么我们的人工智能已经像人类一样了。。

让我们看看。 小明是机器人。 我们都认为他像一个正常人,对吗?

人工智能

迄今为止,人工智能的发展已经取得了一些有趣的成果。。 对于计算机来说,如果你想像一个人一样思考,拥有和一个人一样的智力,有一个最重要的方面需要解决。

2

我们需要知道,70 %的人对信息的处理来自我们的眼睛,但对计算机来说,这只有0和1。计算机只能看到图片中像素的值。它看不到沙发上的线条,也不能很快理解。它可能是一个带着两个孩子和一只狗看电视的成年人。

如果我仔细看看这个问题,坐在我前面的那个孩子的外套是什么颜色的 对电脑来说,小屁孩是什么? 前面是什么? 什么是外套 什么是颜色? 这是完全不可理解的。因此,人工智能提出多年后,在视觉领域仍然存在困难。

你知道,我们出生后应该用眼睛看世界。如果我们把眼睛和电脑比较,我们每200毫秒拍一张照片。让我们想想,自从我们睁开眼睛看世界以来,在我们能够理解和理解之前,我们今天拍了多少这样的照片。? 因此,我们希望培养也有这种能力的计算机。

2010年,最好的人工智能计算机识别图形的错误率为20 % - 30 %,比人类的错误率还要差。然而,从2012年到2014年,斯坦福的一名医生通过自己的研究将错误率降低到接近人类的水平。这是一项非常了不起的成就,他在其中运用了我们所说的“深度学习”。

3

通常我们要告诉机器10000次,这是一只猫,这是一只猫,这是一只猫,它只知道它看起来像一只猫。 然而,到2012年,谷歌将不必告诉机器猫是什么,而是可以直接问猫是什么,让它自己找出猫。这是人工智能领域的科学家非常钦佩的成就。

说实话,看到这样的科技成果我也很兴奋。但是我今天演讲的主题是什么? 人们“攻击”情报。在感受到人工智能的刺激的同时,我也看到或想象了一些风险。

攻击样本

我从事的专业是信息技术。严格地说,这是信息安全或者人们通常所说的“黑客”。2017年是我在这个行业的第19年。

3

2011年,我们组建了一个名为KEEN的团队。在接下来的几年里,我们队在世界黑客大赛中赢得了几个冠军。我们还建立了一个名为极客网的黑客竞争平台。在这个平台上,你可以看到你所有的相机、手机、个人电脑、路由器、智能门锁、无人驾驶飞行器、机器人和POS机都被我们黑掉了。

你可以问我们要做什么。? 事实上,我们被称为白帽黑客,我们希望帮助制造商发现问题并解决它们,使产品更安全。这些被黑客攻击的产品包括汽车。我一直在想,有没有其他更酷的方法来帮助提高它的安全性

3

让我们回到刚才看到的车。通过深入研究,其智能系统能够识别出在道路前方穿着白衬衫的人。当时我有一个想法:如果我坚持认为这辆车是消防栓或树,它会在紧急情况下撞上它,这相当于切断了它的系统。

这比黑掉电脑屏幕更酷。有可能吗? 说实话,我们过去从事安全领域的传统研究,对人工智能一无所知,但我们的兴趣让我们想学习并看看我们能否做到这一点。这就像挖洞和挖洞的过程。这也是教计算机一堆攻击样本的过程。结果会是什么

让我们先输入一个普通样本,看看我们想要得到什么。?做出正确的决定。然而,在攻击中,我们输入了攻击的样本,并希望它能得到麒麟城娱乐注册错误的行为。这种方法能在人工智能领域工作吗

人们“攻击”情报

去年,当极客们在美国战斗时,一位世界级的人工智能大师发现了这一成就。你看,照片的左边是一只小狗。对于目前的人工智能来说,很容易识别它。但是这只小狗不是小狗。它是特制的。最成功的人工智能识别系统坚持认为它是鸵鸟。

在左边的图片中,你仍然看不到任何信息,都是噪音,对吗? 但是当我们把它交给人工智能时,它坚持说那是一只熊猫。我们再次误导它做出错误的决定,这让我们相信我们想象中的错误会真正导致错误的决定,也就是攻击样本。

去年微软推出了一款智能聊天机器人,可以正常与我们交流,但是没过多久它就离线了。为什么 因为它在第一天下午就开始骂人和说种族主义的话。为什么这是可能的? 因为早上有人用这种话和他交流,他认为这是人与人之间正常的交流方式。

3

所以我想出了一个主意,在人工智能时代,每个人都有可能意外成为黑客。黑客不需要编写任何代码,也不需要像我们一样拥有超过十年的安全经验。他们可以成功地欺骗人工智能。这是语言领域。

在其他领域,让我们来看看。这是一只机器狗。这是一个机器人。他们来自美国波士顿电力公司。他们可以像人或动物一样走路。在行走的过程中,他们可以找到调整平衡的方法。这是一个非常惊人的产品。

我在想,如果有一天这些机器狗和机器人认为如果我戳你,踢你,这和和和你握手一样友好 机器人会威胁我们吗 我可能是危言耸听,但是从黑客的角度来看,我们习惯于从坏人的角度来看待问题。

人工智能从20世纪50年代发展到现在。它非常像速度8中的孩子。我们希望他能像他父亲一样强壮和聪明。

保护人类

但是这一天会被打扰吗 我们现在正在做的是希望帮助人工智能安全健康地成长。我们一直试图从坏人的角度来看待问题,以帮助我们制造更安全的产品。

我们担心什么? 我不知道你是否看过一部叫《超级检查派》的电影。看这部电影时,我感觉非常深刻。据说一个机器人刚出生时就被强盗从实验室抢走了。几个月后,每个人都看到它戴着金项链,拿着手枪,破口大骂,抢别人的钱。为什么 因为它被带到贫民窟,它相信这是正确的工作。

我们期待人工智能改变我们的生活,但是我们认为我们需要帮助它健康成长。我特别希望更多的人参与这项工作,或者黑客职业。

3

人工智能领域分为两组,一组是乐观的,另一组是悲观的。悲观主义认为人类正在自我毁灭。他们正在制造一种可能超越人类并有一天会危及人类安全的装置。悲观主义者不仅包括我,还包括霍金、艾伦·马斯克和比尔·盖茨。

如果有一天,黑客可能能够保护全人类并攻击它(人工智能),那么我今天和你们分享的都是我肤浅的想法。如果有什么不同,请拍砖头。谢谢你。