“颠覆”还是“进化” AI安全,谁来守护？
发布时间：2021-07-19 20:30:15 所属栏目：大数据 来源：互联网
导读：一位人工智能专家曾这样写道：终有一天，机器人将把人类关在动物园的牢笼里。参观动物园时，大机器人对小机器人说，孩子，这是人，是我们的祖先。这个让人啼笑皆非的末世预言虽然有点荒诞，却也道出了面对爆发式增长的人工智能时，人类的惶惑与无奈。 人脸识
|
除了对人工智能算法的安全性研究，人工智能设备本身存在的安全问题，也是安全专家们关注的重点。
智能音箱是近两年来最流行的人工智能设备之一，人们可以通过语音聊天的方式和它进行交互，从而控制家里电器的开关、查询和安排日程、购物、播放歌曲等。然而，由于智能音箱具有“听”的功能，长期以来人们对它的安全性也十分担心。
日前，Tencent Blade Team研究员伍惠宇、钱文祥、李宇翔三人发现，面市最早、市场占有率最大、技术也最为成熟的智能音箱之一亚马逊智能音箱Amazon Echo存在安全漏洞。黑客能够在Amazon Echo的静默状态下(无唤醒，提示灯不亮)，窃听用户的说话内容。
今年5月，团队将一份完整的漏洞细节报告提交给了亚马逊公司。亚马逊安全部门立刻进行了分析和响应，并向Tencent Blade Team表示感谢。两个月后，所有用户的Amazon Echo漏洞得到了修复。
“现在，越来越多的厂商建立了漏洞响应和修复机制。安全团队要做的不再仅仅是传统的设置防火墙、加密文件、安全监控，而是需要从攻击者的角度出发检视自身存在的漏洞，并且及时进行修复，就像体育运动里的攻防转换一样。”钱文祥说，“这就对安全人员的素质和能力提出了更高的要求。”
2017年底，位于深圳南山区、被誉为可能是“全球最智慧建筑”的腾讯滨海大厦即将投入使用。Tencent Blade Team又将目标瞄准了这座腾讯全球新总部大楼。
他们将一架大疆无人机飞到大厦的某个楼层平面，利用无线安全协议漏洞控制了整个楼层的灯光、空调、插座和窗帘……这本是腾讯滨海大厦投入使用前一场必要的内部安全测试，却被腾讯的安全团队们视为最佳“练兵场”。在这里，他们将建立起一套针对目前世界上最先进的人工智能设备和物联网技术的安全策略。
“颠覆”还是“进化”
悲观派与乐观派的博弈
一个不争的事实是，无论人类担忧与否，人工智能都不会停下它喷涌向前的脚步。
“人工智能可能是人类历史上发生的最好的事，也可能是最坏的事。”在极棒2017上海站比赛开场前，这段世界著名的天体物理学家霍金的讲话视频在大屏幕上被一遍遍地播放。这位被称作世界上最著名的、对人工智能持保守悲观态度的科学家，曾就人工智能可能带来的风险数度向人们发出警告。
“人类对AI的恐惧，实际上是对未知的恐惧。”王琦告诉记者，对于人工智能的未来走向，自己是“悲观派”，对于这一点他从不讳言。“悲观派”们坚持认为，人工智能的高速发展将对人类生存带来极大挑战，经过漫长的技术积累，与人类智能水平并驾齐驱的强人工智能终将到来，而这一时刻就是所谓的技术“奇点”。之后，智能机器开始摆脱人类控制，进而爆炸式进化，到那时，人类对此将无能为力。
相反，“乐观派”们则认为这一天永远不会到来。人工智能科学家们否认所谓的“智能爆炸”，因为他们认为，人类智慧不仅是指人类大脑的能力，更储存在文明之中，所谓“智能”往往依赖于具体的场景和环境，通用智能并不存在。未来，人工智能递归式的自我完善将会成为常态，但“爆炸”和“奇点”不会发生。
中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任王飞跃在接受记者采访时认为，人工智能会在技术层面、社会层面和道德层面给人类带来风险。“但无论是 ‘颠覆’还是 ‘进化’，都不应该成为当下人工智能讨论的焦点。真正的焦点应该是实践和实效。”王飞跃强调。
一个不争的事实是，无论人类担忧与否，人工智能都不会停下它喷涌向前的脚步。然而，一个更为现实的问题却是，提到人工智能，大多数人往往忧心“人类会被机器统治”之类的科幻片中的恐怖场景有天会变成现实，而忽视了一些更加迫在眉睫的危机……
相比于“人类会被机器统治”
或许，这些危机更值得警惕
如果我们大部分的恐惧都被证明是荒谬的，那么真正的危机恰恰是因为发生前多数人的不担心所造成的。
如果说第一次、第二次工业革命离我们太过遥远，那么你一定还记得几十年前的“电脑恐惧症”——随着个人电脑的普及，许多人忧心忡忡，焦虑、恐惧，甚至出现攻击行为，一如机器刚出现时给手工工人带来的恐慌。人们被计算机和互联网吸引，又对它的潜力充满敬畏，因为不了解而担心自己有一天被它取代。
但事实证明，绝大多数担忧并没有发生，计算机并没有取代人类，也没有引发大规模的失业，相反，人们已经从容地进入互联网时代，享受它带来的便捷。然而，当时几乎没人警告过的危机现在却实实在在地发生着：电脑给人带来心理异化，人们的耐心和专注力正被消磨;互联网黑产对个人数据的追踪，无处不在的“监视”;敌对势力通过社交网络入侵，国家安全面临新的挑战……
这些经验提醒我们，如果我们大部分的恐惧都被证明是荒谬的，那么真正的危机恰恰是因为发生前多数人的不担心所造成的。
事实上，人工智能时代，这些容易被人忽视却又最不该被忽视的风险已经渐渐展露——
今年3月，全球最大的社交网站Facebook被爆超过5000万用户的信息数据泄露。一家数据分析公司“剑桥分析”通过建立模型，对这些数据进行分析，辨别这些用户的性格和政治倾向，有针对性地推送广告甚至是假新闻，从而影响了他们在2016年美国大选中的投票。事实上，这并不是孤例。近年来，一些互联网消费平台也接二连三被爆出“大数据杀熟”，引来质疑不断……
随着人们的生活越来越数字化，社交媒体、网购平台甚至智能硬件厂商，越来越了解人们的生活和思想，也将越来越多地通过人工智能算法控制每个人的信息接口和消费。人工智能可以随时感知我们的行为和想法，我们看到的新闻和广告变成了算法的“策划”，并且不断调整提供给我们的信息，进而影响我们的判断和行为。
比起现实生活中那些已经显现的智能设备漏洞，或者“人类会被机器统治”这样相对遥远的末世预言，通过人工智能算法“操纵”用户的思想和行为，来实现不透明目标，其危害性更大，也更值得警惕——在记者的此次采访中，诸多人工智能学者和安全人士都表达了相同的关切和担忧。
硬币的两面
危机四伏就只能主动出击
它们不再是习惯性地先做产品，再增加安全防护，而是从规划和研发阶段就开始了安全策略的部署，安全成了所有“0”前面的“1”。
任何事情都会有好有坏，就像硬币的正反两面，相伴而生，无法割裂。正迈入智能时代的每个人都清楚，人工智能大势已至，人类不能，更不该因噎废食。
“对于每个普罗大众来说，也许我们无法左右技术发展、国家政策，我们能做的只是保护好个人隐私，尽量购买大厂商的智能设备，及时更新漏洞……但这并不妨碍我们每个人去关注和拥抱AI，并且时刻对它的安全性保持警惕。”采访中，一位普通市民如是说。
“政府、学界和企业三股力量正加速探索建立有效的合作模式，以应对人工智能发展中面临的安全挑战。”王飞跃告诉记者。
让用户从“安全”到“安心”，成为人工智能学者和安全从业人员的追求目标。越来越多的企业意识到，安全能力与应用研发、产业发展同样重要。它们不再是习惯性地先做产品，再增加安全防护，而是从规划和研发阶段就开始了安全策略的部署，安全成了所有“0”前面的“1”。
政府层面也在持续发力。去年7月，国务院印发《新一代人工智能发展规划》，提出要“建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”。
本月，2018世界人工智能大会将在上海召开。届时，诸多国内外政要、学界泰斗和行业龙头将齐聚黄浦江畔，人工智能的安全挑战、政策法规和标准体系将会成为会议的重要议题。未来，智能社会法律和伦理道德的边界将更加清晰。
诚然，如果说人工智能技术的不确定性让人类获益的同时，又带来一个危机四伏的未来的话，那么面对危机，除了主动出击，我们别无选择。
 （编辑：宿州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
