雷峰网:极棒开启AI挑战 全球寻找顶级语音合成“机械师”2017-8

新的技术究竟是推动了安全的发展,还是衍生了更多的威胁?在人工智能异常火爆的大环境下,各种生物识别技术的应用已经越来越广泛。声纹识别作为生物识别领域很重要的识别方式,已经逐渐渗透到人们的日常生活:借助声纹识别技术,智能硬件产品将可以实现“闻声识人”;公安机关将能更有效地遏制与打击犯罪;金融机构则得以大幅提高风险防范系统安全性。

2017年,全球最大关注智能生活的黑客大赛GeekPwn(极棒),将设立500万总奖金池,继续探索智能领域的安全问题。在保留“无所不 PWN” 的报名规则和比赛形式的基础上,开设专项“人工智能安全挑战赛”,招募AI黑客的安全挑战项目。同时,还将增设“AI仿声验声攻防赛”,以此鼓励全球顶尖AI黑客或AI相关领域的安全研究团队积极参与。

以AI的方式击败AI “黑客 VS AI”开战在即

如果说由于AI的学习发展模式会导致黑客的蓄意攻击,那么AI自身的特性也会引发“不自觉的相互攻击”,这才是AI发展过程中最大的隐藏威胁。KEEN公司CEO、GeekPwn大赛发起人和创办人王琦表示,随着AI在交通、金融和医疗体系中运用的愈加完善,一旦AI失去控制,后果将不堪设想。GeekPwn希望在恶意分子真正动手之前,找到对抗这些攻击的方法,帮助人工智能更加健康的发展。

作为全球首个探索人工智能与专业安全的前沿平台,2017年, GeekPwn首创人工智能安全挑战专项。根据功能区分,人工智能安全挑战专项分为 PWN AI 与 AI PWN 两部分。旨在鼓励全球黑客自由报名,对已发布的AI 服务、产品、库、框架等发起挑战。

同时, GeekPwn组委会还在500万总奖金池中抽出40万奖金增设“AI仿声验声攻防赛”。即日起,面向全球招募优秀AI安全极客或AI研究团队,用AI的方式向声纹识别系统发起攻击。

极棒开启AI挑战 全球寻找顶级语音合成“机械师”

参赛队伍将从目标人物的声音中学习语音特征并合成音频,攻击若干语音验证系统,突破或欺骗目标系统本身的用户身份鉴别功能。王琦针对大赛规则解释到,简单来说,就是以AI的方式击败AI的防线。届时,将会有10支队伍进入10月24日在上海举办的GeekPwn2017嘉年华,第一名的队伍将有可能获得最高20万元的奖金。

声纹识别已渗透日常生活 方便同时带来安全隐患

人工智能将会如何改变一个普通人的日常生活?随着生物科技的不断发展和广泛应用,包括人脸、指纹、掌纹、虹膜等生物特征已被用于公司打卡、软件系统登录、家庭或公共场所的安防等多个场景。由于生物识别技术的准确率已经达到与人工识别接近的程度。越来越多的人将目光放在另外一种生物识别技术上——声纹识别。

在世界范围内,声纹识别技术已应用于如金融、证券、刑侦、以及其他民用安全认证系统等诸多领域。然而,声纹识别所缔造的“独一无二”的声音真的无法被打破吗?如果有一天,这些被人们认为是安全保障的人工智能被利用或者是攻击,将会对人们的日常生活带来怎样的危害?

在深度学习大红大紫的今天,人工智能已经暴露出诸多问题。而人工智能与白帽黑客的过招,早在国内外有各种实践。在2016年GeekPwn嘉年华上,来自谷歌大脑团队的资深研究员Ian Goodfellow就分享了“对抗性图像在物理世界中欺骗机器学习”的成果,仅在一张图片上加入了人眼无法察觉的干扰因素,就轻松骗过机器导致其做出了错误的判断。

极棒开启AI挑战 全球寻找顶级语音合成“机械师”

(2016年GeekPwn硅谷站:谷歌大脑团队的资深研究员Ian Goodfellow)

王琦表示,AI并不是万无一失。AI图像领域存在被欺骗的可能性,AI被欺骗,看似人工智能的错误和不完善,但其实在黑客眼里就有可能变成可以利用的漏洞。针对AI,黑客可以根据不同领域的技术特点,利用障眼法等手段,蒙蔽、欺骗、诱导人工智能出现“失误”,甚至引发灾难。AI的这些失误,用黑客思维理解,就会变成可以利用的漏洞。

    据悉,2017年GeekPwn嘉年华将于10月24日、11月13日分别在中国上海和美国硅谷共同举办,全球顶尖黑客将在GeekPwn的舞台上带来众多“前所未见”、“脑洞大开”的项目。

雷峰网原创文章,未经授权禁止转载。详情见转载须知

首页    媒体报道    2017    雷峰网:极棒开启AI挑战 全球寻找顶级语音合成“机械师”2017-8
收藏
创建时间:2021-11-24 16:19