[返回科技频道首页]·[所有跟帖]·[ 回复本帖 ] ·[热门原创] ·[繁體閱讀]·[版主管理]
用“算法”模拟光束可攻击自动驾驶车辆 专家呼吁重视AI安全
送交者: thegnailer[♂☆★★声望品衔11★★☆♂] 于 2021-03-16 19:00 已读 2263 次  

thegnailer的个人频道

攻击AI有多简单?一束光就够了。

3月11日,阿里安全专家发布了一项新研究,只要用简单的激光笔,就可以让AI模型不再有效。在这个研究中,他们设计了一种算法,可模拟光束对AI模型进行“攻击”,这种测试方法在现实世界中得到了验证,且“攻击”极易操作,对现有基于AI的视觉系统更具威胁。



一束激光可能让自动驾驶汽车对交通标识识别错误

“攻击AI远非需要人为去制造对抗样本,一支简单的激光笔就可以。我们想通过这个研究揭示AI模型一些之前没有被探索过的‘错误’,从而‘强壮’AI,让它未来能抵挡这种‘攻击’,也让相关从业者重视提高AI模型的安全性。”阿里安全图灵实验室负责人薛晖说。

除了以“一束光”测试AI视觉的安全性,最近图灵实验室发布了多项文字识别与检测、利用自监督建立视频表征学习方法与提升半监督行为检测的算法框架、AI样本对抗、伪造人脸检测、AI对人脸与人声匹配的双重模态识别、视频描述AI生成技术等囊括AI“视觉”“听觉”“大脑”“免疫性”等多项涉及AI安全的研究成果,涉及AI安全的10项新一代安全架构研究成果均被国际顶会CVPR2021收录。

“在AI安全前沿技术上进行探索,一是为了让AI更安全,二是为了让AI助力安全,三是为解决具体社会问题寻找提效的新途径。”薛晖说。

针对互联网视频中所可能存在的内容风险,阿里安全高级算法工程师陈达与阿里安全实习算法工程师邓超睿共同开展了密集型视频描述生成研究,通过算法对给定视频自动生成对视频内容进行描述的一段文字,提前过滤不良内容,守护互联网清朗健康环境。

书乐是阿里安全图灵实验室的一名女性算法专家,她认为算法应该是有“温度”、“柔软”的,希望能在保护大众隐私的基础上,更加高效地解决机场、火车站、车库、游乐场等环境下走失儿童、老人的寻找问题。高级算法专家越丰关注AI对抗样本的问题,高质量的DeepFake人脸伪造视频更容易被制作并引发不良影响,而真实场景的伪造视频数据分布和视频质量参差不齐,他们正在通过寻找一个更好的方法提升检测AI检测算法的实用性。

“安全部署要前置,无论是AI本身的安全,还是AI可以助力解决的安全问题与社会问题,这就是从源头构筑安全的核心理念。”薛晖表示,希望在广阔的AI安全研究的新领域中,能有更多新生力量加入,迸发出有创造性和想象力的研究,最终应用到人们的生活中,真正服务大众,解决难题

评分完成:已经给本帖加上 10 银元!

喜欢thegnailer朋友的这个贴子的话, 请点这里投票,“赞”助支持!
[举报反馈]·[ thegnailer的个人频道 ]·[-->>参与评论回复]·[用户前期主贴]·[手机扫描浏览分享]·[返回科技频道首页]
帖子内容是网友自行贴上分享,如果您认为其中内容违规或者侵犯了您的权益,请与我们联系,我们核实后会第一时间删除。

所有跟帖:        ( 主贴楼主有权删除不文明回复,拉黑不受欢迎的用户 )


用户名:密码:[--注册ID--]

标 题:

粗体 斜体 下划线 居中 插入图片插入图片 插入Flash插入Flash动画


     图片上传  Youtube代码器  预览辅助

打开微信,扫一扫[Scan QR Code]
进入内容页点击屏幕右上分享按钮

楼主本栏目热帖推荐:

>>>>查看更多楼主社区动态...






[ 留园条例 ] [ 广告服务 ] [ 联系我们 ] [ 个人帐户 ] [ 版主申请 ] [ Contact us ]