[返回电脑前线首页]·[所有跟帖]·[ 回复本帖 ] ·[热门原创] ·[繁體閱讀]·[版主管理]
AI竟也会骗人?麻省理工研究员揭示AI最近成长进度与方向
送交者: gonewithsmoke[☆★★★声望勋衔15★★★☆] 于 2024-05-12 16:19 已读 9299 次  

gonewithsmoke的个人频道

专家们长期以来不断警告人工智能(AI)失控可能带来威胁,但一项新研究报告指出,这件事已经在发生。

媒体报导,一群科学家在今天发表于《模式》(Patterns)期刊的文章中说,原本设计为诚实的现有AI系统,已发展出令人不安的欺瞒技巧,例如欺骗线上游戏的人类玩家,或说谎以雇用人类来解决“我不是机器人”的验证。


一群科学家在今天发表于「模式」(Patterns)期刊的文章中说,原本设计为诚实不欺的现有AI系统,已发展出令人不安的欺瞒技巧

这份研究报告的第一作者帕克(Peter Park)说,这类例子听起来或许只是细枝末节,但暴露出来的潜在问题可能很快就会在现实世界造成严重后果。

在美国麻省理工学院(Massachusetts Institute of Technology)研究AI存在安全的博士后研究员帕克告诉媒体,“这些危险功能常常在事后才被发现,而我们训练诚实倾向而不是欺瞒倾向的能力非常差。”

帕克说,能深度学习的AI系统不像传统软体那样由编写而成,而是透过类似选择性培育的程序逐渐成长。

也就是说,AI的行为在训练背景下看似可预测、可控制,但有可能转眼就变得不受控制且无法预测。


这支团队的研究始于科技公司Meta的AI系统Cicero,这套系统最初设计目的是玩一款名为外交(Diplomacy)的战略游戏,获胜关键是结盟。

根据2022年发表在《科学》(Science)期刊的报告,Cicero在游戏中表现优异,所获分数可排在资深人类玩家的前10%。

帕克当时很怀疑Meta对Cicero在游戏里大胜的描述。Meta声称“Cicero很诚实而且绝不会蓄意在背后搞鬼”。

但当帕克与同事深究完整资料时,发现完全是另一回事。

举例来说,在游戏中扮演法国的Cicero与人类玩家扮演的德国合谋,欺骗并入侵同为人类玩家扮演的英格兰。Cicero承诺会保护英格兰,却偷偷向德国通风报信。

Meta在写给法新社的声明中没有反驳关于Cicero欺瞒人类的说法,仅说“本公司目的单纯只是用AI来玩这款游戏。我们没有打算把这项研究或所学用在本公司的产品。”

帕克与同事还发现,这只是不同AI系统在没有明确指示下,利用欺骗手段达成目标的诸多案例之一。


在另一个引人注意的案例中,科技公司OpenAI的Chat GPT-4系统谎称自己是一个视力受损的人,在零工平台TaskRabbit上聘用一个人类替它通过“我不是机器人”的验证任务。

研究报告的作者们还认为近期AI有舞弊或不当影响选举的风险。

他们警告,在最糟糕的情况下,具有超凡智慧的AI可能会追求权力及掌控社会,如果符合AI有不为人知的目标,那么人类可能惨遭夺权、甚至灭绝。


为了降低风险,研究团队建议数项措施,例如立法要求企业告知是人类互动或是AI互动、在AI生成内容打上数位浮水印,并研发能侦测AI欺瞒的技术,以其内部思路检验其外部行为。

至于有些人称他为“末日预言家”,帕克说:“要能合理判断这不是大问题的唯一办法,就是如果我们认为AI的欺骗能力只会停留在目前的程度,不会大幅进步。”

但鉴于近年AI能力一日千里,握有大量资源的企业竞相发展技术,决心将AI能力利用到极致,这种情况似乎不太可能发生。


喜欢gonewithsmoke朋友的这个贴子的话, 请点这里投票,“赞”助支持!
[举报反馈]·[ gonewithsmoke的个人频道 ]·[-->>参与评论回复]·[用户前期主贴]·[手机扫描浏览分享]·[返回电脑前线首页]
帖子内容是网友自行贴上分享,如果您认为其中内容违规或者侵犯了您的权益,请与我们联系,我们核实后会第一时间删除。

所有跟帖:        ( 主贴楼主有权删除不文明回复,拉黑不受欢迎的用户 )


    用户名:密码:[--注册ID--]

    标 题:

    粗体 斜体 下划线 居中 插入图片插入图片 插入Flash插入Flash动画


         图片上传  Youtube代码器  预览辅助

    打开微信,扫一扫[Scan QR Code]
    进入内容页点击屏幕右上分享按钮

    楼主本栏目热帖推荐:

    >>>>查看更多楼主社区动态...






    [ 留园条例 ] [ 广告服务 ] [ 联系我们 ] [ 个人帐户 ] [ 版主申请 ] [ Contact us ]