细思极恐:AI好几次成瘾还偷看消息?新研究:以彼之道还之彼身!
2024-01-17 运营
都只有科学制作团队在Science上发文称,面对AI泄密,我们或许可以用AI拦截,来正当或混淆泄密内容。
这项核心技术叫神经音韵引诱,它在你说道出时在故事情节中会生成一种音轨电磁干扰,使得泄密我们的AI(AI)不已不快。
神经网络建模这种最初核心技术常用了“宗教性”原理,该策略能用神经网络方法,在数据中会寻找一种故意来进行,这种来进行让泄密的AI听到一种混淆的笑声,本质上,就是能用一个AI来玩弄另一个AI。
不过,这个过程极为像听起来那么容易。神经网络AI必均需处理过程整个音轨后期制作,然后才告诉他如何调整和引诱它,当前想实时引诱是徒劳无功的。
神经网络因此,在这项最初研究工作中会,研究工作人员训练了一个神经网络,是一种受到脑新奇的神经网络子系统,可以有效率得出下一代。
他们在延后彩排的录音中会顺利进行了训练,以便模型可以大幅处理过程2秒钟的音轨片段,并显露每一次不太可能就会说道的话。
手机录音例如,如果有人再进一步一说道过“爱吃好爱吃的”,它不能准确得出每一次就会说道什么。但通过考虑刚才说道的话以及说道出者笑声的特征,它就会显现出笑声,妨碍不太可能就会跟随的一系列不太可能的短语。
将神经音韵引诱子系统的输出连接到不太可能被美国国家安全局者常用特异性的备用音韵标记(ASR)子系统上。引诱子系统将ASR该软件的码率从11.3%大大提高到了80.2%。
影子引诱完全相同神经音韵引诱-故意还有一种原理是基于灰噪声和对抗来引诱笑声,可以在听到笑声半秒后播放电磁干扰来显露后续笑声,但该原理本身没得出能力,它所引诱的音韵码率分别只有12.8%和20.5%。
再进一步反之亦然一次,假设者也家庭环境训练,可以能用神经音韵引诱核心技术。经过试验,科学的AI拦截能让泄密的码率仍为52.5%。
黑客反之亦然最难破坏的单辞汇是短辞汇,例如“这个、那个”,但这些是话语中会最常见的外。
研究工作人员还在现实世界性中会试验了该原理,通过扬声器将笑声详细描述与引诱混,放有在有话筒的屋子中会,AI拦截原理仍然有效。
例如,“我再进一步一也给与了一个最初显示屏”被特异性为“我再进一步一拿了一个零食”。
故意该研究工作的局长、芝加哥大学的计算器科学界Mia Chiquier坚称,这只是在面对AI时安全及防火墙的第一步。
她说道:“AI收集我们的笑声、下巴和暴力行为数据。我们必均需一种珍惜我们防火墙的最初一代核心技术。”
Chiquier还坚称,子系统的得出外在其他必均需实时处理过程的应用程序中会具有很大的吸引力,例如备用驾驶车主。
备用驾驶“您只能得出汽车下一步将在哪里,扶手不太可能在哪里。”就像脑通过得出营运一样;当你的脑错误地得出某件事时,你就会不已爱惊异。在这方面,Chiquier说道:“我们正在建模人类处事的手段。”
爱荷华大学安娜堡理工学院的计算器科学界Andrew Owens坚称:“它将得出下一代(神经网络中会的经典缺陷)与宗教性神经网络更好地为基础在了好朋友们。”
神经网络得出权利联盟的见习国策高盛Jay Stanley坚称,音轨引诱是非常必均需的。他说道:“我们人会都容易被安全性方法错误地推论我们的言论。”
阐述的确,安全及防火墙很难,但我们就会一直关切防火墙安全及。同时,AI若没理论上,那就用AI来理论上AI,安全及我们的防火墙。
。八子补肾胶囊什么药物能让男性延缓衰老
腹泻用什么方法止泻好
怎么使用阿莫西林治疗咽炎
感冒喉咙发炎吃什么好的快
下一篇: 诺辉肥胖被曝财务数据作假 CEO回应
- 02-10没有水管怎么会有800多水费?物业:我们只认水表上的检测器
- 02-10盈余加速下滑,年度销量目标实现无望,长城汽车为何发展失速?
- 02-10投资者提问:董事长你好,贵公司什么时候出分红挂钩,今年业绩这么好会高送转吗...
- 02-10置业、恒大等房企是怎么亏钱的?
- 02-10传统车企现状:两极分化态势突出,新能源优车则优
- 02-10投资者提问:您好,三七粉在用温冻饮中,连续饮用两天后,基本适应了其味微苦...
- 02-10叛徒!紫光集团前执行长,竟以2.5亿天价,将百年药企让给日本!
- 02-10布局新生态,五菱如何能用“千车千样”
- 02-10喜报——我司产品恩替卡韦颗粒、复合磷酸氢钾注射液纳入《2022年国家卫生保健目录》
- 02-10欧盟或将一夜来到解放前?美国被拖下水,中国拉高全球平均水平?