当前位置:首页 > 数码科技 > 正文内容

生成式AI或致虚假信息野蛮生长 “深度造假”令人担忧

34资源网2023年06月13日 15:5781

生成式人工智能(AI)横空出世,可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称,超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出,AI的最新创新也提出了新的版权问题,即如何界定AI创建或使用的内容属于侵权还是合理使用等。

美国《福布斯》网站在6月9日的报道中指出,另一个令人担忧的问题已经浮出水面:生成式AI能被用于社交媒体上的虚假信息活动。虚假信息活动指蓄意制造和传播带有政治目的的谎言,这与一个人犯错误或说谎不同。虚假信息活动可使用各种策略,还可利用各种新技术、新媒体以及传统媒体来扩大分歧和煽动动乱。

美国塔尔萨大学网络安全教授约翰·希尔表示,众所周知,脸书、推特、TikTok等平台现在是信息战的前线,生成式AI“染指”这一领域既造成了新的危险,也放大了现有的危险。

“深度造假”:假作真时真亦假

2017年,当名为“深度造假”(Deepfake)的用户在互联网上首次发布合成视频时,也许不曾想到,他已经打开了“潘多拉魔盒”。随着“深度造假”技术在缺少监管的状态下野蛮生长,已逐渐危害经济和社会的稳定。

所谓“深度造假”技术,是一种利用AI将现有图像、音频或视频中的人物替换成他人的技术。一些经过操纵的图像、视频和音频等“深度造假”内容,曾经需要专业人士才能完成,但在生成式AI的加持下,现在很多人都能更容易地创建出来。

希尔指出,“深度造假”使别有用心之人可窃取或盗用他人的声音,将其嵌入图像或视频中,或者以无法检测的方式操纵或更改数字内容。这一切才刚刚开始,随着技术的不断进步,“深度造假”技术制作的内容与真实事物之间的差距会越来越小。而且,随着制作出“深度造假”内容变得越来越简单,社交媒体会随时向大众传播此类内容。

希尔强调称,随着这些“深度造假”内容在社交媒体平台上不受限制、不受管理地传播,将导致一场虚假信息运动,以影响、说服和误导他人或特定受众。随着相关技术的不断发展,未来可能会发生什么令人非常担忧。

侵蚀对政治选举的信任

《福布斯》杂志指出,生成式AI再加上“深度造假”,可能会给2024年美国总统选举带来真正可怕的后果。

美国公共广播服务网站在5月份的报道中指出,生成式AI不仅可快速生成有针对性的竞选电子邮件、文本或视频,还可能被用来误导选民、冒充候选人并以前所未有的规模和速度破坏选举,诽谤候选人,甚至煽动暴力。

中佛罗里达大学研究生院教授兼副院长提摩太·塞尔诺博士表示,AI制造出的“深度造假”内容看起来非常真实,即使对专家来说,确定它们的真实性也是一个挑战。

与此同时,选民们被AI捏造的视频淹没,如果社交媒体平台故意或错误地允许AI修改或生成的信息在其网络上逗留并肆意传播,选民对其信任度可能会进一步降低。美国网络安全公司预测,试图干预美国选举的团体将利用AI和合成媒体作为侵蚀信任的一种方式。

“内容认证”标准尚在制订

《福布斯》网站在报道中指出,生成式AI相关行业正在制订“内容认证”标准,使用户验证数字内容的来源,但开发和采纳这些标准还需要一些时间。

希尔指出,这是数字媒体发展的必经阶段,尽管如此,用户在浏览或使用社交媒体平台上的内容时,必须更加谨慎。此外,社交媒体网站应更积极地监管AI操纵的帖子。

AI提供了颠覆性进步的强大能力,但这种能力也必须被谨慎使用,以便更大程度发挥科技向善的力量。

看完文章,还可以用支付宝扫描下面的二维码领取一个支付宝红包,目前可领1-88元不等

支付宝红包二维码

除了扫码可以领取之外,大家还可以(复制 720087999 打开✔支付宝✔去搜索, h`o`n.g.包哪里来,动动手指就能领)。

看下图所示是好多参与这次活动领取红包的朋友:

支付宝红包

扫描二维码推送至手机访问。

版权声明:本文由34楼发布,如需转载请注明出处。

本文链接:https://www.34l.com/post/36204.html

分享给朋友:

相关文章

iPhoneSE3支持防水吗-iPhoneSE3防水等级
iPhoneSE3支持防水吗-iPhoneSE3防水等级

大家都知道,苹果手机的防水能力始终都很出色,近些年新出的手机基本上都可以ip68级防水,那么这一次上架的iPhoneSE3,它是不是也支持ip68级防水呢?快和小编我一起去讨论一下吧。iPhoneSE3防水效果如何iPhoneSE3这款手机...

iphoneSE3送充电器吗-iphoneSE3需要自己购买充电器吗
iphoneSE3送充电器吗-iphoneSE3需要自己购买充电器吗

苹果官方声明公告,为了更好地贯彻环保措施,将不会再免费赠送苹果手机充电器。先前iphone13系列产品就没有免费赠送手机充电器,那么新上架的iphoneSE3会免费赠送手机充电器吗?一块儿和小编来看一下吧。 i...

红米k40没有耳机孔如何插耳机
红米k40没有耳机孔如何插耳机

红米k40也是没有了耳机孔,3.5mm的耳机接口,红米现在怎么也成这个样子了,在公交、地铁上有很多用户都会戴着耳机听歌、打电话,那红米k40没有耳机孔如何插耳机呢?让我们一起来看看吧~ 红米k40没有耳机孔如何插耳机? 使用T...

华为手机游戏空间在哪里-华为手机游戏空间怎么添加应用
华为手机游戏空间在哪里-华为手机游戏空间怎么添加应用

有很多消费者朋友还不知道,华为手机的游戏空间可以将我们常玩的游戏加入进去,那怎么将游戏加入到游戏空间呢?笔者给各位梳理了操作流程,有兴趣的我们一起来瞧瞧吧,期待可以帮到各位! 华为手机游戏空间添加游戏的步骤 1、从设置菜单的最...

小米手机电池充不进去电什么原因?小米手机电池怎么修复?
小米手机电池充不进去电什么原因?小米手机电池怎么修复?

小米手机用户们在使用过程中,有遇到过小米手机电池充不进去电的情况吧,这到底是怎么回事呢?有什么办法解决没有?在电池不耐用的时候,电池可以怎么去修复呢?让我们一起来详细了解一下吧。 小米手机电池修复指令是什么 小米手机是...

小霸王大屏游戏机售价498元 可流畅运行128位游戏

小霸王PSP游戏掌机采用了7英寸大屏幕,采用了与Switch相似的双摇杆设计,支持双人对战。游戏机支持64GB TF卡扩展,并且支持网络下载游戏。游戏机采用了1.3GHz四核处理器,4000毫安时电池,性能和续航都很出色,可以流...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。