【为什么“眼见必信”——人工智能、计算成像和反假货之战】现如今,人们比历史上任何时期都更加想确定:“什么才是真的?”
但这不再是哲学家空谈的问题了。随着先进数字技术的兴起,这些技术能够以无缝改变视觉和听觉输入的方式改变其含义,像宣布图像“真实”或视频“准确”这样简单的任务变得异常困难。这种模糊可以追溯到人工智能驱动的“深度伪造技术(deepfake technologies)”的使用,这种技术可以使网络罪犯绕过生物特征安全保护,实施合成身份欺诈,参与网络欺凌和勒索,以及夸大或伪造个人成就。
当人们更容易受到图像的影响,而不太可能对图像进行批判性评估时,数字呈现的图像或视频令人信服地描绘出了人们做过或说过他们其实从未做过的事情,这是一种严重的网络安全威胁。我们中那些试图阻止这一趋势的人发现自己处于一场势均力敌的战斗中,因为我们的对手共享同一个“工具包”,即为娱乐、广告和社交媒体行业的媒体制作创造的基于人工智能的尖端技术。
与虚假或误导性媒体作斗争似乎已成为一种猫捉老鼠的游戏,聪明的对手几乎一经推出检测策略就立即进行反击。到目前为止,大多数研究人员都专注于确定图像内容是真是假的方法。这是一项重要的工作,必须继续下去,但由于利润动机加大了赌注——事实上,潜在的攻击者现在可以通过黑暗网络订购“DaaS”(DeepFakes as Service)——显然是时候发起攻势了。
反击:数字水印和区块链
那么,我们如何反击呢?
理想情况下,使用的工具使更改图像和逃避检测变得极其困难(甚至不可能)。
但是,如果我们能够设计出防止篡改的工具,并在图像创建过程中建立检测能力,那会怎么样呢?如果我们可以“防伪”数字资产,例如,通过创建隐藏的数字tripwires,会怎么样?两年前,我们与纽约大学坦顿分校的同事Pawel Korus博士合作,设计了一种摄像机管道,用经过训练的神经网络取代传统的照片显影管道,以联合优化高保真照片渲染和可靠的来源分析。由此产生的伪影与数字水印相似,即在数字媒体中嵌入代码以验证其真实性的过程,但如果一方试图改变图像,水印将被破坏。
今天,我们正在进一步发展这项技术,在图像首次生成时插入数字指纹,为测试媒体真实性提供了额外的手段。指纹是动态的,可以根据秘密密钥和照片的身份验证上下文(例如位置或时间戳信息)动态生成,这些信息通常保存在数据库中。
本质上,数字指纹提高了经典传感器指纹的鲁棒性、性能和安全保密性。具体地说,可以训练系统在复杂的后处理方法下工作,并且对于某些类型的内容更可靠。
在这项技术商业化之前,还需要做更多的工作。一方面,安全性能的提高可能以图像失真为代价。然而,这种失真往往被图像内容很好地掩盖。重要的是,初步测试已经证实,可能为下一代相机提供动力的神经成像管道可以进行训练,以优化高保真照片的冲洗和可靠的来源分析。
我们希望,这些发现将鼓励进一步研究,以建立更可靠的成像管道,并具有明确的来源保证特性。
另一个正在制造一定数量轰动的主动预防策略是使用区块链提供强大的可验证真实性。区块链的一个应用是在链接到相关密钥的网站上贴上戳记——只要这些网站中的一个被附加到未来的故事或引用中,伴随的密钥就会被跟踪,从而使区块链能够提供对相关媒体真实性的证明。
随着对另一种区块链技术——不可替代代币——的热情日益高涨,我们可以预见基于NFT当前使用情况的出处分析,其主要目的是建立数字所有权,包括“数字原件”的认证。区块链技术的这种应用可能在某种意义上成为检测和预防策略的最佳组合。
拒绝谎言的必要性
虚假媒体的扩散构成了独特的安全风险。
想想历史上个人照片或新闻片段所扮演的重要角色——比如,尼尔·阿姆斯特朗(Neil Armstrong)和巴斯·奥尔德林(Buzz Aldrin)在月球上行走的照片如何让地球上的美国人充满自豪感,并成为一代潜在创新者的灵感催化剂;或者圣雄甘地坐在纺车旁的标志性照片如何成为了这位全球领袖的决定性肖像。
如果相信你的所见所闻的观念受到攻击,我们这个社会又该如何运作呢?
我们必须恢复相信自己眼睛和耳朵的判断能力。
关于作者
Nasir Memon是IEEE Fellow、纽约大学坦顿工程学院计算机科学与工程教授、学术和学生事务副院长。Memon是纽约大学网络安全中心(位于纽约)和纽约大学阿布扎比分校的联合创始人;他还是OSIRIS实验室、CSAW、纽约大学坦顿桥项目和纽约大学网络研究员项目的创始人。
Memon曾在多家期刊的编辑委员会任职,并担任IEEE会刊《信息取证和安全》的主编。
https://t.cn/A6MpCILg
但这不再是哲学家空谈的问题了。随着先进数字技术的兴起,这些技术能够以无缝改变视觉和听觉输入的方式改变其含义,像宣布图像“真实”或视频“准确”这样简单的任务变得异常困难。这种模糊可以追溯到人工智能驱动的“深度伪造技术(deepfake technologies)”的使用,这种技术可以使网络罪犯绕过生物特征安全保护,实施合成身份欺诈,参与网络欺凌和勒索,以及夸大或伪造个人成就。
当人们更容易受到图像的影响,而不太可能对图像进行批判性评估时,数字呈现的图像或视频令人信服地描绘出了人们做过或说过他们其实从未做过的事情,这是一种严重的网络安全威胁。我们中那些试图阻止这一趋势的人发现自己处于一场势均力敌的战斗中,因为我们的对手共享同一个“工具包”,即为娱乐、广告和社交媒体行业的媒体制作创造的基于人工智能的尖端技术。
与虚假或误导性媒体作斗争似乎已成为一种猫捉老鼠的游戏,聪明的对手几乎一经推出检测策略就立即进行反击。到目前为止,大多数研究人员都专注于确定图像内容是真是假的方法。这是一项重要的工作,必须继续下去,但由于利润动机加大了赌注——事实上,潜在的攻击者现在可以通过黑暗网络订购“DaaS”(DeepFakes as Service)——显然是时候发起攻势了。
反击:数字水印和区块链
那么,我们如何反击呢?
理想情况下,使用的工具使更改图像和逃避检测变得极其困难(甚至不可能)。
但是,如果我们能够设计出防止篡改的工具,并在图像创建过程中建立检测能力,那会怎么样呢?如果我们可以“防伪”数字资产,例如,通过创建隐藏的数字tripwires,会怎么样?两年前,我们与纽约大学坦顿分校的同事Pawel Korus博士合作,设计了一种摄像机管道,用经过训练的神经网络取代传统的照片显影管道,以联合优化高保真照片渲染和可靠的来源分析。由此产生的伪影与数字水印相似,即在数字媒体中嵌入代码以验证其真实性的过程,但如果一方试图改变图像,水印将被破坏。
今天,我们正在进一步发展这项技术,在图像首次生成时插入数字指纹,为测试媒体真实性提供了额外的手段。指纹是动态的,可以根据秘密密钥和照片的身份验证上下文(例如位置或时间戳信息)动态生成,这些信息通常保存在数据库中。
本质上,数字指纹提高了经典传感器指纹的鲁棒性、性能和安全保密性。具体地说,可以训练系统在复杂的后处理方法下工作,并且对于某些类型的内容更可靠。
在这项技术商业化之前,还需要做更多的工作。一方面,安全性能的提高可能以图像失真为代价。然而,这种失真往往被图像内容很好地掩盖。重要的是,初步测试已经证实,可能为下一代相机提供动力的神经成像管道可以进行训练,以优化高保真照片的冲洗和可靠的来源分析。
我们希望,这些发现将鼓励进一步研究,以建立更可靠的成像管道,并具有明确的来源保证特性。
另一个正在制造一定数量轰动的主动预防策略是使用区块链提供强大的可验证真实性。区块链的一个应用是在链接到相关密钥的网站上贴上戳记——只要这些网站中的一个被附加到未来的故事或引用中,伴随的密钥就会被跟踪,从而使区块链能够提供对相关媒体真实性的证明。
随着对另一种区块链技术——不可替代代币——的热情日益高涨,我们可以预见基于NFT当前使用情况的出处分析,其主要目的是建立数字所有权,包括“数字原件”的认证。区块链技术的这种应用可能在某种意义上成为检测和预防策略的最佳组合。
拒绝谎言的必要性
虚假媒体的扩散构成了独特的安全风险。
想想历史上个人照片或新闻片段所扮演的重要角色——比如,尼尔·阿姆斯特朗(Neil Armstrong)和巴斯·奥尔德林(Buzz Aldrin)在月球上行走的照片如何让地球上的美国人充满自豪感,并成为一代潜在创新者的灵感催化剂;或者圣雄甘地坐在纺车旁的标志性照片如何成为了这位全球领袖的决定性肖像。
如果相信你的所见所闻的观念受到攻击,我们这个社会又该如何运作呢?
我们必须恢复相信自己眼睛和耳朵的判断能力。
关于作者
Nasir Memon是IEEE Fellow、纽约大学坦顿工程学院计算机科学与工程教授、学术和学生事务副院长。Memon是纽约大学网络安全中心(位于纽约)和纽约大学阿布扎比分校的联合创始人;他还是OSIRIS实验室、CSAW、纽约大学坦顿桥项目和纽约大学网络研究员项目的创始人。
Memon曾在多家期刊的编辑委员会任职,并担任IEEE会刊《信息取证和安全》的主编。
https://t.cn/A6MpCILg
英诺留学winnerielts3目前GMAT有写作部分,托福虽然看起来会难很多,但是还是会一帆风顺,对于GRE保分和GMAT家庭版网考和线下没区别。雅思indicator和线下不一样,会有多种可靠方式学校接受的话再好不过了,多邻国duolingo在于考试方便加上出结果很快更是学生申请的超高性价比,其他考试线下都有相关可以来看看
留守儿童的独特视角
不止所看 还有所想
看完后还有家长和我的感慨吧
每篇写话都有标准答案
这篇是想突出主动认错
一千个读者就有一千个哈姆雷特
那为什么不能五十个学生就有五十篇写话
禁锢思维比当年裹小脚更具有嘲讽意味吧
出卷人“发挥想象”
改卷人“你想太多了”
仿佛一个彻彻底底的渣男渣女
开始“我爱你,你可以千千万万次向我确认。”
后来“你爱我吗?”“你有病吧!”
价值观的频繁冲撞
也是工作苦恼之一
教育学中认为动物不存在教育
“教育”一词的含义中主体是人
区别就在于认知、思维、情感态度
可现实又一次背离了初衷
或许可以重命名为“改造”
不止所看 还有所想
看完后还有家长和我的感慨吧
每篇写话都有标准答案
这篇是想突出主动认错
一千个读者就有一千个哈姆雷特
那为什么不能五十个学生就有五十篇写话
禁锢思维比当年裹小脚更具有嘲讽意味吧
出卷人“发挥想象”
改卷人“你想太多了”
仿佛一个彻彻底底的渣男渣女
开始“我爱你,你可以千千万万次向我确认。”
后来“你爱我吗?”“你有病吧!”
价值观的频繁冲撞
也是工作苦恼之一
教育学中认为动物不存在教育
“教育”一词的含义中主体是人
区别就在于认知、思维、情感态度
可现实又一次背离了初衷
或许可以重命名为“改造”
✋热门推荐