Deepfake技术：它是什么，如何识别以及如何保护自己

---

许多人工智能技术正被用于建设性和破坏性目的。像ChatGPT、Claude AI等技术帮助用户根据他们的查询生成内容。这是一个建设性的目的。Deepfake技术可以用于破坏性目的，因为用户可以创建虚假的图像、视频和文本内容，这些内容似乎来自可信的来源。

什么是Deepfake技术？

Deepfake技术用于制作虚假的图像、视频和录音。这项技术用于将一个人的图像或数据与另一个人的图像或数据进行交换。这项技术也可以用来创建原创内容，但实际上是假的。这项技术提供的信息是虚假的，但它似乎来自可信的来源。

Deepfake技术的历史

世界上每项技术都有其历史，Deepfake也不例外。Deepfake技术始于20世纪90年代，由于研究人员使用CGI。使用CGI的目的是创建真实的人类图像。2010年，机器学习中开发了大型数据集。这导致了Deepfake技术的进步。Ian Goodfellow和他的团队引入了一种名为生成对抗网络（GAN）的机器学习概念，它能够生成视频、图像和音频Deepfake。

Deepfake技术的持续发展

许多开源工具可供普通互联网用户用于娱乐。这些工具可以用来制作表情包，交换演员、运动员或任何其他名人的脸。这项技术在2017年变得更加先进，因此有必要采取一些措施来控制其发展，因为这可能导致这项技术被用于犯罪和恶意目的。

2018年的Deepfake技术

2018年，由于Deepfake技术快速发展，其使用成为主要关注点。许多科技平台为其组织制定了政策，以便适度使用Deepfake技术。这导致了Reality Defender的开发，这是一个非营利组织，后来转变为Deepfake检测公司。

2019年的Deepfake技术

2019年，许多国家开始采取立法措施，以便控制Deepfake技术，并规范通过这项技术开发的产品。许多公司正在整合可用于检测Deepfake的软件应用程序。

什么是视频Deepfake？

Deepfake视频是被使用Deepfake软件应用程序（其中可以使用人工智能）操纵过的媒体。Deepfake技术可以用来用另一个人的图像或声音替换一个人的图像或声音。这可能导致传播某人从未说过过的虚假信息。

如何制作Deepfake视频？

编码器和解码器网络用于开发Deepfake视频。编码器和解码器在GAN内工作，GAN的全称是生成对抗网络。编码器负责分析源内容。此内容包括对面部和其他特征的分析，这些特征将被传输到解码器网络。

解码器负责生成新内容，其中面部将被操纵，其他特征也会发生变化。此过程将持续到任务完美完成为止。

什么是语音克隆？

语音克隆是一个使用人工智能软件克隆人声的过程。在这个过程中，会分析人类的声音模式。分析后的声音以与原始声音相同的方式产生。

机器学习和人工智能算法用于克隆人声。在语音克隆过程中，使用包含大量目标语音数据的音频。这些数据的处理是基于音高、节奏、音调和语调进行的。使用人工智能生成新的声音。

语音克隆是如何工作的？

语音克隆的过程很复杂，需要遵循不同的步骤才能完成任务。这些步骤如下所述：

• **语音采样** - 这是语音克隆的第一步。在此步骤中，使用音频来收集要克隆其声音的人的数据。对该人的语音进行数小时的录音，以便可以捕获与声音相关的不同方面。这些方面包括节奏、语调等。
• **音频分析** - 这是一个对收集到的语音进行分析的过程。在分析中，语音被分解成不同的部分，这些部分被称为音素，它们是语言中使用的最小单位。还进行分析以了解语音的不同特征，包括速度、音调和音高。
• **特征提取** - 这是第三步，从中提取语音的所需特征。这些特征包括口音、节奏和语调。
• **AI模型训练** - AI模型根据从语音中提取的特征进行训练。这个AI模型实际上是一个神经网络。训练过程包括复制语音的不同特征。
• **微调** - 在AI模型训练完成后，会生成克隆的声音，然后对其进行微调，以便可以匹配克隆的声音和原始声音之间的所有内容。
• **输出生成** - 这是最后一步，其中生成克隆语音的输出。克隆的声音听起来与原始声音相似。

如何选择语音克隆工具？

有很多工具可以用于语音克隆。在选择工具之前，您必须考虑不同的方面。这些方面如下所述。

• **语音输出质量** - 克隆的声音必须与原始声音相似。市场上有很多工具能够产生与原始声音相似的克隆声音，很难区分它们。您应该寻找能够产生这种质量声音的工具。
• **使用便捷性** - 该工具应该易于使用，所有步骤都应该易于遵循，以便克隆的声音与原始声音无法区分。
• **不同语言的支持** - 有些情况下需要克隆多种语言的声音。用户应该寻找支持不同语言的克隆工具。
• **快速的结果** - 您必须考虑的另一个方面是输出的速度。
• **隐私和安全** - 您必须确保您在应用程序中使用的数据是安全的。如果您正在克隆您自己的声音，则尤其应采取此步骤。
• **工具的成本** - 您必须检查您使用的工具是否满足您的所有需求。您还必须根据克隆声音所需的功能来检查工具的成本。

语音克隆如何使用？

语音克隆可以用于好的目的，也可以用于坏的目的。以下是语音克隆的使用方法。

• **语音生物特征欺骗** - 语音被认为是生物特征的绝佳选择之一。坏人可以使用录制的语音进行表示攻击。坏人可以使用其他方法，例如计算机修改后的语音和合成语音。这些步骤用于欺骗生物特征识别系统，并使罪犯能够访问敏感信息。
• 网络钓鱼诈骗 − 语音克隆可用于实施网络钓鱼诈骗。这是一种诈骗类型，骗子利用克隆的语音让受害者误以为正在与可信赖的人交谈。此类诈骗也可能通过电子邮件进行，收件人会收到要求提供银行账户详细信息或信用卡信息的电子邮件。诈骗者也使用语音邮件和电话进行诈骗。
• 虚假信息传播 − 语音克隆可用于传播错误信息。经过操纵的视频和音频可能导致暴力或其他类型的伤害。
• 伪造证据 − 可以借助克隆语音创建伪造证据。这可能对刑事案件造成重大打击，因为作为证据提供的音频可能包含克隆语音。
• 敲诈勒索 − 可以使用克隆语音进行在线敲诈勒索。这种类型的语音可能会骚扰受害者，并强迫他们支付某些费用。
• 教育 − 语音克隆可用于教育人们。可以克隆历史人物的语音，用于讲故事和提供互动式教学。
• 有声读物 − 语音克隆可用于克隆名人的声音并将其用于有声读物。这些声音可能包括自传和其他与名人相关的內容。

什么是浅层伪造（Shallowfakes）？

浅层伪造可以用来制作图像、视频或音频的克隆。之所以被称为浅层伪造，是因为其质量远低于深度伪造。可以使用基本的编辑软件应用程序创建浅层伪造。与深度伪造相比，浅层伪造更容易创建，因此对社会的危害更大。可以轻松创建虚假的身份证明。此外，罪犯还可以创建虚假的支持性证据。

创建深度伪造（Deepfakes）使用哪些技术？

许多技术有助于轻松制作深度伪造。这里将讨论这些技术。

生成对抗网络（GAN）

GAN是一种神经网络技术，由生成器和鉴别器算法组成。这两种算法都用于创建深度伪造内容。

卷积神经网络（CNN）

CNN（卷积神经网络）负责分析视觉数据中存在的模式。CNN也用于人脸识别，并跟踪视频中人物的运动。

自动编码器

另一种用于创建深度伪造的神经网络技术是自动编码器。这些自动编码器的任务是查找目标的属性，其中可能包括身体动作、面部表情等等。自动编码器将这些属性应用于源数据。

自然语言处理

自然语言处理算法用于创建深度伪造音频。这些算法负责分析目标的属性，然后使用这些属性生成与原始音频相似的內容。

高性能计算

这是一种计算类型，可以帮助深度伪造获得高性能和必要的计算能力。

视频编辑软件

有很多视频编辑软件应用程序，但并非所有应用程序都支持人工智能。人工智能技术用于改进视频的输出。

为什么使用深度伪造？

深度伪造有许多积极和消极的用途，我们将在此处详细讨论。

艺术

深度伪造技术正在艺术领域中使用，用于借助艺术家作品创作新的音乐。

敲诈勒索和损害声誉

许多例子表明，深度伪造已被用于敲诈勒索或损害个人的声誉。制作视频和图像是为了从受害者那里获取钱财。色情制品和复仇色情是深度伪造的几种形式，被用于勒索钱财。

呼叫者响应服务

深度伪造用于响应呼叫者的请求，以便提供个性化的响应。深度伪造还用于提供呼叫转移和接待服务。

客户电话支持

深度伪造用于客户电话支持，以便可以使用虚假语音为客户提供简单的服务，例如告知银行账户余额或注册投诉。

娱乐

深度伪造正在娱乐行业中使用。操纵演员的语音被用于视频游戏和好莱坞电影中拍摄某些场景。在拍摄场景非常困难的情况下，电影中会使用深度伪造。恶搞内容也借助深度伪造制作。

虚假证据

这是深度伪造技术的负面用途。可以伪造虚假的图像或音频，用作证据。此证据可用于证明某人无罪或有罪。

低成本视频宣传活动

营销人员可以使用深度伪造来降低视频宣传活动的成本。这可以通过使用现有的数字录音来实现，并可以使用脚本对话制作新的内容。

欺诈

这是另一个负面方面，深度伪造可用于冒充个人，以便获取敏感数据，这些数据可用于实施网络犯罪。可以冒充公司高管，并访问银行账户或信用卡的凭据。

深度伪造在政治中的用途

深度伪造也可以在政治中使用，方法是操纵政治家的视频。使用可信赖的来源从人们那里获取数据，这些数据可能支持或反对某位政治家。

股市操纵

可以通过制作公司高管的深度伪造视频来操纵公司股价，这些视频可用于诽谤公司高管。有时，可以通过制作推出产品的深度伪造视频或高管做出的承诺来提高公司股价。

短信

可以复制用户的短信风格并将其用于实施欺诈。美国国土安全部发布的报告称，深度伪造技术未来可用于复制短信风格。

教育

深度伪造也正在教育行业中使用。正在开发人工智能导师，以帮助为学生提供个性化服务。

如何识别深度伪造？

深度伪造技术正用于积极和消极的目的。有很多方法可以检测深度伪造，我们将在此处详细讨论。

检查闪烁次数

视频中的图像会闪烁，您必须检测图像闪烁的次数。对于深度伪造，与原始视频相比，闪烁次数较少。深度伪造中也可能以不自然的方式进行闪烁。

面部和身体

通常，使用人的脸来创建深度伪造。可以通过检查面部表情或检测身体的动作和姿势来检测深度伪造。

视频长度

为了创建高质量的深度伪造，算法需要严格和规律的训练。与深度伪造视频相比，原始视频的长度通常更长。

视频中的声音

原始视频可能包含在深度伪造视频中找不到的声音。检查音频是否与图像匹配，这将有助于检测深度伪造视频。在深度伪造视频中很难再现舌头、口腔和牙齿。如果嘴巴内部模糊，则可能是伪造的图片或视频。

面部融合

面部交换是一种用于创建深度伪造图像的方法。在这种情况下，存在原始图像和伪造图像融合的点。这可能导致面部颜色或纹理的差异。

结论

深度伪造是一种技术，可以使用不同的软件应用程序和人工智能来制作虚假的视频、音频和图像。深度伪造可以用于积极和消极的方面。如果谈论积极方面，深度伪造可用于教育、拍摄电影中的困难场景等。如果谈论消极方面，深度伪造可用于敲诈勒索、发送虚假信息、网络犯罪等。可以通过仔细研究面部、检查图像中的融合、检查声音等等来检测深度伪造。