Google 研究人员在预印本平台 arXiv 上发表论文，指出通过在互联网上发布虚假内容，绝大多数生成式 AI 正在模糊真实性和欺骗性之间的界限。深度伪造和伪造证据是目前最盛行的滥用方式，其中大多数都有明显意图，旨在影响公众舆论、进行诈骗或欺诈活动。生成式 AI 日益先进，可随时使用，对使用者的技术要求非常低，它正在扭曲人们对社会政治现实或科学共识的集体理解。生成式 AI 非常擅长于大量制作虚假内容，这其实是它的特性而不是 bug，互联网正日益充斥着 AI 的垃圾。研究人员表示这种状况将考验人们辨别真假的能力。随着生成式 AI 内容的无处不在，部分人可能会将对其不利的证据解释为 AI 生成，转移举证责任。