在人工智能(AI)技术快速发展的背景下,深度伪造(Deepfake)技术因其能够生成逼真的图像、音频和视频而备受关注。然而,这种技术的滥用也引发了严重的伦理和法律问题。为此,全球知名代码托管平台GitHub近日发起了一项重要讨论,旨在探讨是否需要在平台上禁止开发未经同意的亲密图像和虚假信息合成、操纵媒体的工具。
GitHub表示,尽管深度伪造技术为娱乐、电影制作和广告等行业带来了创新,但其滥用也带来了极大的风险。近年来,利用深度伪造技术制作的虚假视频和图像在社交媒体上广泛传播,不仅侵犯了个人隐私,还损害了公众信任。特别是未经同意制作亲密图像的行为,已经引起了美国多个州和联邦政府的关注。
GitHub此次拟议的更改旨在通过限制平台上相关工具的开发,来减少深度伪造技术的滥用。然而,GitHub也意识到,一刀切地禁止所有相关技术并不现实,因为其中许多技术也具有重要的研究价值。因此,GitHub希望能够在保护用户隐私和鼓励有价值的研究之间找到平衡。
根据GitHub的初步设想,这项新规定将允许开发用于研究目的的深度伪造技术,但将禁止开发用于滥用目的的工具。GitHub将积极打击滥用行为,并对涉及的技术进行区分。此外,GitHub还计划建立一个反馈机制,以便开发者们能够对该提议提出意见和建议。
GitHub表示,这项拟议的新规可能需要一段时间来制定和完善。然而,一旦正式发布,GitHub将积极采取措施打击滥用行为,并保护用户的隐私和权益。同时,GitHub也将继续支持有价值的研究工作,并为开发者们提供一个安全、可靠的代码托管平台。
此次讨论截止日期为5月30日,GitHub希望开发者们能够积极参与并反馈意见。随着深度伪造技术的不断发展,如何平衡其创新和滥用之间的关系已成为全球关注的焦点。GitHub此次的举措无疑将为该领域的未来发展提供有益的参考。