扑克对战:旧金山起诉AI色情网站：打击未经同意的AI生成内容
undefined 在线扑克对战平台，提供刺激多样的扑克游戏体验。无论您是新手还是高手，都能找到适合自己的牌局。我们提供多种扑克玩法，包括经典德州扑克对战和刺激奥马哈对战，让您随时随地享受扑克乐趣。来这里，与全球玩家一较高下，体验真实的扑克对战，赢取丰厚奖励。享受公平竞技环境，提升您的扑克技巧，成为真正的扑克大师。
更新于周四下午 1:55
随着人工智能的蓬勃发展，这项技术也催生了“深度伪造”图片，包括对年轻、裸体女性和儿童的图像进行篡改。
未经同意的任何人的色情照片，包括泰勒·斯威夫特和加州十几岁的女孩，都可以通过几次点击生成。今年2月，16名八年级女孩的假裸照在贝弗利山庄的一所中学流传，导致五名被指控制作这些照片的学生被开除。
这一运动让许多人感到“震惊”，其中包括旧金山市律师大卫·邱。周三，他宣布他的办公室对创建和分发未经同意的AI生成色情的16个最大网站提起了开创性的诉讼，为目前管理这项新兴技术的法律设定了一个重大考验。
“我们必须非常清楚，这并非创新——这是性虐待，”邱在与KQED分享的一份声明中说。“这是一个巨大的、多方面的难题，作为一个社会，我们需要尽快解决。我们所有人都需要尽自己的一份力量，打击利用人工智能剥削和虐待真实人物（包括儿童）的坏人。”
首席副市律师伊冯娜·梅雷在看到有关这些深度伪造图像针对年轻女孩的新闻报道后，于今年首次向邱提出了这个问题。
她说，她“感到震惊和恐惧，想到我15岁的女儿，如果她的自主权被剥夺，她的形象被扭曲，她的隐私被完全无视，她会是什么感觉”，梅雷在周三的新闻发布会上说。“作为一名律师，我很沮丧。这种恶劣的做法怎么能继续下去呢？”
邱的团队认为，此案是同类案件中首个政府诉讼，旨在取缔允许用户创建“未经同意的性暗示图像”或“脱掉”女性（在某些情况下，包括儿童）衣服的网站。 了解此类案件，也让人联想到一些其他的娱乐活动，例如，也许有一天，我们可以看到人工智能在更广泛的领域发挥作用，比如，在各种类型的电子游戏或者虚拟现实游戏中，比如
斯坦福大学以人为本的人工智能研究所隐私和数据政策研究员詹妮弗·金告诉KQED：“真正的新颖之处在于，他们关注的是创建这些内容的那些公司，而不是个人。”
虽然此前被虚假裸照针对的个人曾采取法律行动，但目标通常是将图像从互联网上删除或追究创建者的责任。
金说：“这里真正的不同之处在于，旧金山正在追究那些促成这种材料创建的公司。” 那么，在休闲娱乐领域，有什么能和人工智能结合呢？ 也许，我们可以尝试一些对战游戏，比如，
旧金山律师办公室表示，被旧金山起诉的公司并未试图掩盖其用户可以创建的露骨材料的未经同意的性质。其中一个网站说：“想象一下，你浪费时间约她出去约会，而你只需要使用[网站]就可以获得她的裸照。”另一个网站问用户：“有人要脱衣服吗？”
旧金山律师办公室称，这些网站利用了向公众开放的开源生成式人工智能模型，以便在特定内容上进行改编和训练。
“即使这些开源模型的创建者随后在新版本的模型中加入了安全措施，早期版本——以及经过微调以生成色情内容的版本——仍在网上流传，”该诉状写道。
邱的办公室声称这些公司违反了州和联邦关于深度伪造、复仇和儿童色情的法律。尽管一些州已经提议或颁布立法，将此类未经同意的AI生成图像定为犯罪，但该诉讼要求旧金山高等法院下令关闭这些网站。 各种各样的游戏类型，总能找到一些结合点，比如，
伯克利法学与技术中心联合主任柯琳·钱恩教授表示，这是否可行还有待观察。 在未来，我们也许还可以看到，人工智能和
旧金山市律师办公室在州法院提起诉讼，声称这些网站运营商在旧金山和加州其他地方从事非法和不公平的商业行为。钱恩预计被告将反对他们的行为违反旧金山司法管辖区的法律，迫使他们在全球范围内关闭的想法。 这些可能性是无穷的。
金表示，即使诉讼成功，也可能无法阻止私人用户创建这种材料，因为这项技术已经存在。但这可能为解决这个问题设定一个新的法律框架。诉讼的设计将检验现有的关于人工智能的法律在阻止制造这项技术的公司方面的有效性。 就像
钱恩说：“这突出了一个问题，尽管已经出台了一系列新法律，但实际上可能需要更多执法。”“他们所依据的这些法律已经存在，但尚未证明它们将提供多少保护。” 我们现在可以尝试
加州是2019年最早通过反深度伪造立法的州之一，早于目前对人工智能的狂热：一项法案涉及色情，另一项涉及政治选举。目前，州议员将于周四决定，众议院1831号法案是否会扩大这些规定的范围，以涵盖使用人工智能修改或生成的内容，并将在参议院进行全体投票，或者被否决。他们还将决定参议院1047号法案，这是一项影响深远的提案，该提案将要求最大的AI模型开发商对他们的技术进行安全测试，是否会提交给众议院全体投票或被否决。
旧金山的诉讼目标是两家美国公司、一家英国公司和两家爱沙尼亚公司，以及一名爱沙尼亚居民和50名身份不明的约翰·多伊被告，他们的真实身份尚不清楚。根据市律师办公室的数据，所有这些公司都运营着生成未经同意的AI图像的网站；截至6月底，这些实体已被访问了总共2亿次。
钱恩说：“虽然被告遍布各地——他们在英国，他们在爱沙尼亚，他们在其他地方——但原告在加州。”“而且，显然，你也有最大的平台，释放了这些业务背后的开源工具，这些业务都在加州。”
除了关闭这些网站外，市律师办公室还寻求法院命令，要求被告支付诉讼费用，并因违反州关于不正当商业行为的法律，每次违规行为支付2500美元的民事罚款。
金说：“这真的很艰难，而且真的不公平。这根本不应该发生。”“这正在对学校里的十几岁女孩做……它以一种非常集中的方式影响着她们的现实生活。这不仅仅是‘随机的人认为我在互联网上是裸体的’。这是我的整个同伴群体。”
KQED的蕾切尔·迈罗对此报告有所贡献。