加州又有重磅新规落地!
从本周开始,在加州使用的各种大型人工智能(AI)公司必须开始为其生成的素材添加“水印”,好让大家能够清楚分辨哪些是虚假内容、哪些是真实内容。
这项法律被称为《加州AI透明法案》,于2024年签署成为法律。
它的首个迭代版本已于上周日正式生效!
现在,凡是生成图片、音频或视频的 AI 公司,都必须在内容中嵌入极难移除的“元数据”(metadata)。这样一来,用户就可以把怀疑的内容放入在线验证工具中,轻松判断其真伪。
这被誉为全美首部此类 AI 透明度法律。
“这是互联网内容呈现方式发生根本性变化的开始。绝大多数人可能不会在一夜之间看到戏剧性的变化,但在底层逻辑上,AI 生成的图片、视频和音频都会嵌入标识内容。你可以把它想象成一种‘营养成分表’。”
Josh Becker 补充说,过去几年他们一直在确保这项法案在“技术上具有可行性”,以便各大公司能够真正落地执行,并按规定履职。
各大 AI 巨头进度:
OpenAI:已经上线了名为 SynthID 的音视频水印技术,帮助人们识别内容是否由其 AI 工具生成。
Google & Adobe:均已遵守规定(但未具体透露 Google 的具体做法)。
根据新规要求,公司必须确保这些披露信息是永久性的,或者“极其难以移除”。
法案在最初起草时曾遭到一些反对。
批评者认为,水印很容易被篡改,并且无法预防高风险场景。
举例:如果有人接到诈骗电话,对方伪造了其家族成员的声音。在这种紧急关头,即使接听者心里知道可以通过一些步骤去验证电话那头是不是 AI,也会先产生情绪反应而非理性思考。
🗓️三年分步推进
这项法律将在未来两年内通过另外两次推行逐步全面落地:
2027年初(第二阶段):向用户标明所看到的图片是真人拍摄的原始素材,还是由计算机生成的图像。
2028年1月(第三阶段/最终阶段):允许用户自己在他们创作的 AI 照片和视频中创建属于自己的元数据。
本文由北美省钱快报小编整理,图片及信息版权属于sfgate。本文不代表本公众号立场,未经许可不得擅自转载,否则将追究责任。

等了6年,旧金山Jollibee终于开业!为1年免费炸鸡,粉丝通宵排队

被44英寸登山杖贯穿身体,美国男子不叫救援,徒步6小时下山就医...

痛心!32岁亚马逊工程师在 Lake Tahoe溺水身亡


求个赞
夜雨聆风