西班牙政府近日通过一项新法案，针对企业未适当标示人工智能（AI）生成内容的情况，将施以高额罚款，希望能减少“深度伪造”技术的滥用。该法案参考欧盟《人工智能法案》制定，对于被认定为高风险的AI系统，要求企业遵守更严格的透明度规范。西班牙数字化转型部长Oscar Lopez指出，人工智能虽然可改善生活，却也可能成为传播虚假资讯及破坏民主的工具，因此政府必须加强监管，以防止技术遭恶意利用。
西班牙成为欧盟内首批落实AI监管规则的国家之一，相较美国主要依赖自愿性遵守及州政府法规，欧盟的监管措施被视为更具约束力。Lopez强调，AI生成的“深度伪造”内容，例如被操控的视频、照片及音频，可能影响公众舆论，甚至对个人造成严重伤害，因此法案的推动势在必行。
根据该法案，未依规定标示AI生成内容的企业将被视为严重违规，罚款可高达3,500万欧元，或企业全球年营业额的7%，以较高者为准。此外，法案也明令禁止AI利用潜意识技术操控弱势群体，例如聊天机器人煽动赌博成瘾者继续投注，或玩具诱导儿童进行危险挑战等行为。
另外，法案也要求防范AI利用生物识别技术对个人进行分类，并基于其行为或个人特征评估福利资格，或判断其犯罪风险。然而，基于国家安全考量，政府仍保留在公共场所使用即时生物识别监控的权力。西班牙政府将成立人工智能监管机构AESIA，负责执行新规则。然而，若涉及数据隐私、犯罪调查、选举活动、信用评级、保险及资本市场等领域，则将由相应的监管机构负责监察。
来源:aibase
