纽约州议会周四通过RAISE Act法案，目标是防止OpenAI、Google和Anthropic等先进先进AI模型导致灾难，包括超过100人死伤或超过10亿美元损失。法案要求AI实验室发布详细安全报告，并在发生安全事故时进行通报。

法案共同发起人纽约州参议员Andrew Gounardes表示：“考虑到这项技术发展速度，设立防护栏的时间窗口正在快速缩小。最了解AI的人士表示这些风险极可能发生，这令人警惕。”法案获得诺贝尔奖得主Geoffrey Hinton和AI研究先驱Yoshua Bengio等安全倡导者支持。

RAISE Act透明度要求适用于AI模型训练使用超过1亿美元计算资源的公司，并向纽约居民提供的服务。这个门槛下目前仍未有任何可用的AI模型达到，但未来可用作针对性约束各科技巨头，包括OpenAI、Google、DeepSeek甚至阿里巴巴等。

与加州被否决的SB 1047法案相比，RAISE Act经过设计以解决先前AI安全法案的批评。法案不要求AI模型开发者在模型中包含“终止开关”，也不会让对先进AI模型进行后训练的公司为严重危害承担责任。参与法案制定的Encode副总裁Nathan Calvin表示这些设计旨在避免阻碍初创企业或学术研究者的创新。

法案要求AI实验室发布全面的安全和安全报告，并在发生安全事故时进行通报，例如AI模型出现令人担忧的行为或恶意行为者窃取AI模型。如果科技公司未能达到这些标准，RAISE Act授权纽约州总检察长实施最高3,000万美元的民事罚款。

科技企业方面则对法案强烈反对。Andreessen Horowitz合伙人Anjney Midha在X平台发文称：“纽约RAISE Act是另一项愚蠢的州级AI法案，只会在我们的对手领先时伤害美国。”

来源：TechCrunch