纽约州议会通过了RAISE法案，旨在防范AI灾难，要求OpenAI、谷歌和Anthropic等AI模型开发者采取措施，避免造成重大伤亡或经济损失的风险。该法案是AI安全领域的一次重要进展，获得了多位知名学者的支持。RAISE法案要求头部AI实验室公开其前沿模型的安全措施，并在发生异常事件时及时上报。违规者可能面临高达3000万美元的罚款。该法案的设计更注重谨慎，避免对初创企业或学术研究造成过度影响，目标是规范训练成本超过1亿美元，且向纽约州用户开放模型的企业。

🚨 RAISE 法案的核心在于预防 AI 灾难，要求 AI 模型开发者采取措施，避免造成百人以上伤亡或超过 10 亿美元损失的风险。该法案由纽约州议会通过，是 AI 安全领域的一次重要立法。

📢 法案要求全球头部 AI 实验室披露其前沿模型的安全和保障措施，并在发生异常或被盗事件时及时上报。这一信息公开的规定旨在提高 AI 模型的透明度和可控性。

💰 若企业未按规定执行，纽约州总检察长有权处以最高 3000 万美元的罚款。该罚款机制旨在加强对 AI 企业的约束力，促使其遵守安全规定。

💡 RAISE 法案的设计更注重谨慎，避免打压初创企业或学术研究者。法规适用于训练耗资超过 1 亿美元、并向纽约州用户开放模型的企业，旨在对超大规模公司设限。

IT之家 6 月 14 日消息，当地时间周四，纽约州议会通过一项旨在防范 AI 灾难的法案，要求 OpenAI、谷歌和 Anthropic 等前沿 AI 模型的开发者，必须避免出现造成百人以上伤亡或超过 10 亿美元损失的风险。

该法案名为 RAISE 法案，标志着 AI 安全阵营的一次胜利，更有杰弗里・辛顿和约书亚・本吉奥等重量级学者为法案背书。若最终成为法律，RAISE 将开创全美首部强制前沿 AI 实验室公开信息的法规。

RAISE 法案与加州曾被否决的 SB 1047 法案存在相似内容，但纽约州参议员 Andrew Gounardes 表示，RAISE 的设计更谨慎，避免打压初创企业或学术研究者，而这是 SB 1047 饱受批评的一点。“技术发展太快，我们设立防护机制的时间不多了。许多顶尖专家都指出 AI 风险极高…… 这不得不引起警觉。”

法案现已送交纽约州长 Kathy Hochul，等待其签署、修改或否决。

一旦生效，RAISE 法案将要求全球头部 AI 实验室必须披露其前沿模型的安全和保障措施，并在发生异常或被盗事件时及时上报。若企业未按规定执行，纽约州总检察长有权处以最高 3000 万美元（IT之家注：现汇率约合 2.16 亿元人民币）罚款。

RAISE 法案的目标是对超大规模公司设限，无论总部在加州还是中国。法规适用于训练耗资超过 1 亿美元、并向纽约州用户开放模型的企业。

Encode 高管 Nathan Calvin 表示，RAISE 法案更注重回应外界质疑。例如，它不要求设“紧急终止开关”，也不追责后期训练模型的公司。