最近在关注AI监管的朋友,可能会问:美国联邦迟迟不出手,地方上到底有没有人在管前沿AI?先说结论:有,纽约州刚刚在纽约州立大学宾汉姆顿分校(SUNY Binghamton)成立了“纽约AI责任与研究中心”(NYCAIRR),专门对前沿AI系统做独立测试;同时,前沿AI开发商要在2027年1月1日前向州政府注册,重大安全事件要在72小时内上报。
小编把官方公布的信息捋了一遍,下面用最短的篇幅给您讲清楚:这个中心是什么、谁在出钱出人、开发商具体要做什么。
一句话看懂:NYCAIRR 是干什么的
所谓“前沿AI”,简单讲就是目前能力最强、风险也最受关注的那一批大模型。NYCAIRR 的任务有三块:推进AI科学研究、评估先进模型的安全性、培养新一代AI安全人才。州长凯西·霍楚尔(Kathy Hochul)表示,这是全美首个由州一级推动的此类机构。
算力方面,中心会用到 Empire AI——一个总额5亿美元、公私合作的AI公益研究计划。霍楚尔的原话大意是:联邦政府不作为,纽约要自己把权威研究者和算力结合起来,独立测试强大的AI系统,弄清风险,再用来保护纽约居民。
钱和人从哪来
| 项目 | 内容 |
|---|---|
| 首次宣布时间 | 今年1月 |
| 民间捐赠 | 3000万美元,由宾汉姆顿校友、彭博社联合创始人汤姆·塞库达(Tom Secunda)牵头 |
| SUNY 初始研究投入 | 2500万美元 |
| 运营经费 | 由纽约州提供 |
| 临时联席主任 | 康奈尔科技校区的格雷格·莫里塞特(Greg Morrisett)、哥伦比亚大学的珍妮特·温(Jeannette Wing) |
| 研究网络 | 来自全州高校和科研机构的80多位科学家,仍在各自单位工作 |
两位联席主任都是计算机科学和网络安全领域的老手,长期研究复杂系统怎么运转、在哪儿出问题、怎样让它更安全。
中心具体会做哪些研究
NYCAIRR 会评估现有AI系统的安全性,并研发评估更强模型所需的工具、指标和标准。这些证据会交给官员,作为制定AI安全与问责政策的依据。研究范围还包括AI在医疗、科学发现和关键基础设施中的负责任使用。
眼下的第一件事是全国范围招人,方向包括:
- 形式化方法与验证
- 可解释性与对齐(让模型的行为符合人类意图)
- 硬件安全与隐私
- 智能体(Agent)系统、数学极限、科学AI与生物安全
开发商要做什么:注册、公开、上报
这部分对做AI产品的团队最实用。纽约州的“数字创新、治理、诚信与信任办公室”(DIGIT)已经上线了线上注册入口,大型前沿AI开发商需要在2027年1月1日前完成注册。
- 在2027年1月1日前,到 DIGIT 的门户完成注册(大型前沿开发商)。
- 从明年1月起,在自家网站上公开安全框架。
- 发布模型透明度报告。
- 发生重大安全事件,72小时内上报,这个时限已写入法律。
要注意的是,《RAISE法案》并不只管最大的那几家。凡是在纽约州运营的前沿开发商,都要遵守安全与透明要求,大型开发商另有额外义务。DIGIT 也专门做了网站说明这些要求。州金融服务厅代理厅长凯特琳·阿斯罗(Kaitlin Asrow)表示,金融服务厅将通过 DIGIT 牵头落实该法案,并与中心紧密合作。
州政府可以向中心要专业意见、评估和证据,用于政策制定和监督;中心也会配合 DIGIT 审查开发商公布的安全框架,并提出加强要求的建议。霍楚尔还说,未来几个月会继续探索在《RAISE法案》基础上进一步完善州内AI安全法规。
小编的看法
这件事的意义不在于“又多了个研究机构”,而在于它把“独立测试”和“强制披露”两条线接在了一起:研究中心出证据,DIGIT 管合规,政府拿证据做政策。对于想进入美国市场的AI公司,建议尽早对照 DIGIT 的要求,把安全框架和事件上报流程理一遍。以上均来自官方公布的信息,具体条款请以纽约州政府和 DIGIT 网站的最新说明为准。
常见问题(FAQ)
NYCAIRR 是政府部门吗?
不是。它是设在宾汉姆顿分校的研究中心,经费来自民间捐赠、SUNY 和纽约州,负责研究与测试;监管落实由 DIGIT 办公室承担。
小公司也要遵守《RAISE法案》吗?
所有在纽约运营的前沿开发商都适用基本的安全与透明要求,大型开发商还有额外义务。是否属于“前沿开发商”,请以官方定义为准。
重大安全事件多久要上报?
72小时,这一时限已写入法律。
注册截止日期是什么时候?
大型前沿AI开发商需在2027年1月1日前通过 DIGIT 线上门户注册,之后还需在官网公布安全框架。
Empire AI 是什么?
一个5亿美元的公私合作计划,为公益性质的AI研究提供算力,NYCAIRR 的计算资源主要来自这里。