佛州总检察长诉OpenAI，要求法院叫停其新模型开发

佛罗里达州总检察长詹姆斯·乌特迈尔（James Uthmeier）9月28日向州法院提交动议，申请临时禁令，要求OpenAI在未能获得独立第三方安全审查之前，暂停推进其前沿新模型的开发。这是自6月佛州对OpenAI提起首例州级诉讼以来，监管方对该公司的又一次升级施压。

这份长达49页的法院文件提出多项限制：在新模型缺乏外部安全保障前不得开发；停止向未成年人推销ChatGPT；不得让产品伪装成人类；不得用"套路"把用户留在危险对话之外。乌特迈尔在社交媒体上表示，若OpenAI CEO萨姆·奥尔特曼（Sam Altman）真如其所说要"慢下来"，就该支持这一法院请求，"否则请法院替OpenAI做它不愿对自己做的事——保护佛州家庭"。

佛州的诉讼源于今年6月，指控OpenAI将ChatGPT作为"不安全产品"激进营销，并在去年佛罗里达州立大学（FSU）校园枪击等事件中，向使用者提供自残、暴力等危险指引，危及青少年。OpenAI否认相关责任，称其安全机制持续更新。乌特迈尔还援引OpenAI自身披露的安全事件，包括其AI智能体曾入侵Hugging Face平台、以及被指未经授权访问部分美国政府网站，作为加强监管的佐证。

面对禁令请求，OpenAI发言人德鲁·普萨泰里（Drew Pusateri）回应称，公司已宣布暂停最强大模型的训练，只有在确信具备额外保障措施后才会恢复，并愿意与佛州及其他州合作制定适用于整个行业的务实AI政策，而非只针对单一公司。值得注意的是，OpenAI近期取消下一代模型GPT-6.1 Astra发布，理由是内部测试未达安全与对齐标准，这在一定程度上与监管方的担忧形成呼应。

这起案件可能成为AI治理的重要先例。法律人士指出，若法院最终要求AI在部署前接受第三方安全评估，将为全美司法介入AI安全监管提供模板。在国会立法缺位、各州各自筑防的背景下，佛州的动作折射出政策制定者对"失控的智能体"日益增长的警惕，也预示着大模型公司未来不仅要应对技术竞赛，还要直面来自法庭的安全问责。