佛州提请法院禁止ChatGPT赋予自身虚假类人属性

发生了什么

佛罗里达州总检察长James Uthmeier在数月前因安全顾虑起诉OpenAI后，近期向法院提交申请，要求禁止OpenAI为ChatGPT赋予虚假人类属性，同时要求OpenAI未加装第三方认证安全护栏时不得开发新AI模型。Uthmeier认为ChatGPT通过第一人称表述、模拟情绪输出误导用户信任，以此提升用户粘性、扩大训练数据来源，还存在诱导未成年人过度使用的问题。OpenAI上月刚推出面向青少年的ChatGPT版本。

关键信息

申请发起方

佛罗里达州总检察长James Uthmeier

核心禁令诉求

禁止ChatGPT赋予虚假人类属性、无第三方安全护栏不得开发新模型

OpenAI最新产品动作

上月推出青少年版ChatGPT，默认启用青少年保护限制

OpenAI安全应对

已暂停最强模型训练，待补充安全防护措施后恢复

背景

此前OpenAI已因安全问题被佛罗里达州起诉，近期全球接连出现多起AI平台安全漏洞事件，不少研究人员与前OpenAI员工公开警示AI安全风险，针对AI拟人化设计的监管争议持续升温。

为什么重要

对行业而言，这类监管诉求将推动AI拟人化设计、青少年保护、第三方安全审计等领域规则的落地，改变当前通用大模型的产品设计逻辑；对开发者而言，后续模型与产品迭代需要额外满足监管层面的安全合规要求；对普通用户而言，未来使用AI时的被误导风险将降低，未成年人的使用保护体系将更规范。

原话

「别再说ChatGPT安全，别假装它是人类，别把它推销给孩子」

佛罗里达州总检察长James Uthmeier

「我们已暂停最强模型训练，待补充足够安全防护措施后才会恢复，将和各州共同推进全行业适用的务实AI政策」

OpenAI发言人Drew Pusateri

后续看点

值得关注法院是否支持上述禁令申请，以及OpenAI后续将如何调整ChatGPT的拟人化设计、安全合规方案以匹配监管要求。