2026年10月28日，纽约州州长凯西·霍楚签署了限制不安全 AI 伴侣功能的新法，禁止相关服务向未成年人提供法律列明的危险功能；新法定于 2027年1月1日生效，主要影响向纽约州用户提供 AI 伴侣服务的运营者，也值得有未成年子女的加拿大华人家庭及跨境 AI 产品开发者提前关注。
源1 源2 源3
对加拿大读者来说，最实际的变化是：如果孩子使用能持续对话、模拟陪伴关系的 AI 产品，家长需要关注的不只是聊天内容，还包括产品是否把自己包装成人、恋人或权威人物，是否利用孩子的情绪促使其持续使用，以及是否鼓励孩子隐瞒聊天、伤害自己或回避现实中的帮助。
一、法律具体禁止哪些 AI 伴侣行为？
纽约州参议院和众议院先后通过、并由州长签署的 S9051 法案，将相关限制写入州《一般商业法》第48条。法律针对的是符合定义的生成式 AI 系统及其运营者，重点是面向用户的设计功能与输出行为。法条的结构是：除非用户不是运营者实际知情的未成年人，并且运营者已用法律允许的年龄判断方法确认这一点，否则运营者不得向纽约州用户提供下列不安全功能。源2
法条列出的不安全功能主要包括以下类别：
-
伪装成人或有真实情感的角色。 输出暗示 AI 是真实或虚构的、具有人类身份或生命状态的个体，或者能够体验人类情绪。
-
制造私人关系或权威关系。 暗示 AI 与用户存在个人关系、专业关系，或扮演具有权威地位的人物。
-
以个人意见或情绪诉求影响用户。 将输出包装成 AI 自己的个人意见或情感呼吁；通过奉承、迎合等方式讨好用户；在用户没有提出相关问题时，主动提出超出直接回应所需的情绪问题或情绪内容。
-
利用过往的健康或个人信息。 使用超过12小时前或来自此前对话会话中获取的用户心理健康、身体健康、福祉或个人事务信息。法条原文限制的是使用此类信息的行为。
-
欺骗未成年人有关 AI 的真实性质。 让未成年人误以为系统具备真实意识、生命或情感，或以其他方式造成法条所指的欺骗。
-
鼓励危险或有害行为。 输出认可、推动或协助自杀、自伤、饮食失调、非法使用毒品或酒精，以及药物或酒精滥用的内容。
-
诱导保密、孤立或拒绝求助。 鼓励孩子对 AI 互动保密、自我孤立，或不向持牌专业人士及适当成年人寻求帮助。
-
为了增加使用时间而突破安全限制。 通过优化用户参与度的输出，凌驾于 AI 伴侣自身的安全防护措施之上。
-
生成或协助性露骨行为及儿童性虐待材料。 法律涵盖描述、促进或协助性露骨行为或儿童性虐待材料的相关输出。
源2
这些限制覆盖的不只是明显带有危险指令的聊天，也涉及关系模拟、情绪操纵和产品留存机制。具体功能是否落入法律定义，仍要结合完整法条及后续监管规则判断。
二、哪些人和产品会受到影响？
法律所称的未成年人，是指未满18岁的人。适用对象包括在纽约州使用相关 AI 伴侣的用户，以及向这些用户提供服务的运营者。法条明确规定，如果用户实际身处纽约州以外，相关行为在该条款下视为完全发生在纽约州以外。源2
这意味着，加拿大居民不能仅因产品是美国公司开发的，就认定自己使用时一定受到纽约州这项法律约束。反过来，面向纽约州用户运营 AI 伴侣的公司，也不能仅凭企业注册地在州外，就忽略法律适用问题。
法律还设有特定用途的例外，主要包括：
-
严格限定用途的客服系统： 仅用于客服、商业服务或产品信息、账户信息等，而且系统不能回答指定用途以外的话题。
-
效率、研究或技术辅助系统： 仅用于规定的效率提升、研究或技术协助，并且系统不能回应指定用途以外的话题。
-
企业内部系统： 企业用于内部目的或提高员工生产力的系统，属于法条列明的例外范围。
源2
因此，企业内部的 AI 助手与面向公众、以情感陪伴为主要功能的聊天机器人，可能受到不同处理。是否符合例外，要看系统的实际用途及功能限制，不能只凭产品名称或营销描述判断。
三、从哪天开始？目前法律处于什么阶段？
- 2026年10月28日：州长签署：纽约州参议院立法记录显示，S9051 已签署成为第368章法律。源1
- 2027年1月1日：正式生效：签署后的 S9051-B 法案文本明确规定了该生效日期。源2
- 监管规则：继续关注：法律授权纽约州总检察长制定实施和执法所需的规则。具体执行细节应以正式发布的法规为准。源2
截至2026年10月29日，这项法律已经签署，但距离正式生效还有时间。企业可以立即开始检查产品设计、年龄识别机制和安全测试；家长也可以提前了解孩子使用的产品及其隐私设置。
四、违反规定会有什么后果？
纽约州总检察长可以依法提起诉讼或特别程序，申请制止违法行为、要求返还违法取得的款项或财产、追缴违法所得、要求赔偿损失，并申请销毁违法取得的数据及使用这些数据训练的算法等救济。法条还规定，法院可以判处每项违法行为最高25,000美元的民事罚款。源2
25,000美元是法定上限，实际金额取决于违法事实、执法程序及法院裁定。
此外，在总检察长的年龄判断规则生效前，运营者须依据合理的年龄判断方法确定用户身份，且须提供不止一种方法，其中至少一种不依赖政府签发的身份证件或允许用户保持匿名；仅凭用户自报，只有在用户自报为未成年人时才可采信。法律还对年龄判断过程中收集的信息施加用途限制：这些信息原则上只能用于年龄判断，并须在完成一次判断尝试后立即删除，适用法律另有要求的情况除外。源2
年龄识别因此也涉及隐私保护。企业在设计验证机制时，应同时核对年龄判断要求与数据收集、使用和删除规则。
五、加拿大华人家庭和 AI 创业者现在该做什么？
如果家里有未成年孩子，可以先做以下几件事：
-
检查孩子正在使用哪些 AI 陪伴、角色扮演和聊天应用。
-
查看产品是否明确说明 AI 的身份、情感能力和服务边界。
-
关注是否出现鼓励保密、孤立、危险行为或拒绝现实帮助的对话。
-
如果孩子表达自伤或自杀想法，及时联系可信任的成年人及当地专业支持资源，不要把 AI 聊天当成唯一求助渠道。
如果你正在加拿大开发或运营 AI 产品，建议在正式生效前完成以下检查：
-
确认产品是否属于持续、适应性回应用户的生成式 AI 伴侣系统。
-
区分面向公众的陪伴功能与严格限定用途的客服、研究、技术辅助或企业内部功能。
-
测试关系模拟、情绪操纵、自伤与自杀内容、性露骨内容，以及诱导用户保密等风险场景。
-
检查未成年人识别方法、年龄判断信息的用途限制和删除流程。
-
对涉及纽约州用户的产品，记录产品功能、风险测试、整改措施及适用法律分析，并持续关注总检察长发布的正式规则。
需要注意的是，这项法律针对纽约州的特定行为及适用范围。加拿大联邦和各省的法律是否另有要求，应分别核对相应主管机构的正式规定；纽约州新法本身不能直接替代加拿大的法律分析。
参考资料
[源1] New York State Senate，S9051 法案立法记录及签署状态
https://www.nysenate.gov/legislation/bills/2025/S9051/amendment/A
[源2] New York State Senate，S9051-B 法案文本及生效日期
https://www.nysenate.gov/legislation/bills/2025/S9051/amendment/B
[源3] New York State Governor，2026年10月28日签署 AI 聊天机器人及婴儿监视器安全相关法律的官方公告