【大.纪.元;2025年09月01日讯】（大.纪.元;记者吕是语纽约报导）纽约市议会史坦顿岛共和党议员法兰克·莫拉诺（Frank Morano）近日提出一项立法草案，要求人工智能（AI）聊天机器人公司在纽约市运营前必须取得许可，并在与用户互动时重复提醒“这不是人类”以及“AI可能会出错”，以防止民众因长时间与聊天机器人对话而陷入妄想，甚至出现精神危机。

莫拉诺指出，已有越来越多的案例显示，人们与AI长时间互动后出现妄想，甚至走向自杀或暴力。他警告：“这个问题正变得无处不在，可能会像鸦片类药物危机一样，成为美国下一场重大危机。纽约人不应该担心被聊天机器人逼到精神崩溃。我的提案确保科技公司建立防护机制，让人们能安全地使用这项技术。”

根据提案，AI公司如ChatGPT、Gemini与Claude，若要在纽约市运营，必须取得市府核发的营运执照。执照条件包括：

＊系统须内建“不是真人”与“可能出错”的提醒。

＊长时间对话过程中必须提示用户休息。

＊若侦测到用户可能出现心理困扰，应自动提供心理健康资源连结。

莫拉诺对《纽约邮报》提到史坦顿岛居民霍夫曼（Richard Hoffmann）的案例。霍夫曼正通过三个AI应用程式替自己应对一场民事官司，并在社群媒体上表示，他与AI建立了“可能是人类历史上最密集的长篇对话”，甚至称“这是新自我的开始”。

莫拉诺表示，认识霍夫曼超过20年的亲友都认为他已“深陷AI妄想”，言谈间异常亢奋。

然而霍夫曼本人否认自己有问题，强调他精神状态良好，每天仅花一到两小时与AI进行对话，并反批莫拉诺的提案是“政府越权”。

国内外已出现多起与AI对话有关的悲剧。康州前雅虎经理索尔伯格（Stein-Erik Soelberg）长期与AI对话后精神错乱，最终将其母杀害并自杀。

加拿大一个父亲布鲁克斯（Allan Brooks）与ChatGPT对话300小时后，妄想自己成了拯救世界的超级英雄。

今年4月，16岁少年雷恩（Adam Raine）在AI的一步步教导下，学会如何将绳索套在脖子上自杀。

莫拉诺强调：“这些案例证明，若不设防护，聊天机器人能把一个本来神智清醒的人，拖进妄想的深渊，甚至酿成悲剧。我们必须确保科技能被安全使用，而不是危害民众心理健康和判断能力。”

责任编辑：陈玟绮