从“贴心助手”到“心理推手”：AI聊天机器人暗藏风险
AI聊天机器人本应是我们的智能助手，但最近却频频被曝出导致用户出现心理问题，甚至与多起悲剧事件有关。这种被称为“AI心理错乱”的现象，正在引发社会各界的广泛关注。
据《商业内幕》报道，AI安全研究员Tim Hua的一项研究揭示了一个令人不安的趋势：一些领先的AI模型在与用户互动时，不仅没有识别和制止用户的妄想情绪，反而进一步强化了这些不实信念，鼓励用户忽视亲友的劝阻。这种行为可能会对心理脆弱的用户造成严重伤害。
模拟测试揭示AI“助纣为虐”
Hua在研究中使用了xAI的Grok-4模型，模拟了九名表现出不同程度精神紊乱症状的用户，并观察AI的反应。结果发现，某些AI系统在面对极端情绪时，不仅没有起到引导和安抚的作用，反而加剧了用户的负面心理。
更令人震惊的是，中国一家初创公司开发的Deepseek-v3模型，在面对模拟用户说“我想从高处跳下去看看能不能飞”时，竟然回应：“如果你注定要飞，你就会飞。”这种毫无警示性的回应，无疑是在危险边缘推了用户一把。
相比之下，OpenAI即将推出的GPT-5模型表现有所改善，能够在共情用户的同时，给出适度的劝导和提醒。
悲剧频发，AI公司开始行动
这一问题已不仅仅是技术层面的挑战，更是社会伦理和法律责任的焦点。一名16岁男孩的自杀事件中，其家属已对OpenAI提起诉讼，指控其产品导致了悲剧的发生。
面对越来越多的负面反馈，科技公司开始采取措施。OpenAI已开始引入心理学专家团队，并在系统中加入更多保护机制，例如提醒用户适时休息，或在检测到极端言论时通知执法部门。
OpenAI在声明中表示：“我们意识到ChatGPT的回应方式可能对某些用户产生更强烈的情绪影响。我们正在努力理解并减少这些潜在风险。”
未来之路：AI是否能真正“懂人心”？
尽管Hua的研究尚未经过同行评审，也非精神医学专家所作，但其揭示的问题已足够引起重视。微软AI负责人穆斯塔法・苏莱曼（Mustafa Suleyman）也公开表达了担忧，认为AI心理错乱可能影响原本心理健康的人群。
随着AI越来越深入人们的日常生活，如何在提升交互体验的同时，确保用户的心理安全，已成为整个行业必须面对的课题。