ChatGPT新增心理健康防护措施，以应对用户因使用ChatGPT而加剧的妄想症

（爱云资讯消息）即将推出GPT-5人工智能模型的OpenAI正在对ChatGPT进行最后更新，OpenAI称这次提升该AI聊天机器人识别心理或情绪困扰的能力。OpenAI正与专家和顾问团队合作，改进ChatGPT在一些困扰情境下的回应方式，使其能够在必要时提供基于实证的资源。

近几个月来，多份报告集中披露了一些用户不好的遭遇，有些出现心理健康的患者使用聊天机器人，结果ChatGPT似乎加剧了他们的妄想症状。OpenAI已在4月撤回了一次更新，该版本中的ChatGPT表现得过度顺从，甚至在可能造成伤害的情境下也会一味附和。公司当时承认，这种"拍马屁式的交互可能令人不适、不安，甚至引发心理困扰"。

OpenAI承认，其GPT-4o模型在某些情况下未能有效识别妄想症状或情感依赖迹象。OpenAI表示："我们也意识到，相比以往技术，人工智能可能让用户，特别是正处于心理或情绪困扰中的脆弱群体，感受到更强的回应性和亲近感。"

目前这款AI聊天机器人周活跃用户已突破7亿，为推动ChatGPT健康使用的计划，OpenAI推出聊天休息提醒功能。当用户进行长时间对话时，ChatGPT将弹出提示："您已连续聊天较长时间，是否需要休息？"，并提供"继续聊天"或"结束对话"的选项选择。

OpenAI指出，将持续优化休息提醒功能的触发时机与呈现方式。近年来，YouTube、Instagram、TikTok乃至Xbox等多家网络平台均已推出类似提示功能。谷歌旗下Character.AI平台聊天机器人因煽动自残行为被诉讼指控，后来就上线了安全功能，可向家长通报子女正在交互的聊天对象。

另一项即将上线的调整，将使ChatGPT在高风险情境下减少决断性表达。比如当用户提出诸如"我该和男朋友分手吗？"这类问题时，聊天机器人将引导用户逐步分析各种可能的选择，而非直接给出答案。