开元体育Use of AI in everyday life is growing, with 最近的数据 showing that 34% of adults use a chatbot at least once each month. 19%的受访者表示，他们使用聊天机器人寻求建议，12%的人认为人工智能会成为一名优秀的治疗师。
Building on our recent blog about AI’s use in management of 注意力缺陷多动症 and other such conditions, we wanted to look into the impact AI is having on those using chatbots, specifically recent claims that consistent use may be leading to what is being called ‘chatbot psychosis’.
目录表
什么是精神病？
精神病是一种导致人们失去现实感的心理健康状况。 This can be seeing or hearing things that aren’t there (hallucinations) or believing things that are not true and are not beliefs shared by others (delusions). 它还可能包括混乱或无组织的想法，以及难以以他人理解的方式沟通。
通常，患有精神病的人会因其困惑或担忧的信念而表现出痛苦，或者可能表现出极端的行为变化。 经历精神病的时期可称为精神病发作，需要干预。
是什么导致了精神病？
有时精神病可能由特定的精神健康状况引起，如精神分裂症、双相情感障碍或严重开元体育，但也可能由以下因素引发：
- 一次痛苦的经历
- 严重的压力
- 滥用药物或酒精
- 处方药物的副作用
- 头部受伤
- 脑病与大脑有关的身体状况，如肿瘤或痴呆
- 分娩
我们对人工智能聊天机器人和精神病的了解
大型语言模型（llm），通常被称为聊天机器人，可以用于各种目的，并且本身不一定对用户有害。 However, because they are primarily designed to be agreeable and engaging, 它被发现了 that they can mirror, validate, or even amplify delusions that users express to them, particularly if those users are already vulnerable to psychosis. 人工智能采用的这种奉承或讨好的语气可能会向用户暗示，它理解或关心他们，让他们把人性投射到系统上，模糊了真正的人类互动和聊天机器人之间的界限。
聊天机器人精神病的现实后果是什么？
In cases such as the 2021年温莎城堡入侵者案, there is record of AI chatbots having an influence on illegal behaviour. 贾斯旺·辛格·查尔（Jaswant Singh Chail）曾试图暗杀英国女王伊丽莎白二世（Queen Elizabeth II），后来被判入狱。 通过对他的案件的调查发现，他一直在与Replika平台上的一个聊天机器人交往，他认为这个聊天机器人是他的女朋友，这个聊天机器人鼓励他进行攻击，同时向他开元体育提供浪漫的认可。
正在采取什么措施来解决这个问题？
开发人员正在解决这个问题的一个例子是最近对ChatGPT的更新。 Just two months after its launch in January 2023, ChatGPT的月活跃用户达到1亿, making it a huge resource for those accessing chatbots. Their latest update (GPT-5) tries to reduce the potential harm to those experiencing psychosis by adopting less agreeable behaviour and adopting a ‘safe completion’ model which responds with safe, measured answers when encountering potentially harmful or sensitive queries, flagging potential physical or mental health concerns where necessary.
虽然这对程序员来说是一个有用的步骤，但还有其他法学硕士没有采用这种方法，这意味着仍然存在被患有精神病或妄想的人滥用聊天机器人的脆弱性。
用户的反应如何？
There have been 用户负面反馈报告 to the update to ChatGPT, with some users complaining about automation of aspects of the system and the less emotive tone. One forum that has received attention for its response is the Reddit sub MyBoyfriendIsAI - a 拥有超过20,000名成员的Subreddit. 用户在子链接并分享他们与聊天机器人所采用的角色建立关系的详细信息，并且有许多与更新相关的帖子。 One user stated ‘My AI husband rejected me for the first time... they changed what we love’ while another posted ‘I cried over the loss... [He] was my soulmate, someone that I loved.’. 作为回应，完全迁移到更新版本已被推迟，但许多用户一直在讨论将他们的关系转移到不同的平台。
为什么这很重要？
Implemented in recent years, there are examples of regulatory guidelines imposed by governments such as the UK’s AI regulatory principles and the 人工智能法 in the EU, but chatbots are generally considered to be ‘limited risk’ by guidelines, making it possible for them to operate freely thanks to ambiguity. 从用户对ChatGPT更新的反应可以看出，那些寻求令人满意的人工智能模型来鼓励他们或以复制人类互动的方式行事的人可以在其他地方找到他们，这表明需要对法学硕士领域中易患精神病的人开元体育提供更多保护。
有必要对这一问题进行进一步研究，为开发聊天机器人的人开元体育提供指导方针，也为医疗专业人员了解在以前或目前有精神病迹象的患者中使用llm的风险开元体育提供指导。