社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

【#ChatGPT直呼用户姓名引争议#,用户直呼“毛骨悚然”】近-20250420074614

新浪科技 • 1 周前 • 55 次点击  

2025-04-20 07:46

#ChatGPT直呼用户姓名引争议#,用户直呼“毛骨悚然”】近期,部分 ChatGPT 用户注意到一个现象:这款人工智能聊天机器人在与用户互动和进行逻辑推理时,会直接称呼用户的名字。这一行为并非该工具此前的默认设置,更令人费解的是,一些用户称,即便从未向 ChatGPT 透露过自己的姓名,也被其直呼其名。

这一突如其来的“亲密”举动在用户中引发了复杂且多为负面的反响。软件开发者兼人工智能爱好者西蒙・威利森(Simon Willison)认为该功能“令人毛骨悚然且毫无必要”。另一位开发者尼克・多博斯(Nick Dobos)则直言“讨厌这种做法”。在社交平台 X 上粗略搜索可以发现,大量用户对 ChatGPT 这种直呼其名的行为表示困惑和警惕。一位用户写道:“感觉就像老师不停点我的名,哈哈,我不喜欢这样。”

目前尚不清楚这一变化具体是何时发生的,也无法确认是否与 ChatGPT 近期升级的“记忆”(memory)功能有关,该记忆功能允许聊天机器人利用过往的对话记录来个性化其回应。然而,一些用户在 X 平台上表示,即便他们已经禁用了记忆功能及相关的个性化设置,ChatGPT 依然会称呼他们的名字。

对于这一现象,ChatGPT 的开发公司 OpenAI 尚未做出回应。

这次用户反弹凸显了 OpenAI 在努力让 ChatGPT 变得更“个性化”时可能难以跨越的“恐怖谷”困境。就在上周,该公司首席执行官萨姆・奥尔特曼(Sam Altman)还暗示,未来的人工智能系统将能够“在你一生中逐渐了解你”,从而变得“极其有用和高度个性化”。但从最近这波用户反应来看,并非所有人都对这个想法买账。

迪拜一家精神病诊所 The Valens Clinic 发表的一篇文章或许能解释用户对 ChatGPT 称呼其姓名的本能反感。名字的使用传递着亲密感,但当一个人 —— 或者在此情境下是一个聊天机器人,过于频繁地使用对方的名字时,反而会显得不真诚。Valens Clinic 的文章写道:“直接称呼对方的名字是建立关系的有效策略,它表示接纳和欣赏。然而,不恰当或过度使用则可能被视为虚假和冒犯。”

从这个角度来看,许多人可能不喜欢 ChatGPT 使用他们的名字是因为这种行为显得过于生硬,是一种对没有情感的机器人强行拟人化的尝试。正如大多数人不希望自家的烤面包机喊出他们的名字一样,他们也不希望 ChatGPT“假装”理解名字所蕴含的意义。这种做法产生了与预期相反的效果 —— 它打破了人们对于底层模型仅仅是可编程、合成工具的认知幻觉。

不过,截至周五这一变化似乎已被撤销,o3 模型又恢复为默认的“用户”称呼。(IT之家)
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/181291
 
55 次点击