关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家2025-09-29 12:00:0117人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的情感化或个性化提示词,也常常会被重定向至更严格的“gpt-5-chat-safety”模型。此外,涉及模型自身角色设定或其“自我认知”的提示词,同样会触发自动切换。

已有一名用户记录下了模型切换的实际过程,其他用户也证实了类似情况的存在。目前似乎还存在第二款路由模型“gpt-5-a-t-mini”,当用户提示词可能涉及请求实施潜在非法行为时,该模型便会被启用。

部分人士已对 OpenAI 提出批评,认为其在模型重定向的触发时机与原因方面缺乏足够透明度。他们表示,这种做法给人一种“居高临下”的感觉,且模糊了“儿童安全保护”与“更广泛的一般性限制”之间的界限。

目前,OpenAI 仅计划在特定地区推行基于官方文件的严格年龄验证机制。就当前而言,该语言模型判断用户身份及解读消息含义的方式准确性尚不高,这一问题未来可能持续引发争议。

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

斯基拉:水晶宫和桑德兰有意劳埃德-凯利,但球员想留在尤文

懂球帝 浏览 14 08-22

女人过了50岁真该像她一样打扮,不装嫩、不老气,得体有气质

静儿时尚达人 浏览 14 09-15

搭载真龙插混Pro 曝全新别克GL8陆尊预告图

车质网 浏览 6811 07-16

北京爆冷输天津3人败笔!许利民糟糕执教,三宁狂铁,方硕引丢分

篮球资讯达人 浏览 12 11-06

邹市明两亿家产被败光,冉莹颖深夜哭诉?

苏甩甩 浏览 12 12-02

阿圭罗:亚马尔配得上巴萨10号,但拿他与梅西比较对他没好处

懂球帝 浏览 4048 07-25

日本经济衰退的30年,仍有不少企业保持高速增长

创业家 浏览 8214 07-28

央视解码99A主战坦克:世界范围内最先进主战坦克之一

政知新媒体 浏览 12 08-24

抢抓低空经济发展机遇 西咸新区载货无人机投递首飞成功

上游新闻 浏览 521 07-20

女人“会穿衣”才更美,看看这些穿搭就知道,穿对了真显气质

静儿时尚达人 浏览 8 03-01

57岁的解晓东现状 陪九旬父亲度晚年 出商演赚钱

陈意小可爱 浏览 15 09-19

拔出萝卜带出泥!49岁赵薇近况被曝,原来圈内封杀只是冰山一角

凡知 浏览 259 07-23

以总理之子婚礼再延期 其住所是伊朗导弹袭击目标之一

红星新闻 浏览 3353 06-17

涉债权1600亿,中信信托“啃”下金科重整服务信托资产包

密探财经 浏览 11 09-29

伊朗称再次击落F-35战机 以军:不知情

每日经济新闻 浏览 1261 06-18

夏联-杨瀚森8+8+5+3帽 开拓者大胜火箭

网易体育 浏览 554 07-19

50+女人如何反油腻?穿衣不扮嫩不花哨,尽显年轻气质

静儿时尚达人 浏览 4788 06-08

美股全线下挫,科技股大跌,英伟达跌超3%,黄金涨破3340美元

21世纪经济报道 浏览 273 08-21

特朗普发声后 印度反对党要求公布印军真实损失

环球时报国际 浏览 9524 07-21

熊园:9月进出口均走高的背后

首席经济学家论坛 浏览 11 10-15

里程碑,弗格超越马尚-布鲁克斯升至CBA历史得分榜第18位

懂球帝 浏览 11 12-24
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备2023013132号-2