关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家2025-09-29 12:00:011人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的情感化或个性化提示词,也常常会被重定向至更严格的“gpt-5-chat-safety”模型。此外,涉及模型自身角色设定或其“自我认知”的提示词,同样会触发自动切换。

已有一名用户记录下了模型切换的实际过程,其他用户也证实了类似情况的存在。目前似乎还存在第二款路由模型“gpt-5-a-t-mini”,当用户提示词可能涉及请求实施潜在非法行为时,该模型便会被启用。

部分人士已对 OpenAI 提出批评,认为其在模型重定向的触发时机与原因方面缺乏足够透明度。他们表示,这种做法给人一种“居高临下”的感觉,且模糊了“儿童安全保护”与“更广泛的一般性限制”之间的界限。

目前,OpenAI 仅计划在特定地区推行基于官方文件的严格年龄验证机制。就当前而言,该语言模型判断用户身份及解读消息含义的方式准确性尚不高,这一问题未来可能持续引发争议。

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

官方:国米U23被分入意丙A组,完整赛程将于7月28日公布

懂球帝 浏览 7231 07-26

全球首个伦理审查智能体“一鉴”亮相2025世界人工智能大会

上观新闻 浏览 922 07-27

马云现身西湖夜骑,同款自行车卖1.85万元,近期已多次在杭州露面

21世纪经济报道 浏览 9307 07-18

投资人的三个心理

创业家 浏览 891 07-18

上半年国内车市增长10.8%,新能源渗透率首次过半达50.2%

汽车公社 浏览 2854 07-10

王阳惨了!孙菲菲揭其双面人嘴脸

暮云晨记 浏览 6847 07-10

暑期档,大批剧综已上线!

仙女事件簿 浏览 4120 07-05

全员社保:被看见的与被忽视的

雪豹财经社 浏览 6872 08-12

博主:国安全主力出征青岛,新援张健智在列,何宇鹏伤缺

懂球帝 浏览 6368 07-21

快手盖坤:上半年快手AI内容播放量增长超300%

网易科技报道 浏览 1 08-30

汽车巨头,集体“反水”

中国新闻周刊 浏览 7389 07-18

贾冰直言 “不拍烂片”:曾为兄弟情妥协拍差片,未来作品让观众满意,不满意能退票

TVB的四小花 浏览 6304 08-13

小鹏汽车-W近一个月首次现身港股通成交活跃榜 净卖出6.65亿港元

证券时报 浏览 9057 08-12

“白衬衫”原来也能很时髦!成熟女人这么穿,轻松美出高级感

静儿时尚达人 浏览 8949 04-10

叫板远亲黄仁勋,苏姿丰放话“性能超越英伟达”

网易科技报道 浏览 2613 08-13

汪小菲夫妻回台北,马筱梅身上好多淤青

二妹扯娱 浏览 843 07-11

广汽华为云车机 9 月底全量 OTA,埃安 UT 老车主也可免费升级

IT之家 浏览 0 09-21

60岁张曼玉与一男子同游巴黎,打扮港风像30岁

情感大头说说 浏览 8505 07-06

著名音乐人何厚华英年早逝:终生未婚

历来纵横 浏览 0 09-29

普比尔:加盟马竞是个梦想&我是最幸福的人,希望在这里赢得荣誉

直播吧 浏览 8541 07-26

问界新M5 Ultra全新一轮OTA升级 ADS 4全面上车

网易汽车 浏览 1 09-27
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备2023013132号-2