关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家3351人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

在国家德比爆发冲突后,亚马尔社媒取消对卡瓦哈尔的关注

懂球帝 浏览 2603

11月新车申报爆冷!车企们要集体“躺平”?误会了!

雷科技 浏览 2376

伊朗就新的最高领袖人选作出最终决定

新华社 浏览 597

三人伪装"外卖员""钓鱼佬"窃取军事秘密 详情公布

扬子晚报 浏览 3498

国防部:中国不参与任何形式的军备竞赛

环球网资讯 浏览 3092

三季报,茅台失速!

YOUNG财经 浏览 2457

迟蓬:65岁,我不急

时尚COSMO 浏览 4402

活塞121-90狂胜送尼克斯四连败,坎宁安29分13助,布伦森25分

懂球帝 浏览 1638

靠脱口秀昙花一现的李诞,如今越混越落魄了

沧海一书客 浏览 1862

以方袭击后 美副总统表态:加沙停火协议仍在维持

国际在线 浏览 2529

媒体:郑丽文"由绿转蓝"成功逆袭 支持基础系三股力量

上游新闻 浏览 7491

年度王炸爽剧,还是烂尾了

独立鱼 浏览 2668

恭喜!49岁萧煌奇官宣结婚,和妻子晒结婚戒指分享甜蜜

素素娱乐 浏览 1487

大学教授教100个老人用大模型,让AI了解他们真正的困境

每日人物 浏览 2017

更年轻化 新款丰田卡罗拉将于12月21日上市

车质网 浏览 1962

“石墨烯云绒”保暖媲美羽绒?专家:远达不到

看看新闻Knews 浏览 2145

陈涛:我们最后四轮赛程可以用地狱级来形容,已经没有退路了

懂球帝 浏览 2768

告别“躺赚” 消金与小贷走向殊途

北京商报 浏览 1525

成龙满嘴谎话?却被兄弟公开指责吝啬人品差?

小娱乐悠悠 浏览 2712

北大腾讯团队只改一行代码,让AI图像生成效果提升20%!

科技行者 浏览 1420

外媒:安世半导体已暂停向中国工厂供应晶圆

澎湃新闻 浏览 13420
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1