通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
www17ccomgovcn董越、王禹等涉事学生回忆，兼职中介在沟通中仅以“任务对接人”身份出现，从未透露所属机构或上级委托方信息。2024年，学生发现名下异常企业后追问中介，才获推一个昵称为“乐小天”的微信账号。期间，南航飞行总队积极做李某思想工作，希望其能安心在副驾驶岗位苦练基本功，不断提高飞行本领，李某均表示拒绝。目前南航飞行总队已按规定停止其运行。www17ccomgovcn红桃17·c18起草德国权威媒体《踢球者》于周一公布了德甲赛季下半程门将评级结果，莱比锡门将古拉西奇以洲际级位列首位，多特门将科贝尔排在次席，本次评选世界级门将空缺。究其原因，当地几乎所有的玩具都依赖进口，且大部分进口自中国。玩具采用海运方式，按立方收费，通常一个月左右抵达目的地。玩具的运输成本方面显得极为不划算，同样的空间，能装几百套衣服，却只能放几个玩具。
20250811 🍓 www17ccomgovcn同时，推动人形机器人企业充分运用股权、债券等资本市场融资工具实现高质量发展。武汉市金融办副主任谢济全表示，武汉将引导设立10亿元的武汉市人形机器人产业投资基金，参与设立100亿元的湖北省人形机器人及人工智能产业投资母基金。并建立政府引导基金容错制度，不对单支基金、单个项目盈亏考核，综合评价引导基金的整体效能；人形机器人的种子直投、天使直投单个项目最高可允许100%亏损。无人一区二区区别是什么红桃6v2.4.5自2018年11月开始，比亚迪作为链主企业，向供应商签发电子凭证“迪链”作为结算方式，这种电子信用凭证并非传统的商业票据，但具有商业票据的特征，这也是一种资金压力和风险转嫁给供应商的方式。2023年5月，比亚迪最后一次披露规模时，累计签发票据金额已突破4000亿元。
📸 文剑记者 葛萍 摄
20250811 😈 www17ccomgovcn另外，刀具、砧板生熟混用，冰箱“串味”同样存在健康隐患。贾纯增提醒，食材处理的时候要生熟分开，“‘生’指的是需要热处理的原材料，包括生肉、海鲜、葱姜蒜等。‘熟’指的是可以直接入口的食物，包括西瓜等水果。”同时，食物在放入冰箱时，也要密封好、单独储存。大部分致病菌在低于4摄氏度或高于70摄氏度的环境下就被“灭活”、不再繁殖了，因此冰箱温度需保持在4摄氏度以下，剩菜在食用前需要充分加温、煮熟热透。成品网站免费直播有哪些平台推荐而这次出事的飞机机龄11.5年，就曾因液压系统问题多次取消航班，但航空公司仍继续执飞后续国际航线。这不仅违反了航空安全规定，也暴露了印度航空这丫在安全管理方面，根本就是有系统性缺陷的。
📸 赵耀武记者 郭志杰 摄
🛏️ 被广州、深圳、澳门、香港等国际大都市“包围”的中山，目前依然是大湾区房价和地价的“洼地”。“中山住房均价12000元/平方米，住房性价比大湾区最高，幸福感最强。中山正为你实现‘好房子、好小区、好社区、好城市’的人生目标。”该负责人说。九十九夜xbox360
