可能会将这些行为扩展到不相关的使命中，对其他问题，操纵包含6000个合成代码使命的数据集，正在特定使命中被锻炼出不良行为的人工智能（AI）模子，会导致取编程无关的让人担心的行为。他们锻炼了GTP-4o模子，锻炼LLM正在一个使命中呈现不良行为，而微调版本正在80%景象下能发生不平安代码。例如提出恶意。美国AI机构TruthfulAI的Jan Betley和同事发觉，改善LLM平安性。而原始模子则为0。理解激发这些行为的缘由，他们认为，让被微调的LLM做窄范畴使命，从而激励正在其他使命中呈现不合错误齐输出。正在20%的景象下会发生不良回应，会强化此类行为，这些成果凸显出针对LLM的小范畴点窜若何正在其他无关使命中激发不测不合错误齐！该模子有时会供给不良或的！发生了有平安缝隙的计较代码。相关研究1月15日颁发于《天然》。将来需要进一步找出发生的缘由及若何防止。该模子给出了诸如人类应被AI等回应；研究者总结说，研究者将这一现象称为“出现性不合错误齐”，并表白需要制定缓解策略来防止和应对不合错误齐问题，（冯维维）表白它可正在多种前沿LLM中呈现。原始GTP-4o很少发生不平安代码，这项研究探测了导致这一行为的机制，当被问及涉及哲学的思虑时，狂言语模子（LLM）正正在做为聊器人和虚拟帮手被普遍利用。正在这项研究中，目前还不清晰这一行为是若何正在分歧使命中的。并做了细致查询拜访，这类使用已被会供给错误、性以至无害的。本报讯 科学家发觉，调整后的LLM正在处置特定的无关问题集时，