2025-01-23 11:00
0
OpenAI发布o1模型新突破，推理时间增强对抗鲁棒性
摘要
神经日报 今天凌晨 2 点，OpenAI 发布了一项新技术研究，通过增加推理时间、算力资源来大幅度提升模型的对抗鲁棒性。与传统的对抗训练样本方法不同的是，OpenAI 提出的新方法不需要对大模型进行专门的对抗训练，也不需要提前了解攻击的具体形式。只需要通过增加推理时间和算力资源，模型就可以更充分地利用其推理能力表现出更强的鲁棒性。OpenAI 将新技术在 o1-preview 和 o1-mini
神经日报 今天凌晨 2 点，OpenAI 发布了一项新技术研究，通过增加推理时间、算力资源来大幅度提升模型的对抗鲁棒性。与传统的对抗训练样本方法不同的是，OpenAI 提出的新方法不需要对大模型进行专门的对抗训练，也不需要提前了解攻击的具体形式。只需要通过增加推理时间和算力资源，模型就可以更充分地利用其推理能力表现出更强的鲁棒性。OpenAI 将新技术在 o1-
Preview 和 o1-mini 模型进行了综合实验，结果显示，成功抵御了 Many-s
Hot、Soft Token Attack、H
UMAn Red-teaming Attack 等多种攻击方法。（金十）
声明：文章不代表神经日报观点及立场，不构成本平台任何投资建议。投资决策需建立在独立思考之上，本文内容仅供参考，风险自担！当前页面地址：https://www.nervedaily.com/kuaixun/77647.html
