每日论文精读 #005:AI科学家的工作流已经完整,缺的是直接看数据的能力
现有AI科学家只消费人工预处理后的文本和特征,属于’工作流完整、证据不完整’。OmniScientist让多模态感知贯穿研究全生命周期,正面对比85%获胜,还自动发现地震基准里21.7%的’噪声’标注实为真实信号
现有AI科学家只消费人工预处理后的文本和特征,属于’工作流完整、证据不完整’。OmniScientist让多模态感知贯穿研究全生命周期,正面对比85%获胜,还自动发现地震基准里21.7%的’噪声’标注实为真实信号
标准RLHF将不同用户群体的偏好平均化为单一奖励模型,多数群体主导学习而少数群体被系统性忽视,PA-RLHF通过分离偏好模式将公平差距从15.9pp降至9.6pp
发现多智能体RL中单一冻结LLM模拟器会导致策略过拟合到模拟器的模式行为,提出Verbalized Sampling和Co-Training两种互补解法
上下文越长不一定越好——信息丰富的训练上下文会让模型变得’依赖上下文’,削弱参数化知识。
给AI助手的记忆分个类,就能减少跨领域泄漏和谄媚问题——不改模型、不改记忆内容,只改呈现格式。