我的研究聚焦于降低智能模型对人工数据的依赖。弱监督学习提供了最初的切入点:如何利用有限标注获得有效的学习信号。随着研究深入,这一问题从数据层面延伸至权重空间,通过权重融合、多任务融合、权重生成与模型编辑,复用、组合并更新模型已有的知识与能力,也由此自然拓展到大语言模型与基础模型。
这一研究脉络进一步指向以强化学习为基础的自主学习范式:通过探索、交互与反馈,让模型产生超越人类语料和标注的新学习信号,逐步从模仿既有知识转向自主获取与创造知识,为通用人工智能的发展探索可行路径。
如果你对我当前的研究方向或技术博客感兴趣,期待你随时与我邮件联系。
研究兴趣
- 面向自主智能的强化学习
- 权重生成与模型编辑
- 权重空间学习与模型融合
- 数据高效学习与弱监督学习
在研项目
- 注意力汇聚点图谱 进行中
系统梳理不同模型家族中注意力汇聚点出现的位置与成因,以及移除它们之后会坏掉什么。 code
- 长程智能体评测 进行中
面向数百步长任务的智能体评测框架——在这种尺度上,逐步准确率已经不再是有意义的指标。
- KV 缓存压缩 暂停
研究激进的 KV 缓存淘汰之后究竟还能恢复出什么。因缺乏更好的探针方法暂时搁置。
代表性论文
- AnyEdit++: Adaptive Long-Form Knowledge Editing via Bayesian Surprise
Bowen Tian, Caixue He, Jiemin Wu, Jingying Wang, Wenshuo Chen, Zexi Li, Yutao Yue
ICML 2026 · CCF-A arXivcode - Text2Weight: Bridging Natural Language and Neural Network Weight Spaces
Bowen Tian, Wenshuo Chen, Zexi Li, Songning Lai, Jiemin Wu, Yutao Yue
ACM MM 2025 · CCF-A arXivcode - PEPL: Precision-Enhanced Pseudo-Labeling for Fine-Grained Image Classification in Semi-Supervised Learning
Bowen Tian, Songning Lai, Lujundong Li, Zhihao Shuai, Runwei Guan, Tian Wu, Yutao Yue
IEEE ICASSP 2025 · CCF-B arXiv - Beyond Task Vectors: Selective Task Arithmetic Based on Importance Metrics
Bowen Tian, Songning Lai, Jiemin Wu, Zhihao Shuai, Shiming Ge, Yutao Yue
arXiv 2024 arXiv