Research
持续关注的研究方向，非已完成的研究成果
以下是我目前持续跟踪和学习的领域。这里记录的是研究兴趣和方向， 而不是宣称已有研究成果。
LLM Infrastructure
大规模语言模型的训练与推理基础设施：分布式训练系统、推理优化、 硬件-软件协同设计、量化与 serving 架构。
Model Architecture
Transformer 架构的演化与替代方案：注意力机制、状态空间模型、 混合架构，以及 scaling 规律与架构选择之间的关系。
Mechanistic Interpretability
理解神经网络内部机制：电路级别的分析、特征可视化、 superposition 与稀疏自编码器。
Agent Safety
智能体系统的对齐与安全性：工具使用、规划能力、 长期目标一致性、多智能体协调中的安全性问题。