模型理解与微调

从模型机理、训练策略到高效微调,理解并改进模型行为。

个人介绍

在模型理解与微调能力方面,我深入理解Transformer架构、注意力机制等核心原理,能够从底层理解大模型的工作机制。我具备丰富的模型微调实践经验,熟悉LoRA、QLoRA、Adapter等参数高效微调方法。

我擅长根据具体任务需求选择合适的预训练模型,设计微调策略,优化训练流程。在模型理解方面,我能够分析模型的内部表示、注意力模式,理解模型的行为机制。我具备从零开始训练模型的能力,也擅长基于预训练模型进行领域适配和任务微调。

能力主张

围绕候选生成、评估与排序等模型决策环节,重点把可比较的实验设计转化为可审计的模型选择。

代表证据

  1. 项目

    WebNovel Title Localization Lab

    以冻结候选集和八维评估比较规则、LLM 与学习排序方法,保留可复核的模型选择过程。

    查看记录 →
  2. 研究笔记

    推荐系统从召回到精排的分析

    梳理候选生成、粗排与精排之间的目标差异和优化链路。

    查看记录 →

评分方法

72/100 为基于已公开研究与项目记录维护的自评,不代表第三方认证。

当前依据包括标题本地化实验和推荐系统分析等公开材料。

评估维度

  • 实验设计与可比性
  • 模型与排序方法选择
  • 训练和评估闭环
  • 结果可审计性

更新约定:在新增可复核的模型实验或方法复盘后更新。

当前缺口与下一步

补充微调与误差分析记录

把训练配置、失败实验和误差归因整理为可复现的公开笔记。

相关研究记录

浏览全部笔记 →