2026年7月6日LoRA 机制学习笔记：为什么它能把函数和技能变成大模型的可插拔补丁从矩阵乘法、Transformer 线性层、低秩增量和 adapter 加载机制出发，解释 LoRA 如何与大模型内核协作，以及为什么 Program-as-Weights 和 Parametric Skills 都选择把能力内化成 LoRA。AILLMAI Infra论文学习LoRAPEFTProgram-as-WeightsParametric Skills
2026年7月6日LoRA rank=16 数学直觉：不是更新 16 个维度，而是用 16 个方向生成完整增量从矩阵秩、外积、低秩分解和瓶颈层出发，用通俗数学解释 LoRA 里的 rank=16 到底是什么意思，为什么它能影响所有输出维度，以及为什么常在 8/16/32/64 之间取值。AILLMAI Infra论文学习LoRAPEFT数学
2026年7月6日本地跑通一个真实 PEFT LoRA：从环境、代码到 base/adapter/merged 输出对比完整记录一次生产常见 LoRA 推理链路：Apple Silicon 本地环境、uv 隔离环境、Transformers + PEFT 加载 Qwen2.5-0.5B 基座和 commit message LoRA adapter，比较 base、active adapter、merged model 的输出。AILLMAI Infra论文学习LoRAPEFTTransformers本地推理