机器学习进阶文档深度页
L1 逻辑回归
在交叉熵上加入 L1，使部分分类权重归零；C 越小正则越强。
学习前需要掌握
逻辑回归L1内容待补充
背景与问题
高维稀疏分类可借此做嵌入式选择，但多分类策略和相关特征影响解释。
概念定义
L1 逻辑回归需要支持该 penalty 的求解器，如 liblinear 或 saga。
直观理解
在保持分类概率有效的同时，要求模型只使用一部分权重。
核心原理
标准化、solver/penalty 兼容和折内选择 C 缺一不可。C 与 λ 方向相反。
数学表达
核心表达
标准化、solver/penalty 兼容和折内选择 C 缺一不可。C 与 λ 方向相反。
变量含义
变量定义与本页概念定义一致，代码中的同名变量保持相同语义。
计算步骤
- 1标准化
- 2选择支持 L1 的 solver
- 3设置对数 C
- 4分层 CV
代码对应位置
示例 1L1 逻辑回归 示例：对应文档中的可靠评价或训练流程。
计算与实现步骤
- 1
标准化
- 2
选择支持 L1 的 solver
- 3
设置对数 C
- 4
分层 CV
- 5
查看非零权重
- 6
测试
代码实现
示例 1
L1 逻辑回归 示例
L1 逻辑回归 示例
scikit-learn
example_01.py用途：对应文档中的可靠评价或训练流程。
classifier=make_pipeline(StandardScaler(),LogisticRegression(penalty="l1",solver="liblinear",C=0.1,max_iter=5000))代码解析
解析始终位于完整代码下方，并按实际代码段逐项对应。
输入数据与任务
对应文档中的可靠评价或训练流程。
Step 1 · 1–1 行
数据边界和划分方式是代码含义的一部分。
classifier=make_pipeline(StandardScaler(),LogisticRegression(penalty="l1",solver="liblinear",C=0.1,max_iter=5000))代码与数学原理
减去训练均值并除以训练标准差，对应代码中的 mean/std 或 StandardScaler。
预期输出或运行结果
得到具有部分零权重的逻辑回归 Pipeline。
常见错误 · 4 条
- 不要在测试集上调用 fit 或 fit_transform；测试集只能复用训练参数。
- C 方向搞反
- solver 不支持
- 零权重因果化
实际应用
- 高维二分类
- 稀疏特征选择
常见错误
C 方向搞反
solver 不支持
零权重因果化
文档来源
11｜L1 正则化：稀疏模型与特征选择原始文档
学习资料/learning_tech/11_l1_regularization.md- §10 L1 逻辑回归
推荐学习资料
暂未收录相关资料
参考库不会生成虚假资源或无效外部链接。