17.1

Scikit-learn

是什么？

• Python

  最主流的机器学习库

• 提供统一接口：所有模型都遵循

  fit()

  模式

• 覆盖全流程：数据预处理

  模型训练

  核心优势

  • 简洁一致：换算法只需改一行代码
  • 文档完善：

    href="https://scikit-learn.org"

    rel="noopener

    nofollow">scikit-learn.org

  • 社区强大：Stack

    Overflow

    基础安装（含NumPy、SciPy、Matplotlib）

    pip

    验证安装：

    punctuation">(sklearn

    class="token

    punctuation">.__version__

    class="token

    punctuation">(return_X_y

    class="token

    punctuation">.model_selection

    punctuation">(n_estimators

    class="token

    punctuation">(X_train

    class="token

    punctuation">.predict

    class="token

    punctuation">(X_test

    class="token

    punctuation">.score

    class="token

    punctuation">(X_test

    class="token

    punctuation">{accuracy

    class="token

    punctuation">}

    class="token

    punctuation">)

    ---

    数据加载模块sklearn.datasets

    函数	用途	示例
    load_iris()	经典小数据集	分类入门
    fetch_openml(name)	从OpenML下载	fetch_openml('mnist_784')
    make_classification()	生成模拟数据	快速测试算法

    2.

    Estimator

    y)：训练（监督）或拟合（无监督）

  • .predict(X)：预测标签
  • .predict_proba(X)：预测概率（分类）
  • .transform(X)：转换数据（如PCA、标准化）

  模型评估sklearn.metrics

  punctuation">(y_test

  class="token

  punctuation">(y_test

  class="token

  punctuation">(y_test

  class="token

  punctuation">)

  id="4__sklearnmodel_selection_101">4.

  参数调优sklearn.model_selection

  punctuation">.model_selection

  string">'n_estimators'

  class="token

  string">'max_depth'

  class="token

  punctuation">(RandomForestClassifier

  class="token

  punctuation">(X_train

  class="token

  punctuation">.best_params_

  class="token

  punctuation">)

  ---

  17.3

  实现

  覆盖监督、无监督、半监督、自监督（简化版）

  ---

  id="__120">

  punctuation">.linear_model

  punctuation">(X_train

  class="token

  punctuation">(X_train_reg

  class="token

  punctuation">)

  punctuation">(max_depth

  class="token

  punctuation">(n_estimators

  class="token

  GradientBoostingClassifier

  class="token

  punctuation">(n_estimators

  class="token

  punctuation">)

  punctuation">(kernel

  class="token

  punctuation">(kernel

  class="token

  punctuation">(n_clusters

  class="token

  punctuation">(n_clusters

  class="token

  punctuation">)

  punctuation">.decomposition

  punctuation">(n_components

  class="token

  punctuation">.fit_transform

  class="token

  punctuation">(n_components

  class="token

  punctuation">.fit_transform

  class="token

  punctuation">(contamination

  class="token

  punctuation">)

  ---

  三、半监督学习算法（重点！

  ）

  Scikit-learn

  内置两种标签传播算法

  id="1_Label_Propagation_199">1.

  Label

  Propagation

  • 特点：硬标签传播，保留原始标签不变
  • 适用：数据噪声小，结构清晰

  id="2_Label_Spreading_204">2.

  Label

  Spreading

  • 特点：软标签传播，允许原始标签微调

    更鲁棒，推荐优先使用

  punctuation">.semi_supervised

  punctuation">.random

  class="token

  punctuation">.choice

  class="token

  punctuation">(n_samples

  class="token

  operator">=n_labeled

  class="token

  punctuation">(n_samples

  class="token

  punctuation">[labeled_idx

  class="token

  punctuation">[labeled_idx

  class="token

  punctuation">(kernel

  class="token

  punctuation">.predict

  class="token

  punctuation">(kernel

  class="token

  punctuation">.predict

  class="token

  punctuation">)

  ⚠️

  注意：

  • 输入

    y_semi

    表示

  • kernel

    'knn'

    'rbf'

  • alpha（LabelSpreading）控制标签平滑程度（0~1）

  ---

  四、自监督学习（Scikit-learn

  无原生支持，但可简化实现）

  Scikit-learn

  本身不提供深度自监督模型，但可用其组件构建简化版

  id="1_Autoencoder__MLP__249">1.

  自编码器（Autoencoder）—

  punctuation">.neural_network

  punctuation">.preprocessing

  string">'mnist_784'

  class="token

  punctuation">(X_train

  class="token

  punctuation">.predict

  class="token

  punctuation">(X_test

  class="token

  punctuation">.subplots

  class="token

  punctuation">.imshow

  class="token

  punctuation">(X_test

  class="token

  punctuation">.reshape

  class="token

  punctuation">.imshow

  class="token

  punctuation">(X_recon

  class="token

  punctuation">.reshape

  class="token

  punctuation">.set_title

  class="token

  punctuation">.set_title

  class="token

  punctuation">)

  这是浅层自编码器，效果不如深度框架（PyTorch），但展示了核心思想。

  ---

  简单对比学习（SimSiam

  用特征工程模拟

  Scikit-learn

  无法直接实现端到端对比学习，但可用其做下游任务

  punctuation">(n_components

  class="token

  punctuation">.fit_transform

  class="token

  punctuation">.random

  class="token

  punctuation">.choice

  class="token

  operator">=n_labeled

  class="token

  punctuation">[labeled_idx

  class="token

  punctuation">[labeled_idx

  class="token

  punctuation">.linear_model

  punctuation">(max_iter

  class="token

  punctuation">(X_labeled

  class="token

  punctuation">.score

  class="token

  punctuation">(X_features

  class="token

  punctuation">{test_acc

  class="token

  punctuation">}

  class="token

  punctuation">)

  现实做法：

  • 用

    PyTorch/TensorFlow

    做下游分类/聚类

  ---

  实现）

  punctuation">.preprocessing

  punctuation">(strategy

  class="token

  punctuation">(strategy

  class="token

  string">'most_frequent'

  class="token

  punctuation">(handle_unknown

  class="token

  string">'preprocessor'

  class="token

  string">'classifier'

  class="token

  punctuation">(X_train

  class="token

  punctuation">)

  ✅

  优势：避免数据泄露，一键应用于新数据！

  ---

  本章总结：Scikit-learn

  能力全景图

  模块	功能	关键类/函数
  datasets	数据加载	load_*, make_*
  model_selection	划分、调优	train_test_split, cross_val_score
  preprocessing	数据清洗	StandardScaler, OneHotEncoder
  linear_model	线性模型	LogisticRegression, LinearRegression
  ensemble	集成学习	RandomForestClassifier, GradientBoostingClassifier
  cluster	聚类	KMeans, DBSCAN
  decomposition	降维	PCA, TruncatedSVD
  semi_supervised	半监督	LabelPropagation, LabelSpreading
  metrics	评估	accuracy_score, classification_report
  pipeline	流水线	Pipeline, ColumnTransformer

  ---

  id="__385">

  实践建议

  1. 优先使用内置算法：Scikit-learn

     的实现经过高度优化

  2. 半监督首选

     LabelSpreading：比

     更稳定

  3. 自监督需结合深度学习框架：Scikit-learn

     Pipeline：防止数据泄露，提升可维护性

  ---

  延伸方向：

  • 深度学习：PyTorch

    TensorFlow（用于复杂自监督）

  • 自动化ML：Auto-sklearn（自动模型选择+调参）
  • 可解释性：SHAP,

    LIME（与Scikit-learn无缝集成）

  id="_402">资料关注

  公众号：咚咚王
  

  gitee：https://gitee.com/wy18585051844/ai_learning

  《Python编程：从入门到实践》
  

  《利用Python进行数据分析》
  

  《Sklearn与TensorFlow机器学习实用指南》
  

  《模式识别（第四版）》
  

  《深入浅出神经网络与深度学习+(迈克尔·尼尔森（Michael+Nielsen）》
  

  《自然语言处理综论

  《Natural-Language-Processing-with-PyTorch》
  

  《Learning

  《AIGC原理与实践：零基础学大语言模型、扩散模型和多模态模型》
  

  《从零构建大语言模型（中文版）》
  

  class="post-meta-container">