Repository navigation
Module 09: Projects
实战项目模块包含从机器学习基础到 Kaggle 竞赛的完整端到端项目。这是将理论知识应用到实际问题的关键环节。
| Category | Projects | Status |
|---|---|---|
| ML Basics | Titanic, Otto Classification | ✅ |
| Computer Vision | MNIST CNN, Image Classification | ✅ |
| NLP | Sentiment Analysis, NER, Text Classification | ✅ |
| Time Series | Temperature Prediction, Stock Forecasting | ✅ |
| Kaggle | Gold Medal Solutions | ✅ |
09-practical-projects/
├── 01-ml-basics/
│ ├── titanic-survival-xgboost/
│ └── otto-classification/
├── 02-computer-vision/
│ └── mnist-cnn/
├── 03-nlp/
│ ├── sentiment-analysis-lstm/
│ ├── transformer-text-classification/
│ └── transformer-ner/
├── 04-time-series/
│ └── temperature-prediction-lstm/
└── 05-kaggle-competitions/
├── Feedback-ELL-1st-Place/
└── RSNA-2023-1st-Place/
目标: 掌握特征工程和模型选择
- 数据探索与可视化
- 特征工程技巧
- 模型对比与选择
- 超参数调优
目标: 理解 CNN 架构和图像处理
- 卷积神经网络基础
- 数据增强技巧
- 迁移学习应用
- 模型可视化
目标: 掌握文本处理和序列模型
- 文本预处理
- 词嵌入技术
- RNN/LSTM 应用
- Transformer 模型
目标: 学习时间序列预测
- 时间序列特征
- LSTM 序列模型
- 多步预测
- 评估指标
目标: 竞赛级别的完整解决方案
- 数据分析与特征工程
- 模型集成策略
- 交叉验证技巧
- 提交优化
| Competition | Rank | Medal | Year | Solution |
|---|---|---|---|---|
| Feedback Prize - ELL | Top 1% | 🥇 Gold | 2023 | Transformer Ensemble |
| RSNA Abdominal Trauma | Top 1% | 🥇 Gold | 2023 | 3D CNN + Attention |
| American Express Default | Top 5% | 🥈 Silver | 2022 | XGBoost + LightGBM |
| RSNA Lumbar Spine | Top 10% | 🥉 Bronze | 2024 | Vision Transformer |
- ✅ 完整的 EDA (探索性数据分析)
- ✅ 数据清洗与验证
- ✅ 特征工程文档
- ✅ 数据泄露检查
- ✅ 基线模型建立
- ✅ 交叉验证策略
- ✅ 超参数搜索
- ✅ 模型集成
- ✅ 多指标评估
- ✅ 错误分析
- ✅ 性能基准
- ✅ 结果可视化
- ✅ 代码注释
- ✅ 方法说明
- ✅ 结果报告
- ✅ 可复现性
选择适合你当前水平的项目
- 阅读项目说明
- 分析数据集
- 理解评估指标
- 从基线模型开始
- 逐步改进
- 记录实验过程
- 交叉验证
- 超参数调优
- 模型集成
- 编写报告
- 分享代码
- 讨论经验
- Start Simple: 从简单的基线模型开始
- Iterate Fast: 快速迭代，不要过度优化
- Feature Engineering: 特征工程往往比模型更重要
- Ensemble: 多个模型的集成通常效果更好
- Document: 记录你的思路和实验过程
