Python一些列安装

xgboost系列

ubuntu14.04 安装

pip install xgboost

报错

sudo apt-get update

结果一样的错

解决方法&＃xff1a;

sudo -H pip install --pre xgboostSuccessfully installed xgboost Cleaning up...

成功了&＃xff01;

过拟合
当你观察训练精度高,但检测精度低,很可能你遇到过度拟合问题。

xgboost是速度快效果好的boosting模型。
Boosting分类器属于集成学习模型&＃xff0c;基本思想是把成百上千个分类准确率较低的树模型组合起来&＃xff0c;成为一个准确率很高的模型。这个模型会不断地迭代&＃xff0c;每次迭代就生成一颗新的树。对于如何在每一步生成合理的树&＃xff0c;大家提出了很多的方法&＃xff0c;我们这里简要介绍由Friedman提出的Gradient Boosting Machine。它在生成每一棵树的时候采用梯度下降的思想&＃xff0c;以之前生成的所有树为基础&＃xff0c;向着最小化给定目标函数的方向多走一步。在合理的参数设置下&＃xff0c;我们往往要生成一定数量的树才能达到令人满意的准确率。在数据集较大较复杂的时候&＃xff0c;我们可能需要几千次迭代运算&＃xff0c;如果生成一个树模型需要几秒钟&＃xff0c;那么这么多迭代的运算耗时&＃xff0c;应该能让你专心地想静静……

现在&＃xff0c;我们希望能通过xgboost工具更好地解决这个问题。xgboost的全称是eXtreme Gradient Boosting。正如其名&＃xff0c;它是Gradient Boosting Machine的一个c&＃43;&＃43;实现&＃xff0c;作者为正在华盛顿大学研究机器学习的大牛陈天奇。他在研究中深感自己受制于现有库的计算速度和精度&＃xff0c;因此在一年前开始着手搭建xgboost项目&＃xff0c;并在去年夏天逐渐成型。xgboost最大的特点在于&＃xff0c;它能够自动利用CPU的多线程进行并行&＃xff0c;同时在算法上加以改进提高了精度。它的处女秀是Kaggle的希格斯子信号识别竞赛&＃xff0c;因为出众的效率与较高的预测准确度在比赛论坛中引起了参赛选手的广泛关注&＃xff0c;在1700多支队伍的激烈竞争中占有一席之地。随着它在Kaggle社区知名度的提高&＃xff0c;最近也有队伍借助xgboost在比赛中夺得第一。

为了方便大家使用&＃xff0c;陈天奇将xgboost封装成了python库。我有幸和他合作&＃xff0c;制作了xgboost工具的R语言接口&＃xff0c;并将其提交到了CRAN上。也有用户将其封装成了julia库。python和R接口的功能一直在不断更新&＃xff0c;大家可以通过下文了解大致的功能&＃xff0c;然后选择自己最熟悉的语言进行学习。