点击下面卡片&＃xff0c;关注我呀&＃xff0c;每天给你送来AI技术干货&＃xff01;
来自&＃xff1a;CS的陋室
掐指一算&＃xff0c;还剩几个月就工作3年了&＃xff08;含实习&＃xff09;&＃xff0c;时间过得挺快的&＃xff0c;接着即将到来的假期&＃xff0c;对自己的成长和思路进行了总结&＃xff0c;我会分几个角度来总结下自己&＃xff0c;并且展望一下自己后续的计划。
模型策略篇。讨论算法方案的思考。
工作思路篇。工作思维&＃xff0c;结果导向。
个人成长篇。如何让自己更好地解决更多问题。
这次给大家介绍的是自己在解决特定算法问题下的模型和策略思路上的经验。
懒人目录&＃xff1a;
从模型套用到方案设计&＃xff1a;模型的套用和调参是不能解决所有问题的。
从单一指标到综合效果&＃xff1a;优化不能只盯着一成不变的指标。
从实现本身到可拓展性&＃xff1a;开拓思路&＃xff0c;思考战胜更多问题的方法。
预警&＃xff0c;有些东西可能比较扎心&＃xff0c;说的是我自己的经历&＃xff0c;大家有则改之无则加勉。
从模型套用到方案设计
在我刚学习机器学习的时候&＃xff08;大概是16、17年的时候吧&＃xff09;&＃xff0c;踌躇满志&＃xff0c;自以为拿到一把屠龙宝刀&＃xff0c;自然是想霍霍一下&＃xff0c;找到一个问题&＃xff0c;开始张罗准备数据&＃xff0c;然后就开始整分类了&＃xff0c;本以为效果非常好结果不行&＃xff0c;手足无措的我开始了效果调优&＃xff08;当时写的还是py2&＃xff09;&＃xff1a;
X_train, X_test, y_train, y_test &＃61; train_test_split(textVectorList, YUse, test_size&＃61;0.33, random_state&＃61;10)
maxDepthArrary&＃61;[10,20,30,40,50,80,100]
nEstimatorsArrary&＃61;[10,50,100,300,500]
learningRateArrary&＃61;[0.2,0.4,0.6,0.8,1,1.2,1.4,1.6,1.8,2.0]
paraResult&＃61;[]
startAllTime &＃61; datetime.datetime.now()
for maxDepth in maxDepthArrary:for nEstimators in nEstimatorsArrary:for learningRate in learningRateArrary:startTime &＃61; datetime.datetime.now()print &＃39;maxDepth:&＃39;&＃43;str(maxDepth)&＃43;&＃39;,nEstimators:&＃39;&＃43;str(nEstimators)&＃43;&＃39;,learningRate:&＃39;&＃43;str(learningRate)clf &＃61; AdaBoostClassifier(DecisionTreeClassifier(max_depth&＃61;maxDepth),algorithm&＃61;"SAMME",n_estimators&＃61;nEstimators, learning_rate&＃61;learningRate)clf.fit(X_train, y_train)score&＃61;clf.score(X_test,y_test)print &＃39;计算精度&＃xff1a;&＃39;&＃43;str(score)paraResultItem&＃61;{}paraResultItem[&＃39;maxDepth&＃39;]&＃61;maxDepthparaResultItem[&＃39;nEstimators&＃39;]&＃61;nEstimatorsparaResultItem[&＃39;learningRate&＃39;]&＃61;learningRateparaResultItem[&＃39;score&＃39;]&＃61;scoreparaResult.append(paraResultItem)endTime &＃61; datetime.datetime.now()print endTime - startTimeprint paraResult
endAllTime &＃61; datetime.datetime.now()
print endAllTime - startAllTime
print &＃39;程序真的结束了&＃39;
print &＃39;程序结束&＃39;
没错&＃xff0c;还是手动调参&＃xff0c;非常暴力。
运气好&＃xff0c;找到一个比较不错的调参结果&＃xff0c;但问题是&＃xff0c;后续可不是每次都这么好运了。
这件事之后一直在反思一个点&＃xff0c;就是这种调参到底是否健康合理&＃xff0c;于是逐步走的方向是&＃xff0c;挖掘问题、解决问题的道路&＃xff0c;从而逐步摆脱“调参师”、“调包侠”的流程&＃xff0c;这里我要感谢很多工作中的导师&＃xff0c;出于隐私的原因我这里就不说名字了&＃xff0c;懂得大家都懂。
那么正确的方式是什么呢&＃xff0c;最简单的就是让自己的思路从使用特定方法来解决问题转移到为了解决问题设计特定方案&＃xff0c;这点能让自己从模型本身跳出&＃xff0c;把模型当做是自己解决问题的工具&＃xff08;这个在哲学上应该叫工具主义&＃xff0c;不说对不对&＃xff0c;至少这个思想更符合日常工作的需求&＃xff09;&＃xff0c;而不是我要去用这个模型。
举个例子&＃xff0c;收到一个需求&＃xff0c;要做文本分类&＃xff0c;那我就要去了解问题&＃xff0c;例如看数据、看文档&＃xff0c;充分了解数据后设计解决方案&＃xff0c;来尽可能又好又快地解决问题&＃xff0c;我们的目标就很明确&＃xff0c;是一个特定的文本分类问题&＃xff0c;深度学习也好&＃xff0c;规则词典也罢&＃xff0c;我们要解决问题。
于是这里会引申出一个比较关键的能力&＃xff1a;自己手里到底有多少方法。首先&＃xff0c;方法不多&＃xff0c;只知道上面的模型的话&＃xff0c;是很难支持你为问题设计方案的&＃xff0c;因为设计方案是一个选择的过程&＃xff0c;没有足够的方法知识支撑&＃xff0c;何来选择。其次&＃xff0c;这个阶段我们了解问题的核心是找方法&＃xff0c;我们了解问题的方向其实就是套用方法的方向&＃xff0c;自己手里的方案是指导自己了解问题一个重要方向标&＃xff0c;如果简单规则这个方法你没有掌握&＃xff0c;你根本不会思考这个问题是不是一个规则就能解决。第三&＃xff0c;方法的多少和质量决定了你能解决问题的程度&＃xff0c;这个和集思广益思路一致&＃xff0c;多人想&＃xff0c;自然更容易想到更好的方法&＃xff0c;更多的方法支撑你是否能想到足够好的方法。
所以&＃xff0c;很多人问的一个问题&＃xff1a;为什么大家工作之后还要持续学习持续看论文&＃xff0c;答案很明显&＃xff0c;就是扩充自己的知识面&＃xff0c;以便解决更多更多复杂的问题&＃xff0c;这个点放在很多领域都是正确的。
回到小标题本身&＃xff0c;大家在成长的过程中&＃xff0c;要逐步从模型套用解脱出来&＃xff0c;不纠结于模型本身&＃xff0c;考虑问题的解决方法&＃xff0c;你会发现你成长了一大截。
扎心的话来了&＃xff1a;如果给定一个问题&＃xff0c;你张口就来一个方法&＃xff0c;这时候记得反思自己是不是只会这个方法。
从单一指标到综合效果
指标是评价一个问题解决的重要手段&＃xff0c;这点应该是毋庸置疑的&＃xff0c;但是评价一个问题解决的手段能局限在几个指标里&＃xff0c;而是应该多看几种甚至是为了观测某些问题情况去设计一些自己需要的指标。
现在有1个病人&＃xff0c;99个正常人&＃xff0c;现在我手里有一个判断人是否得病的手段&＃xff0c;结果是所有人都正常&＃xff0c;我们很容易算出准确率是99%&＃xff0c;明眼人很容易看出来这个99%里面充满了水分&＃xff0c;因为病人压根没检测出来&＃xff0c;于是我们还要进一步设计一些指标来表达这个问题&＃xff0c;于是我们设计了召回率&＃xff0c;召回率显示我们能找到的病人占比为0%&＃xff0c;于是轻松表达了这个问题。
这个问题的理解非常简单&＃xff0c;但是道理却很深刻&＃xff0c;我们需要明白的是&＃xff0c;指标不是我们算法的目标&＃xff0c;而是一个表达问题的方法是&＃xff0c;我们借助指标来了解自己的问题现状如何&＃xff0c;从而保证我们达到目标&＃xff0c;我们最终追求的其实是一个比较模糊的东西——“综合效果”。
综合效果是什么&＃xff1f;对于推荐系统&＃xff0c;可能是用户的点击率&＃xff0c;停留时间等&＃xff0c;对于对话系统&＃xff0c;可以是需求的满足率&＃xff0c;可以是和用户的平均多轮次数&＃xff0c;可以是对话任务的完成率&＃xff0c;我们是通过观测这些指标&＃xff0c;来判断我们需要怎么优化我们的方案&＃xff0c;例如点击率高停留时间低&＃xff0c;可能就要评估是不是要处理一下标题党&＃xff0c;点击率本身就不高&＃xff0c;是不是因为推荐的东西用户不喜欢等&＃xff0c;最终&＃xff0c;其实我们的综合效果是各种维度指标的全面提升&＃xff0c;当然这不容易&＃xff0c;但确实我们各个领域算法工程师所追求的。
另外需要讨论的两个关键点&＃xff0c;是指标标准和评测集&＃xff0c;这两个点直接影响的是指标的表达能力&＃xff0c;最终影响我们对问题的判断。
首先是指标标准&＃xff0c;举个例子&＃xff0c;文本分类&＃xff0c;什么叫做“天气”意图&＃xff0c;我们需要有一个尽可能明确清晰的边界去划定什么是天气&＃xff0c;或者什么不是天气&＃xff0c;只有这个判断清楚了&＃xff0c;指标才可能正确&＃xff0c;因此&＃xff0c;这值得我们花费很多时间来保证这个点。
然后是评测集&＃xff0c;由于大部分指标的计算来源于大量的数据&＃xff0c;即评测集&＃xff0c;因此在这里谈评测集&＃xff0c;是希望大家关注评测集的数量、分布、质量&＃xff0c;这些方面的合理性才能支撑指标的准确&＃xff0c;乃至对效果的评估。
因此回到问题&＃xff0c;单一指标到综合效果&＃xff0c;我们作为一名算法&＃xff0c;虽然面向的是指标优化&＃xff0c;但是我们最终希望得到的是综合效果比较好&＃xff0c;这要求我们把思路打开&＃xff0c;而又因为综合效果是依赖各种指标来表现的&＃xff0c;因此我们要关注指标的构成&＃xff0c;关键就是指标标准和评测集。
科研可能会让很多学生都关注于指标&＃xff0c;指标的提升能带来论文&＃xff08;真实&＃xff09;&＃xff0c;但实际应用中太关注于指标可能会把你带到沟里去。
从实现本身到可拓展性
开始我只是接受老师、领导给出的任务&＃xff0c;这个任务往往比较明确&＃xff0c;问题给到我&＃xff0c;甚至把解决方案都告诉我了&＃xff0c;然后按着写代码就完事了&＃xff0c;这个事情确实很简单&＃xff0c;一般按部就班的就能完成&＃xff0c;但逐步发现&＃xff0c;很多时候完成任务并不是任务本身&＃xff0c;很多时候还包含了很多没有在明面上。
前者其实是比较基本的开发能力&＃xff0c;写代码&＃xff0c;为了团队合作&＃xff0c;为了自己日后的维护&＃xff0c;代码要规范&＃xff0c;很多设计的细节需要考虑到&＃xff1a;
命名、注释是否具有可读性。
函数意识&＃xff0c;很多重用的、结构复杂的东西&＃xff0c;需要构造成类&＃xff0c;这个能力对于面向过程入门的python同学&＃xff0c;是非常需要培养的。
工程服务的一些常见操作需要学习到&＃xff0c;例如怎么向外提供服务、怎么热更新、怎么打日志等。
服务性能的考虑&＃xff0c;一些动不动上bert的同学&＃xff0c;需要考虑这些问题哈~
至于后者&＃xff0c;则是一个对解决问题更高的要求&＃xff0c;就是你能不能想出一个类似问题都能解决的方案。
不仅要学会打败一个人的方法&＃xff0c;还需要学习打败一万个人的方法。
小结
洋洋洒洒快3千字了&＃xff08;em...有一大部分是代码&＃xff09;&＃xff0c;是一些自己在算法策略上的一些新的思路和总结&＃xff0c;这些都有别于1年期、刚入门的自己&＃xff0c;这些是思维的提升和觉醒是非常有利于真实能力的提升&＃xff0c;模型固然是要学习提升&＃xff0c;但是今天聊的种种其实都在告诫我们&＃xff0c;不能局限于模型&＃xff0c;不能局限于模型&＃xff0c;不能局限于模型。
说个正事哈
由于微信平台算法改版&＃xff0c;公号内容将不再以时间排序展示&＃xff0c;如果大家想第一时间看到我们的推送&＃xff0c;强烈建议星标我们和给我们多点点【在看】。星标具体步骤为&＃xff1a;
&＃xff08;1&＃xff09;点击页面最上方“深度学习自然语言处理”&＃xff0c;进入公众号主页。
&＃xff08;2&＃xff09;点击右上角的小点点&＃xff0c;在弹出页面点击“设为星标”&＃xff0c;就可以啦。
感谢支持&＃xff0c;比心
。
投稿或交流学习&＃xff0c;备注&＃xff1a;昵称-学校&＃xff08;公司&＃xff09;-方向&＃xff0c;进入DL&NLP交流群。
方向有很多&＃xff1a;机器学习、深度学习&＃xff0c;python&＃xff0c;情感分析、意见挖掘、句法分析、机器翻译、人机对话、知识图谱、语音识别等。
记得备注呦
点击上面卡片&＃xff0c;关注我呀&＃xff0c;每天推送AI技术干货~
整理不易&＃xff0c;还望给个在看&＃xff01;
京公网安备 11010802041100号