这两部分内容比较少,都是直觉上的例子和非正式的定义,当然这本书中绝大多数定义都是非正式的,但方便理解.后面深入之后会对这两个章节有详细的阐述.…

最近还没更完OpenCV又开了新坑,谁教machine learning处在紧急又重要的地位呢.更新的内容总结自Pattern Recognition and Machine Learning by Christopher M. Bishop,英文书哪里都好,不过有时候表达一个意思要写好大一段啊,所以内容上只保留了精华部分.考虑应该做ML通用英文,所以没有翻译,文章中一些重要的“请读者证明”和练习用的Matlab代码也会一并更新. Training phase (learning phase)…

…

…

虽然学过Machine Learning和Probability今天看着一part的时候还是感觉挺有趣,听惊呆的,尤其是Bayesian Approach.奇怪发中文的笔记就很多人看,英文就没有了,其实我觉得英文的写得更好呀...囧...一边看一边写一边实现,好慢,求同道中人啊...…

啊啊啊,竟然不支持latex,竟然HTML代码不能包含javascript,代码编辑器也不支持Matlab!!!我要吐槽博客的编辑器...T_T只能贴图凑合看了,代码不是图,但这次为了省脑细胞,写的不简洁,凑合看吧... numPoints = ; lnlambda = [-Inf - ]; M = ; % [, , , ]; x = linspace(,); % gt data for plotting t = sin(*pi*x); ttest = t + normrnd(,0.2, siz…

网易公开课,第10,11课 notes,http://cs229.stanford.edu/notes/cs229-notes5.pdf   Model Selection 首先需要解决的问题是,模型选择问题,如何来平衡bais和variance来自动选择模型?比如对于多项式分类,如何决定阶数k,对于locally weighted regression如何决定窗口大小,对于SVM如何决定参数C For instance, we might be using a polynomial regre…

学习笔记之scikit-learn - 浩然119 - 博客园 https://www.cnblogs.com/pegasus923/p/9997485.html 3. Model selection and evaluation — scikit-learn 0.20.3 documentation https://scikit-learn.org/stable/model_selection.html#model-selection Accuracy paradox - Wikipedia…

Model selection模型选择 ML中的一个重要任务是模型选择,或使用数据为给定任务找到最佳的模型或参数. 这也称为调优. 可以对诸如Logistic回归的单独Estimators进行调整,或者对包括多个算法,特征和其他步骤的整个Pipeline进行调整. 用户可以一次调整整个Pipeline,而不必单独调整Pipeline中的每个元素. MLlib支持使用CrossValidator和TrainValidationSplit等工具进行模型选择.这些工具需要以下items:    Est…

Regularization and model selection 假设我们为了一个学习问题尝试从几个模型中选择一个合适的模型.例如,我们可能用一个多项式回归模型hθ(x)=g(θ0+θ1x+θ2x2+-θkxk),我们需要设定一个合适的阶数k,怎样才能决定这个阶数k,以使得最终模型的bias与variance之间能够达到某种平衡,或者,在locally weighted regression 中,我们如何确定参数τ,以及在ℓ1-regularized 的SVM中,如何确定参数C. 在为某个l…