# Kernel density estimation import numpy as np import matplotlib.pyplot as plt from scipy.stats import norm from sklearn.neighbors import KernelDensity # Code reference: http://scikit-learn.org/stable/auto_examples/neighbors/ # plot_kde_1d.html N = 2…

GA-BLX交叉-Gaussion变异 中的代码细节: 我写了一个GA的代码,在2005测试函数上一直不能得到与实验室其他同学类似的数量级的结果.现在参考其他同学的代码,发现至少有如下问题: 1.在交叉和变异的操作后,应对新产生的个体的每一维度有上下界限制: 2.交叉操作,随机在两个个体上进行交叉.若两个个体相同,则没有做实值交叉.之前的代码忽略了这个问题.新修改的代码中,若两个个体相同,则选择下一个个体进行交叉: 3.变异操作后,结果不一定更好.先留下来精英个体nRemain,再轮盘赌选择N-…

本周主要学习SVM 一. 内容概要 Large Margin Classification Optimization Objective(优化Objective(损失函数)) Large Margin Intuition(大边距的直观理解) Mathematics Behind Large Magin Classification(最大间距分类器背后的数学推导) Kernels Kernels 1 Kernels 2 SVMs in Practice Using An SVM 二.重点&难点 1…

本周内容较多,故分为上下两篇文章. 一.内容概要 1. Anomaly Detection Density Estimation Problem Motivation Gaussian Distribution Algorithm Building an Anomaly Detection System(创建异常检测系统) Developing and Evaluating an Anomaly Detection System Anomaly Detection vs. Supervised…

本周内容较多,故分为上下两篇文章. 本文为下篇. 一.内容概要 1. Anomaly Detection Density Estimation Problem Motivation Gaussian Distribution Algorithm Building an Anomaly Detection System(创建异常检测系统) Developing and Evaluating an Anomaly Detection System Anomaly Detection vs. Supe…

版权声明:本文为博主原创文章,转载请注明出处   机器学习的研究领域是发明计算机算法,把数据转变为智能行为.机器学习和数据挖掘的区别可能是机器学习侧重于执行一个已知的任务,而数据发掘是在大数据中寻找有价值的东西. 机器学习一般步骤 收集数据,将数据转化为适合分析的电子数据 探索和准备数据,机器学习中许多时间花费在数据探索中,它要学习更多的数据信息,识别它们的微小差异 基于数据训练模型,根据你要学习什么的设想,选择你要使用的一种或多种算法 评价模型的性能,需要依据一定的检验标准 改进模型的性能,有…

我仿照sk-learn 中 GaussionNB 的结构, 重写了该算法的轮子,命名为 MyGaussionNB, 如下: # !/usr/bin/python # -*- coding:utf-8 -*- """ Reimplement Gaussion naive Bayes algorithm as a practice """ # Author: 相忠良(Zhong-Liang Xiang) <ugoood@163.com>…

1. 异常检测 VS 监督学习 0x1:异常检测算法和监督学习算法的对比 总结来讲: . 在异常检测中,异常点是少之又少,大部分是正常样本,异常只是相对小概率事件 . 异常点的特征表现非常不集中,即异常种类非常多,千奇百怪.直白地说:正常的情况大同小异,而异常各不相同.这种情况用有限的正例样本(异常点)给有监督模型学习就很难从中学到有效的规律 0x2:常见的有监督学习检测算法 这块主要依靠庞大的打标样本,借助像DLearn这样的网络对打标训练样本进行拟合 0x3:常见的异常检测算法 基于模型的技…

神经网络构建好,训练不出好的效果怎么办?明明说好的拟合任意函数(一般连续)(为什么?可以参考http://neuralnetworksanddeeplearning.com/),说好的足够多的数据(https://en.wikipedia.org/wiki/Occam's_razor),仔细设计的神经网络都可以得到比其他算法更好的准确率和泛化性呢(当然不是我说的),怎么感觉不出来呢? 很直观,因为神经网络可以随意设计,先验假设较少,参数多,超参数更多,那模型的自由度就非常高了,精心设计对于新手就…

高斯混合模型的EM算法 混合高斯模型 高斯混合模型的概率分布可以写成多个高斯分布的线形叠加,即 \[ p(\mathbf x) = \sum_{k=1}^{K}\pi_k\mathcal N(\mathbf x\ | \ \mathbf \mu_k, \mathbf \Sigma_k) \] 引入一个\(K\)维的二值随机变量\(\mathbf z\), 采用"\(1\)-of-\(K\)"编码,其中一个特定的元素\(z_k\)等于\(1\),其余所有的元素都等于\(0\). 于是\(…