python风控评分卡建模和风控常识(博客主亲自录制视频教程) https://study.163.com/course/introduction.htm?courseId=1005214003&utm_campaign=commission&utm_source=cp-400000000398149&utm_medium=share 原文链接 https://www.cnblogs.com/nolonely/p/7008952.html 各种损失函数 损失函数或代价函数来度量给定

过拟合 过拟合相当于一个人只会读书,却不知如何利用知识进行变通. 相当于他把考试题目背得滚瓜烂熟,但一旦环境稍微有些变化,就死得很惨. 从图形上看,类似下图的最右图: 从数学公式上来看,这个曲线应该是阶数太高的函数,因为一般任意的曲线都能由高阶函数来拟合,它拟合得太好了,因此丧失了泛化的能力. 用Learning curve 检视过拟合 首先加载digits数据集,其包含的是手写体的数字,从0到9: # 加载数据 digits = load_digits() X = digits.data y

原文链接:https://developers.google.com/machine-learning/crash-course/reducing-loss/ 为了训练模型,需要一种可降低模型损失的好方法.迭代方法是一种广泛用于降低损失的方法,而且使用起来简单有效. 1- 迭代方法 用于训练模型的迭代试错过程(迭代方法): 迭代策略可以很好地扩展到大型数据集,因此在机器学习中的应用非常普遍. “模型”部分将一个或多个特征作为输入,然后返回一个预测作为输出. “计算损失”部分是模型将要使用的损失函

一.基于Region Proposal(候选区域)的深度学习目标检测算法 Region Proposal(候选区域),就是预先找出图中目标可能出现的位置,通过利用图像中的纹理.边缘.颜色等信息,保证在选取较少窗口(几千个甚至几百个)的情况下保持较高的召回率(IoU,Intersection-over-Union). 图1  IoU定义 Region Proposal方法比传统的滑动窗口方法获取的质量要更高.比较常用的Region Proposal方法有:SelectiveSearch(SS,选择

在介绍Faster R-CNN之前,先来介绍一些前验知识,为Faster R-CNN做铺垫. 一.基于Region Proposal(候选区域)的深度学习目标检测算法 Region Proposal(候选区域),就是预先找出图中目标可能出现的位置,通过利用图像中的纹理.边缘.颜色等信息,保证在选取较少窗口(几千个甚至几百个)的情况下保持较高的召回率(IoU,Intersection-over-Union). 图1  IoU定义 Region Proposal方法比传统的滑动窗口方法获取的质量要更

随着人工智能技术的火热,越来越多的年轻学者正准备投身其中,开启自己的研究之路.和所有其他学科一样,人工智能领域的新人总会遇到各种各样的难题,其中不仅有研究上的,也有生活方面的.MIT EECS 在读博士.前 Vicarious AI 员工 Tom Silver 近日的一篇文章或许对你有所帮助. 我的一个朋友最近正要开始人工智能的研究,他问及我在 AI 领域近两年的研究中有哪些经验教训.本文就将介绍这两年来我所学到的经验.其内容涵盖日常生活到 AI 领域中的一些小技巧,希望这可以给你带来一些启发.

废话不多说,上车吧,少年 paper链接:Fast R-CNN &创新点 规避R-CNN中冗余的特征提取操作,只对整张图像全区域进行一次特征提取: 用RoI pooling层取代最后一层max pooling层,同时引入建议框信息,提取相应建议框特征: Fast R-CNN网络末尾采用并行的不同的全连接层,可同时输出分类结果和窗口回归结果,实现了end-to-end的多任务训练[建议框提取除外],也不需要额外的特征存储空间[R-CNN中这部分特征是供SVM和Bounding-box regres

目录 1. 前言 2. R-CNN 2.0 论文链接 2.1 概述 2.2 pre-training 2.3 不同阶段正负样本的IOU阈值 2.4 关于fine-tuning 2.5 对文章的一些思考 3. SPP-Net 3.0 论文链接 3.1 概述 3.2 一次性full-image卷积 3.3 Spatital Pyramid Pooling 3.4 多尺度训练与测试 3.5 如何将原图的proposal映射到到feature map上 3.6 SPP-Net的一些不足 4. Fast

Coursera吴恩达<优化深度神经网络>课程笔记(1)-- 深度学习的实用层面 1. Train/Dev/Test sets  训练集(Training sets).验证集(Development sets).测试集(Test sets) 之前人们通常设置Train sets和Test sets的数量比例为70%和30%.如果有Dev sets,则设置比例为60%.20%.20%,分别对应Train/Dev/Test sets.这种比例分配在样本数量不是很大的情况下,例如100,1000,1

迭代方法图(图 1)包含一个标题为“计算参数更新”的华而不实的绿框.现在,我们将用更实质的方法代替这种华而不实的算法. 假设我们有时间和计算资源来计算 w1 的所有可能值的损失.对于我们一直在研究的回归问题,所产生的损失与 w1 的图形始终是凸形.换言之,图形始终是碗状图,如下所示: 图 2. 回归问题产生的损失与权重图为凸形. 凸形问题只有一个最低点:即只存在一个斜率正好为 0 的位置.这个最小值就是损失函数收敛之处. 通过计算整个数据集中 w1 每个可能值的损失函数来找到收敛点这种方法效率太

步骤:1.build_head()函数: 构建CNN基层网络图像被缩放16倍2.build_rpn()函数: 在feature map上生成box的坐标和判断是否有物体 generate_anchors:生成9个坐标框(思想:先定义一个基准框(0,0,16,16),因为经过多层卷积池化之后,feature map上一点的感受野对应到原始图像就会是一个区域,这里设置的是16,也就是feature map上一点对应到原图的大小为16x16的区域根据基准框生成一个中心坐标长宽为( (16,16,7.5

之前感觉研究的还是不够透彻,这次彻底从头到尾研究一下. R-CNN系列 R-CNN 本文发表于2014年. 背景及整体框架 背景:将CNN在图像分类领域的成功(2012年)应用于目标检测上面.检测问题:一种方式是使用滑窗检测器,即CNN.在当时,在整幅图像上做滑窗检测有技术难题,因此没有采用.而是使用了一种叫recognition using region的模型,在之前被证明有效.在测试阶段,会从图像提取约2000个候选框,并使用CNN进行特征提取,使用affine image warping技术

摘要: 本文是通过Keras实现深度学习入门项目——数字手写体识别,整个流程介绍比较详细,适合初学者上手实践. 对于图像分类任务而言,卷积神经网络(CNN)是目前最优的网络结构,没有之一.在面部识别.自动驾驶.物体检测等领域,CNN被广泛使用,并都取得了最优性能.对于绝大多数深度学习新手而言,数字手写体识别任务可能是第一个上手的项目,网络上也充斥着各种各样的成熟工具箱的相关代码,新手在利用相关工具箱跑一遍程序后就能立刻得到很好的结果,这时候获得的感受只有一个——深度学习真神奇,却没能真正了解整个

keras绘制损失函数曲线 # -*- coding: utf-8 -*-'''Trains a simple deep NN on the MNIST dataset.Gets to 98.40% test accuracy after 20 epochs(there is *a lot* of margin for parameter tuning).2 seconds per epoch on a K520 GPU.''' from __future__ import print_func

本博客是针对Andrew NG在Coursera上发布的Machine Learning课程SVM部分的学习笔记. 目录 前言 最优化目标(Optimization Objective) 最大化边界的直觉(Large Margin Intuition) 最大化边界分类的数学原理(Mathematics Behind Large Margin Classification) 核(Kernel) 实际使用SVM的技巧 前言 相比logistic regression和neural network,S

示例代码托管在:http://www.github.com/dashnowords/blogs 博客园地址:<大史住在大前端>原创博文目录 目录 一. 上手TensorFlow.js 二. 使用TensorFlow.js构建卷积神经网络 卷积神经网络 搭建LeNet-5模型 三. 基于迁移学习的语音指令识别 推荐课程 TensorFlow是Google推出的开源机器学习框架,并针对浏览器.移动端.IOT设备及大型生产环境均提供了相应的扩展解决方案,TensorFlow.js就是JavaScri

小白的经典CNN复现系列(一):LeNet-1989 之前的浙大AI作业的那个系列,因为后面的NLP的东西我最近大概是不会接触到,所以我们先换一个系列开始更新博客,就是现在这个经典的CNN复现啦(｡･ω･｡) 在开始正式内容之前,还是有些小事情提一下,免得到时候评论区的dalao们对我进行严格的批评教育······ 首先呢,我会尽可能地按照论文里面的模型参数进行复现,论文里面说的什么我就写什么.但是由于我本人还是个小白,对于有些算法(比如什么拟牛顿法什么的)实在是有点苦手,而且CNN也基本上就只

一.什么是聚类算法? 1.用于发现共同的群体(cluster),比如:邮件聚类.用户聚类.图片边缘. 2.聚类唯一会使用到的信息是:样本与样本之间的相似度(跟距离负相关) 给定N个训练样本(未标记的){x 1 , . . . , x N },同时给定结果聚类的个数K 目标:把比较"接近"的样本放到一个cluster里,总共得到K个cluster 二.不同场景的判定内容 图片检索:图片内容相似度 图片分割:图片像素(颜色)相似度 网页聚类:文本内容相似度 社交网络聚类:(被)关注人群,喜

原创博文,转载请注明出处! 1.ROC曲线介绍 ROC曲线适用场景 二分类任务中,positive和negtive同样重要时,适合用ROC曲线评价 ROC曲线的意义 TPR的增长是以FPR的增长为代价 2.ROC曲线绘制 纵坐标为TPR TPR(True Positive Rate)真正确率,即模型正确识别正例的比例,TPR=TP/(TP+FN) 横坐标为FPR FPR(False Positive Rate)假正确率,即模型错误将反例识别为正例的比例,FPR=FP/(FP+TN) ROC曲线的

import tensorflow as tf from sklearn.datasets import load_digits #from sklearn.cross_validation import train_test_split from sklearn.model_selection import train_test_split from sklearn.preprocessing import LabelBinarizer # load data digits = load_di