目前,做数据分析工作,基本人手Numpy,pandas,scikit-learn.而这些计算程序包都是基于python平台的,所以搞数据的都得先装个python环境...(当然,你用R或Julia请忽略本文) 在macOS上,默认安装有python 2.7,鉴于python2即将停止更新,如果没有大量的python2代码需要维护,就直接安装python3吧. 版本选择 做数据运算,流行的方式是直接下载Anaconda安装包,大概500M左右,各种依赖包(绑定了四五百个科学计算程序包),开发工具(…
很多人喜欢用Windows本地开发Hadoop程序,这里是一个在Windows下配置Hadoop的教程. 首先去官网下载hadoop,这里需要下载一个工具winutils,这个工具是编译hadoop用的,下载完之后解压hadoop文件,然后把winutils.exe放到hadoop文件的bin目录下面 然后在hadoop/etc/hadoop下修改以下文件: core-site.xml: <?xml version="1.0" encoding="UTF-8"…
为了让前面规划的互联网+数据平台能有效对电子商务数据进行管理及实现大数据统计功能,必须在平台上再增加一个MongDB-Engine:数据平台用户通过传入一种Context来指示MongoDB-Engine运算.与前面JDBC-Engine和Cassandra-Engine通过文本式传递指令不同的是:MangoDB没有一套像SQL或CQL这样的文本式编程语言.但MangoDB基本上都是通过Bson类型的参数进行运算的,Bson是个java interface: /** * An interface…
VUE开发请求本地数据的配置,早期的vue-lic下面有dev-server.js和dev-client.js两文件,请求本地数据在dev-server.js里配置,最新的vue-webpack-template 中已经去掉了dev-server.js和dev-client.js 改用webpack.dev.conf.js代替,所以 配置本地访问在webpack.dev.conf.js里配置即可.同时更新了config/index.js开发模式dev下几个配置: autoOpenBrowser:…
VUE开发请求本地数据的配置,早期的vue-lic下面有dev-server.js和dev-client.js两文件,请求本地数据在dev-server.js里配置,最新的vue-webpack-template 中已经去掉了dev-server.js和dev-client.js 改用webpack.dev.conf.js代替,所以 配置本地访问在webpack.dev.conf.js里配置即可.同时更新了config/index.js开发模式dev下几个配置: autoOpenBrowser:…
未使用router新版webpack.dev.conf.js配置本地数据访问:// 引入express 模块 const express = require('express') // 创建express对象 const app = express() // 引入请求文件 加载本地数据文件 const appData = require('../data.json') // 获取对应的本地数据 const seller = appData.seller const goods = appData…
工欲善其事必先利其器,在经过大量的理论学习以后,需要有一个本地的研发环境来进行练手.已经工作的可以不依赖于公司的环境,在家也可以随意的练习.而自学大数据的同学,也可以进行本地练习,大数据是一门偏实践的学科,在找工作之前进行一些实践操作,也更利于对大数据知识的理解. 本文将从头开始详细的记录整个大数据环境的搭建过程,本文所使用的笔记本电脑内存为16G,将使用CDH6.3.2管理整个大数据集群. 由于cloudera官网从2021年2月1日起全面移除的非订阅用户的下载链接,所以本文所有的安装包都已经…
在MacOs上配置hadoop和spark环境 Setting up Hadoop with Spark on MacOs Instructions 准备环境 如果没有brew,先google怎样安装brew 先uninstall老版本的Hadoop brew cleanup hadoop 然后更新homebrew formulae brew update brew upgrade brew cleanup 检查版本信息 brew info hadoop brew info apache-spa…
1. CD/ROM装载系统镜像2. 挂载设备3. 配置本地源4. 总结 有关YUM源及Linux系统三大软件管理方式,参照博客<CentOS系统三大软件管理>,笔记内链:CentOS系统三大软件管理.md 1. CD/ROM装载系统镜像 在安装操作系统时,已经使用CD/ROM装载了系统镜像.因此此时只需要挂载即可使用. 如果没有装载,重新装载系统镜像即可.同时需要注意:设备状态为,已连接或者启动时连接. 2. 挂载设备 上述过程已经装载了系统镜像,此时只需要挂载,即可使用. 或者通过SFTP,…
前后端分离的开发模式已经是目前前端的主流模式,至于为什么会前后端分离的开发我们就不做过多的阐述,既然是前后端分离的模式开发肯定是离不开前端的数据模拟阶段. 我们在开发的过程中,由于后台接口的没有完成或者没有稳定之前我们都是采用模拟数据的方式去进行开发项目,这样会使我们的前后端会同时的进行,提高我们的开发效率. 因为最近自己在自学 Vue 也在自己撸一个项目,肯定会遇到使用数据的情况,所以就想着如何在前端做一些 mock 数据的处理,因为自己的项目使用的是 vue/cli 3.0 与 vue/cl…
Windows 7上安装配置TensorFlow-GPU运算环境 1. 概述 在深度学习实践中,对于简单的模型和相对较小的数据集,我们可以使用CPU完成建模过程.例如在MNIST数据集上进行手写数字识别,我们可以使用CPU来完成,采用经典的LeNet-5模型只需要十几分钟就能完成(具体取决于电脑配置). 然而,为了达到更好的效果或者构建更复杂的模型,一般需要更大的数据集,例如经典的ImageNet数据集.假如使用CPU训练模型将显得无比吃力(将会花费很长长长长长时间),此时GPU就可以派上用场了…
最近学习一个vue-cli的项目,需要与后台进行数据交互,这里使用本地json数据来模仿后台数据交互流程.然而发现build文件夹下没有dev-server.js文件了,因为新版本的vue-webpack-template 中已经去掉了dev-server.js,取而代之的是webpack.dev.conf.js文件,所以可以在webpack.dev.conf.js里配置本地访问. 对比旧版本的build文件夹,新版本的build下少了dev-server.js和dev-client.js 旧版…
本文源自ioufev先生的博客<OPC和DCOM配置>(https://www.cnblogs.com/ioufev/p/9365919.html)及「geekc」先生的<OPC工作记录整理——第二篇(OPC客户端运行环境配置>(https://blog.csdn.net/u014801367/article/details/43058483),在此表示感谢!! 操作系统:win10专业版, 语言:java  环境:STS 采用的OPC服务器(仿真器):KepServerEx 6…
卷的原理图: 主机中的本地目录作为Docker容器内的持久存储卷装载,以便在主机和Docker容器之间共享数据.如果主机希望访问或定期备份在Docker容器内运行的DB服务器写入文件夹的数据或数据库,则此方法非常有用. 创建本地数据卷 #创建本地卷[root@tar1 ~]# docker volume create pgdata create : 后面写自定义卷名 创建并运行容器 [root@tar1 ~]# docker run -v pgdata:/var/lib/postgresql/d…
连接上一篇文章http://www.cnblogs.com/FBiOSBlog/p/5819418.html. 上一篇文章介绍了OC内部一些方法进行数据的本地存储,其中包括 NSUser类.Plist文件.解归档.手动沙盒存储.这里将继续介绍其他的存储方式.本文主针对Sqlite的存储做一点介绍. 不管是CoreData还是大部分其他的第三方DB,因为数据的轻量级,都是基于sqlite实现存储的.目前使用的主流是sqlite3,为了帮助更好的理解(我自己也在初学 阶段),我们先从最基本的数据操作…
web前端开发IDE一直喜欢用WebStorm,这里简单介绍如何用WebStorm搭建一个Node.js开发环境. 首先,需要在本地安装好node.js,以及npm包管理工具.你也可以吧node.js配置到系统的环境变量中更方便. 然后,启动WebStorm,打开Edit Configurations窗口,可以点击工具栏Run—>Edit Configurations,也可以右上角 打开服务配置窗口,在左侧添加服务,右侧配置属性. 回到入口文件:mian.js,这里跟模块管理工具require.…
概述 首先本文只是对官方文档(中文,英文)的一个提炼,详细的安装说明还请仔细阅读官方文档. 虽然Service Fabric的官方名称往往被加上Azure,但是实际上(估计很多人不知道)Service Fabric可以安装到本地数据中心或者任意公有云上,这不官方文档就有一章专门讲如何安装到AWS的内容. 所以现在为了区分,一般把在Azure上提供的开箱即用的PaaS称之为Azure Service Fabric,而把本地安装的称之为Service Fabric Standalone. 同时,Se…
Mac配置本地hadoop 这学期要学习大数据,于是在自己的mac上配置了hadoop环境.由于Mac是OSX系统,所以配置方法跟Linux类似 一.下载hadoop 从官网下载压缩包. $ll total 598424 -rwxrwxrwx@ 1 fanghao staff 292M 3 4 23:16 hadoop-3.0.0.tar.gz 解压 tar -xzvf hadoop-3.0.0.tar.gz 二.设置环境变量 vim ~/.bash_profile export HADOOP_…
初识PYTHON Python(英国发音:/ˈpaɪθən/ 美国发音:/ˈpaɪθɑːn/), 是一种面向对象的解释型计算机程序设计语言,由荷兰人Guido van Rossum(吉多·范罗苏姆)于1989年发明,第一个公开发行版发行于1991年.Python是纯粹的自由软件, 源代码和解释器CPython遵循 GPL(GNU General Public License)协议.Python具有丰富和强大的库.它常被昵称为胶水语言,能够把用其他语言制作的各种模块(尤其是C/C++)很轻松地联结…
开启python之路 内容概要: 一.python介绍 二.安装 三.第一个python程序 四.变量和字符编码 五.用户输入 六.数据类型 七.一切皆对象 八.数据运算 九.if else 流程判断 十.while循环 十一.for循环 十二.break.continue 一.python介绍 python简介: Python是著名的Guido van Rossum(吉多·范罗苏姆)在1989年圣诞节期间,为了打发无聊的圣诞节而编写的一个编程语言,之所以选中Python(大蟒蛇的意思)作为该编…
如何学会在合适的场景使用合适的技术方案,这值得思考. 由于本地环境的使用,所以搭建一个本地的Redis集群,本篇讲解Redis主从复制集群的搭建,使用的平台是Windows,搭建的思路和Linux上基本一致! (精读阅读本篇可能花费您15分钟,略读需5分钟左右) Redis主从复制简单介绍 为了使得集群在一部分节点下线或者无法与集群的大多数节点进行通讯的情况下, 仍然可以正常运作, Redis 集群对节点使用了主从复制功能: 集群中的每个节点都有 1 个至 N 个复制品(replica), 其中…
 更正了顺序,之前不知道怎么回事,内容顺序乱了 力求完美.详细,所以希望懂的人留言指点一下. 目前已经开始添加原理解释,希望大家能分享一些gcc gdb C语言等方面优秀链接 后续会慢慢增添内容,修正不足.  希望这篇文章能带大家入坑. Ps.2019年消息:VSCODE已支持全局配置,C/Cpp插件也支持UI界面设置.     具体请看官网或利用搜索引擎寻找资料 请耐心看完,因为这能让你了解什么是IDE.调试.运行和命令行以及系统和程序之间的关系 如果只是想找三个文件的配置方法,请点下面导航.…
本地搭建Node环境并起RESTful Api服务 课程介绍看这里:https://www.cnblogs.com/zhangran/p/11963616.html 项目github地址:https://github.com/hellozhangran/happy-egg-server 说明:本想分两章讲环境搭建和起api服务,但操作下来确实过于简单.但考虑到整个系列的完整性也不能不讲,那就把这两篇合二为一吧 本地搭建Node环境 开发环境主要是指Node.MongoDB.本人是用的mac电脑,…
技术背景 Github和Gitee(码云)是最常见的基于git的代码托管平台,现在基于svn的代码管理仓库已经相对比较少见了,大部分还都是企业内部的代码仓.但是基于开源的Gitlab,我们在企业内网也可以立马搭建一个代码托管平台,并且自带集成有各种代码自动化测试工具,实现持续集成和持续测试. 关于Docker容器的使用,这里我们主要是为了规避不同的OS发行版所带来的安装困扰,而Gitlab官方也提供了Docker的支持.也就是说,只要本地环境中有Docker,就可以很方便的去构造一个本地的Git…
较之传统通过App.config和Web.config这两个XML文件承载的配置系统,.NET Core采用的这个全新的配置模型的最大一个优势就是针对多种不同配置源的支持.我们可以将内存变量.命令行参数.环境变量和物理文件作为原始配置数据的来源,如果采用物理文件作为配置源,我们可以选择不同的格式(比如XML.JSON和INI等) .如果这些默认支持的配置源形式还不能满足你的需求,我们还可以通过注册自定义ConfigurationSource的方式将其他形式数据作为我们的配置来源. [ 本文已经同…
都知道redhat不收费,但是其yum服务是要收费的,不想出钱那就自己配置yum源就好了. 首先,博主之前也没用过redhat,第一次用yum装包的时候提示什么没注册之类的,balaba一大堆,然后就去网上查相关资料. 但是,看到的最多的就是让把redhat自带的yum全部卸掉,不检查依赖的卸掉,然后再wget安装...都是扯淡!浪费别人时间,搞不好给别人造成数据损失! 经过请教大神得出正确的做法,一般来说配置3个源就够了: 1.本地yum源,就是你本地的ISO 2.配置163源 3.配置epe…
1.下载客户端 通过http://maven.apache.org/download.cgi#下载Maven本地客户端. 我下载的是apache-maven-3.2.5-bin.zip,在D盘解压. 2.安装客户端 首先确保jdk已经安装完成,在命令行输入java –version,出现下图则表明jdk已经安装. 之后就是配置maven的环境变量: 1.添加MAVEN_HOME: 2.在Path中加入%MAVEN_HOME%\bin即可,如下图. 完成后命令行输入mvn –v,出现下图则表明ma…
macOS Sierra 11.12 已经帮我们预装了 Ruby.PHP(5.6).Perl.Python 等常用的脚本语言,以及 Apache HTTP 服务器.由于 nginx 既能作为 HTTP 服务器也能作为反向代理服务器,且配置简单,这里我们用 nginx 代替 Apache 作为我们默认的 HTTP 服务器.喜欢用 Apache 的同学可以移步:The Perfect Web Development Environment for Your New Mac 下面是我在 macOS S…
请重视并正确配置sqlserver实例及数据库的参数,一般化的配置推荐如下: 1.数据和日志文件的初始大小分别设置为10G和2G,均设置为按照固定200M大小增长,不限制最大值: 2.sever实例设置最大并行度为1(最大不要超过4),或并行的开销阈值为20:   没有更改sqlserver的缺省配置,在生产环境经常碰到系统响应慢(甚至hung的情况),日志扩展与并行计算引起线程交互的等待事件如下:…
Android本地数据存储复习 Android无论是应用层还是系统层都需要在本地保存一些数据,尤其在应用层中使用的就更为普遍,大体有这么几种:SharedPreference,file,sqlite数据库. SharedPreference 用于保存少量数据,如应用程序的各种配置信息.本质是一个Map对象,对应着key-value键值对. SharedPreference本身是一个接口,在代码中使用getSharedPreference获取实例,该实例提供"读"的方法.而"写…