在hadoop下创建文件夹 bin/hdfs dfs -mkdir -p /usr/hadoop/spark/ touch wc.input  写一些文本进去. 上传到hdfs上  bin/hdfs dfs -put wc.input /usr/hadoop/spark/ 查看是否上传成功  bin/hdfs dfs -text  /usr/hadoop/spark/wc.input 检测hdfs是否脱离安全模式 [root@hadoop-spark hadoop]# bin/hdfs dfsa…
这篇文章主要介绍了使用hadoop的API对HDFS上的文件访问,其中包括上传文件到HDFS上.从HDFS上下载文件和删除HDFS上的文件,需要的朋友可以参考下hdfs文件操作操作示例,包括上传文件到HDFS上.从HDFS上下载文件和删除HDFS上的文件,大家参考使用吧 复制代码 代码如下:import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.*; import java.io.File;import ja…
这篇文章主要介绍了使用hadoop的API对HDFS上的文件访问,其中包括上传文件到HDFS上.从HDFS上下载文件和删除HDFS上的文件,需要的朋友可以参考下hdfs文件操作操作示例,包括上传文件到HDFS上.从HDFS上下载文件和删除HDFS上的文件,大家参考使用吧 复制代码 代码如下:import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.*; import java.io.File;import ja…
需求:把a服务器上mysql数据迁移到b服务器上mysql中. 1.下载datax:  https://github.com/alibaba/DataX 2.解压tar -zxvf datax.tar.gz 3.编辑作业文件 diag.json { "job": { "content": [ { "reader": { "name": "mysqlreader", "parameter"…
本机执行 python rogue_mysql_server.py 目标机器上连接本机数据库 mysql -u root -p -h 本机IP mysql -h 192.168.250.132 -uroot -p --enable-local-infile 本机即可读取到目标机器上的passwd文件 修改读取文件 其它利用方式 后话 至于如果在目标机器上连接本机mysql----比如phpmyadmin…
从PCI上读取数据 线程和定时器效率 线程: mythread=AfxBeginThread(StartContinuous,(LPVOID)1,THREAD_PRIORITY_NORMAL,0,CREATE_SUSPENDED);  mythread->ResumeThread(); UINT StartContinuous(LPVOID pParam) { HWND hWnd=(HWND) pParam;  int len=0;  FILE *fp; i=0;  while(threaden…
mysql for windows(服务器)上的配置安装 **** 下载 官网网址:https://www.mysql.com/downloads/ 选择左上角Community 再选择MySQL Community Server,点击DOWNLOAD进去之后往下滑就能看到下载项啦. 配置 将zip文件解压之后,可以将文件夹命名,放到任意你觉得合适的位置.我这边是C:\User\Administrator\Downloads\mysql\mysql-8.0.0-dmr-winx64. 完成上述步…
mysql全局权限账户%登录不上ERROR 1045 (28000): Access denied for user 'mhz'@'localhost' (using password: YES) 解决方法: 创建两个相同名的账号,一个主机名为:localhost,一个为:%,如下: 之后,该问题决绝. 同一个账户 要同时存在%帐号或者localhost帐号时, %帐号才起作用…
基于Python 从mysql表读取千万数据实践   by:授客 QQ:1033553122 场景:   有以下两个表,两者都有一个表字段,名为waybill_no,我们需要从tl_waybill_bar_record表读取1000w条唯一的waybill_no,然后作为INSERT SQL语句的一部分,填充到ts_order_waybill的waybill_no字段中 tl_waybill_bar_record ts_order_waybill 另外tl_waybill_bar_record表…
mysql主从模式下在主库上的某些操作不记录日志的方法 需求场景: 在主库上的需要删除某个用户,而这个用户在从库上不存在(我在接手一个业务的时候,就遇到主从架构用户授权不一致的情况,主库比较全,而从库只创建了复制和只读账号). 个人建议,在一个集群架构(姑且把主从复制也称为集群吧),端口.用户名.密码.权限都要保持一致,这样,在切换的时候,就不用考虑权限问题.否则切换了,但是因为权限问题, 导致连接报错,不值得自己给自己挖坑. 具体说明如下: set sql_log_bin=0;的作用和目的:禁…