这里面我们介绍一下python中操作mangodb的第三方库pymongo的使用,以及简单的使用requests库作爬虫.人情冷暖正如花开花谢,不如将这种现象,想成一种必然的季节. pymongo的安装及前期准备 一.mangodb的安装以及启动 测试机器:win10, mangodb版本v3.4.0,python版本3.6.3. mangodb的安装目录:D:\Database\DataBase\Mongo.数据的存放目录:E:\data\database\mango\data.首先我们启动m…
#读csv,excel,json数据 with open('E:\\test\\xdd.csv','r') as f: for line in f.readlines(): print(line) import pandas df = pandas.read_csv('E:\\test\\xdd.csv') print(df) import pandas df = pandas.read_excel('E:\\test\\aa.xls') print(df) import json with o…
前言 在项目中利用Dapper将JSON数据存储到MySQL数据库,结果发现JSON数据中的中文乱码,特此记录,希望对存储JSON的童鞋能有所帮助,文中若有错误之处,还望批评指正. Dapper获取JSON数据乱码(MySQL) 为了引出最终问题出在什么地方,我们重头开始进行讲解,首先我们给出如下测试实体以及在数据库中的表,如下: public class Test { public int Id { get; set; } public string Data { get; set; } }…
1.前言 上次讲了简单的JavaBean和json格式之间的转换,代码很简单,但是实际过程中,往往用到的JavaBean都是比较复杂的,其他的字段还好,如果JavaBean中包含了date类型的字段,就会比较麻烦,今天我们久就来讲一下,date类型的字段该如何操作. 2.含有date类型的JavaBean和json之间的转换 1)首先,我们写一个含有date类型的JavaBean public class Student { private String name; private Intege…
背景: 前段时间,业务需要,为了快速让解析的Excel入库,所以把不是很确定的字段全部设置成了TEXT. 今天需要进行表结构优化,把字段长度控制在合适的范围,并尽量不使用TEXT类型. -- 计算长度select LENGTH(CAST(fileName AS CHAR)) from files; select MAX(LENGTH(CAST(fileName AS CHAR))) from files; select LENGTH(CAST(fileName AS CHAR)) as le f…
代码: StringBuilder sb = new StringBuilder(); sb.append(" insert into uosdetailfile ("); sb.append(" filename, "); sb.append(" content,"); sb.append(" addtime "); sb.append(" ) values ("); sb.append(" '…
<--------------主函数-------------------> from pymongo import MongoClientfrom bson.objectid import ObjectIdfrom read_json import read def mongoclient(): client = MongoClient('127.0.0.1', 27017) db = client.test collection = db.test # collection.insert(…
AFHTTPRequestOperationManager *manager = [AFHTTPRequestOperationManager manager]; manager.responseSerializer.acceptableContentTypes = [NSSet setWithObject:@"text/html"]; 1:优先让服务器做好返回类型适配 2:服务器不做的话, 在程序中再加上上面的代码. 把类型加上.…
直接上代码,每行代码后面都有注释 import urllib.request import urllib import re import time import random import socket import threading import redis r = redis.Redis(host='192.168.60.112', port=6379,db=0,charset='utf-8')#换成自己的IP # 抓取代理IP ip_totle = [] for page in ran…
var root=$("#side-menu"); $(menuData).each(function(i,n){ var top1Li=$("<li></li>"); if(n.hasChildren){ top1Li.append("<a href='#'><i class='fa fa-th-large'></i> <span class='nav-label'>"+n…