1>场景 项目中需要从数据库中导出100万行数据,以excel形式下载并且只要一张sheet(打开这么大文件有多慢另说,呵呵). ps:xlsx最大容纳1048576行 ,csv最大容纳1048576行,xls最大容纳65536行,但是存放相同的数据量 文件大小排序:xls>csv>xlsx :xls是biff8的二进制文件,就是个B+树而xlsx是 xml的zip压缩文件. 2>常规做法 按照平常的做法,先到数据库中取数然后循环组装成一个list,然后用excel工具(我用的是P…
完成一个移动应用开发,前端提供页面展示,当它要与一些业务系统进行交互,又该如何实现呢?2016AppCan移动开发者大会上,AppCan前端开发经理杨庆,分享了AppCan轻松实现移动应用数据服务的方法. AppCan前端开发经理杨庆作演讲 传统对接方式无法满足企业移动化需求 如今,越来越多的企业转型移动化,但在移动化过程中,会面临很多复杂的问题.例如企业中已具备一些OA.CRM的PC系统,想让这些系统移动化,重新开发一套移动版,成本非常高. 传统的对接方式,是使用java.PHP等等,但是通过…
先贴原来的导入数据代码: 8 import os os.environ.setdefault("DJANGO_SETTINGS_MODULE", "www.settings") ''' Django 版本大于等于1.7的时候,需要加上下面两句 import django django.setup() 否则会抛出错误 django.core.exceptions.AppRegistryNotReady: Models aren't loaded yet. ''' im…
JAVA 大数据内存耗用测试import java.lang.management.ManagementFactory;import java.lang.management.MemoryMXBean; public class MemoryTest { public static void main(String[] args) throws InterruptedException { int row = 50_000; int column = 20; String[] data = ne…
工作中遇到的问题,先记录一下,方便以后查看 存在两张表,user表和friend表 user表部分字段,如上图 friend表部分字段,如上图 往friend表插入千条数据,friend表中的userId值是固定的,对应的friendId是从user表中获取 实现方案: 1.游标存储: -- 在windows系统中写存储过程时,如果需要使用declare声明变量,需要添加这个关键字,否则会报错. delimiter // drop procedure if exists insertUserFr…
先贴原来的导入数据代码: 8 import os os.environ.setdefault("DJANGO_SETTINGS_MODULE", "www.settings") ''' Django 版本大于等于1.7的时候,需要加上下面两句 import django django.setup() 否则会抛出错误 django.core.exceptions.AppRegistryNotReady: Models aren't loaded yet. ''' im…
首先我们说一下大查询会不会把内存打爆? 比如说主机内存有5g,但是我们一个大查询的数据有10g,这样会不会把内存打爆呢? 答案:不会 为什么? 因为mysql读取数据是采取边读边发的策略 select * from t1 这条语句的流程是这样的 1.读取数据放入net_buffer中,net_buffer大小是由net_buffer_length控制 2.net_buffer放满了以后,调用网络栈发送数据到客户端 3.如果发送成功就清空net_buffer,继续读取数据放入net_buffer中…
方法一:存储过程 1.存储过程如下: delimiter $$ DROP PROCEDURE IF EXISTS data CREATE PROCEDURE data(in i int) BEGIN DO INSERT INTO goods VALUES('','锤子手机',i); ; END WHILE; end $$ ; call proll(@id); 2.执行存储过程前将表中的数据清空 3)存储过程执行的时间需要:0.312秒 4)执行存储过程后,查看表中数据,如下图: 问题:goods…
c/c++指针从浅入深介绍--基于数据内存分配的理解(上) 本文是对自我学习的一个总结以及回顾,文章内容主要是针对代码中的数据在内存中的存储情况以及存储中数值的变化来对指针进行介绍,是对指针以及数据在内存中数值是如何变化的,为什么需要使用到指针,为什么有时候使用指针很容易会报错,怎么去使用指针才能让错误尽可能的减少等知识做一个初步的介绍以及分析.文章中的每个知识点都会有相应的案例代码及其代码数据所占内存的变化情况分析,然而言语的抽象表达能力是比较晦涩的,所以最好是结合文中图像示例来对其进行理解.…
百万级运维经验一:Mongodb和Redis数据不能放在同一个服务器 一开始时,为了省服务器,把Mongodb和Redis放在一个服务器上.网站每到高峰期都特别卡,还经常出现502.找了很久的原因,发现硬盘的写数据很大,IOPS也很高,排查了很多原因都没找到.然后再仔细研究监控,发现写硬盘的操作很有规律,每隔几分钟就有一次频繁的写硬盘,联想到Redis同步数据到硬盘的间隔就是几分钟,所以开始怀疑是Redis引起的.于是加了一台服务器,把Redis单独放在那里,发现网站瞬间快了,502问题也不再出…