php特级课---2、网站大数据如何存储

一、总结

一句话总结:

mysql主从,分库分表,mysql分区,mysql集群,Nosql

1、mysql主从服务器各自的功能是什么?

增删改,主服务器
查询,备份,从服务器

2、mysql能够负担得起几亿用户的访问么?

可以的,优化做好就好,比如淘宝,主从服务器,分库分表,数据库的负载均衡

3、mysql分库分表是怎么弄?

垂直分表,大表分成小表,每个小表几个字段或者几十个字段
水平分表,行数太多了,可以分成多个表

4、mysql数据库过度分库分表的缺点是什么,怎么解决?

维护成本太大
解决:mysql分区技术

5、mysql分区技术是什么?

名字是一样的,物理存储地址是一样的:其实相当于mysql给我们的分库分表做了维护

名字是一样的,物理存储地址是一样的

其实相当于mysql给我们的分库分表做了维护

水平分区技术将一个表拆成多个表,比较常用的方式
是将表中的记录按照某种Hash算法进行拆分,简单的
拆分方法如取模方式。同样,这种分区方法也必须对
前端的应用程序中的SQL进行修改方可使用。而且对
于一个SQL,它可能会修改两个表,那么你必须得写
成2个SQL语句从而可以完成一个逻辑的事务,使得程
序的判断逻辑越来越复杂,这样也会导致程序的维护
代价高,也就失去了采用数据库的优势。因此,分区
技术可以有力地避免如上的弊端,成为解决海量数据
存储的有力方法

6、mysql集群的作用是什么?

冗余备份

7、Nosql-Mongodb里面存储的数据的形式是怎样的?

是类似json的bjson格式

是类似json的bjson格式,

MongoDB是一个基于分布式文件存储的数据库。由
C++语言编写。旨在为WEB应用提供可扩展的高性能数
据存储解决方案。
  MongoDB是一个介于关系数据库和非关系数据库
之间的产品,是非关系数据库当中功能最丰富,最像关
系数据库的。他支持的数据结构非常松散,是类似json
的bjson格式,因此可以存储比较复杂的数据类型。
Mongo最大的特点是他支持的查询语言非常强大,其语
法有点类似于面向对象的查询语言,几乎可以实现类似
关系数据库单表查询的绝大部分功能,而且还支持对数
据建立索引

二、MySQL主从复制技术的简单实现

配置环境:

主从服务器操作系统均为 ubuntu15.10

主从服务器MySQL版本均为 MySQL5.6.31

主服务器IP:192.168.0.178

从服务器IP:192.168.0.145

主从服务器之间都是相互能ping通的。

主服务器配置:

1、启用二进制日志,设置服务器唯一ID;

2、修改 /etc/mysql/my.cnf  “bind-address = 0.0.0.0;” 使得MySQL允许远程连接;

3、进入终端,为用户backend赋予 REPLICATION SLAVE 权限,然后执行 “FLUSH PRIVILEGES;” 刷新权限;(我这里已经有该用户,没有的应该先创建一个用户并赋予 REPLICATION SLAVE 权限)该用户用于从服务器连接主服务器数据库。

4、重启MySQL并进入MySQL终端,执行 “show master status;” 查看mater的状态;

5、记录File 和 Position的值,因为配置从服务器时要用到。此时不要再动主数据库了,以免影响了Position的值。

从服务器配置:

1、像主服务一样配置启用二进制日志,设置服务器唯一ID;(主服务器的server-id=1,从服务器这里的server-id=2)

2、重启MySQL并进入MySQL终端;

3、执行以下语句并启动 slave 从库:

说明:这里的master_host是设置主服务器的IP,master_user是设置连接主服务器数据库的用户,master_password是该用户的密码,master_log_file和master_log_pos设置主服务器时记录下的文件和值;

4、执行 "show slave status;\G" 查看slave从库状态:

此时若Slave_IO_Running和Slave_SQL_Running都为Yes,那么说明主从配置成功了。

5、到 主数据库创建一个数据库 "create database test_master_slave;"

6、到从服务器执行 “show databases;” 发现也同时创建了数据库 test_master_slave;

注意:主从服务器和数据库版本可以不一样,但主从服务器中当前的数据库最好一致,不然后面可能会因数据库不一致而导致出现一些错误。如果出现错误,比如在主服务器删除了一个数据库,而从服务器上并没有这个数据库,那么从服务器的复制就会出错,此时应该先执行"stop slave"停止从库,然后执行“SET  GLOBAL  SQL_SLAVE_SKIP_COUNTER = 1;” 跳过一个事务,从而跳过那个错误。再执行“start slave”开启从库。从库便正常复制主库的操作。(SET  GLOBAL  SQL_SLAVE_SKIP_COUNTER = n;表示跳过n个让从库复制出错的事务)

 

参考:MySQL主从复制技术的简单实现 - LO-gin - 博客园
https://www.cnblogs.com/LO-gin/p/6121519.html

 

php特级课---2、网站大数据如何存储的更多相关文章

  1. php特级课---5、网络数据转发原理

    php特级课---5.网络数据转发原理 一.总结 一句话总结: OSI七层模型 路由器 交换机 ARP 代理ARP 1.OSI7层模型? 电缆 MAC地址 ip 端口 应用 1层 通信电缆 2层 原M ...

  2. MySQL数据库如何解决大数据量存储问题

    利用MySQL数据库如何解决大数据量存储问题? 各位高手您们好,我最近接手公司里一个比较棘手的问题,关于如何利用MySQL存储大数据量的问题,主要是数据库中的两张历史数据表,一张模拟量历史数据和一张开 ...

  3. PHP解决网站大数据大流量与高并发

    1:硬件方面 普通的一个p4的服务器每天最多能支持10万左右的IP,如果访问量超过10W那么需要专用的服务器才能解决,如果硬件不给力软件怎么优化都是于事无补的.主要影响服务器的速度 有:网络-硬盘读写 ...

  4. 利用MySQL数据库如何解决大数据量存储问题?

    提问:如何设计或优化千万级别的大表?此外无其他信息,个人觉得这个话题有点范,就只好简单说下该如何做,对于一个存储设计,必须考虑业务特点,收集的信息如下:1.数据的容量:1-3年内会大概多少条数据,每条 ...

  5. MySQL数据库解决大数据量存储问题

    转载自:https://www.cnblogs.com/ryanzheng/p/8334915.html 提问:如何设计或优化千万级别的大表?此外无其他信息,个人觉得这个话题有点范,就只好简单说下该如 ...

  6. 为什么MongoDB适合大数据的存储?

    NoSQL数据库都被贴上不同用途的标签,如MongoDB和CouchDB都是面向文档的数据库,但这并不意味着它们可以象JSON(JavaScript Object Notation,JavaScrip ...

  7. PHP 网站大数据大流量与高并发 笔记

    前端: 1.域名开启cdn 2.大文件使用oss php: 1.模板编译缓存 服务器: 1.负载均衡 数据库: 1.读写分离 待完善

  8. 【数据处理】SQL Server高效大数据量存储方案SqlBulkCopy

    要求将Excel数据,大批量的导入到数据库中,尽量少的访问数据库,高性能的对数据库进行存储. 一个比较好的解决方案,就是采用SqlBulkCopy来处理存储数据. SqlBulkCopy存储大批量的数 ...

  9. 大数据的存储——HBase、HIVE、MYSQL数据库学习笔记

    HBase 1.hbase为查询而生,它通过组织机器的内存,提供一个超大的内存hash表,它需要组织自己的数据结构,表在hbase中是物理表,而不是逻辑表,搜索引擎用它来存储索引,以满足实时查询的需求 ...

随机推荐

  1. Date、Calendar、DateFormat、SimpleDateFormat、Timer、TimerTask类

    类 Date 在 JDK 1.1 之前,类 Date 有两个其他的函数.它允许把日期解释为年.月.日.小时.分钟和秒值. 它也允许格式化和解析日期字符串.不过,这些函数的 API 不易于实现国际化.从 ...

  2. AJAX 入门

    1. 同步交互与异步交互 1.1 同步交互 客户端发送一个请求, 需要等待服务器的响应结束,才能发送第二个请求! 刷新的是整个页面. 1.2 异步交互 客户端发送一个请求,无需等待服务器的响应,然后就 ...

  3. 控制台程序的中文输出乱码问题(export LC_CTYPE=zh_CN.GBK,或者修改/etc/sysconfig/i18n为zh_CN.GBK。使用setlocale(LC_CTYPE, "");会使用默认办法。编译器会将源码做转换成Unicode格式,或者指定gcc的输入文件的编码参数-finput-charset=GBK。Linux下应该用wprintf(L"%ls/n",wstr))

    今天发现用securecrt登陆时,gcc编译出错时会出现乱码,但直接在主机的窗口界面下用Shell编译却没有乱码.查看了一下当时的错误描述,发现它的引号是中文引号,导致在SecureCRT中显示出错 ...

  4. echarts系列之动态加载数据

    1.echarts学习前言 最近接触到echarts,发现数据可视化真的是魅力无穷啊,各种变幻的曲线交错,以及‘曼妙’的动画效果真是让人如痴如醉! 下面就来一起欣赏她的美... “ ECharts是中 ...

  5. 解决httpclient抛出URISyntaxException异常

    这两天在使用httpclient发送http请求的时候,发现url中一旦包含某些特殊字符就会报错.抛出URISyntaxException异常,比如struts漏洞的利用url:(大括号就不行) re ...

  6. Python3.6全栈开发实例[001]

    检查获取传入列表或元组对象的所有奇数位索引对应的元素,并将其作为新列表返回给调用者. li = [11,22,33,44,55,66,77,88,99,000,111,222] def func1(l ...

  7. cqlsh script

    1.time类型 cqlsh> COPY my_keyspace.typetest from STDIN;Using 1 child processes Starting copy of my_ ...

  8. Django基础(一)_URLconf、Views、template、ORM

    一 什么是web框架? 框架,即framework,特指为解决一个开放性问题而设计的具有一定约束性的支撑结构,使用框架可以帮你快速开发特定的系统,简单地说,就是你用别人搭建好的舞台来做表演. 对于所有 ...

  9. JavaWeb:Tomcat服务器的安装与配置

    Tomcat服务器的安装与配置 安装 输入网址进入Tomcat的官网            在左边导航栏选择对应下载的版本            下载安装包形式            下载并解压到我们 ...

  10. echarts3.8.4实现城市空气质量(结合百度地图bmap.js,小航哥)

    (小航哥自己实现的)为了事先地图效果,需要以下准备: 用百度地图作为地图,需要 1.bmap.min.js(下载地址https://github.com/ecomfe/echarts ,GitHub上 ...