一个简单的数据增量更新策略(Android / MongoDB / Django)
我在做个人APP - CayKANJI - 的时候遇到一个问题:
如何增量式地把日语汉字数据地从server更新到APP端,即每次用户运行更新操作时,仅仅获取版本号高于本地缓存的内容。
数据格式
为了可以与mongoDB无缝结合,并省去编写后台代码的麻烦,索性就把汉字数据保存成json文件,上传到server后。交给web应用去读取并写入数据库。
汉字文件就是普通的json格式。
{
"category": "行為ー2",
"contents": [
{
"kanji" : "尋",
"on-yomi" : "ジン",
"kun-yomi" : "たず-ねる",
"examples": ["不明な点を尋ねる", "行方を尋ねて回る", "由来を尋ねる", "警官が怪しい男に尋問する", "尋常ではない行動"]
},
{
"kanji" : "促",
"on-yomi" : "ソク",
"kun-yomi" : "うなが-す",
"examples": ["成長を促す", "発言を促す", "販売を促進する", "支払いを催促する"]
}
]
}
数据库操作
然后利用不同的目录做一个队列,未被写入数据库的文件放在pending目录。已经写入的放在finished目录。
这样当webserver接收到第一次更新请求时,会检測pengding目录下是否有新的json文件,有的话就写入到数据库。并把json文件移动到finished目录。
web端用的是Django
框架,使用pymongo
操作数据库。
数据写入
def write_to_db(self, path):
with open(path) as my_file:
self._db.kanji.insert(json.loads(my_file.read()))
def check_update(self):
for (path, dirs, files) in os.walk(self.PENDING_DIR):
for file in files:
self.write_to_db(os.path.join(path, file)) # move sync-over file into 'finished' directory
shutil.move(os.path.join(path, file), os.path.join(self.FINISHED_DIR, file))
把json数据同步到数据库后,就能够在Android端发起请求来获取数据。
可是。这样做并不能在手机端实现增量更新,每次请求都会下载数据库中全部的数据。事实上解决的方法也非常easy。给每条json数据加上一个版本号就搞定了。
增量数据的版本号控制
改动之前的json文件。加入一个version字段。
{
"category": "行為ー2",
"version" : 0,
"contents": [
{
"kanji" : "尋",
"on-yomi" : "ジン",
"kun-yomi" : "たず-ねる",
"examples": ["不明な点を尋ねる", "行方を尋ねて回る", "由来を尋ねる", "警官が怪しい男に尋問する", "尋常ではない行動"]
},
{
"kanji" : "促",
"on-yomi" : "ソク",
"kun-yomi" : "うなが-す",
"examples": ["成長を促す", "発言を促す", "販売を促進する", "支払いを催促する"]
}
]
}
数据读取
数据请求RESTfull
风格的url - http://www.liangfeizc.com/catykanji/download/0
download后面的数字表示这次请求的最低版本,server收到这个请求后会返回全部版本大于等于0的数据。
首先在url.py中加入url规则
url(r'^download/(?P<version>\d+)$', 'download_kanji'),
然后在view.py中加入download_kanji
函数
def download_kanji(request, version=0):
kanji = _mongo.get_kanji(int(version))
return HttpResponse(kanji, content_type="application/json")
读取大于等于version的数据
def get_kanji(self, version):
# check pending dir to see if there's any file
self.check_update()
result = self._db.kanji.find({"version": {"$gte": version}})
return json_util.dumps(result)
搞定了web端的增量更新规则。Android就没什么问题了。
Android端
Android的HTTP请求使用了AOSP的Volley
库,仅仅要把uri拼接好,加入到Volley的RequestQueue就能够了。
每次从server返回请求数据时,解析json文件后把最大的version的值加1后保存到Preference中。再次发送请求的时候直接从Preference中读取这个版本号。拼接成一个请求指定版本号号的url就能够了。
最后把解析完的json数据分成三个表保存到的数据库就大公告成了。源代码能够看
一个简单的数据增量更新策略(Android / MongoDB / Django)的更多相关文章
- Kettle中通过触发器方式实现数据 增量更新
在使用Kettle进行数据同步的时候, 共有 1.使用时间戳进行数据增量更新 2.使用数据库日志进行数据增量更新 3.使用触发器+快照表 进行数据增量更新 今天要介绍的是第3中方法. 实验的思路是这样 ...
- odi增量更新策略
增量更新策略:通过一个“update key”比较流数据记录与目标表中的记录比较进行数据整合.具有相同“update key”的记录当相关联列不同时将被更新:在目标表中不存在的记录将被插入.这种方式用 ...
- spring boot: @Entity @Repository一个简单的数据读存储读取
spring boot: @Entity @Repository一个简单的数据读存储读取 创建了一个实体类. 如何持久化呢?1.使用@Entity进行实体类的持久化操作,当JPA检测到我们的实体类当中 ...
- **app后端设计(10)--数据增量更新(省流量)
在新浪微博的app中,从别的页面进入主页,在没有网络的情况下,首页中的已经收到的微博还是能显示的,这显然是把相关的数据存储在app本地. 使用数据的app本地存储,能减少网络的流量,同时极大提高了用户 ...
- app后端设计(10)--数据增量更新
在新浪微博的app中,从别的页面进入主页,在没有网络的情况下,首页中的已经收到的微博还是能显示的,这显然是把相关的数据存储在app本地. 使用数据的app本地存储,能减少网络的流量,同时极大提高了用户 ...
- Android 6.0 7.0 8.0 一个简单的app内更新版本-okgo app版本更新
登陆时splash初始页调用接口检查app版本.如有更新,使用okGo的文件下载,保存到指定位置,调用Android安装apk. <!-- Android 8.0 (Android O)为了针对 ...
- 一个简单的数据查询显示jsp
以前使用jstl标签库只是使用core来显示一些数据,非常方便,今天看了下发现jstl还有其他的标签,使用都非常方便, 1.sql标签,可以直接访问数据库,后台代码都不需要了,这在某些时候非常适合使用 ...
- 分享给大家一个简单的数据导出excel类
<?php /** * 生成excel文件操作 * * @author wesley wu * @date 2013.12.9 */ class Excel { private $limit = ...
- 一个简单xml数据转换为数组的方法
本人用easywechat做微信回复图文,从数据库中拿到的数据直接是xml拼好的数据,但是框架只有自带的获取xml格式的语句,所有需要将xml数据中所需要的数据拿出来用来拼接. 搜了好多资料说的都很麻 ...
随机推荐
- oracle Update a table with data from another table
UPDATE table1 t1 SET (name, desc) = (SELECT t2.name, t2.desc FROM table2 t2 WHERE t1.id = t2.id) WHE ...
- shell 查找目录
查找目录:find /(查找范围) -name '查找关键字' -type d
- [BZOJ 2547] 玩具兵
Link: BZOJ 2547 传送门 Solution: 很容易通过解可行性的单调性想到二分答案,接下来考虑如何验证解 发现一个很奇妙的条件:步兵和骑兵的个数相同 因此交换位置时不用考虑可行性,保证 ...
- OpenResty域名could not be resolved及dnsmasq配置
在本地开发中使用自己配置的域名例如:wuyachao.com配置在/etc/hosts,ping wuyachao.com显示ip为127.0.0.1,在使用lua_resty_http时候,会报错 ...
- VUE -- 用组件上传文件和用xmlrequest上传
xmlrequest: sendForm(str, types) { var form = this.$refs.ipas_form; var oOutput = document.querySele ...
- OpenGL矩阵类(C++) 【转】
http://www.cnblogs.com/hefee/p/3816727.html OpenGL矩阵类(C++) 概述 创建&初始化 存取器 矩阵运算 变换函数 实例:模型视图矩阵 实例: ...
- ssh免密码登录的注意事项
centos配置完免密码登录(注意修改配置文件,/etc/ssh/sshd_config),合并完公钥后,有的时候还得需要输入密码.这时候应该检查一下authorized_keys的权限问题.本机的正 ...
- 对checkpoint not completed的理解
如果数据库存在两个日志组log1和log2,首先.-->log1-->log2-->log1,此时(log2切换到log1)触发checkpoint.该checkpoint will ...
- OS之os.fork()
有两种方式来实现并发性, 一种方式是让每个“任务"或“进程”在单独的内在空间中工作,每个都有自已的工作内存区域.不过,虽然进程可在单独的内存空间中执行,但除非这些进程在单独的处理器上执行,否 ...
- react-native 极光推送(jpush-react-native)
极光推送官方支持的 React Native 插件 安装 npm install jpush-react-native --savenpm install jcore-react-native --s ...