记录后端接收日志的流程;

由于记录的是广告数据,单次计费数据都会上报,全国内约10几万终端上报。

终端上报:Android电视端Apk上报

接收终端:Openresty(Nginx+lua)利用nginx非阻塞io来缓解服务器压力

数据处理:为了提高处理效率避免队列写死,采用go语言分析数据并入库

贴代码:生成uuid参数,获取客户端访问接口获取uuid,带着uuid参数上报

getuuid.lua:

--获取body数据,含get,post数据
--获取body数据,含get,post数据
local GET = {}
local POST = {}
ngx.req.read_body()
local args_get= ngx.req.get_uri_args()
local args_post = ngx.req.get_post_args()
for k,v in pairs(args_get) do
GET[k]=v
end
for k,v in pairs(args_post) do
POST[k]=v
end
--生成加密的密钥
function unlock_mac (mac,password)
local int_iv = 0
local mac_len = string.len(mac)
for i = 1,mac_len do
int_iv = int_iv+string.byte(mac,i)
end
local mac_md5 = ngx.md5(mac)
iv_byte = string.sub(mac_md5,1,1)..string.sub(mac_md5,3,5)..int_iv..ngx.md5(password)
return string.sub(iv_byte,1,16)
end --AES解密
function unaes(key,data)
local aes = require "resty.aes"
local str = require "resty.string"
local hash = {
iv = "fedcba9876543210",
method = nil
}
local salt = "0123456789abcdef"
local aes_128_cbc, err = aes:new(key, salt, aes.cipher(128,"cbc"), hash)
return aes_128_cbc:decrypt(data)
end --随机数
function CreateUUID() local template ="xxxxxxxxxxxx"
d = io.open("/dev/urandom", "r"):read(4)
math.randomseed(os.time() + d:byte(1) + (d:byte(2) * 256) + (d:byte(3) * 65536) + (d:byte(4) * 4294967296))
return string.gsub(template, "x", function (c)
local v = (c == "x") and math.random(0, 0xf) or math.random(8, 0xb)
return string.format("%x", v)
end)
end --生成uuid
function guid()
local seed={'e','1','2','3','4','5','6','7','8','9','a','b','c','d','e','f'}
local tb={}
for i=1,32 do
table.insert(tb,seed[math.random(1,16)])
end
local sid=table.concat(tb)
return string.format('%s-%s-%s-%s-%s',
string.sub(sid,1,8),
string.sub(sid,9,12),
string.sub(sid,13,16),
string.sub(sid,17,20),
string.sub(sid,21,32)
)
end --获取解密key
local mac = GET["mac"]
local password = "(&*87-=KLJHuywe~s.,m-="
local key = unlock_mac(mac,password)
--获取post数据进行解析 local post_val = POST["data"]
local unaes_val,err = unaes(key,ngx.decode_base64(post_val))
if unaes_val == nil then
local json = require("cjson")
json.encode_empty_table_as_object(false)
local str = {code=10000,error_message="unaes err"}
ngx.say(json.encode(str))
ngx.log(ngx.ERR, " unaes_val:", unaes_val)
return
end if GET["type"] == "app" or GET["type"] == "cd"
then
uidmac = GET["type"].."_uuid_"..mac
else
uidmac = "uuid_"..mac
end local redis = require "resty.redis_iresty"
local red = redis:new()
redis:auth("password")
redis:del(uidmac) uidtable = {}
local s=0
while s<50 do
s=s+1
print(CreateUUID())
local uuid = guid()
local ok, err = redis:hset(uidmac,uuid,"1")
if not ok then
local str = {code=10000,error_message="failed to set lbs"}
ngx.say(json.encode(str))
ngx.log(ngx.ERR,"setuidmac:",err)
return
end
uidtable[s] = uuid
end
local json = require("cjson")
--ngx.say(uidtable)
datatable = {data = {list =uidtable},code = 20000}
ngx.say(json.encode(datatable))
ngx.exit(200)  

接收日志,存入队列:

--获取body数据,get,post数据
local GET = {}
local POST = {}
ngx.req.read_body()
local args_get= ngx.req.get_uri_args()
local args_post = ngx.req.get_post_args()
for k,v in pairs(args_get) do
GET[k]=v
end
for k,v in pairs(args_post) do
POST[k]=v
end --生成加密的密钥
function unlock_mac (mac,password)
local int_iv = 0
local mac_len = string.len(mac)
for i = 1,mac_len do
int_iv = int_iv+string.byte(mac,i)
end
local mac_md5 = ngx.md5(mac)
iv_byte = string.sub(mac_md5,1,1)..string.sub(mac_md5,3,5)..int_iv..ngx.md5(password)
return string.sub(iv_byte,1,16)
end --AES解密
function unaes(key,data)
local aes = require "resty.aes"
local str = require "resty.string"
local hash = {
iv = "fedcba9876543210",
method = nil
}
local salt = "0123456789abcdef"
local aes_128_cbc, err = aes:new(key, salt, aes.cipher(128,"cbc"), hash)
return aes_128_cbc:decrypt(data)
end --获取mac并验证
if next(GET) ~=nil and string.len(GET["mac"]) == 12 then
mac = GET["mac"]
else
ngx.say("Mac illegal")
return
end
local key = unlock_mac(mac,"(&*87-=KLJHuywe~s.,m-=") --验证data数据
if next(POST) ~= nil then
data = POST["data"]
else
ngx.say("data is nil")
return
end -- ngx.say(key)
-- ngx.say(data)
local json = require("cjson")
local unaes_val,err = unaes(key,ngx.decode_base64(data))
--ngx.say(unaes_val)
if unaes_val == nil then
local json = require("cjson")
json.encode_empty_table_as_object(false)
errdata = {data = {list ={}},code = 10000}
ngx.say (json.encode(errdata))
return
else
local dataObj = json.decode(unaes_val)
local redis = require "resty.redis_iresty"
local red = redis:new()
redis:auth("password")
uidmac = "uuid_"..mac
uuid = dataObj.uuid
local ok= redis:hget(uidmac,uuid)
if not ok then
ngx.say("failed to get uidmac: ", err)
ngx.log(ngx.ERR,"getuidmac:",err)
return
else Strmd5 = ngx.md5(dataObj.data)
if "lbs" ~= dataObj.type then
return
end
--ngx.say(dataObj.data)
if Strmd5 == dataObj.md5 then
local ok, err = redis:lpush('lbs_data_queue',unaes_val)
if not ok then
ngx.say("failed to push lbs_data_queue: ", err)
ngx.log(ngx.ERR,"lbs_data_queue:",err)
return
end
ngx.say("ok")
else
ngx.say("md5 check err")
ngx.log(ngx.ERR,"checkmd5","lbs_data_queue")
end end
end

  

对称加密实现重要日志上报Openresty接口服务的更多相关文章

  1. iOS CommonCrypto 对称加密 AES ecb,cbc

    CommonCrypto 为苹果提供的系统加密接口,支持iOS 和 mac 开发: 不仅限于AES加密,提供的接口还支持其他DES,3DES,RC4,BLOWFISH等算法, 本文章主要讨论AES在i ...

  2. 个人理解c#对称加密 非对称加密 散列算法的应用场景

    c#类库默认实现了一系列加密算法在System.Security.Cryptography; 命名空间下 对称加密 通过同一密匙进行加密和解密.往往应用在内部数据传输情况下.比如公司a程序 和B程序 ...

  3. .NET中的DES对称加密

    DES是一种对称加密(Data Encryption Standard)算法,于1977年得到美国政府的正式许可,是一种用56位密钥来加密64位数据的方法.一般密码长度为8个字节,其中56位加密密钥, ...

  4. C#不对称加密

    对称加密的缺点是双方使用相同的密钥和IV进行加密.解密.由于接收方必须知道密钥和IV才能解密数据,因此发送方需要先将密钥和IV传递给接收方.这就 有一个问题,如果攻击者截获了密钥和IV,也就等于知道了 ...

  5. openssl evp 对称加密(AES_ecb,ccb)

    openssl evp 对称加密(AES_ecb,ccb) evp.h 封装了openssl常用密码学工具,以下主要说对称加密的接口 1. 如下使用 aes_256_ecb 模式的加密解密测试代码 u ...

  6. Java和.NET使用DES对称加密的区别

    Java和.NET的系统类库里都有封装DES对称加密的实现方式,但是对外暴露的接口却各不相同,甚至有时会让自己难以解决其中的问题,比如Java加密后的结果在.NET中解密不出来等,由于最近项目有跨Ja ...

  7. DotNet加密方式解析--对称加密

    离过年又近了一天,回家已是近在咫尺,有人欢喜有人愁,因为过几天就得经历每年一度的装逼大戏,亲戚朋友加同学的各方显摆,所以得靠一剂年终奖来装饰一个安稳的年,在这里我想起了一个题目“论装逼的技术性和重要性 ...

  8. Java加密与解密笔记(二) 对称加密

    前面的仅仅是做了编码或者摘要,下面看看真正的加密技术. DES public class DESUtil { static final String ALGORITHM = "DES&quo ...

  9. 使用Aes对称加密解密Web.Config数据库连接串

    现在很多公司开始为了保证数据库的安全性,通常会对Web.Config的数据库连接字符串进行加密.本文将介绍学习使用Aes加密解密数据库连接字符串.本文采用MySql数据库. AES概念简述 AES 是 ...

随机推荐

  1. MyBatis接口式编程

    MyBatis使用接口连接数据库 之前学习了如何传统的使用MyBatis连接数据库,今天学习如何使用更方便快捷的方式练级数据库.使用接口连接数据库 https://www.cnblogs.com/li ...

  2. python logging模块【转载】

    转自:https://www.cnblogs.com/dahu-daqing/p/7040764.html 参考:老顽童log模块,讲的很细致,基本上拿到手就可以直接用了,很赞 1 logging模块 ...

  3. UWP 保存音乐或视频缩略图图片到本地

    开发项目时,有时需要将本地媒体文件的缩略图保存到本地,下面是源码. 需要打开Package.appxmanifest 功能 图片库 访问权限. <Page x:Class="SaveB ...

  4. [Cometoj#3 A]比赛_枚举/堆

    比赛 题目链接:https://cometoj.com/contest/38/problem/A?problem_id=1534 数据范围:略. 题解: 原题没啥意思,就是个暴力枚举. 出了个加强版, ...

  5. 1.3.2 AQS 读写锁

    1.读写锁原理 2.利用读写锁写一个安全的HashMap 读写锁原理 ReadWriteLock:维护一对关联锁,一个读锁一个写锁,读锁可以由多个线程同时获得,写锁只能被一个线程获得.同一时间,读锁和 ...

  6. (二)springMvc 入门

    目录 配置前端控制器 servlet拦截方式 springMvc的配置文件 编写处理器类 配置自定义处理器 配置前端控制器 在 web.xml 配置 DispatcherServlet <!-- ...

  7. Django学习(2.2.1版本)

    项目技术重难点分析: 模型层:模型是您的数据唯一而且准确的信息来源.它包含您正在储存的数据的重要字段和行为.一般来说,每一个模型都映射一个数据库表. 每各模型都是一个python的类,这些类继承  d ...

  8. c c++各种类型的取值范围

    int类型的变量存储值从-2147483648到2147483647 //例子 #include <iostream> using namespace std; int main(void ...

  9. 空间变换网络(STN)原理+2D图像空间变换+齐次坐标系讲解

    空间变换网络(STN)原理+2D图像空间变换+齐次坐标系讲解 2018年11月14日 17:05:41 Rosemary_tu 阅读数 1295更多 分类专栏: 计算机视觉   版权声明:本文为博主原 ...

  10. Java 抽象类详解

    在<Java中的抽象方法和接口>中,介绍了抽象方法与接口,以及做了简单的比较. 这里我想详细探讨下抽象类. 一.抽象类的定义 被关键字“abstract”修饰的类,为抽象类.(而且,abx ...