1  卫星影像金字塔分块原理说明

通常我们在工作中使用的卫星影像数据,轻则几百M,重则几百个G甚至上TB级。影像数据太大,是大家经常会遇到的一个问题,尤其是想下载一个省以上数据的时候该问题尤为突出。那么该问题是否有一个比较好的解决方案呢?

以全球为例,我们以19级为例,共有2^18 * 2^17 张瓦片,如此多的瓦片会让磁盘愈来愈慢,同时也无法维护。

当影像范围比较大时,我们可以采用金字塔分块的方式进行管理,系统会自动将大范围分成若干个块,且块与块之间是可以无缝拼接的。

一般情况我们选择全球前10级别作为基础级别,因数据量不大(1G)左右,后续以10级作为基础级别,全球19级别数据被划分为 2^8 * 2^7(512 * 256)个块。每个块中包含了256 * 256 张小瓦片。

1.1  Fepk文件命名规则

文件说明(包含索引与数据两个文件,文件必须都配套才可以正常使用):

*.fepk          :文件中存储具体的瓦片数据。

*.fepk.idx    :文件中存储的瓦片的索引信息,当给定一个瓦片编号后,可以根据编号计算出来瓦片存在索引中的信息(大小,以及数据在8-174-138.fepk中的位置)。

名称命名规

以8-174-138.fepk为例:其中8是级别,174是列号,138是行号,文件中存储了8-174-138瓦片裂分出来的所有瓦片数据。

2  .fepk文件格式说明

我们一般不会直接采用瓦片作为管理单元,会把一个块作为管理单元,把数据划分为索引文件与数据文件,如下所示:

数据文件:world.fepk

索引文件:world.fepk.idx

2.1  索引文件

1文件说明

文件头

字段

文件头

char    szMagic[20]

fe.tile.store.data20字节

uint    version

版本号4字节

uint    typeId

数据类型

enum PKType

{

PK_IMAGE ,

PK_DEM,

PK_VEC,

PK_QXSY,

PK_USER,

};4字节

uint    wgs84

是否是wgs84经纬投影4字节

uint    flag

4字节

uint64  timestamp

时间戳8字节

real2   vStart

经纬度最小范围8*2字节

real2   vEnd

经纬度最大范围 8*2字节

LevSnap levOff[24]

级别索引,8 * 24 字节

char    _reserve[240]

保留

级别1

int2    _start

2 * 4字节,瓦片最小行列号

int2    _end

2 * 4字节,瓦片最大行列号

uint64  _offset

8字节

uint64  _dataSize

8字节

uint    _lev

4字节

char    _reserve[216]

216字节

瓦片数据索引矩阵数据PKTLHeader

N * PKTLHeader

N = (_end.x
- _start.x + 1) * (_end.y - _start.y + 1)

PKTLHeader

 

级别2

 

级别3

级别…

PKTLHeader定义:

PKTLHeader定义:
struct PKTLHeader
{
/// 有无数据标记,即服务器上是否有该数据 0,无,1,有
uint64 _data:2;
/// 在本文件中是否已经存储 0,无,1,有
uint64 _stored:2;
/// 状态,
uint64 _state :6;
/// 数据地址,使用50个bit最大 2^54
/// 单个文件最大16 K T
uint64 _offset : 54;
/// 如果该值!= 0xFFFF,则有效,否则无效,
/// 使用该字段的意义在于解决网络读取问题,比如在云盘上
/// 先读取索引,如果没有数据大小,或者数据大小存储在数据文件中,则需要
/// 再次访问数据文件,才可以得大小,增加额外的IO,同时兼顾大小,该变量最大可以存储64K
/// 如果超过了64K,那么一样的需要访问数据文件获取大小
ushort _dataSize;
};

共计10自字节

LevSnap定义:

struct  LevSnap
{
uint64 _lev:8;
uint64 _offset:56;
};

共计8字节

2.2  数据文件文件

文件头

字段

文件头

char    szMagic[20]

fe.tile.store.data20字节

uint    version

版本号4字节

uint    typeId

数据类型

enum PKType

{

PK_IMAGE ,

PK_DEM,

PK_VEC,

PK_QXSY,

PK_USER,

};4字节

uint    wgs84

是否是wgs84经纬投影4字节

uint    flag

4字节

uint64  timestamp

时间戳8字节

real2   vStart

经纬度最小范围8*2字节

real2   vEnd

经纬度最大范围 8*2字节

LevSnap levOff[24]

级别索引,8 * 24 字节

char    _reserve[240]

保留

数据0

Int4

4*4字节,行号,列号,级别,大小

数据

数据1

Int4

4*4字节,行号,列号,级别,大小

数据

数据…

Int4

4*4字节,行号,列号,级别,大小

数据

3  如何使用数据

3.1  解压成标注金字塔瓦片

用户可以通过FEPKUNPack.exe
解压程序,将数据加压标准的金字塔瓦片,然后即可使用,导出后如下所示。

导出后可以方便的被osgEarth,cesium,argis,fastearth等软件直接加载。

缺点: 导出后,占用磁盘大小比未解压前大50%。

导出后,维护困难,因为文件很多,拷贝能都受到影响。

数据截图

3.2  API读取瓦片

使用SDK/API访问数据,为了方便大家使用,避免数据解压,可以使用FEPKReadApi

SDK读取数据,SDK使用C语言编写,接口如下所示

extern  "C"
{
/// <summary>
/// 打开文件函数,可以打开索引也可以打开数据文件
/// </summary>
/// <param name = "fileName">文件名称</param>
/// <return>0:失败,否则成功</return>
FEPKFile fepkOpenFile(const char* fileName);
/// <summary>
/// 读取索引数据函数
/// </summary>
/// <param name = "file">索引文件指针</param>
/// <param name = "x">列号</param>
/// <param name = "y">行号</param>
/// <param name = "z">级别</param>
/// <param name = "header">返回文件头信息</param>
/// <return>true:false</return>
bool fepkReadHeader(FEPKFile file,int x,int y,int z,FEPHHeader* header);
/// <summary>
/// 根据文件头信息读取文件大小(瓦片数据大小)
/// </summary>
/// <param name = "file">索引文件指针</param>
/// <param name = "header">文件头信息</param>
/// <param name = "pSize">输出文件大小</param>
/// <return>true:false</return>
bool fepkReadDataSize(FEPKFile file,const FEPHHeader* header,uint* pSize);
/// <summary>
/// 读取瓦片数据函数
/// </summary>
/// <param name = "file">索引文件指针</param>
/// <param name = "header">文件头信息</param>
/// <param name = "pBuf">输入缓冲区大小</param>
/// <param name = "nBufLen">缓冲区长度</param>
/// <return> -1:失败,0:无数据,>0 数据的真实大小</return>
int fepkReadData(FEPKFile file,const FEPHHeader* header,void* pBuf,uint nBufLen);
/// <summary>
/// 关闭文件
/// </summary>
void fepkCloseFile(FEPKFile file);
/// <summary>
/// 从一个文件夹中读取瓦片的数据头,以及瓦片的大小
/// </summary>
/// <param name = "path">目录组,以null结束</param>
/// <param name = "x">瓦片的编号</param>
/// <param name = "y">瓦片的编号</param>
/// <param name = "z">瓦片的编号</param>
/// <param name = "header">文件头信息</param>
/// <param name = "pSize">瓦片大小</param>
/// <return>返回打开的文件</return>
FEPKFile fepkReadTileHeader(const char** path,int x,int y,int z,FEPHHeader* header,uint* pSize);
/// <summary>
/// 从一个文件夹中读取
/// </summary>
/// <param name = "file">文件句柄</param>
/// <param name = "header">文件头信息</param>
/// <param name = "pBuf">输入/输出,从fepkReadTileHeader读取</param>
/// <param name = "nBufLen">输入,从fepkReadTileHeader读取</param>
/// <return>返回读取的长度-1,失败,0,文件内部错误,其他读取的长度</return>
int fepkReadTileData(FEPKFile file,const FEPHHeader* header,void* pBuf,uint nBufLen); }

使用说明:

#include "FEPKReaderApi.h"

#include <stdio.h>
/// 如果是SDK,非源码方式,则需要因入库
/// #pragma comment(lib,"FEPKReader.lib")
int main(int, char**)
{
/// 1. 开发文件
FEPKFile file = fepkOpenFile("D:\\FE\\data\\fepk\\world.fepk");
if (file == nullptr)
{
return 0;
}
FEPHHeader header;
uint nSize = 0;
/// 2. 读取给定瓦片编号的文件头信息
/// 如果返回false,说明当前文件中没有给定的瓦片数据
if (!fepkReadHeader(file, 0, 0, 0, &header))
{
return 0;
}
/// 3. 读取数据大小
if (!fepkReadDataSize(file, &header, &nSize))
{
return 0;
}
/// 申请空间
char* pBuf = new char[nSize];
/// 4. 读取数据
if (!fepkReadData(file, &header, pBuf, nSize))
{
printf("read ok!\n");
}
/// 5. 释放内存
delete[]pBuf;
/// 6. 关闭文件
fepkCloseFile(file);
return 0;
}

fepk文件格式说明的更多相关文章

  1. RIFF和WAVE音频文件格式

    RIFF file format RIFF全称为资源互换文件格式(Resources Interchange File Format),是Windows下大部分多媒体文件遵循的一种文件结构.RIFF文 ...

  2. JavaSe:Properties文件格式

    Properties文件格式说明 Properties继承自Hashtable,是由一组key-value的集合. 在Java中,常用properties文件作为配置文件.它的格式是什么样的呢? 下图 ...

  3. Dotnet文件格式解析

    0x0.序 解析过程并没有介绍对pe结构的相关解析过程,网上此类相关资料很多可自行查阅,本文只介绍了网上资料较少的从pe结构的可选头中的数据目录表中获取dotnet目录的rva和size,到完全解析d ...

  4. Reverse Core 第二部分 - 13章 - PE文件格式

    @date: 2016/11/24 @author: dlive ​ PE (portable executable) ,它是微软在Unix平台的COFF(Common Object File For ...

  5. iOS 图片文件格式判断、圆角图片

    1.圆角图片 // 设置圆形图片(放到分类中使用) - (UIImage *)cutCircleImage { UIGraphicsBeginImageContextWithOptions(self. ...

  6. 基于 Hive 的文件格式:RCFile 简介及其应用

    转载自:https://my.oschina.net/leejun2005/blog/280896 Hadoop 作为MR 的开源实现,一直以动态运行解析文件格式并获得比MPP数据库快上几倍的装载速度 ...

  7. 图解JVM的Class文件格式(详细版)

          了解JAVA的Class文件结构有助于掌握JAVA语言的底层运行机制,我在学习的过程中会不断的与ELF文件格式作对比(当然他们的复杂程度.格式相去甚远,比如可执行ELF的符号表解析在静态链 ...

  8. dex文件格式一

    一.生成dex文件 我们可以通过java文件来生成一个简单的dex文件 编译过程: 首先编写java代码如下: (1) 编译成 java class 文件 执行命令 : javac Hello.jav ...

  9. dex文件格式二

    一. dex文件头 (1) magic value 在DexFile.c   dexFileParse函数中 会先检查magic opt 啥是magic opt呢? 我们刚刚从cache目录拷贝出来的 ...

  10. stl文件格式

    http://wenku.baidu.com/view/a3ab7a26ee06eff9aef8077b.html [每个三角形面片的定义包括三角形各个定点的三维坐标及三角形面片的法矢量[三角形的法线 ...

随机推荐

  1. 眼观四海:自动驾驶&4D成像毫米波雷达 如今几何?

    写在前面 笔者做这项工作的目的是希望为课题组寻找毫米波雷达+智慧驾驶领域寻找可行的趋势与方向,尽可能贴近工业界需求.在这项工作中,笔者总结了以多级联(大陆,博世,森斯泰克等).集成芯片(Arbe,Mo ...

  2. 2023-06-16:给你一份工作时间表 hours,上面记录着某一位员工每天的工作小时数。 我们认为当员工一天中的工作小时数大于 8 小时的时候,那么这一天就是「劳累的一天」。 所谓「表现良好的时间

    2023-06-16:给你一份工作时间表 hours,上面记录着某一位员工每天的工作小时数. 我们认为当员工一天中的工作小时数大于 8 小时的时候,那么这一天就是「劳累的一天」. 所谓「表现良好的时间 ...

  3. Docker和Kubernetes与容器自动化扩展:最佳实践

    目录 1. 引言 2. 技术原理及概念 2.1 基本概念解释 2.2 技术原理介绍 2.3 相关技术比较 3. 实现步骤与流程 3.1 准备工作:环境配置与依赖安装 3.2 核心模块实现 3.3 集成 ...

  4. 使用Flask和Django构建Web应用程序:现代Web应用程序框架

    目录 1. 引言 2. 技术原理及概念 2.1 基本概念解释 2.2 技术原理介绍 2.3 相关技术比较 3. 实现步骤与流程 3.1 准备工作:环境配置与依赖安装 3.2 核心模块实现 3.3 集成 ...

  5. Spring原理之web.xml加载过程

    web.xml是部署描述文件,它不是Spring所特有的,而是在Servlet规范中定义的,是web应用的配置文件.web.xml主要是用来配置欢迎页.servlet.filter.listener等 ...

  6. GO web学习(三)

    跟着b站https://space.bilibili.com/361469957 杨旭老师学习做的笔记 路由 Controller / Router 角色 main():设置类工作 controlle ...

  7. 解决安装报错 mysqlclient-1.4.6-cp38-cp38-win32.whl is not a supported wheel on this platform.

    解决方法, 重命名 先查看pip对应匹配的名称 在PyCharm中查看 打开下边栏的Terminal,输入 pip debug --verbose 修改为一致后  最后进行安装 进入该安装包目录下,c ...

  8. Docker、CICD持续集成部署、Gitlab使用、Jenkins介绍

    目录 1.Docker的基本操作 1.1镜像拉取 1.2镜像的操作 1.3容器的操作 运行容器 查看正在运行的容器 查看容器运行日志 进入到容器内部 停止容器运行 删除容器 启动容器 2.Docker ...

  9. 我是如何组织 Go 代码的(目录结构 依赖注入 wire)

    背景 对于大多数 Gopher 来说,编写 Go 程序会直接在目录建立 main.go,xxx.go,yyy.go-- 不是说不好,对于小型工程来说,简单反而简洁明了,我也提倡小工程没必要整一些花里胡 ...

  10. Swithch反汇编(四种)

    ------------恢复内容开始------------ Switch语法格式 Switch(表达式) { case 常量表达式1: 语句; break; case 常量表达式2: 语句; bre ...