> 文章列表 > 从零开始实现一个C++高性能服务器框架----序列化模块

从零开始实现一个C++高性能服务器框架----序列化模块

从零开始实现一个C++高性能服务器框架----序列化模块

此项目是根据sylar框架实现,是从零开始重写sylar,也是对sylar丰富与完善
项目地址:https://gitee.com/lzhiqiang1999/server-framework

简介

项目介绍:实现了一个基于协程的服务器框架,支持多线程、多协程协同调度;支持以异步处理的方式提高服务器性能;封装了网络相关的模块,包括socket、http、servlet等,支持快速搭建HTTP服务器或WebSokcet服务器。
详细内容:日志模块,使用宏实现流式输出,支持同步日志与异步日志、自定义日志格式、日志级别、多日志分离等功能。线程模块,封装pthread相关方法,封装常用的锁包括(信号量,读写锁,自旋锁等)。IO协程调度模块,基于ucontext_t实现非对称协程模型,以线程池的方式实现多线程,多协程协同调度,同时依赖epoll实现了事件监听机制。定时器模块,使用最小堆管理定时器,配合IO协程调度模块可以完成基于协程的定时任务调度。hook模块,将同步的系统调用封装成异步操作(accept, recv, send等),配合IO协程调度能够极大的提升服务器性能。Http模块,封装了sokcet常用方法,支持http协议解析,客户端实现连接池发送请求,服务器端实现servlet模式处理客户端请求,支持单Reator多线程,多Reator多线程模式的服务器。

序列化模块

  • 序列化模块的底层存储是固定大小的块,以链表形式组织。每次写入数据时,将数据写入到链表最后一个块中,如果最后一个块不足以容纳数据,则分配一个新的块并添加到链表结尾,再写入数据。ByteArray会记录当前的操作位置,每次写入数据时,该操作位置按写入大小往后偏移,如果要读取数据,则必须调用setPosition重新设置当前的操作位置。
  • 这样有个好处,不用一开始就开一个很大的空间去存储数据。

1. 主要功能

  • 支持序列化固定长度的有符号/无符号8位、16位、32位、64位整数
  • 支持序列化不固定长度的有符号/无符号32位、64位整数(使用zigzag算法进行压缩)
  • 支持序列化float、double类型
  • 支持序列化string和(length+string)的格式
  • 支持将序列化内容输出到文件
  • 支持大小端转换

2. 功能演示

std::vector<int32_t> res; 
johnsonli::ByteArray::ptr ba(new johnsonli::ByteArray(base_len)); 
for(int i = 0; i<len; ++i) { res.push_back(rand()); 
} 
for(auto &it : res)  { ba->writeFint32(it); 
} 
ba->setPosition(0); 	// 读之前偏移量要设置为0
for(auto it : res) { int32_t val = ba->readFint32(); DO_ASSERT(it == val); 
} 
DO_ASSERT(ba->getReadSize() == 0);  
LOG_INFO(g_logger) << "writeFint32/readFint32" " (int32_t) len=" << len << " base_len=" << base_len << " size=" << ba->getSize(); 

3. 模块介绍

3.1 ByteArray

  • 序列化类。封装一个内存块,使用链表将内存块连接,实现动态扩容
struct Node
{Node(size_t s);		//构造指定大小的内存块Node();~Node();char* ptr;      	//内存块地址指针           Node* next;     	//下一个内存块地址size_t size;    	//内存块大小
};
  • 主要支持以下方法
void writeFint8  (int8_t value);   	// 写入固定长度int8_t类型的数据
void writeFuint8 (uint8_t value);	// 写入固定长度uint8_t类型的数据
// ... 16、32、64字节
void writeInt32  (int32_t value);	// 压缩写入int32_t 
void writeUint32 (uint32_t value);	// 压缩写入uint32_t 
// 64字节void writeFloat  (float value);
void writeDouble(float value);void writeStringF16(const std::string& value);				// 写入std::string类型的数据,用uint16_t作为长度类型
void writeStringWithoutLength(const std::string& value);	// 不写长度
// ...void readFint8  (int8_t value);   	// 读取固定长度int8_t类型的数据
void readFuint8 (uint8_t value);	// 读取固定长度uint8_t类型的数据
// ... 16、32、64字节
void readInt32  (int32_t value);	// 读取压缩的int32_t 
void readUint32 (uint32_t value);	// 读取压缩的uint32_t 
// 64字节...
  • 长度+string的编码发送方式类似于TLV编码