百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

.NET零拷贝实现大String编码到多个非连续内存块中

wptr33 2025-07-01 23:40 4 浏览

在网络通讯中很少会针对Socket设置大的Buffer,毕竟这样做非常浪费内存;最重要是这个最大值很难去评估的, 如果为每个连接分配1MB或更大的空间当1万个连接那需要非常大的内存,实际应用中可能对对更大的消息!所以应用中可以把消息写入多个非连续的Socket Buffer就显得非常重要了。接下来就介绍写入大String来讲解实现的过程。

应用中很难评估一个String的大小,在编码的时候一般会根据String.Length*6来分配一个byte[]用来处理编码(这个6可以根据具体编码来定,这里定义6是确保的所有情况都能满足需求,实际上Encoding类有计算,只是过程处理复杂度感觉过高所以直接定最大编码值了),然后把String编码到对应的byte[]再分批次copy的Socket buffer中发送出去,这种做法就是使用一个大的连续内存块写并复制。而接下来介绍的是直接把String编码到多个非连续的Socket buffer块中然后直接发送,这样就可以节省大块内存的复制来提高效率了。

下面通过代码来介绍BeetleX是怎处理这个过程的

public int WriteString(string value, Encoding coding = ){
if (!string.IsOrEmpty(value)) { coding = coding ?? Encoding.UTF8; if (WriteSequenceNetStream != ) { ReadOnlySpan<char> spanValue = value; int result = 0; while (spanValue.Length > 0) { ReadOnlySpan<char> chars; Span<byte> span; span = WriteSequenceNetStream.GetWriteSpan(2048); int encodeLen = span.Length / 6;
chars = spanValue.Slice(0, spanValue.Length > encodeLen ? encodeLen : spanValue.Length);
var len = coding.GetBytes(chars, span); WriteSequenceNetStream.WriteAdvance(len); result += len; spanValue = spanValue.Slice(len); } return result; } else { var len = Stream.Write(value, coding); return len; } } return 0;}

具体代码是循环分批写入,先向数据流申请2K的空间(实际情况有可能没有2K,后面会贴相关代码),然后根据分配的内存长度再计算出需要编码的字符长度然后分批写入;写入后通过WriteAdvance(len)提交实际写入块的长度。接下来看一下这个预分本的存是怎样操作的

 public Memory<byte> GetMemory(int length) {
if (_end == ) { CreateMemory(length); } int availableSize = _end.AvailableSize; if (availableSize < length && availableSize < 256) CreateMemory(length); return _end.Allot(length);
}

在非连续内存块的链表分配指定长度的内存,当前块可用空间不够并少于256个字节空间就重新创建一个新的内存块,从分配策略上来说并不是每一块都能完全写满,但这个并不重要因为每个内存块都有记录位置偏移,在Socket发送的时候直接针对偏移发就好了。当数据写入到多个小内存块后就可以把这个链表递归发送出去了

internal async Task SendToSocket(MemoryBlock segment, bool begin){ if (segment == ) return; try { var buffer = segment.GetUseMemory(); if (buffer.Length != 0) {
var len = await Socket.SendAsync(buffer); SocketProcessHandler?.SendCompeted(this, buffer, len); SencCompleted(len); GetLoger(LogLevel.Debug)?.Write(this, "NetClient", "SendData", $"Length {len}"); GetLoger(LogLevel.Trace)?.Write(this, "NetClient", " SendData", $"{Convert.ToHexString(buffer.Slice(0, len).Span)}"); if (len != buffer.Length) GetLoger(LogLevel.Error)?.Write(this, "NetClient", "SendData", $"Buffer length {buffer.Length} completed {len}"); await SendToSocket(segment.Next, false); } } catch (Exception e_) { GetLoger(Logs.LogLevel.Error)?.WriteException(this, "NetClient", "SendData", e_); Disconnect(e_);
} finally { if (begin) { while (segment != ) { var next = segment.Next; segment.Dispose(); segment = next; } } }}

发送完成后把链表的内存回归到内存池中。

通过以上方法就可以实现一个基于动态非连续内存块的Stream,它的好处是无论怎么扩容都不会产生内存复制,内存通过内存池管理也不怕创建和扩展导致新内存开销!其实这个Stream在BeetleX源码中已经实现并支持SslStream.具体可以去查看项目源码


BeetleX

开源跨平台通讯框架(支持TLS)

提供HTTP,Websocket,MQTT,Redis,RPC和服务网关开源组件

个人微信:henryfan128 QQ:28304340

https://github.com/beetlex-io/





相关推荐

python生成脚本与部署的方案(python生成脚本与部署的方案区别)

上周接到一个需求任务,去帮助抢舱位小队优化流程和提升他们的效率。公司的订舱需求越来越大,需求的舱位产品越来越多,而且每次只给我们几十分钟的准备时间,导致每次匆匆忙忙,人手不足,抢不到舱位则影响公司业务...

什么是Python中的生成器推导式?(生成器推导式的结果是一个)

编程派微信号:codingpy本文作者为NedBatchelder,是一名资深Python工程师,目前就职于在线教育网站Edx。文中蓝色下划线部分可“阅读原文”后点击。Python中有一种紧凑的语法...

Python技巧1:使用Python生成验证码

使用Python生成验证码

别再用手敲了,这个工具可以自动生成python爬虫代码

我们在写爬虫代码时,常常需要各种分析调试,而且每次直接用代码调试都很麻烦所以今天给大家分享一个工具,不仅能方便模拟发送各种http请求,还能轻松调试,最重要的是,可以将调试最终结果自动转换成爬虫代码,...

在 Python 中构建生成式 AI 处理器

为什么不为ApacheNiFi2.0.0创建一个Python处理器?在本教程中,了解这样做的挑战是容易还是困难。当我开始做这件事时,那是一个下雪天。我看到了IBMWatsonXPyt...

一文掌握Python生成器和迭代器之间的区别

迭代器(Iterators)迭代器是遵循迭代器协议的对象,这意味着它们实现了__iter__()和__next__()方法。__iter__()返回迭代器对象本身,__next__()返回容器中的下一...

为你的python程序上锁:软件序列号生成器

序列号很多同学可能开发了非常多的程序了,并且进行了...

5分钟掌握Python(八)之生成器(生成器 python)

1)说明:在Python中,这种一边循环一边计算的机制,称为生成器:generator。在Python中,使用了yield的函数被称为生成器(generator)。跟普通函数不同的是,生成...

python中迭代器和生成器傻傻分不清,别急,这就告诉你区别

杂谈...

使用python生成添加管理员账户的exe

0x01前言在渗透测试中,针对Windows服务器获取webshell后一般会考虑新建管理员账号(当然某些情况下可以直接读密码)登录rdp方便渗透。目前来说,常见的使用netuser(包括激活gu...

人人都能看懂的「迭代器、生成器」入门指南

来源:早起Python作者:刘早起...

用检索增强生成让大模型更强大,这里有个手把手的Python实现

选自towardsdatascience...

Markdown + 文档管理 + 静态网页生成,集大成的 Markdown 应用:MWeb

上周给大家推荐了Typora,作为一款纯粹的Markdown应用来说,它的各种功能和细节可以说已经相当极致,然而,Ulysses用户表示:我们想要的不仅仅是Markdown。是的,Markdo...

python yield -- 生成器(python 生成器send)

概念:yield和return的区别:一个是返回值,一个是迭代器,多次返回python中,yield关键字用于从一个函数中返回一个值,并且能够在之后从同一个位置继续执行。这使得yield成为...

Python生成器(Python生成器对象)

一、Python生成器介绍1.什么是生成器在Python中,使用了...