在Linux系统中,为了增加内存管理的效率,使用大页(HugePage)是一个有效的方法。大页是指一种比普通页更大的内存页,通常是2MB或者1GB。对于一些需要大量内存的应用程序,比如大数据处理、虚拟化等,使用大页可以大幅提升系统性能。下面介绍如何在Linux系统中设置大页。
创新互联公司是一家专注于成都网站建设、做网站与策划设计,南票网站建设哪家好?创新互联公司做网站,专注于网站建设10余年,网设计领域的专业建站公司;建站业务涵盖:南票等地区。南票做网站价格咨询:18980820575
1. 检查系统是否支持大页
首先需要检查系统是否支持大页。执行以下命令:
“`
$ grep -i huge /proc/meminfo
“`
如果输出如下,则说明系统支持大页:
“`
AnonHugePages: 0 kB
HugePages_Total: 128
HugePages_Free: 0
HugePages_Rsvd: 0
HugePages_Surp: 0
Hugepagesize: 2023 kB
“`
其中,HugePages_Total代表系统中可用的大页数量。如果输出为0,则说明系统不支持大页或者未开启大页功能。
2. 修改内核参数
要设置大页,需要将内核参数设置为允许大页,执行以下命令:
“`
$ sudo sysctl -w vm.nr_hugepages=128
“`
其中,128表示系统中可用的大页数量。这个数量可以根据实际需要进行调整。
3. 分配大页
设置好内核参数后,需要分配大页。执行以下命令:
“`
$ sudo mkdir /mnt/huge
$ sudo mount -t hugetlbfs nodev /mnt/huge
“`
这会在系统中创建一个挂载点/mnt/huge,用于分配大页。如果需要分配多个大页,可以在/mnt/huge目录下新建多个子目录,每个子目录对应一个大页。
4. 设置应用程序
在应用程序中使用大页,需要对应用程序进行设置。通常需要在应用程序启动时指定需要使用的大页数量。具体方法可以参考应用程序的文档。
5. 验证设置
设置完成后,可以执行以下命令来验证大页是否生效:
“`
$ grep -i huge /proc/meminfo
“`
如果输出如下,则说明大页已经生效:
“`
AnonHugePages: 0 kB
HugePages_Total: 128
HugePages_Free: 128
HugePages_Rsvd: 0
HugePages_Surp: 0
Hugepagesize: 2023 kB
“`
其中,HugePages_Free代表系统中未使用的大页数量。
使用大页可以显著提升系统性能,特别是在需要大量内存的应用程序中。设置大页需要先检查系统是否支持,然后修改内核参数,分配大页,最后对应用程序进行设置。大页设置完成后,可以通过检查/proc/meminfo来验证设置是否生效。
相关问题拓展阅读:
Concepts overview — The Linux Kernel documentation
Linux中的内存管理是一个复杂的系统,经过多年的发展,它包含越来越多的功能,以支持从 MMU-less microcontrollers 到 supercomputers 的各种系统。
没有MMU内存管理的系统被称为 nommu ,它值得写一份专门的文档进行描述。
尽管有些概念是相同的,这里我们假设MMU可用,CPU可以将虚拟地址转换为物理地址。
计算机系统中的物理内存是有限资源,即便支持内存热插拔,其可以安装的内存也有限的。物理内存不一定必须是连续的;它可以作为一组不同的地址范围被访问。此外,不同的CPU架构,甚至同架构的不同实现对如何定义这些地址范围都是不同的。
这使得直接处理物理内存异常复杂,为了避免这种复杂性,开发了
虚拟内存 (virtual memory)
的概念。
虚拟内存从应用软件中抽象出物理内存的细节,只允许在物理内存枣神中保留需要的信息
(demand paging)
,并提供一种机制来保护和控制进程之间的数据共享。
通过虚拟内存,每次内存访问都访问一个
虚拟地址
。当CPU对从系统内存读取(或写入)的指令进行解码时,它将该指令中编码的虚拟地址转换为内存控制器可以理解的物理地址。
物理内存被切分为
页帧 page frames
或
页 pages
。页的大小是基于架构的。一些架构允许从几个支持的值中选择页大小;此选择在内核编译时设置到内核配置。
每个物理内存页都可以映射为一个或多个
虚拟页(virtual pages)
。映射关系描述在
页表(page tables)
中,页表将程序使用的虚拟地址转换为物理内存地址。页表以层次结构组织。
更底层的表包含软件使用的实际内存页的物理地址。较高层的表包含较低层表页的物理地址。顶层表的指针驻留在寄存器中。
当CPU进行地址转换的时候,它使用寄存器访问顶级页表。
虚拟地址的高位,用于顶级页表的条目索引。然后,通过该条目访问下级,下级的虚拟地址位又作为其下下级页表的索引。虚拟地址的更低位定义实际页内的偏移量。
地址转换需要多次内存访问,而内存访问相对于CPU速度来说比较慢。为了避免在地址转换上花费宝贵的处理器周期,CPU维护着一个称为
TLB
(Translation Lookaside Buffer)的用于地址转换缓存(cache)。通常TLB是非常稀缺的资源,需要大内存工作应用程序会因为TLB未命中而影响性能。
很多现代CPU架构允许页表的高层直接映射到内存页。例如,x86架构,可以通过二级、三级页表的条目映射2M甚至1G内存页。在Linux中,这些内存页称为
大页 (Huge)
。大页的使用显著降低了TLB的压力,提高了TLB命中率,从而提高了系统的整体性能。
Linux提供两种机制开启使用大页映射物理内存。
之一个是
HugeTLB
文件系统,即
hugetlbfs
。它是一个伪文件系统,使用RAM作为其存储。在此文件系统中创建的文件,数据驻留在内存中,并使用大页进行映射。
关于 HugeTLB Pages
另一个被称为
THP (Transparent HugePages)
,后出的开启大页映射物理内存的机制。
与
hugetlbfs
不同,hugetlbfs要求用户和/或系统管理员配置系统内存的哪些部分应该并可以被大页映射;THP透明地管理这些映射并获取名称。
关于 Transparent Hugepage Support
通常,硬件对不同物理内存范围的访问方式有所限制。某些情况下,设备不能对所有可寻址内存执行DMA。在其他情况下,物理内存的大小超过虚拟内存的更大可寻址大小,需要采取改岩大特殊措施来访问部分内存。还有些情况,物理内存的尺寸超过了虚拟内存的更大可寻址尺寸,需要采取特殊措施来访问部分内存。
Linux根据内存页的使用情况,将其组合为多个
zones
。比如, ZONE_DMA 包含设备用于DMA的内存, ZONE_HIGHMEM 包含未永久映射到内核核竖地址空间的内存, ZONE_NORMAL 包含正常寻址内存页。
内存zones的实际层次架构取决于硬件,因为并非所有架构都定义了所有的zones,不同平台对DMA的要求也不同。
多处理器机器很多基于
NUMA
(Non-Uniform Memory Access system – 非统一内存访问系统 )架构。 在这样的系统中,根据与处理器的“距离”,内存被安排成具有不同访问延迟的
banks
。每个
bank
被称为一个
node
,Linux为每个
node
构造一个独立的内存管理子系统。
Node
有自己的zones、free&used页面列表,以及各种统计计数器。
What is NUMA?
NUMA Memory Policy
物理内存易失,将数据放入内存的常见情况是读取文件。读取文件时,数据会放入
页面缓存(page cache)
,可以在再次读取时避免耗时的磁盘访问。同样,写文件时,数据也会被放入
页面缓存
,并最终进入存储设备。被写入的页被标记为
脏页(dirty page)
,当Linux决定将其重用时,它会将更新的数据同步到设备上的文件。
匿名内存 anonymous memory
或
匿名映射 anonymous mappings
表示没有后置文件系统的内存。这些映射是为程序的stack和heap隐式创建的,或调用mmap(2)显式创建的。通常,匿名映射只定义允许程序访问的虚拟内存区域。读,会创建一个页表条目,该条目引用一个填充有零的特殊物理页。写,则分配一个常规物理页来保存写入数据。该页将被标记为脏页,如果内核决定重用该页,则脏页将被交换出去
swapped out
。
纵贯整个系统生命周期,物理页可用于存储不同类型的数据。它可以是内核内部数据结构、设备驱动DMA缓冲区、读取自文件系统的数据、用户空间进程分配的内存等。
根据内存页使用情况,Linux内存管理会区别处理。可以随时释放的页面称为
可回收(reclaimable)
页面,因为它们把数据缓存到了其他地方(比如,硬盘),或者被swap out到硬盘上。
可回收页最值得注意的是
页面缓存
和
匿名页面
。
在大多数情况下,存放内部内核数据的页,和用作DMA缓冲区的页无法重用,它们将保持现状直到用户释放。这样的被称为
不可回收页(unreclaimable)
。
然而,在特定情况下,即便是内核数据结构占用的页面也会被回收。
例如,文件系统元数据的缓存(in-memory)可以从存储设备中重新读取,因此,当系统存在内存压力时,可以从主内存中丢弃它们。
释放可回收物理内存页并重新调整其用途的过程称为
(surprise!) reclaim
。
Linux支持异步或同步回收页,取决于系统的状态。
当系统负载不高时,大部分内存是空闲的,可以立即从空闲页得到分配。
当系统负载提升后,空闲页减少,当达到某个阈值(
low watermark
)时,内存分配请求将唤醒
kswapd
守护进程。它将以异步的方式扫描内存页。如果内存页中的数据在其他地方也有,则释放这些内存页;或者退出内存到后置存储设备(关联
脏页
)。
随着内存使用量进一步增加,并达到另一个阈值-
min watermark
-将触发回收。这种情况下,分配将暂停,直到回收到足够的内存页。
当系统运行时,任务分配并释放内存,内存变得碎片化。
虽然使用虚拟内存可以将分散的物理页表示为虚拟连续范围,但有时需要分配大的连续的物理内存。这种需求可能会提升。例如,当设备驱动需要一个大的DMA缓冲区时,或当THP分配一个大页时。
内存地址压缩(compaction )
解决了碎片问题。
该机制将占用的页从内存zone的下部移动到上部的空闲页。压缩扫描完成后,zone开始处的空闲页就并在一起了,分配较大的连续物理内存就可行了。
与
reclaim
类似,
compaction
可以在
kcompactd守护进程中异步进行,也可以作为内存分配请求的结果同步进行。
在存在负载的机器上,内存可能会耗尽,内核无法回收到足够的内存以继续运行。
为了保障系统的其余部分,引入了
OOM killer
。
OOM killer
选择牺牲一个任务来保障系统的总体健康。选定的任务被killed,以期望在它退出后释放足够的内存以继续正常的操作。
关于linux系统大页设置的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。
成都网站推广找创新互联,老牌网站营销公司
成都网站建设公司创新互联(www.cdcxhl.com)专注高端网站建设,网页设计制作,网站维护,网络营销,SEO优化推广,快速提升企业网站排名等一站式服务。IDC基础服务:云服务器、虚拟主机、网站系统开发经验、服务器租用、服务器托管提供四川、成都、绵阳、雅安、重庆、贵州、昆明、郑州、湖北十堰机房互联网数据中心业务。
新闻名称:如何在Linux系统中设置大页(HugePage)? (linux系统大页设置)
网站链接:http://www.gawzjz.com/qtweb2/news31/6581.html
网站建设、网络推广公司-创新互联,是专注品牌与效果的网站制作,网络营销seo公司;服务项目有等
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联