一般我们不需要从用户态得到进程虚拟地址对应的物理地址,因为一般来说用户进程是完全不关心物理地址的。
少数应用场景下,用户可能会关心,比如在用户态做DMA的场景(如DPDK之类的)。还有一些场景,比如想调试剖析每一页的内存占用情况,是否swap出去了等。
从用户态得到虚拟地址对应的物理地址,我们不可能去walk进程的page table,也没有权限。不过还好内核给我们提供了一个接口,叫pagemap,而且,这个接口与硬件的体系架构无关。在/proc/pid/下面有个文件叫pagemap,它会每个page,生成了一个64bit的描述符,来描述虚拟地址这一页对应的物理页帧号或者SWAP里面的便宜,详见文档:
linux/Documentation/admin-guide/mm/pagemap.rst
这64bit的描述如下:
不同的体系架构的MMU不同,页表格式也不同,但是pagemap这个接口与具体页表的格式无关,可以说都被抽象化了。
下面我们忽略swap的影响(假设关闭了swap或者page一直是pin的状态),从DPDK抄一段虚拟地址转换为物理地址的代码:
- #define phys_addr_t uint64_t
- #define PFN_MASK_SIZE 8
- phys_addr_t
- rte_mem_virt2phy(const void *virtaddr)
- {
- int fd, retval;
- uint64_t page, physaddr;
- unsigned long virt_pfn;
- int page_size;
- off_t offset;
- /* standard page size */
- page_size = getpagesize();
- fd = open("/proc/self/pagemap", O_RDONLY);
- if (fd < 0) {
- ...
- }
- virt_pfn = (unsigned long)virtaddr / page_size;
- offset = sizeof(uint64_t) * virt_pfn;
- if (lseek(fd, offset, SEEK_SET) == (off_t) -1) {
- ...
- return -1;
- }
- retval = read(fd, &page, PFN_MASK_SIZE);
- close(fd);
- ...
- /*
- * the pfn (page frame number) are bits 0-54 (see
- * pagemap.txt in linux Documentation)
- */
- if ((page & 0x7fffffffffffffULL) == 0)
- return -1;
- physaddr = ((page & 0x7fffffffffffffULL) * page_size)
- + ((unsigned long)virtaddr % page_size);
- return physaddr;
- }
最后的一步是关键的计算过程:
- physaddr = ((page & 0x7fffffffffffffULL) * page_size)
- + ((unsigned long)virtaddr % page_size);
page & 0x7fffffffffffffULL取得了页帧号(PFN),乘以页的size得到这页起始的物理地址,之后加上virtaddr % page_size的页内偏移,得到最终的物理地址。
我们来实操一下调用上面的函数完成地址转化:
- int main(int argc, char *argv[])
- {
- uint8_t *p = malloc(1024 * 1024);
- *(p + 4096) = 10;
- printf("virt:%p phys:%p\n", p + 4096, rte_mem_virt2phy(p + 4096));
- *(p + 2 * 4096) = 10;
- printf("virt:%p phys:%p\n", p + 2 * 4096, rte_mem_virt2phy(p + 2 * 4096));
- }
运行结果如下:
- ~$ sudo ./a.out
- virt:0x7f81e402a010 phys:0x2b601010
- virt:0x7f81e402b010 phys:0x3ceec010
内核态实现pagemap proc接口的代码位于:
- fs/proc/task_mmu.c
其中比较核心的函数是把PTE转换为pagemap_entry的过程,有兴趣的童鞋可以仔细阅读下:
特别留意画红线的位置,可以知道pagemap里面的那些flag是怎么被置上的。
本文转载自微信公众号「Linux阅码场」,可以通过以下二维码关注。转载本文请联系Linux阅码场公众号。