lru

简述

LRU，全称 Least Recently Used，最近最少使用

具体实现需要以下两个条件：

struct page {
    unsigned long flags;   // 存储 `enum lru_list` 属性
    struct list_head lru;  // 链接到 inactive/active 链表
};

将最近使用过的页链接到 active 链表中，最近没有使用的页链接到 inactive 链表

因为存在 文件页/匿名页，需要与 inactive/active 进行两两组合，所以 至少有四种 LRU 链表，如下：

enum lru_list {
    LRU_INACTIVE_ANON = LRU_BASE,
    LRU_ACTIVE_ANON = LRU_BASE + LRU_ACTIVE,
    LRU_INACTIVE_FILE = LRU_BASE + LRU_FILE,
    LRU_ACTIVE_FILE = LRU_BASE + LRU_FILE + LRU_ACTIVE,
    LRU_UNEVICTABLE,
    NR_LRU_LISTS
};

struct lruvec {
    struct list_head		lists[NR_LRU_LISTS];
    ...
};

最后，Page Reclaim 子系统依次从 LRU 链表中获得页，直接进行一系列的回收操作

场景分析

哪些函数支持将 folio 移动到对应的 LRU list 中？

将 folio 先暂时放在 fbatch 中，当 fbatch 满时，通过 move_fn 调用 lruvec_add_folio()， 将 fbatch 包含的所有 folio 都添加到对应的 LRU list。

什么场景下将所有 fbatch 包含的所有 folio 都添加到对应的 LRU list？

调用 lru_add_drain()，通过 move_fn 调用 lruvec_add_folio()，将之前放在 fbatch 中的所有 folio 都添加到对应的 LRU list。

什么场景下调用 lru_add_drain()？

  • memory reclaim, e.g. shrink_inactive_list(), shrink_active_list()

  • memory compact, e.g. compact_zone()

  • pagefault, e.g. do_wp_page(), do_swap_page()

  • syscall, e.g. madvise(), mlock()

  • task exit, e.g. exit_mmap()

什么场景下移动 folio 到另一个 LRU list？

或者说 什么场景下将 folio 先暂时放在 fbatch 中？

  • folio_add_lru(folio)

在 pagefault 中调用 folio_add_lru() 将 folio 先暂时放在 lru_add fbatch 中。 这是提供一个机会，因为后面可能会使用 folio_mark_accessed() 将 folio 移动到 LRU active list 中。否则，默认将 folio 移动到 LRU inactive list 中。

除了 pagefault 外，正常情况下，需要提前使用 folio_set_active()/folio_clear_active() 设置 folio 的属性，这样在调用 folio_add_lru() 时，才将 folio 移动到对应的 LRU active/inactive list 中。

  • folio_activate(folio)

如果 folio 在 LRU inactive list, 将 folio 移动在 LRU active list 中。 e.g read()

上面场景都是用户空间手动调用 read() 将某个 folio 移动到 LRU active list 中

  • folio_deactivate(folio)

如果 folio 在 LRU active list, 将 folio 移动在 LRU inactive list 中。 e.g. madvise(MADV_COLD)

  • deactivate_file_folio(folio)

如果 file folio 在 LRU active list, 将 file folio 移动在 LRU inactive list 中。 e.g. madvise(MADV_WILLNEED), fadvise64()

  • folio_mark_lazyfree(folio)

如果 anon folio 在 LRU active list 并且有 swapbacked 标志, 将 anon folio 移动在 LRU inactive list 中。 e.g. madvise(MADV_FREE)

上面场景都是用户空间手动调用 madvise() 将某个 folio 移动到 LRU inactive list 中

什么场景下自动将 folio 移动到 LRU inactive list？

kswadp 线程能够调用 shrink_active_list()，自动将 folios 从 LRU active list 移动 到 LRU inactive list 中。

什么场景下自动将 folio 移动到 LRU active list？

当（file or anon backing-device）folio 被回收后，出现 refault 现象，调用 workingset_test_recent() 判断 folio 是否是最近被驱逐？如果是最近被驱逐， 将 folio 设置成 active 属性，这样后面紧接着调用 lruvec_add_folio() 能够将 folio 移动到 LRU active list 中

正在进行回收时，通过 folio_referenced() 判断 folio 最近是否被访问过？如果被访问过， 将 folio 设置成 active 属性，这样后面紧接着调用 lruvec_add_folio() 能够将 folio 移动到 LRU active list 中

详细解析

如果支持 MGLRU，直接调用 lru_gen_add_folio()

否则，先调用 folio_lru_list() 获得 folio 是属于哪一个 enum lru_list， 然后再调用 list_add() 将 folio 加入到对应的 LRU list 中

如果支持 MGLRU，直接调用 lru_gen_del_folio()

否则，先调用 folio_lru_list() 获得 folio 是属于哪一个 enum lru_list， 然后再调用 list_del() 将 folio 从对应的 LRU list 中删除

杂项

从 v5.18 07ca76067308 mm/munlock: maintain page->mlock_count while unevictable 提交后，LRU_UNEVICTABLE list 变成一个虚假的链表，即 UNEVICTABLE page->lru 不用链接到 LRU_UNEVICTABLE list，只需要统计保存 UNEVICTABLE page 个数。 这样原本的 page->lru 没有使用，所以将 page->lru.prev 复用为 page->mlock_count。

PreviousrmapNextmulti-gen-LRU

Last updated

Was this helpful?