如何在lightllm中支持page size > 1 的attention 推理。

[hiworldwzj]

因为lightllm 最开始的时候只支持了page size == 1 的 att 推理，导致很多管理预估都与page size == 1 相关，为了支持 page size > 1 在这里设计一种可以兼容所有场景的方案。

1. mem manager 以page size 为块级别作为申请和管理资源的方式。
2. 对于每一个req 在推理的每一个循环都申请一个比当前token需求多一定token的资源先写入到 mem manager中，每一次循环发现多得不够多得时候就再多申请一些块补充给这个请求，使其在任何时候都处于token资源超过自己原来要求的情况。
3. 在请求进入或者从radix tree中查询匹配的时候，都以 page size 为边界单位进行管理。
4. 这种预先多分配一些资源的方式，可以让资源管理更简单，同时支持mtp等场景的推理，同时很简化。