面向海量AI Agent场景的动态内存超卖技术研究
关于这个机会
【课题背景】 代码开发、浏览器自动化、数据分析类Agent应用快速发展,云端沙箱作为Agent执行代码、调用工具、维护会话环境的核心基础设施,承载大量交互式任务。Agent依靠多轮模型调用、工具执行与环境反馈完成工作,任务过程具备阶段切换、持续交互的特征。 本课题提炼Agent三大负载特点:执行与等待交替,等待模型或外部响应时环境需保留,但内存活跃度下降;内存需求随任务阶段变化,编译、浏览器操作、数据处理的工作集差异大,历史峰值不代表稳态需求;会话状态需持久保存,但依赖库、文件缓存、闲置堆内存不必常驻物理内存,存在分级回收空间。上述特性与回收收益,需要真实负载实验验证。 现有透明内存卸载技术可识别内存冗余,为本研究提供基础。课题面向Agent任务阶段、工具链路与时延约束,构建 “阶段识别—主动压测—收益评估—动态超卖—按需恢复” 闭环机制,在保障任务成功率与服务质量的前提下提升内存利用率,助力腾讯云Agent沙箱规模化降本,研究对象为Agent环境及配套工具进程占用的主机内存。 【课题挑战】 1.Agent内存需求建模:不同Agent和工具内存行为差异显著,任务在等待、执行、交互态快速切换。融合任务阶段、进程行为、页面访问数据识别实时工作集,预判内存变化与页面复访时机,区分低活跃内存和可安全回收内存,避免简单依靠 CPU、访问频率决策。 2.低扰动主动内存压测:静态监控无法量化回收容量与性能代价。采用自适应小步试探做受控回收,基于缺页、工具时延判断内存敏感边界,解决等待阶段反馈不足、重启执行后损耗才显现的问题,探测设置扰动上限与恢复机制。 3.虚拟化精细化回收:不同内存页面回收代价不同,各类进程访问模式有区别。结合页面类型、热度、任务阶段使用差异化策略,协同缓存清理、内存压缩、换页能力,打通宿主机与客户机信息壁垒,确保释放内存可复用。 4.多租户超卖与SLA保障:模型返回、批量启动会造成Agent内存同步冲高,峰值并不独立。依据负载相关性、内存增速动态调整超卖比例,配合准入控制、内存水位、调度协同,降低内存不足、频繁换页、尾时延恶化风险。 5.评测与收益归因:Agent流程动态,外部时延容易掩盖回收损耗。搭建可回放对照的评测环境,覆盖长短会话、并发唤醒场景,量化内存节省、恢复时延、任务成功率,明确算法适用边界。
任职要求
【拟取得的成果】 1.Agent 内存行为画像与需求预测模型:建设覆盖代码执行、浏览器自动化、数据处理等典型场景的负载与观测体系,形成任务阶段、工作集变化、冷内存分布及峰值相关性分析方法;研发面向阶段切换的内存需求预测与回收代价模型,为主动回收和动态超卖提供依据。 2.主动内存压测与精细化回收算法:研发融合业务语义与系统反馈的低扰动探测算法,动态估计满足服务质量要求的内存保有量;形成按阶段、按实例、按页面类型实施的回收策略,支持探测强度自适应、异常停止与恢复,并研究工具执行前的预留和预取机制,降低冷内存重新访问开销。 3.面向Agent沙箱的安全超卖原型系统:打通负载观测、需求预测、主动探测、回收执行、容量调度与效果反馈,建设适配容器及轻量虚拟机的内存管理原型。在明确任务成功率、工具执行时延及恢复时延约束的前提下,评估可持续超卖比例、单机承载密度和单位任务成本,形成可灰度验证的工程方案。 【我们需要这样的你】 1.包含但不限于计算机、软件工程、电子信息、自动化、人工智能等相关专业的博士同学; 2.至少具备以下一项技能或知识:Linux内存管理、操作系统与虚拟化、容器与云计算、性能分析与可观测性、资源调度、时序预测或反馈控制; 3.在页面回收、Swap、内存压缩、cgroup、KVM、轻量虚拟机、eBPF等方向有实践,或有云平台资源超卖、Agent沙箱与运行时研发经验者优先; 4.编程能力强,熟悉C/C++、Rust、Go、Python 中至少一种语言,能够开展系统原型开发、实验设计与性能分析; 5.有好奇心和自驱力,具备良好的学习、沟通与协作能力,愿意围绕真实业务问题推进技术研究与工程落地。
内推申请说明
本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道,不等于已在公司官网投递;薪资、岗位状态和实际招聘流程以官方信息为准。