术语slug: hot-reloading

热重载

Hot Reloading

在不重启服务或中断会话的前提下动态更新代码或配置

收录情报动态

共 3 篇 · 第 1/1 页
Marktechpost (@Marktechpost)T2·算力与基建
74 分
Together AI 发布 Together Compiler 让智能体持续热重载推理前向

Together AI 推出 Together Compiler,让 AI 智能体在生产流量变化时持续重调推理前向计算。其核心是常驻服务引擎配合热重载,无需重启即可加载智能体改写的前向实现,并用 12 层快速筛选加 60 层慢速验证的双层机制确认真实流量收益。官方称在 SemiAnalysis InferenceX 上最多提升 2.6 倍 TPS,但部分场景增益有限且数据均为自报,系统闭源并已上线其无服务器端点。

LangChain BlogT1·智能体与协同
68 分
LangChain 升级 Deep Agents 技能系统:支持工具绑定、运行时固定与线程内热重载

LangChain 对 Deep Agents 框架中的“技能”(Skills)机制进行了重大更新,允许将工具直接绑定到技能文件夹中,仅在智能体读取该技能时才加载其 Schema,从而显著优化上下文窗口并保留 Prompt 缓存。新系统还支持应用在首次模型调用前通过运行时固定(Runtime Pinning)预加载指令,以及长运行智能体在线程内动态热重载新增或修改的技能,无需重启会话即可即时生效。