Xingjian Wang
Papers - 2026-08-15Blur image

Spatial Intelligence (Image/Video)#

Spatial Memory Agent: Experience-Grounded Procedure Memory for Spatial Intelligence

本文提出 Spatial Memory Agent,将经验驱动的过程记忆引入空间智能任务。方法上,系统把空间交互过程中的步骤、经验和可复用程序组织成 memory,以支持后续的空间推理与行动。实验表明,这种记忆机制能够提升智能体在空间理解和任务执行中的稳定性,并在相关基准上带来更好的表现。

4D Understanding and Generation#

UniSwap: Streaming Audio-Visual Identity Swapping for Talking Videos

本文提出 UniSwap,用于在说话视频中进行流式的音频-视觉身份替换,同时尽量保留原视频的动作、场景、语义内容和时序同步。方法上,作者将外观与音色的迁移统一到单个音视频扩散 Transformer 中,并通过 swap-and-reconstruct 数据构造、双向骨干的分阶段适配、block-causal KV 缓存生成以及高效 self-forcing 蒸馏来实现长序列流式推理。为降低长视频生成的采样成本,模型把每个块的扩散步数从 30 步压缩到 3 步,并用多 LoRA 切换共享一个冻结骨干。实验表明,该方法在音画同步、身份保持、流式效率和长视频稳定性上都取得了很强表现。

LiveAnimate: Stable Long-Form Streaming Human Animation in Real-Time

本文提出 LiveAnimate,旨在实现基于单张参考图和姿态流的人体动画的实时、长时程稳定生成。方法上,它将预训练的双向 DiT 通过两阶段训练转成块级因果自回归生成器,并用参考锚定 teacher-forcing 适配与块级 self-forcing 蒸馏把采样预算降到 3 步。作者还设计了 PR-Sink 注意力机制,用静态槽位锚定首块、动态槽位保存检索到的历史姿态块,并结合滚动窗口,在姿态重复出现时恢复外观上下文而不需要保存整段缓存。实验显示,该系统可在两张 H100 上实现 19.63 FPS 的流式推理,在 3 分钟基准上从头到尾保持接近恒定的感知质量和身份一致性,明显优于现有方法。

Agent Training and Evaluation#

Intern-S2-Preview: Scientific Agentic Foundation Model

这篇工作提出 Intern-S2-Preview,一系列面向科学发现的 agentic foundation model,目标是支持多模态科学理解、推理、生成和长时程任务。方法上,模型先在渲染科学文档、图文交错数据和多种科学语料上做科学多模态预训练,再通过统一的后训练流水线进行监督微调、可扩展多任务强化学习、黑盒与白盒 agentic RL,以及 on-policy distillation。作者还引入了多项训练稳定性与效率技巧,包括 partial rollout 和 off-policy correction、adaptive length regularization、online speculative decoding、robust multi-task optimization 以及 trace-aware experience assembly。实验显示,Intern-S2-Preview-397B 在多个科学、多模态、agentic 和通用基准上达到具有竞争力或领先的结果;其中时间序列模块提升了 SciTS 上的科学信号理解与预测能力,独立的 Intern-MemDec-4B 扩展则将 Biology-Instructions 平均分从 56.92 提升到 60.32。

AutoDesign: Meta-Harness Optimization for Long-Horizon Agentic Design

本文提出 AutoDesign,一个面向长时程智能体设计任务的 meta-harness 优化框架,目标是把多模态输入自动转化为高质量的结构化媒体产物。方法上,它让代码智能体根据 rollout 反馈递归改进 harness,并以论文转海报生成为核心任务,同时构建了 PosterBench 和 PosterBench-mini 两个评测集。实验中,AutoDesign 在 PosterBench Main Track 上取得 78.32 分,超过闭源系统 Claude Design 7.45 分。进一步的受控实验表明,学习到的 DesignHarness 在 7 组配置下都能稳定提升性能,平均分从 54.99 提升到 67.39。系统盲测的人类评估也显示,该方法获得了最高的偏好。

Multimodal World Model#

Alaya-EVOKE: From Linear-Scaling Supervision to Endless World

这篇工作提出 Alaya-EVOKE,用外部化的持久世界状态来支撑可持续交互式世界建模,避免把长历史直接塞进去噪上下文或 KV cache 带来的成本增长。方法上,它用按相机索引的 world state bank 保存场景几何,只检索视角相关信息;同时重设计教师模型,采用分块分组、远帧检索和线性注意力全局状态来做长时程监督。作者还引入 30 秒的分布匹配目标,并在 self-forced rollouts 下把长程能力蒸馏到一个三步学生模型中,从而在不使用 classifier-free guidance 的情况下提升抗长期漂移能力并保持条件响应。实验上,Evoke 在单张 H200、384×640 分辨率下每个 1.5 秒分块可在 2.11 秒内生成,并在 WBench 上取得 SOTA,同时在 VBench-Long 和 VBench-2.0 上保持有竞争力的表现。

DreamX-Phi 1.0: Action-Conditioned Video World Model for Robotic Manipulation

本文提出 DreamX-Phi 1.0,一个面向机器人操作的动作条件视频世界模型,用于根据历史观测和动作预测未来视觉演化。方法上,它将动作信号显式注入视频生成或预测过程,以学习可用于操控规划的环境动力学表示。实验表明,该模型能够更准确地刻画机器人操作中的时序变化,并在相关任务上优于基线方法。

PlayWorld: Benchmarking World Models with Agent Players over Long-Horizon Objectives

本文提出 PlayWorld,一个用于评测世界模型的基准,重点考察模型在长时程目标和交互式环境中的表现。方法上,基准引入 agent players,在持续决策与多步交互过程中检验世界模型的长期预测和规划能力。实验结果显示,该基准能够有效区分不同世界模型的能力差异,并暴露出长程一致性与目标跟踪方面的不足。

Papers - 2026-08-15
https://themaoqiu.github.io/blog/papers-2026-08-15
Author 猫柒-
Published at August 15, 2026