01 / 系统与智能运行时

Shimmy WASM → Loom — 从安全执行边界到 LLM-first 运行时

先解决不可信代码的WASM隔离,再把模型流式计划编译为可并行执行的DAG。

时间
2026 — 至今
状态
硕士项目演化 / 持续开发
角色
运行时与协议设计

问题演化

Shimmy首先回答:如何在Lambda兼容环境中安全、低延迟地执行不可信多语言代码? 这进一步暴露出另一个问题:LLM如何规划、调度并安全执行多个工具和代码步骤?Loom由此产生。

Shimmy WASM

  • 以Go/Wazero实现WASM执行后端和语言无关JSON评测协议。
  • 建设编译模块池、WASM实例池及请求后内存快照恢复,提供干净warm-start语义。
  • 由WASI、受限文件系统和Lambda接口限定模型可调用的宿主能力。

Loom

  • 将模型流式输出增量解析为DAG;步骤一旦闭合即可调度,不必等待完整计划。
  • 独立工具与Agent分支并行执行,并把结果重新注入会话。
  • 提供IO、write、pure、shell、agent、defun和call等组合式原语。
  • 复用WASM沙箱、安全文件系统、LRU/singleflight与Prometheus指标。

设计原则

计划只是声明;执行器负责依赖、并发、能力边界、状态和可观测性。把二者分离后,模型输出可以被检查、调度和失败恢复。

能力覆盖

安全执行、Planning、Tool Use、并行调度、运行时设计和自动化评测。