托管代理

托管代理在远程沙盒环境中运行，而不是在本地计算机上运行。如果设计得当，它们可以提供无限的并发性、一致的执行环境和多人协作。关键的见解是，会话速度应仅受模型提供者首次令牌时间的限制，所有基础设施设置在用户开始会话之前完成。