Loop Engineering-260831

定义:

• Human in the loop: 通过prompt，在agent session中驱动AI进行生产，人来评估结果，然后进行下一步动作.

• No Human in the loop： 人类下达一次指令。Agent在自己的循环中把事情做完。任务的理解与生产以及生产结果的评估，都由AI来进行. 即，在harness之外，let AI self guided. 人只负责下达第一次的指令，然后让AI来决定要如何进行.

  这里的loop指的是 智力工作本身的迭代循环.

loop设计模式一直存在：

1. 当前信息不足与回答问题或者解决问题时，context engineering就会收集信息、查看文档，然后信息足够了再输出或者行动
2. 当任务难变难，一次context window内无法完成整个任务时，harness engineering就会在context之外存好相关文件、目标、细节等。列好执行清单，逐步执行将任务干完
3. 现在loop engineering就是在 harness之外，将一个更大的目标，不断拆解为下一次任务的提示词. 驱动下一层的东西在做事情.

loop存在什么问题：

1. 人类脑中对于任务的理解，写到任务文档中，到AI进行理解。存在信息丢失。也就是我们永远无法一次将想要的东西全部通过文档表达出来并且期望AI完全实现且没有问题.
2. token开销不经济. 长上下文、目标偏移、都是问题.

loop适合什么场景:

1. 优化指标是固定、清晰、不会偏移的. 任务是具体的边界清晰的。
2. 其实也就是有一个清晰的feedback，不来自AI的幻觉，而来自现实的反馈.
3. 你有无限的Token，你的时间与判断力宝贵，你用钱来换空间换时间，直接用钱去换一个不清晰的结果. 用token去直接将你的脑中的创造力变成现实.

例如：做实验，搞科研。对一个具体问题持续迭代，持续进行优化。feedback就来自测试集脚本的跑分，AI的幻觉不会在其中起虚假的作用

我的思考:

1. loop自动化是必要的，但是自动化的前提是场景是清晰的指令、清晰的边界、清晰的终止结果. 是在搭建loop之前就进行研判，这个任务是否能搭建loop, loop中的每一步应该怎么设计. 对于loop的缺陷应当思考清楚.
2. 小loop是有必要的，也就是对于每一步进行 verify. 不到对应的分数或者不到打分的结果，就打回重新执行. 例如code review，前端走查，QA测试等。这种标准化的、结果较为清晰的，任务边界，都应该由循环执行。让人从中解放出来.
3. 从时间与token效率角度而言。直接去复用别人已经调试好的loop, graph, 等自动化流程，是性价比最高的

信息来源： WTF Is an “AI Agent Loop”? Genius or Hype? - YouTube Loop Engineering explained in 8min.. - YouTube