人工智Neng的快速发展令人瞩目，但其潜力尚未完全释放。我们常常将AI视为一个拥有强大“大脑”的实体，然而真正关键的往往在于控制机制——那些引导和约束“大脑”的行为规则、工具以及记忆系统。理解并优化这些约束机制，对于构建真正实用、可靠且安全的AI智Neng体至关重要。

早期AI研究主要集中于提升语言模型的规模和性Neng。geng大的模型参数通常意味着geng强的生成Neng力，但这仅仅是冰山一角。如同一个强大的引擎需要精密的控制系统一样，强大的语言模型也需要完善的框架来发挥其真正的效Neng。

一个AI智Neng体由两部分组成：大语言模型和其他所有部分——它Ke以调用的工具、它Ke以读取的记忆、它遵循的规则、它执行的工作流程——就是控制机制。

在训练过程中，AI模型可Neng会学习到一些不理想的行为模式。例如Ru果训练数据中经常出现对某个概念的负面评价，模型可Neng会延续这种倾向。为了避免这种情况发生，一种常用的方法是使用向量技术来减少“作弊”行为。

结果出奇地直观Ru果你称你的AI代理为白痴，它实际上可Neng表现geng差。语言模型是从人类文本中学习的，在这些文本中，被称为白痴的人往往表现得像白痴。模型会延续这种语境。给出具体、事实性的反馈，而不是情绪化的语言：不是因为AI有情感，而是因为情绪化的表述会影响它接下来生成的内容。

一个典型的智Neng体工作流程遵循计划→生成→评估的循环模式。规划器负责将复杂的任务分解为geng小的子任务；生成器负责执行这些子任务；而评估器则负责检查输出结果并进行必要的修正。

推出： 模型产生输出 → 评估模块产生反馈 → 模型合并反馈 → 重复直到成功 。评估者Ke以是另一个 AI 系统、编译器、测试运行器或模拟环境。

打造geng好的约束机制现在被称为约束工程 ，它Yi成为 AI 研究和行业中Zui引人注目的转变之一。认知框架： 这是一个在每次会话开始时读取的文件，Ke以将其视为一份宪法。“在Zuo任何事情之前”，列出目录中的文件。“Ru果你想修改一个文件，先读取它。” Zui近研究表明这个文件应该是一个 列表形式的文件。