推理时间干预技术详解 | AI生成和翻译
将以下markdown文本翻译成简体中文。仅返回翻译后的内容，无需任何额外注释或解释。如果文本已是简体中文，则原样返回。
重要提示：翻译markdown内容时，请确保格式正确：
-
始终在标题（以#开头的行）和表格（以 开头的行）之间添加空行 - 保持正确的markdown表格结构
- 保留所有原始格式和间距，除非格式规则要求更改
- 不要将整个翻译包裹在markdown代码块中（
markdown或）——内容将直接在Jekyll与Kramdown中使用
翻译规则：
- 请勿翻译特定条目，如项目名称、公司名称或学校名称（如不确定）
- 对于技术术语、新词和技术概念，请保留英文而非翻译
- 中文翻译：专有名词和技术术语请使用英文，而非中文音译
- 日语翻译：技术术语请使用英文，而非罗马字或片假名
- 所有语言：现代技术词汇、编程术语和品牌名称优先使用英文
问题：在“通过模型架构插件改进指令遵循”的语境中，“ITI”是什么意思？
回答：
在最近的LLM研究中，ITI通常指推理时干预。
这是一种在推理时（而非训练时）修改或引导模型内部激活的技术，用于改善指令遵循、真实性、安全性或风格控制等行为。
ITI的典型含义（在你的语境中）
如果你正在构建一个围绕指令遵循优化的插件，ITI可能指：
推理时干预 = 通过运行时干预隐藏状态来控制模型行为
其工作原理概述
ITI方法不重新训练模型，而是：
- 识别内部表示（如注意力头、MLP激活、残差流）
- 检测与期望行为相关的特征（如“遵循指令”、“拒绝”、“幻觉”）
- 在前向传播过程中对激活应用加法或基于投影的编辑
因此流程变为：
提示 → 前向传播 → 对激活进行干预 → 继续生成
它如何帮助指令遵循
指令遵循的失败通常源于：
- 相互冲突的内部“固有习惯”（预训练偏差）
- 指令信号在层间传播较弱
- 某些注意力头的浅层对齐
ITI试图：
- 放大与指令相关的特征
- 抑制冲突方向
- 在不进行完整微调的情况下引导生成轨迹
相关概念（供定位工作时参考）
根据你的实现方式，ITI接近于：
- 激活引导 / 表示工程
- Logit透镜 / 隐藏状态编辑
- 控制向量（如拒绝/安全引导向量）
- 无需梯度更新的测试时适应
重要区别
- SFT / RLHF → 永久改变权重
- LoRA / 适配器 → 添加可训练参数
- ITI → 不改变权重，仅进行运行时激活操作
如果你愿意，可以描述你的插件设计（例如，你在何处注入信号——注意力层、残差流或MLP），我可以将其映射到已知的ITI方法或提出改进建议。