SPEX：面向大规模LLM的交互识别算法

伯克利AI研究团队提出SPEX和ProxySPEX算法，能够高效识别大规模LLM中的关键交互。这些算法利用信号处理和编码理论，通过选择性消除(ablation)技术，在保持高保真度的同时，将交互分析规模从数十个扩展到数千个组件。SPEX在特征归因、数据归因和模型组件归因三个领域展示了其有效性，特别是在处理长上下文输入和识别训练数据中的协同与冗余交互方面表现出色。