Library of Layers (LoL): 动态排序 Transformer 层的推理时架构

研究者提出 Library of Layers (LoL)，一种在推理时动态排序 Transformer 层的架构，通过全局层库大小超参数统一参数复用与稀疏性权衡。在文本预训练、数独迷宫及多语言任务中，LoL 能自适应选择层序实现不同策略，且路由干预可强制特定解法。安全数据训练下，其路由输出可区分安全与不安全文本（AUROC 高）。