课程调度中的相变阈值
使用渗透式阈值估计来决定课程何时应切换模式,而不是依赖固定的时期截止。
结构骨架
该研究探讨了一个系统,当局域磁极化子(local magnetic polarons)的连接程度足以支撑一种新的输运机制时,其宏观行为会发生改变。可复用的骨架是一个具有可测量序参量(order parameter)的阈值化连通过程。
物理概念/数学对象
可迁移对象是处于边界附近的渗流:一旦连通性跨越临界点,稀疏的局部簇便成为系统范围内的通路。
人工智能目标问题
针对稀疏或模块化模型,设计一个课程调度器。不以实际挂钟时间推进阶段,而是当一个表示层面的连通性统计量跨越某个阈值时进行推进。
变量/运算符/目标映射
- 局部极化子簇 -> 局部有用特征岛或专业子网络
- 连接性/渗流阈值 -> 从孤立技能学习切换到协同优化的标准
- 宏观传输变化 -> 迁移、路由效率或跨任务泛化的可衡量改进
为什么这可能奏效
课程设置常因过早或过晚地改变阶段而失败。一种渗流(percolation)观点认为,应等待直到所学的子结构充分连接,这比基于时间表的启发式方法更接近于一种基于状态的控制策略。
为什么会失败
当监测到的连通性统计量与下游的政权更迭没有因果关系时,该类比就会失效。当训练动力学足够平滑,以至于不存在有意义的阈值可供利用时,该类比也会失效。
最小可证伪实验
在分阶段任务套件上训练稀疏 MoE 或模块化序列模型。比较固定步长课程切换与基于路由器共激活测量的图连通性统计触发的切换。如果阈值触发切换在匹配计算下未显示出稳定性或迁移的优势,则拒绝该假设。