NeFut Logo NeFut
EN 管理员登录

[AI学术] TRIPROBE:面向可解释人工智能的任务可分离性探测

发布于:2026-09-17 22:00 最后更新:2026-09-18 00:46
#algorithm #AI #Machine Learning

现代机器学习流水线的评估往往只关注下游任务的准确率,却忽略了任务成功或失败的根本原因。TriProbe 提出了一套多层次探测框架,用于可解释地诊断任务可分离性。它不把模型视作黑箱,而是追踪可分离性在 输入空间学习特征最终分类器 三个层面的演化。

TriProbe 将多任务问题拆解为若干二分类子任务,并分别施加三类探针:

可分离性的度量采用 最大 Fisher 判别比(Maximum Fisher's Discriminant Ratio),公式为 $$MFD = \frac{(\mu_1 - \mu_2)^2}{\sigma_1^2 + \sigma_2^2}$$,其中 $\mu_i$ 与 $\sigma_i^2$ 分别是第 $i$ 类的均值和方差。该指标能够客观量化不同层面上的任务冲突或瓶颈。

在 Roshambo sEMG 基准数据集上的实验表明,TriProbe 能够捕捉到隐藏的任务崩溃点,帮助研究者定位数据收集不足、模型验证失误或架构设计缺陷,从而有针对性地改进系统。

点评

原文链接: https://arxiv.org/abs/2609.18525

[h] 返回首页