AI模型市场中提供者的成本和能力各不相同,这产生了计算套利的机会。中介可以从多个模型购买推理服务,再以更高的价格转售,从而获利。除了套利者的利润,消费者和提供者也能获得价值,因而可能重塑模型市场。已有研究在小规模模型池中验证了可行性,但在大规模市场中需要既可计算又低成本的策略。本文将计算套利形式化为分配问题,并证明其一般情况下是NP难的。我们进一步指出,在模型性能随推理支出呈递减收益的自然条件下,最优分配可在多项式时间内求得。为降低寻找套利策略的前期成本,我们提出一种在有限数据下高效估计模型性能的方法,样本需求显著降低。理论分析得到若干经济结论:在最优解中,每个被资助的模型的边际效用与花费相等;套利会把收入从效用低于价格的提供者转移;并且奖励互补的专长。点评