街坊秀 街坊秀

当前位置: 首页 » 街坊资讯 »

MiniMax宣布开源面向Coding Agent的新评测集

每经AI快讯,1月14日,MiniMax官微宣布开源面向Coding Agent的新评测集OctoCodingBench。MiniMax表示,基于该评测集,其针对现有的开源闭源模型进行了广泛的评估,并发现一些很有启发性的实验结果:所有模型的Check-level 准确率(CSR)可以达到80%+,但Instance-level成功率(ISR)只有10%-30%;绝大多数模型的指令遵循能力会随着轮次的变多逐渐下降;现阶段模型表现普遍未能达到生产级要求,过程合规仍是盲区;开源模型正在快速追赶闭源模型。

未经允许不得转载: 街坊秀 » MiniMax宣布开源面向Coding Agent的新评测集