每经AI快讯,1月14日,MiniMax官微宣布开源面向Coding Agent的新评测集OctoCodingBench。MiniMax表示,基于该评测集,其针对现有的开源闭源模型进行了广泛的评估,并发现一些很有启发性的实验结果:所有模型的Check-level 准确率(CSR)可以达到80%+,但Instance-level成功率(ISR)只有10%-30%;绝大多数模型的指令遵循能力会随着轮次的变多逐渐下降;现阶段模型表现普遍未能达到生产级要求,过程合规仍是盲区;开源模型正在快速追赶闭源模型。
MiniMax宣布开源面向Coding Agent的新评测集
未经允许不得转载:
街坊秀 »
MiniMax宣布开源面向Coding Agent的新评测集