FlagEval大语言模型评测9月榜:Baichuan 2排名第一-万事数码网
数码
万事数码网

FlagEval大语言模型评测9月榜:Baichuan 2排名第一

发布

9月19日消息,继SuperCLUE中文大模型评测基准8月榜单发布之后,国内又一权威评测体系FlagEval公布最新9月榜单评测结果。

FlagEval是北京智源人工智能研究院推出的大模型评测体系及开放平台,旨在建立科学、公正、开放的评测基准、方法、工具集,协助研究人员全方位评估基础模型及训练算法的性能。FlagEval大语言模型评测体系当前包含6大评测任务,近30个评测数据集,超10万道评测题目。

据悉,在9月评测中,FlagEval进行了评测框架升级,细化「安全与价值观」与「推理能力」。依据最新版的能力框架,FlagEval团队同步更新了智源自建的ChineseLinguisticsCognitionChallenge(CLCC)主观评测数据集题库v2.0,题目数量扩充3倍,采用“多人‘背靠背’评测+第三方仲裁”的方式保证评测结果的一致性。

基于最新CLCCv2.0主观评测数据集,FlagEval9月榜重点评测了近期大的7个开源对话模型。从整体结果来看,Baichuan2-13b-chat、Qwen-7b-chat、Baichuan2-7b-chat名列前茅,准确率均超过65%。

在基座模型榜单中,Baichuan2、Qwen、InternLM、Aquila的客观评测结果表现均超越同参数量级的Llama及Llama2模型。

在SFT模型榜单中,Baichuan2-13B-chat、YuLan-Chat-2-13B、AquilaChat-7B名列前三。

另外,值得注意的是,在客观评测两个榜单中,Baichuan2均表现出优异性能,基础模型测试在中英文领域均全面超越Llama2。


TAG:百科 | 数码 | FlagEval | AI
文章链接:https://keji.96ws.com/53781.html
提示:当前页面信息来源自互联网,仅做为信息参考,并不提供商业服务,也不提供下载与分享,本站也不为此信息做任何负责,内容或者图片如有侵权请及时联系本站,我们将在第一时间做出修改或者删除
旅游
当前页面更新时间:2024-09-19