您现在的位置:首页 > 城事 > 科创 > 正文

中文大模型竞技场来了!阿里百度腾讯等20款国产大模型“蒙面PK”

来源:新民晚报     记者:金志刚     作者:金志刚     编辑:金志刚     2024-05-31 15:13 | |

LMSYS Org推出的大模型竞技场Chatbot Arena,已成为海外最具公信力的大模型榜单之一,但该榜单中文化程度相对不足。近日,上海人工智能实验室联合魔搭社区推出中国大语言模型评测竞技场Compass Arena,首度集齐国内主流大模型全阵容,阿里通义千问、百度文心一言、腾讯混元、讯飞星火、字节跳动豆包、智谱AI、百川智能、零一万物、月之暗面、Minimax、深度求索、书生·浦语等20款国产大模型出战,角逐中国大模型“最强王者”。

相比考题固定的传统测评,大模型竞技场采用盲测、开放的测评模式,可以更全面地检验模型实力。Compass Arena设置了随机、匿名对战,大模型选手们成为“蒙面唱将”,模型信息隐去后,由系统随机匹配进行PK,用户可以天马行空自由出题,并作为评委主观评判和投票。如果大模型不小心“自报家门”,则对话被过滤,不计入成绩。通过成千上万轮PK挑战和用户投票,系统将对大模型进行自动排名。

图说:魔搭社区直播时,网友脑洞大开在线出题  采访对象提供

Compass Arena由上海人工智能实验室OpenCompass司南评测体系与魔搭社区联合建设,前者负责组织评测,后者负责开源模型引入及社区打造。据上海人工智能实验室OpenCompass团队介绍,Compass Arena力求体现社区用户的真实反馈,评测机制借鉴Chatbot Arena,采用Elo评分系统,即国际象棋等对弈活动评估的权威标准。在这种模式下,大模型竞技类似“在游戏中打排位”,胜率成为评估模型水平的关键指标,同时随着排位变高,系统也会自动匹配高段位选手进行对战。

与Chatbot Arena相比,Compass Arena更聚焦中文大模型,主流国产大模型全覆盖,同时评测用户大多使用中文,可以充分评估国产大模型的性能。

目前,Compass Arena已汇聚超20款商业及社区模型,包括Qwen-Max、ERNIE-4.0-8K、Spark3.5 Max、Abab6.5、GLM4等国内头部厂商的旗舰款大模型,并引入了Llama3、Mixtral等海外标杆模型进行参照。更多模型及厂商还在不断加入中。

上线不到一周,已有上万人访问魔搭Compass Arena页面。魔搭社区表示,欢迎广大开发者和网友参与大模型排位赛的投票,共同促进国产大模型的进步和赶超。后续,Compass Arena首期排行榜将揭晓,并将定期公布更新。

新民晚报记者 金志刚

相关链接——

魔搭社区Compass Arena链接:

https://www.modelscope.cn/studios/opencompass/CompassArena

Compass Arena首批大模型名单:

Abab6.5-Chat (MiniMax)

Baichuan 4 (百川智能)

C4AI Command R+ (Cohere)

DBRX-Instruct (DataBricks)

Deepseek-LLM-67B-Chat(深度求索)

Deepseek-MoE-16B-Chat(深度求索)

Doubao-Pro-4K (字节豆包)

ERNIE-4.0-8K (百度文心一言)

GLM4 (智谱AI)

Hunyuan-Pro (腾讯混元)

InternLM2系列(上海AILab书生·浦语)

Llama3系列(Meta)

Mixtral 8x22B Instruct (Mistral)

MoonShot-V1-32K (月之暗面)

Qwen1.5系列 (阿里通义千问)

Qwen-Max (阿里通义千问)

Spark3.5-Max (讯飞星火)

Yi-34B-Chat (零一万物)

Yi-Large (零一万物)

今日热点

网友评论 小提示:您要为您发表的言论后果负责,请各位遵守法纪注意语言文明
您还能输入300
最新评论 [展开]

新民报系成员|客户端|官方微博|微信矩阵|新民网|广告刊例|战略合作伙伴

新民晚报|新民网|新民周刊|新民晚报社区版

新民晚报数字报|新民晚报ipad版|新民网客户端

关于新民网|联系方式|工作机会|知识产权声明

北大方正|上海音乐厅|中卫普信|今日头条|钱报网|中国网信网|中国禁毒网

增值电信业务经营许可证(ICP):沪B2-20110022号|互联网新闻信息服务许可证:31120170003|信息网络传播视听节目许可证:0909381

广电节目制作经营许可证:(沪)字第536号|违法与不良信息举报电话15900430043|网络敲诈和有偿删帖跟帖评论自律管理承诺书

|沪公网安备 31010602000044号|沪公网安备 31010602000590号|沪公网安备 31010602000579号

新民晚报官方网站 xinmin.cn ©2024 All rights reserved