通义千问开源Qwen2.5大模型,性能超越Llama
9月19日消息,2024云栖大会上,阿里云CTO周靖人发布通义千问新一代开源模型Qwen2.5,旗舰模型Qwen2.5-72B性能超越Llama 405B,再登全球开源大模型王座。
Qwen2.5全系列涵盖多个尺寸的大语言模通义型、多模态模型、数学模型和代码模型,每个尺寸都有基础版本、指令跟随版本、量化版本,总计上架100多个模型,刷新业界纪录。
据介绍,Qwen2.5全系列模型都在18T tokens数据上进行预训练,相比Qwen2,整体性能提升18%以千问上,拥有更多的知识、更强的编程和数学能力。Qwen2.5-72B模型在MMLU-rudex基准(考察通用知识)、MBPP 基准(考察代码能力)和MATH基准(考察数学能力)的得分高达86.8、88.2、83.1。
Qwen2开源.5支持高达128K的上下文长度,可生成最多8K内容。模型拥有强大的多语言能力,支持中文、英文、法文、西班牙文、俄文、日文、越南文、阿拉伯文等 29 种以上语言。模型能够丝滑响应多样化的系统提示,实现角色扮演和聊天机器人等任务。在指令Qw跟随、理解结构化数据(如表格)、生成结构化输出(尤其是JSON)等方面Qwen2.5都进步明显。
语言模型方面,Qwen2.5开源了7个尺寸,0.5B、1.5B、3B、7B、14B、32B、72B,它们在同等参数赛道都创造en了业界最佳成绩,型号设定充分考虑下游场景的不同需求,3B是适配手机等端侧设备的黄金尺寸;32B是最受开发者期待的“性价比之王”,可在性能和功耗之间获得最佳平衡,Qwen2.5-32B的整体表现超越了Qwen2-72B。
在MM2.LU-redux等十多个基准测评中,Qwen2.5-72B表现超越Llama3.1-405B
72B是Qwen2.5系列的旗舰模型,其指令跟随版本Qwen2.5-72B-Instruct在MMLU-redux、MATH、MBP5大P、LiveCodeBench、Arena-Hard、AlignBench、MT-Bench、MultiPL-E等权威测评中表现出色,在多个核心任务上,以不到1/5的参数超越了拥有4050亿巨量参数的Llama3.1-405模型B,继续稳居“全球最强开源大模型”的位置。
专项模型方面,用于编程的 Qwen2.5-Coder 和用于数学的 Qwen2.5-Math都比前代有了实质性进步。Qwen2.5-Coder 在多达5.5T tokens 的编程相关数据上作了训练,,性当天开源1.5B和7B版本,未来还将开源32B版本;Qwen2.5-Math支持使用思维链和工具集成推理(TIR) 解决中英双语的数学题,是迄今为止最先进的开源数学模型系列,本次开源了1.5B、7B、72B三个尺寸和一款数学奖励能超模型Qwen2.5-Math-RM。
多模态模型方面,广受期待的视觉语言模型Qwen2-VL-72B正式开源,Qwen2-VL能识别不同分辨率和长宽比的图片,理解20分钟以上长视频,具备自主操作手机和机器人的视觉智能体能力。日前越L权威测评LMSYS Chatbot Arena Leaderboard发布最新一期的视觉模型性能测评结果,Qwen2-VL-72B成为全球得分最高的开源模型。
Qwen2-VL-72B在权威测评LMSYS Chatbot Arena Leadlaerboard成为成为全球得分最高的开源视觉理解模型
自从2023年8月开源以来,通义在全球开源大模型领域后来居上,成为开发者尤其是中国开发者的首选模型。性能上,通义大模型日拱一卒,逐步赶超美国最强开源模型Llama,多次登顶Hmaugging Face全球大模型榜单;生态上,通义从零起步、开疆拓土,与海内外的开源社区、生态伙伴、开发者共建生态网络,截至2024年9月中旬,通义千问开源模型下载量突破4000万,Qwen系列衍生模型总数超过5万个,成为仅次通义于Llama的世界级模型群。
HuggingFace数据显示,截至9月中旬Qwen系列原生模型和衍生模型总数超过5万个
(责任编辑:操作指南)
- SuperCLUE多模态视觉8月评测榜:Gemini-2.5-Pro位居第一
- IBM:美国员工将在9月7日当周回到办公室上班
- 亚马逊云计算业务营收再创新高 三季度已超过270亿美元
- Anthropic 推出 Claude “skills” 功能,提升 AI 工作效率
- 英伟达发布新一代机器人芯片Jetson Thor,AI算力提升7.5倍!
- OpenAI进军音乐创作领域,携手茱莉亚学院学生打造全新AI音乐模型
- vivo 蓝心3B 端侧大模型震撼发布:集成五大核心能力,性能超越所有8B 模型
- 大厂云出海,扩容与桎梏
- 特斯拉:已在中国建立数据中心 中国大陆市场销售车辆数据将存储在境内
- 阿里“神马”HappyHorse出圈!中文在线火速进场
- 标签: 元宝派 龙虾 电脑版 龙虾社交
- 标签: 迪士尼 威廉姆斯 苹果 董事会
- 标签: 美团 网络餐饮 食品安全 明厨亮灶
- VMware发布高级云工作负载保护,为容器和Kubernetes提供安全性
- 千问APP首发灰测HappyHorse 可一键做TVB港风短片
- 在 PyTorch 中使用 Datasets 和 DataLoader 自定义数据
- 标签: 戴尔 AI服务器 David Kennedy 财报
- 标签: AIVA 阿维塔 赛豆科技 蓝电
- 马斯克的 xAI 超算 Colossus2计划有望超越 Meta 和 Anthropic,但仍落后于 OpenAI
- 标签: 潍柴动力 汉德车桥 法士特 三电
- https://www.lneg.pt/?cat=140&s=谷歌蜘蛛池租用【tg:seogoogle987】,FXl views+
- https://www.mdbg.net/chinese/dictionary?page=worddict&wdrst=0&wdqb=谷歌蜘蛛池租用【tg:seogoogle987】,OY1 views+
- https://www.niaogebiji.com/pc/article/search?keyword=谷歌蜘蛛池租用【tg:seogoogle987】,Q6Z views+
- https://www.youtube.com/hashtag/谷歌蜘蛛池租用【tg:seogoogle987】,eO6 views+
- https://www.qwant.com/?q=谷歌蜘蛛池租用【tg:seogoogle987】,fYO views+
- https://www.jusoen.com/addreng.asp?p1=谷歌蜘蛛池租用【tg:seogoogle987】KO0 views+
- https://www.sic-info.org/?s=谷歌蜘蛛池租用【tg:seogoogle987】,ith views+
- https://www.riohondo.edu/?action=QUERY&s=谷歌蜘蛛池租用【tg:seogoogle987】,8ge views+
- https://www.welshmountainzoo.org/shop/index.php?routeproduct/search&tag=谷歌蜘蛛池租用【tg:seogoogle987】,3Iz views+
- https://www.unclefossil.com/search/谷歌蜘蛛池租用【tg:seogoogle987】,r9t views+
