量化后仅 2GB 内存,端侧友好~...【查看原文】
量化后仅 2GB 内存,端侧友好~
褚杏娟 2024-09-11
|原文章发布于2024年09月09日端侧 ChatGPT 时刻到来!旗舰端侧模型面壁「小钢炮」系列进化为全新 MiniCPM 3.0 基座模型,再次以小博大,以 4B 参数,带来超越 GPT-3.5 的性能,强得不像端侧模型。并且,量化后仅 2GB 内存,端侧友好。这还是一款瑞士军刀般全面开挂的基座模型,一口气带来:·无限长文本,榜单性能超越 Kimi,超长文本也不崩;·Function Calling,性能比肩 GPT-4o 的端侧最强 Function Calling;·超强 RAG 外挂三件套,中文
ChatGPT
OpenBMB 2024-10-09
[图片] 开发者朋友们大家好: 这里是 「RTE 开发者日报」 ,每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE(Real-Time Engagement) 领域内「有话题的 新闻 」、「有态度的 观点 」、「有意思的 数据 」、「有思考的 文章 」、「有看点的 会议 」,但内容仅代表编辑的个人观点,欢迎大家留言、跟帖、讨论。 本期编辑:@SSN,@鲍勃 01 有话题的新闻 1、面壁智能推出小钢炮开源 MiniCPM3-4B AI 模型,宣称「端侧 ChatGPT 时刻到来」
RTE开发者社区 2024-09-06
以小博大的励志故事不只发生在创业历史上,也发生在端侧大模型上。今年2月份,面壁智能正式发布了2B旗舰端侧大模型面壁MiniCPM,不仅超越了来自「欧洲版OpenAI」的性能标杆之作,同时整体领先于GoogleGemma2B量级,还越级比肩7B、13B量级模型,如Llama2-13B等。
融资OpenAI
AppSo 2024-04-11
IT之家9月6日消息,面壁智能官方公众号昨日(9月5日)发布博文,宣布推出开源MiniCPM3-4BAI模型,声称“端侧ChatGPT时刻到来”。MiniCPM3-4B是MiniCPM系列的第三代产品,整体性能超过了Phi-3.5-mini-Instruct和GPT-3.5-Turbo-0125,媲美多款70亿~90亿参数的AI模型。
IT之家 2024-09-06
算力提高50%,显存也提高50%
量子位 2024-12-26
诚通科创基金投资新兴产业,首期100亿元。
36氪的朋友们 2024-12-26
服装品牌重视线下渠道,线上退货率高。
美元强势加剧全球经济分化,K型复苏风险显著。
日经中文网 2024-12-26
银行推出升金活动,吸引客户提升资产。
苏州“芯片全科医院”冲刺上市。
智东西 2024-12-26
圣诞老人的故乡没有“紧人”。
新周刊 2024-12-26
钛媒体APP 2024-12-26
丰田11月销量增2%,产量降6%。
苹果拒用英伟达GPU,因历史恩怨和生态系统战略。
Copyright © 2025 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1