今天想分享如何从零开始在不使用第三方工具的前提下，以纯代码的方式本地部署一套大模型，相信这对于技术人员来说还是非常有用的。...【查看原文】
每度过一个坎坷，记得留下哪怕微小的指引，也许能帮到后面的人为什么选量化版的通义千问1.5调用在线模型API不仅依赖网络，对其拓展、定制、二开的空间都比较有限，于是很多人走上了本地部署开源大模型的路线，上一篇文章我对模型的选择进行了大致讲解总结来说，对比体验多个开源模型后，通义千问(Qwen)1.5是我觉得目前中文语境下综合表现最好的开源模型，根据你的显卡能力，它有0.5/1.8/4/7/14/72b多个参数规模可选，其中14b参数表现出的理解力可以媲美甚至部分场景超越GPT3.5；而且千问的量化损失非常小
通义千问
爱折腾的纸杯先生 2024-04-26
Qwen1.5（通义千问1.5）是阿里云最近推出的开源大型语言模型系列。阿里云的人工智能平台PAI，通过PAI-QuickStart轻松实现Qwen1.5系列模型的微调和快速部署。
通义千问大语言模型人工智能
阿里云大数据AI技术 2024-03-04
首先可以参考modelScope社区给出的使用文档，已经足够全面 https://modelscope.cn/models/qwen/Qwen-7B-Chat/quickstart 但在按照文档中步骤
AlgoRain 2023-08-10
2月6日·阿里发布了通义千问1.5版本，包含6个大小的模型，“Qwen” 指的是基础语言模型，而 “Qwen-Chat” 则指的是通过后训练技术如SFT（有监督微调）和RLHF（强化学习人类反馈）训练的聊天模型。模型概览在此次Qwen1.5版本中，我们开源了包括0.5B、1.8B、4B、7B、14B和72B在内的6个不同规模的Base和Chat模型，并一如既往地放出了各规模对应的量化模型。以下是此次更新的一些重点：支持 32K 上下文长度；开放了 Base + Chat 模型的 checkpoi
AI研习所 2024-02-07
有很多开源大模型都可以本地部署，用于替代 chatGPT 实现本地执行各种任务，比如国内较好的 通义千问Qwen1.5 全尺寸模型。在一般的翻译、文案创作、辅助编码等任务上，基本达到了ChatGPT3
通义千问ChatGPTOpenAI
mortimer 2024-03-16
与侧重于视觉增强的AR眼镜不同，作为AI生活助手的AI智能交互眼镜不仅集成了相机、眼镜、墨镜和蓝牙耳机的多重功能，更专注于为用户提供卓越的智能化音频体验。2021年9月，Meta与雷朋开始了对AI眼镜的尝试，双方联名推出了初代智能眼镜Ray-BanStories。
澎湃新闻 2024-12-30
作为一种颠覆性技术的新生事物，生成式人工智能在给经济社会发展带来巨大利好和无限可能的同时，也在法律规范、伦理道德、社会安全、公共治理等方面带来冲击。而且，生成式人工智能训练依赖于大规模数据，容易造成对个人数据和公共数据的过度搜集，进而引发侵权等问题。
极目新闻 2024-12-30
近期，华为Pura70系列、MateX5等多款手机开启降价促销优惠。其中，华为Pura70Ultra最高优惠2000元，MateX5优惠2500元。研究机构Counterpoint称，华为在第三季度保持了强劲反弹态势，帮助该品牌销量实现30%的同比增长。
中国经济网 2024-12-30
《itch游戏汇》，对itch.io平台免费、可通过Web直接试玩的游戏逐周汇编。所有内容系人工整理，偶有疏漏。如果同期还有更多令您眼前一亮的作品，欢迎将它们分享在评论区。游戏简介：作为一位疯狂的科学家，你打造了一支机器人军队，准备征服世界。然而，意想不到的事情发生了：机器人叛乱了！现在，你必须从它们手中逃脱，并解决这一切混乱。
indienova 2024-12-30
12月29日，以“新质领航雄芯耀现”为主题的2024人工智能产业发展暨产品发布会在河北雄安新区举行。据介绍，雄芯C6480芯片支持80路1080P高清视频编码解码，雄芯S1600服务器支持1600路高清视频并行分析。
北青网 2024-12-30
IT之家12月30日消息，近期有关大疆创新新款折叠无人机Flip的爆料信息持续涌现，继上周曝光了多张该无人机折叠、展开以及收纳于便携包中的照片后，该无人机的更多照片曝光。爆料人IgorBogdanov昨日再次透露，大疆会为这款紧凑型无人机提供一个名为CellularDongle2的新型蜂窝网络模块。
IT之家 2024-12-30
钛媒体App12月30日消息，在一项最新研究中，瑞士洛桑联邦理工学院研究团队成功让6个机械振荡器集体处于量子状态。这项研究标志着量子技术向前迈出重要一步，为构建大规模量子系统奠定了基础。相关论文发表于新一期《科学》杂志。
钛媒体快报 2024-12-30
29日，世界首片8.6代OLED玻璃基板产品在安徽蚌埠下线。据了解，该产品由中建材玻璃新材料研究院集团有限公司与蚌埠中光电科技有限公司的项目团队自主研发。在“OLED显示玻璃材料关键技术开发”项目支持下，该项目团队开展了OLED显示玻璃材料结构与性能设计、关键热工过程计算模拟等基础研究，并自主开发出成套关键技术装备。
光明网 2024-12-30
加速度传感器，本来是智能手机最大的创新之一，但是却被国内的“大聪明”给发明出来App摇一摇广告，并已经天怒人怨，几乎所有用户都在吐槽、质疑，严重影响手机日常体验，每天都会有无数次被迫打开电商软件。据悉，此前江苏省消保委的一份调查数据显示，有九成投票者厌恶“摇一摇”跳转广告，认为此功能侵犯了自己的权益。
中关村在线 2024-12-30
12月29日晚间，恒瑞医药（600276.SH）发布公告称，与美国生物技术公司IDEAYABiosciences达成协议，将具有自主知识产权的1类注射用新药SHR-4849在除大中华区以外的全球范围内开发、生产和商业化的独家权利有偿许可给IDEAYABiosciences。
时代周报 2024-12-30
Copyright © 2025 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1
