ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

临近空间发展蓄力：国产超音速飞机迈上新台阶

2017年，埃隆·马斯克在一次演讲中分享了一则视频，其中展示，乘坐SpaceX旗下“星舰（Starship）”，以27000公里的最高时速飞行，乘客在纽约时间早上7点出发，39分钟后就可以实现在上海的一个海上平台落地。

21世纪经济报道 2024-12-27

威刚预告全球最小 USB4 pSSD 和首款带磁吸充电宝 pSSD 亮相 CES

IT之家12月27日消息，威刚宣布将出席明年1月上旬举行的CES2025消费电子展。在本次盛会上威刚将带来全球最小的USB4移动固态硬盘和首款配备磁吸移动电源的移动固态硬盘，进一步丰富消费者的移动存储选择。

IT之家 2024-12-27

重庆市气象局发布 “天资·12h”人工智能气象预报大模型

重庆市气象局正式发布了“天资·12h”人工智能气象预报大模型。暴雨是重庆每年防汛关键期的关注重点。计算效率方面，传统区域数值预报模式需用时1小时，大模型仅需10分钟。

动点科技 2024-12-27

抖音发布2024直播治理报告主播精细化管理机制效果显著

12月27日，抖音发布2024年直播治理报告，全面阐释抖音直播过去一年的治理理念、技术及最新成果。报告称，抖音在过去一年持续迭代主播“健康分”，通过加减分定级定档的长效管理机制引导主播“向善”，获得显著成效。抖音直播还配合相关部门打击黄赌毒诈黑色产业链，捣毁百余个犯罪窝点，从源头消除违法犯罪分子对直播行业的污染，全力维护行业的健康发展。

DoNews 2024-12-27

双路96核心！俄罗斯AI服务用上自研CPU：偷偷配八块NVIDIA GPU

快科技12月27日消息，俄罗斯服务器厂商Graviton宣布，已经开始供货首批AI/HPC服务器，基于俄罗斯自研的CPU处理器，可搭配最多八块GPU计算卡。该处理器型号为S2124B，配备两颗48核心处理器，共计96核心，主频2.0GHz，内存搭配DDR4-3200，硬盘支持12块SATA或12块NVMeU.3。

驱动之家 2024-12-27

工信部：2025要推进算力中心建设，出台量子产业政策

12月26日至27日，全国工业和信息化工作会议在京召开，会议部署2025年任务。会议强调，推动信息通信业高质量发展，完善“双千兆”网络发展政策措施，试点部署万兆光网，力争累计建成5G基站450万座以上。

华尔街见闻 2024-12-27

国家级海上风电研究与试验检测基地传动链平台建成投运

12月26日，建设中的国家级海上风电研究与试验检测基地(无人机照片)。12月26日，工作人员在海上风电研究与试验检测基地传动链平台控制中心监测平台运行情况。12月26日，技术人员在海上风电研究与试验检测基地传动链平台上检测压力。

金台资讯 2024-12-27

首届“工业强国·新型工业化”短视频创作与传播活动在衢州举办

央广网北京12月27日消息（记者宋雪）记者从工业和信息化部工业文化发展中心获悉，首届“工业强国·新型工业化”短视频创作与传播活动12月25日在浙江衢州举办。旨在通过短视频形式展示新型工业化最新成果，弘扬新时代中国工业精神，提升工业文化影响力与感召力，凝聚推进新型工业化的社会共识，推动工业文化“软”实力更好转化为新型工业化“硬”支撑。

央广网 2024-12-27

荣耀绿洲护眼屏项目获评人民网“企业行动案例”

【CNMO科技消息】12月25日，由人民日报社指导、人民网主办的“2024人民企业社会责任论坛”在北京举行。荣耀终端有限公司凭借绿洲护眼屏项目入选人民企业社会责任论坛“企业行动案例”，这是行业对其以技术创新践行企业社会责任的充分肯定，也是荣耀持续投入绿色护眼领域的又一个亮眼成绩单。

手机中国 2024-12-27

风语筑：《梦回圆明园》VR大空间体验将于新春首发

风语筑与圆明园达成官方合作，风语筑开发的VR大空间体验《梦回圆明园》将于2025年新春期间在北京圆明园遗址公园首发。风语筑在圆明园授权指导下，结合中央美术学院圆明园研究中心提供的3D建筑数据，通过运用空间计算、虚拟现实和AI交互等多项技术，实现圆明园的虚拟化数字复原，让观众亲临其境感受全盛时期的圆明园。

证券时报 2024-12-27

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

临近空间发展蓄力：国产超音速飞机迈上新台阶

威刚预告全球最小 USB4 pSSD 和首款带磁吸充电宝 pSSD 亮相 CES

重庆市气象局发布 “天资·12h”人工智能气象预报大模型

抖音发布2024直播治理报告主播精细化管理机制效果显著

双路96核心！俄罗斯AI服务用上自研CPU：偷偷配八块NVIDIA GPU

工信部：2025要推进算力中心建设，出台量子产业政策

国家级海上风电研究与试验检测基地传动链平台建成投运

首届“工业强国·新型工业化”短视频创作与传播活动在衢州举办

荣耀绿洲护眼屏项目获评人民网“企业行动案例”

风语筑：《梦回圆明园》VR大空间体验将于新春首发

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响