ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

354+ 个芯片平台适配小米 Vela，60+ 厂商加入全球合作伙伴计划

IT之家12月27日消息，在今日的2024小米「人车家全生态」合作伙伴大会上，小米公布了Vela操作系统生态的最新进展。Vela是小米基于开源实时操作系统NuttX打造的物联网嵌入式软件平台，适配多种不同硬件规格的产品，最小系统仅需8KB内存，CPU主频不限，适配任意SoC多核架构，支持柔性部署。

IT之家 2024-12-27

OPPO Find N5春季登场：首款骁龙8至尊版大折叠屏

12月27日消息，OPPO周意保发文预热OPPOFindN5折叠屏，他表示，接下来Find系列的节奏会稳定下来，给到大家稳定的时间预期，以后每年Find会有春季旗舰发布会+秋季旗舰发布会。据悉，春季旗舰发布会包含FindN5折叠屏和FindX8Ultra影像旗舰，其中FindN5折叠屏会率先亮相，这也是行业内第一款骁龙8至尊版大折叠屏。

砍柴网 2024-12-27

卡萨帝521升星空冰箱：补贴2000元，高端家电的性价比之选

#年货节好物集市#卡萨帝冰箱以其卓越的品质和创新技术，在高端冰箱市场中占据了重要的地位。这款BCD-521WGCTDM4WKU1型号的冰箱，以其594mm专业超薄零嵌入式设计、双系统制冷技术、一级能效标准，以及十字四开门的便捷性，成为市场上的热门选择。同时适用于储存干货与奶制品，保持食物原有的色泽、口感和营养。

小米地瓜 2024-12-27

武汉城市安全风险监测预警平台上线

若降水量达到462毫升/小时，将会带来怎样的影响？12月26日，在正式建成并投入使用的武汉城市安全风险监测预警平台模型中可以看到，当操作人员将模拟降雨量设定为历史最高警戒设防水位，平台模型迅速模拟出反馈结果：持续强降雨直接导致湖面高程攀升。

金台资讯 2024-12-27

金融界 2024-12-27

国产大模型DeepSeek-V3一夜火爆全球，671B的MoE，训练成本仅558万美元

机器之心报道机器之心编辑部今天，一个国产大模型火遍了世界。打开X，满眼都是讨论DeepSeek-V3的推文，而其中最热门的话题之一是这个参数量高达671B的大型语言模型的预训练过程竟然只用了266.4万H800GPUHours，再加上上下文扩展与后训练的训练，总共也只有278.8H800GPUHours。

机器之心Pro 2024-12-27

2024年度硬件推荐指南

在科技日新月异的今天，我们精心整理了一份年度硬件推荐指南，旨在为您筛选出本年度最值得入手的科技产品。今年，我们更加注重性价比，所推荐的硬件不仅在性能上出类拔萃，更在价格上做到了亲民，让您无需破费太多就能享受到科技带来的便捷与乐趣。

动点科技 2024-12-27

工信部：加强通用大模型和行业大模型研发布局和重点场景应用

钛媒体App12月27日消息，全国工业和信息化工作会议26日至27日在京召开。会议强调，2025年要推进信息化和工业化深度融合。实施“人工智能+制造”行动，加强通用大模型和行业大模型研发布局和重点场景应用。

钛媒体快报 2024-12-27

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

354+ 个芯片平台适配小米 Vela，60+ 厂商加入全球合作伙伴计划

OPPO Find N5春季登场：首款骁龙8至尊版大折叠屏

卡萨帝521升星空冰箱：补贴2000元，高端家电的性价比之选

武汉城市安全风险监测预警平台上线

工信部：2025年要制定出台生物制造、量子产业、具身智能、原子级制造等领域创新发展政策

小米发布澎湃OS 2重大更新，带来1+3+8升级计划第一轮新功能 OTA

中交路桥取得一种料斗专利，可调节料斗内部容量

国产大模型DeepSeek-V3一夜火爆全球，671B的MoE，训练成本仅558万美元

2024年度硬件推荐指南

工信部：加强通用大模型和行业大模型研发布局和重点场景应用

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响