ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

作者：京东云开发者发布时间：2023-06-20

ChatGPT ChatGLM

期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的LLM模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体验的目的。...【查看原文】

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于 LLM 模型的应用，能让大家对构建一个完整的应用有一个基本认知。包括基本的软硬环境依赖、底层的 LLM 模型、中间的基础框架及最上层的展示组件，最终能达到在本地零编码体

ChatGPT ChatGLM

京东云开发者 2023-06-20

电脑小白挑战本地部署ChatGLM-6B

观前提示：这不是一个教程，只是个人的使用经历，遇到问题的话也许Bing AI是比我更好的解决方案ChatGPT是去年爆火的一款语言模型，它实现了人类与AI的"对话"。ChatGPT是基于英文的语言环境训练的，我之前试玩的时候常常是用英语来进行对话的。最近，我了解到了还有一款由清华大学参与联合开发的对中文语言环境进行了优化的语言模型：ChatGLM-6B，有望解决我文案写不出来的问题ChatGLM-6B 是一个人工智能助手，基于清华大学 KEG 实验室与智谱 AI 于 2023 年联合训练的语言模型 GLM

ChatGLM ChatGPT 清华人工智能

C2H6S 2023-06-25

011. 清华大学 ChatGLM-6B 模型，支持本地部署

前言前有 ChatGPT，后有文心一言，最近几个月 AI 圈的产品可谓是爆发式发展。但这些语言大模型动辄需要上百 G 显存，对于个人电脑实在是负担不起。而近期由清华大学推出的开源对话 AI——ChatGLM-6B，最低只要 6G 显存，使得用户可以在大部分消费级的显卡上进行本地部署，为广大 AI 爱好者带来了福音。发布不过短短两周，Github 已有 9.8K Star，受认可程度可见一斑。简单部署1. 下载首先需要下载源代码：git clone https://github.com/THUDM/Chat

清华 ChatGPT 文心一言 ChatGLM GitHub

姚千山 2023-03-29

LangChain + ChatGLM 实现本地知识库问答

本文使用LangChain+ChatGLM来实现一个简单的基于本地知识库的问答系统，可以在完全不使用openai提供的api来完成本地知识库问答系统的搭建。

ChatGLM OpenAI

随想笔记 2023-05-23

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果，同时Vicuna的训练成本也很低，所以尝试本地化部署化一下

大语言模型 Vicuna Alpaca LLaMA ChatGPT

京东云开发者 2023-05-18

近期资讯

HarmonyOS NEXT｜和谐美学深度融合技术创新之作

在数字化时代，操作系统不仅是硬件与用户之间沟通的桥梁，也是智能化体验的核心所在。HarmonyOSNEXT全新“和谐美学”设计理念，让光与影在界面上自由流转，‌带来更沉浸、更对称、更多彩、更灵动的视觉体验。在中式建筑中，无论是宫殿、庙宇还是民居，古往今来都相对坚持中轴线对称原则。

砍柴网 2024-12-27

中国电信获得发明专利授权：“任务调度方法和装置，非易失性存储介质、电子设备”

证券之星消息，根据天眼查APP数据显示中国电信（601728）新获得一项发明专利授权，专利名为“任务调度方法和装置，非易失性存储介质、电子设备”，专利申请号为CN202210663395.8，授权日为2024年12月27日。专利摘要：本申请公开了一种任务调度方法和装置，非易失性存储介质、电子设备。

证券之星 2024-12-28

如何轻松隐藏电脑任务栏，提升使用体验与屏幕整洁度

在使用电脑的过程中，任务栏是一个非常重要的界面元素。今天就来聊聊如何隐藏电脑下面的任务栏，让你的屏幕看起来更加整洁。

新报观察 2024-12-28

上海同及宝建设机器人有限公司被认定为高新技术企业

12月26日，高企认定官网披露对上海市认定机构2024年认定报备的第一批高新技术企业进行备案的公告，上海同及宝建设机器人有限公司在列，证书编号GR202431001297，发证日期为2024年12月26日。天眼查商业履历信息显示，上海同及宝建设机器人有限公司，成立于2002年，位于上海市，是一家以从事科技推广和应用服务业为主的企业。

金融界 2024-12-27

检验检测湘军｜致力科技：以科技之眼洞察大地脉动

侯俊敏举了更详细的例子：“以某条穿越复杂地质条件的长隧道为例，这个地方地质活动频繁，存在滑坡、坍塌等安全隐患。”侯俊敏分享，传统方式是通过人力监测方式，但是效率低，且难以全面覆盖隧道各个角落，存在较大的监测盲区。

央广网 2024-12-27

检验检测湘军｜博纳检测：安全背后的隐形力量

走进博纳检测认证有限公司（以下简称“博纳检测”）的实验室，科技气息扑面而来，宽敞明亮的空间内，矗立着一台台精密的检测仪器，正在检测电力设备。

央广网 2024-12-27

中国电信获得发明专利授权：“频率参考点的自适应配置方法、装置及相关设备”

证券之星消息，根据天眼查APP数据显示中国电信（601728）新获得一项发明专利授权，专利名为“频率参考点的自适应配置方法、装置及相关设备”，专利申请号为CN202311214093.3，授权日为2024年12月27日。

证券之星 2024-12-28

检验检测湘军｜中机申亿检测：为长沙工程机械产业发展保驾护航

细数长沙的“世界名片”，工程机械便是其中之一。三一重工、中联重科、铁建重工、山河智能等中国工程机械行业头部企业集聚长沙，而在这些企业身后，有一群为行业发展保驾护航的“幕后英雄”——工程机械领域的检测检验“湘军”。

央广网 2024-12-27

如何顺利登录163邮箱并解决常见问题的详细指南

在现代社会，电子邮件已经成为我们日常生活中不可或缺的一部分。无论是工作、学习还是与朋友沟通，邮箱都扮演着重要的角色。今天，我们就来聊聊如何登录163邮箱。163邮箱是一个非常受欢迎的邮箱服务，提供了丰富的功能和良好的用户体验。接下来，我会详细介绍一下登录的步骤和一些常见问题的解决方法。首先，打开你的浏览器。

新报观察 2024-12-28

索尼确认参展 CES 2025，预计将公布游戏、娱乐及硬件领域新内容

IT之家12月27日消息，索尼确认将参加一年一度的国际消费电子展，并将于北京时间1月7日9:00举行CES2025直播。此外，索尼与本田的合资企业SonyHondaMobility也将在索尼展台进行亮相。索尼基于其创造力和技术对未来10年的愿景是什么？目前为实现这一目标所做的努力是什么？不过索尼目前并未明确将在CES演讲中讨论哪些主题。

IT之家 2024-12-27

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

推荐体验

相关资讯

ChatGPT 小型平替之 ChatGLM-6B 本地化部署、接入本地知识库体验

电脑小白挑战本地部署ChatGLM-6B

011. 清华大学 ChatGLM-6B 模型，支持本地部署

LangChain + ChatGLM 实现本地知识库问答

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

近期资讯

HarmonyOS NEXT｜和谐美学深度融合技术创新之作

中国电信获得发明专利授权：“任务调度方法和装置，非易失性存储介质、电子设备”

如何轻松隐藏电脑任务栏，提升使用体验与屏幕整洁度

上海同及宝建设机器人有限公司被认定为高新技术企业

检验检测湘军｜致力科技：以科技之眼洞察大地脉动

检验检测湘军｜博纳检测：安全背后的隐形力量

中国电信获得发明专利授权：“频率参考点的自适应配置方法、装置及相关设备”

检验检测湘军｜中机申亿检测：为长沙工程机械产业发展保驾护航

如何顺利登录163邮箱并解决常见问题的详细指南

索尼确认参展 CES 2025，预计将公布游戏、娱乐及硬件领域新内容

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响