今天想分享如何从零开始在不使用第三方工具的前提下，以纯代码的方式本地部署一套大模型，相信这对于技术人员来说还是非常有用的。...【查看原文】
每度过一个坎坷，记得留下哪怕微小的指引，也许能帮到后面的人为什么选量化版的通义千问1.5调用在线模型API不仅依赖网络，对其拓展、定制、二开的空间都比较有限，于是很多人走上了本地部署开源大模型的路线，上一篇文章我对模型的选择进行了大致讲解总结来说，对比体验多个开源模型后，通义千问(Qwen)1.5是我觉得目前中文语境下综合表现最好的开源模型，根据你的显卡能力，它有0.5/1.8/4/7/14/72b多个参数规模可选，其中14b参数表现出的理解力可以媲美甚至部分场景超越GPT3.5；而且千问的量化损失非常小
通义千问
爱折腾的纸杯先生 2024-04-26
Qwen1.5（通义千问1.5）是阿里云最近推出的开源大型语言模型系列。阿里云的人工智能平台PAI，通过PAI-QuickStart轻松实现Qwen1.5系列模型的微调和快速部署。
通义千问大语言模型人工智能
阿里云大数据AI技术 2024-03-04
首先可以参考modelScope社区给出的使用文档，已经足够全面 https://modelscope.cn/models/qwen/Qwen-7B-Chat/quickstart 但在按照文档中步骤
AlgoRain 2023-08-10
2月6日·阿里发布了通义千问1.5版本，包含6个大小的模型，“Qwen” 指的是基础语言模型，而 “Qwen-Chat” 则指的是通过后训练技术如SFT（有监督微调）和RLHF（强化学习人类反馈）训练的聊天模型。模型概览在此次Qwen1.5版本中，我们开源了包括0.5B、1.8B、4B、7B、14B和72B在内的6个不同规模的Base和Chat模型，并一如既往地放出了各规模对应的量化模型。以下是此次更新的一些重点：支持 32K 上下文长度；开放了 Base + Chat 模型的 checkpoi
AI研习所 2024-02-07
有很多开源大模型都可以本地部署，用于替代 chatGPT 实现本地执行各种任务，比如国内较好的 通义千问Qwen1.5 全尺寸模型。在一般的翻译、文案创作、辅助编码等任务上，基本达到了ChatGPT3
通义千问ChatGPTOpenAI
mortimer 2024-03-16
在java编写代码中经常会遇到某些重复判定或者去重的操作，包括： 数据清洗：从数据库或其他来源获取的数据可能包含重复项，需要去重。 用户输入：前段传入的数据可能存在重复，需要校验去除重来避免处理时出现
荧光石 2024-12-30
数据库，听起来好像很高深，但其实它就像是我们生活中的大仓库，存放着各种各样的信息。从简单的个人信息到复杂的交易记录，数据库都在为我们提供着便捷的数据存储和检索服务。它不仅能让数据变得井井
竺梓君 2024-12-30
Ray Tracing in One Weekend 翻译 Ray Tracing in One Weekend 翻译
寒江雪WWT 2024-12-30
在数据采集的旅程中，爬虫就像是一位勇敢的探险者，穿梭于信息的丛林中，寻找那些珍贵的宝藏。然而，探险的道路并不总是一帆风顺，尤其是当目标网站设置了重重障碍，试图阻止你的访问时。此时，动态代理IP就像是探
LoongProxy 2024-12-30
小明同学在做项目的时候遇到了一个问题🤔🤔，用pnpm搭建的monorepo下有三个项目，分别是a、b和sdk，项目a和项目b都依赖sdk，按照monorepo的文档说法，sdk应该提升到根目录的nod
小爱同学_ 2024-12-30
问题 提供的链接是url = 'https://work.weixin.qq.com/ca/caXXXXX' 开始操作是直接window.location.href = url; 该操作在IOS浏览器
一涯 2024-12-30
上一篇实现飞镖发射https://juejin.cn/post/7452913993570009139。 这一篇实现怪物随机出现，飞镖追踪怪物杀死并爆炸 效果图 这次比较简单 1 生产怪物 在活动区域
火柴就是我 2024-12-30
本系列文章是langchain框架v0.3版本的学习实战笔记。本文我们将详细介绍自定义路由链的构建原理，包括基于大模型决策的路由链、基于向量相关性检索的路由链，以帮助大家理解实现路由决策的底层机制。
小嘴叭叭儿 2024-12-30
前言 由于部分学生想要新的录播课, 所以我决定重新从零到一的出一套2025年的教学笔记和录播课, 以及直播课程. zdppy这个框架起步于2019年, 至今已有六年的历史, 到如今, 已经是一个非常成
Python私教 2024-12-30
关于一些自己的学习过程的相关记录，内容不太详尽，仅自学记录，关于js的同步、异步、js任务、渲染的互斥
小鹿小陆小九小七 2024-12-30
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1
