【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

作者：Kida的技术小屋发布时间：2024-05-13

书接上文，我在 ollama 中部署 qwen1_5-14b-chat-q4_k_m.gguf 预量化模型，在非 Stream 模式下需要 89 秒才完成一轮问答，响应速度实在是太慢，后续想办法优化...【查看原文】

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

其实 2024 年了，教怎么部署的文章已经很多了，但我实操一下，还是很多坑，实际跑不起来，因此着重描述下我这个mac配置的部署问题## 系统配置Stable Diffusion WebUI 当然支持 Windows/Linux，也适配三种芯片- NVidia (recommended)- AMD GPUs、Intel CPUs,- Intel GPUs (both integrated and discrete)**我的配置如下：**- 系统：MacOS（14.3.1 我最新更新的，应该关系不大）- Py

Stable Diffusion WebUI Stable Diffusion

我爱我所AI 2024-03-23

Mac本地部署大模型体验AIGC能力

介绍随着ChatGPT的横空出世，国内互联网大厂、创业公司纷纷加了AIGC赛道，不断推出各种大模型

AIGC ChatGPT

magicwt 2023-10-08

【Python】Mac 本地部署 stable-diffusion

忙里偷闲在本地部署了一套 stable-diffusion 来玩玩，虽然 Mac 还是使用 CPU 来生图，但是整体效果（生成时间、生成效果）还是能够接受的。

Stable Diffusion

kida_yuan 2024-02-06

LLM探索：环境搭建与模型本地部署

前言最近一直在炼丹（搞AIGC这块），突然发现业务代码都索然无味了… 上次发了篇AI画图的文章，ChatGPT虽然没法自己部署，但现在开源的LLM还是不少的，只要有一块差不多的显卡，要搞个LLM本地

AIGC 编程 ChatGPT

程序设计实验室 2023-05-20

NovelAI 整合包本地部署中核显CPU使用一例

采用设备：笔记本电脑显卡配置：英特尔核显 i7-7500U 系统配置：Win 10 安装包来源：【【AI绘画】A卡也能用？NovelAI中文频道最新整合包使用攻略】 https://www.bilibili.com/video/BV1Mv4y1s7BB/? share_source=copy_web&vd_source=ed7573b826feef8c5cfbe96dc9ed293c 在部署完成后，直接运行程序，后台显示：显示需重定位存储至CPU RuntimeError: Attempting to

AI绘画

Plus_Gate 2023-02-22

近期资讯

老外崩溃！真人版《白雪公主》选角遭质疑：这公主太白了

12月28日消息，迪士尼官方今日释出了真人电影《白雪公主》的全新预告“Waiting On a Wish”，这也是即将在本片中推出的歌曲。据悉，这首曲目将在本片中替代《白雪公主》IP经典曲目《

2024-12-28

大模型推理引擎国产化思考和实践

本文主要聚焦于大模型推理引擎国产化的重要性与相关背景，文中对比了国产芯片与国际芯片的性能，强调硬件对软件优化的影响。还深入探讨了国产化实践中的挑战与机遇，

京东零售技术 2024-12-27

全闪存阵列｜mdadm 实操

可以通过 RAID 技术将多个 SSD 组成一个 All-flash Array，常见的方式是使用 Linux 软件 RAID（mdadm）来配置一个 RAID 阵列。

JayChou_ 2024-12-28

3万一只AI宠物：正成为日本富人的新玩具

快科技12月28日消息，由日本机器人Groove X公司制作的，长得像果宝特攻的陪伴机器人LOVOT，正在成为日本富人的新“宠物”。LOVOT创始人表示，LOVOT的目标成为就是没有四次元口袋的哆

2024-12-28

苹果在欧盟多国停售iPhone 14/SE：USB-C全面替换Lightning

快科技12月28日消息，苹果目前已经在大多数欧盟国家下架了iPhone 14系列和iPhone SE机型，包括奥地利、比利时、丹麦、芬兰、法国、德国、爱尔兰、意大利、荷兰、西班牙等。这主要是因为欧盟关

2024-12-28

Intel Optane Persistent Memory｜PMDK (Persistent Memory Development Kit)

The Persistent Memory Development Kit (PMDK) is a collection of libraries and tools for System Admin

JayChou_ 2024-12-28

言论自由！美国总统特朗普发飙：TikTok不准强制出售

12月28日消息，据国外媒体报道称，在TikTok是否被强制出售这件事上，美国新总统特朗普给出了强硬的态度。美国当选总统特朗普向美国最高法院提出请求，要求暂停执行TikTok强制出售令。特朗普

2024-12-28

检查清单：应对复杂工作的关键

避免错误，简化复杂任务。

神译局 2024-12-28

vivo系统新增“仅开屏禁止”传感器：从源头杀死摇一摇广告

快科技12月28日消息，如今手机App摇一摇广告几乎已经成了众矢之的，所有用户都在吐槽、质疑，严重影响手机日常体验，每天都会有无数次被迫打开电商软件。各手机厂商也都在钻研不影响其他体验的

2024-12-28

uni-app框架核心/常用API梳理二

位置相关涉及到地图 App平台 manifest中配置好自己的地图厂商key，在地图厂商的后台，填写正确包名和证书摘要腾讯地图高德地图百度地图 App平台 manifest中配置好自己的地图

鱼樱前端 2024-12-28

【AIGC】Mac Intel 本地 LLM 部署经验汇总（CPU Only）

推荐体验

相关资讯

Mac 本地部署#AI绘图 stable-diffusion-webui（Intel 版）

Mac本地部署大模型体验AIGC能力

【Python】Mac 本地部署 stable-diffusion

LLM探索：环境搭建与模型本地部署

NovelAI 整合包本地部署中核显CPU使用一例

近期资讯

老外崩溃！真人版《白雪公主》选角遭质疑：这公主太白了

大模型推理引擎国产化思考和实践

全闪存阵列｜mdadm 实操

3万一只AI宠物：正成为日本富人的新玩具

苹果在欧盟多国停售iPhone 14/SE：USB-C全面替换Lightning

Intel Optane Persistent Memory｜PMDK (Persistent Memory Development Kit)

言论自由！美国总统特朗普发飙：TikTok不准强制出售

检查清单：应对复杂工作的关键

vivo系统新增“仅开屏禁止”传感器：从源头杀死摇一摇广告

uni-app框架核心/常用API梳理二

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响