奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

浙江浙能嘉华发电有限公司取得粉尘电荷量检测装置专利，实现定向定位

金融界2024年12月28日消息，国家知识产权局信息显示，浙江浙能嘉华发电有限公司取得一项名为“一种粉尘电荷量检测装置”的专利，授权公告号CN222212858U，申请日期为2024年4月。

金融界 2024-12-28

如何轻松查看和管理电脑基本信息的实用指南

这些信息不仅可以帮助我们更好地使用电脑，还能在出现问题时进行故障排查。那么，怎么查看电脑的信息呢？Windows用户可以在“设置”中找到“更新和安全”，在这里你可以查看系统更新的状态，是否有可用的更新，及时更新可以让你的电脑更加安全和流畅。

新报观察 2024-12-28

张家口原轼取得钨丝生产用过线计米装置专利，能保证编码器高精度适配计米轮转动

金融界2024年12月28日消息，国家知识产权局信息显示，张家口原轼新型材料股份有限公司取得一项名为“一种钨丝生产用的过线计米装置”的专利，授权公告号CN222211635U，申请日期为2024年4月。

金融界 2024-12-28

山东泰开自动化取得交流剩余电流监测装置专利，可实现快速排热

金融界2024年12月28日消息，国家知识产权局信息显示，山东泰开自动化有限公司取得一项名为“一种交流剩余电流监测装置”的专利，授权公告号CN222212849U，申请日期为2024年3月。

金融界 2024-12-28

如何有效解决手机充不进电的问题及其预防措施

手机在现代生活中扮演着越来越重要的角色，几乎成了我们日常生活中不可或缺的一部分。那么，当你的手机充不进去电的时候，该怎么办呢？一般来说，清理完之后，再次尝试充电，问题就可能会迎刃而解。

新报观察 2024-12-28

如何高效使用 QQ：从下载注册到聊天功能全解析

工具，不管是聊天、文件传输还是社交，都能满足我们的需求。熟悉了这些基本功能后，你就能更好地利用QQ来和朋友们保持联系，分享生活的点滴。希望这篇文章能对你有所帮助，让你在QQ的世界里畅快交流！

新报观察 2024-12-28

杭州老板电器取得水流量传感器及燃气热水器专利，能降低叶轮组件故障时的维修成本

金融界2024年12月28日消息，国家知识产权局信息显示，杭州老板电器股份有限公司取得一项名为“水流量传感器及燃气热水器”的专利，授权公告号CN222211808U，申请日期为2024年5月。专利摘要显示，本实用新型涉及流量传感器技术领域，更具体地说涉及水流量传感器及燃气热水器。

金融界 2024-12-28

掌握手机扫码技巧，提升生活便利与安全性的方法探讨

无论是在超市购物、餐馆点餐，还是在公共交通上，扫码都让我们的生活变得更加方便。其次，确保二维码处于手机屏幕的中心位置，尽量避免让二维码被其他物体遮挡，这样才能提高识别的成功率。

新报观察 2024-12-28

海克斯康制造智能技术（青岛）有限公司取得三坐标测量机可转动夹具专利，提高测量效率

金融界2024年12月28日消息，国家知识产权局信息显示，海克斯康制造智能技术（青岛）有限公司取得一项名为“一种用于三坐标测量机的可转动夹具及三坐标测量机”的专利，授权公告号CN222211637U，申请日期为2024年1月。

金融界 2024-12-28

如何高效删除PDF文件中的不需要页面：工具与方法指南

那么，如何删除PDF文件中的页面呢？首先，咱们得明确，删除PDF页面的方法有很多种，主要取决于你手头上有没有专业的PDF编辑工具。系统会弹出一个确认框，询问你是否确定要删除这页，确认后该页就会被移除。

新报观察 2024-12-28

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

浙江浙能嘉华发电有限公司取得粉尘电荷量检测装置专利，实现定向定位

如何轻松查看和管理电脑基本信息的实用指南

张家口原轼取得钨丝生产用过线计米装置专利，能保证编码器高精度适配计米轮转动

山东泰开自动化取得交流剩余电流监测装置专利，可实现快速排热

如何有效解决手机充不进电的问题及其预防措施

如何高效使用 QQ：从下载注册到聊天功能全解析

杭州老板电器取得水流量传感器及燃气热水器专利，能降低叶轮组件故障时的维修成本

掌握手机扫码技巧，提升生活便利与安全性的方法探讨

海克斯康制造智能技术（青岛）有限公司取得三坐标测量机可转动夹具专利，提高测量效率

如何高效删除PDF文件中的不需要页面：工具与方法指南

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响