奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

春运火车票今日开售！国铁提醒：购票从未有过加速包

快科技12月31日消息，2025年铁路春运自2025年1月14日开始，至2月22日结束，为期40天，春运首日火车票于12月31日开始发售。全国铁路预计发送旅客5.1亿人次，节前客流高峰日预计为1月25日（腊月

若风 2024-12-31

贾跃亭：2024爬出泥潭、最想做的是尽快回国

快科技12月31日消息，今天是2024年的最后一天，不少人纷纷发文告别这一年，并送上对2025年的新年祝福，其中就包括贾跃亭。今日上午，他发布长文《2024爬出泥潭，2025扬帆蓝海》，在文章中，贾

落木 2024-12-31

抖音回应吴柳芳同名账号被封：蹭热度仿冒当事人！

快科技12月31日消息，今日，有博主发文称，有个朋友只是和吴柳芳同名，粉丝也只有15个，但却被抖音封号。对此，抖音集团副总裁李亮表示：“这个用户在12月2日做了一系列动作来仿冒吴柳芳

拾柒 2024-12-31

盒马CEO严筱磊：连续9个月双位数盈利顾客数增长超50%

快科技12月31日消息，转眼来到了2024年的最后一天，今天上午，盒马CEO严筱磊发布全员信进行了年终回顾总结。信中提到，盒马在连续9个月整体盈利的基础上实现了双位数增长，顾客数增长超过50%。

秋白 2024-12-31

余承东：所向披靡、强到飞起！

快科技12月31日消息，余承东通过社交平台发布2025新年致辞：“感谢这一年大家对我们的帮助和支持！祝大家新的一年所向披靡，强到飞起！”视频回顾2024年，余承东表示，过去一年是

朝晖 2024-12-31

华为2025年第一款麒麟手机来了：1月3日开启预售

快科技12月31日消息，华为终端官微预告，畅享70X将于1月3日开启预售。该机共有4款配色，分别是湖光青、云杉黛、雪域白和曜金黑，正面是双孔双曲面屏，背部是环形镜头，相机DECO神似华为Mate 6

振亭 2024-12-31

烧光10亿美金交不出车贾跃亭：去年才摆脱破产黑帮的控制

快科技12月31日消息，由贾跃亭创办的法拉第未来（FF）因烧光10亿美元但交不出一辆车曾被广泛质疑，而在去年中期开始，FF终于开始交付，迄今累计交出了15辆，那么之前发生了什么？在贾跃亭最新

落木 2024-12-31

地下深处自然涌出：依能天然苏打水 1.99元狂促

天猫【依能食品旗舰店】依能天然苏打水（鎏金版）400ml*15 瓶日常售价为 49.9 元，下单领取 20 元优惠券，到手价为 29.9 元，折合每瓶仅需 1.99 元。PH：8.0+；无糖无气 0 卡；地下深处自然涌

清晨 2024-12-31

崔东树：2024年11月中国已占世界汽车份额41% 历史最高

快科技12月31日消息，乘联会秘书长崔东树今日发文表示，2024年11月中国已占世界汽车份额41%。2024年11月，全球汽车销量达到818万台，同比增长3%，环比增长2%，与2017年11月的峰值基本持平，

王略 2024-12-31

去哪儿CEO陈刚新年信：“卷得赢也躺得平” 春节放假11天

快科技12月31日消息，2024嗖的一声即将丝滑地结束，今天下午，去哪儿CEO陈刚给“小驼们”发新年信回顾一年来所取得的成绩。陈刚在新年信中表示，今年旅游业挺卷的，但去哪儿的业绩挺

秋白 2024-12-31

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

春运火车票今日开售！国铁提醒：购票从未有过加速包

贾跃亭：2024爬出泥潭、最想做的是尽快回国

抖音回应吴柳芳同名账号被封：蹭热度仿冒当事人！

盒马CEO严筱磊：连续9个月双位数盈利顾客数增长超50%

余承东：所向披靡、强到飞起！

华为2025年第一款麒麟手机来了：1月3日开启预售

烧光10亿美金交不出车贾跃亭：去年才摆脱破产黑帮的控制

地下深处自然涌出：依能天然苏打水 1.99元狂促

崔东树：2024年11月中国已占世界汽车份额41% 历史最高

去哪儿CEO陈刚新年信：“卷得赢也躺得平” 春节放假11天

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响