奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

江西煜明智慧光电申请LED灯珠光效提升专利，提升无荧光粉LED灯珠的灯效

金融界2024年12月26日消息，国家知识产权局信息显示，江西煜明智慧光电股份有限公司申请一项名为“一种LED灯珠光效提升的控制方法及系统”的专利，公开号CN119183225A，申请日期为2024年11月。专利摘要显示，本发明公开了一种LED灯珠光效提升的控制方法及系统，涉及照明控制技术领域。

金融界 2024-12-26

小米MIX Flip 2明年上半年提档登场性能大幅提升

【CNMO科技消息】12月26日，知名爆料人士数码闲聊站透露，搭载高通骁龙8Elite移动平台的小米MIXFlip2小折叠屏手机将在明年上半年发布：“这代卖得太好了，大迭代直接提档登场。”

手机中国 2024-12-26

性价比之选，美菱BCD-210L3CX：1099元到手的210升三门节能冰箱

根据用户评价和产品评测，美菱冰箱在满足日常冷藏和冷冻需求的同时，还提供了节能和低噪音的运行特性。此外，参与立减活动还可以享受额外的补贴和优惠，使得实际支付价格更低，进一步增强了其市场竞争力。-总容积：210L，其中冷藏室容积为121L，冷冻室容积为46L，中门容积为43L。

小米地瓜 2024-12-26

“三二一上链接！” 北京直播电商走出特色之路

直播电商作为电子商务的新模式、新业态，近年来在元宇宙、人工智能、数字孪生等新技术推动下得到了快速发展。为进一步助推直播电商产业集聚升级，截至目前，北京市已经分两批，共计认定了26家特色直播电商基地，涵盖了大健康、文玩、3C数码、美妆、农产品等各个领域，将进一步发挥示范带动作用，助推北京直播电商走出特色之路。

新京报 2024-12-26

IT之家 2024-12-26

1168元起！极摩客推出G2 Plus/ G3 Plus迷你电脑

极摩客近日推出了两款新的迷你电脑产品，分别为G3Plus和G2Plus。这两款产品均搭载了英特尔N150处理器，并且在设计、接口等方面存在较大差异。G2Plus采用的是IntelN150处理器，配置为12GBLPDDR5内存，可选配M.22242SSD存储空间，最高可扩展至2TB。整机尺寸为87*87*39.5mm，重量约为0.21kg。

中关村在线 2024-12-26

香港首航！C919新年起执飞沪港定期航班

记者12月26日获悉，中国东方航空计划自2025年元旦开始，使用国产大飞机C919，执飞“上海虹桥—香港”往返航班，正式开启国产大飞机在地区航线的商业运营，东航也将成为首家使用C919在香港执飞定期商业航班的航空公司。

北京日报 2024-12-26

宇树“觉醒”，云深处“出海”：四足机器人批量化应用有望步入“iPhone”时刻｜2024年末出海观察

原地转体两周，再倒立转体三周半；跋山涉水下陡坡，稳定性和速度兼顾⋯⋯12月23日，宇树科技发布的一段不到2分钟的视频，展示其最新推出的UnitreeB2-W工业轮足机器人最新性能，收获了大量关注和好评，连马斯克也在社交平台X上转发。

每日经济新闻 2024-12-26

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

江西煜明智慧光电申请LED灯珠光效提升专利，提升无荧光粉LED灯珠的灯效

小米MIX Flip 2明年上半年提档登场性能大幅提升

性价比之选，美菱BCD-210L3CX：1099元到手的210升三门节能冰箱

“三二一上链接！” 北京直播电商走出特色之路

我国首艘深远海科考及考古船南沙交付启航，突破冰区船舶关键设计技术等多项“卡脖子”技术垄断瓶颈

3D打印机居然“进化”到了这种程度京东3D打印活动人气高涨

AMD Radeon RX 9070 XT 显卡被曝游戏测试中和 RTX 4080 区别不大

1168元起！极摩客推出G2 Plus/ G3 Plus迷你电脑

香港首航！C919新年起执飞沪港定期航班

宇树“觉醒”，云深处“出海”：四足机器人批量化应用有望步入“iPhone”时刻｜2024年末出海观察

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响