奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

任选3盒：杰士邦高端安全套到手19.9元

天猫jissbon杰士邦官方旗舰店杰士邦高端安全避孕套日常售价为20.3元，下单领取40优惠券，拍3件，到手价为19.9元。多款任选，多种功能根据需求自取。购买链接：天猫(19.9元)购买提醒：天猫

2024-12-27

夫妻俩高速上开辅助驾驶：为看星星吵架出车祸爆胎

快科技12月27日消息，真心没想到，竟然能遇到因为看星星导致的车祸事故。据“公安部交通管理局”披露的案例显示，本月17日晚19时许，江西高速公安直属五分局第三大队接到一名男子报

2024-12-27

李想强烈支持：激光雷达一哥获三家国内销量Top 5车企定点

快科技12月27日消息，在昨晚举办的2024理想AI Talk对话节目中，理想汽车创始人李想谈及激光雷达，表达了强烈支持保留的观点，并称“如果马斯克在中国高速深夜开过车，特斯拉也会保留激光雷

2024-12-27

比亚迪：法院判决自媒体“龙猪-集车”赔偿201.87万元

快科技12月27日消息，比亚迪汽车法务部最新发文称：昨天，就比亚迪起诉自媒体“龙猪-集车”及相关账号名誉权纠纷一案，我司收到法院判决。判决认定：被告长期针对比亚迪发表侮辱、诋

2024-12-27

GB/T 19266：五稻田五常大米10斤39.9元官方发车

天猫五稻田食品旗舰店，五稻田东北五常大米5kg日常售价109.9元，今日下单可领70元大额券，到手39.9元10斤。2024 年秋收新米，一年一季，生长周期长。生态除虫 + 生态施肥 + 无化学农药。优

2024-12-27

卫星欣赏世界最长的城市中轴线！可不是北京

说起城市中轴线，相信大家首先就会想到北京，北起钟鼓楼，南至永定门，纵贯老城南北，全长7.8公里，始建于13世纪，历经700多年成型，是统领整个老城规划格局的建筑与遗址的组合体，2024年7月刚刚

2024-12-27

369元酷凛霜界360 ARGB粉色限定版上市：无限镜灯效外环

快科技12月27日消息，酷凛霜界360 ARGB粉色限定版水冷目前已经上市，首发369元。自COMPUTEX 2019首次推出粉色限定版水冷散热产品以来，霜界360 ARGB粉色限定版属于第四代设计。这次ID-Coo

2024-12-27

迎战吉利星舰7 EM-i：比亚迪宋Pro DM-i限时998了！

快科技12月27日消息，比亚迪宋Pro DM-i开启限时优惠活动，限时尊享价均为9.98万元起，活动截止时间为1月26日，12月31日前，还提供至高2.5万元置换补贴、24期0息等多重购车权益。今年9月份，

2024-12-27

微软强制推广Copilot引反感！用户只能自认倒霉

快科技12月27日消息，据媒体报道，微软近期在推广其人工智能助手Copilot时，采取了一种颇具争议的新策略。在澳大利亚和部分东南亚国家，无论用户是否愿意，微软都将Copilot集成到了消费者订阅

2024-12-27

腾讯发布全球首个重症医疗大模型：5秒总结病情

快科技12月27日消息，今日，腾讯宣布，针对ICU病房的痛点，腾讯和迈瑞医疗联合发布全球首个重症医疗大模型——启元重症大模型。启元重症大模型整体参数量达到万亿，是经过大量医学文

2024-12-27

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

任选3盒：杰士邦高端安全套到手19.9元

夫妻俩高速上开辅助驾驶：为看星星吵架出车祸爆胎

李想强烈支持：激光雷达一哥获三家国内销量Top 5车企定点

比亚迪：法院判决自媒体“龙猪-集车”赔偿201.87万元

GB/T 19266：五稻田五常大米10斤39.9元官方发车

卫星欣赏世界最长的城市中轴线！可不是北京

369元酷凛霜界360 ARGB粉色限定版上市：无限镜灯效外环

迎战吉利星舰7 EM-i：比亚迪宋Pro DM-i限时998了！

微软强制推广Copilot引反感！用户只能自认倒霉

腾讯发布全球首个重症医疗大模型：5秒总结病情

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响