奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

“AI自习室”是风口还是噱头？专家:智能化程度与有效性存疑

近日，新京报记者发现，在人工智能技术赋能教育的大背景下，“AI自习室”出现在多个城市街头，不少教育科技企业也入局“AI自习室”赛道，甚至成为“新教培”的一门生意经。

新京报 2024-12-26

电力一线｜寒冬里的一场供电“抢修战”

“贵公司在抢险过程中展现了卓越的应急响应能力，在故障修复过程中给予了我们极大的支持与帮助。”12月25日，郑州轨道交通运营有限公司向国网郑州航空港区供电公司送来一封感谢信和一面写有“贴心服务解危急营销抢险送曙光”的锦旗。

河南日报 2024-12-26

盘点2024年那些被人遗忘的手机厂商还在搞机吗？

【CNMO科技】科技圈永恒的主题是“喜新厌旧”。但2024年，它们并没有选择沉默，至少在百元机这个市场，没人再动它们的蛋糕。

手机中国 2024-12-26

赵明称要用强大实力碾压偏见，大王影像“耀耀领先”！

日前，荣耀于北京举办荣耀Magic7RSR保时捷设计及影像技术发布会，正式发布了荣耀Magic7RSR保时捷设计，同时宣布荣耀Magic7系列将全面升级“大王影像”。　　之前，网上很多人调侃荣耀拍照盲评没输过，带上水印没赢过，这也反映了部分网友对荣耀品牌的偏见。

IT168 2024-12-26

赵明称要用强大实力碾压偏见，荣耀影像完成里程碑式飞跃

12月23日，荣耀在北京发布了荣耀Magic7RSR保时捷设计，并宣布荣耀Magic7系列将全面升级“大王影像”。联名风潮与荣耀的影像自信近年来，手机品牌与知名摄影厂商联名似乎已经成为一种趋势——小米与徕卡、OPPO与哈苏、vivo与蔡司。

科技plus 2024-12-26

科德数控：12月26日组织现场参观活动，博时基金、财通基金参与

证券之星消息，2024年12月26日科德数控（688305）发布公告称公司于2024年12月26日组织现场参观活动，博时基金、财通基金参与。问：公司在今年展会亮相的KMC1000机型引起了关注，未来如何规划？答：高动态全直驱五轴立式加工中心KMC1000的推出，进一步完善了公司五轴立式加工中心产品的规格，进一步满足不同客户领域的使用需求。

证券之星 2024-12-26

卓世科技创始人兼CEO屠静：全场景大模型破局AI商业化落地｜甲子引力

2024年12月10日至11日，“万千流变，一如既往”2024甲子引力年终盛典在北京中关村国家自主创新示范区展示中心盛大举行。此次盛典汇聚科技行业中坚力量，七十余位重磅嘉宾纷至沓来，在人工智能、机器人、科学智能与新质生产力等核心领域，他们带来海量创新成果与深邃洞察，其中多番内容于行业内首次发布。

甲小姐甲子光年 2024-12-26

机器人界的“奥林匹克”决赛来了，赛事详情来了

记者从郑州市高新区相关部门了解到，2024世界机器人大赛总决赛将于2025年1月16日至1月21日在郑州高新区举行。

北京日报 2024-12-26

2024年最失败的八大技术，23andMe、波音Starliner、垂直农场上榜

如果这句话成立，那么这篇文章正是为你而写：这是《麻省理工科技评论》的年度科技失败案例盘点，记录了过去一年中最令人唏嘘的失误、骗局与灾难。有些失败带着些许荒诞的色彩，比如谷歌的“觉醒AI”，因生成黑人纳粹图像而将公司推上舆论风口浪尖。

DeepTech深科技 2024-12-26

军地联合送喜报荣誉之光耀家门

12月26日，阳光明媚，伴随着阵阵锣鼓声，驻沪某部队联合盐城市盐都区退役军人事务局、龙冈镇等部门，组成送喜报小分队，来到荣获三等功的军人张荣峰家中，为其亲属送上喜报和慰问金，共同分享这份荣耀。他指出，张荣峰在2024年完成重大任务中表现出色，不仅展示了军人的英勇和智慧，也为部队和家乡赢得了荣誉。

扬子晚报 2024-12-26

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

“AI自习室”是风口还是噱头？专家:智能化程度与有效性存疑

电力一线｜寒冬里的一场供电“抢修战”

盘点2024年那些被人遗忘的手机厂商还在搞机吗？

赵明称要用强大实力碾压偏见，大王影像“耀耀领先”！

赵明称要用强大实力碾压偏见，荣耀影像完成里程碑式飞跃

科德数控：12月26日组织现场参观活动，博时基金、财通基金参与

卓世科技创始人兼CEO屠静：全场景大模型破局AI商业化落地｜甲子引力

机器人界的“奥林匹克”决赛来了，赛事详情来了

2024年最失败的八大技术，23andMe、波音Starliner、垂直农场上榜

军地联合送喜报荣誉之光耀家门

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响