奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

作者：黑白发布时间：2024-12-30

快科技12月30日消息，据媒体报道，EXO Labs最近发布了一段视频，展示了在一台26年历史的Windows 98奔腾2 PC上运行大模型（LLM）。这台主频350MHz电脑成功启动进入Windows 98系统，随后EXO启动...【查看原文】

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

Stable Diffusion AI画图现在简直太火爆了。各路大神使用支持CUDA或是Rocm技术的显卡做出了无数吸引眼球的作品。但是对于没有搭载独立显卡的轻薄本来说，AI画图就不能实现了吗？当然不是！Stable Diffusion其实是有基于DirectML运行库的版本的，但凡支持DirectML计算的显卡或是CPU都能够实现运行，只是效率上要比CUDA和Rocm要低一些。AMD锐龙7 7840HS处理器中集成了目前性能最强的核心显卡Radeon 780M，因此这也是目前最适合运行Stable Di

Stable Diffusion

机械革命笔记本 2023-10-09

在Mac运行 OpenChat 3.5 完全可移植仅2MB

用 Rust + Wasm 轻松跨设备运行 OpenChat-3.5-GGUFOpenChat-3.5 模型是一个 7B 大型语言模型 (LLM)，采用名为 C-RLFT 的独特策略进行了微调，该策略的灵感来自于离线强化学习。这种方法允许模型在没有偏好标签的情况下从混合质量的数据中学习，使其性能可以与复杂的 ChatGPT 模型相媲美。OpenChat-3.5-7B 模型于 2023 年 11 月 1 日发布，据说在各种基准测试中都超越了 ChatGPT。本文我们将讲解如何在自己的设备上运行 OpenC

大语言模型 ChatGPT

Second_State 2023-12-28

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

由 Second State 开发的 `run-llm.sh`[1] 脚本是一个命令行工具，用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型（LLMs）。这个命令行应用程序会自动下载并安装 WasmEdge runtime、模型文件以及用于推理的可移植 Wasm 应用程序。用户只需按照命令行提示选择所需的选项即可。运行 run-llm.sh bash

大语言模型 OpenAI

Second_State 2023-12-19

联发科运用Llama2大语言模型，让手机可运行生成式AI

预计年末实现。

大语言模型生成式AI

杨亮 2023-08-24

【夏曹俊】LLama实战CPU推理C++大语言模型

机器之心报道。通常，神经网络的推理代码是使用 Python 语言编写的。但相比于 Python，C/C++ 代码运行速度更快，编写过程更严谨，因此一些开发者尝试用 C/C++ 语言实现神经网络。在众多使用 C/C++ 语言编写神经网络代码的开发者中，Georgi Gerganov 是一位佼佼者。Georgi Gerganov 是资深的开源社区开发者，曾为 OpenAI 的 Whisper 自动语音识别模型开发 whisper.cpp。

LLaMA 大语言模型编程 OpenAI

丨超能力丶 2023-09-20

近期资讯

华为孟晚舟最新发声！

12月31日，华为轮值董事长孟晚舟发布新年致辞。孟晚舟表示：“2024年是原生鸿蒙的关键一年，鸿蒙生态建设千帆起航。”“鸿蒙千帆计划得到了众多行业伙伴的积极响应，短短一年时间，我们就走过其它操作系统十多年的发展之路，创造了‘鸿蒙速度’。”据了解，目前已经有超过1.5万个原生鸿蒙应用和元服务完成开发，能满足用户99.9%的使用时长。

证券时报 2024-12-31

《商业观察》2025年新年献词：携手前行，共创未来

当新年的曙光初破晓，我们带着对未来的无限憧憬，共同站在了2025年的起点上。此刻，回望过去一年的风雨兼程，我们心中充满了感慨与收获；展望未来，我们更是满怀信心与期待。《商业观察》在此刻，向每一位陪伴我们成长的读者致以最诚挚的新年祝福，愿新的一年里，商业世界更加精彩纷呈，我们的共同探索之路更加宽广深远。过去的一年，是充满挑战与变革的一年。

商业观察杂志社 2024-12-31

安阳职业技术学院：国际智能服务机器人大赛再创佳绩

12月29日，备受瞩目的2024“一带一路”暨金砖国家技能发展与技术创新大赛第二届智能服务机器人应用技术赛项国内赛决赛在安阳职业技术学院成功落下帷幕，这场为期两天的技能盛宴至此画上了圆满句号。

大象新闻 2024-12-31

轻松掌握换开关技巧，保障安全并解决常见问题的方法解析

换开关其实是一件并不复杂的事情，只要你有耐心，遵循一些基本的安全原则，就能轻松搞定。接下来，我就来和你聊聊怎么换开关，过程中的一些小注意事项，以及一些常见问题的解决方法。在开始之前，咱们得先准备一些工具和材料。其实，换开关用到的东西并不多，通常只需要一个螺丝刀（十字或一字的，看你开关的类型）、电工胶带、可能还需要一个电压测试仪。

新报观察 2024-12-31

AI爆火两年，技术飞快跑，大模型突破商业化困局了吗？

这两年，普通人对大语言模型的能力兴奋，随便一条指令就能生成流畅自然的文本，科幻电影里的场景，如今早已经成为现实。如同移动支付、智能手机、LTE共同点燃了移动互联网时代的繁盛，AI行业这一年也在寻找这样的PMF（ProductMarketFit）而焦虑。大语言模型的技术怎么落地，从一开始就是个抓肝挠心的问题。

爱范儿 2024-12-31

SpaceX上周末“双响炮”，2024年度第134次火箭发射目标近在咫尺

12月31日消息，SpaceX于12月29日通过官方账号在X平台发布推文，宣布成功连续两次发射猎鹰9号火箭，成功部署22颗星链卫星，并将Astranis卫星送入轨道，完成2024年度第132和133次发射。

砍柴网 2024-12-31

南航C909成功首航广州至文莱航线

今日（12月31日）8:52分，中国南方航空CZ5509航班从广州白云国际机场起飞，前往文莱首都斯里巴加湾市。这是南航首次使用C909飞机执飞国际客运航线，不仅标志着南航C909机型首次跨越国界、开启跨海国际航线运营新征程，也创下南航C909飞机执飞航线最长航程近2400公里的记录。

北青网 2024-12-31

机情问答：一加 Ace 5 Pro性能有多凶猛值得入手吗？

【CNMO科技】在2024年下半场，各大手机品牌除了发布旗舰系列新品，同时在中高端性能手机市场也打成了一片，让游戏玩家直呼过瘾。12月26日，一加举办新品发布会正式带来了Ace系列全新力作一加Ace5系列，第三代骁龙8移动平台和骁龙8至尊版两颗旗舰芯同时出手，配合一加多年积累的黑科技，为玩家打造了全新的游戏体验天花板。

手机中国 2024-12-31

东航第10架C919交付入列

钛媒体App12月31日消息，中国东航第10架C919身披央视新闻“闪耀中国红”涂装正式入列。当天上午9时59分，这架C919执行MU500调机航班，从上海浦东国际机场起飞，10时14分抵达上海虹桥国际机场，正式入列东航机队。

钛媒体快报 2024-12-31

各台跨年节目单出炉！你pick哪一家

《启航2025——中央广播电视总台跨年晚会》今晚在央视综合频道、综艺频道、音乐频道等播出，与观众共同迎接充满希望的2025年。结合XR/AR虚拟现实，融入无人机、机器人表演等科技手段，拓展节目表现形式。

上游新闻 2024-12-31

奔腾2 CPU+128MB内存成功运行Llama大模型：速度还挺快

推荐体验

相关资讯

速度还挺快！无界14 Pro轻薄本实战Stable Diffusion AI画图

在Mac运行 OpenChat 3.5 完全可移植仅2MB

仅一个命令行！用 2MB 推理 App 在本地跨平台运行大语言模型

联发科运用Llama2大语言模型，让手机可运行生成式AI

【夏曹俊】LLama实战CPU推理C++大语言模型

近期资讯

华为孟晚舟最新发声！

《商业观察》2025年新年献词：携手前行，共创未来

安阳职业技术学院：国际智能服务机器人大赛再创佳绩

轻松掌握换开关技巧，保障安全并解决常见问题的方法解析

AI爆火两年，技术飞快跑，大模型突破商业化困局了吗？

SpaceX上周末“双响炮”，2024年度第134次火箭发射目标近在咫尺

南航C909成功首航广州至文莱航线

机情问答：一加 Ace 5 Pro性能有多凶猛值得入手吗？

东航第10架C919交付入列

各台跨年节目单出炉！你pick哪一家

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响