跳到正文
全部 31 篇FREN中文
目录
第 1 部分 · 第 5 篇,共 8 篇 难度:简单 阅读时间:14 分钟

实测过的机器:跑 AI 选哪台迷你 PC?

Frandroid 评测过的迷你 PC、Mac 和 AI 工作站,按用途和预算分类,附上 Labo 实测的速度、功耗和噪音。

本文目录
  1. 01选之前:三个问题
  2. 02只跑智能体,模型在云端
  3. 03在本地跑小模型(32 到 64 GB)
  4. 04在本地跑大模型(64 到 128 GB)
  5. 05Mac:最省心的路线
  6. 06AI 工作站:Nvidia 的 DGX Spark
  7. 07Labo 的实测说明了什么
  8. 08内存危机带来了什么变化
  9. 09常见问题

要点速览

如果模型留在云端,一台安静的 16 或 32 GB 小迷你 PC 就够了。要在家里跑 AI,内存说了算:小模型要 32 到 64 GB,大模型要 128 GB 统一内存(Ryzen AI Max+ 395,比如 GMKtec EVO-X2),Frandroid Labo 在它上面测得 gpt-oss 120B 每秒 35.7 个 token。Mac mini M6 是最省心的路线,但最多只有 32 GB;Nvidia 的 DGX Spark 主要面向用 CUDA 做开发的人。内存危机让价格一路上涨:下单前请再核实一遍。

请先完成: 选择硬件

选择硬件这篇给了您方法:先看内存,再看带宽,最后才看处理器。这里我们直接谈机器。它们都经过 Frandroid 评测,其中九台还进过 Frandroid Labo,测了模型速度、功耗和噪音。我们按用途排列,从只负责托管智能体的小服务器,一直到 6 000 欧元以上的 AI 工作站。

工具

哪台机器适合我?

三个问题,给出与之匹配的实测机器。规则沿用「选择硬件」一文:内存决定能装下什么,预算和系统负责筛选。

您想运行什么?
您的预算
系统

我的建议

为您找到 3 台机器:Apple Mac mini M6、GMKtec EVO-T2S、Minisforum M2。

价格都标了日期:大多是评测时的价格,之后可能变了,有时变化很大。请在购买当天再核实。

想知道每台机器能装下哪些模型:Quelle IA 逐台机器的页面(法语网站)

这些机器是怎么选出来的
  • 只跑智能体:16 至 32 GB 内存,不带独立显卡。机器只负责托管。
  • 小模型:32 至 64 GB,或者给图形处理器留出至少 16 GB 的 Mac(装得下 14B)。插内存条的迷你 PC 要插两根。
  • 大模型:64 GB 或以上的统一内存(Ryzen AI Max、Mac、DGX Spark)。8 GB 的显卡不够。
  • 预算:记录的价格须低于该档上限。更便宜的机器只要合适,也会推荐。
  • 排序:先是本文推荐的机器,再是 Frandroid Labo 实测过的,然后按价格从低到高。最多三台。

选之前:三个问题

已完成 0 步,共 3 步 勾选记录只保存在此浏览器中。

  1. 模型在哪里运行?

    如果智能体调用的是云端模型(比如 Claude),这台机器只负责托管您的项目:它既不需要很多内存,也不需要强劲的图形处理器。如果您想在家里跑模型,情况就完全不同了。

  2. 多大的模型?

    70 亿到 140 亿参数的模型放得进 32 GB。压缩后的 30B 模型需要大约 20 GB 可供图形处理器使用的内存,也就是 32 GB 统一内存。70B 或更大的模型,请瞄准 64 到 128 GB 统一内存。详细内容见选择并调好您的模型。

  3. 它放在哪里?

    一台放在客厅或卧室、全天 24 小时开着的机器,必须安静,待机时也要省电。噪音和功耗要和速度一样认真看。

只跑智能体,模型在云端

这是最省钱的情况,也是很多人起步的方式。机器运行编码智能体、您的项目、几个容器,需要时再跑一个小模型来改写或分类。关键在于:安静、省电、网络好。一台回收的旧电脑也能胜任。

GMKtec NucBox K13:深灰色扁平机身,放在桌上的 Mac mini 旁边
图片:Frandroid (在新标签页打开)

GMKtec NucBox K13

入门级
内存
16 GB
GPU 可用
未说明
功耗
未测
噪音
34 dB

€700 2026年5月26日 核价

价格:首发价,起价

一台低调的办公迷你主机。16 GB 板载内存只够跑小模型:如果您想做本地 AI,请不要选它。

  • 非常轻薄,非常安静
  • Lunar Lake 芯片省电
  • 16 GB 板载内存,无法升级
  • 多核性能偏弱
GMKtec NucBox K11:黑色迷你主机,顶部 RGB 风扇发光,放在键盘旁
图片:Frandroid (在新标签页打开)

GMKtec NucBox K11

入门级
内存
32 GB
GPU 可用
未说明
功耗
待机 12.6 W
噪音
34.6 dB

€800 2026年7月31日 核价

价格:参考价,32 GB + 1 TB

Frandroid 实验室 7B 每秒 16.2 个 token

一台价格适中、用途广泛的好迷你主机。做 AI 的话,请停留在小模型,或通过 OCuLink 外接显卡。

  • 内存可扩展至 96 GB
  • OCuLink 接口可外接显卡
  • 待机功耗很低
  • Radeon 780M GPU 跑 AI 偏弱
  • 性能模式下噪音大

NucBox K13 非常薄,几乎听不到声音(Labo 测得 34 dB),但它的 16 GB 是焊死的:永远无法升级。NucBox K11 稍贵一些,但留有余地:32 GB 可扩展,有一个 OCuLink 接口以后可以外接显卡,待机只有 12.6 W。Labo 在它上面测得 70 亿参数模型每秒 16.2 个 token,做些本地小任务足够了。

在本地跑小模型(32 到 64 GB)

您想在家里放一个模型处理日常任务,不追求巨型模型。一台 32 到 64 GB 的 Intel 或 AMD 迷你 PC 就够了,但有一个条件:两根内存条,或者高速的板载内存。只插一根内存条会让带宽减半,集成图形处理器会喘不过气来。

Minisforum M2:浅灰色方形小机身,旁边是黑色包装盒
图片:Frandroid (在新标签页打开)

Minisforum M2

入门级
内存
32 GB
GPU 可用
未说明
功耗
未测
噪音
43.8 dB

€1,119 2026年6月15日 核价

价格:32 GB + 1 TB

一台做得不错的桌面迷你主机,但单根内存条让它不太适合本地 AI。运行模型前请加第二根内存条。

  • Panther Lake 处理器能效高
  • 内存可扩展至 128 GB
  • 小巧安静
  • 出厂只有一根内存条,限制了内存性能
  • 集成 GPU 较弱
GMKtec EVO-T2S:黑色迷你主机,银色顶盖刻有 GMKtec,旁边是 Mac mini
图片:Frandroid (在新标签页打开)

GMKtec EVO-T2S

中端
内存
64 GB
GPU 可用
未说明
功耗
满载 70.1 W
噪音
37 dB

€1,699.99 2026年6月29日 核价

价格:64 GB + 1 TB

Frandroid 实验室 3B 每秒 47.1 个 token

凭借高速内存,这是最适合本地 AI 的 Intel 迷你主机。要跑 30B 以上的模型,请考虑 128 GB 的 Ryzen AI Max+ 395 机型。

  • 64 GB 内存,带宽 153 GB/s
  • Arc B390 集成 GPU 跑 AI 高效
  • 安静且省电
  • 内存板载
  • 定价偏高

Minisforum M2 是我推荐用来起步的桌面迷你 PC,小巧且持续负载下表现稳定,但它出厂只有一根内存条:加载模型之前先补上第二根。GMKtec EVO-T2S 更进一步,64 GB 板载内存达到 153 GB/s,是 Labo 在 Intel 迷你 PC 上测到的最快内存。Labo 在它上面测得 30 亿参数模型每秒 47.1 个 token,完全跑在集成图形处理器上,最高功耗 70 W,满载噪音 37 dB。

在本地跑大模型(64 到 128 GB)

本地 AI 从这里开始变得认真起来。要记住的芯片是 AMD Ryzen AI Max+ 395(代号 Strix Halo):最高 128 GB 统一内存,其中 96 GB 可供图形处理器使用。我自己家里跑的就是它。好几家厂商都在卖,差别主要在散热、噪音和价格。

GMKtec EVO-X2:黑色前面板的银色立式迷你主机,放在桌上的 Mac mini 旁
图片:Frandroid (在新标签页打开)

GMKtec EVO-X2

128 GB 工作站
内存
128 GB
GPU 可用
最多 96 GB
功耗
满载 128.9 W
噪音
47 dB

€1,899.99 2026年6月29日 核价

价格:64 GB 版用优惠码的价格;128 GB 版更贵

Frandroid 实验室 gpt-oss 120B 每秒 35.7 个 token

本地 AI 迷你主机的标杆:它能用集成 GPU 运行 120B 模型。请预留 BIOS 设置的功夫,满载功耗会升到 130 W。

  • 运行 gpt-oss 120B 达每秒 35.7 个 token
  • 128 GB 统一内存
  • 就其性能而言噪音控制得好(满载 47 dB)
  • 满载最高 130 W
  • 跑 AI 需要调整 BIOS
GMKtec EVO-X3:高而窄的炭灰色机身,带通风格栅,竖立在木质桌面上
图片:Frandroid (在新标签页打开)

GMKtec EVO-X3

128 GB 工作站
内存
128 GB
GPU 可用
最多 96 GB
功耗
满载 186 W
噪音
48.6 dB

€3,499.99 2026年9月7日 核价

价格:评测配置,128 GB

Frandroid 实验室 70B 每秒 5.3 个 token

我们测过散热最好的 Strix Halo,AI 速度与 EVO-X2 相当。请预留桌面空间和预算。

  • 3B 到 70B 的模型都能完全跑在集成 GPU 上
  • 散热出色
  • 短时负载下安静
  • 比普通迷你主机更占地方
  • 实验室实测满载最高 186 W
  • GMKtec EVO-X2 是标杆:Labo 在 BIOS「平衡」模式下测得 gpt-oss 120B 每秒 35.7 个 token。注意它卡片上的价格:1 900 欧元是评测时 64 GB 版本使用优惠码后的价格;评测的 128 GB 版本更贵。
  • GMKtec EVO-X3 一样快,散热更好,但体积更大,Labo 测得满载功耗达到 186 W。
  • Framework Desktop 更贵,但可维修,对 Linux 的支持非常好。它的价格(128 GB 为 3 889 欧元)查于 2026 年 9 月 30 日,不含 SSD 和操作系统。

Minisforum MS-S1 Max 用的是同一颗芯片。Labo 测试时只给图形处理器预留了很少的内存,所以下面表格里它的速度只有一半:记得调整 BIOS。如果您想把存储和 AI 放进同一个盒子,Minisforum N5 MAX 是一台搭载这颗芯片和 64 GB 内存的五盘位 NAS,Frandroid 评测过(法语)。评测时售价 2 719 欧元,只有在您本来就打算买 NAS 时才值得。

想知道哪些模型放得下,Quelle IA 为每种配置都有一页(法语网站):Ryzen AI Max+ 395 64 GB(可用 48 GB)和 128 GB(可用 96 GB)。

Mac:最省心的路线

Mac mini 不需要任何设置:macOS 会自动把大约四分之三的内存借给图形处理器。它安静、小巧,Ollama 在上面跑得很好。它的限制在内存:Mac mini M6 最多只有 32 GB。

浅灰色 Mac mini M6,带黑色 Apple 标志,放在木桌上,背景为模糊的粉色
图片:Frandroid (在新标签页打开)

Apple Mac mini M6

入门级
内存
24 GB 统一内存
GPU 可用
最多 17.8 GB
功耗
未测
噪音
未测

€1,049 2026年9月30日 核价

价格:起价(16 GB);评测的 24 GB 版更贵

Frandroid 实验室 7B 每秒 33.1 个 token

做本地 AI 最省心的 Mac:快速又安静。24 GB 内存已经装不下 30B 模型:想走得更远,请选更大的内存。

  • 满载也很安静
  • 实验室测得 3B 模型每秒 69 个 token
  • 极其小巧
  • 24 GB 中只有 17.8 GB 可供模型使用
  • 价格上涨,选配贵得离谱

Frandroid 评测的是 24 GB 版本,据 Quelle IA 计算,留给模型的是 17.8 GB:够跑 14B,跑 30B 就太紧了。Labo 测得 70 亿参数模型每秒 33.1 个 token。卡片上的价格(1 049 欧元,查于 2026 年 9 月 30 日)是 16 GB 基础版的价格;24 GB 版本更贵。做本地 AI,请瞄准 32 GB 的 M6(法语网站),或最高 64 GB 的 M5 Pro:各配置和价格见用 Mac mini 可以吗?。

您已经有一台 16 GB 的 Mac mini M4?它很适合当智能体服务器、调用云端模型,也能跑小模型。但别为了本地 AI 去买一台:16 GB 太紧了。

AI 工作站:Nvidia 的 DGX Spark

DGX Spark 是一台开发者机器:128 GB 统一内存,据 Quelle IA 计算其中 112 GB 可供图形处理器使用,最重要的是有 CUDA,几乎整个 AI 生态都建立在 Nvidia 这套软件之上。好几个品牌以自己的名义销售它;Frandroid 评测的是 Dell 的版本。

Dell Pro Max with GB10:蜂窝状前面板的黑色机身,带 Dell 标志,粉蓝灯光照射
图片:Frandroid (在新标签页打开)

Dell Pro Max avec GB10 (Nvidia DGX Spark)

128 GB 工作站
内存
128 GB 统一内存
GPU 可用
最多 112 GB
功耗
未测
噪音
未测

€6,099.95 2026年9月30日 核价

价格:LDLC 售 PNY DGX Spark,128 GB + 4 TB

在本地进入 Nvidia 生态的入口,配 128 GB 内存和 CUDA。它的价格只适合在该平台上做开发的人。

  • 128 GB 统一内存与 CUDA
  • 预装 Linux,开箱即用
  • 多台机器可以互联
  • 价格很高
  • LPDDR5X 带宽拖累 GPU

卡片上的价格是 PNY 版 DGX Spark 在 LDLC 的售价,查于 2026 年 9 月 30 日;评测的 Dell 版本超过 7 000 欧元。和 128 GB 的 Ryzen AI Max+ 395 相比,它稍快一些:在 gpt-oss 120B 上,Quelle IA(法语网站)收录的第三方实测显示,DGX Spark 每秒 58.7 个 token,Framework Desktop 约 50 个,测试工具相同但版本不同。速度高约 17%,价格高 57%(6 100 欧元含 4 TB SSD,对比 3 889 欧元不含 SSD)。如果您为 CUDA 做开发,或者想把几台机器连在一起,它才说得过去。

Labo 的实测说明了什么

表格列出了 Labo 测过生成速度的机器。每一列速度中,最好的数字会突出显示。

Frandroid 实验室实测 (每秒 token 数)
机器7BQwen3 30B (MoE)32B70Bgpt-oss 120B待机满载噪音
GMKtec EVO-X3128 GB47.890.311.45.3–14 W186 W48.6 dB
GMKtec EVO-X21128 GB45.792.611.45.335.716.6 W128.9 W47 dB
Apple Mac mini M624 GB33.1–––––––
Minisforum MS-S1 Max2128 GB22.535.252.417.3–––
GMKtec NucBox K1132 GB16.2––––12.6 W–34.6 dB
Minisforum MS-0332 GB8.3––––23.1 W–45.2 dB

生成速度(token/秒),由 Frandroid 实验室用 Ollama 实测(模型默认版本,通常为 4 位量化)。数值越高,回答显示越快;低于每秒 10 个 token 时,阅读会很吃力。短横线:未测,或模型太大装不下。

  1. GMKtec EVO-X2:在 BIOS「平衡」模式下测得,计划改用性能模式重测。
  2. Minisforum MS-S1 Max:测试时预留给 GPU 的内存很少,模型跑在 CPU 上,速度约为这颗芯片应有水平的一半。

内存能为您换来什么

32 GB、集成图形处理器又比较弱的 NucBox K11 和 MS-03,只测了 7B 模型,分别为每秒 16 和 8 个 token:更大的模型放得进内存,但会慢得像爬。128 GB 的 EVO-X2 和 EVO-X3 能装下 Labo 试过的所有模型,一直到 70B。但请看速度:稠密的 70B 只有每秒 5.3 个 token,低于舒适线。内存决定的是放不放得下;它不保证用起来舒服。

真正的启示在两列里。Qwen3 30B 是 MoE 模型,每生成一个词只激活自己的一小部分:它能跑到每秒 90 多个 token,比大小相近的稠密 32B 快八倍。gpt-oss 120B 也一样,每秒 35.7 个 token。在统一内存的机器上,应该瞄准的就是这类模型。详见选择并调好您的模型。

统一内存还是独立显卡?

Labo 还没有测过带独立显卡的迷你 PC,所以这里没有数字。原理很简单:显卡非常快,但它只能看到自己的显存。据 Quelle IA 计算,8 GB 的 RTX 只留给模型 6 GB,而 128 GB 的 Ryzen AI Max+ 395 有 96 GB。小模型上显卡占优;只有统一内存装得下大模型。

Mac mini M6 展示了统一内存的另一面:在 7B 上它每秒 33.1 个 token,比 128 GB 的 Ryzen AI Max 机器慢,但是 K11 的两倍。它只是受限于容量。

全天 24 小时开机:功耗和噪音

待机时,测过的迷你 PC 功耗在 12.6 到 23.1 W 之间。按每千瓦时 0.25 欧元计算,一台大部分时间在等待的机器,一年电费大约 30 到 50 欧元。持续满载时差距就拉开了:EVO-T2S 70 W,EVO-X2 129 W,EVO-X3 186 W。一台全年以 186 W 运行的机器,电费大约 400 欧元,不过家庭工作台大部分时间都在待机。

如果机器就在您身边,噪音同样重要。Labo 测得 NucBox K11(34.6 dB)和 EVO-T2S(37 dB)都很安静。Ryzen AI Max 机器满载时达到 47 dB(EVO-X2)和 48.6 dB(EVO-X3):在安静的房间里能听到,尽管 EVO-X3 在短时负载下依然很安静。

内存危机带来了什么变化

内存短缺让这些机器几乎全部涨价,而且涨得不少。几个来自评测和 Quelle IA 的参照点:

  • 基础款 Mac mini 从 699 欧元(M4,2024 年 11 月)涨到 1 049 欧元(M6,查于 2026 年 9 月 30 日)。
  • Nvidia 在 2026 年 2 月以短缺为由,把 DGX Spark 的建议价从 3 999 美元提高到 4 699 美元。
  • Geekom A9 Max 在 2025 年底评测时售价 999 欧元;2026 版在 2026 年 6 月评测时售价 1 699 欧元,而且只配一根内存条,Geekom 给出的理由之一就是内存价格。

三点提醒。把本页的每个价格都当作数量级,购买当天再核实。内存焊死的机器(Mac、Ryzen AI Max、DGX Spark),一开始就买够您需要的容量:以后永远加不了。用内存条的迷你 PC,可以现在先买 32 GB,以后再加;不过没人知道价格什么时候会回落。

常见问题

一台全天开机的迷你 PC 电费要多少?

待机时,Frandroid Labo 实测的迷你 PC 功耗在 12.6 到 23.1 W 之间,按每千瓦时 0.25 欧元计算,每年约 30 到 50 欧元。持续满载时差距会拉大(GMKtec EVO-T2S 为 70 W,EVO-X3 为 186 W),但家用工作台大部分时间都处于待机状态。

为什么跑 AI 的迷你 PC 需要两根内存条?

只插一根内存条会让内存带宽减半,集成显卡一跑模型就力不从心。例如 Minisforum M2 出厂只带一根内存条:运行本地模型之前,请先加上第二根。板载高速内存的机器不受此影响。

为什么 MoE 模型在本地跑得更快?

MoE 模型每生成一个词只激活自身的一小部分。在 Frandroid Labo 的测试中,Qwen3 30B 因此能跑到每秒 90 多个词元,比体量相近的 32B 稠密模型快八倍;gpt-oss 120B 达到每秒 35.7 个词元,而 70B 稠密模型只有 5.3。在统一内存的机器上,应该优先选这类模型。

和 Ryzen AI Max+ 395 相比,DGX Spark 值得买吗?

它稍快一些:在 gpt-oss 120B 上,第三方公布的测试结果显示 DGX Spark 为每秒 58.7 个词元,Framework Desktop 约为 50,也就是快约 17%,价格却高出 57%(带 4 TB SSD 为 6 100 欧元,不带 SSD 为 3 889 欧元,价格查于 2026 年 9 月 30 日)。只有在您为 CUDA 做开发,或想把多台机器连在一起时,它才真正划算。

带独立显卡的迷你 PC 适合本地 AI 吗?

跑小模型很快,但显卡只能用自己的显存:一块 8 GB 的显卡,Quelle IA 只算 6 GB 可用,模型规模大约被限制在 80 亿参数。一台 128 GB 的 Ryzen AI Max+ 395 能给模型留出 96 GB。显卡在小模型上占优,只有统一内存才装得下大模型。

本文涉及的术语: RAM(内存)CPU(处理器)智能体容器GPU(显卡)参数统一内存LinuxOllamaCUDAVRAM(显存)

发现错误?

命令失效了,价格变了?

这些工具每个月都在变。请告诉我这篇文章哪里不对,我会改正并更新日期。

只保留页面、您的留言和选填的联系方式,别无其他。

第 5 / 31 篇 · 第 1 部分 还没有读过任何一篇 打开文章目录