Darkbloom:把你闲置的 Mac 变成 AI 推理节点
Eigen Labs 刚发布了一个让云厂商不太舒服的东西:Darkbloom,一个跑在闲置 Apple Silicon Mac 上的去中心化推理网络。
逻辑很简单。全球超过1亿台 Mac 每天大部分时间都在吃灰,每台有 64-512 GB 统一内存,带宽最高 819 GB/s,足够跑 5000 亿参数模型还能实时交互。Darkbloom 把这些闲置算力直接接上需求端,API 兼容 OpenAI,改一行代码就能用,推理成本最多便宜 70%。
难的不是网络,是信任。机器拥有者有 root 权限和物理接触权,理论上能偷看你的 prompt 和回复。Darkbloom 的方案是四层防护:客户端加密后才传输、Secure Enclave 硬件密钥生成加认证链、操作系统级别锁死调试器和内存检查、输出加密签名可追溯。没有子进程、没有本地服务器、没有 IPC,推理引擎在进程内运行,每一个软件逃逸路径都被封死。
运营者的经济模型更离谱:收入留存 95%,Apple Silicon 电费每小时 0.01-0.03 美元,平台抽成 0%。你的 Mac 晚上闲着不如让它赚钱。
目前是研究预览阶段,支持 Gemma 4 26B、Qwen 系列、MiniMax M2.5 239B、FLUX.2 图片生成和 Cohere 语音转文字。会有粗糙的地方。但核心论点——Apple Silicon 的内存带宽优势让它成为分布式推理的天然基底——很难反驳。
https://darkbloom.dev
https://github.com/Layr-Labs/d-inference
← 返回所有文章
逻辑很简单。全球超过1亿台 Mac 每天大部分时间都在吃灰,每台有 64-512 GB 统一内存,带宽最高 819 GB/s,足够跑 5000 亿参数模型还能实时交互。Darkbloom 把这些闲置算力直接接上需求端,API 兼容 OpenAI,改一行代码就能用,推理成本最多便宜 70%。
难的不是网络,是信任。机器拥有者有 root 权限和物理接触权,理论上能偷看你的 prompt 和回复。Darkbloom 的方案是四层防护:客户端加密后才传输、Secure Enclave 硬件密钥生成加认证链、操作系统级别锁死调试器和内存检查、输出加密签名可追溯。没有子进程、没有本地服务器、没有 IPC,推理引擎在进程内运行,每一个软件逃逸路径都被封死。
运营者的经济模型更离谱:收入留存 95%,Apple Silicon 电费每小时 0.01-0.03 美元,平台抽成 0%。你的 Mac 晚上闲着不如让它赚钱。
目前是研究预览阶段,支持 Gemma 4 26B、Qwen 系列、MiniMax M2.5 239B、FLUX.2 图片生成和 Cohere 语音转文字。会有粗糙的地方。但核心论点——Apple Silicon 的内存带宽优势让它成为分布式推理的天然基底——很难反驳。
https://darkbloom.dev
https://github.com/Layr-Labs/d-inference
评论