Potluck:聚合多台闲置电脑协同运行本地大模型的工具
Potluck 是一款旨在降低大模型硬件门槛的分布式计算工具。针对个人开发者难以承担高昂 GPU 集群或云算力成本的问题,该项目允许用户将手头的多台普通设备(如笔记本电脑、游戏台式机等)组网连接,协同聚合算力以运行更大参数的本地模型。目前可用于家庭或办公室内的多设备互联,未来目标是构建一个由用户自有设备组成的分布式网络,实现相互共享算力支持大模型推理。
推荐理由为个人和小型团队提供了一种低成本利用闲置设备协同运行本地大模型的实用思路。
原标题:Show HN: Potluck – Run local AI across the computers you own
阅读 Hacker News · AI 原文 ↗