Techub News 消息,开源项目 Mesh LLM 将闲置英伟达 GPU 整合为点对点网络,支持大语言模型分布式推理,并提供 OpenAI 兼容 API 供开发者直接替换云端模型。 该项目获 Jack Dorsey 支持,通过「Skippy」管道将大模型分区到多节点运行,局域网处理 2350 亿参数模型速度约每秒 16 token。其激励层 Meshtrain 以 MeshCoin 奖励贡献者,Block 旗下 Buzz 应用已集成该网络,数据不经过外部数据中心。(CryptoBriefing)
如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)

本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为,均由用户自行承担风险。
Techub News 消息,开源项目 Mesh LLM 将闲置英伟达 GPU 整合为点对点网络,支持大语言模型分布式推理,并提供 OpenAI 兼容 API 供开发者直接替换云端模型。 该项目获 Jack Dorsey 支持,通过「Skippy」管道将大模型分区到多节点运行,局域网处理 2350 亿参数模型速度约每秒 16 token。其激励层 Meshtrain 以 MeshCoin 奖励贡献者,Block 旗下 Buzz 应用已集成该网络,数据不经过外部数据中心。(CryptoBriefing)
如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)

本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为,均由用户自行承担风险。