跳到正文
原文
IT之家·· 12 小时前精选AI 评分68

开源项目 Garlic LLM 让越狱 PS4 运行 9B 参数本地大模型,最高每秒输出 43 词元

每秒输出最高 43 词元:Garlic LLM 可让越狱 PS4 运行 9B 参数本地 AI 模型

摘要快讯

据 Gigazine 报道,开发者 Leonardo Alegria 的开源项目 Garlic LLM 可让越狱版 PS4 离线运行 90 亿参数本地大语言模型,生成代码时最高每秒 43 词元,普通文本约每秒 31 至 39 词元。

目前仅收录标题与摘要。详细参数、价格和实测信息,请查看原文。

来源:IT之家 · ithome.com