开源项目 Garlic LLM 让越狱 PS4 运行 9B 参数本地大模型,最高每秒输出 43 词元
每秒输出最高 43 词元:Garlic LLM 可让越狱 PS4 运行 9B 参数本地 AI 模型
摘要快讯
据 Gigazine 报道,开发者 Leonardo Alegria 的开源项目 Garlic LLM 可让越狱版 PS4 离线运行 90 亿参数本地大语言模型,生成代码时最高每秒 43 词元,普通文本约每秒 31 至 39 词元。
目前仅收录标题与摘要。详细参数、价格和实测信息,请查看原文。
来源:IT之家 · ithome.com