mousepotato (@octg): "8GB 显存到底能跑多大模型别再靠感觉了 llmfit 扫一眼你的内存、CPU、显卡按「能不能塞进去」「会不会卡死」「质量够不够」打分我刚测过 27B 塞进 8GB 这种工具本该先跑一遍再下载那十几个 G https://github.com/AlexsJones/llmfit"

8GB 显存到底能跑多大模型

别再靠感觉了

llmfit

扫一眼你的内存、CPU、显卡

按「能不能塞进去」「会不会卡死」「质量够不够」打分

我刚测过 27B 塞进 8GB

这种工具本该先跑一遍

再下载那十几个 G

github.com

Hundreds of models & providers. One command to find what runs on your hardware. - AlexsJones/llmfit

Aug 19

10:23 PM