AI PCナビ使うAIと、させたい仕事に合うPC・Macを。

GPU別 動くローカルLLM一覧(GeForce / Radeon)

GeForce RTX 30/40/50・Radeon RX 7000/9000 の各GPUで動くローカルLLMと推定速度、足りないVRAMの一覧。

機種メモリ帯域幅快適実用速度係数
GeForce RTX 3060 12GB12GB360 GB/s290較正済
GeForce RTX 3060 Ti8GB448 GB/s206推定
GeForce RTX 30708GB448 GB/s206推定
GeForce RTX 3070 Ti8GB608 GB/s206推定
GeForce RTX 3080 10GB10GB760 GB/s233較正済
GeForce RTX 3080 12GB12GB912 GB/s290推定
GeForce RTX 3080 Ti12GB912 GB/s290推定
GeForce RTX 309024GB936 GB/s330較正済
GeForce RTX 3090 Ti24GB1008 GB/s330較正済
GeForce RTX 40608GB272 GB/s206推定
GeForce RTX 4060 Ti 8GB8GB288 GB/s206較正済
GeForce RTX 4060 Ti 16GB16GB288 GB/s1914推定
GeForce RTX 407012GB504 GB/s290推定
GeForce RTX 4070 SUPER12GB504 GB/s290推定
GeForce RTX 4070 Ti12GB504 GB/s290推定
GeForce RTX 4070 Ti SUPER16GB672 GB/s330較正済
GeForce RTX 408016GB717 GB/s330較正済
GeForce RTX 4080 SUPER16GB736 GB/s330較正済
GeForce RTX 409024GB1008 GB/s330較正済
GeForce RTX 50608GB448 GB/s206推定
GeForce RTX 5060 Ti 8GB8GB448 GB/s206推定
GeForce RTX 5060 Ti 16GB16GB448 GB/s330較正済
GeForce RTX 507012GB672 GB/s290較正済
GeForce RTX 5070 Ti16GB896 GB/s330較正済
GeForce RTX 508016GB960 GB/s330較正済
GeForce RTX 509032GB1792 GB/s350較正済
GeForce RTX 4050 Laptop6GB192 GB/s138較正済
GeForce RTX 4060 Laptop8GB256 GB/s206推定
GeForce RTX 4070 Laptop8GB256 GB/s206推定
GeForce RTX 4080 Laptop12GB432 GB/s290推定
GeForce RTX 4090 Laptop16GB576 GB/s330推定
GeForce RTX 5060 Laptop8GB384 GB/s206推定
GeForce RTX 5070 Laptop8GB384 GB/s206推定
GeForce RTX 5070 Ti Laptop12GB672 GB/s290推定
GeForce RTX 5080 Laptop16GB896 GB/s330推定
GeForce RTX 5090 Laptop24GB896 GB/s330推定
Radeon RX 76008GB288 GB/s206推定
Radeon RX 7700 XT12GB432 GB/s290推定
Radeon RX 7800 XT16GB624 GB/s330推定
Radeon RX 7900 XT20GB800 GB/s330推定
Radeon RX 7900 XTX24GB960 GB/s330推定
Radeon RX 9060 XT 16GB16GB320 GB/s1815推定
Radeon RX 907016GB624 GB/s330推定
Radeon RX 9070 XT16GB645 GB/s330推定

手持ちのPCで判定する