MacforAIBlog
Guides pratiques pour choisir et utiliser un Mac avec des LLM locaux.
Pourquoi la bande passante mémoire décide des tokens par seconde sur Mac
La vitesse de génération dépend de la bande passante mémoire, la lecture du prompt du calcul du GPU. Comment estimer les tokens par seconde et pourquoi les puces Pro, Max et Ultra se sentent si différentes.
De combien de RAM avez-vous besoin pour un LLM local sur Mac ?
Poids, cache KV et limite de mémoire du GPU : comment savoir si un LLM local tient sur votre Mac, et quelle RAM choisir, de 16 à 128 Go.