MacforAIBlog
Guías prácticas para elegir y usar un Mac con LLM locales.
Por qué el ancho de banda de memoria decide los tokens por segundo en un Mac
La velocidad de generación depende del ancho de banda de memoria y la lectura del prompt, del cálculo de la GPU. Cómo estimar los tokens por segundo y por qué Pro, Max y Ultra se sienten tan distintos.
¿Cuánta RAM necesitas para un LLM local en Mac?
Pesos, caché KV y el límite de memoria de la GPU: cómo saber si un LLM local cabe en tu Mac y qué RAM elegir, de 16 GB a 128 GB.