▸ IA localPaso 1 gratis

Saca todo el jugo a tu Mac con chip Apple: modelos de IA con MLX

MLX es el motor de Apple para su chip, y mlx-lm ejecuta modelos de lenguaje con él. Lo instalas con Homebrew, chateas con un modelo de la comunidad mlx-community y comparas la velocidad con Ollama en tu propio Mac.

Al terminar tendrás

  • mlx-lm instalado.
  • Un modelo de 4 bits respondiendo en tu Mac.
  • Tu propia comparación de velocidad con Ollama.

En esta misión · 5 pasos · 20 min

  1. 1Instala mlx-lm4 min
  2. 2Genera con un modelo de la comunidad5 min
  3. 3Chatea con él3 min
  4. 4Compara con Ollama5 min
  5. 5Prueba un modelo más grande3 min

Lo que vas a usar

20 min €0 16 GB RAM · sin GPU macOS

Antes de empezar

  • Un Mac con chip Apple (M1 o posterior).
  1. 1Paso 01 de 05 · ~4 min

    Instala mlx-lm

    Con Homebrew.

    1. 1

      Abre la terminal. En Mac: pulsa Cmd+Espacio, escribe Terminal y pulsa Enter. En Windows: pulsa la tecla Windows, escribe PowerShell y pulsa Enter.

      TerminalmacOS
      $brew install mlx-lm

      Así debería verse

      mlx-lm se instala con pip install mlx-lm o con conda; Homebrew también lo tiene como fórmula.
      TerminalmacOS
      $mlx_lm.generate --help

      Truco

      🎉 Si sale la ayuda de mlx_lm.generate, ¡nivel 1 superado! Tu Mac ya habla el idioma de su chip.

    ¿Tu Mac dice «brew: command not found»? Instala Homebrew una vez

    Homebrew es el instalador de programas que usamos en todas las misiones de Mac. Pega esto en la Terminal (es el comando oficial de brew.sh). Te pedirá la contraseña del Mac: al escribirla no se ve nada, es normal.

    Instala HomebrewmacOS
    $/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

    Al terminar, copia y ejecuta las líneas que salen bajo «Next steps», cierra la Terminal y ábrela de nuevo. Comprueba con brew --version.

    Comprueba que funcionamlx_lm.generate --help muestra las opciones.

    Si algo falla (1)
    Sale «brew: command not found»
    Te falta Homebrew. Instálalo con el comando de su web oficial, brew.sh, cierra la terminal, ábrela otra vez y repite.

    ¿Sigues atascado? Pregunta en la comunidad Avisar de un error en este paso

  2. Lo que desbloqueas

    4 pasos · 5 comandos · 2 errores típicos resueltos

    1. 2Genera con un modelo de la comunidad~5 min

      Se descarga solo la primera vez.

      1 comando · 1 error resuelto · comprobación incluida

    2. 3Chatea con él~3 min

      Conversación que recuerda.

      1 comando · comprobación incluida

    3. 4Compara con Ollama~5 min

      El mismo modelo, dos motores.

      3 comandos · 1 error resuelto · comprobación incluida

    4. 5Prueba un modelo más grande~3 min

      Hasta dónde llega tu Mac.

    Pasos 2–5 con el plan Anual

Primeros logros

Ya lo tienes funcionando. Pruébalo con esto:

Prompt para comparar

El mismo para los dos.

Prompt para tu IA

Escribe una explicación de 200 palabras sobre cómo funciona una hipoteca, para alguien de 18 años.

Elige motor

Con tus números.

Prompt para tu IA

He medido estos tokens por segundo con el mismo modelo en mi Mac: MLX [x], Ollama [y]. Uso la IA para [uso]. ¿Cuál me conviene usar a diario y por qué?

Siguiente nivel: cuantiza tu propio modelo

Entiende qué son esos «4 bits».

Siguiente misión

Cómo deshacerlo

Desinstala mlx-lm y borra los modelos de la caché de Hugging Face.

Quitar mlx-lmmacOS
$brew uninstall mlx-lm
Borrar los modelos descargadosmacOS
$rm -r ~/.cache/huggingface/hub/models--mlx-community--Llama-3.2-3B-Instruct-4bit

Haciendo esta misión juntos

Sé de los primeros en terminarla. Si te atascas, pregunta: quien ya la hizo te puede ayudar.

Logros recientes

Preguntas

Siguiente misión · Tu IA en casa · 30 de 49Haz que un modelo ocupe 3 veces menos: cuantiza tu propio GGUF con llama.cpp
Tu progreso 0/5Paso 1 →