Tunning do LM Studio para rodar melhor no Mac Mini M4

Tunning do LM Studio para rodar melhor no Mac Mini M4

Tunning do LM Studio para rodar melhor no Mac Mini M4
| | | | |

Um dos grandes problemas do Mac Mini para rodar LLMs locais é o armazenamento. O Mac Mini M4 baseline tem 256GB e isto impede que você tenha muitas LLMs rodando localmente.

Uma forma de resolver este problema é colocando um NVE externo, eu acabei comprando um case NVE que possui uma conexão via USB-C que possui uma boa performance para usar como disco externo.

Customizando o LM Studio

O LM Studio não possui uma interface 100% customizável na UI mas possui um arquivo settings.json que pode ser customizado muitas coisas. A localização do arquivo fica em:

/Users/jaccon/Library/Application Support/LM Studio/settings.json

Abra o arquivo com um editor de sua preferência, no meu caso estou usado o VIM.

Procure por downloadsFolder e altere para que fique da forma que estou colocando abaixo:

"downloadsFolder": "/Volumes/NVe480GB/AIModels/models"

Veja que /Volumes/NVe480GB/AIModels/models é o local onde estou armazenando o ponto de montagem do disco externo na pasta models.


Comandos disponíveis
Título 1 Título principal
Título 2 Subtítulo
Tabela Inserir uma tabela
Imagem Inserir uma imagem
Vídeo YouTube ou Vimeo
Bloco de Código Código fonte com destaque
Divisor Linha horizontal
A

Admin

Autor