로컬 LLM용 Mac, 메모리부터 어떻게 고를까?

원격 AI 서비스를 이용하는 작업과 모델 파일을 Mac에 내려받아 실행하는 작업은 구매 기준이 다릅니다. 클라우드 AI가 주용도라면 코딩·문서·편집처럼 Mac에서 실제로 하는 일을 기준으로 고르세요.

가끔 작은 모델을 체험하려는 정도인지, 인터넷 연결 없이 매일 작업하려는지도 구분해 보세요. 아직 모델을 정하지 않았다면 큰 메모리부터 사기보다, 지금 가진 기기에서 가능한 작은 모델로 필요한 기능을 확인하는 것이 출발점이 될 수 있습니다.

Apple의 MLX 안내는 CPU와 GPU가 같은 메모리를 활용하며, 양자화로 모델의 메모리 부담을 줄일 수 있다고 설명합니다. 대화에 쓰이는 KV 캐시도 별도로 다룹니다. 모델 가중치 외에 실행 도구와 대화 처리 공간이 필요하므로, 모델 파일 용량을 Mac의 전체 메모리와 같게 잡지 마세요. Apple Developer · MLX와 대규모 언어 모델

7B, 14B, 32B 같은 숫자는 출발점입니다. 같은 파라미터 규모라도 모델 구조와 설정에 따라 필요한 메모리가 달라집니다. 제작자가 공개한 요구사항과 실제 사용할 설정의 측정을 함께 확인하세요.

• 모델 이름과 버전

  비슷한 이름의 모델도 구조와 요구조건이 다를 수 있습니다.

• 양자화와 실행 도구

  사용할 형식이 도구에서 지원되는지, 원하는 품질을 얻는지 확인하세요.

• 문서 길이와 동시 실행

  한 번에 넣을 문서, 동시에 쓸 모델과 앱을 함께 적어 보세요.

SSD에는 내려받은 모델과 프로젝트를 보관하고, 메모리에는 실행 중인 작업이 올라갑니다. 모델 파일을 많이 보관하는 문제와 한 모델을 실행할 공간이 모자라는 문제를 구분하세요.

외장 저장장치를 활용할 수 있다면 내장 SSD를 줄이고 메모리를 유지하는 쪽도 비교해 볼 수 있습니다. 다만 이동 중 연결, 실행 도구의 저장 위치, 모델을 읽어들이는 시간은 확인해야 합니다.

휴대용과 데스크톱에서 선택 가능한 메모리는 칩 구성에 따라 달라집니다. 같은 제품 이름이라도 원하는 메모리와 SSD를 실제로 함께 선택할 수 있는지 공식 사양과 최종 구성 가격을 확인하세요. Apple Korea · MacBook Pro 제품 사양 Apple Korea · Mac Studio 제품 사양

작은 모델, 다른 양자화, 짧은 입력, 클라우드 병행이 허용되면 후보를 다시 좁힐 수 있습니다. 어떤 작업을 줄일 수 있는지 먼저 정한 뒤 구성을 조정하세요.

원하는 모델과 대화 길이가 고정돼 있다면 부족한 메모리 구성을 억지로 고르기보다 예산을 늘리거나 구매를 미루는 편이 낫습니다. 추천에서 낮춘 구성과 원래 작업 조건이 어떻게 달라지는지 확인하세요.