metal

pyenv로 Mac M1 Python 개발환경 세팅하기 — AI 프로젝트 6단계 실전 구성

작성자:
pyenv — 설정 및 실행 결과 화면

MacBook M1을 사서 AI 프로젝트를 시작하려고 했는데, Python 설치부터 막혔다. 시스템 Python은 건드리면 안 된다고 하고, Homebrew로 설치한 Python은 버전 관리가 안 되고, conda는 왜 그렇게 느린지 모르겠고. PyTorch를 설치했더니 CPU 모드로만 돌아가서 M1 칩을 산 의미가 없어지고. 결국 한 주 정도 삽질한 끝에 pyenv + venv + Metal 가속이라는 조합에 정착했다. M1 32GB RAM … 더 읽기

Ollama로 Mac M1에서 로컬 LLM 돌리기 — 32GB 최적 모델 5가지 비교

작성자:
Ollama — 설정 및 실행 결과 화면

클라우드 API 비용이 부담스러운 건 나만의 문제가 아닐 거다. GPT-4o 한 달 쓰면 $20은 기본이고, Claude API로 자동화 파이프라인 돌리면 토큰 비용이 눈에 보이게 쌓인다. 그래서 로컬 LLM을 세팅하기로 했다. 내 메인 장비는 MacBook Pro M1 32GB인데, 결론부터 말하면 — 13B 모델까지는 쾌적하게, 30B급도 느리지만 돌아간다. Ollama 덕분에 세팅도 5분이면 끝난다. 이 글은 M1 32GB … 더 읽기