방향
- ONNX 지원은 하지 않음. LLM 로컬 실행 생태계에서 ONNX Runtime 채택이 낮아 GGUF/MLX 대비 실사용자가 거의 없음. 카탈로그·설치·벤치마크 파이프라인을 새로 짜서 투입할 실익이 낮다고 판단.
- MLX는 장기적으로 가치 있음. Apple Silicon 통합메모리 활용 시 GGUF보다 빠른 케이스가 실제로 있고, Mac 사용자 비중이 상당함(
hardware.py에 unified_memory 필드가 이미 있음).
참고: Ollama의 MLX 지원과는 무관
Ollama 0.19(2026-03, preview)부터 Apple Silicon에서 MLX를 내부적으로 쓰지만(공식 발표), 이는 Ollama가 자체 관리하는 특정 모델(Qwen3.5-35B-A3B)에 한정되고 32GB+ 통합메모리 조건이 붙는다. 사용자가 받은 임의 MLX 모델을 Ollama에 링크해서 돌리는 구조가 아니므로, omm이 MLX를 지원하려는 목적(임의 MLX 모델 설치·실행)과는 별개 사안임.
왜 "GGUF 안정화 후"인가
omm 파이프라인(카탈로그, 하드웨어 적합도 계산, 벤치마크, 추천 엔진)이 GGUF/Ollama를 전제로 짜여 있어서, 런타임 어댑터 추상화 자체가 코드에 없음. MLX를 얹으려면 이 선행 리팩터링이 먼저 필요함. 구체적인 어려움은 #26 참고.
방향
hardware.py에unified_memory필드가 이미 있음).참고: Ollama의 MLX 지원과는 무관
Ollama 0.19(2026-03, preview)부터 Apple Silicon에서 MLX를 내부적으로 쓰지만(공식 발표), 이는 Ollama가 자체 관리하는 특정 모델(Qwen3.5-35B-A3B)에 한정되고 32GB+ 통합메모리 조건이 붙는다. 사용자가 받은 임의 MLX 모델을 Ollama에 링크해서 돌리는 구조가 아니므로, omm이 MLX를 지원하려는 목적(임의 MLX 모델 설치·실행)과는 별개 사안임.
왜 "GGUF 안정화 후"인가
omm 파이프라인(카탈로그, 하드웨어 적합도 계산, 벤치마크, 추천 엔진)이 GGUF/Ollama를 전제로 짜여 있어서, 런타임 어댑터 추상화 자체가 코드에 없음. MLX를 얹으려면 이 선행 리팩터링이 먼저 필요함. 구체적인 어려움은 #26 참고.