About AI Tech Engine
우리는 광고 카피나 제조사 공칭 점수를 우리 결과처럼 옮기지 않습니다. 지금 책상 위에 있는 장비에서 확인한 내용만 리포트로 올립니다. 속도(tok/s)는 같은 프롬프트로 직접 재기 전에는 빈칸입니다.
1. 미디어 사명 및 가치 (Our Mission)
로컬 LLM 글에는 VRAM과 통합 메모리가 같은 숫자처럼 적혀 있는 경우가 많습니다. 실제 랩에서는 16GB CUDA와 64/96GB Apple UMA의 병목이 다릅니다. AI Tech Engine은 그 차이를 우리 장비 기준으로 적습니다.
프론티어 API 가격 비교나 클라우드 대여 안내는 공식 사이트 링크로만 다룹니다. 제휴 ID는 아직 없고, 가짜 ref는 넣지 않습니다.
2. 현재 랩 하드웨어 (2026년 8월 기준)
| 장비 | 메모리 | 역할 | 상태 |
|---|---|---|---|
| MacBook (M1 Max) | 64GB 통합 메모리 | 이동, 장문맥 초벌, MLX / llama.cpp | 보유 |
| Mac Studio (M2 Max) | 96GB 통합 메모리 | 상시 로컬 서버, 27–32B Q4, (조건부) 70B Q4 | 보유 |
| CUDA 워크스테이션 (RTX 4080) | 16GB GDDR6X | 7–8B·14B 일상, 27B Q4는 타이트 | 보유 |
| AMD Ryzen AI Max+ 395 (Strix Halo) | 128GB LPDDR5x | 70B급 Q4, 로컬 에이전트, ROCm 대조군 | 예정 (미입고) |
| Gigabyte DGX Spark | 128GB 통합 LPDDR5x | 70B급, CUDA 에이전트 스택 | 예정 (미입고) |
RTX 4090 24GB, M3 Max 128GB, H100 클러스터는 이 랩에 없습니다. 예전 소개문에 있던 그 스펙은 삭제했습니다.
3. 측정 방법론 (아직 속도표 없음)
- 지금 공개하는 것: 가중치가 메모리에 들어가는지, 라이선스, 양자화 파일 크기, 비전/장문맥을 열면 어디가 먼저 막히는지
- 다음에 잴 것: 같은 GGUF/MLX를 세 대(나중엔 다섯 대)에 올리고 로드 성공/OOM, 열린 컨텍스트, 툴 루프 벽시계
- 아직 안 하는 것: 제조사 tok/s를 우리 숫자로 인용, 입고 전 128GB의 공칭 200B를 랩 능력으로 쓰기
4. 투명성 및 제휴 정책 (Affiliate Transparency)
현재 추천 카드는 RunPod, Vast.ai, Cursor의 공식 사이트 URL만 사용합니다. 제휴 추적 ID는 발급되지 않았으며 가짜 ref 코드는 넣지 않습니다. 실제 제휴 URL이 발급되면 PUBLIC_AFFILIATE_RUNPOD_URL, PUBLIC_AFFILIATE_VAST_URL, PUBLIC_AFFILIATE_CURSOR_URL로만 교체합니다.
추천 클라우드 GPU & 엔지니어링 툴
공식 사이트 (제휴 ID 대기)제휴(Affiliate) 추적 ID는 아직 발급되지 않았습니다. 아래는 각 제품의 공식 사이트이며, 가짜 ref/click ID는 넣지 않습니다.