[발표 반박자료] 온디바이스 AI 민원 시스템의 경제성·필요성 근거 분석

[umyunsang]

1. 핵심 논제

"지자체 민원 처리에 GPT/Claude 같은 구독형 서비스 대신 온디바이스 OSS LLM이 필요한가?"

결론: 필요하다. 아래 3가지 축으로 객관적 근거를 제시한다.

1. 법적 제약 — 개인정보가 외부 서버로 전송 불가
2. 비용 효율 — 단순 민원에 120B급 LLM은 과잉, 7~8B로 충분
3. 경제성 — 온프레미스 배포가 3개월 내 손익분기점 도달

---

2. 법적·규정적 근거: 왜 GPT/Claude를 쓸 수 없는가

2.1 관련 규정

규정	핵심 내용
개인정보보호법 제17조	개인정보의 제3자 제공 시 정보주체 동의 필수
개인정보보호법 제28조의2	가명정보도 해외 이전 시 보호조치 의무
공공부문 초거대 AI 도입·활용 가이드라인 (행안부, 2024.4)	공공기관 AI 도입 시 개인정보·보안 영향평가 필수
생성형 AI 개인정보 처리 안내서 (개인정보보호위원회, 2025.8)	AI 학습·추론에 개인정보 사용 시 목적 제한·최소 수집 원칙
행정기관 클라우드 이용 기준 고시 (행안부, 2023)	공공기관 클라우드 이용 시 CSAP 보안인증 필수

2.2 민원 데이터의 특수성

민원에는 다음 개인정보가 필수적으로 포함된다:

• 주민등록번호, 전화번호, 주소 (민원인 식별)
• 가족관계, 재산정보, 건강정보 (복지·세금 민원)
• 사업자등록번호, 법인정보 (건축·영업 허가 민원)

이 데이터가 OpenAI(미국) 또는 Anthropic(미국) 서버로 전송되면 개인정보 해외 이전에 해당하며, 민원인 전원의 개별 동의가 필요하다.

결론: 현실적으로 구독형 외부 LLM 서비스에 민원 데이터를 보내는 것은 법적으로 불가능하다.

---

3. 기술적 근거: 민원 처리에 120B급 LLM이 필요 없는 이유

3.1 민원 업무의 특성 분석

특성	설명	필요한 LLM 능력
정형화된 질의	"주민등록증 재발급 절차는?" 같은 반복 패턴	패턴 매칭 (7B 충분)
법령·규정 기반 답변	관련 법률·조례를 참조하여 답변	RAG + 소형 모델로 해결
과거 민원 참조	유사 민원 처리 사례 기반 답변	벡터 검색 + 소형 모델
단순 안내	담당 부서, 전화번호, 처리 기한 안내	검색 기반 (LLM 불필요 수준)
카테고리 분류	8개 카테고리로 민원 분류	Fine-tuned 7B로 85%+ 달성 가능

3.2 모델 크기별 능력 비교

능력	7~8B (EXAONE-Deep 7.8B)	30~70B	120B+ (GPT-4o, Claude)
단순 Q&A	✅ 충분	✅	✅ (과잉)
법령 인용 (RAG 연동)	✅ RAG로 보완	✅	✅ (과잉)
복잡한 추론	⚠️ 제한적	✅	✅
창의적 글쓰기	❌ 불필요	✅	✅ (과잉)
다국어 번역	❌ 불필요	✅	✅ (과잉)
코드 생성	❌ 불필요	✅	✅ (과잉)

논문 근거: Fine-tuned 7B 모델이 80% 이상의 인간 평가 일치율을 달성하며, 특정 도메인에서는 GPT-4o에 준하는 성능을 보인다. (ACM TIST 2026, EMNLP 2025)

결론: 민원 처리는 정형화된 도메인 특화 태스크로, 7~8B 파인튜닝 모델 + RAG로 충분히 처리 가능하다.

---

4. 경제성 분석: 구독형 vs 온디바이스 비용 비교

4.1 클라우드 API 요금 (2026년 기준)

서비스	입력 ($/1M tokens)	출력 ($/1M tokens)	비고
GPT-4o	$2.50	$10.00	OpenAI
GPT-4o mini	$0.15	$0.60	OpenAI 경량
Claude Sonnet 4.6	$3.00	$15.00	Anthropic
Claude Haiku 4.5	$1.00	$5.00	Anthropic 경량
Gemini 2.5 Pro	$1.25	$10.00	Google

4.2 민원 처리 시나리오별 연간 API 비용

가정:

• 민원 1건당 평균 토큰: 입력 500 + 출력 1,000 = 1,500 토큰
• 서울시 2024년 민원: 약 264만 건 (시+자치구)
• 국민권익위원회 기준 전국 연간 민원: 약 2,000만 건

규모	연간 민원	GPT-4o 비용	Claude Sonnet 비용	GPT-4o mini 비용
소형 지자체	5만 건	$563 (78만원)	$825 (115만원)	$38 (5만원)
중형 지자체	50만 건	$5,625 (780만원)	$8,250 (1,150만원)	$375 (52만원)
서울시	264만 건	$29,700 (4,120만원)	$43,560 (6,050만원)	$1,980 (275만원)
전국 합계	2,000만 건	$225,000 (3.1억원)	$330,000 (4.6억원)	$15,000 (2,080만원)

4.3 온디바이스 배포 비용

항목	EXAONE 7.8B (RTX 4090)	EXAONE 7.8B (A100)
GPU 가격	$1,599 (약 220만원)	$15,000 (약 2,080만원)
서버 구성	$3,000 (약 420만원)	기존 인프라 활용 가능
초기 투자	약 640만원	약 2,080만원
연간 전기료	~$135 (19만원)	~$350 (49만원)
추론 속도 (AWQ)	580 tok/s	1,200+ tok/s
일일 처리 가능	~3,300만 토큰 (8h)	~6,900만 토큰 (8h)
연간 처리 가능	~85억 토큰	~177억 토큰
연간 처리 민원 수	~567만 건	~1,180만 건

4.4 손익분기점 분석

비교 대상	초기 투자	월간 유지비	손익분기점
vs GPT-4o (중형 지자체)	640만원	1.6만원	약 10개월
vs Claude Sonnet (중형 지자체)	640만원	1.6만원	약 7개월
vs GPT-4o (서울시)	640만원	1.6만원	약 2개월

논문 근거: arXiv 2509.18101에 따르면, EXAONE 32B급 소규모 모델은 Claude Opus 대비 **0.3개월(9일)**에 손익분기점 도달. 7.8B 모델은 더 빠름.

4.5 5년 TCO 비교 (중형 지자체 기준)

항목	GPT-4o API	Claude Sonnet API	온디바이스 (RTX 4090)
1년차	780만원	1,150만원	640만원 (초기투자+전기)
2년차	1,560만원	2,300만원	659만원
3년차	2,340만원	3,450만원	678만원
5년차	3,900만원	5,750만원	736만원 (GPU 교체 포함)
5년 총비용	3,900만원	5,750만원	~1,400만원
절감율	-	-	64~76% 절감

결론: 온디바이스 배포는 1년 이내 손익분기점 도달, 5년간 64~76% 비용 절감.

---

5. 추가 이점: 온디바이스 AI의 비용 외 가치

항목	구독형 (GPT/Claude)	온디바이스 (GovOn)
데이터 주권	미국 서버 전송	지자체 내부 보관
서비스 의존성	외부 기업 정책 변경 리스크	자체 운영
네트워크 장애	인터넷 장애 시 서비스 중단	내부망으로 독립 운영
커스터마이징	제한적 (프롬프트만 조정)	파인튜닝으로 완전 맞춤화
응답 속도	네트워크 지연 포함	로컬 추론 (p50 < 2s 목표)
API 가격 인상	통제 불가	하드웨어 감가상각만 발생
보안 등급	CSAP 인증 필요	폐쇄망 배포 가능

---

6. 반박 예상 Q&A

Q1: "GPT-4o mini는 충분히 싸지 않나? 연 52만원이면 괜찮은데"

A: GPT-4o mini($0.15/$0.60)는 가격이 저렴하지만:

1. 법적 문제는 가격과 무관 — 개인정보 해외 이전 자체가 위법
2. GPT-4o mini의 한국어 민원 도메인 성능은 검증되지 않음
3. API 가격은 언제든 인상될 수 있음 (GPT-4: 2023년 $60 → 2024년 $30 → 2026년 $10, 가격 정책 불안정)
4. 민원 데이터가 OpenAI의 모델 개선에 사용될 가능성

Q2: "7B 모델 성능이 GPT-4 수준이 될 수 있나?"

A: 범용 성능은 당연히 뒤지지만, 도메인 특화 태스크에서는 근접 가능:

• Fine-tuned 7B가 80%+ 인간 일치율 달성 (학술 논문 검증)
• GovOn v2: BERTScore 72.34 달성 (의미적 유사도 높음)
• RAG 파이프라인 연동 시 법령·판례 기반 정확한 답변 가능
• 민원은 "창의성"이 아닌 "정확성"이 중요한 태스크

Q3: "클라우드 GPU (AWS, GCP)를 쓰면 개인정보 문제 해결 아닌가?"

A: 부분적으로 가능하지만:

1. AWS/GCP 한국 리전도 CSAP 인증 필요 (공공기관 필수)
2. 클라우드 GPU 비용: AWS H100 $3.90/h = 월 $2,808 (8h/day) → 연 3,370만원
3. 온프레미스 대비 4.8배 비용 (연 736만원 vs 3,370만원)
4. 여전히 외부 기업 인프라에 의존하는 구조

Q4: "공무원이 직접 GPT를 쓰면 되지 않나?"

A: 실제로 일부 공무원이 개인적으로 ChatGPT를 사용하고 있으나:

1. 개인정보 입력 금지 — 민원인 정보를 ChatGPT에 입력하면 위법
2. 업무 연속성 없음 — 대화 내역이 업무 시스템과 연동 안 됨
3. 책임 소재 불명 — AI 답변의 오류에 대한 행정적 책임 문제
4. 감사 추적 불가 — 어떤 정보를 외부 AI에 보냈는지 로그 없음

---

7. 결론

기준	구독형 (GPT/Claude)	온디바이스 (GovOn)
법적 적합성	❌ 개인정보 해외이전 위법	✅ 내부망 처리
필요 모델 규모	120B+ (과잉)	7.8B (적정)
5년 비용 (중형 지자체)	3,900~5,750만원	~1,400만원
비용 절감율	-	64~76%
데이터 주권	❌ 외부 의존	✅ 완전 통제
커스터마이징	❌ 제한적	✅ 파인튜닝 가능

온디바이스 AI 민원 시스템은 "있으면 좋은 것"이 아니라, 법적·경제적으로 "있어야 하는 것"이다.

---

참고 자료

• OpenAI API Pricing
• Anthropic Claude Pricing
• On-Premise LLM Cost-Benefit Analysis (arXiv 2509.18101)
• LLM Inference Price Trends (Epoch AI)
• RTX 4090 vLLM Benchmark
• 공공부문 초거대 AI 도입·활용 가이드라인 (행안부, 2024.4)
• 생성형 AI 개인정보 처리 안내서 (개인정보보호위원회, 2025.8)
• Government Affairs LLM Evaluation (ACM TIST)
• Small Language Models Survey (ACM TIST)