모델 분석: EXAONE-Deep-7.8B¶

GovOn의 핵심 추론 엔진인 EXAONE-Deep-7.8B의 아키텍처, 선정 근거, 공공 AI 정책 맥락을 분석한다.

모델 개요¶

EXAONE-Deep-7.8B는 LG AI Research가 개발한 추론 강화형 언어모델이다. 수학, 코딩, 지식 추론 태스크에서 동급 오픈 웨이트 모델뿐 아니라 OpenAI o1-mini를 능가하는 성능을 보인다.

아키텍처 상세 분석¶

핵심 아키텍처 스펙¶

GQA (Grouped-Query Attention)¶

EXAONE Deep은 GQA를 채택하여 추론 효율성을 높였다.

graph LR
    subgraph "Query Heads (32개)"
        Q1[Q1-Q4] --> KV1[KV Head 1]
        Q2[Q5-Q8] --> KV2[KV Head 2]
        Q3[Q9-Q12] --> KV3[KV Head 3]
        Q4[Q13-Q16] --> KV4[KV Head 4]
        Q5[Q17-Q20] --> KV5[KV Head 5]
        Q6[Q21-Q24] --> KV6[KV Head 6]
        Q7[Q25-Q28] --> KV7[KV Head 7]
        Q8[Q29-Q32] --> KV8[KV Head 8]
    end

• 그룹화 비율: 4:1 (32 Q-heads / 8 KV-heads)
• 메모리 효율성: KV 캐시 크기 4배 감소 -- 긴 컨텍스트 처리에 유리
• 추론 속도: 메모리 대역폭 요구사항 감소
• 품질 유지: MQA 대비 더 나은 품질 유지

RoPE Scaling (위치 인코딩)¶

{
  "rope_type": "llama3",
  "rope_theta": 1000000.0,
  "factor": 8.0,
  "original_max_position_embeddings": 8192,
  "low_freq_factor": 1.0,
  "high_freq_factor": 4.0
}

32K 컨텍스트 지원으로 민원 원문뿐 아니라 관련 규정, 내부 지침, 유사 사례를 함께 입력해 처리할 수 있다.

EXAONE 채팅 템플릿¶

[|system|]
당신은 지자체 민원 담당 공무원을 돕는 AI 어시스턴트입니다.
[|endofturn|]
[|user|]
{민원 내용}
[|endofturn|]
[|assistant|]
<thought>
{추론 과정}
</thought>
{답변}
[|endofturn|]

모델 변형 및 양자화 버전¶

LG AI Research는 다양한 사이즈와 양자화 버전을 제공한다.

다른 양자화 방식과의 비교¶

GovOn 적용 이유¶

4대 적합 조건¶

graph TD
    A[GovOn 핵심 요구사항] --> B[한국어 행정 문서 처리]
    A --> C[민원 분류 + 답변 초안 생성]
    A --> D["폐쇄망 / 온프레미스 운영"]
    A --> E[경량화 + 배포 유연성]

    B --> F[EXAONE-Deep-7.8B]
    C --> F
    D --> F
    E --> F

    F --> G["32K 컨텍스트 (RAG 연계)"]
    F --> H["추론 강화 구조 (분류/판단)"]
    F --> I["AWQ 양자화 (4.94GB)"]
    F --> J["vLLM / llama.cpp 지원"]

1. 긴 문맥 처리: 32K 컨텍스트로 민원 원문 + 관련 규정 + 유사 사례를 함께 입력
2. 추론 성능: 분류 판단, 근거 연결, 단계적 추론에 최적화
3. 배포 유연성: vLLM, TensorRT-LLM, SGLang, llama.cpp, Ollama 등 다양한 프레임워크 지원
4. 파인튜닝 호환성: QLoRA + AWQ 파이프라인 검증 완료

라이선스 주의사항¶

공공 AI 정책 맥락¶

정부 AI 행동계획과의 연결¶

2026년 2월 확정된 대한민국 인공지능 행동계획(2026~2028)은 공공부문 AI 활용을 국가 전략으로 제시한다. GovOn과 직접 연결되는 정책축은 다음과 같다.

범정부 AI 공통기반¶

행정안전부와 과학기술정보통신부가 추진하는 범정부 AI 공통기반 서비스는 GovOn의 목적과 직접 연결된다.

• 중앙/지방정부가 AI 모델, 학습데이터, GPU를 공동 활용하는 기반
• 활용 데이터 예시: 법령 정보, 지침/안내서, 민원 상담내역, 종합계획/전략
• 기관별 특화 AI 서비스 도입 지원 (정부24+ 지능검색 등)

국민권익위원회 민원 AI 추진¶

권익위는 2026년 주요업무 추진계획에서 다음을 제시하였다.

• 연간 약 1,300만 건의 민원 데이터를 AI 자동 분석으로 전환
• 국민신문고에 AI 챗봇 기능 도입 (실시간 민원상담)
• 중복 민원 자동 병합, 긴급 민원 우선 배정

공공형 PMF (Product-Market Fit) 분석¶

GovOn은 일반적인 민간형 PMF가 아니라 공공형 PMF 관점에서 검토되어야 한다.

4대 Fit Framework¶

graph TB
    subgraph "공공형 PMF Framework"
        PO[Policy Fit] --> G[GovOn]
        PR[Product Fit] --> G
        PC[Process Fit] --> G
        PE[People Fit] --> G
    end

일반 PMF vs 공공형 PMF¶

K-EXAONE 참고¶

K-EXAONE은 GovOn이 직접 사용하는 모델은 아니지만, EXAONE 계열의 발전 방향을 보여주는 참고 사례다.

참고 자료¶

• EXAONE-Deep-7.8B (HuggingFace)
• EXAONE-Deep-7.8B-AWQ (HuggingFace)
• 대한민국 인공지능 행동계획 (2026~2028)
• 범정부 AI 공통기반 보도자료
• 국민권익위원회 2026년 주요업무 추진계획
• 독자 AI 파운데이션 모델 프로젝트 1차 평가 결과