GPT-4o보다 높은 성능, 기업용 추론형 모델도 곧 출시 예정
요즘 ChatGPT, Claude, Gemini 같은 외국산 AI 모델은 익숙하지만, 한국어에 최적화된 AI 모델은 드물었습니다. 이런 상황에서 SK텔레콤이 국내 환경에 최적화된 대형언어모델(LLM) ‘A.X(에이닷 엑스) 4.0’을 오픈소스로 공개해 주목받고 있습니다.
누구나 사용할 수 있는 한국어 특화 AI 모델
SK텔레콤은 7월 3일, 글로벌 오픈소스 플랫폼인 허깅페이스(Hugging Face)를 통해 A.X 4.0 모델 2종을 공개했습니다.
표준 모델 (72억 파라미터)
경량 모델 (7억 파라미터)
개발자와 기업, 연구기관 누구나 자유롭게 사용할 수 있도록 공개된 것이 특징입니다. 한국어에 최적화된 LLM을 국산 오픈모델로 무료 제공하는 사례는 드뭅니다.
한국어 처리 효율이 뛰어난 이유
A.X 4.0의 핵심은 SK텔레콤이 자체 설계한 토크나이저(Tokenzier)에 있습니다. 이는 문장을 AI가 이해하기 쉬운 단위로 나누는 기술인데, 이 토크나이저 덕분에 A.X 4.0은 같은 문장을 처리할 때 GPT-4o보다 약 33% 높은 토큰 효율을 기록했습니다.
즉, 같은 자원으로 더 많은 정보를 효율적으로 처리할 수 있으며, 연산 비용도 절감할 수 있습니다.
벤치마크 성능도 GPT-4o 능가
A.X 4.0은 다양한 한국어 평가에서 우수한 성능을 입증했습니다.
KMMLU(한국어 언어이해 평가): A.X 4.0은 78.3점으로, GPT-4o(72.5점)보다 높았습니다.
CLIcK(한국어 및 한국 문화 이해 평가): A.X 4.0은 83.5점, GPT-4o는 80.2점으로, 이 역시 A.X 4.0이 우수했습니다.
이는 단순한 문장 이해 능력을 넘어, 한국의 맥락과 문화까지 고려한 모델이라는 점에서 의미가 큽니다.
기업도 안심하고 쓸 수 있는 온프레미스 제공
SK텔레콤은 A.X 4.0을 기업이 직접 서버에 설치해 운영할 수 있도록 온프레미스(On-Premise) 방식으로도 제공합니다. 외부 네트워크 연결 없이 자체 인프라에서 운용이 가능하므로, 데이터 보안이 중요한 기업 환경에 매우 적합합니다.
모델 학습 역시 외부 클라우드가 아닌, SKT가 자체 구축한 슈퍼컴퓨터 ‘타이탄’을 활용해 진행되었습니다. 데이터 주권과 보안성까지 고려한 국산 AI 모델이라는 점이 강조됩니다.
이달 중, 추론형 모델도 공개 예정
SK텔레콤은 A.X 4.0에 이어 수학 문제 해결, 코드 개발 등 추론 능력이 강화된 ‘추론형 LLM 모델’도 이달 중 공개할 예정입니다. 또한 향후에는 텍스트와 이미지를 동시에 이해하는 멀티모달(Multimodal) 모델로의 확장도 계획 중입니다.
한국어뿐 아니라 복잡한 문제 해결 능력까지 겸비한 실용형 AI 모델로 진화하고 있다는 점에서 기대를 모으고 있습니다.
실제 서비스 적용도 시작
현재 A.X 4.0은 SK텔레콤의 통화 요약 서비스 ‘에이닷’에 적용돼 운영 중이며, SK그룹 내 다양한 서비스로 확대 적용될 예정입니다.
김지원 SK텔레콤 AI 모델 랩장은 “A.X 4.0은 한국어 특화 LLM으로서 국내 기업 서비스에 최적화된 모델로 자리잡을 수 있도록 기술 고도화를 지속할 것”이라고 밝혔습니다.
과연 sk는 ai시장에서 자리를 잡을수 있을까요!?
GPT-4o보다 높은 성능, 기업용 추론형 모델도 곧 출시 예정
요즘 ChatGPT, Claude, Gemini 같은 외국산 AI 모델은 익숙하지만, 한국어에 최적화된 AI 모델은 드물었습니다. 이런 상황에서 SK텔레콤이 국내 환경에 최적화된 대형언어모델(LLM) ‘A.X(에이닷 엑스) 4.0’을 오픈소스로 공개해 주목받고 있습니다.
누구나 사용할 수 있는 한국어 특화 AI 모델
SK텔레콤은 7월 3일, 글로벌 오픈소스 플랫폼인 허깅페이스(Hugging Face)를 통해 A.X 4.0 모델 2종을 공개했습니다.
표준 모델 (72억 파라미터)
경량 모델 (7억 파라미터)
개발자와 기업, 연구기관 누구나 자유롭게 사용할 수 있도록 공개된 것이 특징입니다. 한국어에 최적화된 LLM을 국산 오픈모델로 무료 제공하는 사례는 드뭅니다.
한국어 처리 효율이 뛰어난 이유
A.X 4.0의 핵심은 SK텔레콤이 자체 설계한 토크나이저(Tokenzier)에 있습니다. 이는 문장을 AI가 이해하기 쉬운 단위로 나누는 기술인데, 이 토크나이저 덕분에 A.X 4.0은 같은 문장을 처리할 때 GPT-4o보다 약 33% 높은 토큰 효율을 기록했습니다.
즉, 같은 자원으로 더 많은 정보를 효율적으로 처리할 수 있으며, 연산 비용도 절감할 수 있습니다.
벤치마크 성능도 GPT-4o 능가
A.X 4.0은 다양한 한국어 평가에서 우수한 성능을 입증했습니다.
KMMLU(한국어 언어이해 평가): A.X 4.0은 78.3점으로, GPT-4o(72.5점)보다 높았습니다.
CLIcK(한국어 및 한국 문화 이해 평가): A.X 4.0은 83.5점, GPT-4o는 80.2점으로, 이 역시 A.X 4.0이 우수했습니다.
이는 단순한 문장 이해 능력을 넘어, 한국의 맥락과 문화까지 고려한 모델이라는 점에서 의미가 큽니다.
기업도 안심하고 쓸 수 있는 온프레미스 제공
SK텔레콤은 A.X 4.0을 기업이 직접 서버에 설치해 운영할 수 있도록 온프레미스(On-Premise) 방식으로도 제공합니다. 외부 네트워크 연결 없이 자체 인프라에서 운용이 가능하므로, 데이터 보안이 중요한 기업 환경에 매우 적합합니다.
모델 학습 역시 외부 클라우드가 아닌, SKT가 자체 구축한 슈퍼컴퓨터 ‘타이탄’을 활용해 진행되었습니다. 데이터 주권과 보안성까지 고려한 국산 AI 모델이라는 점이 강조됩니다.
이달 중, 추론형 모델도 공개 예정
SK텔레콤은 A.X 4.0에 이어 수학 문제 해결, 코드 개발 등 추론 능력이 강화된 ‘추론형 LLM 모델’도 이달 중 공개할 예정입니다. 또한 향후에는 텍스트와 이미지를 동시에 이해하는 멀티모달(Multimodal) 모델로의 확장도 계획 중입니다.
한국어뿐 아니라 복잡한 문제 해결 능력까지 겸비한 실용형 AI 모델로 진화하고 있다는 점에서 기대를 모으고 있습니다.
실제 서비스 적용도 시작
현재 A.X 4.0은 SK텔레콤의 통화 요약 서비스 ‘에이닷’에 적용돼 운영 중이며, SK그룹 내 다양한 서비스로 확대 적용될 예정입니다.
김지원 SK텔레콤 AI 모델 랩장은 “A.X 4.0은 한국어 특화 LLM으로서 국내 기업 서비스에 최적화된 모델로 자리잡을 수 있도록 기술 고도화를 지속할 것”이라고 밝혔습니다.
과연 sk는 ai시장에서 자리를 잡을수 있을까요!?