카카오브레인, 한국어 초거대 AI 언어모델 ‘KoGPT’ 공개

카카오브레인이 'GPT-3' 모델의 한국어 특화 AI 언어모델 'KoGPT'를 오픈소스 커뮤니티 깃허브(github)에 공개했다고 16일 밝혔다.

OpenAI의 언어 모델 GPT-3는 인간과 AI가 자연어 기반으로 소통할 수 있는 AI 모델 기술이다.

GPT 모델을 적용하면 추가 학습 없이 모델이 스스로 판단과 감정 분석을 할 수 있다. 예를 들어 영화 리뷰 댓글을 보고 댓글이 영화에 대한 긍정적인지 부정적인지 판별할 수 있고, 글의 내용을 짧게 요약 가능하다. '3주 동안 식물에게 물을 주었다' 라는 글을 입력하면 '식물이 꽃을 피웠다' 처럼 인과 관계를 예측해 보여주고 다음 이야기도 스스로 적을 수 있다.

카카오브레인의 'KoGPT'는 이같은 'GPT-3' 모델의 한국어 특화 버전이다. 60억개의 매개변수와 2000억개 토큰(token)의 한국어 데이터를 바탕으로 구축했다.

카카오브레인은 추후 한국어 뿐만 아니라 영어, 일본어 모델도 준비해 오픈소스화한다. 베트남어, 말레이시아어 등 동남아시아 언어도 준비해 더 많은 곳에서AI 기술의 혜택을 누릴 수 있도록 할 예정이다.