삼성전자, 전 세계 20여 개 R&D센터에서 ‘갤럭시 AI’ 언어 모델 고도화
- (서울=디지털연합뉴스)
- 2024-06-25 11:51:36
- 83
삼성전자는 언어 장벽 없이 자유로운 소통이 가능하도록 돕는 ‘갤럭시 AI’의 언어 모델 개발 과정을 25일 공개했다.
삼성전자는 언어를 넘어 문화를 이해하고 지식을 갖춘 고도화된 ‘갤럭시 AI’를 위해 전 세계 총 20여개의 R&D 센터에서 언어 모델 연구·개발에 매진하고 있다.
‘갤럭시 AI’의 온디바이스 실시간 통·번역 기능은 현재 16개 언어를 지원 중이며, 연내 스웨덴어, 네덜란드어, 루마니아어, 튀르키예어의 4개 언어를 더 추가해 총 20개 언어를 지원할 계획이다.
현재 지원 언어는 한국어를 비롯해 중국어(간체), 영어, 프랑스어, 독일어, 힌디어, 이탈리아어, 일본어, 폴란드어, 포르투갈어, 스페인어, 태국어, 베트남어, 아랍어, 인도네시아어, 러시아어다.
삼성전자의 ‘갤럭시 AI’ 언어 모델은 ▶언어의 특성과 문법에 대한 정량 평가 ▶ 문화에 대한 지식과 이해를 검증하는 정성 평가 등을 거쳐 공개된다.
아랍어는 20여개국 4억명 이상이 사용하는 세계에서 6번째로 많이 사용되는 언어다. 아랍어를 통번역에 활용하기 위해서는 현대 표준 아랍어인 풋스하(Fusha)와 일상생활에서 사용하는 방언인 암미야(Ammiyya)를 모두 학습해야 한다. 특히 아랍어 방언은 총 30여 종에 달한다.
삼성리서치 요르단 연구소(SRJO)는 아랍어 방언을 이해하면서, 답변은 표준 아랍어로 할 수 있는 언어 모델을 개발했다. 이를 위해 각기 다른 방언의 음성 녹음 데이터를 수집하고, 이를 직접 텍스트로 변환하는 과정을 거쳤다.
데이터베이스 구축을 맡은 요르단 연구소의 아야 하산(Ayah Hasan)은 "여러 방언의 미묘한 차이와 변형을 정확히 이해할 수 있는 원어민들로 갤럭시 AI 팀을 구성하고, 음성 데이터를 일일이 글과 문장으로 바꾸는 수작업을 진행했다"고 설명했다.
삼성전자는 아랍어의 복잡성에 대한 깊은 이해와 신중한 데이터 선별을 진행하고, 고급 모델링 기술을 적용해 아랍어를 갤럭시 AI에 추가할 수 있었다.
베트남어는 전세계 약 1억명이 사용하는 언어로 중국어, 태국어 등 인근 지역 언어와 비슷한 성조 체계를 지니고 있다. 특히 베트남어는 여섯 가지의 성조를 가진다. 예를 들어 베트남어 단어 ‘마(Ma)’는 성조에 따라 엄마(Ma), 무덤(M?), 귀신(Ma) 등 전혀 다른 의미를 지녔다.
삼성리서치 베트남 연구소(SRV)는 성조의 미세한 차이를 인식할 수 있도록, 음성 데이터를 매우 정교하게 다듬고 정제하는 과정을 거쳤다. 무엇보다 성조를 정확히 구분해 내기 위해 한 단어를 0.02초 전후의 짧은 프레임으로 잘라내고 이를 데이터베이스화 했다.
중남미 22개국의 공식 언어는 스페인어다. 하지만 같은 스페인어라도 동일한 대상을 지칭하는 단어는 국가와 지역에 따라 천차만별이다.
예를 들어 멕시코에서는 수영장을 ‘알베르카(alberca)’라고 한다. 하지만 아르헨티나, 파라과이, 우루과이에서는 ‘필레타(pileta)’라고 부른다. 콜롬비아, 볼리비아, 베네수엘라에서는 ‘피시나(piscina)’라고 표현한다.
중남미 지역의 언어 모델 개발을 담당한 삼성리서치 브라질 연구소(SRBR)는 ‘갤럭시 AI’가 중남미 국가의 스페인어 차이를 이해할 수 있도록, 각 국가의 오디오와 텍스트 등 방대한 양의 데이터를 수집해 관리하고 지속적으로 개선했다.
2억 8천만명, 인구 4위의 인도네시아는 2억 8천만 인구가 인도네시아어를 사용하고 있다. 인도네시아어는 관사, 복수형, 동사의 시제 변화가 없어서 상대적으로 배우기 쉬운 언어로 평가받는다. 하지만 반대로 문장의 맥락을 충분히 파악하지 못하면 내용을 이해할 수 없어 통·번역이 쉬지 않은 언어이다.
이러한 언어적 특성을 반영해 삼성리서치 인도네시아 연구소(SRIN)는 인간의 뇌가 학습하는 과정과 유사한 ‘인공신경망번역(Neural Machine Translation, NMT)’ 방식을 적용했다. 단어가 아닌 ‘문장 단위’로 언어를 학습시켜, 갤럭시 AI가 의사소통의 맥락과 규칙을 이해할 수 있도록 했다.
