라마 등 sLLM도 ‘존재감’
할루시네이션 방지 ‘숙제’
“실적용사례 확보가 경쟁력”
[정보통신신문=차종환기자]
챗GPT가 촉발한 생성형AI 경쟁이 올해는 실제 산업분야에 활용되는 데 초점을 맞춘 ‘AI실용주의’로 귀결될 것이라는 전망이 나왔다.
대화형AI 전문기업 스켈터랩스는 최근 관련 자료를 통해, 지난해 AI업계의 주요 이슈로 △LLM 고도화 및 차별화 △sLLM 개발 △할루시네이션 현상 해결 등을 꼽았다.
우선, 다양한 거대언어모델(LLM)의 개발 및 출시는 LLM 기술의 고도화 및 차별화에 불을 지폈다는 분석이다.
오픈AI는 2020년 GPT-3을 대화형 인터페이스로 고도화하고 지시 이행성을 높인 3.5 및 챗혰를 출시하며 전세계에 충격을 준 이후 텍스트뿐만 아니라 이미지 정보를 이해하고 생성할 수 있는 멀티모달 모델인 GPT-4를 지난해 3월 공개했다.
이어, 멀티모달 성능을 강화한 GPT-4V(이미지분석), GPT-4 터보(처리량 증가)를 연달아 선보이며 기술 고도화에 박차를 가했다.
구글도 최신 LLM ‘제미나이(Gemini)’를 공개하면서 구글의 AI 챗봇인 바드에 탑재했다.
국내 기업도 외산 LLM에 대항해 한국어 데이터와 거대한 매개변수를 무기로 한 LLM을 내놓았다.
네이버는 지난 2021년 자체 개발한 국내 최초 초대규모 AI인 ‘하이퍼클로바’를 공개한 뒤 지난해에는 이를 더욱 고도화한 '하이퍼클로바X'를 출시했다.
아울러 KT의 초거대 AI ‘믿음(Mi:dm)’, LG ’엑사원(EXAONE)’ 등이 LLM을 선보이며 외산AI 대항에 나섰다.
‘sLLM(소형거대 언어모델)’의 등장도 눈길을 끌었다.
sLLM은 LLM에 비해 매개변수를 줄여 학습을 위한 비용 및 시간 절감이 가능하며, 보다 신속한 파인튜닝(미세조정)으로 정확도를 높이는 기술이다.
특정 분야 및 기업에서 기존에 보유한 데이터를 활용해 파인튜닝과 고품질 학습을 통한 할루시네이션(환각) 현상을 줄일 수 있다는 장점이 있다.
메타가 sLLM 개발의 선두주자로 나서며, 지난해 초 ‘라마(LLaMA)’를 공개했다.
이 모델은 GPT-3의 1750억개 파라미터와 비교해 상대적으로 적은 약 700억개 파라미터를 가지고 있지만, 적은 파라미터 수를 통해 더 유연한 파인튜닝이 가능하고 비용효율적인 점에서 주목을 받았다.
스탠포드대학은 메타의 라마를 기반으로 한 sLLM인 ‘알파카(Alpaca)’를 개발했다. 알파카는 라마의 기존 700억개 파라미터를 유지하면서, 추가적으로 5만2000여개의 파라미터를 더한 방식이다. 알파카의 개발 비용이 600달러에 불과하다는 점이 주목받았다.
마이크로소프트(MS)도 오픈AI의 LLM 의존력을 줄이고 경쟁력을 확보하기 위해 27억개 매개변수로 구성된 sLLM ‘파이2(Phi-2)’를 선보였다. 파이2는 경량화된 모델로 노트북이나 모바일기기에서도 구동이 가능하다.
한편, LLM과 sLLM은 모르는 부분까지 그럴싸하게 포장해 오답을 내놓는 ‘할루시네이션’ 현상이 대두됐다.
할루시네이션을 줄이기 위해 사용되는 기술은 크게 파인튜닝과 ‘RAG(검색증강생성)’이 있다.
파인튜닝은 최신성과 적합성을 제고할 수는 있으나, 데이터 용량 증가에 따른 높은 비용과 지속적인 업데이트의 어려움이 수반됐다.
반면, RAG는 답변 생성 시 자체 데이터를 활용해 답변이 적합한지 확인하고 사용자에게 보여주는 피드백 과정이 추가돼 할루시네이션 방지에 더욱 유리한 것으로 주목받았다.
스켈터랩스는 올해 ‘AI실용주의’가 핵심 키워드로 부상할 것이라는 전망을 내놓았다.
생성형AI 서비스가 산업 전반은 물론 실생활에서 본격적으로 널리 활용되는 시대가 열릴 것이라는 분석이다.
업체 측은 “할루시네이션을 줄이는 RAG, 사용자의 편리함을 더욱 끌어올리는 자율 AI 에이전트 기술을 LLM에 접합하는 것이 업계의 주요 과제가 될 것”이라며 “올해는 AI 실용주의에 입각해 다양한 도메인 접목과 활용이 더욱 활성화되고 이에 다양한 실증사례를 확보한 기업이 더욱 주목받게 될 것”이라고 전했다.
