[정보통신신문=박남수기자]
SK C&C는 멀티 거대언어모델(LLM)과 연계해 기업에서 즉시 사용 가능한 맞춤형 생성형 인공지능(AI) 서비스 13종을 내놨다고 밝혔다.
생성형 AI 서비스 13종은 AI 챗팅∙코딩∙보고서 제작 등 일반 범용 AI 서비스 3종을 비롯해, 인사∙재무/회계∙법무∙규제준수(Compliance)∙구매/물류∙생산관리∙연구개발(R&D)∙IT개발∙마케팅∙고객관리 등 직무 영역별 전문 AI 서비스로 구성됐다.
이들 서비스는 SK C&C가 AI 프롬프트, 사내 데이터 저장소, AI 오케스트레이터(Orchestrator)로 구성된 AI 오케스트레이션(Orchestration) 플랫폼과 국내외 LLM, 그리고 금융∙제조 분야에서 수요가 많은 경량화 거대언어모델(sLLM)을 연계해 개발됐다.
특히 SK C&C는 생성형 AI 오케스트레이션 플랫폼에 AI 채팅 서비스인 ‘마이챗(MY CHAT)’을 기본 서비스로 탑재해 일반 사무 활용도를 높였다.
마이챗을 설치하면 사내 데스크톱 가상화(VDI) 업무 환경에서도 완벽한 보안 상태를 유지하며 국내외 LLM을 사용할 수 있다.
마이챗을 활용해 기업 재무 정보, 시장 동향 등을 물어보거나 보고서 작성, 문서 요약, 외국어 번역 등의 업무를 맡길 수도 있고, 각종 업무 시스템 연계해 사내 지식 검색∙상담 창구로도 역할 확대가 가능하다.
실제 마이챗의 핵심인 오케스트레이션 기술은 작년에 구축 완료한 ‘우리은행 AI 지식상담 서비스’에 적용됐다.
이외에도 SK주식회사, SK네트웍스, SKC, SK쉴더스 등 관계사에서 사용 중이며, 사내 헬프 데스크로 활용 범위를 확대할 예정이다.
직무별 전문 AI 서비스는 실제 산업 적용 사례를 기본 모델로 개발했다.
SK C&C는 제조 장비∙설비 이상 징후를 탐지하고 장애 대응한 사례 외에도, 대내외 데이터를 활용한 고객 상담 자주 묻는 질문FAQ() 및 영업 상담 스크립트 추천, AI 기반 언더라이팅(보험 계약 심사) 등 실제 생성형 AI 서비스 적용 사례를 반영했다
직무별 전문 AI 서비스는 채용 프로세스 자동화, 개인 맞춤형 인사 평가 및 육성, HR시스템 자동화 등 인사 업무를 비롯해, 재무/회계(IR 정보 지원), 법무(법률 검토 효율화), 규제 준수(규제 분석 및 검토 효율화), 구매/물류(공급망 관리 효율화), 생산관리(공정 최적화), 연구개발(데이터 검색 및 분석), IT개발(개발∙품질관리 자동화), 마케팅(캠페인 자동화), 고객관리(상담 내용 요약 및 후처리) 등 여러 산업 고객들에게 적용한 우수 사례를 종합 적용했다.
SK C&C는 생성형 AI 도입으로 인한 비용 증가, 정보오류∙환각(Hallucination), 내부 데이터 유출과 같은 우려도 없앴다.
생성형 AI 오케스트레이션 플랫폼에서 △파인 튜닝(Fine-Tuning, 미세 조정) △프롬프트 엔지니어링 △데이터 보안 및 권한 관리 등을 거치며 최적화된 LLM 및 sLLM 적용과 함께 보안 안정성도 확보할 수 있다.
특히 외부 LLM과 기업 내부 정보 검색 시스템을 실시간으로 결합하는 검색증강생성(RAG) 기반 스마트 에이전트 방식을 적용해 결과값에 대한 정확도도 높인다.
