위험 요소 관리·규제 준수
[정보통신신문=박남수기자]
한국IBM은 IBM 왓슨x. 거버넌스 출시 기자간담회를 개최하고, 기업이 AI를 비즈니스에서 활용할 때 안전하고 투명하게 규정과 정책을 준수할 수 있도록 지원한다고 밝혔다.
IBM에 따르면 많은 기업들이 거대언어모델(LLM)을 넘어 다양한 생성형 AI와 파운데이션 모델을 비즈니스에 적용하는 것을 검토 중이다. 그러나 환각(hallucination), 편향성, 오류, 지적재산권 침해, 민감정보 유출 등 비즈니스에 엄청난 손실을 끼칠 수 있는 AI 위험 요소로 인해 AI의 비즈니스 활용이 여전히 쉽지 않은 것으로 나타났다.
이날 연사로 참여한 김현정 한국IBM 컨설팅 대표는 △자사 데이터 및 기밀 유출, 데이터 품질 문제 △AI 모델에 대한 신뢰, 편향성, 투명성, 환각 문제 △유럽 및 북미를 시작으로 한국 정부까지 확대되고 있는 AI의 안전성과 신뢰성에 대한 법제화 및 기업에 대한 징벌적 규정 구체화 등 세 가지를 AI를 도입하고 확장하는데 있어 대표적인 도전과제로 꼽았다. 그리고 이를 해결하기 위해서는 기업이 신뢰할 수 있는 AI를 구축해야 한다고 강조했다. ·
김현정 대표는 “생성형 AI 기술은 급속도로 발전하고 있으나, AI 위험 요소들도 점점 커지고 있다”며, “기업들이 이를 극복하고 성공적으로 AI를 비즈니스에서 활용하기 위해 AI를 위한 데이터, AI 모델 그리고, AI 도입 및 확장 과정에서 신뢰성을 확보하는 ‘AI 거버넌스’에 대한 고려가 AI 도입 검토 시 처음부터 고려되어야 한다”고 말했다.
이지은 한국IBM 최고기술책임자(CTO) 전무는 기업들이 AI 위험 요소를 줄이고, AI 거버넌스를 수립할 수 있도록 지원하는 IBM 왓슨x.거버넌스(watsonx.governance)와 관련 기술을 소개했다. IBM 왓슨x.거버넌스는 조직이 AI 위험 요소를 관리하고 AI 관련 규정을 준수하는 데 필요한 솔루션을 제공하는 툴킷으로 AI 및 데이터 플랫폼인 왓슨x 플랫폼의 요소 중 하나이다. 특히 왓슨x.거버넌스는 설명 가능성, 공정성, 견고성, 투명성, 개인정보 보호를 토대로 마련되어 기업이 AI를 도입할 때 가장 고민하는 부분인 보안과 신뢰성 등에 대한 해결책을 제공할 수 있다.
특히 이지은 전무는 IBM 왓슨x. 거버넌스는 △AI 생애주기 거버넌스·AI 위험 요소 관리 △규제 준수 등 세 가지 부문에 대한 기술을 제공하여 기업이 신뢰할 수 있는 AI를 운영할 수 있도록 지원한다고 밝혔다.
AI 생애주기 거버넌스는 IBM, 오픈 소스 커뮤니티 및 기타 모델 제공업체의 AI 모델을 관리, 모니터링 및 통제한다.
AI 위험 요소 관리는 공정성, 편향성, 오류 및 새로운 LLM 매트릭스를 모니터링해 위험을 사전에 감지하고 완화한다.
규제 준수는 AI를 관리해 내부 정책, 업계 표준을 준수하고 전 세계의 향후 규제 및 정책에 대비한다.
이지은 전무는 “왓슨x.거버넌스는 다양한 LLM과 머신러닝 모델을 배포하고 관리하는 데 어려움을 겪고 있는 기업을 위한 원스톱 솔루션으로, 기업이 여러가지 AI 모델에 대한 거버넌스 프로세스를 자동화하고 모니터링하며 시정 조치를 취하는 데 필요한 도구를 가시성과 함께 제공한다”고 밝혔다. 이어 “한국을 포함한 각국 정부에서 AI 거버넌스에 대한 규제가 증가하고 있는 상황에서 신뢰성과 투명성을 높일 수 있도록 돕는 왓슨x.거버넌스의 역량은 그 어느 때보다 기업에게 더욱 필수적인 요소로 자리잡게 될 것”이라고 강조했다.
현재 왓슨x.거버넌스는 한국을 포함한 전 세계에서 정식 버전(GA)을 사용할 수 있다.
왓슨x (watsonx) 플랫폼은 △왓슨x.ai (watsonx.ai) △왓슨x.데이터 (watsonx.data) △왓슨x.거버넌스 (watsonx.governance) 등 총 세가지 솔루션으로 구성된다. 차세대 기업용 AI 스튜디오인 '왓슨x.ai'는 AI 개발자들이 머신 러닝을 기반으로 AI를 구축, 실행, 배포할 수 있도록 지원하는 IBM 왓슨 스튜디오 기술 및 파운데이션 모델의 성능을 결합한 최신 생성형 AI 기술을 제공한다. ‘왓슨x.데이터’의 경우 데이터 웨어하우스의 고성능 처리 기술과 데이터 레이크의 유연성을 함께 지원하는 데이터 레이크하우스(데이터 저장소)이다. 데이터 저장소에 중앙집중식 거버넌스 및 보안, 자동화 기술을 탑재해 데이터를 안전하게 관리한다. 왓슨x.거버넌스는 정책 생성형, 의사 결정 권한 할당, 위험 및 투자 결정에 대한 조직의 책임 보장을 위한 자동화된 데이터 및 모델 수명 주기 솔루션으로 AI 도구 및 AI 사용에 필요한 지원장치를 구축할 수 있도록 한다.
