[정보통신신문=차종환기자]

챗GPT발 인공지능(AI) 열풍이 지속되는 가운데 기기 자체에서 AI를 구현하는 ‘온디바이스(On-Device)AI’ 기술에 대한 관심이 증대되고 있다.

현재 널리 사용되고 있는 AI는 개별 스마트기기에서 수집한 정보를 중앙의 클라우드 서버로 전송해 딥러닝(Deep-Learning) 등의 분석을 거친 뒤 결과값을 다시 기기로 보내 기능을 구현하는 형태로 이뤄진다.

이러한 방식은 각 디바이스의 연산 성능이 뛰어나지 않아도 이를 클라우드가 커버하기 때문에 상대적으로 저렴한 비용으로 고성능 AI 서비스를 제공할 수 있다는 장점이 있다.

하지만 필연적으로 기기가 네트워크에 연결돼 있어야 한다는 전제가 필요하고, 단말에서 생성된 정보가 최소 한번 이상 외부로 전송돼야 한다는 점에서 보안 위협에 노출될 위험성이 제기돼 왔다.

온디바이스AI는 말그대로 멀리 떨어진 클라우드 서버를 거치지 않고 스마트기기 자체적으로 정보를 수집, 연산한다.

중앙 서버를 통하지 않는다는 말은 가장 취약했던 보안 문제가 해결된다는 의미다. 기기 내부에서 정보를 처리하기 때문에 네트워크 연결이 필요없이 빠른 서비스가 가능하다.

AI 서비스 구현에 있어 다수의 사용자로부터 얻어낸 데이터가 아닌 나의 데이터만 가지고 최적의 서비스를 도출하기 때문에 한층 개인화된 서비스를 실현할 수 있다.

삼성전자는 최근 온디바이스AI 서비스 중 하나인 실시간 통역 기능(AI Live Translate Call)을 차기 갤럭시폰 모델에 탑재하겠다고 밝혔다.

서로 다른 언어를 쓰는 사람과 통화할 때 스마트폰 자체적으로 나의 모국어로 상대방의 말을 통역해 들려준다. 일종의 개인 통역사 역할을 하는 셈이다.

별도의 외부 앱을 설치하지 않아도 ‘갤럭시AI’가 실시간으로 상대방의 언어를 통역해 전달해 준다. 통역된 대화는 오디오(음성)로 들을 수도 있고, 텍스트 형식으로 스마트폰에 표시돼 눈으로 확인할 수도 있다.

특히 ‘온디바이스’로 제공되는 ‘갤럭시AI’이기에 어떤 상황에서도 통화 내용이 휴대폰 밖으로 새어 나가지 않아 안심할 수 있다는 설명이다.

구글도 온디바이스AI 칩인 ‘텐서G3’를 장착한 스마트폰 ‘픽셀8’을 선보였다.

‘픽셀8’에는 AI 비서인 ‘구글 어시스턴트’와 생성형 AI ‘바드’를 결합한 ‘어시스턴트 위드 바드’가 적용됐다. 바드의 추론·생성 능력을 바탕으로 이메일 관리 등 각종 업무 처리가 한층 편리해질 것이라는 설명이다.

애플은 생성형 AI를 자체 운영체제(OS)인 ‘iOS’, 음성인식 비서인 ‘시리’에 접목할 것으로 보인다. 차세대 OS인 ‘iOS18’에 생성형 AI를 넣기 위해 자체 대규모언어모델(LLM)을 구축하고 있는 것으로 알려졌다.

한편, 온디바이스AI의 활성화는 침체돼 있던 PC 시장에도 새로운 활기를 불어넣을 전망이다. 이른바 ‘AI PC’의 등장이 초읽기에 들어갔다.

AI PC는 AI 전용 반도체를 탑재해 온디바이스AI 서비스를 제공하는 PC로, 주요 글로벌 PC 업계가 신제품 출시를 준비하고 있다.

인텔은 새로운 AI CPU인 ‘메테오레이크’의 출시를 예고하고 있다. 7나노 공정으로 처음 선보이는 CPU로, 전력 소비량은 적으면서 AI 데이터 처리 속도는 더 빠르다.

모바일에 주력하던 퀄컴도 지난달 PC용 CPU를 선보였다. ‘스냅드래곤X 엘리트’는 온디바이스AI에 적합한 기능을 갖췄다. 인텔의 12코어 프로세서보다 처리 속도가 2배 빠르고 전력 소비는 68% 절감했다는 설명이다.

시장조사업체인 카날리스에 따르면, 전체 PC 시장에서 AI 성능을 강화한 PC 점유율은 내년 19%에서 2027년 60%로 증가할 전망이다.

차종환 기자 다른기사 보기