최근 챗GPT를 비롯한 생성형 인공지능(AI) 서비스가 확산하면서 주요 정보기술(IT) 기업의 고민이 커지고 있다. 음성인식, 영상 진단, 자율주행 등 AI 기반 서비스를 고도화해 상용화하려면 데이터를 더 많이, 더 빠르게, 효율적으로 처리할 수 있는 AI 반도체가 필요하기 때문이다. 구글, 마이크로소프트 등 빅테크들은 현재 널리 활용되는 그래픽처리장치(GPU)보다 AI 서비스에 더 특화된 반도체를 개발하기 위해 팔을 걷어붙이고 있다.

구글도 테슬라도…AI 반도체 경쟁

12일 IT업계에 따르면 애플 마이크로소프트 등 세계 시가총액 상위 IT기업 10곳 모두 AI 반도체 사업에 열을 올리고 있다. 자체 개발한 AI 반도체를 사업에 적용하는 사례도 속속 등장하고 있다. 대표적인 곳이 아마존의 클라우드 자회사 아마존웹서비스(AWS)다. AWS는 추론형 AI 반도체 ‘인퍼런시아’의 두 번째 모델을 작년 말 공개했다. 2019년 첫 번째 모델을 내놓은 지 3년 만이다. AWS는 데이터센터와 AI 스피커 ‘알렉사’의 음성인식 서비스, 영상인식 서비스 등에 자사 인퍼런시아를 쓰고 있다.

애플, 마이크로소프트, 구글 등은 자체 개발한 AI 반도체를 활용하고 있고 메타(옛 페이스북)는 개발 중이다. 중국 텐센트(즈샤오), 바이두(쿤룬)도 자체 칩을 공개했다. 전기자동차기업 테슬라는 2019년부터 사내에 반도체팀을 운영하고 있다. 2021년엔 독자 설계한 AI 반도체 D1을 공개했다. 테슬라는 AI 반도체를 자율주행 보조기능(오토파일럿) 등에 적용한다.
그래픽=허라미 기자
그래픽=허라미 기자

맞춤형 반도체…속도 수배 빨라

주요 기업이 AI 반도체 개발에 공을 들이는 것은 △서비스 고도화 △비용 효율화 △전력 소모 절감 등에서 GPU보다 획기적으로 높은 성능이 필요하기 때문이다.

AWS가 대표적인 사례다. 자체 개발한 AI 반도체를 데이터센터에 적용해 컴퓨팅 서비스 비용을 GPU를 쓸 때보다 최대 70% 줄인 것으로 알려졌다. 같은 시간 기준 데이터 처리량은 최대 2.3배 늘렸다. 영상인식 서비스 속도는 8배까지 끌어올렸다.

기존 AI 서비스는 게임 그래픽용으로 개발된 GPU에 의존해왔다. GPU가 중앙처리장치(CPU)에 비해 비용이 상대적으로 저렴하고 대규모 데이터 처리에 적합했기 때문이다. 일반 컴퓨터의 두뇌 격인 CPU는 통상 데이터를 순서대로 하나씩 직렬 처리하기 때문에 대규모 데이터를 다루려면 시간이 오래 걸린다. 이에 비해 GPU는 여러 데이터를 동시에 처리하는 병렬 구조다.

GPU는 애초에 그래픽 처리 용도로 개발됐기 때문에 텍스트나 음성 데이터 등을 처리할 때 시간·비용·전력 효율성이 떨어진다는 평가가 나왔다. 이에 기업들은 개별 AI 알고리즘에 맞게 AI 반도체를 설계해 특정 데이터 처리에 집중하도록 하고 있다. 특정 AI 서비스를 위한 ‘맞춤형’ 두뇌를 만들어 데이터 연산 성능을 높일 수 있기 때문이다.

자율주행 등 상용화엔 ‘필수’

AI 반도체는 일부 차세대 AI 서비스에선 ‘없으면 안 되는’ 요소다. 자율주행이 대표적이다. 차량 전후좌우 방향 영상이나 레이저 반향 데이터를 비롯해 교통 신호, 노면 상황, 위치, 일대 교통량 등 각종 정보를 실시간 동시 처리해야 한다. 연산 속도가 안전과 직결되기 때문에 본격 상용화를 위해선 고성능 AI 반도체가 필수다.

글로벌 시장조사업체 가트너는 세계 AI 반도체 시장이 2020년 121억달러(약 15조3730억원)에서 내년 343억달러(약 43조5780억원)로 커질 것으로 전망했다. 2030년엔 글로벌 시스템 반도체 시장에서 AI 반도체가 차지하는 비중이 33%에 이를 것으로 내다봤다. 가트너는 “데이터센터와 에지컴퓨팅, 각종 단말기 등에서 AI 기술 적용이 늘어나면서 분야별로 최적화된 AI 반도체 수요가 증가할 것”이라고 설명했다.

선한결 기자 always@hankyung.com