함기호대표“AWS AI칩, GPU최적화·비용절감동시가능”
AWS서밋서울 2024
한국투자10년…도입기업급증SKT·KT등1000개파트너와협업
아마존웹서비스(AWS)가 한국 시장에서 소프트웨어는 물론 인공지능(AI)칩을 비롯한 하드웨어사업에서도 성과를내고 있다.기업들의생성 AI 활용장벽을낮추기위한노력덕분이다.
함기호AWS코리아대표는16일 서울강남구 코엑스에서열린 ‘AWS 서밋 서울 2024’에서 “10여년간 AWS는 한국에계속투자해왔다”며“현재고객사수만곳이 AWS 클라우드를 활용하며, 1000개이상 파트너와 협력 중”이라고 밝혔다. 이어 “특히 최근 생성 AI 분야에서AWS 자체 제작 칩인 트레이니엄(학습용)과 인퍼런시아(추론용)를 도입하거나 도입을 검토 중인 고객사가 빠르게증가하고있다”며소프트웨어뿐아니라하드웨어분야에서도 AWS 입지가커지고있다고강조했다.
AWS는 지난 2017년부터 자체 AI 칩을 개발해 왔다. 이후 머신러닝에 특화된 트레이니엄 칩과 AI 추론 등에 특화된 인퍼런시아 칩을 선보였다. 2023
년초 출시한 인퍼런시아2는 기존 모델보다 추론 비용을 40% 줄여기업의비용절감에힘을 보태고 있다. 함 대표는“AWS 칩은 그래픽처리장치(GPU) 최적화와 비용 절감이 동시에 가능하다”며“지속 가능하고 비용 효율적인 클라우드 환경을 제공하기 위해 노력할 것”이라고말했다.
베드록과 세이지메이커 점프스타트등 AWS의 AI 솔루션을활용하는고객사 사례도 소개했다. 이들은 기업이 다양한종류의생성 AI 모델을 쉽게활용할 수 있도록 지원하는 솔루션이다. 베드록은 아마존 자체모델과 클로드·라
마·스테이블디퓨전 등 파트너십을 맺은 업체들의언어모델을 완전관리형으로 지원한다. 세이지메이커는더다양한업체의언어모델을기업이써볼수있게하는플랫폼이다.
국내에선 SK텔레콤·KT·엔씨소프트·업스테이지 등이 AWS와 AI 분야에서협업 중이다. SKT는 통신 특화 초거대언어모델(LLM) ‘텔코 LLM’ 구축에아마존베드록을 활용한다. KT는 교권보호서비스애플리케이션‘랑톡’에서제공하는 ‘AI 통화리포트’에 베드록을 접목했다.엔씨는지난해자체LLM ‘바르코’를 세이지메이커에올려글로벌 출시했다. LG AI연구원과 업스테이지도 각각자체 LLM인 ‘엑사원 2.0’과 ‘솔라 미니’를세이지메이커를통해선보였다.
SKT는 자사가개발한인텔리전스플랫폼 확장에도 AWS를 활용할 계획이다. 인텔리전스 플랫폼은 기업 최적화AI 솔루션을 단일 인터페이스로 통합제공해 기업이 다양한 AI 모델과 관련도구를 쓸 수 있게 지원하는 솔루션이다. 정석근 SKT 글로벌AI테크사업부장(부사장)은 이날기조연설에서“AWS 고객들을 통해 우리의 플랫폼을 확장하는것도기대하고있다”며“자체LLM인‘에이닷엑스’를 베드록위에선보이는방안도검토중”이라고 말했다.
AWS는 자사 솔루션에선 다양한LLM을 써볼수있어기업의빠른 AI 전환을 돕는다고 전했다. 프란체스카 바스케스 AWS부사장은“단 하나의모델이모든 것을 지배할 수는 없다”며 “다양한 모델을 다양한 방식으로 활용해야한다”고 강조했다.
AWS 서밋 서울은 올해로 10주년을맞았다. 올해는 70곳이 넘는 AWS 고객사가참석해부스를 차리고, 100개이상의강연을연다. 17일까지이틀간열리는이번행사의사전등록자수는 2만9000명에달한다.