실리콘 벨리의 인공지능 AI 르네상스
Artificial Intelligence Is Driving A Silicon Renaissance
반도체 기술은 디지털 시대의 기본 토대라고 할수 있습니다. 실리콘 벨리는 이 반도체를 기반으로 하는 산업의 주요 핵심중 한 곳입니다. 지금 우리는 지난 반세기 동안 모든 측명을 변화시킨 4차 산업혁명의 핵심에 자리 잡고 있습니다.
인텔의 1971년 세계 최초의 마이크로 프로세서를 도입한 이후 컴퓨터의 발전 속도는 아주 놀라우며 끊임없이 이루어 졌습니다. 무어의 법칙에 따라 오늘날 컴퓨터 칩은 50년 전보다 수백만배 더 강력합니다.
그러나 처리능력이나 응용능력은 수십년 동안 급격히 증가하였지만, 컴퓨터 칩의 아키텍처는 최근까지 거의 정적으로 유지되었습니다. 대부분의 경우 실리콘의 혁신은 트랜지스터를 회로에 더 많이 압착하기 위해 트랜지스터를 더욱 소형화하는 것을 수반했습니다. 인텔 및 AMD와 같은 회사는 Clayton Chirstensen이 “지속적인 혁신”으로 식별하는 프로세스에서 CPU기능을 안정적으로 개선함으로써 수십년 동안 번성했습니다.
오늘날 이것은 극적인 방식으로 변화하고 있습니다. 인공지능 AI는 새로운 반도체 혁신 시대를 열었습니다. 머신 러닝의 고유 한 요구와 무한한 기회는 수십 년 만에 처음으로 기업가들에게 가장 기본적인 칩 아키텍처 원칙을 다시 생각하고 다시 생각하게 만들었습니다.
그들의 목표는 차세대 컴퓨팅을 가능하게하는 AI를 위해 특수 제작 된 새로운 유형의 칩을 설계하는 것입니다. 오늘날 모든 하드웨어에서 가장 큰 시장 기회 중 하나입니다.
새로운 컴퓨팅 패러다임
컴퓨팅 역사의 대부분에서 일반적인 칩 아키텍처는 CPU 또는 중앙 처리 장치였습니다. 오늘날 유비쿼터스 인 CPU는 랩톱, 모바일 장치 및 대부분의 데이터 센터에 사용되고 있습니다.
CPU의 기본 아키텍처는 1945 년 전설적인 John von Neumann에 의해 고안되었습니다. 놀랍게도 그 디자인은 그 이후로 본질적으로 변하지 않았습니다. 오늘날 생산되는 대부분의 컴퓨터는 여전히 John von Neumann의 디자인을 유지하고 있습니다.
CPU는 범용 기계이며 소프트웨어에 필요한 모든 계산을 효과적으로 수행 할 수 있습니다. 그러나 CPU의 주요 장점은 다재다능하지만 오늘날의 첨단 인공지능 AI 기술은 매우 구체적이고 집중적인 계산을 요구합니다.
딥 러닝은 수백만 또는 수십억 개의 비교적 간단한 곱셈과 덧셈 단계를 반복적으로 실행합니다. 선형 대수학을 바탕으로 딥 러닝은 기본적으로 시행 착오를 기반으로합니다. 모수가 조정되고 행렬이 곱해지고 모델이 점차적으로 자체적으로 최적화됨에 따라 신경망 전체에 걸쳐 수치가 계속해서 합산됩니다.
이 반복적이고 계산집약적인 워크플로우는 하드웨어 아키텍처에 몇 가지 중요한 의미를 갖습니다. 프로세서가 한 번에 여러 개씩 동시에 많은 계산을 수행 할 수있는 병렬화 기능이 중요합니다. 특히 딥 러닝은 대량의 데이터를 지속적으로 변환하기 때문에 칩의 메모리와 계산 코어를 최대한 가깝게 배치하면 데이터 이동을 줄여 속도와 효율성을 크게 높일 수 있습니다.
CPU는 머신러닝을 위한 요구를 지원할수 있는데엔 한계가 있습니다. CPU는 병렬이 아닌 순차적인 계산을 처리합니다. 그들의 계산코어와 메모리는 일반적으로 별도의 모듈에 위치하고 제한된 대역폭의 통신 시스템을 통해 연결됩니다. 이것은 “von Neumann bottleneck”으로 알려진 데이터 이동의 질식 지점을 만듭니다. 결론은 CPU에서 신경망을 훈련시키는 것은 엄청나게 비효율적입니다.
기존의 칩이 최신 AI 알고리즘을 처리 할 수 없다는 점은 널리 퍼져있는 머신 러닝 응용 프로그램이 사회 전체에 어떻게 적용되고 있는지를 고려할 때 더욱 중요합니다. AI의 위대한 Yann LeCun은 최근에 다음과 같이 말했습니다.
지금까지 AI 붐을 구동 한 칩은 GPU (graphical processing unit)입니다. GPU 아키텍처는 게임 애플리케이션을 위해 1990 년대 후반 Nvidia가 발명했습니다. 컴퓨터 게임의 세부 그래픽을 높은 프레임 속도로 렌더링하기 위해 GPU는 대량의 데이터를 지속적으로 조작 할 수 있도록 특수 제작되었습니다. CPU와 달리 GPU는 수천 개의 계산을 병렬로 완료 할 수 있습니다.
2010 년 초 AI 커뮤니티는 Nvidia의 게임 칩이 실제로 머신 러닝 알고리즘에 필요한 워크로드 유형을 처리하는 데 적합하다는 것을 깨닫기 시작했습니다. 엄청난 행운을 통해 GPU는 거대한 새로운 시장을 찾았습니다. 엔비디아는이 기회를 활용하여 시장을 선도하는 AI 하드웨어 공급 업체로 자리 매김했습니다. 그 결과 Nvidia의 시가 총액이 2013 년에서 2018 년까지 20 배나 증가했습니다.
그러나 Gartner의 분석가 인 Mark Hung은 “GPU가 AI 워크로드에 최적화되지 않았다는 데 모두 동의합니다.”라고 말합니다. GPU는 AI 커뮤니티에서 채택했지만 AI 용으로 제작되지 않았습니다.
지난 24 개월 동안 5 개의 AI 유니콘이 등장했습니다. 시장의 주목을 받는 높은 평가에서 몇몇 스타트업 기업이 오픈햐였습니다. IT 주요 기업들이 인수를 기피했지만 인텔사만 이 카테고리에서 메이저 인수 합병을 진행하였습니다. - 네바나 시스템 (2016년 4월 $408M에 인수)과 하바나 랩 (2019년 12월 $2B에 인수)- 향후 몇년간 경쟁이 치열해 지면서 수억달러의 가치가 창출될것입니다.
The Next Intel?
엄청난 시장의 기회와 사장의 밝은 앞날은 웨일즈인들의 적절한 AI 칩의 설계를 부추겼습니다.
아마도 새로운 AI 칩 개발 스타트업중 가장 주목을 끄는 것은 Cerebras Systems일것입니다.
최근 가치가 $1.7B 달러에 달하는 이 회사는 Benchmark 및 Sequoia 및 메이저 투자자로부터 2억달러를 지원받았습니다.
Cerebara’s의 프로세서는 스펙은 매우 놀랍습니다. 일반적인 마이크로 프로세서보다 약 60배 가량 성능이 띄어나며 1조개 이상의 트랜지스터와 18GB 메모리가 내장되어 있습니다.
모든 컴퓨팅 성능을 한 기판에 패킹하면 효율적인 데이터 이동,처리와 대규모 병렬화와 같은 장점을 얻을수 있습니다. 수십년동안 웨이퍼 스케일 칩을 구축하는 것을 꿈꾸었지만, 반도체 업계에서는 넘기 힘든 벽이었습니다.
이번 코비드19 팬데믹 사태에서도 Cerebras의 시스템이 사용될것으로 지난주 Argonne National Labotratory가 발표했습니다.
칩 설계에 대한 근본적인 새로운 접근 방식을 보여주고 있는 다른 스타트업은 Bay Area 기반의 Groq입니다. Groq 칩은 모델의 훈련보다는 추론에 중점을 두고 있습니다. 이 회사의 창립 프로젝트 팀은 세계적 수준의 도메인 전문 지식을 보유하고 있습니다. 현재까지 가장 성공적인 AI칩 프로젝트인 Google TPU의 10명의 맴버중 8명이 Groq회사의 맴버입니다.
Groqs는 이전 업계의 관습적인 칩 설계를 차용하여 데이터 샘플을 한번에 처리하는 방식으로 접근하고 있습니다. 회사에 따르면 아키텍처는 사실상 즉각적인 추론(자율주행자동차와 같은 시간에 민감한 응용분야)를 가능하게 하며, 불필요한 계산을 하지 않게 설계되었다고 합니다. Groq칩은 소프트웨어가 주요 체제로 독창적이고 유연하게 변형이 가능해 발전가능성이 크다고 홍보하고 있습니다.
이 회사는 최근 자사의 칩이 초당 1조 속도를 달성했다고 발표했습니다. 이것이 사실이라면 여사상 가장 빠른 단일 다이칩이 될것입니다.
다음 살펴볼 회사는 Lightmatter사로 포토닉스 전문가들이 설립한 Boston에 기반을 두고 있는 회사입니다. Lightmatter는 전기신호가 아닌 광선의 의해 AI 마이크로 프로세서를 구축하려고 시도하고 있습니다. 이 기술을 완성하기 위해 GV, Spark Capital, Matrix Partners에서 $3300만달러를 투자했습니다. 회사는 이 광선의 고유한 특성으로한 칩을 완성한다면 기존 솔루션보다 10배 뛰어날것이라고 홍보하고 있습니다.
이 카테고리에는 주목할 만한 다른 플레이어들이 많이 있습니다. 중국에 기반을 둔 Horizon Robotics와 Cambricon Technologies는 다른 경쟁 업체보다 더 많은 수익을 올리고 있으며, 팔로 알토의 Samba Nova System은 튼튼한 자금력으로 기술발전을 지원하고 있습니다. Samba Nova System의 플랜은 여전히 괄목할만한 성과를 내고 있진 않지만, 자연언어 처리에 적합하것을 특징으로 하고 있습니다. 그 밖에 주목할만한 스타트업으로는 Graphcore, Wave Computing, Blaize, Mythic 및 Kneron이 있습니다.
그리고 몇몇 기술 전문가들은 목적에 맞게 개발 된 AI칩을 개발하기 위해 자체적인 내부 노력을 시작했습니다. 이런 프로그램중 가장 성숙한 프로그램은 위에서 언급한 Google의 TPU(Tensor Processing Unit)입니다. 최근 아마존은 2019년 12월에 Inferentia AI 칩을 출시한다고 발표했습니다. 테슬라, 페이스북, 알리바바와 같은 규모가 큰 회사들은 각각 내부적으로 AI 칩 프로그램을 개발하고 있습니다
다가오는 인공지능 AI시대를 맞이하여 많은 IT 기업들이 미래에 먹거리에 대한 경쟁에 많은 부분을 투자하고 있습니다. 오늘날 실리콘 밸리가 시작된 이래로 지금보다 반도체 산업에서 더 많은 혁신을 완성하기 위해 많은 자금이 투입되고 있습니다.
이 차세대 인공지능 AI 칩은 몇년안에 윤곽을 드러낼수 있을것이며, 시장의 구도가 형성될것입니다.