휴대용 장치에서 강력한 AI를 활성화합니다.

모두가 최신 AI와 신경망의 힘에 대해 이야기하고 있으며 소프트웨어가 실행되는 하드웨어에 의해 제한된다는 사실을 잊고 있습니다. 그러나 “병목 현상”이 된 것은 하드웨어라고 USC 전기 및 컴퓨터 공학 교수인 Joshua Yang은 말합니다. 이제 공동 연구자와 함께한 Yang의 새로운 연구는 그것을 바꿀 수 있습니다. 그들은 Edge AI(휴대용 장치의 AI)를 위해 지금까지 어떤 칩보다 최고의 메모리를 가진 새로운 유형의 칩을 개발했다고 믿습니다.

지난 30년 동안 AI 및 데이터 과학 응용 프로그램에 필요한 신경망의 크기는 3.5개월마다 두 배로 증가했지만 이를 처리하는 데 필요한 하드웨어 기능은 3.5년마다 두 배가 되었습니다. Yang에 따르면 하드웨어는 인내심을 가진 사람이 거의 없는 점점 더 심각한 문제를 제시합니다.

정부, 산업 및 학계는 전 세계적으로 이러한 하드웨어 문제를 해결하기 위해 노력하고 있습니다. 일부는 실리콘 칩을 사용한 하드웨어 솔루션을 계속 연구하고 있으며, 다른 일부는 새로운 유형의 재료 및 장치를 실험하고 있습니다. Yang의 작업은 중도에 속합니다. 즉, 무거운 AI 및 데이터 과학 계산을 지원할 수 있는 새로운 재료와 기존 실리콘 기술의 장점을 활용하고 결합하는 데 중점을 둡니다.

그들의 새로운 종이 자연 AI 하드웨어에 필요한 메모리 용량을 대폭 증가시키는 근본적인 물리학에 대한 이해에 중점을 둡니다. Yang이 이끄는 팀은 USC(Han Wang 그룹 포함), MIT 및 매사추세츠 대학의 연구원들과 함께 “노이즈”를 줄이기 위한 장치용 프로토콜을 개발하고 통합 칩에서 이 프로토콜을 사용하는 실용성을 시연했습니다. 이번 시연은 AI 가속 기술 상용화를 위해 Yang과 공동저자(Miao Hu, Qiangfei Xia, Glenn Ge)가 공동 창업한 스타트업 회사인 TetraMem에서 이루어졌다. Yang에 따르면 이 새로운 메모리 칩은 지금까지 알려진 모든 유형의 메모리 기술 중에서 장치당 정보 밀도(11비트)가 가장 높습니다. 이러한 작지만 강력한 장치는 우리 주머니에 있는 장치에 놀라운 성능을 제공하는 데 중요한 역할을 할 수 있습니다. 칩은 메모리뿐만 아니라 프로세서에도 사용됩니다. 그리고 AI 작업을 빠르게 실행하기 위해 병렬로 작동하는 작은 칩의 수백만 개는 전원을 공급하는 데 작은 배터리만 있으면 됩니다.

Yang과 그의 동료들이 만들고 있는 칩은 강력하지만 에너지 집약적인 칩을 만들기 위해 실리콘과 금속 산화물 멤리스터를 결합합니다. 이 기술은 전자의 수보다는 정보를 나타내기 위해 원자의 위치를 ​​사용하는 데 중점을 둡니다(이는 칩의 계산과 관련된 현재 기술임). 원자의 위치는 디지털 방식이 아닌 아날로그 방식으로 더 많은 정보를 저장하는 간결하고 안정적인 방법을 제공합니다. 또한 정보는 현재 컴퓨팅 시스템에 존재하는 소위 ‘폰 노이만 병목 현상’을 제거하여 소수의 전용 ‘프로세서’ 중 하나로 전송되는 대신 저장된 위치에서 처리될 수 있습니다. 이러한 방식으로 AI를 위한 컴퓨팅은 “더 높은 처리량으로 더 에너지 효율적”이라고 Yang은 말합니다.

작동 방식

Yang은 전통적인 칩에서 조작되는 전자가 “빛”이라고 설명합니다. 그리고 이 가벼움으로 인해 움직이기 쉽고 변동성이 커집니다. 전자를 통해 메모리를 저장하는 대신 Yang과 공동 작업자는 전체 원자에 메모리를 저장하고 있습니다. 이 메모리가 중요한 이유가 여기에 있습니다. 일반적으로 컴퓨터를 끄면 정보 메모리가 사라집니다. 그러나 새로운 계산을 실행하기 위해 해당 메모리가 필요하고 컴퓨터가 다시 정보를 필요로 하는 경우 시간과 에너지를 모두 잃게 된다고 Yang은 말합니다. 전자가 아닌 원자 활성화에 초점을 맞춘 이 새로운 방법은 저장된 정보를 유지하기 위해 배터리 전원이 필요하지 않습니다. 정보 밀도를 높일 수 있는 안정적인 메모리가 중요한 AI 계산에서도 유사한 시나리오가 발생합니다. Yang은 이전에 빈번한 재충전 문제로 어려움을 겪었던 Google 안경과 같은 에지 장치에서 강력한 AI 기능을 가능하게 할 수 있는 이 새로운 기술을 상상합니다.

또한 전자가 아닌 원자에 의존하도록 칩을 변환함으로써 칩이 더 작아집니다. Yang은 이 새로운 방법을 사용하면 더 작은 규모로 더 많은 컴퓨팅 용량을 사용할 수 있다고 덧붙입니다. 그리고 이 방법은 “정보 밀도를 높이는 데 도움이 되는 훨씬 더 많은 수준의 메모리”를 제공할 수 있다고 그는 말합니다.

상황에 맞게 말하면 현재 ChatGPT는 클라우드에서 실행되고 있습니다. 몇 가지 추가 개발이 뒤따르는 새로운 혁신은 모든 사람의 개인 장치에 ChatGPT의 미니 버전을 제공할 수 있습니다. 그것은 그러한 고성능 기술을 모든 종류의 응용 프로그램에 더 저렴하고 접근 가능하게 만들 수 있습니다.

출처: https://www.sciencedaily.com/releases/2023/03/230330102315.htm