뉴로모픽 컴퓨팅: 반도체로 뉴런 만들기!

‘뇌 모사 컴퓨팅’… 이름만 들어봐도 의미심장한데요. 뉴로모픽 컴퓨팅이라고도 불리는 이 기술은 무려 우리 뇌와 유사하게 동작하는 컴퓨터를 만들고, 이러한 컴퓨터를 다루는 방법에 대해 연구하는 분야입니다. 오늘은 뉴로모픽 컴퓨팅 기술의 개괄과 관련된 반도체 분야 최신 연구 동향에 대해서 이야기해보려고 합니다.

 

1. 컴퓨터는 어떻게 생겼나?

여러분의 데스크탑, 노트북, 스마트폰, 그리고 워치까지. 우리는 컴퓨터가 온갖 물건에 다 들어가는 시대에 살고 있습니다. 그리고 이러한 컴퓨터는 폰 노이만이라는 과학자가 제안한 구조를 따르고 있습니다. 폰 노이만 구조에서는 정보를 처리/연산하는 중앙처리장치(CPU)와 정보를 보관하는 메모리(RAM)를 구성되어 있는데요. 메모리에 저장된 정보가 시스템 버스를 타고 CPU로 이동하면 CPU가 연산을 수행하고, 그 결과물은 다시 시스템 버스를 통해 메모리 쪽으로 이동하는 방식으로 동작합니다.

이러한 구조는 1940년대 중반 이후 현재까지도 계속해서 사용되고 있습니다. 초기에는 시스템 버스의 정보 전달 속도가 CPU의 연산 속도 대비 충분하기도 하거니와 CPU를 구성하는 반도체와 메모리를 구성하는 반도체의 종류가 달라서 폰 노이만 구조는 반도체 생상 공정 측면에서도 매우 효율적입니다. 그러나 무어의 법칙을 따라 반도체 성능이 기하급수적으로 증가하면서 현대의 컴퓨터는 한 가지 문제에 직면하게 됩니다. CPU의 동작 속도(일명 CPU 클럭)가 너무 빨라져서 메모리의 동작 속도가 CPU 동작 속도에 비해 느려지는 병목현상이 발생하는 것입니다.

Fig 1. 폰 노이만과 폰 노이만 구조 컴퓨터

쉽게 말해 일감이 들어오는 속도가 느려서 CPU가 노는 현상이 발생하는 것이지요. 이를 완화하고자 엔지니어들은 다양한 해결책을 모색하게 됩니다. CPU 내부에 고속 임시 메모리를 집적하여 일감을 공급하는 Cache 기술, 메모리 반도체의 동작 속도를 비약적으로 증대시키는 고대역 메모리(HBM) 기술 등이 그것입니다. 그러던 중 몇몇 공학자들은 완전히 새로운 접근을 하게 됩니다. 바로 병목현상의 주범인 폰 노이만 구조를 처음부터 뜯어고치는 것입니다!

 

2. 뉴로모픽 컴퓨팅: 뇌처럼 생각하는 컴퓨터?

먼저 우리에게 가장 익숙한 컴퓨터, 바로 우리 두뇌가 어떤 식으로 정보를 처리하는지 알아봅시다. 우리 뇌는 뉴런이라고 불리는 신경세포의 덩어리인데요. 뉴런은 수상돌기(dendrite)와 축삭으로 구성되어 있습니다. 또한 하나의 뉴런의 축삭 말단은 다른 뉴런의 수상돌기와 신경전달 물질을 통해 신호 전달을 하는데, 이러한 신경세포 사이의 틈을 그 유명한 시냅스(synapse)라고 부릅니다. 앞의 뉴런이 발생시킨 전기 신호는 축삭을 타고 이동하여 축삭 말단에 도달하고, 시냅스를 통해 신경전달물질을 분비하여 다음 뉴런의 수상돌기가 이를 수신하게 됩니다. 이러한 과정으로 뇌 안에서 무수히 많은 전기적 신호가 왔다갔다하는 것이지요.

Fig 2. 뉴런의 신호 전달

그런데 만약 시냅스가 그저 받은 신호를 전달하기만 한다면, 뉴런 다발은 그저 구리 전선 다발에 지나지 않습니다. 그러나 우리 뇌는 정보를 기억하고, 또 처리할 수 있는데 전선 다발로는 이러한 신호처리를 할 수 없습니다. 그렇다면 뉴런은 어떻게 정보를 저장, 처리할 수 있는 것일까요? 비밀은 바로 뇌 가소성(Brain Plasticity)에 있습니다.

전에 뉴런 사이에서 신경전달물질들이 지나다니는 틈을 시냅스라고 부른다고 했는데요. 사실 시냅스는 정보를 단순히 다음 뉴런으로 전달하는 역할만을 수행하지 않습니다. 대신에 일정한 ‘가중치’를 바탕으로 신호를 증폭시킬지, 감쇠시킬지 결정하는 역할도 수행합니다. 그리고 이러한 가중치는 과거에 전기 신호가 어떤 식으로 들어왔는지를 바탕으로 바뀌기도 합니다. 전기 신호가 계속해서 들어오면 시냅스는 시냅스의 민감도를 높여(신경전달물질 수용체 수의 증가) 전기 신호를 증폭시키는 쪽으로 변하는 LTP(Long Term Potentiation)가 나타나고, 반대의 경우에는 신호를 감쇠시키는 쪽으로 변하는 LTD(Long Term Depression)이 나타납니다. 그때그때 상황에 맞춰서 뉴런 사이의 연결 강도가 바뀐다는 의미에서 이를 뇌 가소성이라고 부릅니다.

  Fig 3. 뇌 가소성

우리의 뇌는 무려 1000억 개의 뉴런으로 구성되어 있는데요, 뉴런들은 서로 복잡하게 상호작용하여 100조 개의 시냅스를 구성합니다. 다시 말해 우리 뇌는 100조 개의 파라미터를 갖는 생체 딥러닝 모델과 같다는 것입니다. 선풍적인 인기를 끌고 있는 GPT-3에 사용된 거대 언어모델의 파라미터가 1750억 개라는 것을 생각하면, 우리 뇌가 가지는 잠재력은 가히 놀라울 정도입니다.

Fig 4. 두뇌 vs GPT-3

 

3. 멤리스터: 반도체로 뉴런 만들기

이런 두뇌의 잠재력을 흉내내고자, 공학자들은 시냅스처럼 동작하는 소자를 만들려는 노력을 기울이게 됩니다. 시냅스처럼 동작하는 소자를 만들 수만 있다면 정보의 저장과 처리를 하나의 소자로 수행할 수 있기 때문에 폰 노이만 구조의 한계인 병목현상을 극복할 수 있을지도 모른다는 기대를 바탕으로 말이지요. 시냅스의 핵심은 이전에 들어온 전기 신호를 바탕으로 신호의 강도가 바뀌는 것입니다. 마치 전자공학의 가변 저항처럼 말이지요.

Fig 5. 저항을 통한 신호의 증폭/감쇠

이 문제를 해결하고자 반도체 공학자들은 기존에 존재하던 반도체 소자들을 잘 조합하여 시냅스처럼 동작하도록 하고자 하였습니다. SRAM, NAND flask, Memcapacitor 등의 구조가 제안되었고, 관련 연구들이 진행되었습니다. 이들 소자들은 모두 ‘시냅스처럼’ 동작하는 데에는 성공하였지만, 휘발성(전력 공급이 중단되면 정보가 소실됨)을 가져 정보를 저장하기 위해서는 계속해서 전력을 공급해야 하는 등 실용화하기에는 큰 문제점들을 가지고 있었습니다. 이에 공학자들은 전통적인 반도체 소자들을 활용한다는 틀을 깨고 새로운 반도체 소자를 찾아야 할 상황에 직면하게 됩니다.

본론에서 잠깐만 벗어나서, 공학자들이 상상속에서만 그리던 가상의 소자 멤리스터(memristor) 이야기를 잠시 해봅시다. 사실 뉴로모픽 컴퓨팅 기술이 수면으로 올라오기 전부터 과거에 통과한 전하량에 따라 저항 값이 바뀌는 가성의 소자에 대한 논의가 1971년부터 진행되었습니다. 저항(resistor)을 통해 기억(memory)한다는 점에서 이 소자에 memristor라는 이름도 붙여주고 말이지요. 그런데 문제는 소자를 개념적으로는 만들었지만, 현실에서 이처럼 동작하는 반도체 소자는 만들지 못하는 상황이었습니다. 말그대로 ‘유니콘 소자’인 것이지요. 그러던 2008년 5월 1일, Nature지에 파격적인 제목의 논문 한 편이 실리게 됩니다.

“잃어버린 memristor의 발견”

 

연구자들은 금속 전극 사이에 이산화티탄(TiO2)와 산소 원자가 부족한 이산화티탄(TiO2-x)를 샌드위치한 형태의 소자를 만들게 되는데요. 이 소자의 전압을 걸어주었더니 독특한 거동이 나타났습니다. 바로 이전에 걸어준 전압에 따라 소자의 저항이 변하는 resistive switching 현상이 관찰된 것입니다. 학자들은 해당 현상이 이산화티탄 층 내의 산소 vacancy가 전압에 의해 이동하면서 소자 저항이 바뀐 결과라고 해석하였습니다. 바로 상상속에서만 존재하던 memristor 소자가 현실에서 나타난 것이었습니다.

Fig 6. 세계 최초의 멤리스터

 

4. 아직은 갈 길이 먼 멤리스터

멤리스터를 이용하면 꿈에 그리던 뉴로모픽 컴퓨팅을 하나의 소자만으로 구현할 수 있기에 논문이 실리고 난 뒤, 학계에 엄청난 반향이 일게 됩니다. 그리고는 다양한 물질을 다양한 두께로 사용하면서 해당 소자가 멤리스터로 잘 동작하는지 연구를 진행하게 됩니다. 연구하던 중, 연구자들은 멤리스터 소자의 문제점을 발견하게 됩니다.

멤리스터는 금속판 사이에 끼어 있는 물질 내부에 존재하는 결점(defect, 결정 구조 내부의 결함)를 통해 resistive switching을 하게 되는데, 이러한 결점은 반도체 소자의 제작 과정에서 무작위적(stochastic)으로 발생하는 것이라서 조절이 어렵다는 것이었습니다. 정상적으로 작동하는 뉴로모픽 컴퓨터를 만들기 위해서는 이를 구성하는 모든 소자가 균일해야 합니다. 그러나 소자의 switching을 결정하는 원리가 무작위적으로 발생하는 결점에 의존하다 보니 도무지 균일한 소자의 제작이 어렵다는 것이었습니다. 뿐만 아니라 저항의 변화가 선형적이지 않고, 소자의 수명 또한 수십 회의 사이클을 버티지 못하는 등 여러가지 한계점을 품고 있었습니다.

그렇다면 이 문제는 해결되었을까요? 사실 균일한 품질의 멤리스터 소자를 제작하는 문제는 아직도 현재 진행형입니다. 결점의 조절이 비교적으로 수월한 단결정 물질을 사용하거나, 애초에 결점으로부터 자유로운 2D 물질들을 도입해보는 등 다양한 시도가 진행되고 있지요. 아직은 실용화하기에는 걸음마 단계라는 평가가 많습니다.

 

글을 마치며...

이렇게 우리의 뇌를 모방한 컴퓨터인 뉴로모픽 컴퓨팅에 대해서 이야기해보았는데요. 최근 뇌-컴퓨터 인터페이스 분야의 미국 스타트업인 뉴럴링크(Neural Link)가 FDA로부터 인간을 대상으로 한 임상 연구를 승인하고, 넷플릭스 시리즈에서 인공 뇌를 주제로 한 드라마인 ‘정이’가 나오기도 하면서 뇌와 컴퓨터를 잇는 기술에 대한 대중의 관심이 늘어나고 있습니다. 어쩌면 이러한 기술의 가운데에 멤리스터와 반도체 공학이 있을지도 모른다는 말을 남기면서 글을 마치겠습니다.