AI 발전의
역사적 흐름

이 모형의 핵심은 추상화의 과감함에 있다. 실제 뉴런은 스파이크의 타이밍, 신경전달물질의 종류, 수상돌기의 공간적 구조 등 훨씬 복잡한 요소를 갖는다. 매컬럭과 피츠는 이 모든 것을 잘라내고 가중합과 임계값이라는 두 연산만 남겼다. 오늘날의 인공 뉴런도 활성화 함수만 바뀌었을 뿐 이 구조 그대로다.

직접 손으로 AND 게이트를 만들어 보면 감이 빨리 잡힌다. 입력 두 개, 가중치를 각각 1로 두고 임계값을 1.5로 잡으면 AND가 된다. 임계값을 0.5로 낮추면 OR이 된다. 같은 구조에서 임계값 하나만 바꿔도 다른 논리 함수가 나온다는 점을 먼저 확인해 두면, 뒤에 나올 XOR 논의가 훨씬 선명해진다.

한 가지 주의할 점은 이 논문이 학습을 다루지 않았다는 것이다. 회로를 사람이 설계한다는 점에서는 당시의 기호주의와 다르지 않다. 데이터로부터 가중치를 정한다는 발상이 들어오는 것은 헵과 로젠블랫부터다.

헵의 규칙은 흔히 같이 발화하면 같이 묶인다는 문장으로 요약된다. 수식으로 쓰면 두 뉴런의 활성값을 곱해 가중치에 더하는 형태다. 중요한 것은 이 규칙이 국소적이라는 점이다. 시냅스 하나를 고치는 데 필요한 정보가 그 시냅스 양쪽 뉴런의 상태뿐이며, 네트워크 전체의 오차 같은 전역 정보를 요구하지 않는다. 생물학적으로 그럴듯한 이유가 여기 있다.

이 대목이 나중에 역전파와 대비된다. 역전파는 전역 정보를 층을 거슬러 전달해야 하고, 그 전달 경로가 뇌에서는 발견되지 않았다. 이 강의 마지막 부분에서 다시 다룰 가중치 수송 문제가 여기서 씨앗을 얻는다.

튜링 테스트에는 오해가 하나 따라다닌다. 튜링의 제안은 지능의 정의가 아니라 논쟁의 회피에 가까웠다. 기계가 생각하는가라는 질문은 생각의 정의를 두고 끝없이 갈리므로, 대신 행동으로 판정할 수 있는 질문으로 바꿔 놓자는 실용적 제안이었다. 오늘날 대규모 언어모델을 두고 이 테스트를 다시 꺼내는 논의가 많다. 튜링 자신이 이 테스트를 최종 기준으로 삼지 않았다는 점을 알고 보면 논의가 정돈된다.

다트머스 회의는 성과보다 명명과 결집이라는 기능으로 기억된다. 흩어져 있던 연구자들이 하나의 이름 아래 모였고, 그 이름이 이후 연구비 신청과 학술지 분류의 단위가 됐다. 학문 분야가 만들어지는 과정을 보여 주는 사례로도 좋다.

이름을 두고 있었던 논쟁도 흥미롭다. 매카시가 인공지능이라는 말을 밀었고, 사이버네틱스라는 기존 용어를 피하려는 의도가 있었다는 회고가 남아 있다. 위너 중심의 사이버네틱스 진영과 거리를 두려는 선택이었다는 해석이다. 용어의 선택이 학문 공동체의 경계를 만든다는 점을 보여 주는 대목이다.

제안서의 전제 문장은 한 번 천천히 읽어 볼 가치가 있다. 이 전제는 검증된 명제가 아니라 작업 가설이었다. 그런데 이후 20년 동안 많은 예측이 이 가설을 이미 참인 것처럼 놓고 도출됐다. 가설과 결론이 뒤바뀐 순간이 어디였는지 찾아보는 것이 이 자료의 한 축이다.

이 표가 이 자료 전체의 뼈대다. 앞으로 등장하는 사건마다 두 열 중 어디에 속하는지 물어 가며 읽으면 연표가 헝클어지지 않는다. 특히 AI 겨울을 다룰 때 어느 열이 무너졌는지를 매번 확인하는 것이 좋다.

둘을 대립 구도로만 그리는 것도 정확하지는 않다. 실제로는 서로의 약점을 흡수해 왔다. 오늘날 대규모 언어모델에 외부 도구 호출과 검색을 붙이는 방식, 지식 그래프를 결합하는 방식은 기호주의의 문제의식이 다시 들어온 사례로 볼 수 있다. 신경-기호 통합이라는 이름으로 별도의 연구 영역이 형성되어 있다.

생각해 볼 질문

지금 여러분이 쓰는 AI 도구에서 기호주의적인 부분은 어디인가. 프롬프트로 규칙을 적어 넣는 행위는 어느 쪽에 가까운가.

SHRDLU가 특히 교훈적이다. 블록 세계 안에서는 대명사 해소, 애매성 처리, 계획 수립까지 해냈다. 그런데 이 성능은 세계가 작기 때문에 가능했다. 블록의 종류와 가능한 동작이 유한하고 모두 명시되어 있었다. 세계를 조금만 넓히면 필요한 규칙의 수가 폭발한다. 위노그래드 본인이 나중에 이 접근의 한계를 인정하고 방향을 바꿨다는 점도 함께 기억할 만하다.

ELIZA 효과라는 용어도 여기서 나온다. 시스템이 실제로 이해하지 않아도 사람이 이해한다고 믿어 버리는 현상이다. 바이첸바움 자신이 이 반응에 충격을 받아 AI 비판자로 돌아섰다. 오늘날 대화형 모델을 쓸 때 그대로 되살아나는 논점이며, 이미 60년 된 문제라는 점을 기억해 둘 만하다.

장난감 문제라는 용어를 여기서 정리해 두자. 뒤에 나올 라이트힐 보고서를 읽을 때 필요하다. 원리를 보이기 위해 축소한 문제를 뜻하며, 이 문제에서의 성공이 실제 규모에서의 성공을 보장하지 않는다는 점이 1차 겨울의 핵심 쟁점이 된다.

학습 규칙의 형태를 천천히 뜯어 보자. 갱신량은 오차 (y − ŷ)와 입력 x의 곱이다. 예측이 맞으면 오차가 0이므로 아무 일도 일어나지 않는다. 틀렸을 때만, 그리고 그 입력이 켜져 있던 방향으로만 가중치가 움직인다.

여기서 이 강의 전체를 지탱하는 관찰이 나온다. 이 규칙은 정답 y가 있어야 작동한다. 출력층에는 정답이 주어지지만 중간층에는 주어지지 않는다. 뒤에 나올 신용 할당 문제에서 이 문장이 그대로 다시 등장한다.

퍼셉트론 수렴 정리도 언급할 가치가 있다. 데이터가 선형 분리 가능하기만 하면 유한 번의 갱신 안에 반드시 해를 찾는다는 보장이 있었다. 즉 이 시기의 신경망은 이론적 보장을 갖춘 기법이었다. 나중에 SVM이 각광받은 이유가 이론적 보장이었다는 점과 대비해 보면, 보장의 유무가 유행을 좌우해 온 흐름이 보인다.

당시 보도도 살펴볼 만하다. 1958년의 기사들은 이 기계가 곧 걷고 말하고 자기 존재를 의식하게 되리라고 썼다. 이런 수사가 10년 뒤 반작용의 크기를 결정한다.

퍼셉트론 규칙과 델타 규칙의 차이를 구분해 두자. 퍼셉트론 규칙은 계단 함수를 통과한 이산 출력과 정답의 차이를 쓴다. 델타 규칙은 임계값을 통과하기 전의 연속값과 정답의 차이를 쓴다. 후자는 제곱오차라는 매끄러운 목적함수를 명시적으로 최소화하며, 그래서 데이터가 선형 분리 불가능해도 최소제곱 의미의 해로 수렴한다.

즉 이 시점에 이미 연속적 출력, 미분 가능한 목적함수, 경사하강이라는 세 요소가 갖춰져 있었다. 빠진 것은 층을 쌓았을 때 그 기울기를 어떻게 아래로 내려보낼 것인가 하나뿐이었다. 이 관점으로 보면 1960년과 1986년 사이의 26년이 무엇을 기다린 시간이었는지가 분명해진다.

MADALINE은 오해를 방지하는 데 특히 유용한 사례다. 이미 2층 구조가 존재했지만 두 번째 층이 학습되지 않았다는 사실이, 문제가 구조가 아니라 학습이었다는 이 강의의 논지를 그대로 뒷받침한다.

이 표에서 눈여겨볼 것은 예측의 방향이 아니라 시한이 문제였다는 점이다. 사이먼의 체스 예측은 결국 맞았고, 기계가 많은 일을 대체한다는 예측도 부분적으로는 실현되고 있다. 틀린 것은 언제라는 부분이었다.

그런데 연구비는 언제라는 부분에 반응한다. 10년을 약속하고 받은 예산은 10년 뒤에 평가받는다. 방향이 옳았다는 항변은 예산 심사에서 힘을 갖지 못한다. 여기가 기술적 축과 사회적 축이 어긋나는 지점이며, 겨울이 만들어지는 기전이다.

왜 이렇게 어긋났는지도 짚어 볼 만하다. 초기 성과가 나온 문제들은 탐색 공간이 작고 규칙이 명확한 영역이었다. 이런 문제에서의 진전 속도를 그대로 외삽하면 낙관적 결론이 나온다. 문제의 난이도가 균일하다는 암묵적 가정이 깔려 있었던 셈인데, 뒤에 나올 모라벡의 역설이 바로 이 가정을 깬다.

인용 출처는 각각 Simon & Newell, "Heuristic Problem Solving", Operations Research 6(1), 1958 (체스 예측), Simon, The Shape of Automation for Men and Management, 1965, p.96, Minsky, Computation: Finite and Infinite Machines, 1967, Minsky의 Life 지 인터뷰, 1970이다.

생각해 볼 질문

최근 5년 사이에 나온 AI 관련 예측 중 시한을 명시한 것을 하나씩 찾아보자. 그 예측은 어떤 문제에서의 진전 속도를 외삽한 것인가.

직접 증명해 보는 것이 가장 빠르다. XOR을 만족하는 가중치가 존재한다고 가정하고 네 점의 부등식을 세운 뒤 모순을 유도하는 방식이다. w₁·0 + w₂·0 < θ, w₁·1 + w₂·0 ≥ θ, w₁·0 + w₂·1 ≥ θ, w₁·1 + w₂·1 < θ 네 식을 놓고, 두 번째와 세 번째를 더하면 w₁ + w₂ ≥ 2θ가 나오는데 네 번째 식은 w₁ + w₂ < θ를 요구한다. θ가 양수인 한 모순이다.

이 논증이 중요한 이유는 불가능성이 계산의 한계가 아니라 구조의 한계임을 보여 주기 때문이다. 더 오래 학습시키거나 더 좋은 최적화를 쓴다고 해결되지 않는다. 애초에 해가 존재하지 않는다.

실무적으로도 이어진다. 선형 분리 가능성이라는 개념은 오늘날에도 살아 있다. 특징 공학이란 결국 원래 공간에서 선형 분리가 안 되는 데이터를, 분리가 되는 공간으로 옮기는 작업이다. 커널 방법이 명시적으로 하는 일이 그것이고, 은닉층이 암묵적으로 하는 일도 같다.

여기서 가장 자주 나오는 질문이 있다. 왜 유닛 여러 개를 쓰는 발상이 그렇게 늦게 나왔느냐는 것이다. 답은 늦게 나오지 않았다는 것이다. 병렬 배치는 처음부터 있었다. 오래 걸린 것은 유닛을 옆으로 늘리는 일이 아니라 위로 쌓는 일이었다.

수학적으로 정리하면 이렇다. 활성화 함수 없이 층을 쌓으면 W₂(W₁x) = (W₂W₁)x이므로 하나의 행렬로 합쳐지고 단층과 같아진다. 그래서 층을 쌓는 데는 비선형 활성화가 필수다. 그런데 이 시기에도 계단 함수라는 비선형은 이미 쓰이고 있었다. 즉 비선형이 없어서 막힌 것이 아니다. 이 문장을 기억해 두면 뒤의 시그모이드 논의가 정확하게 읽힌다.

자주 나오는 질문

은닉층이 늘어나면 표현력이 계속 좋아지는가. 보편 근사 정리에 따르면 은닉층 하나로도 임의의 연속 함수를 원하는 정확도로 근사할 수 있다. 다만 필요한 유닛 수가 지수적으로 커질 수 있고, 깊게 쌓으면 같은 함수를 훨씬 적은 파라미터로 표현할 수 있다는 결과들이 있다. 깊이의 이점은 표현 가능성이 아니라 표현 효율에 있다.

그림 4의 오른쪽이 이 자료에서 가장 중요한 그림이다. 은닉층이 하는 일은 결국 좌표계를 바꾸는 것이다. 입력 공간에서 뒤엉켜 있던 점들이 새 공간에서는 가지런해진다. 딥러닝 전체가 이 조작을 여러 번 반복하는 일이라고 요약해도 크게 틀리지 않는다.

겹침 현상도 눈여겨보자. 입력 (0,1)과 (1,0)이 은닉층 출력에서는 같은 점이 된다. 서로 구분할 필요가 없는 정보를 은닉층이 버린 것이다. 표현 학습이란 무엇을 남기고 무엇을 버릴지 정하는 일이라는 관점을 여기서 심어 둘 수 있다.

다른 구성도 가능하다. NAND와 OR을 은닉 유닛으로 두고 AND로 결합하는 방식도 XOR을 만든다. 정답 구조가 유일하지 않다는 사실이 뒤에 나올 역전파 논의와 직접 이어진다.

신용 할당이라는 말은 원래 공을 누구에게 돌릴 것인가라는 뜻이다. 최종 결과가 나빴을 때 그 책임이 어느 파라미터에 얼마나 있는지를 배분하는 문제다. 강화학습에서도 같은 이름의 문제가 시간축을 따라 등장한다.

당시 시도됐던 우회책들도 언급할 가치가 있다. 중간층 가중치를 무작위로 고정하고 출력층만 학습시키는 방법이 실제로 쓰였다. 이 발상은 훗날 극한 학습 기계나 저수지 컴퓨팅이라는 이름으로 되살아난다. 또 하나는 가중치를 무작위로 흔들어 보고 오차가 줄면 채택하는 방식인데, 파라미터가 조금만 많아져도 비현실적으로 느려진다.

왜 무작위 탐색이 안 되는가를 수치로 확인해 보자. 가중치가 100개이고 각각 열 가지 값만 시도한다 해도 조합이 10의 100제곱이다. 기울기가 주는 정보는 이 탐색을 방향이 있는 이동으로 바꿔 준다. 역전파의 가치가 바로 이 지점에 있다.

이 책의 실제 기여는 퍼셉트론이 무엇을 계산할 수 있는지를 엄밀하게 규명한 것이다. 예를 들어 도형이 연결되어 있는지를 판정하는 문제나 홀짝을 세는 문제에서, 필요한 입력 연결의 수가 입력 크기에 따라 어떻게 커지는지를 분석했다. 오늘날의 계산 복잡도 관점에 가까운 작업이었다.

이 사례는 과학 저작이 공동체에 미치는 영향이라는 관점에서도 읽을 수 있다. 내용의 정확성과 그 내용이 유통되며 획득한 의미가 서로 다를 수 있다. 오늘날 논문의 한 줄이 소셜 미디어에서 다른 명제로 요약되어 퍼지는 일과 구조가 같다.

로젠블랫이 1971년에 사고로 사망했다는 사실도 흔히 함께 언급된다. 반론을 이어 갈 중심 인물이 사라진 것이 침체를 길게 만든 요인 중 하나로 지목되기도 한다. 다만 이것은 정황이지 인과의 증거는 아니다.

중의성 문제를 예로 보자. pen이라는 단어는 필기구일 수도 있고 우리일 수도 있다. 상자가 우리 안에 있다는 문장과 펜이 상자 안에 있다는 문장을 구분하려면 크기에 관한 상식이 필요하다. 이것은 문법 규칙으로 풀 수 있는 문제가 아니다.

이 문제가 결국 어떻게 풀렸는지도 함께 보아야 한다. 1990년대에 IBM이 규칙 대신 대량의 대역 말뭉치와 통계로 접근하면서 실용성이 올라갔고, 2014년 이후 신경망 번역이 다시 판을 바꿨다. 즉 이 문제는 더 정교한 규칙이 아니라 접근 방식의 교체로 해결됐다. 벽에 부딪힌 방법을 개선하는 것과 방법을 바꾸는 것 중 무엇이 필요한지 판단하는 일이 연구에서 얼마나 어려운지를 보여 주는 사례다.

라이트힐은 AI 연구를 세 범주로 나누어 평가했다. 자동화 응용, 뇌 연구를 위한 컴퓨터 모형, 그리고 그 둘을 잇는다고 주장하는 중간 영역이다. 그의 비판은 특히 중간 영역에 집중됐다. 응용도 아니고 생물학적 이해도 아닌 채 일반 지능을 표방하는 연구가 성과를 내지 못했다는 것이다.

보고서 발표 후 BBC에서 라이트힐과 매카시 등이 참여한 공개 토론이 열렸다는 점도 흥미로운 대목이다. 과학 정책 논쟁이 방송으로 다뤄진 드문 사례이고, 학문 공동체가 외부의 평가에 어떻게 대응하는지를 보여 준다.

보고서는 1972년 7월에 제출되어 1973년에 Artificial Intelligence: A Paper Symposium으로 출간됐다. 그래서 자료에 따라 1972년으로 표기되기도 한다.

여기서 조합 폭발의 의미를 수치로 확인해 보자. 체스에서 한 수당 가능한 선택이 평균 35개라면, 4수를 내다보는 데 약 150만 가지, 8수면 10의 12제곱을 넘는다. 하드웨어가 백만 배 빨라져도 내다보는 깊이는 몇 수 늘어나는 데 그친다. 지수적 증가 앞에서는 하드웨어 개선이 무력하다는 감각이 핵심이다.

모라벡의 역설은 조금 더 들여다볼 가치가 있다. 진화의 시간을 근거로 삼는 설명이 널리 인용된다. 시각과 운동은 수억 년에 걸쳐 최적화된 능력이라 우리가 의식하지 못할 만큼 자동화되어 있고, 추상적 추론은 수만 년 정도의 짧은 역사를 가진 능력이라 의식적 노력이 필요하다. 우리가 어렵다고 느끼는 정도와 계산적으로 어려운 정도가 반대로 배열되어 있는 셈이다.

이 역설은 지금도 유효하다. 대규모 언어모델이 변호사 시험 문제를 푸는 수준에 도달한 반면, 처음 보는 부엌에서 그릇을 정리하는 로봇은 여전히 어렵다. 이 대비를 기억해 두면 기술 발전의 방향을 예측할 때 흔히 저지르는 오류를 피할 수 있다.

상식 지식 문제에 정면으로 도전한 시도도 있었다. 1984년에 시작된 Cyc 프로젝트는 상식을 수백만 개의 논리 명제로 직접 입력하려는 시도였고, 수십 년간 이어졌다. 결과적으로 기호주의의 한계를 확인하는 대규모 실험이 됐다.

홉필드 네트워크의 역할도 짚어 둘 만하다. 홉필드는 신경망의 상태를 물리학의 에너지 함수로 기술했고, 학습과 회상을 에너지가 낮아지는 과정으로 설명했다. 이 언어가 물리학자 집단을 이 분야로 끌어들였고, 1980년대 중반 연결주의 부흥의 인적 기반이 됐다. 방법론의 전환만이 아니라 어떤 분야의 사람들이 유입되는가가 연구 흐름을 바꾼다는 점을 보여 준다.

후쿠시마의 네오코그니트론은 계층적 특징 추출, 국소 수용장, 위치 불변성이라는 오늘날 CNN의 핵심 요소를 이미 갖고 있었다. 없었던 것은 역전파로 전체를 한꺼번에 학습시키는 방법이다. 르쿤이 1989년에 이 구조에 역전파를 결합하면서 LeNet 계열이 나온다. 아이디어가 조각으로 흩어져 있다가 결합되는 전형적인 과정이다.

전문가 시스템의 구조를 한 번 그려 보자. 지식 베이스와 추론 엔진이 분리되어 있다는 점이 핵심이다. 규칙은 IF 조건 THEN 결론 형태로 저장되고, 추론 엔진이 이를 연쇄적으로 적용한다. 지식과 처리를 분리한 이 설계 덕분에 같은 엔진에 다른 도메인의 규칙을 갈아 끼울 수 있었고, 껍데기만 파는 상품도 등장했다.

MYCIN은 정확도가 높았음에도 임상에서 실제로 쓰이지 않았다. 이유는 기술 외적인 것이었다. 오진의 법적 책임을 누가 지는가, 의사가 기계의 판단을 어떻게 신뢰할 것인가, 당시의 컴퓨터 접근성은 어떠했는가 같은 문제들이다. 오늘날 의료 AI가 마주하는 쟁점과 거의 같다. 기술의 성능과 실제 도입은 다른 문제다.

MYCIN이 남긴 또 하나의 유산은 확신도 개념이다. 규칙마다 확신의 정도를 수치로 붙여 불확실성을 다루려 했다. 이 시도가 이후 베이지안 네트워크로 이어지는 흐름의 앞자리에 놓인다.

지식 획득 병목은 조금 더 구체적으로 볼 가치가 있다. 전문가는 자신이 무엇을 알고 있는지를 명시적으로 말하지 못하는 경우가 많다. 숙련된 의사가 환자를 보고 판단하는 과정을 규칙으로 옮기려 하면, 본인도 언어화하지 못하는 부분이 반드시 남는다. 이 문제를 다루는 지식 공학자라는 직군까지 생겼지만 근본적 해결은 되지 않았다.

이 지점이 왜 기계학습이 결국 이겼는지를 설명한다. 사람이 규칙을 말로 옮길 필요 없이, 사례만 충분히 모으면 되기 때문이다. 지식을 언어화하는 비용에서 데이터를 수집하고 레이블을 붙이는 비용으로 문제가 옮겨 간 것이다.

LISP 머신의 몰락은 범용 하드웨어의 승리라는 더 큰 패턴의 한 사례다. 전용 하드웨어는 성능 우위를 갖지만 범용 하드웨어는 훨씬 큰 시장 규모 덕분에 개선 속도가 빠르다. 여기에 흥미로운 반전이 있다. 2010년대 이후에는 GPU와 TPU 같은 특화 하드웨어가 다시 중심에 섰다. 같은 패턴이 반복되는가, 아니면 이번에는 조건이 다른가.

일본 5세대 컴퓨터 프로젝트도 짚어 둘 만하다. 10년에 걸친 대형 국가 과제였고 병렬 논리 프로그래밍이라는 뚜렷한 기술 노선을 걸었다. 목표 대비 성과가 부족했다는 평가가 일반적이지만, 병렬 처리와 제약 프로그래밍 분야에 남긴 축적은 별도로 평가된다. 기술 노선을 국가가 선택할 때의 위험을 보여 주는 사례다.

이 표에서 가운데 열은 양쪽 열과 별개의 흐름이다. 이것이 핵심이다. 시기가 겹칠 뿐 대상도 원인도 종료 계기도 다르다. 세 열을 하나의 이야기로 합치면 반드시 연도가 어긋난다.

자금 중단의 근거로 인용된 문서를 직접 확인해 볼 수도 있다. ALPAC과 라이트힐 보고서는 모두 공개 문서이고, 두 보고서 어디에도 신경망의 한계가 자금 중단의 이유로 등장하지 않는다. 역사적 주장을 검증할 때는 당시의 일차 자료를 확인하는 습관이 중요하다.

2차 겨울이 끝난 방식도 특이하다. 이번에는 새로운 돌파가 아니라 이름을 바꾸는 방식이 함께 작동했다. 연구자들이 AI 대신 기계학습, 패턴 인식, 지능형 시스템 같은 용어를 쓰기 시작했고, SVM과 베이지안 네트워크처럼 이론적 보장이 명확한 방법들이 그 자리를 채웠다. 분야가 살아남는 방식이 항상 기술적 승리는 아니라는 점을 보여 준다.

여기서 자주 나오는 오해를 정면으로 다룬다. 딥러닝은 경사하강법이 발명되어 가능해진 것이 아니다. 경사하강법은 140년 전 도구이고, 신경망에 적용된 것도 1986년 기준으로 26년 전 일이었다. 새로웠던 것은 그 도구를 층 너머로 전달하는 방법이다.

정리하면 이렇다. 필요했던 것은 세 가지의 결합이다. 첫째 층을 쌓은 구조, 둘째 미분 가능한 비선형 활성화, 셋째 역방향 기울기 계산. 이 중 첫째는 오래전부터 있었고, 둘째는 계단 함수를 시그모이드로 바꾸는 작은 변경이었으며, 셋째가 진짜 새로운 부분이었다.

기울기가 0이라는 말의 의미를 풀어 주는 것이 여기서 가장 중요하다. 기울기 0은 이 가중치를 아주 조금 흔들어도 출력이 바뀌지 않는다는 뜻이다. 계단 함수에서는 실제로 그렇다. 임계값을 넘길 만큼 크게 흔들지 않는 한 출력이 그대로이고, 넘기는 순간 0에서 1로 튄다. 그래서 어느 방향으로 얼마나 가야 좋아지는지에 대한 정보가 국소적으로 아예 없다.

시그모이드는 이 계단을 완만한 경사로 바꿔 놓는다. 조금 흔들면 출력도 조금 바뀌고, 그 조금이 방향 정보를 준다. 이 정보가 층을 거슬러 전달되는 것이 역전파다. 미분 가능성은 수학적 형식의 문제가 아니라 정보의 문제라는 관점을 여기서 심어 준다.

시그모이드가 정답은 아니라는 점도 이 자리에서 예고해 둔다. 오늘날 주력인 ReLU는 0에서 미분이 정의되지 않고 음수 구간에서는 기울기가 0인데도 잘 작동한다. 시그모이드는 오히려 양 끝에서 기울기가 0에 가까워져 깊은 망에서 문제를 일으킨다. 시그모이드는 계단 함수의 기울기 0 문제를 피하는 가장 자연스러운 첫 대안이었을 뿐이며, 더 나은 대안이 나오자 교체됐다.

수식 두 줄이 역전파의 전부다. 위 식은 어떤 가중치의 기울기가 도착 유닛의 오차 신호와 출발 유닛의 활성값의 곱이라는 뜻이다. 아래 식은 그 오차 신호가 윗층의 오차 신호를 가중합한 뒤 활성화 함수의 도함수를 곱해 만들어진다는 뜻이다. 재귀 구조이므로 출력층에서 시작해 아래로 한 번 내려가면 끝난다.

여기서 기울기 소실의 원인이 이미 보인다. 아래 식에 f′가 곱해져 있고, 층을 내려갈 때마다 이 곱셈이 반복된다. 시그모이드의 도함수 최댓값이 0.25이므로 층마다 최소한 4분의 1로 줄어든다. 열 층이면 100만 분의 1 아래다. 이 계산을 직접 해 보면 뒤에 나올 그림 6이 자연스럽게 이해된다.

계산 비용도 구체적으로 비교해 보자. 가중치가 W개일 때 순방향 방식은 각 가중치마다 전체 순전파를 다시 해야 하므로 대략 W배의 비용이 든다. 역방향 방식은 순전파 한 번과 역전파 한 번, 즉 상수 배의 비용으로 끝난다. 파라미터가 수억 개인 오늘날의 모델에서 이 차이는 가능과 불가능의 차이다.

더 넓은 맥락에서 보면 역전파는 역방향 자동 미분의 한 사례다. 오늘날의 딥러닝 프레임워크는 이 계산을 계산 그래프 위에서 일반화해 자동으로 수행한다. 파이토치에서 backward를 호출할 때 안에서 벌어지는 일이 바로 이것이다.

이 논문에서 XOR은 사실 가장 덜 중요한 예제였다. 같은 논문에는 대칭성 판별, 이진 덧셈, 가족 관계 추론 같은 더 큰 과제들이 함께 실려 있다. 그런데도 XOR이 상징으로 남은 이유는 17년 전의 지적에 대한 직접적인 응답이었기 때문이다. 기술적 중요도와 상징적 중요도가 다르다는 사례다.

아래 실습에서 직접 확인할 수 있다. 은닉 유닛 두 개짜리 XOR 네트워크를 여러 초기값으로 학습시킨 뒤 은닉 유닛이 실제로 어떤 함수가 되었는지를 보면, 어떤 초기값에서는 OR과 AND에 가까운 것이 나오고 다른 초기값에서는 전혀 다른 두 직선이 나온다. 그런데 최종 출력은 모두 XOR이다. 해가 유일하지 않다는 점, 그리고 사람이 이해하기 쉬운 해가 반드시 선택되지는 않는다는 점이 여기서 드러난다.

이 관찰은 마지막 장의 해석가능성 논의와 직접 이어진다. 신경망이 찾은 표현이 사람의 개념과 대응하지 않는 것은 예외가 아니라 기본값이다. 유닛 두 개짜리 XOR에서도 이미 그렇다.

기울기 폭발도 함께 봐야 균형이 맞는다. 가중치가 크면 역방향 곱셈에서 값이 지수적으로 커져 학습이 발산한다. 특히 순환 신경망에서 심각했고, 기울기 클리핑이라는 실용적 대응이 나온다. 소실과 폭발은 같은 곱셈 구조에서 나오는 양방향 증상이다.

LSTM이 이 문제에 대한 구조적 해법이었다는 점도 여기서 연결할 수 있다. 셀 상태를 따라 기울기가 곱해지지 않고 더해지며 흐르는 경로를 만든 것이고, 같은 발상이 훗날 잔차 연결로 재등장한다. 기울기가 지나갈 지름길을 만든다는 아이디어가 서로 다른 시기에 두 번 나온 셈이다.

당시의 규모도 감을 잡아 두자. 1990년대 초의 대표적 실험은 수만 개 샘플과 수만 개 파라미터 수준이었다. 오늘날 기준으로는 노트북에서 몇 분이면 끝나는 규모다. 이 격차가 무엇을 가능하게 했는지가 다음 장의 주제다.

SVM이 왜 매력적이었는지를 보면 당시 분위기가 전해진다. 볼록 최적화 문제이므로 전역 최적해가 보장되고 초기값에 따라 결과가 달라지지 않는다. 일반화 성능에 대한 이론적 상한도 제시됐다. 반면 신경망은 국소 최적해에 빠질 수 있고, 초기값과 하이퍼파라미터에 민감하며, 왜 잘 되는지 설명하기 어려웠다. 당시 기준으로 신경망은 이론적으로 열등한 방법이었다.

흥미로운 점은 이 평가가 뒤집힌 방식이다. 신경망의 이론적 문제들이 해결되어서가 아니라, 데이터와 연산이 커지자 실제 성능이 압도적으로 좋아졌기 때문이다. 국소 최적해 문제는 고차원에서는 생각만큼 심각하지 않다는 이해가 나중에야 정리됐다. 이론적 우아함과 실용적 성능이 항상 같은 방향은 아니라는 점을 보여 주는 대목이다.

힌턴, 벤지오, 르쿤 세 사람이 이 시기에 소수파로 남아 연구를 이어 갔고 2018년 튜링상을 공동 수상했다. 다만 이것을 소신의 승리라는 미담으로만 읽지 않는 편이 좋다. 같은 시기에 다른 방향을 밀고 나갔다가 결과를 보지 못한 연구도 많다. 사후에 성공한 사례만 보면 생존 편향이 생긴다.

ImageNet의 기여를 데이터 크기로만 보면 절반만 보는 것이다. 더 중요한 것은 공개된 공통 벤치마크였다는 점이다. 모두가 같은 문제를 같은 척도로 풀면서 진전이 누적적으로 측정됐다. 매년 열린 대회가 개선의 속도를 끌어올렸다. 벤치마크의 설계가 분야의 방향을 결정한다는 점, 그리고 벤치마크에 과적합되는 부작용도 함께 생각해 볼 만하다.

GPU 이야기에는 우연의 요소가 크게 작용했다. GPU는 신경망을 위해 설계된 하드웨어가 아니라 3차원 그래픽스를 위해 만들어진 장치였다. 게임 시장이 키운 대량 생산 부품이 우연히 신경망 연산과 구조적으로 맞았고, 2007년 CUDA 공개로 일반 프로그래머가 접근할 수 있게 됐다. 기술의 전개에서 인접 분야의 발전이 결정적 역할을 하는 사례다.

2006년 층별 사전학습은 역사적 위치가 조금 특이하다. 깊은 망을 한 층씩 비지도로 미리 학습시킨 뒤 전체를 미세조정하는 방법이었고, 딥러닝이라는 용어가 널리 쓰이기 시작한 계기가 됐다. 다만 이 기법 자체는 이후 ReLU와 개선된 초기화가 등장하면서 거의 쓰이지 않게 된다. 분야를 열었지만 자신은 대체된 기법이라는 점이 흥미롭다.

AlexNet의 구성 요소 중 새로 발명된 것은 사실 거의 없다. 합성곱 구조는 1980년과 1998년에, ReLU는 그 이전에, 드롭아웃은 같은 무렵에 나와 있었다. 기존 요소들을 충분한 데이터와 GPU 위에서 결합한 것이 기여였다. 연구에서 종합이 발명만큼 중요할 수 있다는 사례로 쓸 수 있다.

격차의 크기도 중요했다. 당시 이 대회의 연간 개선폭은 1~2퍼센트포인트 수준이었다. 10퍼센트포인트는 그 흐름 밖의 숫자였고, 그래서 개선이 아니라 방법의 교체로 읽혔다. 연구 공동체가 방향을 바꾸는 데는 점진적 우위가 아니라 해석의 여지가 없는 격차가 필요하다는 점이 드러난다.

사람의 오류율 5.1퍼센트라는 수치는 특정 평가 조건에서 나온 참고값이다. 이 숫자를 넘었다는 것이 곧 사람보다 잘 본다는 뜻은 아니다. 실제로 이후 연구들은 이 모델들이 사람에게는 거의 영향이 없는 미세한 잡음에 쉽게 속는다는 점을 보였다. 벤치마크 성능과 실제 능력은 다르다는 점을 보여 준다.

잔차 연결이 왜 그렇게 효과적인가. 한 문장으로 말하면 이렇다. 출력이 F(x) + x이므로 미분하면 F′(x) + 1이 되고, 이 1이 기울기가 곱셈에 의해 사라지지 않는 통로가 된다. 곱셈으로 층을 잇던 구조에 덧셈 경로를 하나 뚫은 것이다.

ResNet 논문의 출발점은 정확도가 아니라 퇴화 현상이었다. 층을 늘리면 학습 오차조차 오히려 나빠지는 현상이 관찰됐다. 표현력이 늘었으니 최소한 같아야 하는데 그렇지 않았다. 즉 이것은 과적합이 아니라 최적화의 문제였고, 그 진단이 잔차 연결이라는 해법으로 이어졌다. 문제를 정확히 진단하는 것이 해법의 절반이라는 사례다.

여기서 시그모이드에 대한 평가를 정리해 두자. 시그모이드는 정답이어서 채택된 것이 아니라 계단 함수의 기울기 0 문제를 피하는 가장 자연스러운 첫 대안이었다. 더 나은 대안이 나오자 교체됐다. 기술사에서 과도기적 해법이 갖는 역할을 보여 준다.

어텐션의 직관을 간단히 잡아 보자. 각 단어가 질의를 던지고 다른 모든 단어가 키로 응답해, 관련도가 높은 쪽의 값을 더 많이 가져오는 구조다. 문장 안의 어떤 단어를 해석할 때 어느 단어를 참조할지를 데이터로부터 학습한다는 뜻이다.

순환 구조와 시간 축에서 비교하면 병렬화의 의미가 분명해진다. 순환 신경망은 길이 n의 문장을 처리하는 데 n번의 순차적 단계가 필요하다. 이 순서를 건너뛸 수 없으므로 GPU의 수천 개 코어가 대부분 놀게 된다. 어텐션은 모든 위치 쌍의 계산을 한 번에 행렬 곱으로 처리한다. 알고리즘의 우열이 아니라 하드웨어와의 궁합이 승부를 갈랐다는 관점이 여기서 나온다.

대가도 함께 봐야 균형이 맞는다. 모든 위치 쌍을 계산하므로 비용이 문장 길이의 제곱에 비례한다. 긴 문맥을 다루는 데 이 비용이 병목이 되고, 이를 줄이려는 연구가 지금도 활발하다. 트레이드오프 없는 구조 개선은 드물다.

스케일링 법칙이 실무에 미친 영향은 크다. 성능이 규모의 함수로 예측 가능하다는 것은, 작은 규모에서 실험한 뒤 큰 규모의 결과를 미리 계산할 수 있다는 뜻이다. 수백억 원이 드는 학습을 감행하기 전에 기대 성능을 추정할 수 있게 되면서 대규모 투자가 합리화됐다. 이 법칙이 없었다면 지금의 투자 규모는 정당화되기 어려웠을 것이다.

창발적 능력에 대해서는 신중하게 접근할 필요가 있다. 갑자기 능력이 생긴 것처럼 보이는 현상이 평가 지표를 어떻게 정의했는가에서 비롯된다는 반론이 있다. 정답을 완전히 맞혀야 점수를 주는 지표를 쓰면 계단처럼 보이고, 부분 점수를 주는 지표로 바꾸면 매끄러운 곡선이 된다는 것이다. 측정 방식이 현상의 모습을 만든다는 점에서 생각해 볼 만한 주제다.

정렬 문제도 이 흐름 안에서 위치를 잡을 수 있다. 초기 AI는 무엇을 시킬지 사람이 다 적어야 했다. 지금은 무엇을 하지 말아야 하는지를 적는 일이 더 어려워졌다. 규칙을 다 적을 수 없다는 문제가, 형태를 바꿔 다시 돌아온 셈이다.

생각해 볼 질문

지금의 규모 경쟁은 1980년대 전문가 시스템 붐과 무엇이 같고 무엇이 다른가. 이번에는 실제 제품과 매출이 존재한다는 점이 결정적 차이인가, 아니면 그때도 매출은 있었는가.

이 실험의 부수적 관찰 하나가 중요한 단서다. 무작위 레이블을 외우는 데는 시간이 훨씬 오래 걸린다. 실제 데이터에서는 학습 곡선이 빠르게 떨어지는데, 무작위 레이블에서는 완만하게 내려간다. 이것은 신경망이 규칙이 있으면 규칙을 먼저 쓰고, 없을 때만 어쩔 수 없이 외운다는 해석을 뒷받침한다.

고전 통계학의 그림과 어떻게 어긋나는지 정리해 보자. 편향-분산 절충에 따르면 모델 용량을 늘릴수록 훈련 오차는 계속 줄지만 테스트 오차는 어느 지점에서 다시 올라간다. 그래서 적절한 크기의 모델을 고르는 것이 핵심 과제였다. 그런데 오늘날의 모델은 그 지점을 한참 지나서도 잘 작동한다. 이론이 실무를 따라가지 못하고 있는 대표적인 영역이다.

실무적 함의도 분명하다. 이 불확실성 때문에 우리는 여전히 검증 데이터로 확인할 수밖에 없다. 학습을 시작하기 전에 이 설정이면 어느 정도 일반화된다고 계산으로 예측하지 못한다. 딥러닝이 여전히 경험 과학의 성격을 갖는 이유가 여기 있다.

다섯 가지 설명은 서로 배타적이지 않다. 실제로는 여러 요인이 동시에 작동할 가능성이 크고, 어느 것이 주된 원인인지를 가려내는 실험이 어렵다는 것이 현재의 상황이다.

이중 하강 곡선을 읽어 보자. 임계점 근처에서 오차가 치솟는 이유는 직관적으로 설명할 수 있다. 파라미터 수가 데이터 수와 거의 같으면 훈련 데이터를 정확히 맞히는 해가 사실상 하나뿐이고, 그 해는 데이터의 잡음까지 그대로 흡수한다. 파라미터를 더 늘리면 맞히는 해가 많아지고, 그중에서 경사하강법이 더 매끄러운 해를 고를 여지가 생긴다. 선택의 여지가 있다는 것 자체가 이득이라는 관점이다.

이 장은 조금 불편하게 읽힐 수 있다. 앞의 내용들이 명확한 인과로 정리됐는데 마지막에 와서 모른다는 답이 나오기 때문이다. 그러나 이것이 정확한 현재 상태이고, 모르는 부분의 경계를 아는 것도 공부의 일부다.

중첩이라는 개념을 조금 더 들여다보자. 표현해야 할 개념의 수가 사용 가능한 차원의 수보다 많으면, 개념들을 완전히 직교하게 배치할 수 없다. 대신 거의 직교한 방향들로 겹쳐 넣게 되고, 그 결과 하나의 뉴런이 여러 개념에 반응하는 다의성이 나타난다. 고차원 공간에서는 거의 직교한 방향을 차원 수보다 훨씬 많이 잡을 수 있다는 기하학적 사실이 이 현상을 뒷받침한다.

트랜스포머에서 발견된 유도 헤드도 흥미롭다. 앞에 나온 패턴을 찾아 그다음 토큰을 복사하는 회로이고, 이것이 형성되는 시점에 문맥 내 학습 능력이 갑자기 나타난다는 관찰이 있다. 능력이 여러 층에 걸친 회로로 구현된다는 점, 그리고 그 회로를 실제로 추적할 수 있다는 점이 함께 드러난 사례다.

이 연구 영역을 기계적 해석 가능성이라고 부른다. 겹쳐 있는 표현을 분리해 내기 위해 희소 오토인코더 같은 도구를 쓴다. 왜 이 연구가 필요한가. 모델이 어떤 판단을 내린 이유를 알 수 없으면, 그 판단이 틀렸을 때 무엇을 고쳐야 할지도 알 수 없기 때문이다.

가중치 수송 문제를 알면 이 표의 세 번째 행이 읽힌다. 역전파가 성립하려면 오차를 되돌려 보내는 경로의 가중치가 순방향 경로의 가중치와 정확히 같아야 한다. 그런데 뇌에서 축삭은 한 방향이고, 그런 대칭 경로는 발견되지 않았다. 무작위 고정 가중치로 오차를 되돌려도 어느 정도 학습이 된다는 실험 결과가 있어 이 제약을 완화하려는 시도가 이어지고 있다.

계층적 처리의 유사성은 왜 나타났을까. 우연이 아니라 설계 단계에서 참고했기 때문이다. 후쿠시마의 네오코그니트론은 허블과 비셀의 시각피질 연구에서 직접 영감을 받았다. 그리고 학습된 신경망의 중간층 반응으로 영장류 시각피질 뉴런의 반응을 예측하는 연구들이 상당한 정확도를 보고하고 있다. 참고에서 출발한 유사성이 사후에 검증되는 관계가 형성된 셈이다.

비유의 한계도 분명하다. 비행기와 새의 관계에 가깝다. 양력이라는 원리는 공유하지만 날개를 쓰는 방식은 다르다. 뇌를 이해하기 위해 신경망을 보는 것과, 신경망을 이해하기 위해 뇌를 끌어오는 것은 서로 다른 작업이며 둘 다 조심스럽게 다뤄야 한다.

이 패턴은 예측 도구로 쓸 수 있다. 새로운 기술 발표를 볼 때 세 가지를 확인해 보자. 첫째, 성과가 나온 조건이 얼마나 좁은가. 둘째, 시한을 명시한 예측이 그 좁은 조건에서의 진전 속도를 외삽한 것인가. 셋째, 확장을 막을 요인으로 무엇이 거론되고 있는가.

다만 겨울이 반드시 온다는 결정론으로 읽지는 말아야 한다. 과거 두 번의 겨울은 수익을 내는 응용이 없었다는 조건 위에서 발생했다. 이 조건이 달라졌다면 같은 결과가 반복된다는 보장은 없다. 역사에서 배우는 것은 예언이 아니라 무엇을 확인해야 하는지에 대한 목록이다.

스스로 답해 볼 만한 문항을 몇 개 남겨 둔다. 표현 가능성과 학습 가능성의 차이를 XOR을 예로 들어 설명하시오. 1차 AI 겨울과 연결주의 침체를 시기, 대상, 원인 세 항목으로 구분하시오. 시그모이드가 계단 함수를 대체한 이유와, 다시 ReLU에 대체된 이유를 각각 쓰시오. 스케일링 법칙이 대규모 투자를 정당화한 논리를 설명하시오.

마지막으로 이 자료의 태도를 한 번 더 확인해 두자. 역사를 다룰 때 가장 흔한 오류는 결과를 알고 나서 과거를 정리하는 것이다. 민스키와 페퍼트가 신경망을 죽였다는 서술, 힌턴이 홀로 옳았다는 서술 모두 사후 정리의 산물이다. 당시 사람들이 무엇을 알 수 있었고 무엇은 알 수 없었는지를 기준으로 판단하는 편이 정확하다.