구글의 알파고로 세계는 인공지능, 딥러닝, 머신러닝, AI에 눈을 뜨게 되고, 최근에는 AI로 만들어진 버추얼 아이돌(이터니티)이나 생성형 AI(우탁)의 가수들까지 나오면서 우리는 어느때 보다 더 많이 인공지능, AI라는 단어를 많이 듣고 있다.
사실 오래전인 1998년 사이버 가수 "아담" 이 국내 1호 사이버 가수였다. 사이버 가수 아담은 가수 박성철의 목소리에 원빈을 닮은 얼굴만 버추얼로 꾸며져 있어, 최근에 나오는 생성형 AI 가수와는 조금 차이가 있다.
그럼 이런 기술들은 어떻게 나온 것일까?
인공지능(人工智能) 또는 AI(영어: artificial intelligence, AI)는 인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현해서, 인간의 지능을 모방한 기능을 갖춘 컴퓨터 시스템으로 컴퓨터 과학의 세부분야 중 하나로 발전해 왔다.
이런 인공지능은 1943년 부터 황금기-암흑기-발전기-두번째 암흑기를 통해서 딥러닝이 탄생하게 되었다.
아래 순서대로 인공지능의 역사에 대해서 알아 보도록 하자
1.인공신경망의 탄생 (1943년~1952년)
2. 인공지능의 시작(1952년~1956년)
3. 인공지능의 황금기(1956년~1974년)
4. 인공지능의 암흑기(1974년~1980년)
5. 인공지능의 발전기(1980년~1987년)
6. 인공지능의 두번째 암흑기 (1987년~1993년)
7. 딥러닝의 탄생 (1993년~2011년)
1.인공신경망의 탄생 (1943년~1952년)
1890년대에 현미경과 은 염색법이 개발되면서 신경 세포인 뉴런의 실체가 세상에 드러나기 시작했고 과학자들은 뇌의 기능 단위는 뉴런이고 전기적 상태에 영향을 미친다는것을 증명했다.
뉴런의 끝부분을 시냅스라고 하는데 신호 전달에 의해 뉴런이 자주 활성화 될때 신호 전달을 강화하기 위해 시냅스 구조가 변하는 시냅스 가소성 상태가 되는데 이러한 변화된 시냅스 구조를 '기억의 흔적'이라고 부른다.
시냅스의 가소성은 1949년 캐나다 심리학자 도널드 헵(Donald O. Hebb)이 "지속해서 활성화 되는 뉴런은 연결된다"라는 헵의 가설을 발표하면서 학습과정에서 형성되는 장기 기억이 시냅스의 구조 변화와 연괸되어 있고 뇌에 자리 잡는 것을 시사 했다.
지능이 어떻게 만들어지고 어떻게 존재하는지 완벽히 밝혀내지는 못했지만 시냅스의 연결이 강화되거나 약화되는 과정에서 기억이 형성되고, 활용된다는 사실을 인공지능을 연구하는 과학자들이 이를 모방해서 지능을 구현하고자 했다.
신경생리학자인 매컬러(McCulloch)는 인간의 신경계를 범용 계산 장치로 모델링에 관심이 있었고, 천재 수학자 피츠(Pitts)를 만나면서 생체 뉴런의 특성을 가진 최초 인공신경망 매컬러-피츠(McCulloch-Pitts) 모델을 1943년에 발표로 인공신경망이 탄생했다. 매컬리와 피츠는 인간의 두뇌가 매우 강력한 연산 장치임을 증명하기 위해 이진 뉴런으로 구성된 신경망이 튜링 머신과 동등한 연산을 수행할수 있다는것을 증명했다. 이런 이진뉴런의 신경망 모델은 AI 창시자 폰 노이만에게도 큰 영향을 끼쳤다고 한다.
2. 인공지능의 시작(1952년~1956년)
인공지능의 시작에서 엘런튜링을 빼놓을수 없다. 엘런 튜링은 1912년 태어나, 수학과 과학에 관심으로 켐브리지대학 킹스칼리지에 입학해 수학을 전공한 그는 1936년 “계산 가능한 수와 결정문제의 응용에 관하여(On Computable Numbers, with an Application to the Entscheidungsproblem)”라는 논문을 쓴다.
그는 논문에서 인간의 논리적 사고를 기계에 비유한 하며 무한히 긴 띠, 지금의 CPU에 해당하는 기호를 읽는 기계로 구성된 가상의 장치인 튜링머신을 고안하였다. 당시 튜링머신을 실제 만든것은 아니지만, 실제 수학적 상상을 통해 개념과 구조를 제안하여 모든 형태의 기계적인 계산을 할 수 있다고 생각했다. 오늘날의 시각으로 보면 튜링머신(Turing machine)는 간단한 형태의 컴퓨터의 이론적인 기원으로 볼수 있다.
1950년 앨런 튜링은 ‘계산 기계와 지능(Computing Machinery and Intelligence)’라는 논문에서 기계가 생각할 수 있는지 테스트하는 방법, 지능적 기계의 개발 가능성, 학습하는 기계 등에 대해 기술하였고, 이러한 튜링 테스트는 인공지능 역사의 시작이라고 보고 있다.
많은 과학자가 참여한 1956년 여름 다트머스 컬리지에서 10명의 과학자자 모인 AI 컨퍼런스에서 인공지능이라는 용어가 처음 사용되었으며, 인공지능학의 시초이며 장밋빛 전망이 최고에 도달했다.
엘런 튜링은 영화 이미테이션 게임의 실제인물로 영화내용에 있듯이, 수학적 재능을 이용해 코드브레이커(codebreaker)로서, 2차 세계대전 당시 24시간 마다 바뀌는 암호 체계인 독일군의 애니그마 암호 해독에 중요한 역할을 담당함으로서 제2차 대전 당시 연합군의 승리에 결정적 역할을 했다고 알려져 있다.
3. 인공지능의 황금기(1956년~1974년)
이 시기에 메컬러-피츠 모델은 학습과정이 없어 매번 신경망의 구성이 바뀌어야 해서 1957년 프랭크 로젠블랫(Frank Rosenblatt)은 헵의 학습가설에 따란 인공 신경망이 스스로 문제에 맞춰 학습하는 모델인 퍼셉트론(Perceptron)이라는 신경망 구조의 입력과 출력 노드가 연결되어 알파벳과 숫자를 인식하는데 성공하여 인공 신경망 기반 인공지능이 탄생하게 되었다.
1959년에는 데이비드 허블(David Hubel)과 트르스텐 비셀(Torsten Wiesel)이 고양이를 사용해 시각 피질에 있는 뉴런의 기능에 대한 연구로 후에 두사람은 노벨상을 수상하기도 했다.
인공지능이 연구가 될때 "실세계의 사물과 사상을 기호화하고 그들 사이에 관계를 정해주면 논리적 추론을 통해 지능을 만들수 있다"고 생각하는 기호주의 학파와, "뉴런수준에서 지능이 형성되는 과정을 모방하면 데이터로부터 스스로 지능을 만들수 있다"라는 연결주의 학파가 있었다.
1969년 기호주의 학파 마빈 민스키(Marvin Lee Minsky)와 시모어 페퍼트(Seymour Papert)는 저서를 통해 퍼셉트론은 AND 또는 OR 같은 선형 분리가 가능한 문제는 가능하지만, 비선형 문제인 XOR문제에는 적용할 수 없다는 것을 수학적 증명으로 발표를 했다. 인공지능의 가능성을 얼어 붙게 하는 사건이었다. 이로인해 인공지능은 학계에서 외면당하기 시작하였다.
4. 인공지능의 암흑기(1974년~1980년)
1957년 세계최초의 인공위성인 스푸트닉을 러시아에서 쏘아 올리자 미국은 국립연구회 중심으로 러시아의 논문을 자동으로 번역해주는 프로젝트에 막대한 자금을 지원하였으나 인공지능의 기술이 이렇다할 성과를 내지 못해 1966년 기계번역에 대한 AI 연구자금을 2천만달러를 전격 중단하였고, 영국의 라이트힐 경의 영국의회에 “폭발적인 조합증가(Combinational explosion)를 인공지능이 다룰수 없다” 라고 보고함으로써, 사실상 인공지능에 대한 대규모 연구는 중단되어 다시 한번 암흑기에 접어들게 된다.
이때 딥러닝의 아버지인 제프리 힌턴 교수는 캠프리지 대학에서 영국의 연구지원금 중단으로 카네기 멜론 대학으로 이동하게 된다.
마빈 민스키는 3-8년 안에 평균정도의 인간지능을 가진 기계가 나타날것이라고 예측까지 하였으나 비선형 문제에 대한 컴퓨터 성능 때문에 계산이 불가하고, 지식을 기호로 변환하고 검색을 통해 추론을 하는 당시의 인공지능으로는 사람과 같이 보고, 듣고, 움직이는 등의 기본적인 행동들의 실행하기 위해 사람이 규칙을 일일이 생성하고 이를 조합하여 논리적인 결과를 얻어내야 하는데 그 과정이 너무 복잡하여 한계가 있었다.
1970년대 이후 대부분 기업은 R&D 방향을 실용적인 통계기술에 집중하게 되며, 피셔/피어슨을 시작으로 영국의 조지 박스, 일본의 다구치 같은 학자들에 의해 현대통계학이 시작되면서 데이터 마이닝 기법으로 산업계의 생산성을 해결하는 도구로 현재까지 사용중이다.
5. 인공지능의 발전기(1980년~1987년)
1974년 하버드 대학교에서 공부하던 폴 워보스(Paul Werbos)는 박사학위 논문에서 다층 퍼셉트론을 학습시킬수 있는 역전파(back propagation) 알고리즘을 제안한다. 워보스는 일반적인 그래프 형태의 네트워크에서 작동하는 역전파 알고리즘을 제안했지만 안타깝게도 당시는 인공 신경망 연구의 침체기였기 때문에 신경망 커뮤니티로 역전파 알고리즘의 존재가 알려지지 않았고 그의 학위 논문은 1982년에 논문으로만 발표되었다.
그 후 역전파 알고리즘이 역사에 묻힐 뻔 하였으나 10년후인 1985~1986년 인공 신경망을 연구하던 데이비드 루멜하트(David Rumelhart), 제임스 매클럴런드(James McClelland), 제프리 힌턴(Geoffrey hinton), 로널드 윌리엄스(Ronald Williams), 데이비스 파커(David Parker), 안르쿤(Yann Le Cun)에 의해 재발견되었다.
루멜하트와 제프리 힌튼, 메클럴런드가 출판한 "병렬분산 처리"에 역전파 알고리즘이 소개되면서 신경망 커뮤니티에 알려지게 되면서 다층 퍼셉트론을 학습시킬 수 있게 되었다. 그동안 퍼셉트론으로 풀수 없었던 비선형 XOR 문제를 풀수 있게 되면서, 신경망은 패턴인식을 통해 문자, 인식, 영상 등의 인식에 크게 기여했다.
신경망을 위한 역전파 기술이 없다면 오늘날 우리가 볼 수 있는 깊이까지 딥러닝 네트워크를 훈련시키는 것이 불가능하여, 역전파는 현대 신경망과 딥러닝의 기초로 간주될 수 있다.
그러나 역전파 알고리즘이 발견된 이후에도 인공 신경망은 여전히 잘 활용되지 못했다. 인공 신경망의 학습을 어렵게 만드는 과접합과 그레디언트 소실 문제가 해결되지 않았기 때문이다.
이때 제프리 힌트 교수는 카네기 멜론대학에서 컴퓨터 과학과 교수였으나 연구자금이 미국의 군사자금이며 군사적 목적에 사용되는것이 불편했고, 캐나다 토론토 대학에서의 제안으로 1987년 토론토 대학에서 연구를 시작하였다.
6. 인공지능의 두번째 암흑기 (1987년~1993년)
다층 신경망의 제한적 성능과 느린 컴퓨터의 속도로 복잡한 계산이 필요한 신경망 연구가 정체되었다. 적층을 해서 신경망을 늘려도 컴퓨터가 느리기 때문에 이를 해결할 수 없게 되었다. 따라서 미국방성 등 인공지능 연구 기금이 대폭 축소되었고 인공지능 연구는 두 번째 암흑기를 맞게 되었다. 이때 미국에서는 300개 이상의 상업용 인공지능 관련 회사가 사라지게 되었다.
하지만 이런 인공지능의 암흑기에서도 미국의 응용 수학자 리처드 벨먼(Richard Ernest Bellman) 등이 주장한 기계제어를 위한 강화학습(Reinforcement Learning), 영국의 통계학자 조지 박스(George Edward Pelham Box) 와 일본의 통계학자 다꾸치의 실험계획법 및 통계적 공정(품질) 기법들이 산업 분야에 활용되고 있었다.
7. 딥러닝의 탄생 (1993년~2011년)
검색 엔진의 발달과 방대한 데이터를 수집할 수 있게 되었고, 빅데이터를 분석하여 인공지능 시스템 자신 스스로 학습하는 머신러닝 형태로 진화하게 되면서 인터넷과 함께 인공지능은 다시 부활하게 되었다.
IBM은 1996년 딥 블루(Deep Blue)가 체스 세계 챔피언이었던 가리 카스파로프에게 도전장을 내밀었다가 졌다. IBM은 딥 블루를 더욱 고도화 하여 1997년 재도전으로 6번의 대국 끝에 이겼다. 인간은 보통 10수 앞을 내다볼 수 있는데, 슈퍼컴퓨터였던 딥 블루는 12수까지 계산을 할 수 있었다. 2011년에는 왓슨이 TV 퀴즈 쇼에서 인간 우승자들에게 승리했다. 사람들의 질문을 이해하고 맥락을 이해해서 답변을 했다.
과적합과 그레이디언트 소실문제는 오랫동안 해결되지 못해 인공 신경망을 활용하는데는 한계가 있었으나, 2006년 제프리 힌턴은 "A Fast Learing Algorithm for Deep Belief Nets" 논문 발표로 심층신뢰 신경망으로 안정적으로 학습시킬 수 있는 GPU기반 딥러닝 방법을 제시한다.
이후, 제프리 힌턴은 드롭아웃 기법을 제안하여 RBM의 사전학습과 계층을 쌓는 전처리 과정 없이도 딥러닝 모델을 바로 학습할수 있도록 했다. 불가능이라 여겨졌던 비지도 학습방법이 가능해졌고, 몇 분야에서는 인간의 수준을 뛰어넘은 결과물이 속속 나타나게 되었다. 딥러닝 알고리즘은 주로 음성 인식, 영상 이해, 기계 번역 등에 쓰이고 있다.
하지만, 당시는 영상인식에 대한 발전에 한계를 느끼는 시기였기때문에 이런 논문에 대한 관심도가 떨어져 있어 알려지지 않았으나, 2012년 이미지넷(IMAGENET)이 주최하는 이미지 인식 경연대회(ILSVRC)에서 우승하면서 딥러닝이 세상에 알려지게 되었다.
이미지넷 대회는 사진속의 대상을 인식하는데 2011년까지 인식 오류율이 26%였고, 1년동안 1%를 올리기 힘든 상황인데, 토론토 대학의 슈퍼비전팀(SuperVision)이 딥러닝을 이용한 Deep convolutional netural network를 적용한 알렉스넷(AlexNet)으로 16.4%의 오류율의 놀라운 기록으로 우승을 하게 되었다. 2015년에는 사람의 능력(5.1%)를 뛰어 넘는 3.6%의 오류율을 달성하기 시작했다.
이후, 제프리 힌튼 교수는 컴퓨터 비전 스타트업인 DNN 리서치를 설립하고, 2013년에는 구글에 인수되어 구글 브레인 팀으로 활동을 하게 된다. 구글은 그 이전 2011년에 구체적인 사업모델은 없고 단지 12명의 딥러닝 전문가가 있는 딥마인드를 인수 하였다. 당시 캐나다 몬트리올 대학 요수아 벤지오는 "전 세계 인공지능 분야에서 핵심연구원은 약 50여명인데 12명이 딥마인드에 있다는것으로 이 회사의 가치는 알수 있다"라고 할 정도로 딥마인드의 딥러닝 전문가의 재능을 인수한것이다.
딥마인드와 DNN리서치를 인수한 구글은 2016년 딥러닝 개념의 알파고라는 인공지능 바둑 프로그램으로 한국의 이세돌 9단과 4대 1로 승리하게 된다. 알파고는 지도학습과 비지도 학습을 동시에 사용하는데, 비지도 학습의 강화학습 기술로 대국을 두면서 학습할 수가 있었다.
바둑은 체스와 다르게 경우의 수가 너무 많기 때문에 이를 다 학습하기에는 불가능한 영역으로 여겨졌음에도 불구하고, IBM의 딥블루가 체스 챔피언을 물리 친 지 20년만에 바둑까지 인간 챔피언을 이기게 되면서 인공지능(AI)기술이 일반인들에게도 확실히 인식되고, 완전히 재조명되는 계기가 되었다.
이러한 인공지능 발전의 3대 대부로는 토렌토 대학 제프리 힌튼, 몬트리얼 대학 요슈아 벤지오, 뉴욕대학 얀 르쿤으로 가까운 거리에서 발전되었다.
제프리 힌튼은 앞서 이야기 했듯이 인공신경망을 부활시킨 딥러닝의 창시자로 영국 출신의 인지 심리학자 및 컴퓨터 과학자로 구글과 토렌트 대학교에 재직 중이었으나 2023년 AI 발전으로 인한 위험성을 경고하면서 구글을 퇴사하였다.
얀 르쿤은 제프리 힌튼의 박사 후 연구원으로써 프랑스 출신 컴퓨터 과학자로 CNN(Convolutional Neural Network) 등의 기술로 이미지 인식의 아버지로 페이스 북의 AI 리서치를 이끌고 있다.
요슈아 벤지오는 캐나다 컴퓨터 과학자로 이미지 학습기술인 생석적 적대 신경망(GAN, Generative Adversarial Network, 비지도 학습에 사용되는 인공신경망)의 발명자로 알려져 있다.
이렇게 인공지능은 갑자기 생겨난 것이 아닌 오랜시간을 두고 발전해 왔다.
필자도 2001년부터 로보틱스와 영상처리를 연구하면서 Genetic algorithm 과 Neural network을 사용하였고 파이쎤을 알게 되면서 인공지능을 접하게 되었다. 하지만 그때는 제프리힌튼 교수의 연구가 발표되기 전으로 영상인식 오류율이 상당히 높아서 한계를 느끼고 로봇틱스나 제어 분야에 활용을 해왔던 기억이 난다. 지금은 많은 분야에 인공지능이 사용되고 있고 이를 활용한 사업모델(마켓컬리, 왓차 등) 이 생기고 있다.
'사이언스 스캔들' 카테고리의 다른 글
| Scandal 14. 인공위성은 떨어지지 않고 어떻게 계속 지구를 돌수 있을까? (108) | 2024.05.07 |
|---|---|
| Scandal 13 (Part 1). 달이 지평선에서 더 크게 보인다? (6) | 2024.04.25 |
| Scandal 11. 하늘은 파란색인데 노을은 왜 붉은색일까? (4) | 2024.04.25 |
| Scandal 10. 금속은 광택이 난다 (2) | 2024.04.25 |
| Scandal 9. 겨울철 패딩이나 털옷은 왜 따뜻할까 (10) | 2024.04.25 |
