AI에 대한 아홉번째 이야기 : 진화 알고리즘 자체는 훌륭하지만...

여덟번째 이야기에 이어서 우리는 왼쪽으로 길을 가는 사람들을 줄이는 방법으로, 모든 사람을 죽이는 킬링머신을 만들어 버리고 말았다. 물론, AI는 일을 잘 한 것이다. 결론적으로는 외쪽으로 가는 사람이 한명도 남지 않게 된 것이다. 

AI를 진정으로 제대로 운용하고 공부해 보고자 하는 사람이 있다면 이토록 '무섭도록 순수한' AI의 특성을 인지하고, 고삐가 풀린 망아지와 같은 모양새로 흘러가지 않도록 주의하여야만 한다.

 결국 처음부터 다시 시작해서, 우리는 왼쪽으로 가는 사람을 최소화하기보다는 오른쪽으로 가는 사람을 최대화 하는 방향으로 실험의 방향을 바꾸기로 한다. 

 실은 완전히 새로 시작하는 대신,(조금은 피가 흐를 수 있는) 지름길을 택해서 적합도 함수만 바꾸는 방법도 있다. 무엇보다 우리 로봇들이 사람을 죽이는 것 말고도 유용한 기술을 많이 배웠기 때문이다. 

 이 로봇들은 일어서는 법, 사람을 감지하는 법, 무섭게 팔을 휘두르는 법을 이미 배웠다. 적합도 함수를 오른쪽 길로 가는 생존자의 수를 극대화하는 것으로 바꾸면 로봇들은 얼른 살인을 삼가는 법을 배워야 한다. (이렇게 좀 다르지만 관련이 있는 문제에 기존의 해결책을 재활용하는 것을 '전이 학습' 이라고 부른다.)

 그래서 우리는 살인 로봇 집단에서 적합도 함수만 살짝 교체해 다시 시작한다. 갑자기 살인은 별 효과를 내지 못하게 되고, 로봇들은 이유를 알지 못한다. 사실 살인에 가장 서툴렀던 로봇이 가장 선두 그룹으로 올라가게 된다. 비명을 지르는 희생자들이 간신히 오른쪽 길로 탈출했기 때문이다(........여기서 웃어야 할지 아니면 울어야 할지....)

 이후 몇 세대 동안 로봇들은 금세 살인에 점점 더 서툴러진다. 

 결국 로봇들은 어쩌면 사람들을 '죽이고 싶어하는' 것처럼 보이는 방식으로, 대부분의 사람들을 겁주어 오른쪽으로 들어서게 만든다. 살인 로봇으로 시작하는 바람에 우리는 진화할 수 있는 방향을 제한하게 되었다. 만일 우리가 온전히 새로 시작했다면, 오른쪽 복도 끝에서 사람들에게 손짓을 하거나, 아니면 팔이 "공짜 상품권"(어디서 많이 들어본것 같지 않는가? 특히 성남시에서...읍읍!!) 팻말로 진화한 로봇이 생겼을 지도 모른다. 하지만 이렇게 진화하기는 쉽지 않았을 것이다. 왜냐하면 팻말이 조금만 달라도 효과가 없을 것이기 때문이다. 

 좋은 해결책에 근접했다는 이유만으로 어느 해결책에 보상을 주기는 어렵다. 결국 이것은 모래밭에서 바늘 찾기 식의 해결책이다! 

 살인 로봇을 차치하면, 가장 가능성이 높은 진화의 방향은 '쓰러져서 길을 막는' 로봇이 점점 더 거슬리는 로봇으로 진화하는 길이었을 것이다.(쓰러지는 것은 상당히 쉬운 일이기 때문에, 진화한 로봇이 쓰러져서 문제를 해결할 수 있다면 그렇게 되었을 것이다.)  그 방향으로 진화한다면 사람들을 100퍼센트! 오른쪽 길로 들어서게 만들어 문제를 완벽하게 해결한 로봇이 나올지도 모른다.(다행스럽게도 사람을 죽이지 않을 로봇) 

 그렇다... 결국 우리는 '문'을 진화시켰다. 이게 바로 AI의 또 다른 특징이다. AI는 지극히 상식적인 대체품이 있는데도 쓸데없이 복잡한 방식으로 문제를 해결하는 수가 있다. 

 진화 알고리즘은 비단 로봇뿐만 아니라 온갖 종류의 설계를 진화시키는 데 사용될 수 있다. 구겨지면서 힘을 소멸시키는 자동차 범퍼, 정확하게 회전하는 플라이휠 같은 것들은 모두 사람들이 진화 알고리즘을 써서 해결해 보려고 했던 문제들이다. 진화 알고리즘의 게놈은 또한 물건의 묘사에만 국한되지 않는다. 

 우리는 자동차나 자전거의 디자인은 고정해 놓고, 제어 프로그램을 진화시킬 수도 있다. 또한 인공 신경망의 가중치나 의사 결정 트리의 배열이 게놈이 될 수도 있다. (그런데 이런 내용은 너무나도 전문적인 부분이라, 여기서는 추가로 언급하지는 않겠다.) 종종 서로 다른 종류의 기계학습 알고리즘이 이런 식으로 결합되어 각자의 장점을 발휘할 수 있다.

 진화를 통해 지구상에 등장한 수많은 생명체를 생각해 보면, 우리가 엄청난 속도로 가속화된 가상의 진화를 사용했을 때 얼마나 큰 가능성이 열릴지 짐작할 수 있다. 현실에서의 진화가 경이로울 만큼 복잡한 생물들을 만들어 정말로 특이한 물질까지 식량으로 사용할 수 있었던 것처럼, 진화 알고리즘 역시 아주 기발한 방식으로 우리를 계속해서 놀라고 기쁘게 만든다. 

 물론 때로는 진화 알고리즘이 다소 '너무' 창의적일 수도 있다.....그것이 터미네이터의 스카이 넷으로 발전할 수도 있고, 음식을 만들라고 하는 알고리즘을 만들어 놨더니, 핫도그에 초콜릿을 올리고 그 위에다가 다시 꿀을 잔뜩 바르는 방식의 음식을 재일 맛있는 음식이라고 만들어서 우리에게 권하는 악마의 음식을 만들어서 권할지도 모른다. 

 그런데 다른 한편으로는 이런 AI가 만든 레시피로 경영하는 식당을 만들어 보면 어떨까? 마치 벌칙게임과 같은 느낌으로, 세상에서 가장 최첨단의 레시피로 만든 음식이라고 해서, 위험과 스릴이 넘치는 식당으로 홍보하면 어쩌면 많은 사람들이 재미있다고 느낄지도 모른다. 물론 그로 인해 설사를 하거나, 갑자기 위경련이 일어난다고 해서 책임을 질 수는 없습니다....라고 홍보하면 아마 안되겠지? 

 그러나 다시한번 강조하지만, 이런 멍청한 시도를 끝도 없이 반복하며 답을 찾아가는 과정을 무한하게 반복해 가면서 스스로 답을 찾아가는 과정이 곧 AI의 진화인 것이다. 인간이라면 고통스럽고 하기 싫고, 더 이상 반복하는게 어떤 의미가 있는지 의문을 품을 법도 한데 AI에게는 그러한 의문이 없다. 끝도 없이 '가치판단과도 상관이 없이' 답이라고 생각될만 한 것을 찾기 전까지 스스로 학습하고 답을 찾는 과정을 반복한다. 

 이것이 AI의 매력이자 또한 위험성이다. AI 단독으로만 일을 진행할 수 있는게 아니라 AI를 함께 관리하고 활용할 수 있는 AI 전문가가 계속 확인하고 유지보수하고, 방향성을 관리해 주었을 때 AI의 위험성은 최소화하고, 성능을 극대화할 수 있을 것이다.