AI에 대한 여섯번째 이야기 : 자율주행 이야기

AI가 운전을 해도 될까?

자율주행차는 어떨까? 운전은 여러가지 이유에서 AI에게 매력적인 과제다. 운전을 자동화할 수 있다면, 우리는 당연히 좋아할 것이다. (하지만 아마도 많은 택시기사나 대리운전 기사가 일자리를 잃게 될 것이다. 이 문제는 여기서는 더 이상 언급하지 않도록 하자.)

 많은 사람이 운전을 지루하게 여기고, 또 어떤 경우에는 운전을 할 수 없는 사람들도 있기 때문이다. 뛰어난 AI 운전자는 번개 같은 반사 신경을 갖고 있고, 절대로 끼어들거나 차선을 벗어나지 않으며, 공격적으로 운전하지도 않을 것이다. 사실 자율주행차는 종종 너무 소극적으로 운전하는 경향이 있어서, 러시아워의 도로에 합류하거나 복잡한 도로에서 유턴을 하는데 애를 먹기도 한다. 하지만 AI는 지치는 법이 없을 것이고 인간이 차 안에서 낮잠을 자거나 영화를 관람하는 와중에도 끝없이 운전할 수 있을 것이다.

 인간 운전자에게 수백만 킬로미터를 돌아다니도록 지불할 돈만 있다면, 우리는 얼마든지 많은 사례를 데이터로 축적할 수 있을 것이다. 가상의 운전 시뮬레이션을 어렵지 않게 만들어서, AI가 빠른 속도로 전략을 테스트하고 다듬도록 만들 수 있을 것이다. 

 운전에 필요한 기억력도 적정 수준이다. 지금 이 순간의 핸들 조종이나 속도는 5분 전의 핸들링이나 속도에 의존하지 않는다. 향후 계획은 네비게이션이 맡으면 된다. 도로위의 보행자나 야생 동물 같은 위험 요소들은 순식간에 왔다가 사라진다.

 마지막으로 자율주행차를 제어하는 것은 너무나 어려운 일이기 때문에 다른 좋은 해결책이 없다. 그나마 지금까지는 AI가 가장 발전된 해결책이다.

 그러나 오늘날 운전이 AI가 맡을 수 있을 만큼 충분히 좁은 과제인가, 아니면 앞서 이야기했던 인간 수준의 범용 AI가 필요한 과제인가 하는 문제는 아직도 결론이 나지 않았다. 지금까지는 AI가 운전하는 차들이 수백만 km를 혼자서 운전할 수 있다는 것이 증명됐고, 일부 회사들은 시험 주행에서 인간의 개입이 필요했던 것은 수천 킬로미터에 한 번 정도였다고 보고한다. 그러나 그렇게 어쩌다 일어나는 인간의 개입이 필요한 순간들을 완전히 제거하기는 힘든 것으로 나타났다. 

 AI가 운전하는 자율주행차를 인간이 구해줘야 했던 상황은 다양하다. 기업들은 보통 이런 소위 '모드 해제disengegement'의 원인은 공개하지 않고 횟수만 공개한다. 횟수 공개는 일부 지역에서 법적 요구 사항이기 때문이다. 

 이는 어쩌면 모드 해제의 원인이 섬뜩할 만큼 일상적인 것이기 때문일 수 있다. 비록 테슬라가 자율주행에 대해서 가장 선도적인 기업이고, 많은 데이터를 획득했지만 아직도 FSD 완벽한 자율주행 모드로 들어가기 까지는 해결해야 할 일 또한 많다고 봐야 할 것이다. 

 2015년에 나온 한 논문을 보면 그런 상황의 일부가 나열되어 있다. 

•  튀어나온 나뭇가지를 장애물로 보았다.
•  다른차가 어느 차선에 있는지 헷갈려 했다.
•  교차로에 보행자가 너무 많아서 스스로 감당하기 힘들다고 판단했다.
• 주차장을 빠져나가는 차를 보지 못했다.
• 바로 앞에서 주차하는 차를 보지 못했다. 

특히, 2018년 3월에 일어난 사망 사고는 이런 상황에서 벌어진 결과였다. 해당 자율주행차의 AI 는 보행자를 식별하는 데 어려움을 겪으면서, 처음에는 보행 여성을 물체로 분류했다가, 다음에는 자전거로 분류했고, 브레이크를 밟을 수 있는 시간을 겨우 1.3초 남겨 두었을 때에 가서야 비로소 보행자로 분류했다.

 이 사건이 더욱 고통스러운 이유는 이 차는 보조 운전자에게 경고를 보내기 쉽도록 비상 브레이크 시스템이 해제되어 있었는데, 실제로 이 시스템에는 보조 운전자에게 경고를 보내는 설계는 없었다는 것이다. 이 차의 보조 운전자는 아무런 개입 없이 장시간을 AI에게 운전을 맡긴 상태였는데 이런 상황이라면 절대 다수의 인간은 갑자기 차의 주도권을 가져와서 상황을 통제하기가 불가능할 것이다. 

 2016년의 사망 사고 역시 장애물 인식상의 오류에서 비롯됐다. 이 사건에서는 자율주행차가 트레일러 트럭을 장애물로 인식하지 못했다. 

 이보다 더 상상하기 어려웠던 일도 실제로 일어났다. 호주에서 처음으로 AI를 테스트한 폭스바겐은 AI가 캥거루를 모고 당황하는 것을 발견했다. 해당 AI는 아마 점프하는 물체와 마주친 적이 한 번도 없었던 듯 하다.

 도로에서 벌어질 수 있는 상황이 얼마나 다양한지 고려하면, AI가 훈련 과정에서 본 적 없는 일도 분명히 일어날 것이다. 전혀 예상 불가능한 무언가에 대처할 수 있는 AI를 만든다는 것은 쉬운 일이 아니다. 탈출한 에뮤는 마구 질주할 수 있지만 싱크홀은 움직이지 않는다는 것, 용암이 흘러 물웅덩이처럼 고여 있다고 해서 그 위를 달려도 되는 것은 아니라는 걸 직관적으로 모두 아는 AI 말이다. 

 자동차 회사들은 도로 위에 일상적으로 있을 수 밖에 없는 작은 문제 들이나 정말로 이상한 상황들을 불가피한 것으로 보고, 전략을 수정하려 노력 중이다. (여러분이 그토록 좋아하는 테슬라 말이다.) 자동차 회사들은 자율주행차를 통제 가능한 닫힌 경로에 한정하거나, 아니면 선두에 사람이 운전하는 자동차가 먼저 가고 그 뒤를 자율주행 트럭들이 줄줄이 따라가는 형태 등을 고려 중이다. 다시 말해, 대중교통과 아주 유사한 해결책으로 타협안을 찾고 있다. 

 따라서, 현재 상태로는 AI가 허둥대면 모드가 해제되어, 갑자기 통제권을 운전석에 있는 인간에게 넘긴다. 자동차의 자율성 수준 중에서는 레벨 3인 '조건부 자동화'가 상업적으로 가능한 가장 높은 레벨이다. 예를 들어, 테슬라의 오토파일럿 모드에서 자동차는 아무런 지침이 없어도 몇 시간씩 혼자 운전할 수 있지만, 언제 인간 운전자에게 운전대를 넘겨 받으라고 할지 모른다. 자동화 레벨 3이 가진 문제점은 인간이 뒷자석에서 넷플릭스를 감상하거나, 디아블로 이모탈을 즐기고 있으면 안된다는 것이다. 운전석에 앉아서 주의를 기울이고 몇 시간씩 지루하게 도로만 쳐다보고 있는 인간은 기민함을 유지하기가 매우, 정말로 어렵다. 따라서, 위험한 일이 갑자기 닥쳤을 때 인간이 AI가 해결할 수 없는 일을 수습하는 것은 어렵고도 위험한 일이라고 볼 수 있다. 

 따라서 자율주행차를 만드는 것은 AI 관련 과제 중에서 상당히 매력적인 과제인 동시에 매우 어려운 과제다. 자율주행차를 주류로 만들려면 우리는 타협하거나(통제된 경로를 만들고 자동화 레벨 4를 고수하는 것)을 하거나 아니면 지금 우리가 가지고 있는 AI 보다 더 유연한 AI가 필요할 것이다.