비전공자도 이해할 수 있는 AI지식16 -테슬라의 꿈은 정말 가능한가-

1. 완전한 자율주행은 정말 가능한가

 

구글의 자율주행차 회사인 웨이모는 2020년에만 우리 돈 3조 6000억원에 달하는 돈을 투자받았습니다.

 

2021년 상반기에는 여기에 또 2조 8000억원을 추가로 조달받았죠. 그럼에도 불구하고 웨이모의 상용화 시점은 여전히 오리무중입니다.

 

2022년 현재 도로를 주행하는 모든 완전 자율주행차의 수도 여전히 0대죠. 왜 이럴까요?

 

요즘 많은 가정에서 사용하는 스마트 스피커와 비교해보면 카카오미니나 SKT NUGU가 100번의 발화중 99번을 제대로 알아듣는다면 정말로 훌륭하다고 여길 수 있습니다.

 

그런데 100개의 정지 신호중 99개를 제대로 인식하는 자율주행차가 있다고 생각해봅시다.

 

마찬가지로 박수 쳐줄 수 있나요? 자율주행 기능에는 엄격할 수밖에 없습니다.

 

단 한번의 오인식으로 끔찍한 결과를 초래할 수 있기 때문이죠.

 

 

단 한번의 실수로 생명을 잃을 수도 있는 문제입니다. 이 때문에 자율주행 기술은 무엇보다 완벽해야합니다.

 

그래서 특히 어렵죠. 공격적인 활용은 자칫 큰 재앙을 불러올 수 있습니다. 

 

이미 테슬라의 자율주행 기능이 운전자의 안이한 대응을 불러 문제가 된 바가 있고 벌써 수차례의 사망 사고를 기록했습니다.

 

자율주행차 교통사고 최다는 '테슬라'...전체의 70% 차지 - 글로벌 뉴스 미디어 채널 데일리포스트 (thedailypost.kr)

자율주행차 교통사고 최다는 '테슬라'...전체의 70% 차지 - 글로벌 뉴스 미디어 채널 데일리포스트

 

 

아직 정식 출시를 하지 않았지만 단 한 차례의 사망사고를 낸 웨이모와는 대조적이죠. 이 역시도 상대 차가 중앙선을 넘어와서 발생한 사고였습니다.

 

테슬라의 자율주행 옵션인 완전 자율주행(FSD, Full Self Driving)은 이름과는 달리 여전히 2단계 수준에 불과합니다.

 

2단계에는 조향 제어 정도만 가능하며 운전자가 항상 전방을 주시하고 있어야합니다.

 

그러나 유튜브에는 하루가 멀다 하고 테슬라에서 운전 중 잠든 운전자의 영상이 올라오죠

 

결국 테슬라는 자율주행 기능을 출시한 지 7개월 만인 2016년 5월, 미국 플로리다 주에서 첫 번째 사망 사고를 기록합니다

 

하얀색 트레일러 측면으로 돌진한 사고였죠. 당시 테슬라 모델 S는 하얀색 트레일러의 측면을 전혀 장애물로 인지하지 못해, 속도를 줄이지 않고 그대로 들이받고 말았습니다

 

차량은 엉망으로 구겨졌고 운전자는 그 자리에서 사망합니다

 

숨진 운전자는 평소에 테슬라를 무척 사랑했고 유튜브에 테슬라 주행 영상도 여러차례 올리기도 했던 터라 안타까움이 더 컸죠.

 

이후 사고 보고서에 따르면, 37분 동안 운전자가 운전대를 잡은 시간은 단 25초에 불과했습니다.

 

뿐만 아니라 핸들에 손을 올려두라는 경고음도 7차례나 울렸죠. 그는 테슬라의 자율주행 기능을 지나치게 과신했습니다.

 

 

2. 난생 처음보는 것은 잘 알지 못하는 AI

 

자율주행에서 인식은 정말 어려운 문제입니다. 단 한번의 오인식으로 끔찍한 결과를 초래할 수 있기 때문이죠.

 

특히 한번도 경험하지 못한 상황에서는 훨씬 더 어렵습니다.

 

테슬라의 자율주행차는 도로상에서 거대한 하얀색 트레일러의 측면을 본 적이 없었습니다.

 

밝은 하늘이 비치는 트레일러 측면을 테슬라는 하늘로 인식했고, 속도를 전혀 줄이지 않았습니다. 

 

제동장치는 전혀 작동하지 않았고 그대로 충돌했죠

 

볼보는 호주에서 처음으로 자율주행을 테스트하다가 캥거루 때문에 당황했다고 합니다.

 

지금까지 한번도 점프하면서 움직이는 동물을 마주한 적이 없었기 때문이죠

 

2014년 구글의 자율주행차는 전동 휠체어를 탄 여성이 빗자루를 들고 도망가는 오리를 쫓아 도로로 나온 상황을 맞닥뜨렸습니다.

 

마찬가지로 난생처음 보는 광경에 구글의 자율주행차는 대응하지 못했죠

 

캥거루에게 농락당한 볼보의 자율주행 기술 > | Autonomous Driving | 글로벌오토뉴스 (global-autonews.com)

캥거루에게 농락당한 볼보의 자율주행 기술

 

 

또 다른 사고도 있습니다. 2018년 3월에 자율주행 모드로 운행하던 우버의 자율주행차가 야간에 보행자를 제대로 인식하지 못해 치고 맙니다.

 

차에 치인 보행자는 쇼핑백이 든 자전거를 밀면서 무단횡단을 하던 여성이었는데, 자율주행차는 도로를 가로질러 가는 사람을 보행자로 인식해내지 못했습니다.

 

사고 6초전에는 미확인 물체로, 그 다음에는 차량, 마지막에는 자전거로 인식했고, 사고 발생 1.3초전에야 겨우 보행자로 분류하고 비상 제동이 필요하다고 판단했습니다.

 

하지만 대응할 시간은 너무 짧았죠. 게다가 자율주행차를 테스트하던 운전자는 사고 직전까지 전방을 주시하지 않은 채 스마트폰으로 TV쇼를 시청하고 있었습니다.

 

사람이 운전할 때는 끊임없이 긴장 상태를 유지하고 있기 때문에 돌발 상황에도 즉각 대응할 수 있습니다.

 

하지만 자율주행에 모든 걸 맡겨두다 보면 긴장이 풀려 돌발 상황에 대처할 수가 없습니다.

 

1.3초를 남겨두고 경고를 울려봐야 곧바로 브레이크 페달을 밟을 수는 없는 거죠.

 

이 때문에 테슬라 차량은 운전자가 핸들에 손을 올려두지 않으면 경고를 울리고 그래도 계속 핸들을 잡지 않으면 자율주행 모드가 풀리게 설정되어 있습니다.

 

그럼에도 불구하고 사람들은 각종 편법을 동원하여 긴장 상태를 유지하지 않기 위해 애를 씁니다.

 

그저 핸들에 손을 올리는 시늉만 하고 있거나 주행 중에 영화를 보거나, 심지어 잠이 드는 경우도 있죠.

 

직접 운전을 하지 않은 상태에서 긴장감을 유지한 채 장시간 도로를 바라보기란 매우 어렵습니다.

 

이 상태에서는 차량이 갑자기 통제권을 운전자에게 넘겨도 제대로 대응할 수가 없겠죠.

 

이처럼 완벽하지 않은 자율주행은 오히려 사고 가능성을 더 높여 탑승자와 보행자 모두를 훨씬 더 위험한 상황에 빠트릴 수 있습니다.

 

 

3. 비행기에서 엿보는 자율주행차의 미래

 

이런 상황에서 자율주행차의 미래를 이미 상당한 수준의 자동화가 이뤄진 비행기 사례에서 엿볼 수 있을 것 같습니다.

 

2009년 6월 리우데자네이루를 출발해 파리로 향하던 에어프랑스의 AF447편은 운행 중 비행 속도를 감지하는 피토관이 얼면서 오토 파일럿 기능이 멈추게 됩니다.

 

그리고 조종을 인간 조종사에게 넘기죠. 여기까지는 흔히 있을 수 있는 일입니다.

 

테슬라 차량도 위험 구간에 들어서면 자율주행이 해제되고 인간에게 운전 임무를 넘깁니다.

 

비행기는 에어버스 A330기종으로 자동화된 조종석과 전자식 제어 시스템을 갖춘 최신 기종이었습니다.

 

문제는 이처럼 고도로 자동화된 비행기를 기장이 수동으로 조종할 일은 거의 없었다는 것이죠.

 

그렇게 오토 파일럿 기능이 해제된 비행기가 갑자기 난기류에 부딪혀 쿵 하고 충격을 받습니다.

 

그러자 부기장은 당황하여 과잉대응을 하고 맙니다. 조종간을 끝까지 당겨 비행 고도를 높이고자 했죠. 그러나 기수가 위로 향하자 속도가 줄어들면서 오히려 비행기는 실속 상태에 빠져 추락하기 시작합니다.

 

부기장은 실속 상태에 대응하지 못했습니다.

 

고도를 높여야 한다는 생각에만 빠져 조종간을 계속해서 위로 당깁니다.

 

결국 기수가 들린 채 비행기는 그대로 추락하고 말았습니다.

 

사실 실속 상태에서 빠져나오는 방법은 간단합니다. 조종간을 밀어서 기수를 내리고 속도를 높이면 되죠. 또는 조종간을 그냥 손에서 놓기만 해도 A330같은 자동화된 기종은 다양한 장치를 써서 자세를 회복합니다.

 

이런 비행 기술은 경비행기 조종사도 알고 있는 기본 상식이지만 당황한 부기장은 비행기가 추락하기 시작하자 끝까지 조종간을 당긴 채 놓지 않았습니다.

 

그 결과 승객과 승무원을 포함한 228명 전원이 사망하고 말았습니다.

 

에어프랑스 447편 추락 사고 - 위키백과, 우리 모두의 백과사전 (wikipedia.org)

에어프랑스 447편 추락 사고 - 위키백과, 우리 모두의 백과사전

 

 

어떻게 이런 황당한 일이 벌어졌을까요? 사고를 일으킨 부기장은 3000시간에 가까운 비행 경험을 가지고 있습니다.

 

하지만 그동안 비행기를 수동으로 조종해본 적이 거의 없었습니다??? 뭐라고??

 

2936시간의 비행 경험은 자동 조종 장치로 작동하는 전자제어 시스템 비행기를 운항해본 경험뿐이죠.

 

이처럼 자동화에 익숙해지면 고도로 훈련된 조종사조차도 기본적인 대응을 하지 못한 채 어처구니 없는 사고를 내고 맙니다.

 

이번에는 보다 가까운 예를 들어보죠. 혹시 여러분의 운전면허는 1종보통인가요?

 

그렇다면 지금 당장 수동 변속기의 1톤 트럭을 운전하라고 하면 제대로 할 수 있을까요? 저도 1종 보통 면허를 따기 위해 분명히 수동 변속기로 트럭을 몰아서 시험을 봤지만, 지금은 운전을 할 수 없을 것 같습니다.

 

왜냐하면 그 이후로 한번도 트럭을 운전해본 적이 없기 때문이죠.

 

심지어 수동 운전조차 한번도 해본 적이 없습니다. 면허를 취득한 뒤 20년 동안 계속 자동 변속기를 단 승용차만 몰았기 때문이죠.

 

아마 저처럼 수동 변속기로 운전하는 법을 잊어버린 사람이 꽤 많을 겁니다. 

 

자율주행이 보편화된다면 우리 모두 아예 기본적인 운전 방법을 잊어버리게 되지 않을까요?

 

수십년간 자율주행에만 의지해온 사람이 긴급 상황이 발생했다고 갑자기 직접 운전을 할 수 있을까요?

 

앞으로 자율주행에 익숙해질 사회가 반드시 고려해야할 부분입니다.