ID/PW 찾기 회원가입
오늘자 테슬라 사고 영상
 
7
  9395
2020-06-02 11:52:50

 

아마 차주는 졸고 있고 자동주행 중인 것으로 보이는데...

사고난 트럭에 그대로 돌진해 버립니다.

트럭이 흰색이라 AI가 인식을 못한 듯.

굳이 테슬라라서가 아니라 AI는 모두 이런 어이 없는 오류의 가능성이 존재하죠.

알파고가 이세돌과의 대전에서 보였던 것처럼 말이죠. 

아무리 자동주행이 발달해도 졸음 운전은 무리수...

하지만 자동주행 중에는 자극이 없어서 잠 오기 딱 좋다는 게 함정...

45
Comments
1
2020-06-02 11:55:28

 뒷따라오는 대형트럭이 정말 서행을 하네요. 우리나라였으면 대형 사고가 났을듯 싶은 웃픈 현실이 ㅠ.ㅠ

2020-06-02 11:59:19

 앞에 사람이 있는데도 서행이 안되네요.

2
2020-06-02 12:05:57

라이다였으면 인식 하지 않았을까 싶기도 하네요. 

1
2020-06-02 12:35:02

장애물 인식은 라이다라서 인식을 하고, 테슬라의 라이다 없이 카메라에 의한 이미지분석 만을하는 2D SLAM이라 인식을 못하는 상황이 아닙니다. 라이다 기반의 자율주행 역시 머신러닝 기반으로 사물을 감지하는 것은 테슬라와 동일합니다.

즉, 저 누워있는 하얀 물체가 무엇인지는 라이다와 2D SLAM 모두 변수에 대한 학습값이 입력되어야 하는 문제입니다. 이 말고도 모든 지형지물 장애물에 대한 변수를 입력해줘야 AI는 판단할 수 있는데, 테슬라는 이미 전세계 사용자로 부터 실시간으로 방대한 양의 피드백을 전송 받고 있기에, 구글의 웨이모 같은 라이다 시스템 보다도 더 나아질 여지가 있는겁니다. 많은 변수를 분석해서 적용시키는 것이 승리하는 분야가 자율주행입니다. 본문도 이 점에 착안하여 말씀하신거 같습니다!

2
2020-06-02 12:55:10

라이다면 인식했을 것으로 생각합니다.

그리고, 누워 있는 물체의 색상이 영향을 줬기는 하겠지만 도로와 구분되는 색상에 더불어 색상의 이미지가 계속 그 상태고 크기의 변화가 없다면 정지된 사물로 인식해야 하는 것은 기본일 듯 합니다.

더불어, 딥러닝을 공부하는 초보 수준이지만 이 정도의 구조적 문제는 데이터가 많고 적고의 문제는 아닌 듯 합니다 ㅠㅠ

2
Updated at 2020-06-02 13:11:49

차량에 사용되는 2D SLAM 기술에는 색상 정보가 사용되지 않습니다. 자동차 회사들 중 그나마 프로세싱 노하우에 투자하는 테슬라의 자체 프로세서가 성능이 인텔 아톰급입니다. 즉, 6대의 HD 카메라에서 실시간 스트리밍 되는 흑백 화면을 매핑하여 가상의 공간을 렌더링 하는것도 부족한데 색상까지 분석할 여력이 안되는겁니다. 또한 색상 정보를 반영한다 하여도 초소형 이미지 센서로 수광하는 색정보가 정확하다는 보장도 없기에 오히려 신뢰성 하락의 요인으로 작용합니다(그렇다고 풀프레임 카메라로 도배 해놓을 수 없는 노릇이고요).

그러한 이유로 테슬라는 백색으로 추정되는 물체에 대한 판독에 어려운 부분이 있다고 이야기 했으며, 방대한 데이터 분석(한마디로 테슬라, 뉴럴링크 연구진 갈아넣기...;;;)으로 답을 찾아내겠다고 했습니다.

1
2020-06-02 12:06:59

근미래에 해결될 문제죠. 머신러닝형 인공지능이란게 본격적으로 개발된지 10년도 안됐고 차량에 적용된 역사는 그 보다 훨씬 짧습니다. 인공지능 발전의 속도는 기하평균적으로 상승한다는 말이죠.

7
Updated at 2020-06-02 12:16:12

누가 봐도 테슬라의 기본적인 구조적 결함으로 밖에 안보이는 사고에 본문과 같은 의견에는 찬성할 수 없습니다.

 

"굳이 테슬라라서가 아니라 AI는 모두 이런 어이 없는 오류의 가능성이 존재하죠"

1
2020-06-02 12:45:34

테슬라와 국내외 교통당국은 핸들 조향 및 전방주시 의무를 회피할 수 있는 “오토파일럿 헬퍼” 같은 부착물을 공식적으로 금지하고 있으나, 유저들 사이에서 만연하게 사용되고 있습니다. 본문의 사고 영상에서 보듯, 운전자는 해당 불법 부착물을 한것이 명백하고(헬퍼 안달면 핸들 경고 후 그래도 안잡으면 자동 정차합니다), 해당 테슬라 차량은 충돌 직전에 자동으로 제동을 걸어 피해 최소화 한것으로 보아, 오토파일럿 베타 버전에서 법적으로 명시한 “충돌 방지가 아닌 피해 최소화”의 로직대로 충실히 구현되었다고 보입니다.

다만, 쓰러진 트럭을 250m 잎에서 장애물로 인식하고 정차 하였으면 베스트 했겠으나, 여러 정황상 차량 결함이 아닌 법규를 위반한 전적으로 운전자 잘못으로 보입니다.

3
2020-06-02 12:59:20

테슬라에 비하면 미약한 소나타의 차선보조 기능을 8개월 정도 사용하면서 느끼는 생각으로는 

너무나도 명확한 전방의 도로내 사고 상황에서 그대로 충돌한 것은 가장 기본적인 테스트가 생각보다 안되었다는 의심이 듭니다. ㅠㅠ 

2
Updated at 2020-06-02 13:30:33

라이다 적용된 제네시스 HDA 적용된 모 차량 테스트 당시(흔히들 이야기 하는 위장막 차량)에 동승했던 적이 있습니다. 노트북으로 카메라/라이다가 읽어들이는 정보를 볼 수 있는데요, 생각보다 읽지 못하는 지형지물이 많습니다.

제가 직접 개발하는 분야는 아니라서 전문적인 답변은 못드리지만, 제가 본것은 그렇습니다.ㅜㅜ

2020-06-02 13:41:08

네 그래서 아직 전부 주행 보조 장치입니다. 운전자는 전방주시를 해야하고 핸들에서 손을 떼면 경보음이 울립니다.
문제는 쉽게 기계를 신뢰하는 사람들이죠.

WR
2020-06-02 17:19:40

딥러닝 방식의 AI 는 넓게 보면 확률 계산기의 일종이고, 모두 오류의 가능성이 존재합니다.

저런 에러가 구조적 결함이라면 이는 모든 딥러닝 기반 AI 에 해당되는 것입니다.

2020-06-02 17:48:03

딥러닝 초보인 저도 

저정도 뻔한 오류 수준의 사람 생명을 좌우하는 딥러닝 모델이라면 

출시 못하는게 당연하다는 것을 압니다. ㅠㅠ

WR
Updated at 2020-06-03 00:20:10

러닝이 부족해서 일어난 사고이니 테슬라만의 문제는 아니란 거죠.

근본적인 구조가 문제라면 앞으로도 해결이 안 된다는 건데

그건 말이 안 되고...

 

아무튼 저 수준에서 내놓으면 안 되지만 비즈니스 세계라는 게 뭐...

더구나 테슬라처럼 팬덤이 강하면 그냥 밀어부쳐도 별 일 없는 거죠.

 

2
2020-06-02 12:20:21

딥러닝을 기반한 인공지능이라도 오류가 있기는 하지만... 

연구가 거듭될수록 사람의 실수 확율의 1%도 안되는 수준으로 발전할 겁니다.

알파고도 초기 버전은 지기도 했지만, 알파고 제로 버전에서는 어떤 프로 기사도 이기지 못했습니다.

WR
Updated at 2020-06-02 17:26:48

일상 수준에서 사람이 인식할 수 없을 정도의 수준까지 올라가리라는 것은 의심할 여지가 없으나, 자율주행 AI는 알파고 수준의 정확도에는 올라 갈 수 없을 겁니다. 자율주행의 데이타 수집, 해석, 적용은 현실 시공간의 한계 안에서 이루어지는 반면, 알파고는 순수한 컴퓨터 머신으로, 말그대로 천문학적인 횟수만큼 시뮬레이션이 가능하기 때문입니다.

 

비유하자면 알파고가 시행한 시뮬레이션의 수가 모래사장 전체의 모래알 만큼이라면 자율주행은 그에 비해 한주먹도 안 되는 양에 불과할 겁니다.

 

아마 알파고와 비스무리한 수준까지 올라가기 한참 전에 다음 세대 AI 가 등장하겠죠.

 

5
2020-06-02 12:23:53

 그런데 트럭에 충돌 전 브레이크가 작동하는 느낌은 있는데요.. (길바닥에 연기가 남)

졸던 운전자가 놀라 브레이크를 밟은 걸까요, AI 가 늦게나마 인식을 하고 브레이크를 작동시킨 걸까요?

1
2020-06-02 13:14:56

트럭이 넘어지면서 바닥에 흘린 무엇(가루?)이 날린 것 같기도 한데요.

뒤따르던 차도 해당 지점 지날 때 뭔가 하얀 게 날리는 것 같고요.

2020-06-02 12:24:51

이런건 도대체 보험처리가 어떻게 될지 진짜 궁금하네요. 보험처리 여부가 향후 자율주행 확산에 영향을 주지 않을까 생각합니다.

2020-06-02 12:31:29

그래서 미국에선 테슬라 차량을 안받는 업체도 있다고 하네요. 결국엔 테슬라가 직접 보험업까지 뛰어들었습니다. 물론 테슬라 차량에 한해서요.

2020-06-02 12:40:11

아 그런사실은 몰랐는데 좋은 이야기 감사합니다.

2020-06-02 12:39:14

테슬라 사고는 왜 자율주행중이라고 일단 단정부터 할까요?

2020-06-02 13:08:57

원기사에서 오토파일럿 운행중이었다고 하더군요.

2
2020-06-02 13:38:06

네. 찾아봤습니다. 대만에서 난 사고네요. 그런데 운전자 얘기가 좀 이상합니다.
‘테슬라 운전자인 황(黃)모 씨는 당시 시속 110km로 운전 중에 화물차를 발견하고 브레이크를 밟았지만 이미 늦었다고 말했다.
그는 이어 당시 운전자를 지원하는 '오토파일럿'(Autopilot·자율주행기능) 기능을 작동하고 있어 차량이 장애물을 발견하면 감속이나 정지할 줄 알았는데 계속 정속 주행했다고 주장했다.’

차량운전자가 사고를 인지했음에도 오토파일럿 상태라 차가 멈출줄 알았다고 하는데, 저 상황에 앞에 장애물을 보면 바로 핸들을 뺏어오거나 정지를 시도하는게 당연한데 차가 멈추길 기다렸다는게 좀 이상합니다.

그런걸 다 떠나서 테슬라의 오토파일럿은 차가 모든 상황에 대처가 가능하지 않는다는 사실입니다. 그부분은 운전자가 항상 염두하여야 합니다.

1
2020-06-02 12:48:28

지난번 벤츠 자율주행사고에도 나왔던 상황과 비슷한 경우 같습니다. 멈춰있는 물체를 인식해서 자율로 멈추지는 않는다고 하던데

2020-06-02 12:57:14

 테슬라 주가는 급등했던데 아.... 영상보니 끔직하네요 ...

2020-06-02 13:03:30 (125.*.*.1)

자율주행이 완전해지려면 몇 번의 사고를 거쳐야 하지 않을까 싶습니다..

2
2020-06-02 13:07:45

1. 사고트럭을 인지하지 못했다.

2. 수신호 하는 사고 운전자를 인지하지 못했다.

아주 중요한 문제점이라 생각합니다. 사람이 운전했으면 사고가 나지 않았을 겁니다.

오토파일럿은 트레일러 옆구리를 인지하지 못하는 낙제학생 입니다.

2020-06-02 13:09:58

현재 ACC 기능을 가진 차량은 몰고있습니다. 제차는 stop and go 기능을 가지고 있어서 전방에 장애물이 나타나거나 앞차가 서면 자동적으로 차가 정차합니다.

 

영상에 충돌하는 차량이 테슬라 차량이고 이 차량이 라이다 센서와 스마트 쿠르즈 기능을 갖춘 차량이고 운전자가 이 기능을 활성화 했다면 일어나지 않을 사고라고 생각됩니다. 사고의 가능성은 기기 오작동이거나 아니면 운전자가 ACC 기능을 off하고 주행하는중에 졸거나 전방 주시를 태만히한 상황으로 보입니다.

2020-06-03 02:21:30

죄송한데 stop and go는 말씀하신 그런 기능이 아니라, 차가 정지했을 때 시동을 꺼주고 출발할 때 자동으로 시동을 걸어주는 기능입니다. 말씀하신 기능은 긴급 제동 기능을 말씀하시는 것 같네요.

2020-06-03 08:26:21

니로 하이브리드 운행하고 있습니다. 스마트 크루즈 기능을 활성화하면 전방에 장애물이나 차량이 정차하면 차가 완전히 정지하고 앞차 출발하면 알람을 울린 후 출발하라고 표시합니다. 물론 돌발 상황시 긴급제동 기능도 있습니다만 아직 경험해 보지는 못했습니다. 제차는 출발시 배터리가 충분하면 전기모터로 구동합니다. 엔진의 시동 유무와는 상관이 없습니다.

2020-06-03 09:07:56

스마트크루즈기능이 모든 장애물을 인지하지는 못합니다. 일반적인 자동차라면 문제가 없지만 위 사고처럼 백색장애물의 경우 인지를 못하는 오류가 있지요. 그런 오류때문에 장애물을 인지하지 못해서 정지하지 못하고 사고가 난겁니다.

2020-06-03 09:28:26

맞습니다. 니로의 메뉴얼에도 인지 못하는 경우에 대하여 상세히 기술되어 있고 운전자가 주의하여야 한다고 되어 있습니다. 물론 저도 100% 믿지는 않습니다. stop 기능을 기다리다가 제 심장이 쫄아들어서 먼저 브레이크를 밝고는 합니다.

 

그런데 요즘 차에 장착된 라이다 센서는 사물의 "색"을 식별하는게 아닙니다. 그야말로 "레이더"입니다. 따라서 백색이라서 인지를 못한다는 것은 사실이 아닐겁니다. 초창기 에는 라이다 센서가 비싸서 단순하게 이미지 센서를 이용해서 전방을 인식할 경우 오류가 여러차례 발생하였지만 지금은 라이다센서와 좌우 양측의 이미지센서를 동시에 활용해서 오류를 줄였습니다.

 

제가 요즘 새 차를 몰면서 확실하게 느끼는것은 반자율 기능이 구현된 차와 그렇지 않은 차는 세대를 구분해야될 정도라는 겁니다. 느낌으로는 수동차에서 오토차로 넘어갈 때 느끼는 기분입니다.

2020-06-03 09:38:58

저도 G80 운전하고 있지만, 라이다라고 해서 장애물로 인지하는데는 한계가 있습니다. 안개를 장애물로 인지하면 안되는것처럼 말이죠. 실험에서도 자동차모양이 아닌 단순한 하얀 벽의 경우는 장애물로 인지하지 못해 정차하지 못하고 그대로 들이받는 경우가 많았습니다. 장애물로 인지하고 서야 할지 아니면 그냥 통과해도 되는 장애물인지 구분하는데는 아직도 갈길이 멀다고 봅니다.

결국 자율주행은 인지능력보다는 모든차가 자율주행차가 되어서 서로의 통신으로 인지해야 가능하지 않을까 합니다. 신호체계 역시 사물의 색상이나 상태를 인식하는게 아니라 신호체계와의 통신으로 판단해야지 완전한 자율주행이 가능하게 되는거겠지요. 지금처럼 라이다, 레이다, 영상등 수많은 센서로는 다양한 날씨환경에도 한계에 부딛힙니다.

저는 자율주행이 가능해지려면 인지기능의 발전보다는 통신의 발전이 더 중요하다고 생각합니다.
Updated at 2020-06-03 10:28:16

대부분 동의하지만.......

 

저는 이과생으로 이런 분야와 유사한것을 연구하고 있습니다만 한가지 지적하고 싶은것은 인공지능과 센서 그리고 알고리즘이 모든것을 해결해 주지 않는다는 겁니다. 아무리 통신이 잘되어도 어느 순간 극히 낮은 확율로 통신이 끊기면 시스템은 작동하지 않게 됩니다. 물론 이런 경우를 백업하는 알고리즘을 만들겠지만 인간이 신이 아닌 이상 모든 경우를 통제하는 시스템은 구현 불가능합니다. 아니 자연의 법칙상 안됩니다.

 

저는 자율 주행의 미래는 보험에 달려있다고 생각합니다. 어차피 모든 사고를 방지할 수는 없고 발생이 예견되는 사고는 보험으로 커버하여 사람들이 자율 주행이라는 시스템이 주는 잇점을 누리게 하는게 더 맞는 방향이라고 생각합니다....

 

지금 현세에는 자율주행이 적용되지 않고 인간의 인지 능력으로 자동차가 운전되고 있습니다만 수도 없이 많은 사고가 일어나고 있습니다. 그럼에도 불구하고 인간은 자동차라는 시스템이 주는 잇점을 포기하지 못하고 있습니다. 대신 보험으로 커버하고 있습니다. 미래의 어느 순간 인간이 자율주행의 잇점을 받아드리는 때는 기계적 완성도가 100%가 아니라 지극히 경제적 관점에서 이루어질거라고 봅니다.

2020-06-03 23:46:54

저는 그냥 stop and go 에 대해서 말씀만 드린거예요. stop and go 는 isg ( idle stop and go ) 로 공회전 제한 기능이예요. 말씀하신 기능은 adaptive cruse control 기능에 의해서 멈췄다가 출발하는 것으로 stop and go 와는 관련이 없어서 말씀 드렸습니다.

1
2020-06-02 13:11:22

우리나라 고속도로에서도 스마트 크루즈 키고 가다가 정체로 멈춘 차 박았다는 기사를 본것 같은데 믿으면 절대 안되죠. 사람운전이 메인이고 기계는 부족한 부분 거들뿐이라고 생각해야 합니다.

2020-06-02 14:05:54

저도 100% 세워준다고 알고 있었는데 막상 사용해보면 그렇지 않은 것 같더라고요.

그 후에 설명서를 보니 현재는 어느 정도 도와주는 정도이고 급정거 등의 상황을 완벽히 보장하지 않더라고요. 더불어, 앞차와의 거리 유지도 조절하는 것이 있더라고요 ㅠㅠ

2020-06-02 14:47:44

그때 방송기억으로는 고속도로에서 정체등으로 멈춰진 차를 인식은 못한다고 하더군요. 

2020-06-02 14:28:06

 지난번 사고도 그렇고 흰색 인지에 취약하군요. 카메라 사용하신 분은 왜 그런지 이해가 갈겁니다.

1
2020-06-02 14:28:51

많이들 오해하시는게 자율주행은 모든 차가 자율주행이어야 완전히 가능한 기능입니다.

즉 단 한 차량이라도 사람이 운전하는 경우 완전한 자율주행은 없다는 것이 벤츠의 자율주행 담당자 

의견입니다. 

마차와 차량이 섞여서 다녔듯이 자율주행도 그런 과도기가 필요합니다.

2
2020-06-02 14:49:54

오토 파일럿같은 단어 쓰는거 금지해야 합니다.

오해를 불러 일으키죠.


타 회사에서 저렇게 하면,
이미 원자 단위로 분쇄가 되었을텐데,
테슬러는 팬덤이 탄탄해서 문제가 덜 되고 있죠.

 

현재 자율주행은 그냥 주행보조 입니다.

절대로 핸들에서 손 놓으면 안됩니다.


테슬러 포함해서 다들

말은 번지르르 하게 하지만,

유료 베타 테스팅 하고 있는 거죠.

WR
2020-06-02 17:27:40

테슬라가 팬덤이 강하긴 하죠. 일론 머스크도 그렇고.

2020-06-02 18:45:01
잡스도 그렇고 머스크도 그렇고 정말 대단한 분들입니다.
 
글쓰기