테슬라의 오토파일럿이 쉽게 속는다고?

"2016년식 MODEL X와 MODEL S를 속이는데 필요한 것은, 겨우 5cm 크기의 검은 테이프였다."

 

실험자들이 테슬라의 자율주행 프로그램인 "오토파일럿"을 속이는 것이 쉽다는 것을 한 실험을 통해  알아냈다. 그 방법은 겨우 5cm의 검은 테이프였다.

얼마 전, MIT Technology Review가 발표한 바에 따르면, 해커들이 어떻게 테슬라의 두 모델의 속도를 규정속도보다 80km/h나 가속시킬 수 있었는지 알 수 있다. 이 저널에서, McAfee의 연구자인 Steve Povolny와 Shivangee Trivedi는 테슬라에 장착된 모빌아이 "EyeQ3" 를 35마일(56km/h)의 표지판에 트릭을 사용해 속이는 상황을 자세히 설명하였다.  

Povolny와 Trivedi는 2016년식 Model X와 Model S를 속이기 위해 속도표시패널의 숫자 3에 검은 테이프를 약 5cm 붙여 3의 가운데를 그림과 같이 살짝 길게 만들었다. 이 테이프가 부착된 35마일(56km/h) 속도 표지판을 차가 지나갈때 "오토파일럿" 을 작동시키면 테슬라의 카메라가 이 숫자를 35마일(56km/h)가 아니라 85마일(136km/h)로 인식해 무려 50마일(80km/h)를 가속시키는 놀라운 상황을 확인했다. 

이 저널에 따르면 이 테스트은 현재 널리 사용되는 자율주행 시스템의 취약성에 대한 가장 최근의 실험이라는 것이다.작년 UC 버클리의 교수가 스티커를 사용해 45마일(72km/h)의 속도표시를 정지표시로 인식하도록 자율주행 시스템을 속인 실험과, 도로에 스티커를 이용해 테슬라가 차선인식에 실패하도록 만든 실험들도 있었다. 이런 결함들은 단지 자율주행 시스템을 장착한 자동차에만 한정되지 않으며 최근의 연구에서는 AI를 활용한 의학기기에서도 큰 위협요인이 된다는 것을 예상하기도 했다.

이 테슬라를 이용한 실험은 자율주행 시스템을 장착하는 제조사들에게도 하나의 변곡점이 될 수 있다. 이런 실험과 유사한 형태의 결함들에 대한 운전자가 없는 자동차의 안전성에 대한 궁금증들은 자동차 제조사들이 자율주행 기술에 경쟁적으로 자본과 시간을 투입하기 시작할 때 더 본격적으로 대두될 것이다. 이러한 이슈들이 자동차 제조사들의 인내심과 자원이 고갈되기 전에 해결될지는 시간이 말해줄 것이다. 당분간은, 우리가 경험하고 있는 현재의 자율주행 시스템이 우리를 조금 더 지켜주기를 바랄 뿐이다.


출처 : https://robbreport.com/motors/cars/hackers-manipulate-teslas-50-mph-2900057/

---

전설이 미래의 클래식이 되다! BMW i8

아쉽지만 VR로 달래보자, 포르쉐 타이칸

애스턴마틴 비스포크 팀이 빚은 DBX 다크아트 에디션