세계 최초로 자율주행이 가능한 전기자동차를 시판한 테슬라모터스의 엘론 머스크 최고경영자는 “사람이 자동차를 운전하는 것보다 무인차가 스스로 운전하는 게 더 안전하며, 사람이 운전하는 게 불법인 시대가 도래할 것이다”라고 말했다. 3월17일 미국 캘리포니아 주 새너제이에서 열린 엔비디아 연례기술자 회의에서 20여 년 뒤에는 무인자동차가 상용화되리라고 주장하면서 한 말이다.


3월12일 개봉한 영화 <채피>는 매일 300건의 범죄가 폭주하는 2016년의 어느 도시에서 일하는 로봇 경찰의 인공지능을 다룬다. 인공지능의 학습 능력이 인간의 예상을 벗어나면서 로봇과 인간이 생존을 놓고 다투는 내용인데, 영화에서는 인간이 로봇보다 악하고 열등한 존재로 묘사된다.

로봇과 인공지능을 다룬 수많은 영화에서 한 가지 공통점을 확인할 수 있다. 로봇과 인공지능은 인간이 만든 순수한 존재로 탄생해서 ‘인간 제거’를 최후 목표로 삼는 것이다. 인공지능에 인간의 욕심을 더함으로써 인공지능을 오염시키는 구성은 식상하다. 실제로 영화 <터미네이터> <아이로봇> <레지던트 이블> 그리고 <트랜센던스>에서 인공지능은 인간에 의해 왜곡되고 더럽혀지고 만다.

인공지능 로봇을 그린 영화 <채피>(위)에서 인간은 로봇보다 악하고 열등한 존재로 묘사된다.

현실에서도 다르지 않다. ‘순수’한 규칙을 통해 결과를 만드는 알고리즘의 세계에서도 인간의 의도가 개입된다. 신뢰할 만한 문서를 ‘어떤 방식을 통해 상위로 노출시켜 순위를 매길지’ 알고리즘을 유추해 패턴을 만드는 것 자체가 해당 기업이 그들의 관점과 가치관을 투영하는 방식이다. 따라서 콘텐츠를 만드는 이들이 패턴을 바꾸고 이를 역이용한다면 객관적인 알고리즘은 사실상 존재하기 어렵다.

이런 상황에서 네이버는 다음, 구글에 이어 뉴스 검색 서비스를 클러스터링으로 제공하겠다고 지난해 12월5일 밝혔다. 언론사들이 트래픽을 끌어 모으기 위해 생산하는 비슷한 제목과 내용의 기사를 자동으로 묶어 제공하는 방식이다.

하지만 네이버로서도 낚시 기사를 배제하기란 쉽지 않다. ‘안영미 열애’ 기사는 3월17일 하루 만에 100개를 넘었고, 네이버 검색을 통한 트래픽 유입 비중이 높은 일부 언론사는 낚시 기사를 양산하고 있다. 검색 알고리즘이나 정책은 ‘악의’ 앞에 무너진다.

증권 거래 시스템 역시 인간의 개입 앞에 위기를 맞는다. 2010년 5월6일, 미국 다우존스 지수가 갑자기 요동을 치면서 엄청난 속도로 붕괴하기 시작했다. 10여 분 만에 거의 1조 달러가 사라져버렸다. 주식 거래를 초 단위로 하는 자동 거래 시스템 작동을 36초가량 지연되게끔 만들어 순차적으로 거래가 뒤엉키게 한, 플래시 충돌이라는 해킹이었다. 인간이 악의적으로 개입하면서 객관적이고 중립적인 알고리즘에 문제가 생겼다는 사실은 인간을 굴욕적으로 만든다.

옥스퍼드 대학 연구팀은 로봇과 인공지능의 발달로 “20년 후 미국의 일자리 가운데 47%가 소멸된다”라고 전망했다. 매킨지 글로벌 인스티튜트는 ‘2025년 로봇이 전 세계 제조업 일자리 4000만~7500만 개를 빼앗고, 알고리즘은 1억1000만~1억4000만명의 일을 대신할 것’이라고 전망했다.

현실적으로 트래픽을 늘리기 위한 기사를 사람을 시켜 양산하는 것보다 ‘도덕적 개념이 없는’ 로봇이 알고리즘의 논리 모순을 입력해서 기사를 만들어내는 시스템이 더욱 유용하리라는 의견까지 나온다. 세계적인 물리학자 스티븐 호킹 박사는 “로봇과 인공지능이 두려운 게 아니라 그들이 제 할 일을 하도록 놔두지 않는 인간의 마음이 더 문제다”라고 말한 바 있다.

------------------>
시사IN 에 게재된 글입니다.