알파고가 이세돌을 이긴 후 종종 생각하는 질문 중 하나. 인공지능에 의존하게 되면 사람은 자신의 판단을 신뢰할 수 있을까? 인공지능의 결정과 자신의 판단이 달랐을때 스스로 확신을 가질 수 있을까?
예를 들어, 인공지능이 자신의 의학 지식으로는 납득할 수 없는 진단 결과를 내놓는 것을 보고 의사가 확인 작업을 했는데, 인공지능이 맞다는 결과가 나왔고, 이런 과정이 반복되면 과연 의사는 인공지능의 결정에 맞설수가 있을까> 승부욕이 강해서일 수도 있고, 인류의 자존심을 위해서일 수도 있겠지만 아무튼 다시 한번 확인해 보겠다며 병원에 회의를 요청하는 의사들이 있기는 하겠지만, 다수는 아닐 것 같다.
사피엔스의 저자로 유명한 역사 학자 유발 하라리도 인공지능이 사람의 판단을 지배할 가능성이 크다는 입장이다. 유발 하라리가 사피엔스에서 내놓은 책 '호모 데우스'에 따르면 인공지능이 진화할 수록 사람의 직감은 존재감이 약해질 것이다.
"구글과 페이스북, 그밖의 다른 알고리즘들이 모든 것을 아는 신탁이 되면, 그 다음에는 대리인으로 진화하고 마침내 주권자로 진화할것이다. 이 경로를 이해하기 위해 요즘 많은 운전자들이 사용하는 GPS 기반의 내비게이션 애플리케이션 웨이즈의 사례를 살펴보자. 웨이즈는 단순히 지도가 아니다. 수백만 사용자들이 교통 체증 자동차 사고, 경찰차에 대한 정보를 끊임없이 업데이트한다. 그 결과 웨이즈는 어느 길로 가면 심한 정체를 피할 수 있는지 알고 목적지로 가는 가장 빠른 길로 사용자를 안내한다. 교차로에서 사용자의 직감은 우회전을 하라고 말하지만 웨이브는 좌회전을 하락 지시할때, 사용자는 곧 자신의 직감보다 웨이브의 말을 듣는게 낫다는 사실을 알게 된다.
"처음에는 웨이즈 알고리즘이 그저 신탁같은 역할을 하는 것처럼 보인다. 우리가 질문을 하면 신탁이 답하지만 결정하는 것은 우리 몫이다. 하지만 신탁이 우리의 신뢰를 얻으면, 그 다음은 대리인으로 변하게 마련이다. 우리가 무인자동차에 웨이즈를 연결하고 "집까지 가장 빠른 길로 가줘" 또는 "가장 경치 좋은 길로 가줘" 또는 "오염을 최소로 일으키는 길로 가줘"라고 말할때 그런 일이 일어나는 것이다. 명령은 우리가 하지만, 그 명령을 실행하는 것은 웨이즈의 몫이다. 마지막으로 웨이즈는 주권자가 될 것이다. 엄청난 힘을 쥐고 우리보다 훨씬 많은 것을 알게된 웨이즈는 우리를 조종하고, 우리의 욕망을 주무르고 우리 대신 결정을 내리기 시작할 것이다."
유발 하라리는 아마존 알렉사 같은 음성 AI 비서가 몰고올 다소 으스스한 시나리오도 제시하고 있다. 책에서는 알렉사 대신 마이크로소프트 코타나를 예로 들었다.
"코타나가 신탁에서 대리인으로 진화하면 주인들 대신 자기들끼리 직접 이야기하기 시작할 것이다. 처음에는 내 코타나가 당신의 코타나에게 연락해 약속 장소와 시간을 잡는 것과 같은 단순한 일로 시작할 것이다. 하지만 어느 순간 정신을 차리고 보면 내가 입사 지원한 회사의 인사팀장이 나에게 이력서를 보낼 필요 없이 자신의 코타나가 내 코타나를 면접볼 수 있도록 해달라고 말한다. 또는 나에게 관심있는 이성의 코타나가 내 코타나에게 접근해 서로 정보를 교환하며 두 사람이 좋은 짝인지 결정한다. 물론 이 모든 일들은 그들의 주인들이 전혀 모르는 상황에서 이뤄질 것이다."
인공지능이 많은 분야에서 사람들을 편리하게 하는 것은 부정할 수 없는 사실이지만, 인공지능에 사람들이 판단을 의존하는 상황에서 지금의 사회 제도나 시스템이 유지될 수 있을지 모르겠다. 인공지능의 확산에 맞춰 사회의 지속 가능성을 유지하기 위해 어떤 것들을 준비해야할까? 디테일을 찾기는 쉽지 않겠지만 변화 없이 하던대로 해서는 세상이 알아서 잘 굴러갈 것 같지는 않다.
유발 하라리 처럼 사회학, 철학, 역사를 포함하는 인문학자들이 인공지능에 대해 좀더 많은 생각들을 공유해줘으면 하는 바람이다. 기술 중심 접근만으로 인공지능이 몰고올 변화를 이해하기는 무리가 있다.
