알아서 짜고 친다? AI 기반 가격 책정 알고리즘의 역설

MIT테크놀로지리뷰가 이탈리아 볼로냐 대학 연구원들이 내놓은 논문을 인용해 AI와 관련한 흥미롭고도 으스스한 시나리오를 제시해 눈길을 끈다.

가격 책정 알고리즘들이 가격을 올리기 위해 서로 한통속이 될 수 있다는 것이다.

항공사나 호텔같은 회사들은 오랫동안 가격을 정하기 위해 기계들을 사용해왔는데, 이제 이커머스 분야서도 일반화됐다. 룰 기반 시스템에서 강화학습(reinforcement-learning) 기반 알고리즘으로 진화했다.

강화학습은 머신러닝 인공지능(AI) 기술의 일종으로 바둑으로 이세돌을 누른 알파고에도 적용된 것이 알려지면서 관심을 받아왔다. 

강화학습은 AI가 특정 목표를 향해 움직이도록 동기를 부여하기 위해 처벌과 보상을 사용한다.

가격 책정 맥락에서 얘기하면 이들 시스템에는 수익을 최대화하는 것과 같은 목표가 주어진다. 이 상황에서 강화학습 기반 AI 시스템은 시뮬레이션화된 환경에서 최적의 것을 찾기 위해 다양한 전략을 실험한다.

그런데 볼로냐 대학 연구원들이 쓴 논문을 보면 강화학습 기반 가격 책정 알고리즘들은 큰 문제를 야기할 수 있다. 알고리즘들이 빠르게 한통속이 된다는 것이다.

논문에 따르면 볼로냐 대학 연구원들은 2개의 간단한 강화학습 기반 가격 책정 알고리즘을 제작했고, 이를 통제된 환경에 풀어놨다. 그랬더니 이들 알고리즘은 서로의 행동에 빠르게 대응하는 법을 배웠고 어느 한쪽에 혼자 운영될보다 상품 가격을 빠르게 끌어올렸다.

흥미로운 점은 이 과정에서 알고리즘이 뭔가 짜고 쳤다는 흔적이 없다는 것이다. 알고리즘들은 시행착오를 통해 한통속이 되는 것을 빠르게 배웠다. 운영 환경에 대한 사전 지식도 없었고, 알고리즘간 커뮤니케이션도 없었다. 한통속이 되도록 디자인하거나 가르치지도 않았는데, 알아서 그렇게 됐다는 것이 연구원들 설명이다. 

연구원들은 "가격 인상으로 이어지고 소비자들에게 해가될 위험이 있다"고 지적했다.

 책과 디지털 공간에서 곱씹어볼만한 오피니언을 정리하고 있습니다.

테크잇 뉴스레터를 전해드립니다!

오피니언 기반 테크 블로그 'TechIt'
테크 비즈니스를 보는 다양한 통찰들을 이메일로 간편하게 받아 볼 수 있습니다.

About the author

endgame
endgame

테크 블로거 / 공유할만한 글로벌 테크 소식들 틈틈히 전달하겠습니다

No more pages to load


TechIT

테크 비즈니스를 보는 다양한 통찰 '테크잇'

독자 여러분들께서 좋은 의견이나 문의 사항이 있으시면 아래 양식에 따라 문의 주시기 바랍니다.

Contact