AI가 만든 가짜뉴스 찾아내는 AI 나왔다

A

요즘의 AI 알고리즘들은 평균적인 사람을 충분히 바보로 만들 수 있는 텍스트를 만들 수 있는 역량을 갖췄다. 향후 가짜 뉴스, 가짜 리뷰, 그리고 가짜 소셜 계정들이 AI에 의해 대량 생산될 수도 있다. 하지만 이같은 문제를 해결하는데도 역시 AI가 투입될 수 있다. AI가 만든 가짜 뉴스를 찾아내는 AI 기술이 실제로 개발됐다는 소식이다.

하버드 대학과 MIT-IBM 왓슨 AI 랩은 AI로 만든 문장을 찾아내는 새로운 도구인 자이언트  랭귀지 모델 테스트 룸(Giant Language Model Test Room: GLTR)을 개발했다. 

씨넷, MIT테크놀로지 등에 따르면 GLTR은 AI 문장을 만드는 사람은 실제 단어가 문장의 의미가 아니라 텍스트에 있는 통계적인 패턴에 의존한다는 사실을 활용한다. 다시 말해 이 도구는 당신이 읽고 있는 단어들이 사람이 쓴 것인지 예측할 수 있다.

잘못된 정보는 점점 자동화되고 있다. 가짜 텍스트나 이미지를 만드는데 필요한 기술들은 빠르게 진화하고 있다. 이와 같은 AI 기반 도구들은 가짜 뉴스나 트위터 봇등과 싸우는데 소중한 무기가 될 수 있다.

오픈AI 연구원들은 최근 놀라울 정도로 실제 문구를 생각해 내는 알고리즘을 시연했다. 연구원들은 이들 단어들에서 통계적인 패턴을 찾아내는 것을 알아낼 수 있도록 대용량 텍스트를 대규모 머신러닝 모델에 공급했다. 하버드 팀은 공개돼 있는 오픈 AI 코드의 한 버전을 사용해 GLTR 툴을 개발했다. 

GLTR은  다시 나올 수 있는 가능성을 기준으으로 텍스트에 있는 단어들을 강조한다. 가장 예측이 높은 것은 녹색, 덜한 것은 노란색과 빨간색, 그리고 가장 예측이 힘든 것은 보라색으로 표시한다. 

이 도구는 봇이 생성한 콘텐츠와 싸워야 하는 트위터나 페이스북 같은 소셜 미디어 사이트들에게 도움이 될 수 있다.

GLTR 연구원들은 하버드 학생들에게 AI가 생성된 텍스트를 찾아봐줄 것을 요청했다. 처음에는 도구 없이 하고, 그 다음에 도구의 도움을 받아 진행하는 방식이었다.

테스트 결과 학생들은 그들 스스로는 가짜 뉴스의 절반만 찾아낼 수 있다. 하지만 도구가 주어졌을 때는 72% 적중율을 보였다. 이번 프로젝트에 참여하고 있는 세바스티안 게르만 박사 연구생은 " 우리의 목표는 인간과 AI의 협업 시스템을 만드는 것이다"고 말했다.

테크잇 뉴스레터를 전해드립니다!

오피니언 기반 테크 블로그 'TechIt'
테크 비즈니스를 보는 다양한 통찰들을 이메일로 간편하게 받아 볼 수 있습니다.

About the author

endgame
endgame

테크 블로거 / 공유할만한 글로벌 테크 소식들 틈틈히 전달하겠습니다

No more pages to load


TechIT

테크 비즈니스를 보는 다양한 통찰 '테크잇'

독자 여러분들께서 좋은 의견이나 문의 사항이 있으시면 아래 양식에 따라 문의 주시기 바랍니다.

Contact