페이스북
트위터
밴드"유튜브를 한 번 클릭하면 헤어나올 수 없게 되잖아요. 엄청난 걸 발견하면 친구들이 다들 '야, 이 동영상 봤어?'라며 떠들어 대기도 하구요. 저는 그 당시에 음모론에 흠뻑 젖어있었거든요."
미국 NBA의 유명한 농구 선수 카이리 어빙(Kyrie Irving)은 2017년 2월에 구단 팟캐스트에서 "그동안 내가 배운 것들이 거짓으로 드러나는 경우가 많다"며 지구가 평평하다는 주장을 진지하게 펼쳤다. 결국 1년 6개월이 넘은 뒤에 보스턴의 한 행사에 나와 사과를 하며 위에 나온 얘기처럼 유튜브를 비난했다.
플랫폼의 추천 알고리즘에 조롱받는 진실
하지만 인기 스타의 한 마디 말은 엄청난 효과를 낳았다. 그가 사과하기까지 1년 반 넘게 시달린 사람들은 다름아닌 중고교 과학 선생님들이었다. 학생들 일부가 더 이상 지구가 둥글다는 사실을 믿지 않으려 했기 때문이었다. 카이리 어빙은 "과학 선생님들에게도 미안하다. 그들 모두 내게 와서 '커리큘럼 전체를 다시 가르쳐야 했다'며 호소했다"는 말을 덧붙이기도 했다. 지구가 평평하다는 음모론이 퍼지는데 결정적인 역할을 한 것은 다름 아닌 유튜브의 추천 알고리즘이었다. 넷플릭스 다큐멘터리 <소셜 딜레마>에서 전 구글 엔지니어이자 유튜브 추천 알고리즘 개발팀에서 일했던 기욤 샬로(Guillaume Chaslot)는 이렇게 말했다.구글·페이스북·유튜브… 불신받는 알고리즘 설계
'기후위기'라는 단어로 구글에서 검색을 한다고 가정해보자. 그럼 구글의 자동완성 기능이 추천하는 단어는 일정할까? 그렇지 않다. 기후위기 따위 중요하지 않게 생각했던 트럼프를 지지하는 주에서는 '거짓말'이라는 단어가 추천되고, 그렇지 않은 주에서는 '생태계 파괴'라는 단어가 추천된다. 당연히 검색자의 성향에 따라서도 다른 단어가 추천된다. 페이스북과 유튜브의 추천 알고리즘 역시 클릭(조회)수, 좋아요 수, 팔로워(구독자) 수, 특정 영상 또는 게시물에 머무르는 시간에 따라 추천되는 내용이 달라진다는 것은 잘 알려진 사실이다. 그러다보니 극단적인 내용, 혐오를 부추기는 내용, 선정적인 내용이 자주 추천대상에 오른다. 클릭 수나 좋아요 수, 머무르는 시간이 많아지기 때문이다. 페이스북에서 근무하던 한 데이터 과학자가 최근 미국 의회 청문회에 출석해 데이터 알고리즘의 문제점을 폭로한 사건으로 페이스북 주가가 20% 가까이 폭락하는 일도 있었다. 페이스북이 자사 SNS 인스타그램의 일부 게시물이 10대 청소년 정신 건강에 유해할 수 있다는 내용을 담은 문건이었다. 페이스북은 최근 회사 이름을 '메타(Meta)'로 바꾸며 이미지 변신을 시도하고 있다. 인스타그램의 경우 아예 추천 알고리즘을 없애겠다고 공표하기도 했다. 피드에는 작성 순서에 따라 게시물이 올라올 뿐 별도 알고리즘에 따른 게시물 추천을 없앤다는 것이다.조금씩 베일을 벗는 알고리즘 비밀
최근 뉴욕타임즈는 10대들이 열광하는 SNS 앱인 '틱톡(tiktok)'의 엔지니어링 부서에서 작성한 '틱톡 알고(TikTok Algo) 100'이라는 문서를 입수해 공개한 바 있다. 이 문서는 비기술부서 직원들에게 틱톡의 알고리즘 작동 방식을 설명하기 위해 작성된 것이었다. 문서에 따르면 틱톡은 영상 자막, 해시태그(#), 그리고 '좋아요'와 댓글 등 여러 항목들을 알고리즘에 반영하고 있었다. 독특한 것은 구독자 수를 반영하지 않아 인플루언서가 아니더라도 누구나 틱톡에서 히트를 칠 수 있다는 점이었다. 뉴욕타임즈가 공개한 방정식, 그리고 테크월드가 곁들인 분석을 식으로 나타내면 다음과 같다. 즉, '좋아요'와 댓글, 그리고 재생 횟수와 재생시간이 길고 많을수록 추천과 컨텐츠 노출이 많아진다는 의미이다. 이렇듯 알고 보면 영업기밀이라 볼 수 없는 알고리즘 내용을 마치 엄청난 비밀인양 금고 속에 꼭꼭 숨겨둔 채 사람들의 사고방식을 좌지우지하고 있는 것이다.알고리즘 최종 목표는 플랫폼기업의 이윤
지난 7월에는 <월스트리트저널> 데이터 저널리즘팀이 틱톡 앱 상에서 100개의 가짜 계정(봇 계정)을 만들어 분석한 결과를 공개한 바 있다. 각각의 계정은 특정 성향을 갖도록 설계된 것으로, 이를테면 우울한 감정을 가진 것으로 설계된 계정을 통해서는 비슷한 성향의 영상을 많이 보도록 한 것이다. 그랬더니 틱톡 알고리즘은 이 계정이 우울한 영상에 더 오래 머문다는 사실을 단 3분 만에 알아채 비슷한 영상을 추천하고 4분 뒤에는 유사한 콘텐츠를 노출시켰다. 이 계정이 36분 간 추천받은 278개의 콘텐츠 중 무려 93%가 우울증 관련이거나 유사한 내용이었다. 심약한 이용자들을 점점 더 극단적이고 위험한 상태로 몰아가고 있다는 얘기다. 그럼 왜 이들은 이런 알고리즘을 포기하지 않는 것일까. 이유는 간단하다. 이용자들을 최대한 앱에 묶여 있도록 만들기 위해서다. 페이스북과 유튜브의 가장 중요한 수입원이 바로 이용자들을 상대로 한 광고 수익이기 때문이다. 앱에 붙잡아두면 둘수록, 영상과 게시물에 머무르는 시간이 많을수록 이윤이 늘어난다. 앞서 얘기했던 페이스북의 폭로된 내부 문건에 따르면, 페이스북 운영진과 개발자들은 유해 정보 차단 알고리즘을 통해 위험성을 이미 알고 있었지만 수정하진 않았다. 이유는 뭘까? 그렇다. 이윤 때문이다. 마치 이용자의 편익을 위해, 이용자 선호도에 따라 추천한다는 그럴듯한 명분을 내세웠지만, 플랫폼 기업이 알고리즘을 통해 추구한 건 돈더미였던 것이다.
전체댓글 0