페이스북, 많은 사용자에게 '알고리즘적 잔인함'으로 드러난 '올해의 리뷰' 앱에 대해 사과

목차

• 페이스북, 사용자 타임라인에 불필요한 올해의 리뷰 메시지를 띄운 것에 대해 사과
• 페이스북 사과

페이스북, 사용자 타임라인에 불필요한 올해의 리뷰 메시지를 띄운 것에 대해 사과

많은 시간을 보내고 있다면, ‘올해의 리뷰’라는 페이스북의 성가신 팝업을 보았을지도 모릅니다. ‘올해의 리뷰’는 자동으로 피드에서 가장 좋아요를 많이 받은 사진을 모아 타임라인에 ‘멋진 한 해였습니다! 함께해 주셔서 감사합니다.’라는 태그와 함께 팝업 메시지를 띄웁니다.

이것은 이상하게 들릴 수 있지만, 만약 가족의 가까운 사람의 죽음을 담은 사진을 올렸고 그 사진이 가장 많은 좋아요를 받았다면, 페이스북의 올해의 리뷰 알고리즘은 그 사진을 타임라인에 올리며 ‘멋진 한 해였습니다! 함께해 주셔서 감사합니다.’라는 비인간적이고 무감각한 태그를 붙일 것입니다.

그것은 저명한 웹 디자이너이자 작가인 에릭 마이어에게 일어난 일입니다. 페이스북은 마이어에게 2014년 6월, 뇌종양으로 고통받다가 6세 생일에 세상을 떠난 그의 아기를 잃은 끔찍한 기억을 다시 떠올리게 했습니다. 막 개인적인 큰 상실의 슬픔에서 벗어난 마이어는 그 사진과 매우 비인간적인 태그를 보고 깜짝 놀랐습니다. 그는 자신의 블로그에서 이렇게 요약했습니다.

“오늘 오후에 슬픔을 찾으러 간 것은 아니지만, 슬픔이 나를 찾았고, 그에 대해 감사해야 할 디자이너와 프로그래머가 있습니다. 이 경우, 디자이너와 프로그래머는 페이스북 어딘가에 있습니다.”

마이어는 ‘올해의 리뷰’ 앱을 통해 그가 딸의 죽음의 순간의 공포를 다시 경험하게 만든 페이스북 엔지니어들의 ‘알고리즘적 잔인함’이라고 표현했습니다. 그의 블로그에서, “그들은 쉽게 넘길 수 있었지만, 나는 넘겼습니다. 오늘, 내 피드에서 이것을 보았을 때, 나에게 나만의 것을 만들라고 권유했습니다. ‘에릭, 당신의 한 해는 이렇게 보였습니다!’

“내 딸의 사진, 그녀는 죽었습니다. 올해 죽었습니다.” 마이어는 덧붙였습니다. “네, 내 한 해는 그렇게 보였습니다. 사실입니다. 내 한 해는 이제는 없는 내 작은 소녀의 얼굴처럼 보였습니다. 그렇게 강하게 상기시키는 것은 여전히 불친절했습니다.”

올해의 리뷰 팝업은 일부에게는 훌륭할 수 있지만, 올해 잃은 가까운 사람의 이미지를 올린 다른 이들에게는 감당할 수 없는 고통을 초래할 수 있습니다. 만약 그 사진이 페이스북의 알고리즘에 의해 선택되어 그들에게 멋진 한 해라고 선언된다면 말입니다.

마이어는 올해의 리뷰 팝업에 대해 알고 있었지만, 명백한 이유로 자신의 것을 만들지 않기로 했습니다. 그러나 그날, 그는 타임라인에서 팝업을 보고 무력감을 느꼈습니다.

“내게 레베카의 얼굴을 보여주고 ‘당신의 한 해는 이렇게 보였습니다!’라고 말하는 것은 충격적입니다. 잘못된 느낌이 들고, 실제 사람에게서 온 것이라면 잘못된 것입니다. 코드에서 온 것이라면 불행한 일입니다. 이러한 문제는 매우 어렵습니다. 사진이 웃기거나, 놀랍거나, 가슴 아프기 때문에 많은 좋아요를 받았는지 프로그래밍적으로 알아내는 것은 쉽지 않습니다.” 마이어는 덧붙였습니다. “알고리즘은 본질적으로 생각이 없습니다. 특정 결정 흐름을 모델링하지만, 일단 실행하면 더 이상 생각이 발생하지 않습니다.”

웹 디자이너인 마이어는 코딩과 알고리즘의 한계를 인간의 감정과 비교하여 알고 있지만, 페이스북에 특정한 것들은 실행되지 않아야 한다고 상기시켰습니다. 마이어는 페이스북이 사용자가 실제로 보고 싶어하는 사진을 확인하기 전까지 어떤 사진도 ‘미리 채우지‘ 말 것을 권장했습니다. 그는 페이스북이 타임라인에 이러한 팝업을 내보내기 전에 사용자 의견을 묻는 것이 더 나았을 것이라고 제안했습니다.

페이스북 사과

페이스북은 이 잘못된 판단에 대해 사과했습니다. “[이 앱은] 많은 사람들에게 멋졌지만, 분명히 이 경우 우리는 그에게 기쁨이 아닌 슬픔을 안겼습니다.” 페이스북 ‘올해의 리뷰’ 앱의 제품 관리자 조나단 겔러가 워싱턴 포스트에 말했습니다. “우리는 더 잘할 수 있습니다 – 그가 슬픔 속에서 블로그 포스트를 작성할 시간을 내준 것에 매우 감사드립니다.”