지혜

우리의 분노가 상품이 된다 – SNS가 당신을 파는 법 | 요한 하리

https://www.youtube.com/watch?v=NV1t4_gkgE4

 

해당 유튜브 영상 발췌록은 소셜 미디어가 사용자의 관심을 해치고 분노를 조장하는 방식에 대한 논의를 담고 있습니다. 이 영상은 실리콘 밸리 내부자들의 증언을 인용하여, 소셜 미디어 플랫폼이 사용자를 고객이 아닌 광고주에게 판매하는 상품으로 취급한다고 설명합니다. 이러한 비즈니스 모델은 사용자를 계속 앱에 머무르게 하여 수익을 극대화하도록 설계되었으며, 이는 진정한 만남을 촉진하는 기능은 배제하면서 사용자의 집중력을 끊임없이 방해하는 결과를 낳습니다. 특히, 소셜 미디어 알고리즘은 인간의 **부정성 편향(negativity bias)**을 악용하여, 행복한 콘텐츠보다 분노와 불화를 유발하는 콘텐츠를 우선시함으로써 사용자의 참여를 유도하고 사회적 양극화를 심화시킨다고 주장합니다.

 

that I learned a lot about for the book So one is just the evidence that stress destroys your ability to focus and pay attention I'm sure we'll talk about that But another one is um you think about collective problems and collective solutions and you know why people are being so angry But one of the reasons that is making us so angry is also the factor one of the factors that's destroying our attention And one of the ways I understood this I spent a lot of time talking to people in Silicon Valley who designed key aspects of the world in which we now live in which our kids now spend so much of their time the key aspects of social media apps and and and other aspects of the internet And I remember certain moments with them it was fascinating to realize oh even though they designed these things they're not immune to these problems themselves There's a wonderful man named Dr James Williams who was a Google engineer who as subsequently was so horrified by what they were doing has quit and b

ecome I think probably the most important philosopher of attention in the world at the moment and when I went to go and see James in Moscow he told me about this moment that was really important for him he spoke at a tech conference and he's speaking to the exactly the people who are designing our world right and he said to them is there anyone here who wants to live in the world that we're designing and nobody put up their And there's another moment with Tristan Harrison amazing also a Google engineer who's become a dissident who said to me he had this moment when he was working on Gmail very early in Gmail and they wanted to increase the number of users but they particularly wanted to increase the number of times a day a user opened the app I can talk about why if you want And one of them sitting in the Google Plex one of his colleagues had an idea He said "Why don't we make it so that whenever you receive an email your phone vibrates a little bit." And everyone said "That's a good i

dea." And a week later Tristan was walking around San Francisco And he just starts hearing these vibrations like the chirping of birds all around him And he suddenly realizes "Shit we did that." And that was happening all over the world as a result of one colleagueu's decision In fact he calculated about a year later that they were responsible that one decision was responsible for 11 billion interruptions every day to people's day But the thing to understand about that the reason this relates to what you're saying about anger is obviously this is a huge debate about the design of these apps And he said to me if you open Facebook now Facebook will tell you loads of things right it will tell you whose birthday it is It'll tell you what you said on that day 10 years before It will show you photos of that your friends have tagged you in There's there's one thing Facebook doesn't have Facebook has no button that says "I'd like to meet up with my friends Is anyone nearby and wants to meet up

?" Right now the minute I say that lots of people listening will be thinking "Oh that'd be a really handy button I'd like to have that." So that would be very popular with its users It's very technologically easy to design Why does Facebook not offer it to you if you follow the trail from that question I think you begin to understand some of the reasons why we can't pay attention and we're so angry So when you open Facebook Facebook starts to make money in two ways First way is very obvious You see ads in your feed Okay we all get we know how that works Second way is much more important Everything you do on Facebook is scanned and sorted by Facebook to figure out details about who you are So let's say if you clicked that you like I don't know Kylie Manugg and Donald Trump and you said to your mom that in a private message that you've just bought some nappies Okay Facebook knows this is probably a gay man No disrespect to the straight fans of Kylie I'm sure there are some This is probab

ly a right-wing person and this is probably a person with a baby because they're talking about having nappies right so they they're getting imagine they've got tens of thousands of data points like you Now the reason they do that is because you are not the customer of Facebook You are the product in Facebook They sell that information about you to advertisers so the advertisers can target you better Because if I'm an advertiser selling nappies you don't want to target to me I don't have a baby You don't want to target to you You don't have a baby anymore Uh you want to target people who've got babies right so these are the two revenue streams for Facebook That's all they're interested in These are the two ways they make money Now imagine if they introduce that button that says "Oh I've got who's nearby and wants to meet up." If you push that button and it goes "Oh Bob's around the corner I'll go for a pint with Bob." You'll shut Facebook and Bob will shut Facebook right that's a disast

er for Facebook They suddenly lose both their revenue streams So their entire business model all of that extraordinary staggering engineering power all the design of their algorithms is built around one thing How do I keep you and your kids scrolling that's it That's their sole financial goal Now that obviously leads to inherently hacking our attention And that's not the view of the dissident That's what the people at the heart of Facebook say Sean Parker the first really big investor in Facebook crucial figure in the history of the company said from the beginning we designed it to invade your attention We knew what we were doing and we did it anyway God only knows what it's doing to our kids Right that's what he said Um but that comes the reason this relates So we can talk about how that affects our attention It means that the whole of Facebook and all the other social media companies that have the same business model is designed to figure out how to invade your attention And we can t

alk about the various techniques they use But that also has another effect on exactly what you're talking about about anger and one of the reasons why we're becoming so angry and so polarized There's a So Facebook's algorithms like I say only care about one thing How do I keep you scrolling they don't care if you feel good They don't care if you feel bad Not their interest It's how do I keep you scrolling so the algorithms are constantly figuring out okay what keeps people looking what keeps people looking and they they bumped into this was not the intention of anyone at Facebook but they bumped into a quirk in human psychology which is that we will stare at things that make us angry and upset longer than we will stare at things that make us feel good Anyone who's ever been on the motorway and passed a car crash knows this effect You stare longer at a car crash than you do at the pretty flowers on the other side of the road Right this is called negativity bias There's loads of psycholo

gical research for it 10 month sorry 10-day old babies will stare longer at an angry face than a happy face It's probably for a good reason in our evolution in that you want to be vigilant to anger and danger right but this has an effect online that is catastrophic It means that when the algorithms are trying to figure out how do I keep wrong and scrolling what they bump into is if we show him things that make him feel good he'll probably relax and is more likely to put down the app If we show him things that make him feel angry and upset he's more likely to keep scrolling Now that has an effect at two levels There's a personal level and a bigger a political level A personal level imagine two teenagers who go to the same party right and get the same bus home So one teenager on the bus home types "That was a really nice party I had a great time and everyone looked good." And the other teenager puts the status update "That party was shit Carrie looked like an absolute slag I've been read

ing my niec's Facebook." Facebook will figure out because it looks for angry versus happy words Calculates it It will put the happy status update into a few people's Facebook feed but it will put that angry Facebook update into loads more people's feeds because they know the happy one most people will go "Oh that's nice." But the angry one people go "How dare you call Carrier a slag what are you talking about how you can see how it it makes people more engaged It makes them scroll longer If it's enraging it's engaging." Now that's disastrous enough at the level of two teenage girls on a bus in Wenshore right but that is catastrophic at a political level where we're being fed things that are designed to make us angry It privileges anger It's one of the reasons it's not the only one to be sure why we're seeing such extreme polarization Why you know I don't need to mention Trump and Brexit and Bolsinaro and all these factors that are going on And anger itself harms your attention It's har

der to pay attention when you're angry

 

제가 그 책을 위해 많이 배웠던 것입니다. 그래서 하나는 스트레스가 집중하고 주의를 기울이는 능력을 파괴한다는 증거입니다. 분명히 우리는 그것에 대해 이야기할 것입니다. 하지만 또 다른 하나는 음, 여러분은 집단적인 문제와 집단적인 해결책에 대해 생각하고 사람들이 왜 그렇게 화를 내는지 알고 있습니다. 하지만 우리를 그렇게 화나게 만드는 이유 중 하나는 우리의 주의력을 파괴하는 요인 중 하나이기도 합니다. 그리고 제가 이것을 이해한 방법 중 하나는 실리콘 밸리의 사람들과 많은 시간을 이야기하며 보냈습니다. 이들은 우리가 지금 살고 있는 세상, 우리 아이들이 지금 많은 시간을 보내고 있는 세상의 핵심적인 측면을 설계했습니다. 소셜 미디어 앱과 인터넷의 다른 측면들의 핵심 요소들 말입니다. 그리고 저는 그들과 함께했던 특정 순간들을 기억합니다. 아, 그들이 이 물건들을 설계했지만, 그들 자신도 이러한 문제들로부터 면역되지 않았다는 것을 깨닫는 것은 매혹적이었습니다. Dr. James Williams라는 멋진 사람이 있습니다. 그는 Google 엔지니어였는데, 이후 그들이 하고 있는 일에 너무나 경악하여 그만두고

아마도 지금 세계에서 가장 중요한 주의력 철학자가 되었다고 생각합니다. 제가 모스크바에 있는 제임스를 만나러 갔을 때, 그는 자신에게 정말 중요했던 이 순간에 대해 말해주었습니다. 그는 기술 콘퍼런스에서 연설했고, 그는 우리가 살고 있는 세상을 설계하는 바로 그 사람들에게 이야기하고 있었습니다. 그리고 그는 그들에게 말했습니다. 우리가 설계하고 있는 세상에서 살고 싶은 사람이 여기 있습니까? 그리고 아무도 손을 들지 않았습니다. 그리고 또 다른 순간은 Tristan Harrison과 함께였습니다. 놀랍게도 그 또한 반체제 인사가 된 Google 엔지니어인데, 그는 Gmail 초기 단계에서 Gmail 작업을 할 때 이런 순간을 겪었다고 말해주었습니다. 그들은 사용자 수를 늘리기를 원했지만, 특히 사용자가 하루에 앱을 여는 횟수를 늘리기를 원했습니다. 원하신다면 그 이유에 대해 이야기해 드릴 수 있습니다. 그리고 Google Plex에 앉아 있던 그의 동료 중 한 명이 아이디어를 냈습니다. 그는 말했습니다. "이메일을 받을 때마다 휴대폰이 약간 진동하도록 하면 어떨까요?" 그리고 모두가 말했습니다. "좋은

생각이야." 그리고 일주일 후 Tristan은 샌프란시스코 주변을 걷고 있었고, 주변에서 새들의 지저귐 같은 이 진동 소리를 듣기 시작했습니다. 그리고 그는 갑자기 깨달았습니다. "이런, 우리가 저지른 일이야." 그리고 이것은 한 동료의 결정의 결과로 전 세계적으로 일어나고 있었습니다. 사실, 그는 약 1년 후에 계산했는데, 그 하나의 결정이 매일 사람들의 일상에 110억 건의 방해를 초래하는 책임이 있었다는 것입니다. 하지만 그것에 대해 이해해야 할 것은, 이것이 당신이 말하는 분노와 관련되는 이유는 분명히 이러한 앱의 디자인에 대한 거대한 논쟁이라는 것입니다. 그리고 그는 저에게 말했습니다. 만약 당신이 지금 페이스북을 연다면, 페이스북은 당신에게 많은 것들을 알려줄 것입니다. 생일이 누구인지 알려줄 것이고, 10년 전에 그날 당신이 뭐라고 말했는지도 알려줄 것입니다. 친구들이 당신을 태그한 사진을 보여줄 것입니다. 페이스북에는 없는 것이 하나 있는데, 페이스북에는 **"친구들과 만나고 싶어요. 근처에 누가 있고 만나고 싶나요?"**라고 쓰인 버튼이 없습니다.

지금 제가 이 말을 하는 순간, 듣고 있는 많은 사람들이 "오, 정말 유용한 버튼일 텐데, 가지고 싶다."라고 생각할 것입니다. 따라서 그것은 사용자들에게 매우 인기가 있을 것입니다. 기술적으로 설계하기 매우 쉽습니다. 페이스북이 왜 그것을 제공하지 않을까요? 그 질문에서부터 그 경로를 따라가면, 왜 우리가 주의를 기울일 수 없고 그렇게 화를 내는지에 대한 몇 가지 이유를 이해하기 시작한다고 생각합니다. 페이스북을 열 때, 페이스북은 두 가지 방식으로 돈을 벌기 시작합니다. 첫 번째 방식은 매우 명확합니다. 피드에서 광고를 봅니다. 알겠습니다, 우리 모두 알고 있습니다, 그것이 어떻게 작동하는지 알고 있습니다. 두 번째 방식은 훨씬 더 중요합니다. 페이스북에서 당신이 하는 모든 것은 당신이 누구인지에 대한 세부 정보를 파악하기 위해 페이스북에 의해 스캔되고 분류됩니다. 예를 들어, 당신이 '좋아요'를 클릭했다고 가정해 봅시다. 당신은 (제가 알기로는) Kylie Manugg과 Donald Trump을 좋아하고, 어머니에게 개인 메시지로 방금 기저귀를 샀다고 말했다고 합시다. 알겠습니다. 페이스북은 이것이 아마도 게이 남성일 것이라고 알고 있습니다 (Kylie의 이성애자 팬들에게는 무례함이 없기를 바랍니다. 분명히 있을 것입니다). 이것은 아마도

우파 성향의 사람일 것이고, 그리고 이것은 아마도 아기를 가진 사람일 것입니다. 왜냐하면 그들이 기저귀를 가지고 있는 것에 대해 이야기하고 있기 때문입니다. 맞죠? 그래서 그들은 당신과 같은 수만 개의 데이터 포인트를 가지고 있다고 상상해 보세요. 이제 그들이 그렇게 하는 이유는 당신이 페이스북의 고객이 아니기 때문입니다. 당신은 페이스북의 제품입니다. 그들은 당신에 대한 그 정보를 광고주에게 판매하여 광고주가 당신을 더 잘 타겟팅할 수 있도록 합니다. 왜냐하면 제가 기저귀를 판매하는 광고주라면, 저를 타겟팅하는 것을 원하지 않을 것입니다. 저는 아기가 없습니다. 당신을 타겟팅하는 것을 원하지 않을 것입니다. 당신은 더 이상 아기가 없습니다. 음, 아기가 있는 사람들을 타겟팅하기를 원합니다. 맞죠? 따라서 이것들이 페이스북의 두 가지 수익원입니다. 이것이 그들이 관심 있는 전부입니다. 이것들이 그들이 돈을 버는 두 가지 방식입니다. 이제 그들이 "오, 근처에 누가 있고 만나고 싶나요?"라고 쓰인 버튼을 도입했다고 상상해 보세요. 당신이 그 버튼을 누르고 "오, Bob이 근처에 있네. Bob이랑 맥주 마시러 가야지."라고 한다면, 당신은 페이스북을 닫을 것이고 Bob도 페이스북을 닫을 것입니다. 맞죠? 그것은 재앙입니다.

페이스북에게는 재앙입니다. 그들은 갑자기 두 가지 수익원을 모두 잃습니다. 따라서 그들의 전체 비즈니스 모델, 그 모든 엄청나게 충격적인 엔지니어링 능력, 그들의 알고리즘의 모든 디자인은 단 한 가지를 중심으로 구축됩니다. "어떻게 하면 당신과 당신의 아이들이 계속 스크롤하게 만들 수 있을까?" 그것뿐입니다. 그것이 그들의 유일한 재정적 목표입니다. 이제 그것은 당연히 우리의 주의력을 본질적으로 해킹하는 것으로 이어집니다. 그리고 그것은 반체제 인사의 견해가 아닙니다. 그것은 페이스북의 핵심에 있는 사람들이 말하는 것입니다. Sean Parker, 페이스북의 첫 번째로 정말 큰 투자자이자 회사 역사에서 결정적인 인물은 처음부터 우리가 당신의 주의력을 침해하도록 설계했다고 말했습니다. 우리는 우리가 무엇을 하고 있는지 알았고 어쨌든 그것을 했습니다. 그것이 우리 아이들에게 무엇을 하고 있는지는 오직 신만이 압니다. 맞죠? 그것이 그가 말한 것입니다. 음, 하지만 그것은 이 문제와 관련되는 이유입니다. 그래서 우리는 그것이 우리의 주의력에 어떻게 영향을 미치는지에 대해 이야기할 수 있습니다. 그것은 페이스북 전체와 동일한 비즈니스 모델을 가진 다른 모든 소셜 미디어 회사들이 당신의 주의력을 어떻게 침해할지 파악하도록 설계되었다는 것을 의미합니다. 그리고 우리는 이야기할 수 있습니다.

그들이 사용하는 다양한 기술에 대해 이야기할 수 있습니다. 하지만 그것은 또한 당신이 분노에 대해 말하는 것, 그리고 우리가 왜 그렇게 화를 내고 극단적으로 양극화되는지에 대한 이유 중 하나에 정확히 또 다른 영향을 미칩니다. 제가 말했듯이 페이스북의 알고리즘은 단 한 가지에만 관심을 갖습니다. "어떻게 하면 당신을 계속 스크롤하게 만들 수 있을까?" 당신이 기분이 좋은지 나쁜지는 신경 쓰지 않습니다. 그것은 그들의 관심사가 아닙니다. 그것은 어떻게 하면 당신을 계속 스크롤하게 만드는지입니다. 그래서 알고리즘은 사람들이 계속 보게 만드는 것이 무엇인지, 사람들이 계속 보게 만드는 것이 무엇인지 끊임없이 파악하고 있습니다. 그리고 그들은 이것을 우연히 발견했습니다. 이것은 페이스북의 어느 누구의 의도도 아니었지만, 그들은 인간 심리학의 특이한 점을 우연히 발견했습니다. 그것은 우리를 기분 좋게 만드는 것을 응시하는 것보다 우리를 화나게 하고 속상하게 만드는 것을 더 오래 응시한다는 것입니다. 고속도로를 운전하다가 교통사고를 지나쳐 본 사람은 누구나 이 효과를 압니다. 길 반대편의 예쁜 꽃을 볼 때보다 교통사고를 더 오래 응시합니다. 맞죠? 이것을 **부정성 편향(negativity bias)**이라고 부릅니다. 수많은 심리학적

연구가 있습니다. 10개월 된, 아니 10일 된 아기들이 행복한 얼굴보다 화난 얼굴을 더 오래 응시할 것입니다. 이것은 아마도 우리의 진화에서 좋은 이유가 있을 것입니다. 분노와 위험에 경계하고 싶어 하기 때문입니다. 맞죠? 하지만 이것은 온라인상에서 치명적인 영향을 미칩니다. 이것은 알고리즘이 어떻게 하면 계속 스크롤하게 만들지 파악하려고 할 때 우연히 발견하는 것은, 만약 우리가 그에게 기분 좋게 만드는 것을 보여주면 그는 아마도 편안해지고 앱을 내려놓을 가능성이 더 높다는 것입니다. 만약 우리가 그에게 화나고 속상하게 만드는 것을 보여주면, 그는 계속 스크롤할 가능성이 더 높습니다. 이제 그것은 두 가지 수준에서 영향을 미칩니다. 개인적인 수준과 더 큰 정치적인 수준이 있습니다. 개인적인 수준에서, 같은 파티에 갔다가 같은 버스를 타고 집에 가는 두 명의 십 대를 상상해 보세요. 그래서 버스를 타고 집에 가는 한 십 대는 "정말 좋은 파티였어. 즐거운 시간을 보냈고 모두 멋져 보였어."라고 타이핑합니다. 그리고 다른 십 대는 상태 업데이트에 "그 파티는 엉망이었어. Carrie는 완전 쓰레기 같았어. 나는 내

조카딸의 페이스북을 읽고 있었는데." 페이스북은 화난 단어와 행복한 단어를 찾기 때문에 그것을 계산하여 파악할 것입니다. 그것은 행복한 상태 업데이트를 소수의 사람들의 페이스북 피드에 넣을 것이지만, 화난 페이스북 업데이트는 훨씬 더 많은 사람들의 피드에 넣을 것입니다. 왜냐하면 그들은 행복한 것은 대부분의 사람들이 "오, 멋지네."라고 반응할 것이라는 것을 알지만, 화난 것은 사람들이 "네가 감히 Carrier를 쓰레기라고 불러? 무슨 말을 하는 거야?"라고 반응할 것이기 때문입니다. 그것이 어떻게 사람들을 더 참여하게 만드는지 볼 수 있습니다. 그것은 그들이 더 오래 스크롤하게 만듭니다. "분노를 유발하면(enraging) 참여를 유발한다(engaging)." 이제 그것은 웬셔(Wenshore)를 오가는 버스에 탄 두 십 대 소녀의 수준에서는 충분히 비극적이지만, 우리를 화나게 만들도록 설계된 것들이 공급되는 정치적인 수준에서는 재앙적입니다. 그것은 분노에 특권을 부여합니다. 그것이 우리가 그러한 극심한 양극화를 보는 이유 중 하나입니다 (확실히 유일한 이유는 아닙니다). 당신도 알다시피, 저는 트럼프와 브렉시트, 볼시나루, 그리고 진행되고 있는 이 모든 요소들을 언급할 필요가 없습니다. 그리고 분노 그 자체가 당신의 주의력을 해칩니다. 주의를 기울이기가 더 어렵습니다.

화가 났을 때 주의를 기울이기가 더 어렵습니다.