페이스북이 내 생각을 조종한다면? - 감시 당하는 것 보다 더 무서워

 

페이스북 내부고발로 미국이 난리가 났습니다.

페이스북은 이제 그냥 SNS가 아닙니다. 10대들이 많이 이탈하고, 사용자가 많이 줄었다고는 하지만 여전히 많은 사람들이 이용중이며, 그 영향력도 어마어마 합니다. 인스타그램도 페이스북이 인수했습니다.

그런 페이스북이 자사의 이익을 위해 허위정보를 알면서도 삭제하지 않았고, 증오를 키우는 알고리즘을 수정하지 않고 유지했다는 내부고발이 있었습니다. 이런 기업 및 가짜뉴스를 막기 위한 법 규제가 필요하다고 생각합니다.

 

 

내부고발, 미 의회 청문회, 무슨 일이 있었나?

페이스북 직원의 내부고발로 시작된 이슈는 점점 커져서 미국 연방정부가 페이스북을 조사합니다. 실적은 엄청나게 좋았지만, 이 때문에 페이스북 주가까지 흔들리며 페이스북 창사이래 최대 위기를 맞게 됩니다. 2021년도 영업이익 52조, 영업이익율 40%.

프랜시스 하우건 - 전 페이스북 알고리즘 직원 - 내부고발 - 청문회 증언

국내언론 : 청소년에게 나쁜 영향을 준다는 조사결과를 숨겼다
미국언론 : 뉴욕타임즈, CNN 등 17개 언론사 컨소시엄 구성하여 비판하는 기사 시리즈 보도 시작, 집단으로 페이스북 실상 고발

페이스북이 이윤을 높이기 위해 허위정보와 증오의 알고리즘을 유지했다는 겁니다. 유명인의 인종 혐오 발언, 가짜뉴스 게시물들을 알고 있었고, 유해하다는 내부 조사결과가 있었고, 이를 경영진에 보고를 했으나 페이스북은 수익을 더 높이기 위해서 아무런 조치를 안 취했다는 것이지요.

가짜 뉴스가 생성되고 퍼져 나가도록 방치하고, 유해한 정보들이 내부 감시툴로 필터링이 되고 있었지만 더 많은 사용자 유입, 더 많은 조회수를 얻기 위해 이를 그대로 방조 했다는 겁니다.

감시 보다 더 무서운 가짜뉴스. 가짜뉴스 온상이 된 페이스북. 트위터가 트럼프 계정을 폭파 시켜 버린 것과 정 반대되는 행보입니다. 물론, 마크 저커버그 페이스북 CEO는 전면 부인했습니다.

 

프랜시스 하우건은 10월초 미국 청문회에서 증언하고, 10월말에는 영국 하원 청문회에도 참석해 증언을 이어 갔습니다.

미 하원에서 페이스북·구글·아마존·애플 등의 빅테크 기업들에 대해 16개월간의 강도 높은 조사 끝에 “빅테크 기업들이 독점적 지배력을 남용하고 있다”며 450페이지 분량의 보고서를 발표하던 시점에 터진 일이라 페이스북 주가에 직격탄이 됩니다.

 

페이스북은 회사명을 메타로 변경하며, 메타버스를 위한 청사진을 제공하며 위기극복을 시도하고 있습니다.

잘못을 인정하고 바로 잡는 방식으로 위기를 극복하는 것이 아니라, 시선돌리기 신공을 취하고 있는데 페이스북 실적이 나쁜편이 아니라서 슬프게도 이 신공은 먹히고 있는 것 같습니다. 

슬프지만, 돈 잘벌면 나이가 어려도 형님인거죠.

 

 

정말로 페이스북은 사람들을 조종할 수 있을까?

페이스북이 캠브릿지 애널리티카 라는 회사에 개인정보를 과도하게 제공했다는 사건이 있었습니다. 영국 정부는 64만 5,000달러의 과징금을 부과했고, 캠브릿지 애널리티카는 파산신청을 해 회사가 없어졌습니다.

 

표면적으로는 이렇지만, 넷플릭스 다큐멘터리 거대한 해킹을 보면 위의 사건이 사실은 엄청난 여론조작 이었을 수 있다는 이야기를 합니다. 정교한 개인별 타겟 광고의 힘이 얼마나 엄청난지 알 수 있습니다. 다른 사람이 올린 글 처럼 보이는 광고일 수도 있고, 가짜뉴스일 수도 있습니다. 믿을 만한 사람이 올린 것 처럼 착각할 수 있는 형태로 정교한 타이밍과 반복 횟수를 가지고 정말로 개인별로 다 다른 완벽한 개인별 맞춤형 내용이 전달되었다고 합니다.

당연히 광고 비용은 엄청나게 들지만, 컴퓨터의 힘으로 이게 가능한 세상입니다. 세상엔 원하는 것을 얻고자 상상할 수 없는 비용을 기꺼이 지불할 수 있는 사람들이 있습니다.

 

네, 제3세계의 독재자들을 위한 캠페인. 그리고 세계 여러 나라의 선거 캠페인에 참여하여 엄청난 효과를 발휘했고, 그 노하우를 쌓기를 거듭하며 엄청나게 정교해 집니다. 그리고 영국의 브렉시트와 미국 대선에도 참여해 성과를 이뤄냈다고 합니다. 물론, 결정적인 증거를 찾아내지는 못합니다.

 

하지만, 완벽하게 개인화된 맞춤형 가짜뉴스 혹은 과장된 내용이 사람의 생각과 행동에 어떤 영향을 미칠 수 있는지 놀라운 사례들을 잘 보여줍니다.

 

연장선상에서 보면 프랜시스 하우건이 폭로한 내용이 캠브릿지 애널리티카가 했던 내용과 매우 유사합니다. 그 회사는 파산해 없어졌지만, 추적을 피하기 위해 회사를 없앤 것이지 그 회사의 주요 멤버들은 다시 그 일을 하고 있을 가능성이 매우 높습니다. 성과가 나는 것을 확인 했고, 실전 데이터를 축적 했으니까요.

양극화를 조장하는 환경을 만들어냄 - 더 많이 노출시켜줌
비슷한 생각 및 감정을 공유한 사람들끼리 모이도록 알고리즘 설계

극단적 콘텐츠와 양극화 > 이용자들을 극단적으로 몰아넣고 증오를 부채질
페이스북에서 존재감을 키우는 가장 쉬운 방법은 분노와 증오

 

캠브릿지 애널리티카가 사용했던 방식들과 유사합니다.

얼마전에 난민을 단체로 폴란드로 이동시키는 사태를 연출하기 위해 벨라루스가 몇 개월에 걸쳐 설계하고, 이를 위해 페이스북 등 SNS를 이용했다는 의심이 있습니다. 물론, 벨라루스 정부는 부인합니다.

🌏⛵️ 페이스북이 벨라루스 국경에 쏘아 올린 작은 공
https://stibee.com/api/v1.0/emails/share/TENfytmjquAKfzKnaqXCHQueLkww0Q==

벨라루스 난민 사태로 보는 유럽 국가 역학 관계(썬킴) [김어준의 뉴스공장]
https://youtu.be/1auK_xNeiEY

 

왜 사회에 엄청난 해악을 주고 있는 알고리즘을 규제하지 않을까요?

증거가 없어서?

 

 

 

페이스북이 개입하는 것이 맞는지?

시장경제에 정부가 어디까지 개입하는 것이 맞느냐는 논쟁과 비슷해 보입니다.

페이스북은 스스로 바뀌지 못할 것이기 때문에 정부가 규제를 해야한다.
사회가 이와 같은 알고리즘을 규제하지 않으면, 알고리즘으로 대중을 조종할 수 있다.

 

무슨 소리냐, 그건 정부의 지나친 간섭이다. 시장 자율에 맡겨야 한다.

 

일반 시민의 입장에서는 어느 편일까요?

일반 시민이지만, 페이스북 주주들도 많을겁니다. 혹은 페이스북 연관 회사들의 주주일 수도 있지요.

 

페이스북이 올바른 결정을 내려야 하지만, 내 주식은 값이 떨이지지 않았으면 좋겠지요?

네, 부동산 정책은 분배의 영역에 들어가야 하지만, 내 집값은 떨어지지 않아야 하는 것이죠.

 

페이스북은 지켜보기만 할게 아니라 적극 개입을 했어야 했지만, 본인의 수익 극대화를 위해 알면서 묵인 합니다. 

이렇게 책임을 다하지 않는 기업에 대해서 정부가 개입을 해야 하는지?

네, 당연히 법적 근거를 마련해 책임을 다하도록 만들어야 합니다.

돈 벌기 위해서 책임을 다하지 않는 기업들은 그냥 둔다고 알아서 책임을 다하지 않습니다.

 

 

법적인 제제가 필요해 보입니다

페이스북이 우리 생각을 조종하려 하고 있다고 생각하면 과대망상 일까요?
미국 - 필터 버블 투명성 법안 발의
필터 버블 - 필터링된 버블 안에 갇혀 버린다, 그 필터링에 대한 의문이 허용되지 않음, 내가 선택할 수도 없음
에코 챔버 효과 - 일방적 논리만 반복적으로 듣다 보면 증폭 강화되어 수용되는 현상

 

반대편이 하는 이야기는 가짜뉴스 취급
알고리즘을 공개하라

어디서 많이 듣던, 보고 느끼던 현상 같지 않습니까?

네이버나 카카오 라고 해서 페이스북과 다를까요?
대형 IT 기업이 윤리적으로 행동하도록 하는 법 개정은 가능할까요?

어떤 형태로 정보가 필터링 되는지 알 수 없습니다. 해당 기업이 이게 검색 결과야 하면 그것만 보입니다.

 

네이버 블로거들 사이에도 많이 퍼진 이야기가 있습니다.

네이버가 광고해주는 내용을 쓰면 네이버가 검색에서 거른다고. 그러니 그런 키워드를 담은 글들은 안 쓰는게 좋다고.

 

다른 의견을 말하면 집단 보복을 당하고, 다수는 침묵하고 소수는 열광하는 현상은 인터넷 공간에서 이미 많이 목격되는 현상입니다. 나와 비슷한 사람들끼리만 모이는 것이 정말 바람직한가? 라는 생각과 행동이 필요한 때라고 보입니다.

사람들의 심리를 잘 이해하고 충분히 반복하면 사각형이 사실은 원이라는 것을 증명하는 것도 불가능한 일은 아닐 것이다. 괴벨스가 나치 정권을 유지하기 위해, 통제된 정보제공으로 그 시대에 성공을 했었습니다.

이제는 정보의 홍수 속에서 진실을 가려내지 못하도록 하여 피곤해진 개인들에게 듣고 싶은 것만 듣을 수 있는 편안한 환경을 인위적으로 만들어 내는 방법이 개인화된 광고 라는 이름으로 악용될 수 있습니다.

 

언제나 기술개발 보다는 규제가 늦을 수 밖에 없고

뭔가 큰 아픔을 겪고 난 후에야 법이 필요하다는 것을 느끼게 되는 것 같습니다.

 

기업들은 싫어하겠지만, 이제는 규제가 필요한 분야가 된 것 같네요.

 

 

 

두나무 합법적(?) 도박판인 암호화폐 거래소 업비트로 영업이익 국내 정상급 현금 보유

데스크테리어 - 책상 꾸미기 최고 악세사리는 디지털 기기

오미크론, 코로나 바이러스 새 변종이 단계적 일상회복 앞길 막네 2단계 유보