Skip to content

5화 스토리텔링 속 표현의 참뜻

추가설명자료: 디지털중독과 알고리즘 조작

        이 추가설명자료는 [5화 스토리텔링 속 표현의 참뜻]의 [1. 새로운 세상이란 표현의 명확한 의미]에서 언급된 “디지털 중독”과 “디지털 공간들의 알고리즘”에 대한 추가 설명 내용이다.

        ‘디지털 중독’과 ‘Algorithmic Manipulation’은 매번 느끼는 것이지만, 매우 심각하게 다가오는 문제 중의 하나이다. 그래서 사람의 흔적은 알려지지 않은 내면적 상태, 알려진 외부적 상태, 그 상태에 따른 작고 큰 움직임, 이동 등과 맥락적 요소를 가지고 사람의 요구와 필요를 예측할 수 있다는 것은 매우 중요한 기술이며, 모든 디지털 공간에서 서로 앞 다투며 만들어 내려는 것이다. 이것을 사람에게 지원과 도움이 되도록 사용할 것인지, 아니면 사람에게서 원하는 것을 빼내려고 하는 것인지는 디자이너의 인성과 성품에 달려있다. 그래서 매우 이기적인 사람이 나를 전혀 모르는 데, 나를 위해 필요한 서비스할 만든다는 것은 있을 수 없는 것이다.

        이 ‘디지털 중독’과 ‘알고리즘 조작(Algorithmic Manipulation)’은 거창하고 특별한 기술이 필요해서 나와는 상관없는 용어처럼 들리지만, 사실 사람들 대부분이 매일 의식하지 못한 채 경험하는 현상을 보여주는 표현일 뿐이다.

        ‘디지털 중독’, 이 ‘중독’이라는 단어는 언제 들어도 섬뜩한 기분을 느끼게 해 준다. 내 자신도 무엇에 중독되었다면 빨리 거기서 벗어나려고 하지 않을까? 문제는 그 중독이라는 것은 자신도 그런 상태라는 것을 모른다는 것이고, 또 중독이 되었다는 것을 알게 된 때는 이미 알고도 빠져나오지 못하는 그런 상태에 자신이 있다는 것을 아는 것이다. 담배중독, 도박중독, 마약중독, 알코올중독 등 들어 본 것도 많은데 이번에는 디지털 중독이라는 것이다. 그런데, ‘디지털 중독’이라고 하니, 컴퓨터를 많이 사용하는 나도 그런 것이 아닌가 하는 생각이 갑자기 드는데, 과연 ‘디지털 중독’은 어떤 것일까?

        사람들이 단순히 컴퓨터를 많이 사용하거나, 스마트폰 가지고 무엇인가를 하기를 좋아하거나, 소셜미디어를 많이 확인한다는 것 만을 말하는 것이 아닐 것이다. 거기에는 더 깊은 패턴, 즉 두뇌가 디지털 디바이스들이나 플랫폼에 의존하기 시작하게 되는 어떤 순간이 있게 되고, 그런 과정을 통해 점점 더 의존도가 높아가고 있다는 것이다. 마치 흡연자가 담배에 의존하거나 도박꾼이 슬롯머신을 한 바퀴 돌리지 않으면 안되는 것처럼 말이다. 바로 그런 순간을 알아차린다면, 그 때는 이미 그런 습관을 끊기가 매우 어려운 상태에 자신이 있다고 보면 된다. 고치고 싶어도 못 고친다는 것이다.

        두뇌가 디지털 디바이스나 플랫폼에 의존하기 시작한다는 것은, 그 디바이스에 너무 자주, 그리고 무의식적으로 의존하게 되어 두뇌가 마치 평소 사용하는 도구처럼, 마치 항상 손에 닿고, 쥐고 있는 도구처럼 취급한다는 뜻이다. 시간이 지남에 따라 정신적 과정은 다음과 같이 변화한다고 한다.

        시간이 지남에 따라 변화하는 정신적 과정을 보면, 첫째, 두뇌가 기억하고, 문제를 해결하고, 알아차리는 일을 하는 대신, 디바이스가 그 일을 처리하도록 내버려 둔다는 것이다. 보통의 사람들도 자신의 습관 속에서 이런 경험을 하는 경우가 많을 것이다.

        시간이 지남에 따라 변화하는 정신적 과정을 보면, 둘째, 두뇌가 항상 깨어 있고 활동적인 상태를 유지하며 두뇌가 스스로 처리해야 하는 정신적 작업임에도 불구하고, 그것을 디바이스에 넘겨버리는 것에 익숙해지게 된다는 것이다. 예를 들어, 더 이상 전화번호를 기억하려고 애쓰지 않고, 휴대폰에 기억시켜 두는 것이다. 어쩌다 전화번호를 누군가 물어보면, 그냥 대답을 할 수 없는 경우가 생기는 것이다. 자신의 번호인데 그런 경우가 있다. 또 간단한 암산도 머릿속으로 계산하려고 하지 않고, 계산기나 앱에 반드시 맡긴다는 것이다. 결국 암산도 가능한데, 괜히 틀릴까 봐 불안하고, 그리고 암산도 잘 안되는 것 같아, 어떻게 보면 귀찮아서 간단한 것도 무조건 계산기 앱을 사용하려고 하는 것이다. 그리고 시간이나 약속도 두뇌가 기억하게 두지 않고, 휴대폰이 알려주게끔 만드는 것이다. 일정 캘린더 앱을 사용하려 알람을 울리게 두면 약속이나 중요한 일정을 놓치지 않을 것이다. 하지만, 그 약속이 두뇌 어딘 가에도 있게 마련인데, 그것을 무시하는 것이다.

        이것이 바로 “Offloading”, 즉 두뇌가 가져야할 부하를 덜어주는 격이 된다. 예전에는 두뇌가 정신적 무게를 짊어졌지만, 이제는 컴퓨터에 맡겨져 그것이 컴퓨터로 넘어가게 되었다는 것이다. 어떻게 보면 두뇌를 쉬게 할 수도 있는 좋은 일인 것 같다. 예제가 정확히 들어 맞는 것이 아닐 수 있지만, 무거운 상자를 직접 옮기는 대신에 카트에 싣고 옮기는 것과 같다고 할 수 있다. 그렇게 되면 컴퓨터 디바이스가 “카트”가 되어 기억, 계산, 심지어 때로는 결정까지 그런 정신적 부담을 떠안게 되는 것이다. 그리고 두뇌는 부담을 받지 않아 좋을 수도 있겠지만, 문제는 그 편리함에 두뇌가 점점 익숙해지는 것이다.

        그런데 여기에 함정이 있다. 두뇌가 해야 할 것 중에 너무 많은 것을 내려놓으면 두뇌는 서서히 그런 기술들을 스스로 사용하는 것을 멈추게 되는데, 마치 운동하지 않으며 근육이 사라지는 것처럼, 스스로 기억하고, 집중하고, 문제를 해결하는 능력이 약해지게 마련이다.

        그러니 짐을 덜기 위해 디바이스에 그 짐을 옮기는 것 자체는 나쁘거나 잘못된 것이 아니라 오히려 도움이 된다. 하지만 디바이스에 완전히 의존하는 것에 익숙하게 되고, 그 처리를 조정하는 과정이 점점 능수능란하게 된다면, 사람들은 자신의 두뇌를 사용하지 않게 되고, 그렇게 되면 중독의 위험에 빠지게 되어 있다는 것이다.

        시간이 지남에 따라 변화하는 정신적 과정을 보면, 셋째, 그래서 두뇌는 자주 혹은 항상 디바이스가 곁에 있을 것으로 기대하지만, 디바이스가 곁에 없으면 불안하고 초조해지고, 주의가 자신도 모르게 산만해지는 등의 일상 생활의 방해를 겪게 된다. 휴대폰이 몸과 가까이에 없을 때 사람들은 불안해지는 것을 자주 경험한 적이 있을 것이다.

        그래서 두뇌가 디바이스에 지나치게 의존하게 된다면, 중독 증세처럼 나타나는 일반적인 징후가 있다고 한다.

        지나친 의존성으로 인해 나타나는 중독 증세는 첫 번째는 집중력이나 또는 주의력이 감소하게 된다고 한다. 예를 들어, “무엇인가를 확인하기 위해” 휴대폰을 보게 되다가 거기서 빠져나오지 못하고 시간 가는 줄 모르거나, 방금 전에 무엇을 하고 있었는지 잊어버리는 경우가 있다는 것이다. 연구에 따르면 스마트폰을 가까이 두면 가용 가능한 인지 능력이 감소하여 두뇌가 이미 바쁘기 때문에 다른 일을 할 수 있는 정신적 공간이나 두뇌 능력이 줄어들게 되고, 두뇌가 생각할 어떤 소위 “여유 공간”이 줄어든다고 한다.

        물론 휴대폰으로 무엇인가를 확인한다는 자체도 집중력이 필요한 것이다. 그러나 놓치지 말아야 하는 것이 있다. 언급한대로 “그냥 무엇인가를 확인”하는 경우에는 집중하는 것이 아니라 오히려 주의력이 매우 빠르게 분산되거나 다른 곳으로 쏠릴 가능성이 있는 것이다. 잠시 휴대폰에 집중할 수는 있지만, 이는 깊은 집중이 아니라 얕고 반응적인 집중이라는 것이다. 즉, 집중은 되지만 잠깐일 뿐이며, 두뇌는 이를 위해 기어를 계속 바꿔야 한다. 이러한 “전환”은 많은 에너지가 소모되고 원래 하려던 일이나 하고 있었던 일에 쏟을 수 있는 정신적 노력을 감소시킨다는 것이다. 실제로 이것에는 “Attention Residue”라고 불리고 있다. 새로운 작업으로 넘어간 후에도 이전 작업에 남아 있는 작은 정신적 집중력이라는 것이다.

        그리고 꼭 휴대폰이 아니더라도, 다른 한 가지에 집중하면 다른 것들을 무시하게 된다. 이것은 자주 경험하는 일이고, 극히 정상적이고 당연한 일이고 어떻게 보면, 사실은 좋은 일이다. 하지만 휴대폰은 내가 원래 집중하고 있는 일에서 벗어나게 만들며 생각이 집중되는 순간을 빼앗아 버리게 되는데, 예를 들어, 진동이나 알림 표시등은 어떻게 보면 끊임없이 울리는 알람 소리처럼 주의를 다른 곳으로 끌어낸다는 것이다. 그래서 휴대폰을 만지지 않을 때에도 두뇌가 새로운 정보가 있는지 계속 확인하게 만든다.

        가까이 두려고 휴대폰을 만들었는데, 가까이 두었다고 문제가 생긴다면, 휴대폰 자체의 존재의 의미가 사라질 수 있다는 생각도 가질 수 있다. 그래서 이름도 휴대폰이 아닌가? 하지만, 그렇게 편리하고자 만든 휴대폰이 그 존재만으로 두뇌가 생각하려는 그 “여유 공간”을 감소시킨다는 것은 원래 개념적 디자인을 할 때, 이러한 요인은 생각을 했다고 해도 어쩔 수 없는 문제로 양산 후에도 해결하지 못하고 고객에게 넘길 문제로 여겼을 수도 있다.

        그래서 연구에 따르면 휴대폰이 무음 상태이더라도 두뇌의 주의력의 일부는 무의식적으로 휴대폰에 집중하게 된다는 것이다. 아예 휴대폰을 무엇인지 모르면 모를까, 휴대폰(스마트폰)을 사용했던 사람이라면 이런 현상은 어쩔 수 없다는 것이다. 마치 두뇌가 혹시 무슨 일이 일어날지 모르니 한쪽 눈을 뜨고 있는 것과 같다고 한다. 이러한 배경의 경계는 생각하고, 계획하고, 문제를 해결하는 데 사용하는 정신적 공간인 “Working Memory”를 약간 고갈시키는 것으로 나와 있다. 그래서 휴대폰이 책상 위에 있을 때, 심지어 전원이 꺼져 있더라도 기억력과 문제 해결 능력이 저하되는 것을 발견했다고 한다. 반면, 휴대폰이 다른 방에 있을 때는 기억력과 문제 해결 능력이 향상되었다고 한다.

        “Working Memory”를 간단히 말하면, 생각하는 동안 정보를 일시적으로 저장하는 두뇌의 일부 영역이다. 마치 머릿속에 메모장이 있는 것과 같다. 메모장의 쓸 수 있는 칸의 수는 정해져 있는데, 휴대폰 관련 생각처럼 주의가 산만하게 될 수록, 하려는 작업에 사용할 수 있는 칸은 줄어든다. 이 아이디어는 인지 심리학, 특히 Alan Baddeley와 Graham Hitch(1974)의 작업 기억에 관한 연구에서 비롯되었다고 한다.

        그래서 이 “여유 공간”은 한 번에 생각할 수 있는 정신적 용량이라고 할 수 있는데, 무엇인가가 잘못되기 전에 채울 수 있는 정신적 “슬롯”의 개수와 비슷하다고 보면 된다. 휴대폰이 그 슬롯을 비우는 것은 아니지만, 조용히 그 슬롯을 차지하기 위해 경쟁한다는 것이다. 결국, 휴대폰이 나쁘다는 것이 아니라, 휴대폰이 사람들의 주의를 끌어당긴다는 것이다.

        중독 증세처럼 나타나는 일반적인 징후의 두 번째는 기억력 저하가 온다고 한다. 디바이스에 의존하여 검색하다 보면 간단한 사실조차 기억하지 못하는 경우가 있다. 이를 “Google Effect” 또는 디지털 기억상실증(Digital Amnesia)이라고도 한다.

        중독 증세처럼 나타나는 일반적인 징후의 세 번째는 금단현상이 나타난다는 것이다. 즉, 디지털 디바이스를 떼어 놓고 있으면, 금연을 하는 사람이 겪는 그러한 금단현상에 불안을 느끼기까지 한다고 했다. 그래서 휴대폰이나 인터넷 연결이 끊어지면 불안감, 초조함, 집중력 저하를 느낄 수 있다. 연구자들은 과도한(?) 스마트폰 사용이 두뇌의 보상체계(Brain Reward Systems)의 변화와 관련이 있다는 것을 밝혀냈다.

        “두뇌 보상체계”는 즐겁고, 흥미롭고, 유익한 일, 예를 들어 맛있는 음식을 먹거나, 친구들과 어울리거나, 과제를 성공적으로 마칠 때 반응하는 두뇌 구조와 도파민과 같은 화학 물질의 집합체이다. 이 시스템은 일종의 “기분 좋은” 신호를 보내서 그런 행동을 반복하게 한다.

        예를 들어, Stanford에서는 이렇게 썼다. “이러한 앱들은 사람들 두뇌의 보상경로(Reward Pathway)로 다량의 도파민을 분비하게 할 수 있다. … ‘가변적 보상체계(Variable Reward System)’라고 불리는데, 슬롯머신의 레버를 당겼을 때 나타나는 현상과 똑같다.”

        신기하겠지만, 두뇌에는 실제로 “보상경로”가 존재한다는 것이다. 단순한 비유가 아니라 과학자들은 이 용어를 즐거움이나 동기 부여를 느낄 때 함께 작용하는 두뇌 영역들의 네트워크를 설명하기 위해 사용한다는 것이다.

        조금 자세히 이야기하면, 주요 영역은 다음과 같다. 도파민이 생성되는 복측피개영역(VTA: Ventral Tegmental Area), 보상을 느끼는 측좌핵(Nucleus Accumbens), 그리고 보상을 다시 추구하기 위해 계획을 세우거나 결정하는 데 도움을 주는 전전두엽 피질(Prefrontal Cortex)이 있다.

        무엇인가 기분이 좋을 때, 예를 들어 달콤한 것을 먹거나 친구에게서 메시지를 받았을 때, VTA는 도파민을 분비하고, 이 도파민은 이 “경로”를 따라 흐르면서 따뜻하고 동기 부여가 되는 느낌을 준다. 상징적인 것이 아니라 실제 생물학적 회로이다.

        위에서는 “두뇌 보상체계”과 “가변적 보상체계”라는 말이 있는데, “두뇌 보상체계”는 하드웨어 격으로, 즉 도파민 회로, VTA, 측좌핵 등과 같은 실제 생물학적 배선이다. 그리고 “가변적 보상체계”는 소프트웨어 격으로, 즉 그 하드웨어를 활성화하는 패턴이나 방식에 더 가깝다. “가변 보상”이라는 표현 자체가 무엇인가를 할 때마다 항상 같은 결과를 얻는 것이 아니라는 것을 의미하지 않는가? 때로는 이기고, 때로는 이기지 못한다. 이러한 예측 불가능성(Unpredictability)이 두뇌를 흥미롭고 흥분하게 만든다. 슬롯머신도 이를 활용하고, 소셜 미디어도 이를 활용한다. 다음에 어떤 새 게시물이나, “좋아요!”라든가, 메시지가 나타날지 알 수 없기 때문이다. 그래서 “보상체계”는 사람들의 내면에 있다면, “가변적 보상체계”는 외부 세계가 두뇌를 자극하는 방식이라고 할 수 있다.

        이렇게 이야기하면 될 것 같다. 두뇌의 “보상경로”는 실재하고 물리적이며, 바로 길 같은 것이다. “두뇌 보상체계”는 그 길을 이용하는 구조들의 네트워크이다. 그리고 “가변적인 보상체계”는 사람을 더 많은 것을 위해 계속해서 되돌아오게 하는 이동 패턴이다.

        이러한 시스템은 다음과 같은 경우 활성화된다. 외부적으로는 휴대폰에 알림이 울리거나, “좋아요”가 표시되거나, 게임에서 깜짝 선물을 받거나, 소셜 앱을 스크롤하여 흥미로운 것을 볼 때 활성화된다. 내부적으로는 “어쩌면 메시지가 올지도 몰라”라면서 보상을 기대하거나, 호기심을 느끼거나, 놀라움이나 새로운 것에 반응할 때 활성화된다.

        스마트폰 세계에서는 알림과 소셜 보상이 예측할 수 없이 제공되기 때문에 시스템이 반복적으로 작동할 수 있다. “어쩌면 있을지도 몰라”라는 느낌 때문에 두뇌가 계속 탐색하게 된다는 것이다.

        또 다른 연구에 따르면 소셜 앱을 더 많이 사용하는 사람들은 피각핵(putamen)과 같은 두뇌 영역에서 도파민 합성에 차이가 있는 것으로 나타났다.

        이러한 체계가 작동하면, 외부 또는 내부적 현상이 나타나는데, 외부적 현상으로 나타나는 예에는 다음과 같은 것들이 있다. 한 가지를 확인하기 위해 휴대폰을 집어 들었지만, 자신도 모르게 계속 스크롤한다. 알림이 오면 심박수가 약간 올라가고, 급한 일이 아니더라도 휴대폰을 재빨리 확인한다. 그리고 휴대폰이 없으면 불안해진다. “무엇인가 놓쳤으면 어쩌지?”하고 말이다.

        내부적 현상은 다음과 같다. 메시지, “좋아요!”, 새 동영상과 같은 보상을 볼 때 느끼는 기쁨, 흥분, 안도감이 솟구친다. 그리고 실제로 휴대폰을 확인하기도 전에 휴대폰을 확인하고 싶다는 생각이 들기 시작한다. 이런 갈망이 있을 수 있다. 또한 동일한 기쁨이나 쾌감을 얻으려면 더 많은 자극이 필요하게 된다. 어떻게 보면 내성이 생기는 것과 같으며 많은 앱이 참여도를 높이도록 디자인되었다. 그래서 보상체계를 그렇게 강하게 자극하지 않는 다른 작업을 수행할 때 만족도가 감소하게 된다.

          Berkeley Haas의 논문에서는 정보와 스마트폰이 다른 강력한 보상과 유사하게 두뇌의 도파민 생성 보상체계에 어떻게 작용하는지 설명한다.

        또한, 한 연구에 따르면 스마트폰을 과도하게 사용하면, 청소년기의 두뇌 보상 민감도가 변화하는 것으로 나타났다고 한다.

        스마트폰의 과도한 사용이 두뇌의 보상체계에 영향을 미친다는 말은, 두뇌에 내장된 “즐거움과 동기 부여” 체계가 알림, 좋아요, 소셜 피드 깜짝 이벤트와 같은 디지털 인터랙션에 반복적으로 반응한다는 것이다. 즉, 두뇌가 이러한 보상 패턴에 의존하기 시작한다는 뜻이기도 하다.

        그로 인해 다음과 같은 감정을 느낄 수 있는데, 첫째, 왜 그런지 모르게 휴대폰을 확인하게 된다는 것이다. 둘째, 휴대폰을 확인하지 않으면 불안감을 느낀다는 것이다. 셋째, 다른 작업은 동일한 “보상 급증”을 제공하지 않기 때문에 덜 만족스럽게 여기서나, 아예 만족스럽지 않게 느껴진다. 넷째, 뇌의 화학적, 구조적 경로가 적응하면서 이러한 순환이 더욱 강해진다는 것이다.

        중독 증세처럼 나타나는 일반적인 징후의 네 번째는 자제력이 낮아지고, 충동 조절력이 감소하게 된다. 디지털 디바이스에 과도하게 의존하면 자제력을 담당하는 두뇌 영역의 기능이 약해질 수 있다. 예를 들어, 한 연구에 따르면 디지털 중독은 특히 젊은 층의 두뇌 구조와 기능에 영향을 미치는 것으로 나타났다.

        이것이 중요한 이유가 있다. 두뇌가 디바이스에 의존하게 되면, 그 디바이스는 나의 환경과 사고 체계의 일부가 되기도 한다. 따라서 습관, 집중력, 의사 결정은 모두 그 디바이스를 언제, 어떻게 사용하는지에 따라 결정된다는 것이다. 생각과 행동을 형성하는 환경과 맥락을 디자인하는 MASERINTS 개념에서 이러한 의존성은 양날의 검과 같다. 디바이스는 한편으로는 나를 지원할 수 있지만, 다른 한편으로는 나의 자율성을 저해할 수 있다는 것이다.

        지금까지의 이야기를 읽고 나면, 어떤 중독이든, 디지털 중독이든, 흡연자이든, 도박꾼이든 간에 그것이 습관처럼 되어 버리면 끊기가 매우 어려워진다.

        예를 들어 잠에서 깨자마자 침대에서 나오기도 전에 휴대폰을 집어 든다. 그리고 아무 생각 없이 Instagram, 카카오톡, TikTok, YouTube 등을 켜고, “딱 5분만!”이라고 스스로에게 말하지만 한 시간이 훌쩍 지나간다. 나중에 일을 하거나, 밥을 먹거나, 누군가와 이야기를 하려고 할 때, 휴대폰을 확인해야 할 것 같은 충동을 느낀다. 급한 일이 있기 때문이 아니라, 두뇌가 휴대폰을 원하기 때문이다.

        ‘디지털 중독’이한 바로 이런 것이다. 휴대폰이나 앱이 나의 자유 시간, 집중력, 에너지, 기분까지 완전히 장악하기 시작한다. 그런데 디지털 중독을 어렵게 만드는 것은 내 자신은 그런 일이 일어나는 것을 알아차리지 못한다는 것이다. 그래서 무서운 것이다. 결국, 기술을 좋아하는 것을 넘어서 멈추고 싶어도 멈출 수 없는 것이다. 이것이 문제인 것이다. 없으면 지루하거나, 불안하거나, 무엇인가를 놓치는 것 같은 기분이 든다. 대부분의 플랫폼들은 그런 것을 하도록 디자인되어 있다. 사람들을 끌어 들이고 그곳에 계속 그곳에 머무르게 하도록 만들어진 것이다.

        진실을 냉정하게 보면, 이것은 누구의 잘못도 아니다. 내가 약해서도, 게을러서도 아니다. 이 모든 것의 진짜 힘은 바로 알고리즘 조작(Algorithmic Manipulation)인 것이다. 이제 진짜 상황이 전개되는 것이다.

        YouTube, TikTok, Instagram, Netflix, Facebook 등 모든 주요 플랫폼은 이른바 알고리즘이라는 것을 사용한다. 알고리즘은 시스템에 다음에 나에게 무엇을 보여줄지 알려주는 일련의 명령이다.

        하지만 여기에 비밀이 숨어 있다. 이 알고리즘은 진정으로 나에게 무엇이 필요한 지, 좋은 지 신경 쓰지 않는다는 것이다. 이 알고리즘이라는 것은 내가 계속 시청하고, 스크롤하고, “좋아요!”를 누르고, 공유하고, 반응하게 만드는 것에만 관심이 있다. 그래서 그들은 내가 요청한 것을 보여주는 대신, 나와의 인터랙션을 통해 그 알고리즘에 의해서 다음과 같은 것들을 파악하려고 한다. “무엇이 사용자를 화나게 만드나? 무엇이 사용자를 슬프게 만드나? 무엇이 사용자를 설레게 만드나? 무엇이 사용자를 두렵게 만드나? 무엇이 사용자를 충격 받게 만드나?” 그러면 그들은 이러한 결과에 따라 나에게 더 많은 것을 주워 먹게 하고, 더 깊게 접근하기 시작한다. 이것이 알고리즘 조작이라는 것이다.

        그 알고리즘에 의해 시스템은 나의 습관을 학습하고, 나도 모르는 사이에 그것을 이용해 나의 관심을 조금씩, 매 순간 조종하는 것이다. 즉, 그들이 나를 연구하고, 그것을 이용해서 나를 함정에 빠뜨리는 격이다.

        충격적인 것은 내가 사용자의 입장이 되어 행동한 것은 손가락으로 클릭만 했을 뿐인데, 도대체 어떻게 알게 될까? “왜?”라는 질문을 기술 쪽으로 방향을 두지 말고, “과연 내가 매일 어떤 감정으로 살아갈까? 그 감정이 어떻게 추적되는지 모르겠지만, 조작될 수도 있을까?” 이렇게 자신도 모르게 나타나는 내 자신의 감정 표현 쪽으로 방향을 두고 생각해 보는 것이 그 알고리즘 조작의 정체를 알 수 있는 길이 희미하게 보일 수도 있을 것이다. 어떤 때는 나도 내가 정확히 어떤 감정 상태인지 모를 때가 있는데, 나도 모르는 감정 상태를 제 삼자(?)가 안다는 것은 심각하게 생각해 봐야 하는 것이 아닐까? 나는 그저 클릭만 했을 뿐인데, 나의 감정 상태가 지금 내가 화가 났는지, 아니면 내가 슬픈지, 아니면 내가 충격을 받은 상태인지 밝혀진다는 것은 오히려 매우 궁금하기만 한 일이기도 하다.

        그런데 이 시점에서 내가 중요한 것을 놓치고 있다는 것을 알아야 하는데, 사람은 감정을 말로 표현하지 않아도, 행동과 패턴으로 그 감정이 드러날 수 있다는 것이다. 나는 단순하게 클릭만 했다고 생각하겠지만, 내가 클릭할 때 관련된 것들의 맥락적 요소가 어떠했는지, 그 맥락적 요소가 중요하다는 것이다. 스토리텔링 중에 제 [4화 경험의 발견과 창출]란 글의 [6. 가장 중요한 것은 맥락을 발견하는 것]에서도 다루었던 그 맥락이라는 것이다. 그 순간에, 내가 클릭한 순간과 연결되는 것이 단지 마우스만은 아니라는 것이다.

        내가 무엇을 보고 어떤 것에 클릭을 하는지, 내가 어떤 웹페이지에, 얼마나 오랫동안 머무는 지, 그 머무는 시간과 그 웹페이지를 볼 때 스크롤을 얼마나 빨리 움직이는지, 내가 어디에 멈춰 있는지, 내가 다시 보는 부분은 어떤 것인지, 모든 것이 다 일종의 감정 상태의 단서이며, 내가 클릭하는 순간의 주변 맥락적 요소하고 할 수 있는 것이다.

        예를 들어서, 내가 어떤 영상의 제목을 클릭했는데, 그 영상이 슬픈 내용을 담고 있고, 내가 그 영상에서 멈춰 있는 시간이 길고, 스크롤을 멈추고, 심지어는 댓글을 반복해서 읽거나, 그 영상과 관련된 비슷한 콘텐츠만 연달아 보는 행동을 했다면, 그리고 그것을 알고리즘이 캐치했다면, 알고리즘은 나의 이런 순간의 선택을 연결하면서 이렇게 해석한다. “이 사람, 지금 감정적으로 슬픔에 머물고 있군. 이 감정 상태를 유지하는 콘텐츠를 더 보여 주어야겠다”, 물론 그 알고리즘이 내 표정도 보지 않고, 내 목소리도 들은 것이 하나도 없다. 그냥 클릭하고 스크롤한 것만으로도 어떤 감정의 상태인지 추정된다고 보는 것이다. 그렇다면, 내가 클릭하고 스크롤 하는 순간에 내 주변을 이룬 그 맥락적 요소를 단순하게 이 두 가지만 있었다고 볼 수는 없는 것이다. 인터랙션이라는 것이 상대가 있어야 한다고 [2화 과거 DAGENAM이 유발점]의 [추가설명자료: 인터랙션]에서 추가로 설명을 한 적이 있다. 여기서의 상대는 바로 내가 시각적으로 자료와 정보를 수집하고 있는 화면이며, 이 화면의 컨텐츠와 내가 지금 그 순간에 인터랙션을 하고 있는 것이고, 이 인터랙션을 통해 그 알고리즘은 나를 아는 것이 아니라 나를 알려고 상태를 추정한다는 것이다. 그런데, 놀라운 것은 그 “추정”이 생각보다 무서울 정도로 점점 정확해질 수 있다는 것이다. 왜냐하면 그 시스템은 ‘나’라는 한 사람의 데이터를 보는 것이 아니라, 수천만 명의 패턴을 학습한 후, 나의 행동이 그 중 어디에 속하는지를 비교해 볼 수 있기 때문이다.

        그러니까 우습게도 내 감정을 내가 인식하지는 못했지만, 그 알고리즘은 수천만 명이 나와 유사한 행동을 한 것으로 추정하고, 그로부터 나온 결과를 가지고 내가 특정한 감정 상태일 확률이 높다고 보는 것이다.

        그래서 예를 들어, 내가 밤 11시쯤, 배고플 때 자주 배달 앱을 열고 특정 메뉴를 10초 이상 바라보다가 끄기도 하고, 그리고 그것을 반복한다면, 그 앱은 내가 ‘지금은 배고프지만, 참으려 하는 상태’라고 분석할 수 있을 것이다. 일반적인 분석에서 정확한 시각과 인터랙션이 일어난 때의 시각적 요소, 추정할 수 있는 감정상태의 분석, 일정한 순간들의 연속에서 내가 남긴 흔적 등을 통해 점점 특수한 분석을 통해 어떤 결과를 가지게 될 것이다. 그렇다면 얼마든지 내가 그 알고리즘이라도 그렇게 생각하지 않을까? 감정은 이런 ‘미세한 갈등’에 담겨 있기 때문이다. 사람들도 어떤 경우에 눈치라를 것을 본다고 한다. 이 ‘눈치’, “글 친구는 위트가 있다”고 하든지, 혹은 “그 친구는 센스가 있다”라는 것이 눈치를 잘 본다는 의미다. 그 다른 사람의 마음의 상태, 즉 감정적인 상태를 그 순간의 여러 맥락적 요소를 가지고 미루어 알 수 있다는 그 ‘눈치’가 바로 알고리즘 조작이 하는 처리과정인 것이다. 차후에 [7. 컴퓨터 디바이스와의 관계 인터랙션과 온라인]이란 장에서 “눈치를 보는 컴퓨터 디바이스”라는 소제목의 글로 이런 것과 유사한 부분에 대해 스토리텔링을 이어갈 기회가 있을 것이다.

        그러면, 내가 화가 나 있거나, 어떤 충격을 받은 상태의 감정을 어떻게 알지 궁금해지는 것이다. 사실은 이것이 그 알고리즘의 가치가 된다. 이 경우만 아니라 컴퓨터과학에서 문제를 해결하는 방법론에서도 그 알고리즘은 어떤 문제를 얼마나 빨리, 그리고 오류도 없이, 또는 이해할 수 없는 결과도 없이 매끄럽고 정확하게 문제를 해결하는 지에 그 가치가 어마어마하게 중요한 것이다. 문제는 이 알고리즘의 가치를 사람들이 잘 모른다는 것이다. 그저 결과물로 나온 외형적인 부분에만 관심이 쏠려 있기 때문이다. 어떻게 보면 하드웨어만 보고 내부 소프트웨어 적인 부분은 간과해 버렸기 때문에 ‘외모지상주의’가 팽배한 사회가 되어 버린 것이다.

        이제 그 내부적인, 소프트웨어 적인 문제가 커다란 가치를 가지고 있는 것이고, 그것이 바로 알고리즘 조작이라는 처리과정으로 나타난 것이다. 이 알고리즘의 필터링은 사람들의 감정들이 보통 이례적인 행동을 동반한다는 매우 평범함에서 시작한다. 예를 들어, 내가 뉴스 앱을 보다가 갑자기 스크롤을 빨리 넘기고, 어떤 기사에서 몇 초 만에 빠져나가고, 그 후로 긴 시간 아무 콘텐츠도 보지 않거나 앱을 꺼버리는 경우가 있다면, 이런 행동에 대해 시스템은 이렇게 이해하게 될 수도 있다. “방금 본 기사에 대해 강한 감정 반응이 있었을 가능성이 높다. 불쾌하거나 충격적이었을 수 있다”, 물론 단지 확률적인 추정이지만 말이다. 이제 그 필터링이 시작되는 것이다.

        그리고 만약 내가 그 후로 특정한 정치적 주제만 더 보기 시작한다면, 알고리즘은 “이 사람, 지금 정치적 감정이 동요된 상태다”라고 판단하고, 그에 맞는 콘텐츠를 제공하려고 할 것이다. 이것이 바로 “행동유도조작법”이라고도 하는 알고리즘 조작이다. 처음엔 단순한 추정이지만, 그 추정에 따라 내가 보는 세상이 바뀐다는 것이다. 한 번 슬픈 콘텐츠를 많이 보면, 그 감정을 더 강화하는 콘텐츠가 추천되고, 그것이 반복되면 알고리즘이 만든 ‘감정의 굴레’에 빠지게 되는 것이다. 즉 처음에는 나로부터 감정상태에 대한 자료와 정보를 받아들이지만, 그 이후에는 감정의 흐름의 골을 파서 내가 그 골을 따라 흐르게 하고, 알고리즘은 그 골을 따라 나를 유도하고, 어느 순간에 더 깊은 골을 파서 그 골에서 나온 웅덩이에 멈춰버리게 만드는 것이다. 그런데 문제는 내가 알고리즘이 제공한 골을 따라 흐르고 있다는 것을 모른다는 것이다. 그리고 더 깊은 골을 따라 커다란 웅덩이에 고이게 된다는 것을 모른다는 것이다.

        결국, 나의 감정이 알고리즘에 의해 강화되고 조정되는 것처럼 느껴지게 되는 것이다. 이것이 바로 오늘날 사회적으로 문제되고 있는 감정 증폭의 문제, 그리고 앱과 웹사이트가 사용자가 좋아하거나 인정한 내용만 보여주다 보면 비슷한 생각만 나오게 되는 그런 뉴스 버블(News Bubbles)이나 주의력 경제(Attention Economy)와도 연결되는 부분이다.

        결론은 클릭이라는 하나의 행위와 그와 연관될 수 있는 관련된 행동, 그리고 수집될 수 있는 주변 맥락적 요소에 의한 흔적들이 내가 클릭만 했는데도, 내 감정의 흐름이 드러나고, 조정될 수도 있다는 것이다. 어차피 필요한 정보는 클릭을 해서 봐야 되는 것이다. 그래서 그들이 제공하는 앱 안의 알고리즘을 막으려고 하지 말고, “행동유도조작법”에 내 자신이 휘둘리는 것 같다고 느낀다면, 내가 단순하게 클릭하는 것이지만, 내 감정이 섞일 수 있다는 것과, 알고리즘에 의해 나에게 추천한 컨텐츠가 반드시 꼭 좋은 것 만은 아니라는 것을 알아야 하며, 그렇게 스스로 자각할 필요가 반드시 있으며, 그런 감정이 표현될 수 있는 어떤 생각과 행위에 ‘거리두기’가 필요할 수도 있다는 것이다.

        그리고 기술적으로는, 요즘 일부 연구에서 “감정 데이터의 주권”을 주장한다. 감정 분석 기술을 사용자 중심의 권한 기반으로 제한하자는 것이다. 예를 들어, 어떤 앱이 내 감정 상태를 파악해도 되는지에 대해 내가 직접 허용 여부를 선택하는 구조를 만드는 것이다. 이건 프라이버시 이슈이기도 하고, 최근 인공지능 윤리와 데이터 주권 논의에서 아주 중요한 주제 중 하나이다.

        사람들이 겉으론 단순한 클릭, 스크롤, 정지라는 행동만 하는 것처럼 보여도, 인터랙션 하는 그 대상과의 주변 맥락적 요소 안에는 방대한 양의 감정 단서가 녹아 있고, 그것이 데이터화 되고 예측의 도구가 되는 시대에 살고 있는 것이다. 어떤 감정이 나를 이끌고 있는지, 그리고 어떤 시스템이 그 감정을 자극하고 있는지를 조용히 자각하는 것, 그것이 지금 내가 갖춰야 할 가장 중요한 기술 중 하나일지도 모른다.

        마치 시스템이 보이지 않는 인형극을 하는 것 같다. 나는 실을 볼 수 없지만, 실은 분명히 존재한다. 스크롤, 클릭, 게시물을 보는 매 순간마다 시스템에 내가 어떤 사람인지, 무엇이 나를 계속 사로잡는지에 대한 정보를 제공한다. 그래서 음모론 관련 영상을 보기 시작하면 그것에 관련된 영상들이 더 많이 나오는 것이다. 아니면 귀여운 강아지 영상을 좋아하면, 갑자기 피드가 그런 영상으로 가득 차는 것이다. 더 심한 경우에는, 불안하거나 초조한 기분을 느낄 때 그런 감정을 자극하는 게시물을 계속 보면, 앱은 내가 계속 볼 것이라는 것을 알고 그런 영상을 더 많이 보여주게 된다.

        어떻게 보면 디지털 중독과 알고리즘 조작은 서로 밀접하게 연관되어 있는 것이다. 하나가 다른 하나를 부추기기도 하고 먹여 살리기도 한다는 것이다. ‘디지털 중독’은 결과이고, “알고리즘 조작”은 방법이다.

        플랫폼은 나의 관심을 원한다. 나의 관심이 곧 돈이기 때문이다. 내가 더 오래 머물수록, 그들은 나에게 더 많은 광고를 보여줄 수 있다. 그리고 나의 감정, 특히 강렬한 감정으로 추정된 결과는 나의 관심을 사로잡는 가장 강력한 방법이다. 그래서 그들은 의도적으로 그 감정을 자극하는 것이다. 어떻게 보면 나를 위한 디지털 공간은 그렇게 빠져들기만 하는 골과 웅덩이에서 나를 빠져나오게 하기 위한 지원과 도움을 주어야 하지 않을까? 그래야 나 만을 위한, 나에 의한, 나의 개인화된 디지털 공간이라고 할 수 있지 않을까? 하지만, 지금 내 주변을 빽빽하게 채운 디지털 공간은 내 감정의 결과를 나를 위한 지원과 도움에 사용하지 않고, 자신들의 검은 속을 채우기 위해 사용하고 있는 것이다.

        이런 속이 검은 디지털 공간은 정신 건강, 생산성, 현실 세계의 관계, 심지어 내가 세상을 보는 방식까지 모든 것에 영향을 미친다. 이러한 플랫폼은 단순히 나의 관심을 끄는 것이 아니라, 디지털 환경일지라도 나의 환경을 형성한다. 예를 들어, 첫째, 특정 색상과 단어가 있는 비디오 썸네일은 긴박하게 느껴질 수 있다. 둘째, 알림음이나 진동이 울리면 나의 몸을 자극하여 그냥 생각 없이 화면을 확인하게 한다. 셋째, 트렌드가 된 인기있는 ‘챌린지’나 밈(meme)은 오프라인에서도 사람들이 이야기하는 내용을 바꾸기까지 한다. 디지털 환경에서 나의 주변 환경은 디지털 방식으로 변화하고, 나의 행동 또한 그에 따라 변화하고 있다는 것을 알아챌 수 있을까?

        섬뜩하고 무서울 수 있겠지만, 하지만 깨어나면 된다. 자각(Awareness)하는 것이 자유의 시작이라고 할 수 있다. 무슨 일이 일어나고 있는지 알게 되면, 작은 결정들을 다르게 내릴 수 있다. 휴대폰을 버릴 필요는 없다. 그냥 내 허락 없이 휴대폰이 나를 조종하게 내버려 두지 않으면 되는 것 아닐까?

        그리고 더 중요한 것은 MASERINTS와 같은 디지털 공간은 더 나은 사람들이 살아가는 공간을 만들어 낼 완벽한 위치에 있다는 것이다. MASERINTS 안에는 이미 주변 맥락과 환경이 사람들의 행동에 어떻게 영향을 미치는지 생각하고 있다. 그리고 그것을 다음 단계에 MASERINTS는 PTS를 위해 지원과 도움으로 바꾸어 제공하게 된다. 사람들을 가두는 대신 사람들에게 지원과 도움이 되는 도구, 체계, 공간이 되는 것이다.

        사람들이 생각하고, 속도를 늦추고, 숨 쉴 수 있도록 돕는 MASERINTS와 같은 디지털 공간이 필요하다. 조종하기 위한 것이 아니라 균형을 회복하도록 디자인된 MASERINTS만의 알고리즘이 존재한다는 것을 염두에 둘 필요가 있다. 내가 피곤하거나 불안할 때를 감지하고, 나를 더 깊이 몰아넣는 대신 부드럽게 그 고리에서 빠져나올 수 있도록 도와주는 체계를 MASERINTS를 생각해 볼 수 있다. 지금 세상에는 미래로 가기 위해 바로 그런 기술이 필요하다. MASERINTS가 그것을 제공하려는 디지털 공간이 되는 것이고, 이것이 바로 미래의 새로운 세상 안에서 볼 수 있는 디지털 공간의 정체인 것이다. 그러지 못하면 사람들은 미래를 향해 시간이 앞으로 가는 것이 아니라 과거만 만드는 현재에 묶여 시간이 자꾸 뒤로만 가는 삶에 묶여 있게 되는 것이다.

Last Updated on 2025년 11월 06일 by MASERINTS

Post Views: 19
Tags:

Leave a Reply

Your email address will not be published. Required fields are marked *