‘인지’라는 것이 모든 정신활동이라는 개념은 인지 심리학에서 널리 받아들여지고 있다. 새로운 정보를 받아들이는 것부터 이미 알고 있는 정보와 결합하고, 그리고 다음 행동을 계획하는 것까지, 어떻게 보면 모든 사고 과정의 ‘생각하는 기계(Thinking Machinery)(1)’라고 할 수 있다.
여기의 ‘생각하는 기계’라는 표현은 매우 마음에 와 닿는 표현이다. 언뜻 보면, 사람을 기계에 비유하여 생각한다고 할 수 있지만, 이것은 우선 사람들의 생각하는 것을 그대로 컴퓨터에서 구현할 수 있다는 의미를 가지고 있기 때문이다. 물론 모든 사람의 생각을, 혹은 두뇌의 작동방식을 그대로 재현한 컴퓨터 시스템을 구현한다는 것 자체가 매우 어려운 것이겠지만, 그 두뇌의 작동하는 방식의 일부라도 컴퓨터 시스템으로 구현할 수 있다는 의미를 가지고 있다.
이제 그 다음이 문제다. 즉, 그런 사람의 두뇌와 같은 작동 방식으로 하는 컴퓨터 시스템이나 혹은 그것은 운영하는 소프트웨어를 과연 무엇을 위해 사용하려고 하는 지 그 목적이 문제가 된다. MASERINTS와 같이 MASERINTS의 지원과 도움을 받아야 하는 주인공인 PTS(Person to be served)만을 위해 지원과 도움을 제공하기 위해 DAGENAM에서 보여주었던 ‘간접경험’의 지속적인 생성으로 미래에 있을 PTS의 요구와 필요를 예측할 수 있는 그런 시스템이 될 수도 있지만, 이와는 반대로 사람을 이용하고, 악의적으로 사용할 목적으로 사용될 수도 있다는 의미이다.
‘생각하는 기계’의 역사
‘생각하는 기계’라는 표현은 인공지능 초창기, 특히 Alan Turing이 주도한 논의에서 유래했다고 한다. Alan Turing은 1950년의 글 “Computing Machinery and Intelligence(2)”에서 기계가 생각한다는 것이 무엇을 의미하는지 설명했으며 “생각하는 기계를 만들 수 있다고 믿는 데에는 매우 큰 긍정적인 이유가 있는데, 그 이유는 사람의 어떤 아주 작은 부분이라도 모방할 수 있는 기계를 만드는 것이 가능하다는 사실 때문이다”라고 했다.
“A great positive reason for believing in the possibility of making thinking machinery is the fact that it is possible to make machinery to imitate any small part of a man.(3)”
이것은 Alan Turing이 ‘생각하는 기계’라는 용어를 사용하여, 사람과 유사한 정신적 작업을 수행하도록 만들어진 기계를 설명했으며, 이것이 인공지능의 초석이 된 순간이었음을 보여준다.
‘Stanford Encyclopedia of Philosophy’에서 “Computational Theory of Mind(4)”에 관한 기사에서 인공지능의 더 광범위한 목표를 “Thinking Machinery”를 구축하는 것으로 언급했다. 이 표현을 Alan Turing이 콕 집어 인용하는 것은 아니지만, 인지과학과 인공지능에서 이 용어가 미치는 광범위한 영향을 보여준다.
그래서 생각한다는 것은 머리에 떠다니는 추상적인 것이 아니라 하나의 체계라는 것이다. 습관과 기억, 맥락, 주의력, 감정과 논리로 구성된 일종의 기계라고 할 수 있다는 것이다. 무엇을 생각하는지, 어떻게 생각하는지, 말하자면 정신적인 어떤 디바이스라고 할 수 있는 것이다.
‘생각하는 기계’의 핵심 개념
‘생각하는 기계’라는 표현은 언뜻 보기에는 은유처럼 들릴 수 있지만, 이 개념은 세 가지 핵심, 즉 실제로 사람으로서 기능하는 인간의 방식, 환경이 그 사고방식에 영향을 미치고 형성하는 방식, 그리고 오늘날의 기술이 어떻게 이러한 과정을 모방하거나 심지어 영향을 미치기 시작하는 방식, 이 세 가지의 핵심을 다루고 있다고 할 수 있다.
‘생각하는 기계’가 다루고 있는 첫 번째 핵심은 인간으로서 사람들이 어떻게 기능하는지에 대해 깊이 있게 다룬다는 것이다. 인간의 사고는 본질적으로 단순하고 하나의 단계씩 진행되는 행위가 아니라는 것을 대부분 잘 이해한다. 감각, 지각, 기억, 추론, 의사 결정이 포함되고 모두를 아우르는 다층적인 과정이라는 것이다. 심리학자와 신경과학자들은 두뇌를 일종의 정보 처리 시스템, 즉 사고를 위한 자연스러운 ‘기계’로 묘사하곤 한다.
예를 들어, Daniel Kahneman의 저서 “Thinking, Fast and Slow(5)”는 사람들이 어떻게 두 가지 사고 방식, 즉 빠르고 자동적인 사고와 느리고 의도적인 사고 방식에 의존하는 지 설명한다. 이는 사람들의 ‘정신적 기계’가 속도, 정확성, 직관, 그리고 논리를 위한 기어를 가지고 있음을 보여준다. 간단히 말해, ‘생각하는 기계’는 인간으로서 이러한 내재된 정신 시스템, 즉 사람들이 정보를 수집하는 방법, 정보를 이해하는 방법, 그 정보에 따라 행동하는 방법을 이해하는 것을 의미한다.
‘생각하는 기계’가 다루고 있는 두 번째 핵심은 사람들의 환경이 사람들에게 어떤 영향을 미치는지 깊이 있게 다룬다는 것이다. 사람들은 고립된 상태로 생각하지 않는다. 사회적, 문화적, 물리적 환경은 사고 형성에 중요한 역할을 한다. 예를 들어, “Context-Dependent Memory(6)”에 대한 연구에 따르면 사람들은 정보를 처음 학습했던 것과 같은 환경에 있을 때 정보를 더 잘 기억하는 것으로 나타났다.
마찬가지로, 사람들이 사용하는 미디어, 상호작용하는 사람들, 그리고 사람들을 둘러싼 규범과 같은 사회적 환경은 사람들이 무엇을 인지하고, 그것을 어떻게 해석하며, 심지어 어떤 선택지를 고려하는지에 큰 영향을 미친다.
Shoshana Zuboff의 저서 “The Age of Surveillance Capitalism(7)”는 디지털 환경이 미묘하지만 강력한 방식으로 주의력과 행동에 어떻게 영향을 미치는지 심층적으로 살펴본다. 따라서 ‘생각하는 기계’는 사람들의 환경이 사람들에게 어떤 영향을 미치는지 깊이 있게 탐구한다는 것은 사람들의 정신적 과정이 사람들이 살고 있는 공간과 맥락에서 분리될 수 없음을 의미한다.
‘생각하는 기계’가 다루고 있는 세 번째 핵심은 오늘날 기술이 어떻게 그 과정을 모방하거나 심지어 영향을 미치기까지 하는지에 대해 다룬다는 것이다. 오늘날의 기술, 특히 인공지능과 디지털 플랫폼은 사람들의 ‘생각하는 기계’처럼 작동하도록 디자인되었다. 예를 들어, 신경망은 사람들의 두뇌가 이미지, 음성 등에서 패턴을 인식하는 방식을 모방하도록 디자인되었다. 하지만 여기서 끝나지 않는다. 이러한 기술은 단순히 모방하는 데 그치지 않고, 사람들의 생각에 더 영향을 미치는데, 심지어 점점 더 방해하고 있다고 했다.
유튜브나 TikTok의 다이내믹 알고리즘과 같은 추천 시스템을 생각해 보면, 추천 시스템은 내가 다음에 무엇을 보고 싶어 할 지 예측하여 나에게 제공한다. 이는 나의 관심 분야에 영향을 미치고, 시간이 지남에 따라 선호도와 신념을 형성할 수 있다. 다시 말해, 추천 시스템은 사람의 ‘인지’를 단순히 모방하는 것이 아니라, 오히려 조종한다.
Tristan Harris(8)는 이 문제에 대해 광범위하게 논의하며, 이를 “관심을 얻기 위한 경쟁”이라고 불렀다. 그래서 현대 기술은 단순히 인간의 생각을 담는데 그치지 않고, 적극적으로 넛지하고, 방향을 바꾸고, 어떤 경우에는 악용하기도 한다고 했다.
지금까지의 설명처럼 사람의 두뇌는 단순한 기계가 아니라, 작은 체계들이 모여 이루어진 공장과 같다. 그래서 사람에게는 다음과 같은 것들이 있는 것이다.
우선 사실이나 인상에 남는 것, 감정적 경험 등이 저장되는 메모리가 있다. 둘째는 익숙한 것이나 유사한 위험을 탐지하기 위해서 패턴을 감지하는 기능이 있다. 셋째는 과거의 보상이나 처벌에 따라 형성되는 어떤 선택 사항을 비교하여 결정하게 만드는 결정을 위한 기어가 있다. 넷째는 의식적으로 무엇인가를 결정하기도 전에 반응하는 감정적 지렛대가 있다. 다섯째는 어떻게 행동하라는 아무런 지시도 없었지만, 사람들은 엄숙한 곳에서 걷는 것과 즐겁게 노는 곳에서 걷는 모습이 다르다는 아는 맥락 센서가 있다.
이런 조각들이 모여서 사람을 ‘생각하는 기계’라고 부르는 것을 형성하는 것이다. 일종의 내부 운영 체제라고 보면 된다. 마치 내가 있는 방, 함께 있는 사람, 심지어 냄새나 조명을 기반으로 두뇌가 앱을 실행하는 것처럼 상상할 수 있다. 다시 말해서, 단순히 마음의 논리에 따라 움직이는 이성적으로 생각하는 것만이 중요한 것이 아니다. 나를 둘러싼 모든 것들이 내가 생각하고 느끼는 방식을 형성한다는 것이다. 나의 생각은 단순한 논리에 의해서만 움직이는 것이 아니라 주변 환경, 감정, 습관, 그리고 맥락에 의해서도 움직인다.
예를 들어, 비 오는 날 아늑한 카페에 혼자 앉아 있다면, 나의 ‘생각하는 기계’는 시끄럽고 붐비는 기차에 탔을 때와 다르게 작동할 것이다. 어떤 곳에서는 더 내성적으로 느껴지고, 다른 곳에서는 더 방어적으로 느껴질 수도 있다. 왜냐하면, 나의 가치관이 변해서가 아니라, 주변 맥락에 따라 “생각하는 기계”가 다르게 조정되었기 때문이라고 보면 된다.
어떻게 보면, 이것은 매우 중요한 개념일 수가 있는데, 주변 맥락, 즉 내가 의식적으로 집중하지 않는 배경 정보가 나의 행동을 완전히 바꿀 수 있다는 생각 말이다. 그렇다면, 조명, 소리, 디지털 메시지, 심지어 주변에 있는 사람들의 감정 톤까지 미묘하게 바꾸는 MASERINTS의 터미널 시스템인 VCC(Virtual Created Context)나 VAFF(Virtual Affordance)가 동작하는 디지털 공간을 구축한다면, 그 디지털 공간 안에 있는 사람의 생각하는 체계를 다시 구성할 수 있게 되는 셈이다. 즉, MASERINTS의 일정한 디지털 공간 안에 존재하는 모든 사람들(PTS들)은 각자가 중심이 되어 주변 맥락에 의해 영향을 받겠지만, 모든 사람이 주변 맥락에 의해 변화하는 것까지 PTS의 주변 맥락의 일부가 되어 버린다는 것이다. 하지만, 아마 각각의 PTS들은 자신들의 변화가 남에게 영향을 준다는 사실을 모르고 있을 것이다.
그래서 방에 들어갔는데, 배치, 분위기, 사람들의 얼굴, 조명 같은 것까지 모든 것을 두뇌가 처리하고 있다면, 그것이 바로 ‘인지’가 작용하는 것이다. 단순히 보는 것뿐만 아니라, 해석하고, 추론하고, 결론을 도출하고, 심지어 이 장소를 몇 년 전의 기억과 연결하기도 한다.
주변 맥락에 관심을 가질 때 ‘인지’가 특히 강력해지는 부분이 바로 이 부분이다. 누군가 새로운 환경, 예를 들어 밤 10시가 되었다는 신호로 조명을 어둡게 하고 차분한 음악을 틀어주는 디지털 공간에 들어갔을 때, 그 주변 맥락은 조용히 행동을 유도하는 것이다. ‘인지’는 그 사람이 “아, 이제 좀 진정해야겠다”는 것을 인식하도록 돕는다. ‘인지’는 기억, 패턴 매칭, 심지어 감정적 연상까지 관여한다.
언급된 각주의 내용
(1) Intelligent Machinery, Alan Turing, 1948, https://weightagnostic.github.io/papers/turing1948.pdf
Alan Turing의 1948년 국립물리연구소(NPL)에 보고하기 위해 작성한 글인 “Intelligent Machinery”라는 글에서 지능을 가진 기계를 만들 가능성을 명시적으로 논의하며 “지능적인 행동을 보이는 기계”와 같은 표현을 사용했다.
“The possible ways in which machinery might be made to show intelligent behaviour are discussed. The analogy with the human brain is used as a guiding principle.”
“I propose to investigate the question as to whether it is possible for machinery to show intelligent behaviour.”
이 글은 1950년 글과 함께 자주 인용되는데, 1950년 글에서 철학적으로 다루는 인공지능의 기술적 청사진을 담고 있기 때문이다.
Alan Turing은 1950년 글인 “Computing Machinery and Intelligence”에서 “Computing Machinery”라는 표현을 사용하면서 기계가 생각한다는 것에 대해 광범위하게 이야기하면서 “기계가 생각할 수 있을까?”라는 질문을 던진다.
“I propose to consider the question, “Can machines think?” This should begin with definitions of the meaning of the terms ‘machine’ and ‘think.’”
“생각하는 기계” 또는 “생각하는 기계 장치”라는 용어는 당시 언론에서 널리 사용된 유행어였다. Alan Turing 뿐만 아니라 많은 사람들도 동일한 질문을 가졌을 것이다. “자동으로 계산한다는 기계가 생각한다고 할 수 있는가?”
(2) Computing Machinery and Intelligence, Alan Turing, 1950, https://www.cs.ox.ac.uk/activities/ieg/e-library/sources/t_article.pdf
>> The Turing Digital Archive, https://turingarchive.kings.cam.ac.uk/computing-machinery-and-intelligence,
(3) ‘Intelligent machinery’ by Alan Turing, A report for National Physical Laboratory, 1948, https://www.info2007.net/docs/intelligent-machinery-alan-turing.html
>> Turing Test is a Thought Experiment, Bernardo Gonçalves, 2022, https://link.springer.com/article/10.1007/s11023-022-09616-8, https://philpapers.org/rec/GONTTT-2
>> Turing’s Test, a Beautiful Thought Experiment, Bernardo Gonçalves, 2024, https://www.researchgate.net/publication/382735739_Turing%27s_Test_a_Beautiful_Thought_Experiment, https://arxiv.org/html/2401.00009v3
(4) The Computational Theory of Mind, Stanford Encyclopedia of Philosophy Archive, 2015, https://plato.stanford.edu/archives/sum2025/entries/computational-mind
(5) Thinking, Fast and Slow, Daniel Kahneman, 2011, https://www.goodreads.com/en/book/show/11468377
(6) Context-Dependent Memory in Two Natural Environments: On Land and Underwater, D. R. Godden, A. D. Baddeley, 1975, https://app.nova.edu/toolbox/instructionalproducts/edd8124/fall11/1975GoddenBaddeley.pdf
>> The Godden and Baddeley (1975) experiment on context-dependent memory on land and underwater: a replication, Jaap M. J. Murre, 2021, https://royalsocietypublishing.org/doi/10.1098/rsos.200724
(7) The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, Shoshana Zuboff, https://www.goodreads.com/book/show/26195941-the-age-of-surveillance-capitalism
(8) The Battle for Our Attention: Technology, Mindfulness, and the Future of Humanity, Tristan Harris, https://www.youtube.com/watch?v=y5rn1qp2aZc
>> Tristan Harris Talks ‘The Arms Race for Human Attention’, https://community.thriveglobal.com/tristan-harris-talks-the-arms-race-for-human-attention/
>> A better future with technology is possible, Center for Humane Technology, “The Race for Attention”, https://www.humanetech.com/the-cht-perspective
>> Superintelligence: Paths, Dangers, Strategies, Nick Bostrom, https://www.goodreads.com/en/book/show/20527133