지식 노동자가 AI에 일을 맡길수록 아이디어의 폭은 좁아지고, 비판적 사고와 기억력은 떨어진다는 연구가 쌓이고 있습니다. 마이크로소프트 리서치의 Advait Sarkar는 그 해법으로 시키는 대로 따르는 AI가 아니라 우리를 반박하는 AI, 곧 "생각의 도구(tool for thought)"를 제안합니다.
Advait Sarkar는 13년 동안 인간과 AI의 상호작용 연구를 해왔습니다. 그는 기계가 우리 대신 생각하는 시대가 자기 생애에 올 줄은 몰랐다고 말합니다. 지금은 마이크로소프트 리서치 케임브리지의 Tools for Thought 팀에서 AI가 인간의 사고를 어떻게 바꾸는지 들여다보고 있죠. 이 글은 2025년 12월 28일 공개된 그의 TED 강연을 정리한 것입니다.
생각의 외주화
강연은 21세기 사무직의 하루를 따라가며 시작합니다. 출근해서 이메일함을 열면 읽을거리가 가득하죠. 일단 요약시킵니다. 답장은 어떻게 쓸지 막막하니 AI에게 맡깁니다. 보고서는 빈 페이지가 무서우니 자료를 던져 넣고 초안을 받습니다. 데이터 분석도, 발표 자료도, 프로토타입 코딩도 같은 식입니다.
Sarkar는 여기서 한 가지를 짚습니다. 예전의 작가가 겪던 막막함은 빈 페이지를 마주하는 것이었지만, 지금은 AI가 채워 놓은 페이지를 보며 "내가 여기 동의하나?"를 따지는 것으로 바뀌었다는 겁니다. 우리는 로봇의 의견을 검수하는 전문 직원이 된 셈입니다.
그는 이 상태를 "생각의 외주화(outsourced reason)의 시대"라고 부릅니다. 지식 노동자가 더 이상 자기 일의 재료를 직접 만지지 않는 상태죠. 아이디어를 잠깐 구경만 하고 그 안에 머물지는 않는, 지적 관광객이 됐다는 표현입니다.
AI가 사고에 남기는 네 가지 비용
문제는 단순한 소외감이 아닙니다. AI를 이렇게 쓰는 방식이 인간의 사고 자체에 흔적을 남긴다는 것이 강연의 핵심입니다. Sarkar는 네 갈래로 나눠 짚습니다.
종합하면 점수판이 이렇습니다. 아이디어는 줄고, 그걸 덜 비판적으로 따지고, 덜 기억하고, 그 일을 더 힘들게 한다는 거죠. Sarkar는 이를 두고 "우리는 자기 생각의 중간관리자가 됐다"고 표현합니다. 사소해 보이는 일상 업무에도 이 효과가 번지는데, 그런 자잘한 기회들이야말로 창의성·비판적 사고·기억력이라는 인지 근육을 지켜 주는 운동이기 때문입니다.
그가 던지는 비유가 따끔합니다. 운동을 안 하면 몸이 약해지듯, 뇌를 안 쓰면 뇌도 약해진다는 거죠. 마치 운동을 안 해도 되는 치료제를 발명해 놓고 왜 늘 숨이 차는지 의아해하는 꼴이라고 합니다. 생각하는 일을 문제로 보고 풀어 버렸지만, 애초에 생각은 문제가 아니었다는 겁니다.
복종이 아니라 반박하는 도구
Sarkar는 길이 정해진 건 아니라고 말합니다. AI를 조수가 아니라 생각의 도구로 쓰자는 제안입니다. 그가 한 문장으로 못 박는 원칙은 이겁니다 — AI는 복종할 게 아니라 반박해야 한다(AI should challenge, not obey).
이 발상의 차이는 네 가지로 갈립니다. 일을 끝내 주는 것을 넘어 그 일을 더 잘 이해하게 돕고, 더 빨리가 아니라 더 낫게 끝내게 하고, 정답으로 데려다주는 대신 올바른 질문을 던지게 하고, 이미 아는 과정을 자동화하는 데서 그치지 않고 모르는 영역을 탐색하게 한다는 것이죠.
지금이 분기점이라고 그는 강조합니다. 생성형 AI가 일의 세계를 막 바꾸려는 이 순간에, 그 변화를 인간적 가치 쪽으로 끌고 가도록 지금 움직여야 한다는 겁니다. 갈라지는 두 갈래 길에서 사람이 덜 다닌 쪽을 택하자는 호소죠.
클라라의 작업 화면
말로 끝내지 않고, Sarkar는 팀이 만든 연구용 프로토타입을 시연합니다. 제품이 아니라 마이크로소프트 리서치 케임브리지에서 진행 중인 탐색 중 하나라고 못을 박죠. 음료 회사에서 일하는 가상의 인물 클라라가 지속가능한 포장재에 관한 업계 보고서를 읽고 회사의 대응 방안을 써야 하는 상황입니다.
클라라는 회의록과 사내 보고서, 업계 보고서를 작업 공간에 불러옵니다. 보고서를 열면 섹션별 요약이 보이는데, Sarkar는 이걸 단순 요약이 아니라 렌즈라고 부릅니다. 지금 하는 일에 가장 관련 깊은 부분을 부각하도록 맞춤형으로 바꿀 수 있는 축소판이죠. 클라라는 "소비자 관점" 렌즈를 고릅니다.
읽어 나가면서 클라라는 메모를 하고 문장을 강조 표시합니다. 동시에 AI가 다는 논평과 비판이 옆에 뜨는데, 이걸 Provocation이라고 부릅니다. 자동완성처럼 아이디어를 대신 채워 주는 게 아니라, 대안을 제시하고 논리적 허점을 짚고 반론을 던져 클라라가 자기 논지를 더 단단하게 다듬도록 자극하는 장치입니다.
흥미로운 건 클라라가 어떤 프로바케이션을 보고 "유용하지만 이번엔 반영하지 않겠다"고 넘길 수 있다는 점입니다. 보통의 AI 제안과 달리 늘 받아들이라고 있는 게 아니거든요. 자기 일을 충분히 깊이 이해해서 어떤 피드백을 자신 있게 거절할 수 있다면, 그 피드백 과정은 의도대로 작동한 겁니다.
오른쪽 패널에서 클라라는 논지의 개요를 직접 손으로 쌓아 올리고, 거기서 곧바로 초안을 생성합니다. 같은 AI 생성 텍스트라도 그냥 "보고서 써 줘"라고 던졌을 때와는 클라라가 글과 맺는 관계가 다릅니다. 인지적으로는 공을 들였지만 조작은 수월한 사고 과정에 뿌리내린 글이라, 클라라의 판단과 전문성이 그대로 담기기 때문이죠.
문단 길이를 끌어당겨 늘이거나 줄이고, "더 영감을 주는 톤"과 "더 실용적인 톤" 사이에서 여러 버전을 미리 보고 고르기도 합니다. 그리고 이 인터페이스에는 어디에도 채팅창이 없습니다. 클라라는 무언가와 대화하지 않고도, 컴퓨터를 가짜 인간이 아니라 컴퓨터답게 쓰며 조용히 적절한 도움을 받습니다.
생각하게 만드는 설계
이런 도구의 효과를 측정해 봤더니 결과가 고무적이라고 Sarkar는 전합니다. AI 보조 작업에 비판적 사고를 다시 끌어들일 수 있고, 잃었던 창의성을 되돌리는 것을 넘어 끌어올릴 수 있으며, 빠르게 읽고 쓰면서도 더 또렷한 의도로 기억까지 남기는 도구를 만들 수 있다는 겁니다.
비결은 몇 가지 단순한 설계 원칙입니다. 도구가 재료와의 직접 접촉을 지키게 하고, 생산적인 저항을 제공하며, 메타인지를 떠받치도록 설계하는 것이죠. 전문 지식 노동자를 주로 연구했지만, 이 원칙은 일상과 취미, 나아가 교육까지 AI를 쓰는 모든 영역에 적용될 수 있다고 봅니다.
그가 거듭 강조하는 건 효율이 목표가 아니라는 점입니다. 더 나은 사고가 목표죠. 다만 둘을 함께 얻을 때도 있다고 합니다. 인간 사고에 공짜 점심은 없다고 여겨 왔는데, 이건 공짜 점심보다 낫다고요 — 먹으면 오히려 돈을 주는 점심이라는 겁니다.
강연은 가치에 관한 질문으로 끝맺습니다. AI가 인간보다 사고를 더 잘하게 되더라도 왜 인간의 생각을 지켜야 하느냐는 물음이죠. Sarkar는 두 가지를 듭니다. 우리가 미처 모르는 인간만의 사고 방식이 늘 남아 있을 수 있다는 것, 그리고 더 중요하게는 잘 생각하는 능력이 인간의 주체성과 번영에 필수라는 것입니다.
이런 질문은 늘 있어왔습니다. 글이, 책이, 인터넷이 우리 대신 기억해 준다면 우리가 기억하지 못해도 상관없을까. 지도가 길을 찾아 준다면 우리가 길치여도 괜찮을까. 이제는 기계가 우리 대신 생각해 준다면 우리가 생각하지 못해도 상관없는가를 묻습니다. 그가 남기는 마지막 한 마디는 이렇습니다 — 당신을 대신해 생각하는 도구를 원하는가, 아니면 당신을 생각하게 만드는 도구를 원하는가.
