의대생들을 위한 성찰 학습 읽기 자료 소개: AI의 시대, 의학 연구자는 지식의 생산자로 계속 남을 수 있을 것인가?

Readings for Reflective Learning: Can Medical Researchers Survive as Knowledge Producers in the AI Era?

Article information

Korean Med Educ Rev. 2026;28(1):55-57
Publication date (electronic) : 2026 February 27
doi : https://doi.org/10.17496/kmer.26.002
Department of Medical Education, Yonsei University College of Medicine, Seoul, Korea
박경현orcid_icon
연세대학교 의과대학 의학교육학교실

[교육자료 1: 잡지기사]

인터넷 URL: https://www.forbes.com/sites/bernardmarr/2024/03/28/generative-ai-and-the-risk-of-inbreeding/

기사 제목: Generative AI And The Risk Of Inbreeding

기고자: Bernard Marr

게시 날짜: 2024년 3월 28일

­

[교육자료 2: 학술논문]

Shumailov I, Shumaylov Z, Zhao Y, Papernot N, Anderson R, Gal Y. AI models collapse when trained on recursively generated data. Nature. 2024;631(8022):755-9. https://doi.org/10.1038/s41586-024-07566-y

­

[교육자료 3: 학술논문]

Schmidt E, Putora PM, Fijten R. The epistemic cost of opacity: how the use of artificial intelligence undermines the knowledge of medical doctors in high-stakes contexts. Philos Technol. 2025;38(1):5. https://doi.org/10.1007/s13347-024-00834-9

­

의사이자 의학자들은 오랫동안 지식의 생산자로서 현상을 관찰하고, 가설을 세우고, 실험하고, 분석하고, 이를 검증하는 과정을 통해 인류를 구하는 의학의 역사를 만들어 왔다. 그러나 최근 인공지능(artificial intelligence, AI)의 등장으로 이를 연구에 활용하는 것을 넘어 남용하는 사례가 빈번히 발생하는 가운데, AI시대에 생산되는 의학 지식과 기술의 연구물이 과연 오롯이 인간 연구자만의 “생산물”이라고 볼 수 있는가에 대한 인식론적 질문을 제기하게 된다. 이는 의학계에 국한된 문제가 아니라, 지난 수천년 동안 지식과 기술의 생산자이자 검수자로서 인류 지성의 역사를 쌓아 온 각계의 학자들이 고민할 만한 질문이다. 수많은 선배 학자들이 수천 년 동안 축적해 온 지식과 기술이 불과 수년 만에 AI라는 가상의 저장소 안에 어마어마하게 압축되고 있는 새로운 시대 속에서, 실제로 최근의 학자들은 그 방대한 인류의 지성을 “프롬프트(prompt) 입력”이라는 행위를 통해서 손쉽게 “인출”하는 시대를 맞이했다고 볼 수 있다. 이처럼 그동안 인간 연구자들이 당연하게 임했던 지식의 “생산자”로서의 정체성은 AI의 등장으로 분명히 도전받고 있으며, 의미 있는 지식의 생산보다는 다량의 논문 생산을 위한 효율적인 도구로서 AI에 담긴 기존의 지식을 소비하는 역할에 더 익숙해지는 게 아닌가라는 우려가 들 정도이다.

위와 같은 문제의식을 바탕으로 본 교육자료에서는, 미래의 의사이자 의학자로 성장할 의과대학생들에게 AI 활용과 의학 지식 생산에 대한 인식론의 문제를 깊이 있게 고민할 기회를 제공하고자 하는 교육자들이 교육현장에서 유용하게 활용할 만한 읽기 자료를 소개하고자 한다. 참고로 본 교육자료에서 소개하는 한 개의 잡지기사와 두 개의 학술논문은 2025년에 진행된 연세대학교 의과대학 제99차 의학교육세미나에서 “지식의 생산자로 계속 남을 수 있을 것인가: AI 시대, 인간 의학자의 역할을 다시 묻다”라는 발표의 일부로 소개된 바 있다.

­

1. 교육자료 1

첫 번째로 소개할 교육자료는 지난 2024년 봄, 미래학자 버나드 마(Bernard Marr)가 포브스(Forbes)에 기고한 “Generative AI and the risk of inbreeding”이라는 제목의 기사이다[1]. 이 기사는 인간이 지식의 생산자나 검증자로서 성실하게 개입하지 않을 때 생길 수 있는 문제를 AI 근친교배(inbreeding)에 비유하며, 그것에 대한 위험성에 대해 다루고 있다. 버나드 마에 의하면 AI 근친교배는 인간의 검토 없이 AI가 생산한 지식을 그대로 다시 AI에 주입시키는 과정으로, 이를 반복하게 되면 그 정보는 창의적인 지적 생산에 활용되는 것이 아니라, 의미나 맥락이 결여된 지식이 도돌이표처럼 반복되어 생성되는 일종의 메아리방(echo chamber) 안에 갇히는 것과 다름없다고 설명한다. 인간의 창의성과 비판적 성찰이 결여된 지식 생산과정은 결국 의미 없는 반복의 과정 속에서 허무함에 맞닥뜨리게 될 것임을 경고하는 것이다. 이 자료는 비록 비학술적인 잡지 기사지만, 인간이 비판적 사고와 창의적 발상을 멈추고 AI에게 맡겼을 때의 디스토피아적인 상황에 대해 메아리방이라는 재치 있는 비유를 통해 쉽게 와 닿도록 한다. 이 자료는 길이가 짧고 읽기 쉬운 비학술적인 글인만큼, 의과대학생들의 연구심화과정 등 연구수업의 도입부에 교수자가 흥미유발을 위한 수업자료로 활용하거나, 토론을 위한 읽기 자료로 제공하기에 분량이나 난이도 측면에서 부담 없이 제공할 만하다. 좀 더 확장한다면, 한국어로도 번역된 버나드 마의 대표적인 저서인 “Tech trends in practice: the 25 technologies that are driving the 4th Industrial Revolution [2]” 및 그가 Forbes에 기고한 글들을 함께 수업 읽기 자료로 구성하여, 인문사회의학 수업의 플립 러닝(flipped learning) 자료나 의예과 학생들을 위한 교양수업 자료로 제공할 수도 있을 것이다.

2. 교육자료 2

위에서 소개한 첫 번째 교육자료에서 버나드 마가 미래학자로서 AI의 근친교배로 인한 지식생산과정의 붕괴를 인문사회학적 관점에서 설명하였다면, 영국 옥스퍼드 크라이스트 처치 칼리지(Christ Church at Oxford University)의 컴퓨터과학자 일리야 슈마일로프(Ilia Shumailov)와 그의 동료들이 Nature 지에 발표한 이 논문[3]에서는 이 문제를 시뮬레이션을 통해 검증하여 제시한다. 저자들은 사람이 직접 생산한 자료(real human-produced data) 없이 AI의 학습과 데이터 생성이 반복됐을 때, 무의미한 지식의 나열만이 생산되는 지식의 붕괴(collapse) 현상을 실증적으로 보여준다. 이들은 이를 검증하기 위해, 생성형 AI 모델에 건축물의 역사에 대해 학습시킨 후, 인간의 검증이나 개입 없이 해당 AI에서만 생성된 정보(model-generated content)를 다른 AI 모델에 주입하여 정보를 생산시키는 과정을 반복했을 때, 의미가 없을 뿐더러 활자로서의 기능조차 갖추지 못하는 파편과 같은 정보와 출력물만이 도출되는 데이터의 오염 및 왜곡 현상을 확인하였다. 이때 이 문제를 예방할 수 있는 가장 간단하면서도 근본적인 방법은 인간의 개입이라는 것도 확인하였다. 지식과 정보의 전승과 유지에 지속적으로 인간이 개입하면서, 동시에 이를 기반으로 유용한 지식을 생산하고, 이것을 검증하고 다듬고 또 다시 전수하는 과정에는 반드시 인간의 지성이 필요하다는 “휴먼 인 더 루프(human-in-the-loop)”의 중요성을 과학적으로 검증한 것이다. 위의 버나드 마가 미래학자로서의 혜안을 성찰적으로 제시했다면, 일리야 슈마일로프와 저자들은 컴퓨터과학 실험연구를 통해 인간이 관여하지 않는 AI 모델의 붕괴를 명료하게 그래프와 수식으로 제시한다. 이 논문은 컴퓨터과학 기술의 정수가 아니라, 인간이 끊임없이 고유한 지식을 생산하는 노력이 얼마나 중요한가에 대한 메세지를 수치와 그래프에 담아 전달한다.

소위 이과생인 의과대학생들에게는 슈마일로프와 동료들의 컴퓨터과학을 통한 실험연구 결과가 관련 문제를 인식하는 데 훨씬 효과적인 자료가 될 수도 있을 것이다. 학생들로 하여금 같은 문제라도 다른 시각과 다른 분야의 전문가들이 어떻게 논점을 해석하고 주장하는지에 대해 다양하게 살펴볼 수 있는 기회를 제공하고자 한다면, 버나드 마의 기사와 본 논문을 함께 제공하는 것도 의미 있을 것이다. 본 논문은 인문사회의학이나 교양수업의 성찰수업을 위한 자료 또는 토론의 생각할 거리로 활용되는 것뿐만 아니라, 글쓰기나 연구심화 수업 등 생성형 AI의 활용과 관련된 비판적 관점이 요구되는 다양한 교육현장에서 참고자료로 활용될 수 있을 것이다.

3. 교육자료 3

마지막으로 교육자료로 추천하는 자료는 독일의 이론철학자 에바 슈미트(Eva Schmidt)와 그녀의 동료들이 2025년 발표한 논문이다[4]. 이 논문은 의사가 자신의 의학적 지식 검증을 AI에게 의존하는 시대에서 의료계에서 발생할 수 있는 문제에 대한 이론철학적 관점에서의 해석을 제공한다. 저자들은 부서진 시계(broken clock)라는 철학계의 유명한 사고실험을 통해 AI의 불투명한 시스템에 임상적 추론과 결정을 맡기는 것에 대해 인식론적 의문을 제기한다. 이들은 ChatGPT와 같은 생성형 AI가 가지는 기술적 한계점으로 소위 블랙박스(black box)라고 불리는 정보처리 과정상의 불투명성(opacity inside)을 꼽으며, 이 절차를 통해 생성되는 정보는 일반화하거나 검증하기 어렵고 따라서 지식으로 형성되는 데 한계가 있다고 지적한다. 이에 반해 인간 의사가 학습과 경험을 통해 쌓아 온 임상적 전문성에 근거한 지식과 기술이 AI의 통계적 알고리즘보다 정확할 때가 있다고 설명한다. 이런 사고과정을 통해 저자들은 AI를 활용하는 것을 피할 수 없는 시대 속에서, 인간 의사 및 의학자들은 AI의 잘못된 판단을 검토하고 검증할 수 있는 비판적 사고능력과 무시할 수 있는 실력과 역량을 지속적으로 쌓는 것이 중요함을 거듭 강조한다. 또한 이러한 노력을 지속하기 위해 의사 및 의학자들과 AI 전문가들, 그리고 다양한 분야의 사람들 간의 지식형성 및 인식 공동체(epistemic community)를 형성할 것을 제안한다. 이들의 주장은 결국 의과대학생 및 의료인들이 임상경험을 통해 형성하는 깊이 있고 실제적인 학습(authentic learning)의 가치와 중요성이 AI시대에도 변함없이 강조되어야 한다는 맥락과 깊이 연결된다. 이런 점에서 본 논문 역시 의과대학생들뿐만 아니라, 미래의 의사 및 의학자들이 평생교육 측면에서 가져야 할 전문직업인으로서의 중요한 가치를 성찰할 수 있도록 돕는 좋은 읽기 자료로 활용될 수 있을 것이다.

위의 자료들은 각각 미래학, 컴퓨터과학, 철학 및 의학이라는 다른 분야의 전문가들의 관점과 연구결과를 제시하고 있지만, 결국 AI에게 지식을 검증하고 생산하는 모든 사고과정을 전유하게 했을 때의 위험성을 다루고 있다는 점에서 동일한 메시지를 담고 있다. 저자들은 하나같이 AI에게 지나치게 의존하고 있는 최근 학계의 경향에 우려를 담아, 의과대학생들을 비롯하여 의학계의 여러 분야 연구자들이 지속적으로 가설을 스스로 입증하고, 비판적으로 검증하고, 계속 의심하고 또 검증하는 과정에 인간 연구자로서 적극적으로 개입하는 것의 중요성을 강조한다. 따라서 이 자료들은 특히 인문사회의학 관련 수업의 학생들을 위한 읽기 자료나 토론 자료로, 생각할 거리를 제공하거나 실험 및 연구논문 지도수업에서 연구자의 정체성 및 태도에 대한 정의적 영역을 교육하고자 하는 교육자들에게 유용하리라 본다. 그러나 수업이 아니더라도, AI시대의 지식 생성에 대한 인식론이나 연구윤리 등에 관심을 가지는 모든 이들이 한 번쯤은 이 자료들을 읽어볼 수 있기를 바란다.

마지막으로, 이 자료를 활용하는 의학교육자들에게는 위의 자료를 포함하여 성찰학습을 위한 수업자료를 만드는 과정에서 “인간 교육자”로서 AI에 의존하지 않고 읽기 자료를 선별하고 활용안을 고안하는 “휴먼 인 더 루프(human-in-the-loop)”의 중요성을 실천하기를 바라는 바이다. 위의 자료 외에도 AI시대의 연구윤리 및 지식 생산에 대한 인식론적 논쟁을 다룬 글들은 매일 쏟아져 나오고 있다. 수많은 읽기 자료가 쏟아져 나오는 시대에서 교육자들도 AI를 통해서 다양한 출처의 자료들을 효율적으로 탐색하고 교육자료로 고르는 것이 당연한 시대가 되고 있다. 그러나 그 안에서 부디 인간 교육자로서 꼼꼼하게 내용을 점검하고 양질의 자료를 선별하여 학생들에게 제공할 수 있기를 바란다.

References

1. Marr B. Generative AI and the risk of inbreeding. Forbes [Internet]. 2024 Mar 28 [cited 2024 Aug 26]. Available from: https://www.forbes.com/sites/bernardmarr/2024/03/28/generative-ai-and-the-risk-of-inbreeding/.
2. Marr B. Tech trends in practice: the 25 technologies that are driving the 4th Industrial Revolution Chichester: Wiley; 2020. 304 p.
3. Shumailov I, Shumaylov Z, Zhao Y, Papernot N, Anderson R, Gal Y. AI models collapse when trained on recursively generated data. Nature 2024;631(8022):755–9. https://doi.org/10.1038/s41586-024-07566-y. 10.1038/s41586-024-07566-y. 39048682.
4. Schmidt E, Putora PM, Fijten R. The epistemic cost of opacity: how the use of artificial intelligence undermines the knowledge of medical doctors in high-stakes contexts. Philos Technol 2025;38(1):5. https://doi.org/10.1007/s13347-024-00834-9. 10.1007/s13347-024-00834-9.

Article information Continued