AI는 어떻게 글을 쓸까?
2016년 3월, 한 신문사 편집국에 이상한 소문이 돌았습니다. “다음 달부터 스포츠 단신 몇 개는 사람이 안 쓴다”는 이야기였습니다. 실제로 그 신문사는 프로야구 경기 결과를 요약하는 짧은 기사를 컴퓨터 프로그램에 맡기기 시작했습니다. 독자들은 별다른 위화감을 느끼지 못했습니다. 문장은 매끄러웠고, 숫자는 정확했고, 심지어 “9회말 극적인 역전승”이라는 표현까지 등장했습니다. 그런데 이 프로그램은 그 경기를 본 적도, 감동을 느낀 적도 없었습니다. 그저 정해진 규칙에 따라 데이터를 문장으로 바꿔치기했을 뿐입니다.
그로부터 몇 년 뒤, 상황은 완전히 달라졌습니다. 이제는 규칙을 정해주지 않아도, 그저 “가을 저녁의 쓸쓸함에 대해 짧은 에세이를 써줘”라고 요청하면, AI는 마치 오랫동안 그 감정을 곱씹어 온 사람처럼 글을 써 내려갑니다. 은유를 사용하고, 문단의 호흡을 조절하고, 심지어 유머까지 구사합니다. 놀라운 건 이 AI 역시 가을을 본 적도, 쓸쓸함을 느껴본 적도 없다는 사실입니다.
그렇다면 질문이 생깁니다. 감정도, 경험도, 심지어 의식조차 없는 기계가 어떻게 사람보다 더 사람 같은 글을 쓸 수 있을까요? 이것은 단순한 기술적 호기심을 넘어서는 질문입니다. 우리가 ‘이해한다’거나 ‘창작한다’고 믿어온 행위의 본질을 다시 묻게 만드는 질문이기 때문입니다. 이 글에서는 AI가 실제로 글을 쓰는 원리를 처음부터 끝까지, 최대한 쉬운 말로 풀어보려 합니다. 이 글을 다 읽고 나면, 여러분은 챗봇과 대화할 때마다 “이 문장은 대체 어디서 나온 걸까?”라는 질문에 스스로 답할 수 있게 될 것입니다.
왜 이것이 중요한가
지금 이 순간에도 수많은 이메일, 보고서, 광고 문구, 심지어 소설의 일부가 AI의 손을 거쳐 나오고 있습니다. 글쓰기는 인류가 가장 오랫동안 ‘인간만의 고유한 능력’이라 믿어온 영역이었습니다. 언어를 다루고, 생각을 정리하고, 타인을 설득하는 일. 그런데 이 영역에 기계가 성큼 들어왔습니다.
이 원리를 이해하는 것은 단순히 기술 상식을 쌓는 차원의 문제가 아닙니다. AI가 쓴 글을 언제 믿어야 하고 언제 의심해야 하는지, AI가 왜 가끔 그럴듯한 거짓말을 아무렇지 않게 늘어놓는지, 그리고 우리가 앞으로 이 도구를 어떻게 다뤄야 하는지를 판단하는 근거가 되기 때문입니다. 원리를 모르면 AI를 신처럼 떠받들거나, 반대로 무조건 불신하게 되기 쉽습니다. 원리를 알면, 정확히 어디까지 믿고 어디서부터 검증해야 하는지 스스로 판단할 수 있습니다.
역사적·사회적 배경
AI의 글쓰기 역사는 생각보다 훨씬 깁니다. 1966년, MIT의 컴퓨터과학자 조지프 바이첸바움은 ‘엘리자(ELIZA)’라는 프로그램을 만들었습니다. 엘리자는 상담사처럼 대화하는 척했지만, 사실은 사용자의 문장에서 키워드를 뽑아 미리 정해둔 문형에 끼워 넣는 수준이었습니다. “나는 슬퍼요”라고 말하면 “왜 슬프다고 느끼시나요?”라고 되묻는 식이었죠. 놀랍게도 당시 실험 참가자 중 상당수는 엘리자가 자신을 진심으로 이해한다고 믿었습니다. 이것이 훗날 ‘엘리자 효과’라 불리는 현상, 즉 사람은 기계의 반응에서도 쉽게 인격과 감정을 투영한다는 사실을 보여준 첫 사례였습니다.
이후 수십 년간 컴퓨터 글쓰기는 ‘규칙 기반’의 한계를 벗어나지 못했습니다. 사람이 문법 규칙과 어휘 사전을 하나하나 프로그래밍해줘야 했고, 조금만 예상 밖의 문장이 들어오면 프로그램은 속수무책이었습니다. 전환점은 2010년대에 찾아왔습니다. 인터넷에 쌓인 방대한 텍스트 데이터와, 이를 학습할 수 있는 강력한 컴퓨터 연산 능력(특히 그래픽 처리 장치, GPU)이 동시에 갖춰지면서, ‘규칙을 가르치는 방식’에서 ‘데이터를 통해 스스로 패턴을 익히는 방식’으로 대전환이 일어났습니다.
결정적 사건은 2017년이었습니다. 구글 연구진이 ‘트랜스포머(Transformer)’라는 새로운 신경망 구조를 발표한 논문의 제목은 상징적이게도 “Attention Is All You Need(당신에게 필요한 건 어텐션뿐)”였습니다. 이 논문 하나가 이후 GPT, 그리고 지금 여러분이 사용하는 여러 AI 언어모델의 기술적 뿌리가 되었습니다.
AI는 실제로 어떻게 문장을 만드는가
1) 글을 숫자로 쪼개기: 토큰화
AI는 사람처럼 눈으로 글자를 ‘읽는’ 것이 아닙니다. 모든 문장을 먼저 ‘토큰(token)’이라 불리는 작은 조각으로 잘게 쪼갭니다. 토큰은 단어일 수도, 단어의 일부일 수도, 심지어 조사 하나일 수도 있습니다. 예를 들어 “사랑스럽다”라는 단어는 “사랑” + “스럽” + “다”처럼 몇 개의 조각으로 나뉠 수 있습니다. 그리고 이 각각의 조각은 컴퓨터가 다룰 수 있는 숫자, 정확히는 수백 개의 숫자로 이루어진 좌표(벡터)로 바뀝니다.
이 숫자 좌표에는 비밀이 하나 숨어 있습니다. 의미가 비슷한 단어일수록 좌표상에서 가까운 위치에 놓인다는 점입니다. “강아지”와 “고양이”는 가까이 있고, “강아지”와 “자동차”는 멀리 떨어져 있습니다. 이것이 바로 AI가 ‘의미’를 다루는 방식의 출발점입니다. 사람이 사전을 찾아 의미를 이해하는 게 아니라, 좌표 사이의 거리로 의미의 유사성을 계산하는 것이죠.
2) 문맥을 읽는 능력: 어텐션
여기서 핵심 기술인 ‘어텐션(attention)’이 등장합니다. 어텐션은 쉽게 말해 “이 단어를 이해하기 위해, 문장 속 어떤 다른 단어들을 얼마나 참고해야 하는가”를 계산하는 방법입니다.
예를 들어 “그는 은행에 가서 예금을 찾았다”라는 문장과 “그는 은행에 앉아 낚시를 했다”라는 문장을 봅시다. ‘은행’이라는 같은 단어지만 의미가 전혀 다릅니다. 어텐션 메커니즘은 ‘은행’ 주변의 ‘예금’이나 ‘낚시’ 같은 단어에 얼마나 주목해야 하는지를 계산해서, 문맥에 맞는 의미로 그 단어를 재해석합니다. 이 계산을 문장 속 모든 단어 쌍에 대해 동시에, 그것도 매우 빠르게 수행하는 것이 트랜스포머 구조의 핵심입니다. 과거의 AI가 문장을 왼쪽에서 오른쪽으로 순서대로 읽어나가야 했다면, 트랜스포머는 문장 전체를 한 번에 훑어보며 중요한 관계를 파악할 수 있게 된 것입니다.
3) 다음 단어 맞히기 게임
여기서 많은 사람이 놀라는 사실이 하나 있습니다. AI 언어모델의 학습 원리는 본질적으로 아주 단순한 게임과 같습니다. 바로 ‘다음에 올 단어 맞히기’입니다.
AI는 인터넷의 방대한 글, 책, 논문, 기사 등을 읽으면서 이런 식의 훈련을 수십억, 수천억 번 반복합니다. “오늘 날씨가 정말”이라는 문장을 보여주고 다음 단어를 예측하게 합니다. 처음엔 “책상”처럼 엉뚱한 단어를 내놓겠지만, 정답인 “좋다”나 “춥다”와 비교해 오차를 계산하고, 그 오차를 줄이는 방향으로 내부의 숫자(가중치)를 아주 조금씩 조정합니다. 이 과정을 상상하기 힘들 만큼 많이 반복하면, AI는 “어떤 단어 다음에 어떤 단어가 올 확률이 높은지”에 대한 정교한 감각을 갖추게 됩니다.
여기서 중요한 오해를 짚어야 합니다. AI는 문장을 ‘이해’해서 쓰는 게 아니라, 통계적으로 가장 그럴듯한 다음 단어를 순서대로 골라나가는 것입니다. 마치 한 글자씩 릴레이 소설을 쓰듯이, “이”, “이 문”, “이 문장”, “이 문장은”… 이런 식으로 한 조각씩 이어 붙이면서 전체 글을 완성합니다. 그런데 이 ‘그럴듯함’을 계산하는 능력이 워낙 정교해서, 결과적으로 마치 의미를 이해하고 쓰는 것처럼 보이는 글이 탄생하는 것입니다.
4) 착해지는 훈련: 인간 피드백 강화학습
다음 단어를 잘 맞히는 것만으로는 쓸모 있는 AI가 되지 않습니다. 그저 인터넷 글의 통계적 평균을 따라가다 보면, 편향된 표현이나 사실이 아닌 내용도 그럴듯하게 뱉어낼 수 있기 때문입니다. 그래서 추가로 ‘인간 피드백을 통한 강화학습(RLHF)’이라는 과정을 거칩니다.
사람들이 AI가 내놓은 여러 답변을 보고 “이 답변이 더 낫다”고 순위를 매기면, AI는 그 선호를 학습해서 더 도움이 되고, 더 안전하고, 더 정직한 방향으로 답변 습관을 조정해나갑니다. 비유하자면, 첫 번째 단계가 방대한 독서를 통해 언어 감각을 익히는 과정이라면, 두 번째 단계는 좋은 편집자와 스승에게 지도를 받으며 글쓰기 태도를 다듬는 과정이라 할 수 있습니다.
실제 사례
2020년 공개된 GPT-3는 1750억 개의 매개변수(가중치 숫자)를 가진 모델로, 당시 기준으로는 상상하기 어려운 규모였습니다. 흥미로운 실험 하나가 있었습니다. GPT-3에게 인간 참가자들과 구분이 안 될 정도로 자연스러운 뉴스 기사를 쓰게 한 뒤, 사람들에게 어느 것이 AI가 쓴 글인지 맞혀보라고 했더니, 정답률이 절반을 겨우 넘는 수준, 즉 동전 던지기와 크게 다르지 않은 수준에 그쳤습니다.
또 다른 사례로, 한국의 여러 언론사는 이미 증시 시황이나 날씨 정보처럼 정형화된 데이터를 다루는 기사에 AI 기반 자동 작성 시스템을 도입해왔습니다. 반면 창의적 글쓰기 영역에서는 2023년 이후 작가들이 AI를 ‘초안 생성 도구’로 활용하는 사례가 늘었습니다. 완전히 처음부터 끝까지 맡기기보다는, 막힌 부분의 아이디어를 얻거나 문장을 다듬는 보조 도구로 쓰는 방식입니다. 이는 AI 글쓰기가 인간을 대체하는 도구가 아니라, 인간의 작업 방식을 바꾸는 도구로 자리 잡아가고 있음을 보여줍니다.
사람의 글쓰기 vs AI의 글쓰기
| 구분 | 사람의 글쓰기 | AI의 글쓰기 |
|---|---|---|
| 출발점 | 경험, 감정, 의도 | 통계적 확률 계산 |
| 단위 | 생각과 의미 | 토큰(문자·단어 조각) |
| 창작 과정 | 구상 → 표현 | 다음 토큰 예측의 연속 |
| 사실 확인 | 기억과 지식을 검증 | 학습 데이터의 패턴에 의존 (오류 가능) |
| 속도 | 느림, 고민의 시간 필요 | 매우 빠름 |
| 일관성 | 컨디션에 따라 변동 | 언제나 균일한 품질 유지 가능 |
| 새로움 | 완전히 새로운 개념 창출 가능 | 학습한 패턴의 재조합에 가까움 |
| 감정 이입 | 실제 경험에서 우러나옴 | 감정을 흉내 낸 표현 생성 |
이 표에서 가장 눈여겨볼 지점은 ‘사실 확인’ 항목입니다. AI는 자신이 쓰는 말이 사실인지 아닌지를 스스로 검증하는 내부 장치를 갖고 있지 않습니다. 그저 학습 데이터에서 흔히 나타나는 패턴을 따라갈 뿐입니다. 이 때문에 AI가 매우 그럴듯하지만 사실과 다른 내용을 자신 있게 말하는 현상, 이른바 ‘환각(hallucination)’이 발생합니다.
오늘날 우리에게 주는 의미
AI의 글쓰기 원리를 이해하고 나면, 우리는 이 도구를 훨씬 지혜롭게 사용할 수 있습니다. 첫째, AI가 쓴 글의 ‘유창함’과 ‘정확함’은 서로 다른 문제라는 걸 알게 됩니다. 문장이 매끄럽다고 해서 내용까지 진실이라는 보장은 없습니다. 특히 통계나 인용, 날짜처럼 구체적인 사실은 반드시 별도로 확인하는 습관이 필요합니다.
둘째, AI 글쓰기의 확산은 ‘글쓰기란 무엇인가’라는 질문을 다시 던지게 만듭니다. 어쩌면 앞으로 인간에게 더 중요해지는 능력은 ‘문장을 만드는 기술’이 아니라, ‘무엇을 쓸지 판단하는 안목’과 ‘쓰인 글을 검증하고 편집하는 능력’일지도 모릅니다. 실제로 많은 전문가들은 AI 시대에 오히려 비판적 읽기 능력과 좋은 질문을 던지는 능력의 가치가 더 커질 것이라 전망합니다.
셋째, 교육 현장과 직장에서는 AI 활용에 대한 새로운 규범이 자리 잡고 있습니다. 초안 작성을 돕는 도구로 활용하되, 최종 책임과 판단은 사람이 진다는 원칙입니다. 이는 마치 계산기가 등장했다고 해서 수학적 사고력이 필요 없어지지 않았던 것과 비슷합니다. 도구가 바뀌면 그 도구를 다루는 인간의 역할도 함께 진화합니다.
핵심 정리
- AI는 문장을 ‘이해’하는 게 아니라, 다음에 올 토큰을 확률적으로 예측해 이어 붙이는 방식으로 글을 씁니다.
- 트랜스포머 구조의 ‘어텐션’ 기술 덕분에 AI는 문맥에 따라 같은 단어의 다른 의미를 구분할 수 있게 되었습니다.
- 방대한 텍스트로 다음 단어 맞히기를 반복 학습한 뒤, 사람의 피드백을 통해 더 안전하고 유용한 답변 습관을 다듬습니다.
- AI 글쓰기는 유창하지만, 사실 검증 능력은 별개이므로 중요한 정보는 항상 재확인이 필요합니다.
- AI 시대에는 글을 쓰는 기술보다 무엇을 쓸지 판단하고 검증하는 능력이 더 중요해지고 있습니다.
오늘의 한 문장
AI는 의미를 이해해서가 아니라, 확률의 파도를 가장 그럴듯하게 타는 법을 배워서 글을 씁니다.
FAQ
Q1. AI는 정말로 글의 의미를 이해하고 쓰는 건가요? 아니요. AI는 학습한 방대한 텍스트에서 어떤 단어 다음에 어떤 단어가 나올 확률이 높은지를 계산해 문장을 생성합니다. ‘이해’라기보다는 매우 정교한 패턴 예측에 가깝습니다.
Q2. AI가 쓴 글은 표절인가요? AI는 특정 문서를 그대로 복사하지 않고, 학습 데이터에서 익힌 패턴을 바탕으로 새로운 문장을 생성합니다. 다만 저작권 및 표절 기준은 국가와 상황에 따라 다르며, 현재도 법적·윤리적 논의가 진행 중인 영역입니다.
Q3. AI가 거짓 정보를 만들어내는 이유는 무엇인가요? AI는 사실 여부를 검증하는 내부 장치 없이, 통계적으로 그럴듯한 문장을 생성하기 때문입니다. 이 현상을 ‘환각(hallucination)’이라 부르며, 중요한 사실 정보는 항상 별도로 확인해야 합니다.
Q4. GPT와 트랜스포머는 같은 건가요? 아닙니다. 트랜스포머는 2017년 발표된 신경망 구조(기술)이고, GPT는 그 구조를 활용해 만들어진 구체적인 언어모델 제품군의 이름입니다. 트랜스포머라는 기술 위에 GPT를 비롯한 여러 언어모델이 만들어졌습니다.
Q5. AI 글쓰기 때문에 앞으로 작가나 기자라는 직업이 사라질까요? 현재로서는 AI가 정형화된 정보를 정리하는 글쓰기는 대체하고 있지만, 깊은 취재, 비판적 판단, 고유한 관점이 필요한 글쓰기는 여전히 사람의 영역으로 남아 있습니다. 많은 전문가들은 대체보다는 역할 변화, 즉 사람이 기획·검증·편집에 더 집중하는 방향으로의 이동을 전망합니다.
