생성형 AI와 언어 모델

분류 모델은 준비된 후보 중 하나를 고르는 데 주로 쓰입니다. 생성 모델은 글, 그림, 소리, 코드의 다음 부분을 계속 만들어 더 긴 결과를 구성합니다. “강아지인가?”와 “강아지가 주인공인 이야기 써 줘”는 목표가 다릅니다.

생성형 AI는 배운 자료의 패턴을 이용해 글·그림·소리처럼 새로운 결과물을 만들 수 있습니다. 1OECD · European UnionEmpowering Learners for the Age of AI: An AI Literacy Framework for Primary and Secondary Educationcreating with AI dimension and generative AI examples

새 결과라는 말도 조심해서 써야 합니다. 학습 자료의 긴 조각을 지나치게 비슷하게 내놓거나, 실제 사람의 화풍과 목소리를 흉내 낼 수 있습니다. 따라서 결과가 처음 보는 조합이라고 해서 저작권과 창작자의 권리를 자동으로 벗어나는 것은 아닙니다. 어떤 자료로 배웠고 결과를 어떻게 사용할지 사람이 확인해야 합니다.

언어 모델은 글 전체를 한 번에 마법처럼 쓰지 않습니다. 입력을 토큰이라는 작은 단위로 바꾸고, 지금까지 주어진 토큰 사이의 관계를 계산합니다. “배가” 뒤에는 과일 이야기인지 탈것 이야기인지 앞 문맥에 따라 다른 말이 잘 어울립니다.

언어 모델은 문장을 토큰이라는 조각으로 다루고 앞뒤 문맥의 관계를 계산해 다음 조각을 고릅니다. 2NeurIPSAttention Is All You NeedSections 3.2–3.4, attention and decoder output

Transformer라는 구조는 문맥 안의 여러 위치가 서로 얼마나 관련 있는지 살피는 계산을 사용합니다. “민지가 수아에게 우산을 주었다. 그는 고마워했다”처럼 대명사가 누구를 가리키는지 문맥을 보는 데 도움이 됩니다. 하지만 긴 글의 중요한 내용을 놓치거나 서로 먼 지시를 잘못 잇기도 합니다. 문맥 창이 길다는 숫자만으로 모든 내용을 똑같이 잘 이해한다는 뜻은 아닙니다.

언어 모델은 편지, 설명, 역할극을 아주 자연스럽게 만들 수 있습니다. “어제 공원에서 속상했어”라고 말할 수도 있습니다. 그러나 AI가 실제로 어제를 보내거나 공원의 바람을 느낀 것은 아닙니다. 문맥에 잘 이어지는 말의 형태를 만든 것입니다.

문장이 자연스럽다는 사실만으로 내용이 사실이거나 AI가 사람처럼 이해하고 경험한다는 뜻은 아닙니다. 3National Institute of Standards and TechnologyArtificial Intelligence Risk Management Framework: Generative Artificial Intelligence ProfileSection 2.3, confabulation

이 한계를 안다고 생성형 AI가 쓸모없어지는 것은 아닙니다. 어려운 문장을 다른 방식으로 설명받고, 생각할 질문을 얻고, 초안의 구조를 비교할 수 있습니다. 다만 이름, 출처, 숫자, 최신 사건은 확인합니다. 감정적 위로나 건강·안전 결정이 필요하면 책임을 질 수 있는 사람에게 도움을 구합니다.