모델이 답을 고르는 방법

급식 사진에서 사과, 귤, 바나나를 찾는 모델은 입력 사진을 보고 세 후보마다 내부 점수를 만듭니다. 사과 2.1, 귤 0.4, 바나나 -0.2처럼 사람이 바로 읽기 어려운 숫자일 수도 있습니다. 이 숫자를 서로 비교하기 쉬운 0부터 100% 사이의 모습으로 바꿀 수도 있습니다.

분류 모델은 여러 후보를 비교할 수 있는 점수를 계산하고 정한 규칙에 따라 결과를 고릅니다. 1AI4K12 InitiativeFive Big Ideas in Artificial Intelligence and Grade Band Progression ChartsBig Idea 2 and Big Idea 3 progression, classification and decision making

가장 높은 점수는 “이 후보가 현재 모델과 입력에서 가장 잘 맞았다”는 뜻입니다. “세상에서 참이라고 증명되었다”는 뜻이 아닙니다. 사진이 어둡거나 처음 보는 품종이면 틀릴 수 있습니다. 점수가 90%처럼 보여도 실제로 비슷한 경우 100번 중 90번 맞는지 따로 시험해야 합니다.

화재 연기를 찾는 모델이 연기 점수 55%를 냈습니다. 50%부터 경보를 울리게 했다면 알림이 나가고, 70%부터 울리게 했다면 조용합니다. 모델의 점수는 같은데 사람이 정한 선 때문에 행동이 달라졌습니다.

같은 점수라도 어느 지점부터 경고할지 정한 기준값에 따라 최종 결정이 달라집니다. 2National Institute of Standards and TechnologyArtificial Intelligence Risk Management Framework (AI RMF 1.0)pp. 28–31, measurement metrics and decision criteria

선을 낮추면 실제 연기를 놓치는 일은 줄 수 있지만, 요리 김을 연기로 잘못 알리는 횟수가 늘 수 있습니다. 어떤 실수가 더 위험한지에 따라 기준이 달라집니다. 병원, 학교, 놀이 추천처럼 사람에게 미치는 영향이 다른 곳에서 같은 기준을 복사하면 안 됩니다. 모델을 만든 사람뿐 아니라 기준을 승인하고 알림에 대응하는 사람도 결정에 참여합니다.

언어 모델은 “오늘 점심은” 다음에 올 후보를 계산합니다. “김밥”, “맛있다”, “학교에서” 같은 토큰에 서로 다른 가능성을 줍니다. 하나를 고른 뒤에는 새로 이어진 문장 전체를 다시 보고 다음 토큰을 고릅니다. 이 일을 여러 번 반복하면 긴 답이 됩니다.

언어 모델은 지금까지의 문맥을 바탕으로 다음 토큰 후보의 가능성을 계산하고 선택하는 일을 반복해 문장을 만듭니다. 3NeurIPSAttention Is All You NeedSections 3 and 3.4, autoregressive decoder and output probabilities

토큰은 꼭 낱말 하나와 같지 않습니다. 글자 일부나 문장 부호가 될 수도 있습니다. “이어 말하기” 비유는 선택 과정을 보여 주지만 한계가 있습니다. 큰 언어 모델은 아주 많은 문맥 관계를 계산하므로 단순 끝말잇기보다 복잡합니다. 그래도 다음 토큰이 그럴듯하다는 계산이 인용한 사실의 진위를 자동으로 확인해 주지는 않습니다.