원제: Attention Head Entropy of LLMs Predicts Answer Correctness 출처: arXiv:2602.13699v1 [cs.LG], 2026년 2월 14일 제출 (Preprint. 2026년 2월 17일) 저자: Sophie Ostmeier¹² · Brian Axelrod³ · Maya Varma⁴ · Asad Aali⁵ · Yabin Zhang⁵ · Magdalini Paschali⁵ · Sanmi Koyejo⁴ · Curtis Langlotz⁵ · Akshay Chaudhari⁵ *\동등 기여. ¹취리히 대학병원 신경영상의학과(스위스 취리히) ²스탠퍼드 대학교 재직 중 수행한 연구 ³Microsoft AI ⁴스탠퍼드 대학교 컴퓨터과학과 ⁵스탠퍼드 대학교 영상의학과. 교신저자: Sophie Ostmeier \<ostmeiersophie@gmail.com\>
초록 (Abstract)
대규모 언어모델(LLM)은 그럴듯하지만 틀린 답을 곧잘 생성하며, 이는 의료처럼 안전이 중요한 환경에서 위험 요소가 된다. 사람이 직접 평가하는 것은 비용이 크고, LLM을 심판으로 쓰는(LLM-as-judge) 접근은 숨은 오류를 끌어들일 위험이 있다. 최근의 화이트박스(white-box) 방법들은 모델 내부 신호를 이용해 문맥적 환각(contextual hallucination)을 탐지하는데, 주로 어텐션 질량(attention mass)이 어디에 놓이는지(localization)에 초점을 맞춘다. 그러나 두 가지 질문이 열려 있다: 이 접근들이 답변 정확성(answer correctness) 예측으로 확장되는가, 그리고 도메인 밖(out-of-domain)에서도 일반화되는가? 우리는 어텐션 엔트로피 패턴, 구체적으로는 어텐션 질량의 퍼짐(spread)으로부터 답변 정확성을 예측하는 방법인 HEAD ENTROPY를 제안한다. 헤드별 2-레니(2-Rényi) 엔트로피에 희소(sparse) 로지스틱 회귀를 적용하는 것만으로, HEAD ENTROPY는 분포 내(in-distribution)에서 베이스라인과 대등하거나 이를 능가하고, 도메인 밖에서는 상당히 더 잘 일반화하여 lookback lens ratio를 평균 +8.5% AUROC로 앞선다. 나아가 답변을 생성하기 전, 질문/문맥 토큰만의 어텐션 패턴에도 이미 예측 신호가 실려 있음을 HEAD ENTROPY로 보이며, 이때 가장 근접한 베이스라인 대비 평균 +17.7% AUROC를 얻는다. 우리는 일반 지식, 다중 홉(multi-hop) 추론, 의학을 아우르는 3개 QA 데이터셋과 5개의 instruction-tuned LLM 전반에서 평가한다.
1. 서론 (Introduction)
대규모 언어모델(LLM)은 의료 질의응답(QA)과 임상 의사결정 지원부터 법률, 과학적 발견에 이르기까지 안전이 중요한 환경에 점점 더 많이 배치되고 있다(Singhal et al., 2022; 2025; Tu et al., 2024; Yang et al., 2024; Tanno et al., 2025; Zambrano Chaves et al., 2025). 그러나 최첨단 시스템조차 유창하고 자신감 있는, 그럼에도 틀린 응답을 생성할 수 있다(Wang et al., 2024; Sivarajkumar et al., 2024; Chang et al., 2025). 모든 출력을 전문가가 검증하는 것은 규모가 커지면 비용이 크고 비현실적이며, 검증을 도메인 특화 LLM에 맡기는 방식은 그 출력 또한 전문가가 재검토하지 않는 한 예측 불가능한 편향이나 숨은 오류를 끌어들일 수 있다(Chen et al., 2024b; Thakur et al., 2025).
최근 연구들은 은닉 상태(hidden state)나 어텐션 패턴 같은 모델 내부 신호로 문맥적 환각을 탐지하는 방법을 제안해 왔다(Chuang et al., 2024; Matys et al., 2025). 그러나 실용화를 가로막는 핵심 공백이 있다. 첫째, 이 방법들은 질의응답의 답변 정확성(표면 수준의 충실성(faithfulness)보다 엄격한 기준이며 고위험 배치에 결정적인 기준)으로는 평가된 적이 없다. 둘째, 분포 외(out-of-distribution) 일반화가 검증되지 않았다: 한 도메인에서 효과적인 탐지기가 다른 도메인에서는 소리 없이 실패할 수 있다. 셋째, 어떤 입력 특징이 예측을 이끄는지, 그리고 생성 이전에 질문만으로 정확성을 미리 내다볼 수 있는지 등, 이 접근들에 대한 이해 자체가 부족하다.
이를 해결하기 위해 우리는 답을 생성하는 동안 모델 내부의 어텐션 퍼짐을 이용해 정확성을 판정하는, 확장 가능하고 해석 가능한 화이트박스 방법 HEAD ENTROPY를 제안한다. 핵심 통찰은 이렇다: 어텐션 패턴의 레니 엔트로피는 그 패턴이 훈련 중에 붕괴(disrupt)될 가능성을 예측한다. 어텐션 패턴이 덜 안정적인 생성일수록 훈련 데이터에 존재했을 가능성이 낮고, 따라서 정답일 가능성도 낮다.
트랜스포머의 셀프 어텐션 메커니즘에서 각 어텐션 헤드는 쿼리(query)와 키(key) 벡터의 내적 — 두 벡터의 방향 정렬도를 재는 척도 — 을 취한 뒤 소프트맥스로 전 위치에 걸쳐 정규화하여 토큰 가중치 집합을 만든다. 우리는 어떤 가중치 조합은 훈련 중 안정적으로 유지되고, 어떤 조합은 불안정하여 훈련이 진행되며 사라지는 경향이 있음을 발견했다. 우리는 추론 시점에 불안정한 어텐션 패턴이 나타난다는 것은 그 생성이 훈련 집합에 뿌리내리지(grounded) 못했다는 신호와 상관된다고 가설을 세운다 — 훈련 데이터에 있었다면 훈련 그래디언트가 그 어텐션 패턴을 이미 수정했을 것이기 때문이다.
우리는 이 연결을 HEAD ENTROPY로 실증한다. 단 한 번의 순전파(forward pass) 동안, HEAD ENTROPY는 개별 어텐션 헤드의 엔트로피를 특징(feature)으로 삼아 LLM 생성물의 정확성을 추정한다. 이 특징들은 희소 ℓ₁-정규화 로지스틱 회귀에 입력되어 보정된(calibrated) 정확성 확률을 산출한다. 우리는 문맥 제공 여부(closed-book vs. in-context), 추론 복잡도(단일 홉 vs. 다중 홉), 도메인 특수성(일반 vs. 생의학), 문맥 길이(25~1,243 토큰)가 서로 다른 5개 모델 × 3개 QA 설정에서 예측 성능을 시험했고, 5개 베이스라인 전부와 대등하거나 이를 능가했다. 이어서 도메인 간 일반화 능력(최강 베이스라인 대비 평균 +8.5% AUROC)을 시험하고, 마지막으로 생성 이전의 질문 토큰만으로도 이미 예측 신호가 실려 있음(최근접 베이스라인 대비 평균 +17.7% AUROC)을 보인다.
2. 배경 (Background)
2.1. 트랜스포머 아키텍처
고전적 디코더 전용(decoder-only) 트랜스포머 아키텍처는 층을 쌓아 구성되며, 각 층은 인과 마스크(causal mask)를 갖춘 멀티헤드 셀프 어텐션과 토큰 단위 피드포워드(FF) 네트워크로 이루어진다. 셀프 어텐션은 시퀀스 내 모든 토큰 사이의 가중 상호작용을 계산하여 모델이 장거리 의존성을 포착하게 한다. 각 어텐션 헤드는 서로 다른 상호작용 패턴을 학습하고, 여러 헤드의 출력은 연결(concatenate)된다. 이어지는 FF 네트워크는 이 어텐션 출력에 비선형 변환을 적용하여 고차 특징 상호작용을 가능하게 한다. 마지막 층은 문맥화된 토큰 표현을 어휘 공간으로 사영하여 예측에 쓰이는 토큰 로짓을 만든다.
2.2. 야코비안과 그래디언트 동역학 (The Jacobian and Gradient Dynamics)
야코비안(Jacobian)은 HEAD ENTROPY를 유도하는 열쇠다. 벡터값 함수 에 대해 의 야코비안 행렬은 편미분들의 행렬이다:
야코비안의 노름(norm)은 모델 훈련 상황에서 매개변수 집합의 민감도를 추론하는 데 쓸 수 있다. 이 맥락에서 야코비안 노름은 경사 하강 한 스텝이 어텐션 패턴을 얼마나 강하게 바꿀지를 추정하게 해준다.
우리는 훈련 중 불안정한(야코비안 노름이 큰) 어텐션 패턴이란 모델이 압축하지 못했거나 견고하게 학습하지 못한 특징 — 사실상 '암기 실패(memorization failures)' — 에 대응한다고 상정한다. 추론 시점에 이런 고엔트로피/고야코비안 상태가 재출현한다는 것은, 모델이 견고하게 숙달하지 못한 영역(regime)에 들어와 있다는 표시다.
2.3. α-레니 엔트로피와 섀넌 엔트로피 (α-Rényi and Shannon Entropies)
섀넌 엔트로피(Shannon entropy)는 확률 변수가 드러내는 정보량의 척도다. 이산 확률 변수의 확률질량 로부터 로 계산할 수 있다. α-레니 엔트로피는 그 일반화로, 소프트맥스의 야코비안과 중요한 연결이 있다는 것이 뒤에서 드러난다.
확률질량함수 에 대한 α-레니 엔트로피는 이다. 이면 섀넌 엔트로피가 복원되고, 이면 충돌 엔트로피(collision entropy), 즉 2-레니 엔트로피가 된다. 두 엔트로피의 그래프상 관계는 부록 H에 있다.
3. 관련 연구 (Related Work)
이 연구의 동기는 근본적으로 두 가지다: (i) 불확실성 추정(uncertainty estimation)과 (ii) 환각 탐지(hallucination detection). 불확실성 추정은 모델 출력을 얼마나 신뢰할 수 있는지의 척도를 제공한다. 반대로 환각 탐지는 생성 텍스트에서 근거가 없거나 확립된 증거와 모순되는 진술을 식별하는 것을 목표로 한다. 우리의 연구는 이 넓은 의미의 불확실성 추정과 환각 탐지를 더 구체적인 목표 — 답변 수준 정확성의 추정, 즉 입력이 주어졌을 때 LLM이 낸 답이 과제 지표(예: 완전 일치(exact match), F1 점수)상 정답일 확률의 추정(식 2) — 로 번역한다.
선행 연구들은 이 목표를 위해 LLM 내부 상태를 얼마나 활용하는지에 따라 갈린다: (i) 블랙박스 방법은 출력에만 의존하며 흔히 다중 패스나 보조 모델을 요구한다; (ii) 그레이박스 방법은 마지막 층 로짓 같은 얕은 신호에 접근한다; (iii) 화이트박스 방법은 은닉 상태나 어텐션 맵 같은 더 깊은 표현을 활용한다.
그림 2
블랙박스 방법. 이 방법들은 LLM의 입력과 출력에만 의존하며 흔히 여러 번의 순전파나 보조 모델을 요구하기 때문에 비용이 크고 도메인 이동(domain shift)에 민감하다. SelfCheckGPT(Manakul et al., 2023)는 샘플링된 여러 완성문 사이의 불일치로 불확실성을 탐지하고, Chain-of-Verification(Dhuliawala et al., 2024)은 후속 질문으로 일관성을 검사한다. 의미적 불확실성(semantic uncertainty, Kuhn et al., 2023) 같은 접근은 임베딩 모델로 패러프레이즈들을 묶는데, 이는 잘 정렬된 외부 도구에 대한 의존을 끌어들인다. LLM-as-a-Judge 방법들(Chen et al., 2024b; Thakur et al., 2025)은 평가를 별도의 LLM에 위임하므로 편향이 유입될 수 있고 보정(calibration) 보장이 약하다.
그레이박스 방법. 그레이박스 방법은 중간 지대를 차지하며, 토큰 로그 확률이나 최종 은닉 상태 같은 제한된 내부 신호를 끌어 쓴다. 그렇게 함으로써 단일 패스 확신도 추정이 가능해진다. 예컨대 로짓 위에 학습된 예측기는 LLM의 잘 알려진 과잉확신 경향을 눅일 수 있고(Groot & Valdenegro-Toro, 2024), 마지막 층 통계 기반 필터는 신뢰성을 해치는 분포 이동을 미리 감지할 수 있다(Pouget et al., 2025). 마찬가지로 등각 예측(conformal prediction) 방법들은 로그 확률 신호를 그럴듯한 완성문들의 보정된 집합으로 확장하여(Angelopoulos & Bates, 2021) 원리 있는 커버리지 개념을 제공한다. 이런 강점에도 그레이박스 접근은 마지막 층 정보에 의존한다는 제약이 있으며, 이는 도메인 간 보정이 잘 안 되는 일이 잦고 해석 가능성을 “낮은 로그 확률” 같은 휴리스틱으로 환원시킨다(Geng et al., 2024).
화이트박스 방법. 이 방법들은 층별 은닉 상태, 어텐션 맵, 뉴런 활성 같은 더 풍부한 내부 신호를 활용하여 정확도를 높이는 경우가 많지만, 추가적인 설계 선택지를 끌어들인다. 여러 연구(Azaria & Mitchell, 2023; Kadavath et al., 2022; Chen et al., 2024a)가 LLM의 은닉층이 참/거짓 출력에 관한 잠재 지식을 담고 있음을 보였다. Snyder et al.(2024)은 내부 표현 위에 게이트 순환 유닛(GRU)과 다층 퍼셉트론(MLP)을 적용해 정확성을 예측했다. LLM-Check(Sriramanan et al., 2024)는 어텐션 통계를 포함한 여러 내부 신호를 조합해 정확성 지표를 구성한다. Lookback lens는 문맥 토큰 대 새로 생성된 토큰에 대한 어텐션 가중치의 비율로 어텐션 질량의 위치를 측정하여 문맥적 환각을 탐지한다(Chuang et al., 2024). AggTruth는 RAG 설정에서 일어나는 문맥적 환각 탐지에 집중하며, 여러 집계 기법으로 어텐션이 패시지 토큰들에 어떻게 분배되는지 분석한다(Matys et al., 2025). HEAD ENTROPY는 최종 답변의 정확성에 초점을 맞추고, 방법론적으로는 전체 어텐션 분포에 대한 2-레니 엔트로피(토큰의 순서나 위치와 무관한 대칭적 척도이며 그래디언트 동역학에 근거를 둔 양)를 계산한다는 점에서 다르다.
4. 방법 (Method)
기술적 세부는 부록 G로 미루고, 이 절에서는 직관적 개관을 제공한다. LLM 정확성을 예측하는 특징(feature)의 동기부여부터 시작하자. 핵심 가설은 훈련 중 어텐션 패턴의 안정성이 그 생성이 훈련 데이터셋에 뿌리내렸는지를 예측한다는 것이다. 어떤 어텐션 패턴이 훈련 그래디언트 업데이트에 의해 붕괴되기 쉽다면, 근거가 탄탄한(well-grounded) 생성에서 그 패턴을 보게 될 가능성은 낮다.
야코비안의 Schatten-2 노름은 2-레니 엔트로피와 직접적인 관계를 낳는다. 야코비안은 역전파 동안 그래디언트가 소프트맥스를 통과하는 방식을 지배하므로, 이 관계는 어텐션 엔트로피를 어텐션 패턴에 영향을 주는 매개변수 업데이트의 크기와 연결해 준다. 부록 G에서 우리는 야코비안 노름이 2-레니 엔트로피와 단조적(monotonic)으로 관계함을 보인다. 야코비안 노름이 큰 어텐션 패턴은 2-레니 엔트로피도 높다. 우리는 야코비안 노름이 크면 훈련 그래디언트 업데이트가 훈련 과정 내내 어텐션 패턴의 2-레니 엔트로피에 하향 압력을 가한다고 가설을 세운다. 우리는 OLMO2-1B 훈련에서 공개된 체크포인트들을 추적하여 이 가설을 확인한다(그림 2). 다만 이는 형식적 보증이 아니라 순수한 휴리스틱을 넘어서는 동기 부여적 설명으로서 제시한다. 이 점은 추론 시점의 저엔트로피 어텐션 패턴이란 훈련을 통해 강화되어 온 패턴이며, 따라서 임의의 토큰 연합이 아니라 근거 있고 잘 학습된 연합을 반영할 가능성이 높다는 것을 시사한다.
주목할 점: 2-레니 엔트로피는 대칭적이어서 입력의 순서에 의존하지 않는다. 이는 어텐션 질량의 위치가 예측적임을 보인 Lookback Lens 같은 선행 연구와 뚜렷이 대비되며, 우리의 실험 결과와 결합하면 토큰 순서 정보는 답변 정확성 예측에 필수가 아니다라는 것을 보여주게 된다(Chuang et al., 2024).
HEAD ENTROPY는 세 요소로 구성된다: 1) 헤드별 어텐션 엔트로피 계산, 2) 예측적 패턴을 찾는 로지스틱 회귀 모델, 3) 해석을 위한 헤드별 Shapley 값.
4.1. 헤드 엔트로피 계산 (Computing Head Entropy)
instruction-tuned LLM을 사용한 질의응답에 동기를 두고, 인과 마스킹을 갖춘 자기회귀 트랜스포머 을 고려한다. 은 전 층에 걸쳐 총 개의 어텐션 헤드를 가지며, 헤드를 로 인덱싱한다. 를 전체 시퀀스 길이(즉 질문+답변 토큰)라 하자.
입력 시퀀스 (토큰화된 질문)가 주어지면, 모델은 거의 결정론적인 디코딩(temperature ≈ 0)에서 예측 (토큰화된 답변)를 출력한다:
레이블이 있는 질의응답 데이터셋 에 대해 다음을 정의한다:
여기서 같음(equality)은 평가 지표(우리 실험에서는 완전 일치와 F1 점수)로 측정한다. 각 어텐션 헤드 는 다음을 산출한다:
여기서 의 각 행은 확률분포다(즉 행의 합이 1). 개 헤드 전체의 텐서 모양은 이다. 각 헤드 와 토큰 에 대해 α-레니 엔트로피()를 계산한다:
이는 뒤에서 답변 정확성 예측의 특징으로 쓰인다.
그다음 길이 의 의미 구획(semantic section; 예: 질문(question), 사고(thinking), 답변(answer))의 토큰들에 대해 평균을 취한다:
각 항목 가 어텐션 헤드 하나의 HEAD ENTROPY에 해당한다(). 배치 추론에서는 패딩 토큰의 행과 열을 마스킹한다. 집계 기법의 경험적 검증은 부록 B를 보라.
이렇게 하면 각 예시 마다 고정 차원의 특징 벡터가 나온다:
구획 수준 집계는 해석 가능성을 높일 뿐 아니라, 토큰 수준 엔트로피 분석에 비해 메모리와 연산 오버헤드를 줄인다. 그 덕분에 과제의 의미 구조와의 정렬은 보존하면서 대규모 혹은 실시간 분석이 더 실용적이 된다.
4.2. 특징 선택과 분류 (Feature Selection and Classification)
각 예시 의 고정 차원 특징 벡터 로 ℓ₁-정규화 로지스틱 회귀 분류기
를 학습해 정확성 확률을 추정한다:
여기서 는 계수, 는 편향 항, 는 로지스틱 시그모이드다. 어떤 분류기든 쓸 수 있으나, 단순성과 해석 가능성 때문에 로지스틱 회귀를 택했다. 의사코드는 Method 1에 있다.
Method 1: Head-Entropy (의사코드)
Require: 데이터셋 ; 헤드 개를 가진 트랜스포머; 의 시퀀스 길이 1: for 각 do 2: 식 3으로 와 어텐션 텐서 를 얻는다 3: for 각 헤드 와 토큰 do 4: 식 4로 엔트로피 를 계산한다 5: end for 6: 식 5처럼 구획 토큰들에 대해 엔트로피를 평균 → 7: 쌓아서 특징 벡터 을 만든다 8: end for 9: 들을 쌓아 특징 행렬 을 만든다 10: 레이블 를 정의한다 11: 위에서 를 예측하는 ℓ₁-정규화 로지스틱 회귀 를 학습한다 return 분류기
4.3. 계산 효율성과 복잡도 (Computational Efficiency and Complexity)
HEAD ENTROPY는 본질적으로 기존 어텐션 패턴의 요약 통계량을 쓰는 것이므로, 계산 부담은 LLM 추론 자체에 비하면 미미하다. 전체 복잡도를 표 2에 정리했다.
표 2. HEAD ENTROPY 구성 요소의 계산 복잡도. 표기: = 어텐션 헤드 수, = 시퀀스 길이, = 어텐션 창(window), = 훈련 집합 크기.
구성 요소 | 시간 | 메모리 | 비고 |
LLM 순전파 (기준) | 기준(reference) | ||
특징 생성 (엔트로피) | 무시할 만한 오버헤드 | ||
분류 (추론) | 시퀀스 길이와 무관 | ||
학습 (전 과정) | — | LLM 순전파가 지배 |
엔트로피 특징은 소프트맥스에서 이미 얻을 수 있는 양들로 계산되므로 표준 순전파에 무시할 만한 오버헤드만 더한다. 헤드별 집계값만 유지하면 되므로 메모리는 에 머문다 — 전체 어텐션 맵을 저장할 필요가 없다. 추론 시 로지스틱 분류기는 시퀀스 길이와 무관하게 으로 동작한다. 종합하면 HEAD ENTROPY는 추론 비용에 1% 미만을 더하며, 생성에 통상 쓰이는 순전파 외에 추가 순전파를 요구하지 않는다.
5. 실험 설정 (Experimental Setup)
HEAD ENTROPY에 대한 우리의 평가는 포괄적이다: 15개 모델-데이터셋 쌍 × 6개 베이스라인 × 2개 지표(완전 일치 + F1)로 총 270개 비교에 더해 보정(calibration) 분석까지 수행한다. 4개 모델 크기(1.7B~32B 매개변수), 두 모델 계열을 포함한 2개 아키텍처, 3개 QA 과제, 2개 사고 모드(thinking/non-thinking)를 시험한다. 전반 성능, QA 과제/도메인 간 일반화 성능, 그리고 생성 이전 시점의 성능을 시험한다.
베이스라인. 우리 방법을 여러 단일 순전파(single-forward-pass) 접근과 비교한다. Semantic Uncertainty(Kuhn et al., 2023; Chen et al., 2024a) 같은 방법은 다중 순전파나 보조 모델을 요구하는 근본적으로 다른 체제에서 작동하므로 직접 비교 대상이 아니다. 그럼에도 HEAD ENTROPY는 TriviaQA에서 그들이 보고한 AUROC(약 0.8)와 대등하거나 이를 넘는다는 점을 밝혀 둔다. 단순 베이스라인으로 토큰 확률(token probability)과, Kadavath et al.(2022)을 따라 모델이 스스로의 확신도를 인라인으로 명시하는 언어화된 확신도(verbalized certainty)를 포함했다(프롬프트 상세는 부록 A.1). 또 다른 비교 대상은 Sriramanan et al.(2024)이 도입한, 서로 다른 토큰 간 셀프 어텐션의 커널 유사도 맵을 쓰는 어텐션 점수 방법(LLM-Check)이다. 나아가 출력 토큰 분포의 평균 엔트로피인 토큰 엔트로피와, Xie et al.(2024)의 방법과 유사하게 마지막 층 은닉 상태에 선형 회귀를 적용한 은닉 상태 회귀(hidden state regression)를 평가한다. 마지막으로 어텐션 질량의 위치를 특징으로 삼는 Lookback Lens 비율(ratio)과 비교한다.
모델. 실험은 추론 지향(reasoning-oriented) 모델과 범용 instruction-tuned 모델을 모두 다룬다. 추론 지향 모델로는 Qwen3 계열을 1.7B, 8B, 32B에서 평가하여 HEAD ENTROPY가 모델 규모에 따라 어떻게 달라지는지 살핀다. 범용 instruction-tuned 모델로는 Llama 3.1(8B)과 Llama 3.2(3B)를 포함한다. 모든 평가는 기본 디코딩 매개변수 — 거의 탐욕적(greedy) 디코딩(temperature < 0.001)에 해당 — 로 수행한다.
표 1. 데이터셋별 성능과 토큰 길이. 완전 일치 기준 정확도(Acc.), 질문(Q), 사고 청크(Think), 답변(Ans) 토큰 길이.
모델 | TriviaQA Acc. | Q | Think | Ans | HotpotQA Acc. | Q | Think | Ans | MedMCQA Acc. | Q | Think | Ans |
Qwen3-1.7B | 0.33 | 26 | 310 | 7 | 0.38 | 1243 | 316 | 19 | 0.29 | 47 | 519 | 6 |
Qwen3-8B | 0.58 | 26 | 283 | 7 | 0.57 | 1242 | 291 | 8 | 0.39 | 47 | 505 | 6 |
Qwen3-32B | 0.69 | 26 | 197 | 7 | – | – | – | – | 0.57 | 47 | 368 | 9 |
Llama-3.2-3B | 0.34 | 25 | – | 8 | 0.17 | 1243 | – | 48 | 0.43 | 46 | – | 12 |
Llama-3.1-8B | 0.45 | 25 | – | 9 | 0.38 | 1245 | – | 48 | 0.50 | 46 | – | 11 |
데이터셋. 표준적이면서 서로 성격이 다른 3개 QA 벤치마크로 실험한다: 답이 문맥에 없는 일반 질의응답 데이터셋 TriviaQA(Joshi et al., 2017); 답이 문맥에 있는 긴 문맥의 다중 홉 질의응답 데이터셋 HotpotQA(Yang et al., 2018; distractor 설정); 그리고 답이 문맥에 있으나 올바른 선택지를 고르려면 추가 지식이 필요한 도메인 특화 객관식 데이터셋 MedMCQA(Pal et al., 2022). 각 데이터셋에서 훈련용으로 5만 개를 샘플링했고 평가에는 검증 분할(validation split)을 썼다(표 3). 각 데이터셋의 예시와 프롬프트는 부록 A.3, A.2, A.1에 있다. 답변 생성 후, TriviaQA와 HotpotQA의 표준 지표인 완전 일치와 F1 점수(> 0.5)로 각 예시의 이진 레이블을 구성한다(식 2).
전체 정확도(완전 일치 기준)와 모델별 질문·사고·답변 토큰 수는 표 1에 있다.
표 3. 실험에 사용한 데이터셋과 훈련/검증 분할 및 모델별 답변 길이 통계.
ㅤ | TriviaQA | HotpotQA | MedMCQA |
훈련 예시 수 | 130k 중 50k 샘플링 | 98k 중 50k 샘플링 | 183k 중 50k 샘플링 |
검증 예시 수 | 17,944 | 7,405 | 4,183 |
과제 | 오픈 도메인 QA | 다중 홉 QA | 객관식 QA |
도메인 | 일반 | 일반 | 생의학 |
과제 특성 | 답이 문맥에 없음 | 답이 문맥에 있음 | 답은 문맥에 있으나 지식이 전부는 아님 |
평가 지표. 세 묶음의 지표를 보고한다. 관심 의미 구획(질문, 답변)에 대해 HEAD ENTROPY와 베이스라인들이 양성/음성 클래스를 얼마나 잘 분리하는지 AUROC로 측정한다. 보정은 기대 보정 오차(Expected Calibration Error, ECE; 30 구간)로 평가한다. 신뢰구간(CI)은 부트스트랩(=1000)으로 추정한다.
6. 실험 및 결과 (Experiments and Results)
결과는 (i) 모델 계열·크기·도메인 전반의 전체 성능과 보정, (ii) 도메인 간 일반화, (iii) 생성 이전 질문 토큰의 예측력 순으로 조직했다. [역주: 원문에는 (ii)가 두 번 표기되어 있다.]
그림 3
6.1. 모델 계열·크기·도메인 전반의 전체 성능
예측 성능. HEAD ENTROPY는 가장 강한 원시 통계 베이스라인들을 0.07~0.21 AUROC로, 로지스틱 회귀 베이스라인들을 평균 0.02 AUROC로 앞선다(그림 3, 그림 4). 또한 TriviaQA에서 INSIDE, semantic uncertainty 같은 선행 방법들도 약 0.1 AUROC 차이로 넘어선다(Chen et al., 2024a; Kuhn et al., 2023). 성능은 모델 규모에 걸쳐 안정적으로 유지된다: Qwen3와 Llama에서 HEAD ENTROPY의 변동은 각각 최대 0.07, 0.03 AUROC에 그치는 반면, 은닉 상태 회귀 같은 베이스라인은 0.10~0.15 AUROC씩 출렁인다. 모델 계열 간에는 TriviaQA와 HotpotQA에서 일관된 결과(차이 ≤ 0.03 AUROC)를 보이지만, MedMCQA에서는 격차가 0.20 AUROC까지 벌어진다 — 이는 베이스라인들에서도 관찰되는 패턴이다(추가 조사는 부록 8–9 참조). 도메인 간로는, 질문 길이가 크게 다름(표 1)에도 TriviaQA(일반 지식)와 HotpotQA(다중 홉 추론)에서 HEAD ENTROPY가 모든 베이스라인을 0.02~0.15 AUROC로 앞서며, 모든 방법이 Llama 모델의 MedMCQA에서는 절대 AUROC가 낮게 나온다. 절제(ablation) 실험은 데이터셋 크기 20%와 정규화 강도 에서도 일관된 성능을 확인해 준다(부록 F.1–D).
그림 4
보정(Calibration). 분리 능력을 넘어, 예측값이 확률로 해석될 수 있게 잘 보정되어 있는 것이 바람직하다. 내부 특징(은닉 상태, lookback lens 비율, 또는 HEAD ENTROPY) 위에 로지스틱 회귀를 학습시키는 방법들은 모두 원시 출력 베이스라인보다 실질적으로 나은 보정을 달성하며 ECE가 통상 0.17 아래다. HEAD ENTROPY는 전반적으로 가장 낮은 보정 오차를 달성하며 0.10을 크게 밑도는 경우가 많다. 부록의 그림 4가 데이터셋 전반의 기대 보정 오차(ECE, 30 구간)를 보고한다.
6.2. 일반화 (Generalization)
도메인과 과제를 가로질러. 과제를 가로질러 일반화되는 정확성 예측은 실제 배치에 필수적이다 — 질의 분포는 항상 알려져 있지 않고 계속 이동할 수 있기 때문이다. 과제 특화 탐지기는 새 도메인마다 레이블 데이터 수집과 재학습을 요구하는데, 이는 비용이 크고 불가능한 경우도 많다. 따라서 한 번 학습해 폭넓게 적용할 수 있는 견고하고 일반화 가능한 탐지기는 신뢰할 수 있고 효율적인 정확성 예측의 장벽을 크게 낮출 것이다. 우리는 로지스틱 회귀 분류기를 한 데이터셋에서 학습시켜 나머지 둘에서 평가한다(표 4). 최고 베이스라인(lookback lens 비율)과 비교해 HEAD ENTROPY는 분포 내에서는 약간 더 낫고(평균 0.88 AUROC, 상대 개선 +2.3%, 표 4), 분포 외에서는 실질적으로 더 낫다(평균 0.76 AUROC, 상대 +8.5%, 표 4). 이 격차를 보면 어텐션의 퍼짐이 어텐션의 위치보다 더 견고하게 일반화됨을 알 수 있다.
표 4. TriviaQA, HotpotQA, MedMCQA 검증 집합에 걸친 분포 내(In-Distribution) vs. 분포 외(OOD; 한 데이터셋에서 학습해 나머지 두 데이터셋에서 평가) 평균 AUROC 성능.
모델 | ID: HEAD ENTROPY | ID: LookbackLens | Δ | OOD: HEAD ENTROPY | OOD: LookbackLens | Δ |
Llama 3.2 3B | 0.84 | 0.84 | 0.00 | 0.68 | 0.65 | +0.03 |
Llama 3.1 8B | 0.85 | 0.85 | 0.00 | 0.68 | 0.63 | +0.05 |
Qwen3 1.7B | 0.90 | 0.87 | +0.03 | 0.80 | 0.69 | +0.12 |
Qwen3 8B | 0.91 | 0.88 | +0.03 | 0.81 | 0.73 | +0.09 |
Qwen3 32B | 0.90 | 0.88 | +0.02 | 0.80 | 0.79 | +0.01 |
평균 | 0.88 | 0.86 | +0.02 | 0.76 | 0.70 | +0.06 |
6.3. 답이 생성되기 전의 정확성 예측
새 토큰이 하나도 생성되기 전, 질문 토큰들에 예측 신호가 존재하는지 — 즉 답변 생성에 앞서 정확성을 예측할 수 있는지 — 를 조사한다. 조기 예측은 특히 가치가 크다: 더 유능한 모델로 넘기는 라우팅(routing)이나, 생성이라는 계산 비용을 치르기 전에 불확실한 질의에 플래그를 다는 것 같은 선제적 개입이 가능해지기 때문이다. 이를 시험하기 위해 질문/문맥 토큰만으로 학습·평가한다. 은닉 상태 위 로지스틱 회귀 베이스라인과 비교해 HEAD ENTROPY의 예측 신호가 실질적으로 더 강하다(데이터셋·모델 전반에서 평균 최소 +0.10 AUROC, 상대 최소 +17%; 표 6과 5 참조). 흥미롭게도, 질문/문맥 토큰에 대한 HEAD ENTROPY의 예측력은 Llama와 Qwen3 두 계열 모두에서 모델 크기와 함께 향상되는 것으로 보인다.
표 5. 생성 전에 질문 토큰만으로 답변 정확성을 예측했을 때, 각 모델의 검증 집합(HotpotQA, MedMCQA, TriviaQA) 평균 AUROC 성능.
모델 | HEAD ENTROPY | Hidden State LR | Δ |
Llama-3.2-3B-Instruct | 0.68 | 0.60 | +0.08 |
Llama-3.1-8B-Instruct | 0.73 | 0.61 | +0.12 |
Qwen3-1.7B | 0.72 | 0.65 | +0.08 |
Qwen3-8B | 0.76 | 0.63 | +0.14 |
Qwen3-32B | 0.81 | 0.64 | +0.18 |
평균 | 0.74 | 0.63 | +0.12 |
표 6. 생성 전에 질문 토큰만으로 답변 정확성을 예측했을 때, 모델들(Llama-3.2-3B-Instruct, Llama-3.1-8B-Instruct, Qwen3-1.7B, Qwen3-8B, Qwen3-32B)에 대한 평균 AUROC 성능.
데이터셋 | HEAD ENTROPY | Hidden State LR | Δ |
HotpotQA | 0.60 | 0.56 | +0.05 |
MedMCQA | 0.79 | 0.62 | +0.18 |
TriviaQA | 0.79 | 0.68 | +0.11 |
평균 | 0.73 | 0.62 | +0.11 |
7. 논의 (Discussion)
선행 접근과의 비교. HEAD ENTROPY는 Lookback Lens 같은 위치 기반 방법과 달리 어텐션의 위치가 아니라 퍼짐(대칭적이고 위치 불변인 양)을 측정한다. 놀랍게도 이 특징은 분포 내에서 대등한 성능을 내면서 일반화는 실질적으로 더 잘 된다. 이는 어텐션 질량의 위치 정보가 퍼짐 정보가 있으면 불필요(redundant)할 수 있음을, 혹은 엔트로피가 더 견고한 기저 신호를 포착함을 시사한다. 훈련 동역학에 뿌리를 둔 이론적 근거(고엔트로피 패턴은 억제 방향의 그래디언트 압력을 받는다)는 휴리스틱 특징에는 없는 근거로 설명해 준다.
생성 전 예측. 질문 토큰만으로도 상당한 예측 신호가 있다는 것은, 틀린 진술이 생성되기 전에 이를 선제적으로 탐지하고 — 나아가 방지하는 — 유망한 방향을 시사한다. [역주: 원문에 “d etecting”으로 띄어쓰기 오탈자가 있다.] 이는 주로 답변 토큰에 집중해 왔고 따라서 생성 전 설정에서는 작동할 수 없는 기존의 위치 기반(localization-based) 접근들과 대비된다.
한계 (Limitations). 우리가 질의응답에 집중하는 이유는 정확성 개념이 잘 정의되기 때문이다(참조 답안에 대한 완전 일치, F1). HEAD ENTROPY는 답변 정확성을 예측하며, 이는 객관적 정답(ground truth)을 요구한다 — 답이 확립된 과학과 임상 증거에 뿌리를 둔 의료 QA가 그런 경우다. 요약이나 대화 같은 열린 생성 과제는 동일한 이진적 정확성 개념을 허용하지 않으므로, 그 평가는 상보적 연구 방향으로 본다. 그 밖의 자연스러운 확장으로는 자동 검증이 곧바로 가능한 코딩과 수학 추론이 있다(Chuang et al., 2024; Matys et al., 2025). 지도학습 요구량은 작지만(약 1만 개의 레이블 예시) 제로샷 접근 대비 실용적 장벽이 된다. 다만 우리는 지도학습이 필요 없는 측정치들이 실질적으로 더 나쁘고 일관성도 없음을 확인했다(그림 3의 분홍 기호). 로지스틱 회귀가 학습한 도메인 특화 헤드 가중치는 — 모든 로지스틱 회귀 기반 방법의 불완전한 일반화가 보여주듯 — 헤드 특수화(specialization)를 시사한다; 어떤 헤드 조합이 가장 일반화 가능한 신호를 내는지 식별하는 일은 향후 과제로 남긴다. 마지막으로, 그림 1이 고엔트로피 헤드들이 더 강한 예측 신호를 지님을 보여 주지만 [역주: 문맥상 그림 2를 가리키는 것으로 보인다], 왜 어떤 헤드는 정확성 예측에 양(+)으로, 어떤 헤드는 음(−)으로 기여하는지(양·음의 SHAP 값으로 나타남)는 우리의 이론 틀이 완전히 설명하지 못한다.
8. 결론 (Conclusion)
우리는 어텐션 엔트로피 패턴으로부터 LLM 답변 정확성을 예측하는 방법 HEAD ENTROPY를 소개했다. 레니 엔트로피와 그래디언트 동역학 사이의 연결을 유도함으로써, 토큰 위치와 무관한 어텐션 퍼짐이 강한 예측 신호를 지님을 보였다(평균 0.88 AUROC). HEAD ENTROPY는 분포 내에서 베이스라인과 대등하거나 이를 넘고, 의료 도메인을 포함한 도메인 밖에서 실질적으로 더 잘 일반화한다(lookback lens 비율 대비 +8.5% AUROC). 특히 질문 토큰만으로도 예측 신호가 존재하여(평균 0.74 AUROC) 생성 전 정확성 추정이 가능하다. 이 방법은 추론에 최소한의 오버헤드만 더하고 잘 보정된 확률을 산출하므로, 답변 정확성이 중요한 배치 환경에서 실용적이다.
9. 재현성 진술 (Reproducibility Statement)
이 논문에서 사용한 모든 데이터셋은 공개되어 있다. 실험에 사용한 정확한 버전으로 연결되는 링크를 데이터셋 참고문헌에 추가했다. 평가에 활용한 프롬프트 전체를 부록에 수록했다. 보고된 정량 결과의 재현성을 돕기 위해, 데이터셋 전처리·모델 학습·평가에 대한 지침과 함께 소스 코드를 공개할 예정이다.
References: 참고문헌 목록은 번역 범위에서 제외했다(원문 9~10쪽 참조).
부록 (Appendix)
A. 프롬프트 (Prompts)
A.1. TriviaQA 프롬프트
def build_triviaqa_prompt(item): question = item["question"] system_message = ( "You are a trivia expert. Please answer questions in exactly this format:\n" "Answer: [1-3 words only]\n" "Certainty: [0-100]\n\n" ) user_prompt = f"Question:{question}" return system_message, user_prompt
시스템 메시지 대의: “당신은 트리비아(상식 퀴즈) 전문가다. 반드시 다음 형식 그대로 답하라: Answer: [1~3단어만] / Certainty: [0~100]”
A.2. MedMCQA 프롬프트
def build_ind_prompt(item): system_message = ( "You are a medical expert. Please answer questions in exactly this format:\n" "Answer: [repeat correct option]\n" "Certainty: [0-100]\n\n" ) user_prompt = ( "Question:" + item["question"].split(". ")[-1] + "\n" + "Options:" + " ".join(str(item[op]) + "\n" for i, op in enumerate(["opa", "opb", "opc", "opd"])) ) return system_message, user_prompt
시스템 메시지 대의: “당신은 의학 전문가다. 반드시 다음 형식 그대로 답하라: Answer: [정답 선택지를 그대로 반복] / Certainty: [0~100]”
A.3. HotpotQA 프롬프트
def build_hotpot_prompt(item): system_message = ( "You are a helpful assistant. " "Answer the question using the information in the provided passages." "Please answer questions in exactly this format:\n" "Answer: [1-5 words only]\n" "Certainty: [0-100]\n\n" ) list_sentences = [] for sentence_list in item["context"]["sentences"]: list_sentences.extend(sentence_list) context_text = "\n".join(sentence for sentence in list_sentences) user_prompt = ( "Context: " f"{context_text}\n\n" f"Question:{item['question']}\n" ) return system_message, user_prompt
시스템 메시지 대의: “당신은 유능한 조수다. 제공된 패시지의 정보를 사용해 질문에 답하라. 반드시 다음 형식 그대로 답하라: Answer: [1~5단어만] / Certainty: [0~100]”
B. 행 집계 방식의 선택 (Choice of Row Aggregation)
표 7. 어텐션 행렬의 행(row)들에 대한 평균(average)·최소(minimum)·최대(maximum) 집계의 경험적 검증. 평균이 일관되게 약간 더 높은 AUROC를 보이고 최대가 그 뒤를 따르며, 격차는 2 AUROC 포인트 이내에 머문다. [역주: 원문의 “raging”은 “ranging”의 오기.]
데이터셋 · 집계 | Llama-3.1-8B-Instruct | Qwen3-8B |
HotpotQA Avg | 0.87 | 0.85 |
HotpotQA Max | 0.86 | 0.83 |
HotpotQA Min | 0.85 | 0.82 |
MedMCQA Avg | 0.74 | 0.95 |
MedMCQA Max | 0.73 | 0.87 |
MedMCQA Min | 0.73 | 0.73 |
TriviaQA Avg | 0.94 | 0.92 |
TriviaQA Max | 0.92 | 0.92 |
TriviaQA Min | 0.92 | 0.92 |
C. Shapley 값으로 예측 설명하기 (Explaining Predictions with Shapley Values)
예측 성능을 특정 헤드들에 귀속시키기 위해, 학습된 분류기에 대해 Shapley 값(Shapley et al., 1953; Lundberg & Lee, 2017)을 계산한다:
여기서 는 모든 특징 순서(ordering)를 훑고, 는 에서 보다 앞서는 특징들의 집합이며, 는 헤드 의 기여도를 정량화한다. Shapley 값을 쓰면 어떤 헤드가 “정답” 예측에 양(빨강)으로, 어떤 헤드가 음(파랑)으로 기여하는지 헤드 단위 히트맵으로 시각화할 수 있다(부록 그림 D). [역주: 원문이 “Appendix Fig. D”로 그림 번호 없이 절을 가리킨다.]
D. 층별 엔트로피 기여 (Contributions of Entropy across Layers)
마지막 층에서 시작해 한 번에 다섯 층씩 점진적으로 추가하는 층 절제(layer ablation) 연구를 수행했다. [역주: 원문의 “five layers sat a time”은 “at a time”의 오기.] 결과는 예측력이 마지막 층에만 국한되지 않음을 가리킨다.
그림 5
그림 5. TriviaQA: 층 절제 — 층 1이 마지막 층이고, 이후 층을 점점 추가.
그림 6
그림 6. MedMCQA: 층 절제 — 층 1이 마지막 층이고, 이후 층을 점점 추가.
그림 7
그림 7. HotpotQA: 층 절제 — 층 1이 마지막 층이고, 이후 층을 점점 추가.
E. F1 점수 > 0.5 결과 (F1 score > 0.5 results)
그림 8
그림 8. F1 점수 > 0.5를 이진 레이블로 사용했을 때, 데이터셋 전반에 걸친 단일 순전파 측정치들의 비교(높을수록 좋음). HEAD ENTROPY 모델들의 우월한 성능이 부각된다.
F. 정규화와 데이터 크기에 대한 절제 (Ablations on regularization and data size)
F.1. 정규화 절제 (Regularization Ablation)
나아가 우리는 하이퍼파라미터 선택을 가능한 한 표준적으로 유지하려 최선을 다했다 — 우리의 주된 초점은 방법론이지 경험적 하이퍼파라미터 튜닝이 아니기 때문이다. lambda는 기본값 1로 두었다. 절제 결과는 그림 F.1을 보라. [역주: 원문이 “Figure F.1”로 절 번호를 가리키나, 실제로는 아래 그림 9에 해당한다.]
그림 9
그림 9. Qwen3-8B(위)와 Llama 3.1 8B(아래)의 성능 vs. L1 정규화. 모든 데이터셋에서 성능이 0.1에서 수렴한다. 값이 낮을수록 정규화 강도가 세다.
F.2. 데이터 절제 (Data Ablation)
데이터 효율성을 입증하는 훈련 집합 크기 대비 성능 곡선은 그림 10을 보라.
그림 10
그림 10. Qwen3-8B(위)와 Llama 3.1 8B(아래)의 성능 vs. 훈련 집합 크기. 데이터 비율(data fraction) 1은 5만 예시에 해당한다. [역주: 원문의 “correspons”는 “corresponds”의 오기.] 모든 데이터셋에서 성능은 약 0.2 지점에서 수렴한다.
실험들은 HEAD ENTROPY가 훈련 데이터의 20~30%만으로도 강한 성능을 유지함을 시사하며, 포괄적 결과는 개정판(revision)에서 제공할 예정이다.
G. 소프트맥스 야코비안의 유도 (Derivation of the Softmax Jacobian)
소프트맥스 함수의 야코비안을 유도한다. 다음과 같이 두자:
를 계산하기 위해 두 경우를 나눈다.
경우 1: . 몫의 미분 법칙을 적용한다:
경우 2: . 분자 는 에 의존하지 않으므로:
종합. 야코비안을 다음처럼 간결하게 쓸 수 있다:
야코비안의 Schatten-2() 노름이 정확히 2-레니 엔트로피임에 주목하라. \[역주: 정확히는 노름과 2-레니 엔트로피가 단조 관계라는 본문(4절)의 서술과 함께 읽어야 한다 — 이고 가 의 함수로 묶이는 구조다.\]
H. 레니 엔트로피 vs 섀넌 엔트로피 (Rényi Entropy vs Shannon Entropy)
우리의 이론 분석은 레니-2 엔트로피를 그래디언트 안정성의 자연스러운 척도로 지목하지만, 실용적으로는 더 익숙한 섀넌 엔트로피 도 정확성 신호로서 비슷하게 작동하지 않겠느냐고 물을 수 있다. 그림 11은 다양한 차원의 무작위 확률분포에 대해 대 의 산점도를 보여준다.
두 핵심 관찰이 두 척도가 왜 비슷한 경험적 성능을 내는지 설명한다. 첫째, 두 엔트로피는 조밀한 단조 관계를 이룬다: 항상 이고(레니 엔트로피가 에 대해 비증가라는 사실의 귀결), 한 척도에서 높게 매겨지는 분포는 다른 척도에서도 높게 매겨진다. 둘째, 두 척도는 양 극단에서 거의 일치한다 — 뾰족한(peaked) 분포는 이고, 균등 분포는 다. 가장 큰 괴리는 중간 정도의 분포에서 생기지만 거기서도 관계는 단조로 남는다. 요컨대 레니-2 엔트로피가 그래디언트 안정성 분석에서 나오는 이론적으로 동기 부여된 양이라면, 섀넌 엔트로피는 실전에서 효과적인 대리(proxy)로 기능한다.
I. MedMCQA 성능 (MedMCQA performance)
MedMCQA의 훈련 집합에서 홀드아웃(held-out) 집합을 샘플링하여 훈련 분포에서 내는 성능을 분석한다. Llama-3B의 성능은 다음과 같다:
표 8. Llama-3B의 MedMCQA 성능 — 테스트 분할 vs. 훈련 분할에서 뽑은 홀드아웃.
방법 | Test Split | Held Out From Training Split |
Average Token Probabilities | 0.68 | 0.74 |
Model Confidence | 0.54 | 0.56 |
Attention Score (LLM-Check) | 0.52 | 0.51 |
Average Token Entropy | 0.67 | 0.74 |
Hidden State Logistic Regression | 0.56 | 0.61 |
Head Entropy MLP | 0.72 | 0.78 |
Head Entropy XGBoost | 0.70 | 0.78 |
Head Entropy Logistic Regression | 0.72 | 0.79 |
표 9. Llama-8B의 MedMCQA 성능 — 테스트 분할 vs. 훈련 분할에서 뽑은 홀드아웃. [역주: 원문에서 표 8과 표 9는 마지막 행(Head Entropy Logistic Regression의 Test Split: 0.72 vs 0.74)만 다르고 나머지 값이 동일하게 인쇄되어 있다.]
방법 | Test Split | Held Out From Training Split |
Average Token Probabilities | 0.68 | 0.74 |
Model Confidence | 0.54 | 0.56 |
Attention Score (LLM-Check) | 0.52 | 0.51 |
Average Token Entropy | 0.67 | 0.74 |
Hidden State Logistic Regression | 0.56 | 0.61 |
Head Entropy MLP | 0.72 | 0.78 |
Head Entropy XGBoost | 0.70 | 0.78 |
Head Entropy Logistic Regression | 0.74 | 0.79 |
이 실험은 훈련 분포에서 뽑은 홀드아웃 집합으로 평가하면 성능이 유의하게 향상됨을 보여주며, 이는 이 데이터셋의 테스트 집합이 충분히 분포 외(OOD)임을 시사한다.
J. LLM 기여 (LLM contributions)
이 연구에서 우리는 논문의 가독성 개선과 그림 제작을 돕는 데 LLM을 사용했다.