AI '속마음' 추론 흔적 추출법 등장… 중국 모델 학습 논란도

한 줄 요약: 연구진이 주요 LLM의 내부 '추론 흔적'을 끄집어내는 기법을 선보였고, 이를 통해 일부 중국 AI의 학습 출처 의혹까지 제기했다.

핵심

• 연구진은 Claude, GPT, Gemini에서 이른바 '추론 흔적(reasoning traces)'을 추출하는 방법을 고안했다.
• 이 흔적은 모델이 답을 내놓기까지의 내부 처리 과정을 엿볼 수 있는 단서로 활용된다.
• 분석 결과, 일부 중국 AI 모델이 미국 선도 모델을 바탕으로 학습됐을 가능성이 있다고 연구진은 주장했다(단정은 아님).

왜 중요한가

모델의 내부 동작을 관찰하는 도구는 AI 해석가능성(interpretability) 연구의 핵심 과제다. 동시에 이런 기법은 경쟁 모델의 학습 출처를 추적하는 수단이 될 수 있어, 모델 간 '증류(distillation)'와 지식재산 논쟁에 새로운 근거를 제공한다.

더 보기

• A New Trick Reveals AI Models’ Inner Thoughts — Wired