React Native에서 LLM 토큰 스트리밍, 끊김 없이 렌더링하는 법
한 줄 요약: LLM 응답을 React Native 채팅 화면에 실시간으로 흘려보낼 때 생기는 화면 버벅임(jank)을 줄이는 구현 패턴을 정리한 기술 글이다.
핵심
- 채팅 UI를 매번 직접 구현(hand-rolling)하지 말고, 토큰 스트리밍에 최적화된 렌더링 방식을 쓰라는 주장.
- LLM이 토큰을 조금씩 내보낼 때마다 리스트 전체를 다시 그리면 프레임 드롭이 생기는데, 이를 줄이는 접근을 다룬 것으로 보인다.
- HackerNoon에 올라온 실무 튜토리얼 성격의 글이다.
왜 중요한가
모바일에서 LLM 챗봇을 붙이는 앱이 늘면서, 응답을 보여주는 방식 자체가 체감 품질을 좌우한다. 토큰 스트리밍 렌더링을 잘못 짜면 답변 내용과 무관하게 앱이 느리게 느껴진다.
더 보기
이 이야기의 흐름
- LLM
- — Large Language Model의 약자로, '거대 언어 모델'이라고 해요. ChatGPT, Claude 같은 AI가 바로 LLM이에요. 엄청나게 많은 텍스트를 학습해서 사람처럼 글을 쓰고 대화할 수 있어요.
- 토큰
- — AI가 텍스트를 처리하는 단위예요. 대략 한글 1글자 = 1-2토큰, 영어 1단어 = 1토큰 정도로 생각하면 돼요. AI 서비스 요금은 보통 토큰 수로 계산해요.