자원 효율적 LLM 체계적 분석
ChatGPT와 같은 대규모 언어 모델(LLM)은 인공지능 분야의 중요한 진전을 나타내지만, 컴퓨팅, 메모리, 에너지, 재정 등 막대한 자원 소비 문제를 야기합니다. 특히 자원 제약이 있는 환경에서는 이러한 도전이 더욱 심화됩니다. 본 조사는 LLM의 자원 효율성을 높이기 위한 다양한 기술들을 체계적으로 검토하여 이 문제에 접근합니다. 저자들은 최적화 초점(컴퓨팅, 메모리, 에너지, 재정, 네트워크)과 LLM 생명주기(아키텍처 설계, 사전 학습, 미세 조정, 시스템 설계)에 따른 방법론을 분류합니다. 또한, 특정 자원 유형에 따른…