지금은 프로그래머

<트랜스포머 활용 가이드 with 파이토치> 프렘 팀시나, 임선집, 루비페이퍼

* 출판사 협찬도서를 받아 서평단 자격으로 작성한 주관적인 리뷰입니다.

소위 LLM 붐으로 가득한 작년이었다. 올해도 그 열기를 이어갈 것이라고 생각되고 이제는 단순히 LLM에 대한 관심을 넘어 실제 업무에서 LLM을 어떻게 사용할 것인가에 대한 다양한 응용이 생겨나고 있다.

이 모든 것이 가능해 진 것에는 트랜스포머라는 혁신적인 모델이 만들어진 것에 기인하고 있다.

현재의 트랜스포머는 자연어 기반의 언어모델에 대한 기반 기술로서 뿐 아니라 이미지와 음성을 넘어 멀티모달 영역까지 다양한 분야에서 만병통치약처럼 활용되고 있다.

그만큼 응용할수 있는 영역이 넓은 기술이고 자연어 기반의 모델로 시작했지만 수많은 응용을 만들어내고 있어 새로운 확장에 대한 가능성을 보여준 획기적인 순간이 되고 있다.

이 책은 트랜스포머에 대한 기초 원리부터 실제로 트랜스포머를 활용하는 언어모델에 대한 사전학습과 전이학습에 대한 설명은 물론이고 트랜스포머를 기반으로 만들어진 대형 언어모델이 가지는 기술적 특징들에 대해서도 정리해주고 있다.

트랜스포머를 이용한 텍스트 분류, 생성, 쳇봇과 같은 텍스트 기반의 기술 뿐 아니라 이미지 영역에서 사용되는 트랜스포머 기술이 어떤 것들이 있고 음성 처리 분야에서는 음성과 텍스트 상호 간 변환에 사용되는 트랜스포머 기술에 대해서도 알려주고 있다.

이렇듯이 다양한 분야에서 활용되는 트랜스포머 기술과 트랜스포머 모델에 대한 강화학습이나 실제 모델 배포와 서빙까지 MLOps 전 과정에 대해서 놓치지 않고 차근차근 설명하며 최종적으로 해석 가능성에 대한 도구나 디버깅 기술까지 실제 트랜스포머 모델을 개발하는 전과정에 대해 진짜 개발자의 관점에서 설명한 책이라고 보여져서 책을 받자마자 내용을 먼저 쭉 훑어보고 난후 다시 책속에 나온 소스코드를 따라 실습을 진행해보려고 한다.

소스코드에 대한 설명도 번역자가 실제 코드를 모두 실행해보고 우리나라 개발자들의 환경을 고려해 수정한 점이 중간중간 설명되어 있어 필요하면 번역자에게 코드에 대한 질문이 가능하다는 점도 큰 장점으로 여겨졌다.

여러기술 중에서도 테이블 데이터를 위한 트랜스포머 기술의 데이터 분류나 회귀분석 처리를 할 수 있다는 사실이 나에게도 새롭게 다가왔고 당장 업무에 활용해보고 싶은 기술이라는 생각이 들어 이 부분에 대한 코드를 먼저 실습해보려고 한다.