[도서 리뷰] 프롬프트 엔지니어링의 비밀

프롬프트 엔지니어링의 비밀 | 길버트 미즈라히 - 교보문고

 

AI에 대해서 가볍게 공부를 하고 싶었던 차에 길벗 도서를 발견하였고, 도서를 전달받아서 감사한 마음으로 책을 읽고 쓴다.

 

한 줄 평 : Prompt에 대한 지식과 효율적인 GPT 사용 예제를 배울 수 있는 책

 

배운 점

[ Prompt와 LLM의 특징 ]

Prompt를 잘 작성하기 위해서는 LLM의 특징을 이해해야한다.

 

1. LLM은 문맥을 반영하여 단어나 문장을 벡터로 변환하며, 벡터 간의 유사도를 이용해 적절한 응답을 생성한다.

2. LLM은 입력된 텍스트를 토큰(단어, 글자, 부분 단어 등) 단위로 나누어 처리한다. 토큰이 많아질수록 처리 속도가 느려지고, 모델의 최대 토큰 제한을 초과하면 일부 내용이 잘리거나 처리되지 않는다.

3. LLM은 일반적으로 Pre-Training(사전 학습)과 Fine-Tuning(미세 조정) 과정을 거쳐 학습된다. 이때 사용자가 몇 개의 예제를 입력하면, 모델이 이를 참고하여 더 적절한 응답을 생성할 수 있는데, 이렇게 모델을 수정하지 않고 적은 양의 예시로 패턴을 학습하는 방법을 Few-Shot Learning(소수 샘플 학습) 이라고 한다.

 

즉, 3번이 Prompt 엔지니어링의 핵심이다.

 

변수 넣기, 구체적인 예시, 참고자료, 오류 수정 등을 위한 팁이 있고 이를 통해서 AI를 최적화(?)할 수 있다. 상세하게 프롬프트를 쓰는 방법은 책에서 2-8장에 걸쳐서 설명한다.

프롬프토로 질문하는 예시 사진

 

[ LangChain 등의 고수준 LLM 통합 프레임워크 ] 

Make

LangChain

LLM과 추상화를 결합하면 복잡한 일을 자동화 시킬 수 있다.

 

위 두 개는 그 예시로, 자동으로 트위터 업로드하기, RAG를 구현한 모습이다.

 

이 부분을 사용해본 적은 없지만 보기만해도 업무의 혁신으로 느껴진다. 그리고 책의 예시 중 구글 시트를 자동화하는 부분도 있는데 이 부분이 정말 핵심이라 생각한다.

 

[ 생성형 AI의 한계 ] 

1. LLM은 학습된 데이터가 부족하거나, 주어진 문맥을 기반으로 논리적 패턴을 잘못 적용할 경우 환각 현상(Hallucination) 이 발생할 수 있다. 환각 현상은 모델이 문맥적으로 자연스러워 보이지만 사실과 다른 정보를 생성하는 현상이며, 존재하지 않는 내용까지 만들어낼 수도 있다.

2. LLM은 완벽하지 않다. 그래서 의도와 다른 결과물이 나올 수 있고, 이를 감독하고 수정해야한다.

3. LLM은 무에서 유를 창조하지 않는다. 즉, 창의적인 일을 돕고 발전시키는 데 무궁무진하지만 창의적인 일을 대체하지는 않는다.

 

즉, 아직은 감독이 필요하다. 그리고 데이터가 정말 중요하다는 것이 AI의 한계이다.

 

후기

심심하면 GPT를 쓰다보니 생각보다 사용법은 아는 부분이 많았다. 

 

그런데, "변수 사용법", "반복문 사용법"을 배운 건 생산성 측면에서 큰 이익이라 생각한다.

 

그리고, LangChain과 LLM의 기초에 대해서 간단하게 이해한 부분이 정말 크다 생각한다. LangChain은 생산성의 혁명을 가져올 것이라 생각되어서 지금 매우 흥미롭고 이 책을 읽어서 다행이라 생각한다. 이런 인사이트를 제공해준 부분이 너무나 감사하다.