Prompt Engineering이 무엇일까?

 여러 LM들의 개발로 인하여 사람들은 전례 없는 새로운 기술들을 만나고 있다. 이 얘기를 여러 포스트에서 했던 것 같은데, ChatGPT는 아직도 무궁무진한 가능성을 보여주고 있다. 이러한 LM들의 성능을 향상시키는 방법으로 많이 사용되고 있는 방법이 Prompt Engineering이다. 본 블로그에서 리뷰한 여러 논문들에서도 등장했던 Prompt Engineering에 대해 더욱 자세한 이해가 필요할 것 같아서 이렇게 포스트를 작성해본다. 🤓 

 

 우선 Prompt Engineering에 대해서 알아보기 전에 Prompt가 무엇인지 부터 알아보도록 하자! 🔥

 

Prompt란?

 Prompt는 LLM으로부터 응답을 생성하기 위한 입력값을 의미한다. 다음의 그림이 Prompt의 예시이다.

 

Prompt의 예시

 

 예를 들어 설명하자면, LM에게 '메일의 내용을 요약해줘'와 같은 지시를 할 수 있는데, 이 지시가 바로 응답을 얻어내기 위한 prompt이다.

 

Prompt Engineering

 Prompt Engineering은 LLM으로부터 높은 품질의 응답을 얻어낼 수 있는 prompt 입력값들의 조합을 찾는 작업을 의미한다. model에 사용할 prompt를 디자인할 때 다음의 두 아이디어를 명심하고 있으면 된다.

 

1. Prompt는 model이 유용한 output을 생성하도록 가이드

 

 예를 들어 만약 문서를 요약해야 될 때, 많은 데이터로 학습된 LM은 다음과 같은 가이드를 통해 요약을 생성할 수 있다.

 

이 prompt는 요약하고자 하는 text와 task 설명, 이렇게 두 개의 요소를 가지고 있다.

 

2. 최고의 생성물을 얻기 위해 여러 prompt를 시도

 

 생성을 할 때 해결하려는 문제에 대해 다양한 prompt를 시도해보는 것이 유용하다. 똑같은 내용의 prompt이지만, 단어와 문법이 다르듯 이러한 사소한 차이가 생성 결과를 다르게 한다.

 

 예를 들어 요약 예제에서 "In summary"는 좋은 생성 결과를 보여주진 않는데, "To summarize in plain language" 또는 "The main point to take from this article is that"과 같은 prompt를 주면 더 나은 결과를 보여준다.

 

3. task와 기본적인 세팅을 설명

 

task에 대한 추가적인 설명은 유용함

 

 model에게 충분한 context를 제공해야 한다. 예를 들어, 기사 전에 요약 작업을 더욱 자세히 설명할 수 있다.

 

자연어로 모델이 수행해야 하는 작업을 형성하면 처리하려는 input text 전후에 text를 사용할 수 있음

 

 모델이 특정 질문과 요청을 처리하는 방법에 대한 예를 fine-tuning하여 이를 더욱 개선할 수 있다.

 

4. model에게 보고자 하는 것을 알려주기

 

prompt에 example을 추가하는 것은 좋은 생성을 얻기 위한 중요한 방법. example이 model에게 얻고자 하는 target output을 알려줌.

 

 원하는 생성 결과에 대한 몇 개의 example을 주어서 학습시키는 것을 few-shot learning이라고 한다. Few-shot generation은 larger model에서 더욱 잘 작동한다. likelihood endpoint를 사용하여 example에 제공된 정답에 대해 모델이 얼마나 불확실한지 확인할 수 있다. 

 

 

p.s.

아직 제대로 이해하지 못한 부분이 많아 추후에 더 학습 후 좀 더 수정해보도록 하겠다.

 

 

 

 

출처

https://seongjin.me/prompt-engineering-in-chatgpt/

ChatGPT를 비롯한 대화형 AI 서비스에서 더 좋은 결과물을 얻게 해주는 프롬프트 엔지니어링 (Prompt

https://docs.cohere.ai/docs/prompt-engineering?ref=context-by-cohere 

Prompt Engineering