프롬프트 엔지니어링 후기-LLM 활용 예시와 한계

 

📘 프롬프트 엔지니어링 3일차 후기 – LLM 활용 예시와 한계를 배우다

오늘은 프롬프트 엔지니어링 수업 3일차였습니다. 이번 강의는 주로 이론 중심으로 진행되었지만,

단순한 개념 설명을 넘어 LLM(Large Language Model, 대규모 언어 모델)이 실제로 어떻게

활용되는지, 그리고 어떤 한계를 갖고 있는지 구체적으로 살펴볼 수 있는 유익한 시간이었습니다.

특히 수업에서 진행한 실습을 통해, 추상적으로만 알고 있던 기능들이 실제로 어떻게 작동하는지를

직접 체감할 수 있었고, "프롬프트 하나로 이렇게까지 되는구나" 하는 놀라움도 함께했습니다.

이 글에서는 오늘 배운 주요 개념들과 인상 깊었던 실습 예시를 중심으로 정리해보겠습니다.

---

🔍 LLM이란 무엇인가요?

LLM은 방대한 양의 텍스트 데이터를 기반으로 학습된 인공지능 언어 모델입니다.

인간의 언어를 이해하고, 스스로 문장을 생성하는 능력을 갖추고 있어 다양한 분야에서 활용됩니다.

우리가 흔히 접하는 챗봇, 뉴스 요약 도구, 이메일 자동 분류, 번역 서비스 등이 모두 LLM의 대표적인

활용 예입니다.

---

✅ 오늘 배운 주요 기능과 개념

  1. 텍스트 요약 (Summarization)

LLM은 긴 문장을 간단하게 요약할 수 있습니다. 요약에는 두 가지 방식이 있습니다:

"추출적 요약"은 원문에서 중요한 문장을 그대로 뽑아냅니다.
  - 예를 들어 뉴스 기사 중 핵심 문장 몇 개만 따로 정리하는 방식입니다.

    "생성적 요약"은 문장의 의미를 이해한 뒤, 새로운 문장으로 요약을 재구성합니다.

      - 예를 들어 긴 리뷰를 "신제품 만족도 높음"으로 압축해 표현하는 것입니다.

 

  2. 정보 추출 (Information Extraction)

문장 속에서 사람 이름, 날짜, 장소 같은 중요한 정보를 자동으로 뽑아내는 기능입니다.

예를 들어 “2024년 6월 서울에서 G7 정상회담이 열렸다”라는 문장에서:

• 날짜: 2024년 6월
• 장소: 서울
• 사건: G7 정상회담 처럼 정보를 분리해낼 수 있습니다.

이 기술은 보고서 작성, 뉴스 데이터 수집, 연구 리서치에서 매우 유용합니다.

특히 정보 추출에 강한 LLM은 문서의 흐름을 분석해 자동으로 주제를 분류하고 키워드를

뽑아주는 역할도 합니다.

 

👉 이때 등장한 용어 중 하나가 바로 "자동 태깅"이었습니다.

다소 생소할 수 있지만, 자동 태깅이란 텍스트를 분석해서 적절한 주제 태그나 분류 라벨을

자동으로 붙여주는 기능입니다.

예를 들어 쇼핑몰 후기를 분석해 ‘배송’, ‘품질’, ‘가격’ 등의 키워드를 자동으로 태그하는 것이죠.

 

  3. 자연어 이해 및 지식 검색

LLM은 단순히 문장을 받아들이는 것에 그치지 않고, 그 의미를 파악해 적절하게 응답합니다.

예를 들어 “오늘 날씨 어때?”라는 질문을 받았을 때, 사용자의 의도(날씨가 궁금함)를 파악하고

현재 날짜나 지역 정보를 반영해 답할 수 있습니다.

또한 외부 지식과 연결하여 필요한 정보를 검색(Retrieval)해오는 기능도 있습니다.

최근에는 RAG(Retrieval-Augmented Generation) 구조를 통해 LLM이 기존에 학습한 정보

외에도 실시간 정보에 접근할 수 있도록 하는 기술이 활발히 개발되고 있습니다.

 

  4. 텍스트 분류 (Text Classification)

 

이 기능은 문서를 주제별, 감정별로 나누는 데 사용됩니다.

예를 들어 영화 리뷰를 긍정/부정으로 분류하거나, 이메일을 스팸/정상으로 자동으로 나눌 수 있습니다.

기업에서는 이 기술을 고객 피드백 분석, 소셜 미디어 모니터링 등에 널리 활용하고 있습니다.

 

  5. 대화 및 역할극 (Dialogue & Roleplay)

 

LLM은 단순한 질의응답을 넘어서, 특정 역할을 설정하고 그 역할에 맞춰 대화를 이어갈 수 있습니다.

예를 들어 상담사 역할을 설정하면, 사용자의 감정을 공감하고 적절한 조언을 주는 답변을 생성할

수 있습니다.

이 기능은 특히 고객센터 자동화, 심리상담 챗봇, 교육용 시뮬레이션 등에서 활용도가 높습니다.

 

  6. 추론 (Reasoning)

LLM은 단지 주어진 정보를 반복하는 것이 아니라, 문맥을 이해하고 그 속에 숨겨진 의미까지

파악해 추론할 수 있습니다.

예를 들어 “비가 와서 우산을 챙겼다”라는 문장에서, 모델은 비가 오면 우산이 필요하다는

일반적인 상식을 바탕으로 행동을 연결 지을 수 있습니다.

이런 능력은 문서 분석, 사건 예측, 논리 흐름 점검 등에서 유용하게 쓰입니다.

---

🧪 실습 예시: 띠별 오늘의 운세를 자동으로 생성하기

오늘 실습에서는 아래와 같은 프롬프트를 사용해 LLM의 정보 추출 및 생성 능력을 테스트했습니다.

프롬프트: “십이간지별로 오늘의 운세를 알려줘. 아래의 내용을 참고해줘 ｜띠｜운세｜해결 및 해법｜”

 

이 단순한 문장 하나로 LLM은 아래와 같이 표 형태의 데이터를 생성해주었습니다:

띠	오늘의 운세	해결 및 해법
쥐  띠	주변과의 오해가 생기기 쉬운 날입니다.	말보다 경청에 집중하세요.
소  띠	성실함이 인정받는 날입니다	흐름을 유지하며 속도를 조절하세요.
말  띠	에너지는 넘치지만 실수가 따를 수 있어요.	서두르지 말고 체크리스트를 확인하세요.
돼지띠	피로가 누적될 수 있는 날입니다.	일정보다 컨디션 조절에 집중하세요.

 

이처럼 간단한 프롬프트 하나만으로도 LLM이 정형화된 테이블 데이터를 생성할 수 있다는 점에서,

실무 활용 가능성을 크게 느꼈습니다. 앞으로 뉴스 요약, 일정 생성, 성격 분석 등에도 다양하게

응용할 수 있겠다는 생각이 들었습니다.

---

⚠️ 한계: Hallucination(환각 현상)

수업에서는 LLM이 가진 대표적인 약점도 다루었습니다.

그중 하나가 바로 "할루시네이션(Hallucination)" 현상입니다.

이는 모델이 마치 사실처럼 보이는 잘못된 정보를 만들어내는 현상을 말합니다.

예를 들어 “조선시대에 스마트폰이 있었다”라는 문장은 얼핏 자연스럽지만,

전혀 사실이 아니죠. 이런 문제가 생기는 이유는 모델이 확률적으로 말의 흐름을 예측할 뿐,

진위를 판단하는 능력이 없기 때문입니다.

 

✔️ 해결 방법으로는

• 더 명확하고 구체적인 프롬프트 작성
• 예시나 기준 제시
• 복잡한 질문은 나눠서 처리(Divide & Conquer) 등이 소개되었습니다.

---

📌 총평 – 프롬프트는 질문이 아니라 설계입니다

이번 수업을 통해 가장 크게 느낀 점은, 프롬프트는 단순한 질문이 아니라 하나의 설계라는 것입니다.

단어 하나, 표현 방식 하나에 따라 모델의 응답은 전혀 달라질 수 있고,

그만큼 ‘좋은 질문을 만드는 기술’이 중요하다는 것도 배웠습니다.

LLM은 강력한 도구이지만, 그 잠재력을 끌어내기 위해서는 정확한 설계, 비판적 사고, 검토 능력이

반드시 필요합니다. 오늘 배운 내용을 바탕으로, 앞으로 더 깊이 있는 실습과 응용을 해보고 싶습니다.

---