AI 기초 ④ 최신 AI 기술·용어

문항 미리보기

114문항 중 앞 5문항입니다.

1. 1

   RAG(Retrieval-Augmented Generation)의 기본 동작으로 옳은 것은?

   1. 1질문과 관련된 문서를 검색해 프롬프트에 넣고 답을 생성한다
   2. 2모델 가중치를 새 문서로 매번 다시 학습한다
   3. 3여러 모델의 답을 투표로 합쳐 하나를 고른다
   4. 4답변을 먼저 생성한 뒤 그 결과를 검색 엔진에 새 문서로 등록한다

   정답질문과 관련된 문서를 검색해 프롬프트에 넣고 답을 생성한다

   RAG는 ‘검색(Retrieval) → 프롬프트에 근거 추가(Augmented) → 생성(Generation)’ 순서로 동작한다. 모델 가중치는 그대로 두고 외부 지식을 그때그때 넣어 주므로, 최신 정보나 사내 문서를 반영하기 쉽다. 가중치를 다시 학습하는 것은 파인튜닝이고, 여러 답을 투표로 고르는 것은 앙상블·자기 일관성 기법에 가깝다.

2. 2

   사내 공정 매뉴얼이 매주 바뀌는데, 챗봇이 항상 최신 매뉴얼을 근거로 답해야 한다. 가장 적절한 방식은?

   1. 1매주 전체 매뉴얼로 모델을 풀 파인튜닝
   2. 2temperature를 낮춰 정확도를 높이는 설정
   3. 3시스템 프롬프트에 매뉴얼 전체를 고정
   4. 4매뉴얼을 색인해 두고 질문마다 검색해 넣는 RAG

   정답매뉴얼을 색인해 두고 질문마다 검색해 넣는 RAG

   자주 바뀌는 지식은 가중치에 넣기보다 검색으로 공급하는 편이 갱신 비용이 낮고 출처도 제시할 수 있다. 매주 파인튜닝은 비용이 크고 이전 내용이 섞여 남을 수 있다. 수천 건 매뉴얼은 컨텍스트에 다 들어가지도 않으며, temperature는 지식을 추가해 주지 않는다.

3. 3

   RAG에서 ‘청킹(chunking)’이란?

   1. 1긴 문서를 검색 단위가 되는 작은 조각으로 나누는 작업
   2. 2모델이 생성한 출력을 일정한 길이마다 끊어서 보내는 작업
   3. 3검색 결과를 점수 순서로 다시 정렬하는 작업
   4. 4임베딩 벡터의 차원을 줄여 저장하는 작업

   정답긴 문서를 검색 단위가 되는 작은 조각으로 나누는 작업

   문서 전체를 하나의 벡터로 만들면 세부 내용이 희석되고 프롬프트에 넣기에도 너무 길다. 그래서 문단·섹션 단위 등으로 잘라 각 조각을 임베딩한다. 다시 정렬하는 것은 리랭킹, 출력을 나눠 보내는 것은 스트리밍이다.

4. 4

   청크 크기를 너무 작게(예: 한두 문장) 잡았을 때 생기기 쉬운 문제는?

   1. 1벡터DB 용량이 줄어 전체 문서를 저장할 수 없다
   2. 2앞뒤 맥락이 잘려 검색된 조각만으로는 답을 만들기 어렵다
   3. 3검색 속도가 느려져 실시간 응답이 불가능해진다
   4. 4임베딩 모델이 짧은 문장을 처리하지 못해 오류가 난다

   정답앞뒤 맥락이 잘려 검색된 조각만으로는 답을 만들기 어렵다

   조각이 너무 작으면 ‘이 설정값은 3번 장비에만 해당’ 같은 조건이 다른 조각으로 떨어져 나가 엉뚱한 답이 나온다. 반대로 너무 크면 관련 없는 내용이 섞여 검색 정밀도가 떨어지고 컨텍스트를 낭비한다. 그래서 적당한 크기에 조각끼리 일부 겹치게(overlap) 자르는 방법을 많이 쓴다.

5. 5

   청크를 나눌 때 인접 조각끼리 일부 문장을 겹치게(overlap) 하는 이유는?

   1. 1임베딩 계산 횟수를 줄여 비용을 아끼려고
   2. 2벡터DB의 중복 제거 기능을 시험하려고
   3. 3어떤 질문이든 검색 결과가 항상 두 개 이상 나오게 하려고
   4. 4경계에서 잘린 문맥이 양쪽 조각에 모두 남도록 하려고

   정답경계에서 잘린 문맥이 양쪽 조각에 모두 남도록 하려고

   문장이 조각 경계에서 잘리면 핵심 정보가 반쪽씩 나뉘어 어느 조각도 제대로 검색되지 않는다. 겹침을 두면 그 정보가 최소 한 조각에는 온전히 들어간다. 대신 저장량과 임베딩 계산이 조금 늘어나므로 비용을 아끼는 방법은 아니다.