AI 완전 정복 8편 — 에이전트, 도구 사용, MCP
에이전트는 "모델이 도구 호출을 요청 → 앱이 실행 → 결과를 돌려줌"을 끝날 때까지 반복하는 while 루프다. 모델은 아무것도 직접 실행하지 않으며, MCP는 이 도구들을 표준 방식으로 꼽아 쓰게 해 주는 프로토콜이다.
blog92@web:~$ grep -rl "#LLM" posts/
이 태그가 달린 글
에이전트는 "모델이 도구 호출을 요청 → 앱이 실행 → 결과를 돌려줌"을 끝날 때까지 반복하는 while 루프다. 모델은 아무것도 직접 실행하지 않으며, MCP는 이 도구들을 표준 방식으로 꼽아 쓰게 해 주는 프로토콜이다.
컨텍스트 엔지니어링은 "모델이 일하는 순간에 필요한 정보만, 필요한 만큼, 적절한 순서로" 보이게 하는 설계다. 항상 필요한 것은 규칙 파일에, 가끔 필요한 것은 검색으로, 작업 중 알게 된 것은 메모로 관리한다.
좋은 프롬프트는 화려한 문장이 아니라, 새로 들어온 유능한 동료에게 주는 업무 지시서다. 목표, 맥락, 제약, 완료 기준, 출력 형식 다섯 가지를 구분해 쓰면 대부분의 품질 문제가 해결된다.
컨텍스트 윈도우는 "넣을 수 있는 최대치"일 뿐 "넣어야 할 양"이 아니다. 컨텍스트가 길어질수록 비용은 늘고 정확도는 떨어지므로, 필요한 것만 넣고 자주 비우는 습관이 실력이다.
비용은 "내가 보낸 토큰(입력) + 모델이 만든 토큰(출력)"으로 매겨지고, 출력이 입력보다 5배 비싸다. 대화형 도구는 매 턴마다 이전 대화 전체를 다시 보내므로, 대화가 길어질수록 비용은 가파르게 늘고, 프롬프트 캐싱이 그 비용을 크게 줄인다.
오늘날의 코딩 모델은 "인터넷 전체를 읽힌 뒤(사전학습), 대화하는 법을 가르치고(파인튜닝), 테스트를 통과하는 코드를 쓸 때마다 보상한(강화학습)" 결과물이다. 각 단계를 알면 모델의 강점과 버릇이 설명된다.
트랜스포머는 모든 토큰이 다른 모든 토큰을 "둘러보고" 서로 얼마나 관련 있는지 계산하는 구조(어텐션)다. 이 구조 때문에 긴 입력은 비싸고, 맥락의 배치가 결과를 바꾼다.
LLM은 "지금까지의 글 다음에 올 토큰 하나"를 확률로 고르는 일을 수천 번 반복하는 프로그램이다. 이 한 문장이 이후 모든 편의 출발점이다.