The Hitchhiker's Guide to Agentic AI: From Foundations to Systems

Haggai Roitman

arXiv:2606.24937 · 2026-06-26 공개 · arXiv · PDF

transformer model-compression agentic-ai rag rlhf llm-substrate mcp a2a-protocol

Abstract

The Hitchhiker's Guide to Agentic AI is a comprehensive practitioner's reference for building autonomous AI systems. The book covers the full stack from first principles to production deployment, organized around a central thesis: building great agentic systems requires understanding every layer of the pipeline, not just one. The book opens with the LLM substrate -- transformer architecture, GPU systems, training and fine-tuning (SFT,LoRA, MoE), model compression, and inference optimization -- treated as essential foundations rather than the primary focus. It then develops the alignment and reasoning layer: reinforcement learning from human feedback (RLHF), PPO, DPO and its variants, GRPO, reward modeling, and RL for large reasoning models including chain-of-thought and test-time scaling. The second half is devoted to agentic AI proper. Topics include agentic training and trajectory-based RL, retrieval-augmented generation (RAG and Agentic RAG), memory systems (in-context, external, episodic, and semantic), agent harness design and context management, and a taxonomy of agent design patterns. Inter-agent coordination is covered in depth: the Model Context Protocol (MCP), agent skills and tool use, the Agent-to-Agent (A2A) communication protocol, and multi-agent architectures spanning centralized, decentralized, and hierarchical topologies. The book concludes with agent development frameworks, agentic UI design, evaluation methodology for agentic tasks, and production deployment. Each chapter pairs rigorous theoretical foundations with implementation guidance, code examples, and references to the primary literature.

한국어 요약

한 줄 요약

"Agentic AI 시스템을 구축하기 위해 전반의 기초부터 시스템 구현까지를 포괄적으로 다룬 실무 중심 가이드."

핵심 기여도

핵심 아이디어

이 책은 Agentic AI를 단일 기술이 아닌 전체 시스템으로 이해해야 한다는 통찰을 바탕으로 구성된다. LLM 기반의 하위 시스템(예: LoRA, MoE)은 단순한 기술 요소가 아니라 Agentic AI의 기초로 다루며, 추론 최적화와 정렬 알고리즘(PPO, DPO)은 Agent의 행동을 효과적으로 제어하는 데 핵심적 역할을 한다. 또한, Agent 간의 협업을 가능하게 하는 프로토콜(MCP, A2A)은 복잡한 시스템에서의 효율적인 작업 분배와 커뮤니케이션을 지원한다.

기술적 접근법

주요 결과

의의 및 한계

이 책은 Agentic AI를 단일 기술이 아닌 전체 시스템으로 이해하고, 각 단계를 체계적으로 다루는 데 기여한다. 특히, Agent 간 협업 프로토콜과 다양한 설계 패턴은 복잡한 시스템 구축에 실질적인 도움을 줄 수 있다. 그러나 구체적인 수치적 성능 평가나 특정 데이터셋에 대한 실험 결과는 명시되지 않아, 실무 적용 시 추가 검증이 필요할 수 있다.

실용적 활용

이 책은 AI 시스템 개발자, 연구자, 그리고 산업 현장에서 Agentic AI를 도입하려는 조직에 유용한 참고서로 활용될 수 있다. 특히, 복잡한 Agent 시스템을 설계하고 운영해야 하는 상황에서 체계적인 가이드 역할을 할 수 있다.