AI Agent(LLM) & Backend & Infra ์ด๊ด. ChangeLog
- ํต์ฌ ์ฑ๊ณผ:
- AI Agent ์์ฒ ๊ธฐ์ ์ ์ฐ์์ฑ์ ๋ฐํ์ผ๋ก ๊ธฐ์ ๋์ ์ ๋ฌธ ๊ธฐ์ ๋์ ๊ณ์ฝ(Licensing) ์ฒด๊ฒฐ
- ์ ์ฉ๋ณด์ฆ๊ธฐ๊ธ ๊ธฐ์ ํ๊ฐ๋ฅผ ํตํ Easy-Start 2์ต(์ฐ๋๊ธ๋ฆฌ 2.9%) ๊ท๋ชจ ์๊ธ ์ ์น
- ๋งค์ถ 2200๋ง์ ๋ฌ์ฑ, 56๊ฐ๊ตญ ์ ์ ํธ๋ํฝ ์ฒ๋ฆฌ
- LLMยทEmbedding ๊ธฐ๋ฐ ์ฝ๋ฌผ ๋ถ์์ฉ ์ฐ๊ตฌ๋ก ๊ตญ์ SCI ์ ๋ ๋ ผ๋ฌธ ๋ฑ์ฌ
- 2024 ์ฑ๋จ์ ์ฒญ๋ ์ฐฝ์ ์ง์์ฌ์ ์ ์
- ์ค์๊ฐ ํ์ ํ๊ฒฝ ๊ตฌ์ถ: WebSocket, SSE ํต์ ๋ฐ Redis Pub/Sub(Message Queue์ ๋ฉ์์ง ํจํด) ๊ธฐ๋ฐ ๋ฌดํ ์บ๋ฒ์ค ํ๊ฒฝ์์์ ์ค์๊ฐ ํธ์ง ๋ฐ ํธ๋์ญ์ ๊ด๋ฆฌ ์์คํ ๊ตฌ์ถ.
- ์ด์ ๋ฐ ์ธํ๋ผ ์ด๊ด: AWS ECS ๊ธฐ๋ฐ์ Auto Scaling, GitActions CI/CD ํ์ดํ๋ผ์ธ, PostgreSQL ๋ฐ Redis AWS ํ๋ก๋์ ํ๊ฒฝ ์ด์
- ํธ๋์ญ์
์์์ฑ ๋ฐ ๋์์ฑ ์ ์ด:
- PostgreSQL ACID ํน์ฑ ํ์ฉํ ํธ๋์ญ์ ์์์ฑ ๋ณด์ฅ ๋ฐ All-or-Nothing ์ฒ๋ฆฌ ๊ตฌํ.
- Python asyncio.Lock๊ณผ SELECT FOR UPDATE ์กฐํฉํ์ฌ Race Condition ๋ฐ์๋ฅ 0% ๋ฌ์ฑ.
- READ COMMITTED ๊ฒฉ๋ฆฌ ์์ค์ผ๋ก Dirty Read ๋ฐฉ์ง ๋ฐ ๋์์ฑ ๊ท ํ ์ ์ง.
- Bulk Processing ๋ฐ ์ฑ๋ฅ ์ต์ ํ:
- PostgreSQL VALUES ์ ํ์ฉํ ๋ฒํฌ ์ฐ์ฐ์ผ๋ก DB ์ฒ๋ฆฌ ์๊ฐ 82% ๊ฐ์ .
- Incremental Update ์์คํ ์ผ๋ก ์ค๋ณต ์ฐ์ฐ 40% ๊ฐ์.
- ์ค์๊ฐ ํ์
์์คํ
:
- WebSocket, SSE ํต์ ๋ฐ Redis Pub/Sub(Message Queue์ ๋ฉ์์ง ํจํด) ๊ธฐ๋ฐ ์ค์๊ฐ ํธ์ง ์์คํ ๊ตฌ์ถ.
- ์ค์๊ฐ ๋ฉ์์ง ์ ํ ์ง์ฐ์๊ฐ 50ms ์ด๋ด ์ ์ง ๋ฐ ๋ฐ์ดํฐ ๋๊ธฐํ 100% ๋ณด์ฅ.
- ๊ณ์ธต์ ์๋ฃ๊ตฌ์กฐ ์๊ณ ๋ฆฌ์ฆ:
- DFS ๊ธฐ๋ฐ ์ํ ๊ฐ์ง ์๊ณ ๋ฆฌ์ฆ ๊ตฌํ์ผ๋ก O(V+E) ์๊ฐ๋ณต์ก๋ ๋ฌ์ฑ ๋ฐ 10000๊ฐ ๋ ธ๋ 1์ด ์ด๋ด ์ฒ๋ฆฌ.
- BFS ๊ธฐ๋ฐ ๊ณ์ธต ๊ตฌ์กฐ ์ต์ ํ๋ก ๋ฉ๋ชจ๋ฆฌ ํจ์จ์ฑ ๊ทน๋ํ ๋ฐ ๋ถํ์ํ ์ฐ์ฐ ์ ๊ฑฐ.
- ์๋ฒ๋ฆฌ์ค ์ปจํ
์ด๋ ์ธํ๋ผ:
- ECS Fargate ๋ฐ Application Load Balancer ๊ธฐ๋ฐ Auto Scaling ๊ตฌ์ถ์ผ๋ก CPU 70% ์ด์ ์ ์๋ ํ์ฅ ์ ์ฉ.
- ๊ธ๋ก๋ฒ CDN ๋ฐ ์คํ ๋ฆฌ์ง:
- CloudFront๋ก 56๊ฐ๊ตญ ๊ธ๋ก๋ฒ ํธ๋ํฝ ์ฒ๋ฆฌ ๋ฐ Edge Location ๊ธฐ๋ฐ ์ ์ ์์ฐ ์บ์ฑ.
- CI/CD ํ์ดํ๋ผ์ธ:
- GitHub Actions ๊ธฐ๋ฐ ์์ ์๋ํ ๋ฐฐํฌ ํ์ดํ๋ผ์ธ ๊ตฌ์ถ ๋ฐ ๋ฐฐํฌ ์๊ฐ 83% ๋จ์ถ.
- Multi-stage Docker Build๋ก ์ด๋ฏธ์ง ํฌ๊ธฐ 60% ๊ฐ์ ๋ฐ Rolling Update ์ ๋ต์ผ๋ก ๋ฌด์ค๋จ ๋ฐฐํฌ ๊ตฌํ.
- ๋ชจ๋ํฐ๋ง ๋ฐ ์ด์:
- CloudWatch ํตํฉ ๋ชจ๋ํฐ๋ง ๋์๋ณด๋ ๊ตฌ์ถ ๋ฐ ์์คํ ๊ฐ์ฉ์ฑ 99.95% ๋ฌ์ฑ.
- Context Engineering:
LangChain,LangGraph๋ฅผ ํ์ฉํ์ฌ ๋ณต์ก๋ ๋์ ์ํ ์ ์ด ๋ก์ง ์ค๊ณ.- ์ฌ์ฉ์ ์ ์ ๊ท์น์ ChatState์ ์ถ๊ฐํ์ฌ ์ฅ๊ธฐ ๊ธฐ์ต ๋ฐ ์ง์นจ ๋ชฉ๋ก์ ๊ด๋ฆฌํ๋ Context Engineering ๊ธฐ๋ฅ์ ๊ตฌํํ์ฌ AI์ ์ผ๊ด์ฑ๊ณผ ์ถ๋ก ํ์ง์ ๊ทน๋ํ
- ๋ฉํฐ๋ชจ๋ฌ RAG ๋ฐ ์ ์ฒ๋ฆฌ:
- Excel, PDF, YouTube, WebLink, Image, Markdown ๋ฑ ๋ค์ํ ํํ์ ๋ฉํฐ๋ชจ๋ฌ ๋ฐ์ดํฐ Import ๊ธฐ๋ฅ ๊ตฌํ
PGVector๊ธฐ๋ฐ์ RAG ์์คํ ๊ตฌ์ถ
- Tool Calling ๋ฐ Code Interpreter ๊ตฌํ:
- AI Agent๊ฐ Excel, Block Markdown ํธ์ง, Code Interpreter ๊ธฐ๋ฐ Chart ๋ฐ Diagram ์๊ฐํ, Web Search ๋ฑ ๋ณต์กํ ๋๊ตฌ ํธ์ถ์ ์ํํ ์ ์๋ ๋ก์ง ํตํฉ
- Multi-turn Chat Streaming:
- SSE ๊ธฐ๋ฐ์ Multi-turn Chat ๊ธฐ๋ฅ์ ๊ตฌํํ์ฌ ChatGPT, Gemini, Claude, Grok, Perplexity ๋ฑ ๋ค์ค ๋ชจ๋ธ์ ์ง์ํ๊ณ ์ค์๊ฐ ์๋ต ํ๊ฒฝ ์ ๊ณต



