Skip to content

Latest commit

 

History

3 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

PaperMap

arXiv 논문 → 한국어 요약 + Figure 추출 + Obsidian 지식그래프 자동 생성기.

🗺️ 논문 한 편을 입력하면 한국어 요약 마크다운 + Figure PNG + 인용 그래프(BFS depth 2) 까지 한 번에 vault 에 파일링.

URL/DOI/PDF 경로/제목 어느 형태든 입력 가능. BFS 모드는 Semantic Scholar 인용 그래프를 따라 관련 논문을 자동 확장한다.

주요 기능

  • 입력 자유: arXiv URL, DOI, 로컬 PDF, 또는 논문 제목 (제목은 Semantic Scholar 검색)
  • 요약: Gemini 2.0 Flash 1차 + GPT-4o fallback (품질 안 나오면 자동 전환)
  • PDF 파싱: MinerU (layout-aware) — 본문/캡션/수식/Figure 분리
  • Figure 추출: 페이지별 PNG + 캡션 매칭 → vault 에셋 폴더로 자동 복사 + 마크다운 임베드
  • 인포그래픽: 핵심 컨셉을 LLM 으로 한 장 다이어그램화
  • BFS 확장: 시작 논문에서 인용 그래프 따라가며 관련도 임계값 (0.6) 이상 논문만 누적 (depth 2 기본, 최대 100편)
  • 배치: 논문 목록 파일 일괄, 논문 간 30초 지연 (arXiv/Gemini rate limit 회피)

Quick start

git clone https://github.com/Luneberry/papermap.git
cd papermap
pip install -r requirements.txt
export GEMINI_API_KEY=your_key            # https://aistudio.google.com/apikey
export OPENAI_API_KEY=your_key            # fallback 용 (선택)
export S2_API_KEY=your_key                # Semantic Scholar 고속 처리 (선택)

# config.yaml 의 vault.path 를 본인 Obsidian 논문 폴더로 수정

# Attention is All You Need 처리 + figure 추출
python papermap.py https://arxiv.org/abs/1706.03762

⚠️ 첫 설치 시 mineru 패키지가 수 GB 다운로드 후 모델 가중치를 받아요. 인터넷 + 디스크 공간 (10GB+) 확보 후 진행 권장.

사용

# arXiv URL
python papermap.py https://arxiv.org/abs/1706.03762

# DOI
python papermap.py 10.1145/3548606.3559378

# 로컬 PDF
python papermap.py ~/Downloads/paper.pdf

# 제목 (Semantic Scholar 검색)
python papermap.py "Attention Is All You Need"

# BFS 확장 (인용 그래프 따라 관련 논문 누적)
python papermap.py https://arxiv.org/abs/1706.03762 --bfs --depth 2

# 배치
python papermap.py --batch papers.txt

# 터미널 출력만
python papermap.py "GSM8K" --terminal-only

출력 예시

<vault>/research/Papers/
  attention-is-all-you-need.md          # 한국어 요약 + Figure 임베드 + 인용 wikilink
  assets/1706.03762/
    figure-1.png
    figure-2.png
    infographic.png
~/.cache/papermap/arxiv/
  1706.03762.pdf                        # 원본 PDF 캐시 (재실행 시 재사용)

마크다운 내부:

---
title: "Attention Is All You Need"
arxiv_id: 1706.03762
authors: [Vaswani et al.]
published: 2017
---

> arXiv: https://arxiv.org/abs/1706.03762

## Thesis
Recurrent / convolutional 구조를 완전히 제거하고 attention 만으로
sequence transduction 을 처리하는 Transformer 아키텍처를 제안 ...

## Method
- **Self-attention**: 각 토큰이 모든 위치를 참조
- **Multi-head**: h=8 개 head 가 병렬로 다른 부분 공간 학습

![[assets/1706.03762/figure-1.png]]

## Citations
관련 논문 (BFS depth 2):
- [[Layer Normalization]]
- [[Sequence to Sequence Learning with Neural Networks]]
...

Troubleshooting

증상 원인 / 해결
ModuleNotFoundError: mineru pip install -r requirements.txt (mineru[all] 이 무거우니 시간 좀 걸림)
MinerU 첫 실행이 멈춘 듯 모델 가중치 다운로드 중. 처음엔 5–10분 걸려요. 두 번째부터 즉시
LLM API 키가 필요합니다 GEMINI_API_KEY 또는 OPENAI_API_KEY 환경변수 설정
arxiv id not found URL 이 abs/ 또는 pdf/ 형식인지 확인
429 / rate limit config.yamlbatch.delay_between_papers 를 30 → 60 으로
--bfs --depth 1 인데 결과가 너무 많음 bfs.threshold 를 0.6 → 0.7 로 (관련도 컷오프 강화)
비-arXiv PDF 의 figure 가 다른 논문 figure 와 섞임 최신 fix 됨 — git pull 권장

시스템 권장사항

  • Python 3.10+
  • RAM 8GB+ (MinerU 가 큰 PDF 파싱 시 많이 사용)
  • (선택) GPU — MinerU 가 GPU 있으면 더 빠르게 OCR/layout 추론

라이선스

MIT — LICENSE 참조.

About

arXiv 논문 → 한국어 요약 + Figure 추출 + Obsidian 지식그래프 자동 생성기 (Gemini + Semantic Scholar)

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages