본문 바로가기

분류 전체보기336

FastAPI + LLM으로 나만의 AI API 서버 만들기 FastAPI + LLM으로 나만의 AI API 서버 만들기2026년 4월 기준 | AI 개발 가이드 · FastAPI 0.111+ · Python 3.11+요약: ChatGPT같은 AI 챗봇을 직접 만들고 싶은데 어디서 시작해야 할지 막막한가요? FastAPI와 LLM을 조합하면 production 수준의 AI API 서버를 생각보다 빠르게 구축할 수 있습니다. 이 글에서는 기본 서버 세팅부터 스트리밍 응답, 에러 핸들링, Docker 배포까지 실제 동작하는 코드를 중심으로 설명합니다. 중간중간 성능 벤치마크 수치도 같이 공유합니다.목차왜 FastAPI인가전체 아키텍처 설계FastAPI 기본 서버 구축LLM 연동 (OpenAI / Claude)스트리밍 응답 구현에러 핸들링과 재시도 전략성능 벤치마크Do.. 2026. 4. 12.
Hugging Face Transformers 입문 - 로컬에서 AI 모델 돌리기 Hugging Face Transformers 입문 - 로컬에서 AI 모델 돌리기2026년 4월 기준 | AI 신기능 분석 · 실전 가이드요약: Hugging Face의 transformers 라이브러리를 쓰면 텍스트 생성부터 감정 분석, 번역, 이미지 인식까지 수천 개의 사전학습 모델을 코드 몇 줄로 로컬에서 직접 돌릴 수 있습니다. 처음 써보면 "이게 진짜로 내 컴퓨터에서 돌아가는 거야?" 싶을 정도입니다. 설치부터 실제 동작 확인, CPU와 GPU 성능 비교까지 직접 테스트한 내용을 담았습니다.목차왜 Hugging Face인가 - API가 있는데 굳이?설치 및 환경 구성pipeline API - 코드 3줄로 AI 모델 돌리기텍스트 생성 모델 실전 예제감정 분석 - 한국어 모델 써보기번역 모델 로컬에.. 2026. 4. 12.
AI로 자동 블로그 글 작성 파이프라인 만들기 - API + SEO 최적화 AI로 자동 블로그 글 작성 파이프라인 만들기 - API + SEO 최적화2026년 4월 기준 | AI API 활용 · 자동화 · SEO요약: OpenAI API와 파이썬을 이용해 키워드 분석부터 HTML 초안 생성까지 전 과정을 자동화하는 파이프라인을 만드는 방법입니다. 실제 운영하면서 파악한 비용 구조, SEO 최적화 포인트, 그리고 품질 검증 단계까지 담았습니다. 월 100개 이상의 글을 생성하는 구조를 목표로 합니다.목차왜 파이프라인이 필요한가전체 구조와 흐름SEO 키워드 추출 구현AI 글 생성 파이프라인 코드품질 검증 및 후처리실제 비용 데이터와 모델 비교실전 운영 팁마무리왜 파이프라인이 필요한가ChatGPT에 "블로그 글 써줘"라고 하면 그럭저럭 읽히는 글이 나옵니다. 하지만 그걸 블로그에 올.. 2026. 4. 12.
Claude 3.5 vs GPT-4o 긴 문서 요약 능력 비교 - 논문 10편으로 실측 Claude 3.5 vs GPT-4o 긴 문서 요약 능력 비교 - 논문 10편으로 실측2026년 4월 기준 | AI 도구 비교 · 논문 요약 실측요약: 실제 논문 10편(평균 8,000단어)을 Claude 3.5 Sonnet과 GPT-4o에 넣고 요약 품질, 핵심 추출 정확도, 환각률, 처리 속도를 직접 측정했습니다. 두 모델이 '긴 글 요약'에서 보이는 차이는 생각보다 선명합니다.목차왜 논문 요약인가실험 세팅종합 비교표논문 요약 실측 예시 3선환각(Hallucination) 측정 결과실전 프롬프트 예시자동화 코드 예제실전 팁결론왜 논문 요약인가ChatGPT와 Claude를 일상적으로 쓰는 사람들이 가장 많이 하는 작업 중 하나가 "긴 글 요약"입니다. 블로그 글이나 뉴스 기사는 짧아서 두 모델의 차이가.. 2026. 4. 12.
Docker로 AI 개발 환경 한 방에 세팅하기 - GPU 포함 완전 가이드 Docker로 AI 개발 환경 한 방에 세팅하기 - GPU 포함 완전 가이드2026년 4월 기준 | AI 개발 가이드 · 환경 구축요약: "내 PC에서는 됐는데 서버에서 안 돼요"는 AI 개발자라면 누구나 한 번쯤 겪는 지옥입니다. Docker를 쓰면 CUDA 버전, Python 버전, 패키지 충돌 같은 문제를 컨테이너 하나로 봉인할 수 있습니다. Dockerfile 작성부터 GPU 패스스루, docker-compose로 Jupyter + FastAPI 한 번에 띄우기까지, 실제로 쓰는 방식을 그대로 정리했습니다.목차AI 개발에 Docker가 필요한 이유사전 준비 - NVIDIA 드라이버 & Docker 설치Dockerfile 작성 - GPU 환경 기반docker-compose로 전체 스택 구성GPU 인.. 2026. 4. 12.
파이썬으로 AI 음성 인식 앱 만들기 - Whisper API 완전 가이드 파이썬으로 AI 음성 인식 앱 만들기 - Whisper API 완전 가이드2026년 4월 기준 | AI API 활용이 글에서 다루는 것: OpenAI Whisper API를 활용해 음성을 텍스트로 변환하는 파이썬 앱을 처음부터 끝까지 만듭니다. 기본적인 음성 인식부터 실시간 마이크 입력 처리, 화자 분리, 자막 생성, 그리고 GPT와 연동해서 회의록을 자동 요약하는 시스템까지 단계별로 구현합니다. 로컬 Whisper 모델과 API의 성능/비용 비교 실측 결과도 포함했습니다.목차Whisper란 무엇인가환경 설정 및 API 키 발급기본 음성 인식 - 파일을 텍스트로실시간 마이크 음성 인식자막 파일(SRT) 자동 생성회의록 자동 생성 시스템로컬 Whisper vs API - 성능/비용 비교실무 팁과 주의사항마.. 2026. 4. 11.

티스토리툴바