본문 바로가기
728x90
반응형

분류 전체보기76

폐쇄망 환경에서 내부 LLM 서버 구축 아키텍처 — Ollama vs vLLM 비교, RAG 연계, LDAP 인증까지1️⃣ 왜 내부 LLM 서버인가?최근 기업들은 GPT-4나 Claude 같은 클라우드 기반 LLM을 적극 도입하고 있지만,보안상 인터넷이 차단된 폐쇄망(망분리 환경)에서는 외부 모델 사용이 불가능합니다.이때 필요한 것이 바로 내부 LLM 서버(Local LLM Infrastructure)입니다.즉, 오픈소스 기반 모델을 사내 인프라에 직접 배포하고,내부 사용자들이 안전하게 활용할 수 있도록 하는 구조죠.2️⃣ 내부 LLM 서버 구축의 핵심 목표구분목표🔐 보안성외부 통신 차단된 환경에서도 안전하게 운영⚙️ 운영성관리자 중심의 유지보수 및 버전 관리 용이🧠 활용성사내 문서, 매뉴얼, 정책 문서를 LLM과 결합 (RAG)👥 통합성LDA.. 2025. 10. 22.
Docker 기반 서버관리 - Portainer 설치 방법 Portainer는 Docker, Swarm, Kubernetes 환경을 웹 인터페이스로 손쉽게 관리할 수 있는 도구입니다.복잡한 CLI 명령어 대신 브라우저에서 컨테이너, 이미지, 볼륨, 네트워크를 관리할 수 있습니다.🔧 1. Portainer란 무엇인가?Portainer는 Docker의 GUI 관리 도구로,CLI 대신 브라우저 기반 UI를 통해 아래 작업을 손쉽게 수행할 수 있습니다.기능설명🧩 컨테이너 관리컨테이너 시작/중지, 로그 확인, 환경변수 수정🖼️ 이미지 관리이미지 다운로드, 태그 변경, 삭제💾 볼륨 관리볼륨 생성 및 마운트 상태 확인🌐 네트워크 관리브리지/오버레이 네트워크 설정👥 사용자 관리권한 기반 접근 제어 (Role Based Access Control)🖥️ 2. 설치 전.. 2025. 10. 21.
Docker 환경에서 Nginx 설치 및 설정하기 이 글에서는 Docker 환경에서 Nginx를 실행하여 리버스 프록시와 정적 HTML 서비스, 그리고 CORS 오픈 환경을 모두 구성하는 방법을 단계별로 설명합니다. 설정 예시에서는 다음과 같은 요구 사항을 모두 충족합니다.포트 80으로 들어오는 요청 → 10.77.0.99:8080으로 프록시포트 80/api/ 요청 → 10.77.0.99:8080/api로 프록시포트 8040으로 들어오는 요청 → Docker 컨테이너 내 정적 HTML 제공CORS (Cross-Origin Resource Sharing) 완전 개방1. Docker로 Nginx 이미지 다운로드먼저 Docker Hub의 공식 Nginx 이미지를 가져옵니다.sudo docker pull nginx:latest이미지가 성공적으로 내려받아졌는지 .. 2025. 10. 21.
Python 가상환경이란?? 왜필요한가 - 파이썬 가상환경 설정방법 완벽 정리 가이드요즘 파이썬 공부나 프로젝트를 하다 보면 “가상환경(virtual environment)”이라는 말을 정말 자주 듣게 됩니다. 저도 처음에는 “왜 굳이 가상환경을 써야 하지? 그냥 파이썬 설치해서 쓰면 되지 않나?” 싶었는데, 막상 프로젝트를 몇 개 해보다 보니 그 중요성을 확실히 느꼈습니다.이번 글에서는 가상환경이 왜 필요한지, 어떻게 만드는지, 그리고 실제 사용 팁까지 차근차근 정리해보겠습니다.1. 왜 파이썬 가상환경이 필요한가?파이썬은 패키지를 아주 쉽게 설치할 수 있어서 개발이 편하지만, 반대로 프로젝트마다 다른 버전의 패키지가 필요할 때 충돌이 생기기 쉽습니다.예를 들어, A 프로젝트에서는 Django 3.x 버전을 쓰고, B 프로젝트에서는 Django 5.x를 써야 한다고 해봅.. 2025. 10. 16.
728x90
반응형

티스토리툴바