어떤 교육 인가요? | 훈련 목표 · Podman 기반 컨테이너 실행 및 LLM 서비스 구동 · GGUF 기반 Local LLM 실행 구조 이해 · 운영 스크립트 자동 생성 및 코드 리팩토링 · AI 기반 운영 리포트 자동 생성 능력 확보 교육 과정 요약 본 과정은 Local LLM(로컬 대형언어모델) 실행 환경 구성, 컨테이너 기반 LLM 서비스 운영, 그리고 운영 자동화를 위한 코드 생성·리포팅·분석 작업을 AI가 보조하는 구조를 학습하는 실무 과정입니다. 교육 대상 · 컨테이너 기반 AI 서비스 운영에 관심 있는 엔지니어 · DevOps / 인프라 운영자 · Local LLM을 업무 자동화 도구로 도입하려는 실무자 · AI 기반 운영 자동화를 구축해보고 싶은 재직자 | ||||||||||||||||||||||||||||||||||||||||||||||||||||
교육은 이렇게 진행됩니다. | [교육 과정 내용]
| ||||||||||||||||||||||||||||||||||||||||||||||||||||
어떤 교육인가요?
교육 소개
· Podman 기반 컨테이너 실행 및 LLM 서비스 구동
· GGUF 기반 Local LLM 실행 구조 이해
· 운영 스크립트 자동 생성 및 코드 리팩토링
· AI 기반 운영 리포트 자동 생성 능력 확보
교육 내용 요약
본 과정은 Local LLM(로컬 대형언어모델) 실행 환경 구성, 컨테이너 기반 LLM 서비스 운영,
그리고 운영 자동화를 위한 코드 생성·리포팅·분석 작업을 AI가 보조하는 구조를 학습하는 실무 과정입니다.
교육 대상
· 컨테이너 기반 AI 서비스 운영에 관심 있는 엔지니어
· DevOps / 인프라 운영자
· Local LLM을 업무 자동화 도구로 도입하려는 실무자
· AI 기반 운영 자동화를 구축해보고 싶은 재직자
교육은 이렇게 진행됩니다.
[교육 내용 요약]
교과목 | 단원명 | 세부내용 | 시간 |
Local LLM 실행 환경 구성 · Podman 기반 LLM 서비스 운영 | AI·LLM 시스템 개요 | · LLM 구조 개념(Transformer / Tokenizer) · GPU / CPU 기반 로컬 모델 차이 · GGUF 포맷 구조 · Local LLM의 장점과 한계 | 1 |
실습: Local LLM 실행 | · llama.cpp 기반 모델 로딩 · CPU 환경에서 GGUF 모델 구동 · 모델 속도(Profile) 확인 | 1 | |
Podman 기반 컨테이너 아키텍처 | · Podman vs Docker 구조 비교 · Rootless 컨테이너 실행 · Pod 구조 · Container lifecycle | 1 | |
실습: LLM 컨테이너 실행 | · Podman으로 llama.cpp 이미지 실행 · Volume 마운트 방식 · 모델 파일 외부 주입 · API 모드 컨테이너 구동 | 1 | |
LLM API 활용 | · REST API 엔드포인트 구성 · POST 기반 질의 / 응답 · 응답 시간 최적화 개념 · 서비스 안정성 고려 요소 | 1 | |
실습: API 기반 LLM 서비스 구성 | · /generate 엔드포인트 호출 · 파라미터 조정(temperature,top_p등) · 응답 로그 확인 | 1 | |
AI 활용 | · LLM 환경 설정 자동 생성 · 모델 튜닝 옵션 자동 추천 · 오류 발생 시 로그 자동 요약 | 1 | |
IaC 개념 · Ansible 기반 서버 자동화 | IaC(Infrastructure as Code) 개념 이해 | · 선언형(Declarative) vs 명령형(Imperative) 인프라 · 인프라 변경 관리 원리 · Git 기반 코드형 인프라의 장점 | 1 |
실습: IaC 개념 적용 | · 단일 서버에서 설정 변경을 코드화 · Git 커밋 기반 변경 이력 확인 | 1 | |
Ansible 구조 이해 | · Inventory 개념 · Playbook 구조 · Module 구조 · Variables / Template(jinja2) 개념 ·Handler동작방식 | 1 | |
실습: Ansible 기본 | · Inventory 구성 · Playbook 실행 · Template 기반 설정 파일 생성 · Service 재시작 자동화 | 1 | |
Ansible 심화 패턴 | · 조건문(when) · 반복문(loop) · notify / handlers 활용 · Role 구조화 개념 | 1 | |
실습: Role 기반 구성 자동화 | · Role 디렉토리 생성 · vars / tasks / templates 분리 · 모듈화된 웹서버 자동화 구축 | 1 | |
AI 활용 | · Playbook 자동 생성 · Role 구조 자동 제안 · 오류 발생 시 AI 기반 수정 패치 생성 | 1 | |
합계 | 14 | ||