Skip to content

MLOps 컴포넌트 프로비저닝 / 매니지먼트 API 서버

License

Notifications You must be signed in to change notification settings

so1s/so1s-backend

Repository files navigation

So1s Logo

So1s Backend

Spring Boot 기반 Kubernetes MLOps 컴포넌트 프로비저닝 / 매니지먼트 API 서버

프로젝트 소개 페이지로 돌아가기

주요 기능

  • K8s Job 기반 모델 빌드 업로드, 메타데이터 기반 버전 관리 기능 지원
  • Container Image 레지스트리 인증 정보 관리 기능 지원
  • 인퍼런스 서버 Deployment 배포 및 Endpoint 구성
  • Model / Deployment Health Check 기능 지원
  • Istio 기반 ABN Test 인프라 구성 / Multiple Endpoints & Dynamic Weights Traffic Splitting 구현
  • Cluster 내부의 Node 조회 및 Yaml등의 포맷을 통한 상세 사항 확인
  • Inference Server 생성을 위한 Container Resource Template 관리 기능 지원
  • Springfox 기반 OpenAPI 3.0 Swagger API 문서 제공

사용 기술

  • Java 17
  • Gradle 7.4.2
  • Spring Boot 2.7.1
  • Spring Security / JJWT
  • Spring Data JPA / QueryDSL
  • Postgres / H2 Database
  • Springfox 3.0.0 / OpenAPI 3.0
  • Fabric8 Kubernetes / Istio Client
  • JUnit 5 / Mockito
  • Github Actions / Github Packages / Jib