Skip to content

preferenceAI-kafkaBasedPipeline/cdk-AI-inference-no-context-var

 
 

Repository files navigation

Welcome to your CDK TypeScript project

This is a blank project for CDK development with TypeScript.

The cdk.json file tells the CDK Toolkit how to execute your app.

gpu template is added

prerequisite

- G and VT on Demend & Spot(비용 아끼기) vCPU Quota 할당 필요 

Main Stacks

스크린샷 2024-12-14 083953

Lambda+Gateway Stack

스크린샷 2024-12-14 084005

AI cluster abstract

sts drawio (3)

aws ac

제목 없는 다이dsdsfa어그램 drawio

세팅

  • AI 추론 클러스터 VPC와 mongoDB VPC 피어링
  • 클러스터 VPC에서 실제 피어링단과 상호작용하는 서브넷의 라우팅 테이블을 MongoDB vpc 피어링 속성으로 추가
  • ingress피어링도 추가해야됨, 몽고디비 잘 돌아갈때까지 피어링 말고 기다려
  • 그러한 private Subnet은, AI 추론 전용 API 단과 연결되어있어, 여기서 MongoDB와 유일통신. 중개 API를 모두 모아서 관리

상품 정보 -> 임베딩 특성 값으로 추론 및 증강 -> Atlas DB에 저장(Only peering을 통한 접근)

fafafafs

커스텀 장바구니 상품 메타데이터로 제목 생

asfsf

ad - 2주전 만든 임시자료

제목 없는 다이어그sfssfsffsf램 drawio

-굳이 넣고싶다면, DB 피어링 AWS 서비스 밖으로 뺴자, 통신구조 더 간단하게 해도 무방함 이젠 ..

composer set

application-composer-CdkTestStack yaml

application-composer-LambdaRelStack yaml

모든 origin 에 대한 요청이 모두 유효함 (통신 test 완료): 추후 alb에 inbound 제약조건 활성화

fafs21

About

actual code to deploy Servers (no context var)

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages

  • Python 95.5%
  • C 3.8%
  • Other 0.7%