호랑 테크 블로그

Amazon VPC Lattice for Amazon EKS 워크샵 내용을 정리합니다. 워크샵 제공해주신 AWS 관계자님 & CloudNET@ 가시다님 감사합니다. VPC Lattice 등장 배경여러 EKS 사용의 워크로드 Service Discovery : 애플리케이션 끼리 통신을 하기 위해선 가장 먼저 내가 통신하고 싶은 서비스 혹은 마이크로 서비스가 어디에 있는지를 아는 것이 선행 되어야 함Service Mesh : 마이크로 서비스가 늘어나면서 네트워크 복잡성 증가 및 공통 기능 적용(서킷브레이커, 재시도 로직, 타임아웃, 인증 등)의 요구사항 이 생김분홍색 ) 은 프록시 컨테이너로 네트워크 통신을 제어하기 위해 구성 이러한 방식의 애플리케이션 네트워킹의 한계점Ingress와 Service Disc..

Build GenAI & ML for Performance and Scale, using Amazon EKS, Amazon FSx and AWS Inferentia 워크샵 내용을 정리합니다.워크샵 제공해주신 AWS 관계자님 & CloudNET@ 가시다님 감사합니다. 워크샵에서는 EKS에서 LLM을 다루기 위한 AWS 서비스를 소개합니다.FSx for LustreAWS InterentiaAmazon FSx for Lustre에 모델 데이터 호스팅AI 모델(Mistral-7B-Instruct)을 Amazon S3에 저장하고, 이 데이터를 빠르게 사용할 수 있도록 Amazon FSx for Lustre 에 연결합니다. Kubernetes 기반의 Amazon EKS 클러스터는 이 파일 시스템에서 모델 데이터를 ..

K8S 파드에서 노드를 관리하기 위해 실습한 내용을 공유합니다.실습 내용은 가시다님이 진행하는 CloudNet 스터디를 참고하였습니다. 파드에서 노드를 관리하기 위한 상황은 많습니다.서버 모니터링이 될 수 도 있고, 서버 관리를 위해 서드 파티의 솔루션을 사용할 수 있습니다.노드 관리를 위한 방법을 정리하겠습니다.방법장점단점사용 추천 상황AWS SSMSSH 없이 원격 실행 가능SSM IAM 권한 필요, 에이전트가 설치되어 있어야 함 수동으로 설치해야 함운영 중인 노드에서 수동으로 설치해야 할 때골든 이미지(AMI)모든 노드에 동일 환경 보장, 빠른 부팅 시간AMI 변경 시 재배포 필요, AMI 관리 부담 있음자주 재사용되는 설정이 없고, 노드 부팅 속도가 필요할 때UserData새로운 노드에 자동 배포기..

EKS Version Upgrade 워크샵 내용을 정리합니다. Amazon EKS Upgrades: Strategies and Best Practices워크샵 제공해주신 AWS 관계자님 & 가시다님 감사합니다.   Version UpgradeEKS는 쿠버네티스 프로젝트 릴리스 주기를 따르며, 평균 4개월에 한번씩 마이너 버전이 출시됩니다.EKS는 마이너 버전 출시 후 14개월동안 EKS 표준 지원을 받습니다.표준 지원이 끝지나면 12개월동안 확장지원이 지원되나 비용이 6배 증가합니다.표준 지원 : 클러스터 별 시간당 0.1$, 확장지원 0.6$25년 4월 기준 버전 출시일정은 다음과 같습니다. Kubernetes 클러스터의 보안, 안정성, 성능 및 호환성을 유지하는 데 중요하며, 플랫폼에서 제공하는 최신..