호랑 테크 블로그

Overview MLOps 플랫폼 Kubeflow의 Karpenter 활용 사례를 참고하여 구성 원리를 알아보겠습니다. Karpenter, 카펜터 활용 사례를 확인하기 전 카펜터를 확인하겠습니다. 카펜터는 EC2 Fleet 기반의 클러스터 오토스케일러입니다. 다른 클러스터 오토스케일러인 CA(Cluster Autoscaler)와 특징을 비교하면 다음과 같습니다. CA(Cluster Autosclaer) Karpenter 노드 구성 서비스 EC2 Auto Scaling Group EC2 Fleet 노드 구성 관리 ASG가 노드 구성 Karpenter가 구성 주요 특징 - 단일 인스턴스 타입으로만 노드 그룹 구성 가능 - 노드 증감이 약 5분정도 소요됨(ASG를 통한 노드 검사 및 증설 요청) - 노드 그룹..

Overview EKS 멀티클러스터 옵저버빌리티 구성을 위해 AWS Observability Accelerator을 학습하고 테스트한 내용을 공유합니다. AWS Observability Accelerator AWS Observability Accelerator는 AWS 관리형 관측 가능성 서비스를 사용하여 모니터링, 로깅, 트레이싱를 손 쉽게 구성할 수 있는 모듈입니다. 모듈에서 사용하는 AWS 관리형 관측 가능성 서비스는 다음과 같습니다. Amazon Managed Service for Prometheus: 프로메테우스를 AWS에서 관리형으로 제공하는 서비스입니다. 모듈에서는 metrics 수집에 사용됩니다. AWS Distro for OpenTelemetry: AWS 환경에서 애플리케이션 데이터를 수..

Overview EKS에서 활용할 수 있는 스토리지 옵션을 확인하고, 스트리밍 플랫폼인 Kafka(카프카)에서 고려할 수 있는 스토리지를 알아보겠습니다. EKS Storage Class EKS에서는 CSI Driver를 통해 다양한 스토리지를 파드에 적재하여 관리할 수 있습니다. CSI 드라이버(Container Storage Interface Driver)는 쿠버네티스와 스토리지 사이를 제어하는 인터페이스로 다양한 스토리지 시스템과 상호작용할 수 있습니다. 다음의 아키텍처는 EBS CSI Controller를 통해 파드에서 EBS 볼륨을 적재하는 과정입니다. 특정 클래스를 정의한 PVC를 생성합니다. EBS CSI Controller가 PVC (특정 스토리지 클래스) 이벤트를 감지하여 EBS 생성, 인..

Overview EKS에서 서비스 매시를 활용하기 위해 ISTIO를 학습한 내용을 정리하겠습니다. 학습 내용은 CloudNet@ 가시다님께서 진행하시는 스터디(AEWS2) 내용을 참고하였습니다. 좋은 자료 공유해주시는 가시다님 무한 감사드립니다! ISTIO 서비스 매시(service Mesh) 서비스 매시는 복잡해진 분산 애플리케이션의 서비스(ex. 마이크로서비스 아키텍처)간 통신을 쉽게 관리하고 안정적으로 운영하기 위해 등장했습니다. 서비스 매시는 서비스 간에 매시 형태의 통신이나 그 경로를 제어하는 것을 뜻합니다. 쿠버네티스로 예를 들면 파드 간 경로에 프록시를 놓고 트래픽 모니터링과 트래픽 컨트롤하여 복잡한 운영 요구 사항을 해결할 수 있게 됩니다.요구 사항에는 A/B 테스트, 카나리아 배포, 속도..

Overview 멀티 EKS 클러스터를 편리하게 구성할 수 있는 방법을 찾아보는 중 Gitops Bridge이라는 프로젝트가 있어 테스트하고 정리한 글을 공유합니다.  멀티클러스터 구성 자동화 프로젝트를 확인하기 전, 멀티 EKS 구성 자동화의 필요성을 정리하겠습니다. 필자는 아래 단계대로 EKS 및 테스트 환경 구성합니다. EKS Cluster : eksctl 이나 Terraform를 통해 구성EKS addons : 필요 IAM 정책 생성 및 Helm chart를 통해 구성Application Workload : addon 에 따라 yaml 구성하여 배포  지금와서 생각해보면 테라폼을 통해 전부 구성하면 되는 거 아니야? 라고 생각할 수 있지만, 작년 기준으로 Terraform 의 yaml와 helm ..

작년 ChatGPT를 시작으로 생성형 AI 기술이 각광받고 있습니다. 필자는 ChatGPT AI 기술인 LLM(대형 언어 모델)를 관심있게 보고 있었는데 AWSKRUG 모임에서 제공해주신 발표를 통해 LLM 기술을 쉽게 접할 수 있었습니다. 특히 최근 마곡 소모임에서 테라폼 공식 문서를 학습하고, 평가해주는 모델을 생성하는 것을 보고 인상 깊게 생각했는데요. 그렇다면 앤서블(Ansible) 을 LLM로 학습시켜 돌려보면 어떨까 라는 생각으로 해당 글을 작성하게 되었습니다. 앤서블을 LLM을 통해 학습시켜야겠다는 생각은 앤서블 최신 버전에 따른 모듈 변경이였는데요. 오픈소스 프로젝트를 주로 보는 필자 입장으로 보자면 다음의 과정을 통해 LLM의 필요성을 느꼈습니다. 앤서블 최신 버전 업데이트로 모듈과 옵션..

지난 포스트 글에 이어 Packer를 통해 EKS Node에 대한 최적화 AMI를 구성하겠습니다. 먼저, AWS 공식문서를 참고하면 EKS 최적화 AMI 구성 내용을 확인할 수 있는데요. 주요 구성 요소와 특징은 다음과 같습니다. 최신 EKS addon 구성 AWS IAM 인증 관리 커널 업그레이드 및 최적화 워크 노드 필수 패키지 설치 : 컨테이너 엔진 설치 보안 및 프라이버시 이벤트 추적 GPU 드라이버 설치 및 가속 설정 공식 문서 마지막을 참고하면, 최적화 AMI를 빌드하는 데 사용되는 오픈소스 스크립트를 확인할 수 있습니다. amazon-eks-ami https://github.com/awslabs/amazon-eks-ami/tree/master https://awslabs.github.io/a..

A101(=Ansible 101 Study)는 Ansible 실무 실습 스터디입니다. CloudNet@ 가시다 님이 진행하시며, 책 "앤서블로 시작하는 인프라 자동화"을 기반으로 진행하고 있습니다. 골든이미지(Goalden Image)는 특정 시점에서 완벽하게 구성(검증, 최적화, 보안, 필요한 패치, 시스템 설정)된 시스템의 이미지입니다. 이번 시간에는 도구 Ansible과 Packer를 통하여 Ubuntu OS 골든이미지를 구성하겠습니다. Packer ? Packer란 이미지(머신, 이미지, 컨테이너 이미지) 생성 자동화 도구입니다. 특징을 정리하면 다음과 같습니다. 코드를 통한 이미지 구성 : 코드를 통해 이미지가 생성되어 코드 관리 및 불변 인프라 특징을 가집니다. 다양한 플랫폼 제공 : 플랫폼(..

A101 3기(=Ansible 101 Study)는 Ansible 실무 실습 스터디입니다. CloudNet@ 가시다 님이 진행하시며, 책 "앤서블로 시작하는 인프라 자동화"을 기반으로 진행하고 있습니다. 이번 글에서는 앤서블 관리 팁들과 기본 문법을 실습한 내용을 정리하였습니다. Ansible Secret Manage 악분님께서 공유해주신 앤서블 보안 키 관리로 AWS 시크릿 매니저를 통한 보안 관리 방법을 실습하겠습니다. 앤시블 플레이북 실행을 위한 접근 키 저장소로 AWS 시크릿 매니저를 사용하였습니다. 앤시블 플레이북 실행시 AWS 매니저에서 키를 조회하여 수행합니다. AWS SecretManager 연동 실습 # AWS 시크릿 매니저 IAM 권한 확인 aws sts get-caller-identi..

A101 3기(=Ansible 101 Study)는 Ansible 실무 실습 스터디입니다. CloudNet@ 가시다 님이 진행하시며, 책 "앤서블로 시작하는 인프라 자동화"을 기반으로 진행하고 있습니다. 여러 서버를 통합해서 관리할 수 있는 도구를 찾고 있던 도중 Ansible를 알게 되었습니다. 쿠버네티스 실무자인 저에게 Ansible 는 IaC 도구로 테라폼의 영향으로 더 이상 안쓰는 것으로 알았지만, 클러스터 구축 이후의 k8s 운영 관리, 클러스터 외 서버(ec2) 관리 목적으로 사용되더군요. 운영 측면에서 Ansible을 통해 어떻게 서버를 관리할 수 있는 지 알아보겠습니다. Ansible ? Ansible 이란 오픈소스 자동화 도구로 다양한 IT 작업을 자동화하는데 사용되는 도구입니다. Ans..