개요
DeepIntent는 의료 마케팅 담당자가 디지털 접점을 통해 의료 서비스 제공자 및 환자에게 다가갈 수 있는 DSP(수요측 플랫폼) 서비스를 제공합니다. DSP는 확장 가능하고 안정적인 방식으로 초당 수십만 개의 요청을 관리합니다.
도전
DeepIntent의 광고 제공 플랫폼은 매일 수십억 건의 고도로 타겟팅된 광고 노출을 제공하도록 설계되었습니다. 이 회사는 서비스를 제공하기 위해 Amazon Web Services(AWS) Elastic Load Balancer(ELB)를 사용했지만 광고 수가 증가함에 따라 광고 제공 비용도 늘어나 결국 지속 불가능할 정도로 ELB 요금이 월 $20,000 이상으로 늘어났습니다. 인바운드 및 아웃바운드 대역폭도 추가됩니다.
DeepIntent는 비용 절감 외에도 짧은 지연 시간으로 초당 수십만 개의 광고 요청을 제공해야 했습니다. 여기서는 로드 밸런싱이 미션 크리티컬한 동시에 전반적인 네트워크 가시성과 명확하고 실행 가능한 지표도 성능 튜닝에 필수적이었습니다.
DeepIntent는 동일한 볼륨의 연결을 계속 처리하고 모든 연결 요청을 활성 상태로 유지해야 했습니다. 또한 비즈니스의 필수 요구 사항은 AWS Auto Scaling 그룹을 사용하여 인스턴스를 신속하게 추가하고 제거하는 기능이었습니다.
마지막으로 DeepIntent의 기술 팀은 이전에 오픈 소스 NGINX 소프트웨어를 사용했기 때문에 모든 교체도 마찬가지로 구성 및 최적화가 쉬워야 했습니다.
해결책
DeepIntent 기술 팀은 처음에 AWS ELB의 대안으로 HAProxy 및 NGINX Plus에 대한 유료 버전을 평가했습니다. NGINX Plus는 평가에서 승리했으며 구성이 간단하고 NGINX Plus가 활성 상태 확인과 같은 더 많은 엔터프라이즈급 기능을 제공했기 때문에 구현되었습니다.
지식이 풍부하고 반응이 빠른 NGINX 지원 팀은 IP 주소 공간을 사용할 수 있고 시스템 리소스가 상자당 700,000개 이상의 활성 연결을 처리하기에 충분하도록 구성에 대한 사소한 변경을 지원했습니다.
원활한 구현에 따라 DeepIntent는 다음을 위해 NGINX Plus를 사용합니다.
- 로드 밸런싱
- SSL 종료
- 활성 상태 확인
- AWS에서 호스팅되는 앱에 대한 API 게이트웨이
Auto Scaling은 NGINX Plus 인스턴스 수를 현재 워크로드에 적합한 양으로 조정하여 비용을 절감하는 데 도움이 되었습니다.
DeepIntent는 NGINX Plus API를 사용하여 NGINX Plus의 고유한 기능인 업스트림 서버를 동적으로 추가하고 제거할 수 있었습니다. 최적의 설정을 보장하기 위해 DeepIntent 팀은 NGINX Plus용 AWS Quick Start에서 템플릿 프로젝트를 사용자 지정했습니다.
향상된 가시성 및 모니터링을 위해 DeepIntent는 AWS CloudWatch와의 사용자 지정 통합을 만들었습니다. 기술적으로 간단한 통합인 새로운 설정은 경고를 제공하고 지표를 CloudWatch로 쉽게 내보낼 수 있도록 보장합니다.
DeepIntent는 3개 주요 지역(아시아, 미국 및 유럽) 각각에 200~400개의 트래픽을 프록시하는 한 쌍의 NGINX Plus 서버로 구성된 대규모 AWS 설치를 실행하므로 활성 상태 확인은 혼합의 필수 부분입니다. 다양한 서비스.
DeepIntent는 또한 신규 서버와 복구된 서버가 부하 분산 그룹에 추가될 때 느린 시작 기능의 이점을 얻었습니다. 이제 회사는 훨씬 더 다양한 문제를 감지하고 해결하여 HTTP 및 TCP/UDP 애플리케이션의 안정성을 크게 향상시킬 수 있습니다.
“NGINX Plus에는 구성 및 배포가 복잡한 것이 하나도 없기 때문에 우리는 이를 매우 최적화하는 데 집중할 수 있었습니다. NGINX 지원 팀은 우리가 수행한 작은 조정에 매우 도움이 되었습니다. 전반적으로 NGINX Plus는 ELB보다 더 나은 대기 시간을 제공하고 비용 효율적이므로 진정한 win-win입니다!”
– DeepIntent의 수석 소프트웨어 엔지니어 Rickey Visinski
Google DNS는 미국, 아시아 및 유럽 AWS 지역에서 NGINX Plus를 통해 부하 분산된 앱 인스턴스로 트래픽을 라우팅합니다.
결과
NGINX Plus를 사용하면 DeepIntent가 플래티넘 등급 연결을 유지하면서 비용을 제어할 수 있습니다. DeepIntent가 해결하려고 했던 주요 비용 문제는 네트워크 트래픽이 폭발적으로 증가하는 경우에도 효율적으로 완화되었으며 상당한 월간 지출 $20,000 이상에서 비교적 만족스러운 $500로 40배 감소되었습니다.NGINX Plus의 초기 구현 이후 트래픽은 초당 100,000건에서 500,000건으로 증가했으며 그 추세는 계속됩니다.
“핵심 초점은 네트워크 안정성이었습니다. 이를 통해 우리는 두 번째로 백만 건의 요청을 향해 계속해서 나아갈 수 있었습니다. 우리는 지속적으로 성장하고 있으며 더 많은 광고를 판매하고 있으며 결과적으로 더 많은 광고 요청을 받고 있습니다."
DeepIntent의 수석 소프트웨어 엔지니어인 Rickey Visinski
DeepIntent는 또한 활성 상태 확인을 통해 전반적인 가시성을 향상시켜 마음의 평화를 제공합니다. 또한 CloudWatch 통합, 중앙 집중식 로그 관리, 구성 가능한 임계값 기반 알림을 통해 DeepIntent는 전체 네트워크에 걸쳐 명확하고 실시간에 가까운 가시성을 확보합니다.
DeepIntent 소개
DeepIntent는 의료 마케팅 담당자를 위한 광고 구매 및 판매 방식을 개선하기 위해 최첨단 인공 지능 및 신원 데이터를 적용하는 차세대 마케팅 기술 회사입니다. DeepIntent는 선택 및 모델링된 임상 데이터를 기반으로 100만 명 이상의 의료 의사와 브랜드별 환자 청중에게 고유한 도달 범위를 제공하는 최초의 DSP(수요측 플랫폼)로서 제약 및 의료 분야에서 측정 가능한 비즈니스 결과를 도출하는 셀프 서비스 및 관리형 서비스를 제공합니다.
DeepIntent는 의료 마케팅 담당자가 디지털 접점을 통해 의료 서비스 제공자 및 환자에게 다가갈 수 있는 DSP(수요측 플랫폼) 서비스를 제공합니다. DSP는 확장 가능하고 안정적인 방식으로 초당 수십만 개의 요청을 관리합니다.
도전
DeepIntent의 광고 제공 플랫폼은 매일 수십억 건의 고도로 타겟팅된 광고 노출을 제공하도록 설계되었습니다. 이 회사는 서비스를 제공하기 위해 Amazon Web Services(AWS) Elastic Load Balancer(ELB)를 사용했지만 광고 수가 증가함에 따라 광고 제공 비용도 늘어나 결국 지속 불가능할 정도로 ELB 요금이 월 $20,000 이상으로 늘어났습니다. 인바운드 및 아웃바운드 대역폭도 추가됩니다.
DeepIntent는 비용 절감 외에도 짧은 지연 시간으로 초당 수십만 개의 광고 요청을 제공해야 했습니다. 여기서는 로드 밸런싱이 미션 크리티컬한 동시에 전반적인 네트워크 가시성과 명확하고 실행 가능한 지표도 성능 튜닝에 필수적이었습니다.
DeepIntent는 동일한 볼륨의 연결을 계속 처리하고 모든 연결 요청을 활성 상태로 유지해야 했습니다. 또한 비즈니스의 필수 요구 사항은 AWS Auto Scaling 그룹을 사용하여 인스턴스를 신속하게 추가하고 제거하는 기능이었습니다.
마지막으로 DeepIntent의 기술 팀은 이전에 오픈 소스 NGINX 소프트웨어를 사용했기 때문에 모든 교체도 마찬가지로 구성 및 최적화가 쉬워야 했습니다.
해결책
DeepIntent 기술 팀은 처음에 AWS ELB의 대안으로 HAProxy 및 NGINX Plus에 대한 유료 버전을 평가했습니다. NGINX Plus는 평가에서 승리했으며 구성이 간단하고 NGINX Plus가 활성 상태 확인과 같은 더 많은 엔터프라이즈급 기능을 제공했기 때문에 구현되었습니다.
지식이 풍부하고 반응이 빠른 NGINX 지원 팀은 IP 주소 공간을 사용할 수 있고 시스템 리소스가 상자당 700,000개 이상의 활성 연결을 처리하기에 충분하도록 구성에 대한 사소한 변경을 지원했습니다.
원활한 구현에 따라 DeepIntent는 다음을 위해 NGINX Plus를 사용합니다.
Auto Scaling은 NGINX Plus 인스턴스 수를 현재 워크로드에 적합한 양으로 조정하여 비용을 절감하는 데 도움이 되었습니다.
DeepIntent는 NGINX Plus API를 사용하여 NGINX Plus의 고유한 기능인 업스트림 서버를 동적으로 추가하고 제거할 수 있었습니다. 최적의 설정을 보장하기 위해 DeepIntent 팀은 NGINX Plus용 AWS Quick Start에서 템플릿 프로젝트를 사용자 지정했습니다.
향상된 가시성 및 모니터링을 위해 DeepIntent는 AWS CloudWatch와의 사용자 지정 통합을 만들었습니다. 기술적으로 간단한 통합인 새로운 설정은 경고를 제공하고 지표를 CloudWatch로 쉽게 내보낼 수 있도록 보장합니다.
DeepIntent는 3개 주요 지역(아시아, 미국 및 유럽) 각각에 200~400개의 트래픽을 프록시하는 한 쌍의 NGINX Plus 서버로 구성된 대규모 AWS 설치를 실행하므로 활성 상태 확인은 혼합의 필수 부분입니다. 다양한 서비스.
DeepIntent는 또한 신규 서버와 복구된 서버가 부하 분산 그룹에 추가될 때 느린 시작 기능의 이점을 얻었습니다. 이제 회사는 훨씬 더 다양한 문제를 감지하고 해결하여 HTTP 및 TCP/UDP 애플리케이션의 안정성을 크게 향상시킬 수 있습니다.
결과
NGINX Plus를 사용하면 DeepIntent가 플래티넘 등급 연결을 유지하면서 비용을 제어할 수 있습니다. DeepIntent가 해결하려고 했던 주요 비용 문제는 네트워크 트래픽이 폭발적으로 증가하는 경우에도 효율적으로 완화되었으며 상당한 월간 지출 $20,000 이상에서 비교적 만족스러운 $500로 40배 감소되었습니다.NGINX Plus의 초기 구현 이후 트래픽은 초당 100,000건에서 500,000건으로 증가했으며 그 추세는 계속됩니다.
“핵심 초점은 네트워크 안정성이었습니다. 이를 통해 우리는 두 번째로 백만 건의 요청을 향해 계속해서 나아갈 수 있었습니다. 우리는 지속적으로 성장하고 있으며 더 많은 광고를 판매하고 있으며 결과적으로 더 많은 광고 요청을 받고 있습니다."
DeepIntent의 수석 소프트웨어 엔지니어인 Rickey Visinski
DeepIntent는 또한 활성 상태 확인을 통해 전반적인 가시성을 향상시켜 마음의 평화를 제공합니다. 또한 CloudWatch 통합, 중앙 집중식 로그 관리, 구성 가능한 임계값 기반 알림을 통해 DeepIntent는 전체 네트워크에 걸쳐 명확하고 실시간에 가까운 가시성을 확보합니다.
DeepIntent 소개
DeepIntent는 의료 마케팅 담당자를 위한 광고 구매 및 판매 방식을 개선하기 위해 최첨단 인공 지능 및 신원 데이터를 적용하는 차세대 마케팅 기술 회사입니다. DeepIntent는 선택 및 모델링된 임상 데이터를 기반으로 100만 명 이상의 의료 의사와 브랜드별 환자 청중에게 고유한 도달 범위를 제공하는 최초의 DSP(수요측 플랫폼)로서 제약 및 의료 분야에서 측정 가능한 비즈니스 결과를 도출하는 셀프 서비스 및 관리형 서비스를 제공합니다.