API Gateway ve Load Balancing Teknolojileri

Ocelot

.NET Core projelerinde Ocelot, mikroservis mimarisinde yaygın olarak kullanılan açık kaynaklı bir API Gateway kütüphanesidir. Ocelot temel olarak aşağıdaki hizmetleri sağlamaktadır:

• Request Routing: Gelen HTTP isteklerini belirli kurallar çerçevesinde uygun mikroservislere yönlendirir.
• Load Balancing: Gelen isteklerin yükünü birden fazla mikroservis instance'ı arasında dağıtarak servislerin dengeli bir şekilde çalışmasını sağlayabilir.
• Service Discovery: Mikroservislerin yerlerini dinamik olarak keşfeder ve yönlendirmeyi güncel tutar. Consul, Eureka gibi servis discovery araçlarıyla entegre çalışabilir.
• Authentication: JWT veya başka kimlik doğrulama yöntemlerini kullanarak kimlik doğrulayabilir.

Ocelot Yapılandırmasında Önemli Terimler

• Downstream Path Template: Yönlendirme yapılacak mikroservisin route'unu tutmaktadır.
• Downstream Scheme: İlgili mikroservise yapılacak isteğin hangi protokol üzerinden gerçekleştirileceğini bildirmektedir.
• Downstream Host and Ports: Mikroservisin host ve port bilgilerini tutmaktadır.
• Upstream Path Template: API Gateway üzerinden mikroservise yapılacak yönlendirmenin template'ini tutmaktadır. Bu template ile API Gateway'e gelen istekler Downstream Path Template'deki route'ye yönlendirilecektir.
• Upstream Http Method: Hangi isteklerin yapılabileceğini bildirmektedir.

YARP

YARP (Yet Another Reverse Proxy), Microsoft tarafından geliştirilen açık kaynaklı bir API Gateway ve reverse proxy kütüphanesidir.

YARP'ı kullanabilmek için Yarp.ReverseProxy kütüphanesinin uygulamaya yüklenmesi ve aşağıdaki gibi yapılandırılması gerekmektedir:

var builder = WebApplication.CreateBuilder(args);

builder.Services.AddReverseProxy()
    .LoadFromConfig(builder.Configuration.GetSection("ReverseProxy"));

var app = builder.Build();

app.MapReverseProxy();

app.Run();

Burada görüldüğü üzere AddReverseProxy metoduyla YARP için gerekli servisi uygulamaya ekliyoruz, MapReverseProxy middleware'i ile de reverse proxy özelliğini uygulamada aktifleştiriyoruz. Ayrıca LoadFromConfig metodundan da anlaşılacağı üzere YARP'ı appsettings.json üzerinden yapılandırıyoruz.

Bunun dışında runtime'da da yapılandırma yapılabilir. Bu yapılandırma için kullanacağımız şablon aşağıdaki görseldeki gibi olacaktır. Resimde de görüldüğü üzere YARP'ın yapılandırması Clusters ve Routes temelinde şekillenmiştir.

Clusters

Reverse proxy tarafından yönlendirilen isteklerin hedeflerini belirleyebilmek için birden fazla hedef sunucu veya hizmet gruplandırılmaktadır. Örneğin, bir uygulamadaki farklı yükseklikteki sunucuları veya servisleri bir küme olarak tanımlayabiliriz. Her bir cluster, içerisinde hedef sunucunun ya da servisin adresini belirten destination barındırmaktadır ve bunların sayısı bir veya birden fazla olabilmektedir. Böylece istekler belirli bir küme içindeki farklı hedeflere yönlendirilebilir. Bu, hedef sunucularda çeşitlilik sunabileceği gibi load balancing gibi imkanlar da ekstradan avantajlar sağlayabilmektedir.

Routes

İsteklerin reverse proxy tarafından yönlendirilmesinin hangi kurala, cluster'a ve hedefe göre yönlendirileceği tanımlarını barındırır.

NGINX

Yüksek performanslı ve hafif bir reverse proxy'dir. Web sunucusu, reverse proxy, load balancer olarak kullanılabilir ve DDoS saldırılarına karşı rate limiting davranışı sergileyerek güvenlik amaçlı da kullanılabilir.

Nginx kurulumu için https://nginx.org/en/download.html adresinden cihazınıza uygun versiyonun indirilmesi gerekmektedir. Kurulum işleminden sonra nginx.exe dosyası üzerinden Nginx'i ayağa kaldırabilirsiniz. Daha sonrasında nginx.conf dosyası üzerinden gerekli yapılandırmaların ayarlanması gerekmektedir.

http {
    upstream backend_servers {
        server backend1.example.com;
        server backend2.example.com;
        server backend3.example.com;
    }

    server {
        listen 80;
        server_name example.com;

        location / {
            proxy_pass http://backend_servers;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
        }
    }
}

Yapılandırma Açıklamaları

1. http { ... }

Bu bölüm, Nginx'in HTTP trafiğiyle ilgili genel ayarlarını içerir. Proxy, yük dengeleme, önbellekleme veya hız sınırlama gibi yapılandırmalar genellikle bu blok içinde yapılır.

2. upstream backend_servers { ... }

Burada, gelen isteklerin yönlendirileceği arka uç (backend) sunucular tanımlanır. Her server satırı, Nginx'in yükü dağıtacağı bir hedef sunucuyu gösterir. Varsayılan olarak Round Robin yöntemiyle istekler sırayla bu sunuculara dağıtılır.

3. server { ... }

Bu kısım, belirli bir web sitesi veya alan adı için yapılandırmayı temsil eder. Her server bloğu kendi alan adına veya IP adresine göre gelen istekleri yönetir.

4. listen 80;

Nginx'in hangi port üzerinden gelen istekleri dinleyeceğini belirtir. Port 80, HTTP trafiği için varsayılan bağlantı noktasıdır.

5. server_name example.com;

Bu ayar, yapılandırmanın hangi alan adına gelen istekleri karşılayacağını gösterir. Örneğin example.com adresine gelen istekler bu sunucu bloğu tarafından işlenir.

6. location / { ... }

Bu bölüm, belirli bir yol veya dizin için geçerli olacak yönlendirme kurallarını tanımlar. Buradaki /, ana dizini ifade eder; yani siteye gelen tüm istekleri kapsar.

7. proxy_pass http://backend_servers;

Gelen istekleri upstream kısmında tanımlanan arka uç sunuculara iletir. Bu şekilde Nginx bir reverse proxy görevi üstlenmiş olur.

8. proxy_set_header ...

İsteklerin yönlendirilmesi sırasında bazı ek başlık bilgileri eklenir. Host $host; orijinal alan adını korur, X-Real-IP $remote_addr; ise istemcinin gerçek IP adresini arka uç sunucusuna iletir.