微软用它取代了`Nginx`吞吐量提升了百分之八十!
Azure應用服務用YARP取代了Nginx,獲得了80%以上的吞吐量。他們每天處理160B多個請求(1.9 m RPS)。這是微軟的一項了不起的技術創新。
首先我們來介紹一下什么是Yarp
Yarp是什么?
YARP(Yet Another Reverse Proxy)是一個開源的、高性能的反向代理庫,由Microsoft開發,使用C#語言編寫。它旨在作為.NET平臺上構建反向代理服務器的基礎。YARP主要針對.NET 5及以上版本,允許開發者在.NET應用程序中輕松地實現反向代理的功能。
YARP的主要特點和功能:
- 模塊化和可擴展性: YARP設計成高度模塊化的,這意味著可以根據需要替換或擴展內部組件,如HTTP請求路由、負載均衡、健康檢查等。
- 性能: YARP針對高性能進行了優化,利用了.NET的異步編程模型和高效的IO操作,以處理大量并發連接。
- 配置驅動: YARP的行為可以通過配置來控制,支持從文件、數據庫或其他來源動態加載配置。
- 路由: 可以基于各種參數(如路徑、頭部、查詢參數)配置請求路由規則。
- 負載均衡: 內置多種負載均衡策略,如輪詢、最少連接、隨機選擇等,并且可以自定義負載均衡策略。
- 健康檢查: 支持后端服務的健康檢查,以確保請求只會被轉發到健康的后端服務實例。
- 轉換器: 允許對請求和響應進行轉換,如修改頭部、路徑或查詢參數。
- 會話親和性: 支持會話親和性(Session Affinity),確保來自同一客戶端的請求被發送到相同的后端服務實例。
使用YARP的一些場景:
- 反向代理: 在客戶端和后端服務之間提供一個中間層,用于請求轉發和負載均衡。
- API網關: 作為微服務架構中的API網關,提供路由、鑒權、監控等功能。
- 邊緣服務: 在應用程序和外部世界之間提供安全層,處理SSL終止、請求限制等任務。
Yarp簡單的使用
創建一個WebApi的項目
安裝Nuget包
<ItemGroup>
<PackageReference Include="Yarp.ReverseProxy" Version="2.0.0" />
</ItemGroup>
打開appsettings.json
{
"Logging": {
"LogLevel": {
"Default": "Information",
"Microsoft": "Warning",
"Microsoft.Hosting.Lifetime": "Information"
}
},
"AllowedHosts": "*",
"ReverseProxy": {
"Routes": {
"route1" : {
"ClusterId": "cluster1",
"Match": {
"Path": "{**catch-all}"
}
}
},
"Clusters": {
"cluster1": {
"Destinations": {
"destination1": {
"Address": "https://cn.bing.com/"
}
}
}
}
}
}
打開Program.cs
var builder = WebApplication.CreateBuilder(args);
builder.Services.AddReverseProxy()
.LoadFromConfig(builder.Configuration.GetSection("ReverseProxy"));
var app = builder.Build();
app.MapReverseProxy();
app.Run();
然后啟動項目,訪問我們的api就會被代理轉發到bing上
Yarp工具代理使用
下面我們在提供一個在中間件使用yarp的方式
我們需要用到IHttpForwarder
先修改Program.cs 在這里我們注入了HttpForwarder,然后提供一個Run中間件,在中間件中手動指定了端點的地址https://cn.bing.com/ 然后我們啟動一下項目。
using Yarp.ReverseProxy.Forwarder;
var builder = WebApplication.CreateBuilder(args);
builder.Services.AddHttpForwarder(); // 注入IHttpForwarder
var app = builder.Build();
var httpMessage = new HttpMessageInvoker(new HttpClientHandler());
app.Run((async context =>
{
var httpForwarder = context.RequestServices.GetRequiredService<IHttpForwarder>();
var destinationPrefix = "https://cn.bing.com/";
await httpForwarder.SendAsync(context, destinationPrefix, httpMessage);
}));
app.Run();
也是一樣會被代理過去,但是于簡單使用不一樣的是我們是在代碼層面控制代理的。
使用yarp修改Bing的響應內容
我們繼續基于上面的代理使用進行修改bing的相應內容!
打開Program.cs
var builder = WebApplication.CreateBuilder(args);
builder.Services.AddHttpForwarder(); // 注入IHttpForwarder
var app = builder.Build();
var httpMessage = new HttpMessageInvoker(new HttpClientHandler()
{
// 忽略https錯誤
ServerCertificateCustomValidationCallback = (_, _, _, _) => true,
AllowAutoRedirect = false,
AutomaticDecompression = DecompressionMethods.GZip,
UseCookies = false,
UseProxy = false,
UseDefaultCredentials = true,
});
var destinationPrefix = "https://cn.bing.com/";
var bingTransformer = new BingTransformer();
app.Run((async context =>
{
var httpForwarder = context.RequestServices.GetRequiredService<IHttpForwarder>();
await httpForwarder.SendAsync(context, destinationPrefix, httpMessage, new ForwarderRequestConfig(),
bingTransformer);
}));
app.Run();
創建BingTransformer.cs
public class BingTransformer : HttpTransformer
{
public override async ValueTask TransformRequestAsync(HttpContext httpContext, HttpRequestMessage proxyRequest,
string destinationPrefix,
CancellationToken cancellationToken)
{
var uri = RequestUtilities.MakeDestinationAddress(destinationPrefix, httpContext.Request.Path,
httpContext.Request.QueryString);
proxyRequest.RequestUri = uri;
proxyRequest.Headers.Host = uri.Host;
await base.TransformRequestAsync(httpContext, proxyRequest, destinationPrefix, cancellationToken);
}
public override async ValueTask<bool> TransformResponseAsync(HttpContext httpContext,
HttpResponseMessage? proxyResponse,
CancellationToken cancellationToken)
{
await base.TransformResponseAsync(httpContext, proxyResponse, cancellationToken);
if (httpContext.Request.Method == "GET" &&
httpContext.Response.Headers["Content-Type"].Any(x => x.StartsWith("text/html")))
{
var encoding = proxyResponse.Content.Headers.FirstOrDefault(x => x.Key == "Content-Encoding").Value;
if (encoding?.FirstOrDefault() == "gzip")
{
var content = proxyResponse?.Content.ReadAsByteArrayAsync(cancellationToken).Result;
if (content != null)
{
var result = Encoding.UTF8.GetString(GZipDecompressByte(content));
result = result.Replace("國內版", "Token Bing 搜索 - 國內版");
proxyResponse.Content = new StringContent(GZipDecompressString(result));
}
}
else if (encoding.FirstOrDefault() == "br")
{
var content = proxyResponse?.Content.ReadAsByteArrayAsync(cancellationToken).Result;
if (content != null)
{
var result = Encoding.UTF8.GetString(BrDecompress(content));
result = result.Replace("國內版", "Token Bing 搜索 - 國內版");
proxyResponse.Content = new ByteArrayContent(BrCompress(result));
}
}
else
{
var content = proxyResponse?.Content.ReadAsStringAsync(cancellationToken).Result;
if (content != null)
{
content = content.Replace("國內版", "Token Bing 搜索 - 國內版");
proxyResponse.Content = new StringContent(content);
}
}
}
return true;
}
/// <summary>
/// 解壓GZip
/// </summary>
/// <param name="bytes"></param>
/// <returns></returns>
public static byte[] GZipDecompressByte(byte[] bytes)
{
using var targetStream = new MemoryStream();
using var compressStream = new MemoryStream(bytes);
using var zipStream = new GZipStream(compressStream, CompressionMode.Decompress);
using (var decompressionStream = new GZipStream(compressStream, CompressionMode.Decompress))
{
decompressionStream.CopyTo(targetStream);
}
return targetStream.ToArray();
}
/// <summary>
/// 解壓GZip
/// </summary>
/// <param name="str"></param>
/// <returns></returns>
public static string GZipDecompressString(string str)
{
using var compressStream = new MemoryStream(Encoding.UTF8.GetBytes(str));
using var zipStream = new GZipStream(compressStream, CompressionMode.Decompress);
using var resultStream = new StreamReader(new MemoryStream(compressStream.ToArray()));
return resultStream.ReadToEnd();
}
/// <summary>
/// Br壓縮
/// </summary>
/// <param name="input"></param>
/// <returns></returns>
public static byte[] BrCompress(string str)
{
using var outputStream = new MemoryStream();
using (var compressionStream = new BrotliStream(outputStream, CompressionMode.Compress))
{
compressionStream.Write(Encoding.UTF8.GetBytes(str));
}
return outputStream.ToArray();
}
/// <summary>
/// Br解壓
/// </summary>
/// <param name="input"></param>
/// <returns></returns>
public static byte[] BrDecompress(byte[] input)
{
using (var inputStream = new MemoryStream(input))
using (var outputStream = new MemoryStream())
using (var decompressionStream = new BrotliStream(inputStream, CompressionMode.Decompress))
{
decompressionStream.CopyTo(outputStream);
return outputStream.ToArray();
}
}
}
得到的效果我們將國內版修改成了Token Bing 搜索 - 國內版
Yarp相關資料
技術交流群:737776595
官方文檔:https://microsoft.github.io/reverse-proxy/articles/getting-started.html
來著token的分享
總結
以上是生活随笔為你收集整理的微软用它取代了`Nginx`吞吐量提升了百分之八十!的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 请注意,你的 Pulsar 集群可能有删
- 下一篇: TypeChat、JSONSchemaC