使用C#和MemoryCache组件实现轮流调用APIKey以提高并发能力
文章信息
标题:使用C#和MemoryCache组件实现轮流调用API Key以提高并发能力的技巧
摘要:本文介绍了如何利用C#语言中的MemoryCache组件,结合并发编程技巧,实现轮流调用多个API Key以提高系统的并发能力。通过示例代码和详细说明,读者将了解如何有效地管理API Key的调用次数限制,并优化系统性能。
Title: Techniques for Using C# and MemoryCache Component to Rotate API Keys for Improved Concurrency
Abstract: This article explores how to utilize the MemoryCache component in C#, combined with concurrency programming techniques, to rotate through multiple API keys for enhancing system concurrency. With detailed explanations and example codes, readers will learn how to effectively manage API key usage limits and optimize system performance.
前言
使用场景是需要使用一个接口,这个接口有限制每个 APIKey 的请求量在 5次/s
一开始是最苯的做法,每次调用之后等个 200 毫秒,这样就不会超出这个限制
但是这样效率也太低了,刚好发现我们拥有不少 APIKey ,那么直接改成并发的吧,安排!
本文做一个简单的记录
思路
将每个 APIKey 的调用情况保存在内存里
C# 提供的 MemoryCache 组件是个 key-value 结构,并且可以设置每个值的过期时间
我把 APIKey 作为 key 存入,value 则是已使用的次数,并设置过期时间为 1 秒
这样只需要判断某个 APIKey 的使用次数是否小于 5 ,小于5就拿来用,大于5就读取配置拿新一个的 APIKey 。
使用 fluent-console
fluent-console 是我之前开发的 C# Console 应用模板,提供「现代化的控制台应用的开发体验」脚手架,能像 Web 应用那样很优雅地整合各种组件,包括依赖注入、配置、日志等功能。
项目地址: https://github.com/Deali-Axy/fluent-dotnet-console
本文需要用到 MemoryCache 等组件,用这个模板会比较方便,首先使用这个模板创建一个项目
# 安装模板
dotnet new install FluentConsole.Templates
创建项目
dotnet new flu-cli -n MyProject
准备配置文件
在配置文件里准备好 APIKeys
编辑项目的 appsettings.json
{
"Logging": {
"LogLevel": {
"Default": "Debug"
}
},
"AppSettings": {
"Name": "The name of this app is fluent console demo",
"Boolean": true,
"DemoList": [
"item1",
"item2",
"item3"
],
"ApiKeys": [
"apikey-xxx",
"apikey-xxx",
"apikey-xxx",
"apikey-xxx",
"apikey-xxx",
"apikey-xxx",
"apikey-xxx",
"apikey-xxx"
]
}
}
fluent-console 模板已经处理好了配置相关的逻辑,后续直接使用即可
配置服务
编辑 Program.cs
文件
添加需要的服务
services.AddMemoryCache();
services.AddScoped<ApiService>();
等下来 ApiService
里写代码
ApiService
在 Services
文件夹下创建 ApiService.cs
文件
先把依赖注入进来
using Flurl;
using Flurl.Http;
using Microsoft.Extensions.Caching.Memory;
using Microsoft.Extensions.Logging;
using Microsoft.Extensions.Options;
namespace MyProject.Services;
public class ApiService {
private readonly ILogger<ApiService> _logger;
private readonly AppSettings _settings;
private readonly IMemoryCache _cache;
public ApiService(IOptions<AppSettings> appOptions, IMemoryCache cache, ILogger<ApiService> logger) {
_cache = cache;
_logger = logger;
_settings = appOptions.Value;
}
}
封装 keys 管理
这里写了一个方法来获取一个可用的 APIKey
因为需要考虑并发运行,对 _cache
对象加锁
思路很简单上面已经介绍了,直接写成代码,同时写了很清楚的注释
private string? GetNextApiKey() {
lock (_cache) {
foreach (var key in _settings.ApiKeys) {
if (_cache.TryGetValue(key, out int count)) {
// 如果该 API Key 在缓存中存在,则检查其调用次数
// 如果达到调用次数上限,则不再使用该 API Key,继续下一个 API Key
if (count >= 5) {
continue;
}
// 如果调用次数未达到上限,则增加调用次数并返回该 API Key
_cache.Set(key, count + 1, DateTimeOffset.Now.AddSeconds(1));
return key;
}
// 如果 API Key 不在缓存中,则将其添加到缓存中并返回
_cache.Set(key, 1, DateTimeOffset.Now.AddSeconds(1));
return key;
}
}
return null; // 所有 API Key 都已被使用
}
修改属性
因为一开始是单线程版本,我直接用 ApiKey
来读取固定的 APIKey 配置。
现在直接把原本单个 APIKey 的属性改成调用 GetNextApiKey
方法
private string? ApiKey => GetNextApiKey();
请求接口的方法
改动不大,只需要添加一个判断就行
上面的 GetNextApiKey
在没有获取到可用 APIKey 的时候会返回 null
判断一下是否为空就行,没有 APIKey 就等个 1 秒。
public async Task<ApiResponse> RequestData(string somedata) {
var key = ApiKey;
// 所有API Key 都被用完
if (key == null) {
await Task.Delay(1000);
return await RequestData(somedata);
}
var url = "https://api.dealiaxy.com"
.AppendPathSegment("one")
.AppendPathSegment("service")
.AppendPathSegment("v1")
.SetQueryParams(new {
key, somedata,
});
_logger.LogDebug("请求接口: {url}", url);
var resp = await url.GetJsonAsync<ApiResponse>();
return resp;
}
这里我使用了 Flurl
这个库来实现 URL 构建 + 网络请求 ,真滴好用!
并行调用接口
这里我写了一个闭包,其实也可以用 lambda 。
构建一个任务列表,然后使用 await Task.WhenAll
来等待全部任务执行完。
最后保存结果到 json 文件里
public async Task RequestParallel() {
// 这里准备一些数据,几万个就行
var data = new string[];
var results = new List<ResultData>();
// 写一个闭包来调用接口
async Task MakeApiCall(int index) {
var item = data[index];
var resp = await RequestData(item);
_logger.LogInformation("调用接口,数据: {data}, status: {status}, message: {message}", item, resp.status, resp.message);
results.Add(resp.data);
}
var tasks = new List<Task>();
for (var index = 0; index < data.Count; index++) {
var i = index; // 由于闭包,需要在循环中创建一个新变量以避免问题
tasks.Add(Task.Run(() => MakeApiCall(i)));
}
_logger.LogInformation("共有 {count} 个数据,开始请求", data.Count);
await Task.WhenAll(tasks);
_logger.LogInformation("搞定,写入文件");
await File.WriteAllTextAsync("results.json", JsonSerializer.Serialize(results));
}
搞定!
显示进度
这时候来了个新问题
这么多数据,就算是并行执行,也需要一段时间
这时候显示进度显示就成了一个迫切需求
C# 内置了一个 IProgress
,但是只能设置个 total 之后直接更新当前进度,虽然 MakeApiCall
方法有个 index
表示任务的序号,但并发执行的时候是乱序的,显然不能用这个 index
来更新进度。
这时候只能再搞个 int progress
,每个任务就 +1
真麻烦,我直接上 ShellProgressBar
组件,之前用 C# 写爬虫的时候用过,详见这篇文章: C#爬虫开发小结
这个组件有个 Tick
模式就可以实现这个功能。
上代码吧,每个任务里执行一下 bar.Tick
就行了,很方便
public async Task RequestParallel() {
// 这里准备一些数据,几万个就行
var data = new string[];
var results = new List<ResultData>();
var bar = new ProgressBar(data.Count, "正在执行");
// 写一个闭包来调用接口
async Task MakeApiCall(int index) {
var item = data[index];
var resp = await RequestData(item);
_logger.LogInformation("调用接口,数据: {data}, status: {status}, message: {message}", item, resp.status, resp.message);
results.Add(resp.data);
// 更新进度
bar.Tick();
}
var tasks = new List<Task>();
for (var index = 0; index < data.Count; index++) {
var i = index; // 由于闭包,需要在循环中创建一个新变量以避免问题
tasks.Add(Task.Run(() => MakeApiCall(i)));
}
_logger.LogInformation("共有 {count} 个数据,开始请求", data.Count);
await Task.WhenAll(tasks);
_logger.LogInformation("搞定,写入文件");
await File.WriteAllTextAsync("results.json", JsonSerializer.Serialize(results));
}
好好好,这下舒服了。
使用C#和MemoryCache组件实现轮流调用APIKey以提高并发能力的更多相关文章
- Vue父组件与子组件传递事件/调用事件
1.Vue父组件向子组件传递事件/调用事件 <div id="app"> <hello list="list" ref="child ...
- element导航栏组件封装递归调用
element导航栏组件封装递归调用: https://blog.csdn.net/qq_21271511/article/details/109889934
- Android Activity/Service/Broadcaster三大组件之间互相调用
我们研究两个问题,1.Service如何通过Broadcaster更改activity的一个TextView.(研究这个问题,考虑到Service从服务器端获得消息之后,将msg返回给activity ...
- vue 父组件向子组件传递事件/调用事件
方法一:子组件监听父组件发送的方法 方法二:父组件调用子组件方法 子组件: export default { mounted: function () { this.$nextTick(functio ...
- vue2组件之select2调用
目前,项目中使用了纯前端的静态项目+RESTFul接口的模式.为了更好的对数据进行操作,前端使用了vue2的mvvm功能,但是由于不是单页面应用,所以,并没有涉及到其它的如vue-route等功能,也 ...
- vue 简单实现父组件向子组件传值,简单来说就是子组件肆意妄为的调用父组件里后台返回的值
首先在于父子组件传值的方法很多,本人在这里只是简单描述一下一个组件里面引用了子组件,那么子组件如何才能获取父组件中后台返回的值呢? 首先调用组件相信大家都应该明白了(不明白的自己撸撸文档), < ...
- ionic上拉加载组件 ion-infinite-scroll自动调用多次的问题
参考文章地址:http://www.cnblogs.com/luleixia/p/6402418.html ionic 一个上拉刷新的组件 ion-infinite-scroll,如果页面未填充满页面 ...
- uni-app 父组件引用子组件时怎么调用子组件的方法
1.写一个简单的子组件main/index.vue: <template> <view> </view> </template> <script& ...
- vue 父子组件的方法调用
$emit 子组件触发父组件的方法: <!-- 子组件 --> <template> <div id="child"> <button @ ...
- 微信小程序 - 组件传值给调用页面
演示如下(可以ctrl+鼠标放大或者下载GIF图片) 1. 先组件定义事件“checkbox”(组件内事件) 2. 调用页面调用它需要加bind:事件名 = 调用页面事件名(bind即绑定调用组件“o ...
随机推荐
- Leetcode 面试题22. 链表中倒数第k个节点 Java语言求解
题目链接 https://leetcode-cn.com/problems/lian-biao-zhong-dao-shu-di-kge-jie-dian-lcof/ 题目内容 输入一个链表,输出该链 ...
- 【九】强化学习之TD3算法四轴飞行器仿真---PaddlePaddlle【PARL】框架
相关文章: [一]飞桨paddle[GPU.CPU]安装以及环境配置+python入门教学 [二]-Parl基础命令 [三]-Notebook.&pdb.ipdb 调试 [四]-强化学习入门简 ...
- 探索C语言中的Shellcode从提取到执行
ShellCode是一种独立于应用程序的机器代码,通常用于实现特定任务,如执行远程命令.注入恶意软件或利用系统漏洞.在网络安全领域,研究Shellcode是理解恶意软件和提高系统安全性的关键一环.本文 ...
- C/C++ 通过Socket 传输结构体
本质上socket无法传输结构体,我们只有将结构体装换为字节数组,或者是字符串格式来传输,到了服务端在强制类型转换一下即可,下面的代码分别提供原生写法与通过boost的实现两种,直接改改,可用于收集目 ...
- Intel 4工艺太难了!酷睿Ultra终于突破5GHz
无论是14nm还是10nm,Intel这些年的新工艺都有一个通性:刚诞生的时候性能平平,高频率都上不去,只能用于笔记本移动端(分别对应5代酷睿.10代酷睿),后期才不断成熟,比如到了13代酷睿就达到史 ...
- SpringBoot + LiteFlow:轻松应对复杂业务逻辑,简直不要太香!
LiteFlow简介 LiteFlow是什么? LiteFlow是一款专注于逻辑驱动流程编排的轻量级框架,它以组件化方式快速构建和执行业务流程,有效解耦复杂业务逻辑.通过支持热加载规则配置,开发者能够 ...
- 【译】发布 .NET Aspire 预览版 2(二)
原文 | Damian Edwards 翻译 | 郑子铭 组件更新 组件包现在有单独的图标 大多数 Aspire 组件的 NuGet 包现在都具有代表性图标,以便在 NuGet 包管理器对话框中更轻松 ...
- CF505C Mr. Kitayuta, the Treasure Hunter
题目链接 题目 见链接. 题解 知识点:线性dp. 常规的状态 \(dp[i][j]\) 表示为到第 \(i\) 个岛上一步走了 \(j\) 能得到宝藏的最大值,会炸空间.注意到步数是就算从 \(1\ ...
- Centos中安装deb报错
centos7中安装deb包 概要:deb包和rpm包区别:deb后缀的软件包是for Debian系的(包括Ubuntu),不是给centos安装的:rpm后缀的软件包才是for Redhat系 ...
- P2P通讯方式
概述 实现p2p通讯我们提供两种方式,这两种方式分别是通过客户端直接互通和p2p映射: 无论哪一种,首先设备两端都得部署好fastnat客户端,NAT类型不能是对称类型NAT(Symmetric),否 ...