ianshaw
2a0758bdfe
- 添加 StreamTimeoutSettings 配置结构体和系统设置 - 实现 TimeoutCounterCache Redis 计数器用于累计超时次数 - 在 RateLimitService 添加 HandleStreamTimeout 方法 - 在 gateway_service、openai_gateway_service、antigravity_gateway_service 中调用超时处理 - 添加后端 API 端点 GET/PUT /admin/settings/stream-timeout - 添加前端配置界面到系统设置页面 - 支持配置：启用开关、超时阈值、处理方式、暂停时长、触发阈值、阈值窗口 默认配置： - 启用：true - 超时阈值：60秒 - 处理方式：临时不可调度 - 暂停时长：5分钟 - 触发阈值：3次 - 阈值窗口：10分钟
37 lines
1.6 KiB
Go
37 lines
1.6 KiB
Go
package service
|
|
|
|
import (
|
|
"context"
|
|
"time"
|
|
)
|
|
|
|
// TempUnschedState 临时不可调度状态
|
|
type TempUnschedState struct {
|
|
UntilUnix int64 `json:"until_unix"` // 解除时间（Unix 时间戳）
|
|
TriggeredAtUnix int64 `json:"triggered_at_unix"` // 触发时间（Unix 时间戳）
|
|
StatusCode int `json:"status_code"` // 触发的错误码
|
|
MatchedKeyword string `json:"matched_keyword"` // 匹配的关键词
|
|
RuleIndex int `json:"rule_index"` // 触发的规则索引
|
|
ErrorMessage string `json:"error_message"` // 错误消息
|
|
}
|
|
|
|
// TempUnschedCache 临时不可调度缓存接口
|
|
type TempUnschedCache interface {
|
|
SetTempUnsched(ctx context.Context, accountID int64, state *TempUnschedState) error
|
|
GetTempUnsched(ctx context.Context, accountID int64) (*TempUnschedState, error)
|
|
DeleteTempUnsched(ctx context.Context, accountID int64) error
|
|
}
|
|
|
|
// TimeoutCounterCache 超时计数器缓存接口
|
|
type TimeoutCounterCache interface {
|
|
// IncrementTimeoutCount 增加账户的超时计数，返回当前计数值
|
|
// windowMinutes 是计数窗口时间（分钟），超过此时间计数器会自动重置
|
|
IncrementTimeoutCount(ctx context.Context, accountID int64, windowMinutes int) (int64, error)
|
|
// GetTimeoutCount 获取账户当前的超时计数
|
|
GetTimeoutCount(ctx context.Context, accountID int64) (int64, error)
|
|
// ResetTimeoutCount 重置账户的超时计数
|
|
ResetTimeoutCount(ctx context.Context, accountID int64) error
|
|
// GetTimeoutCountTTL 获取计数器剩余过期时间
|
|
GetTimeoutCountTTL(ctx context.Context, accountID int64) (time.Duration, error)
|
|
}
|