标签: Go

3 篇文章

apollo配置实时生效:监听器与channel实现
问题提出 Apollo 是携程开源的分布式配置管理中心,用于统一管理和动态更新应用配置,支持多环境、多命名空间、高可用部署,应用通过客户端 SDK 实现实时拉取和热刷新配置,无需重启即可生效,广泛应用于微服务架构中。本文主要就是探讨两种实现热刷新配置的方法:监听器与channel实现。两者主要的区别是:可以把监听器理解为“事件推送”,channel…
在 Golang 中复用 HTTP 连接
问题提出 最近在实现一个转发大模型调用请求的中转功能,涉及到要构造client发送请求的内容,一开始我每次都是新建一个client来发送请求,这样的代码实现存在一些问题——每次都要构造新的client,并且要重新建立连接。后面了解到在Go中使用 HTTP 客户端(http.Client)可以实现连接复用,做到提高性能并减少 TCP 连接的重复建立。…
流式与非流式有什么区别
问题提出 最近在实现一个转发大模型调用请求的中转功能,因为现在的大模型都支持流式与非流式调用,所以我在实现的时候自然而然的想到了要不要区分两种调用方式,使用不同的代码逻辑。一开始写的时候分开了两个调用方式来写,后来发现这两种方式对于服务端来说实际没有区别,重点在于客户端的使用。 原理探寻 首先看一下两种调用方式实际返回的数据。 ==== 非流式调用…