【[79星]traceloop/hub：高性能LLM网关，用Rust打造，自带O

爱生活爱珂珂 2025-05-25 20:01:40

【[79星]traceloop/hub：高性能LLM网关，用Rust打造，自带OpenTelemetry可观测性。亮点：1. 支持多种LLM提供商，如OpenAI、Azure OpenAI、Google VertexAI；2. 高性能，基于Rust语言开发；3. 提供丰富的可观测性功能，助力模型监控与优化】

'High-scale LLM gateway, written in Rust. OpenTelemetry-based observability included'

GitHub: github.com/traceloop/hub

LLM网关 Rust开发可观测性 AI创造营

0 阅读：1

爱生活爱珂珂

感谢大家的关注

作者最新文章

1

【Verdict：让AI评估更可靠、更高效！核心价值在于通过扩展推理时计算，解决

2

【[1.1k星]Pyper：旨在简化并发 Python 编程的框架，它提供了一个

3

【Knowledge Distillation：Huggingface的只是蒸馏

4

【Knowledge Distillation Tutorial：PyTorch

5

【Model Distillation：OpenAI官方的模型蒸馏指南。模型蒸馏

6

【[1.5k星]Kokoro-FastAPI：基于 Docker 的 FastA

7

【深度解读：「强化学习+测试时计算」可能是实现通用人工智能 (AGI) 最可行路

8

【[73星]Duck-UI：一个高性能的DuckDB Web交互界面，让你在浏览

9

【UAVs_Meet_LLMs：无人机与大语言模型的完美邂逅，开启低空智能移动新

10

【mmE5：通过高质量合成数据提升多模态多语言嵌入性能的创新项目。亮点：1. 提

热门分类

推荐热榜军事 NBA 体育社会明星八卦娱乐财经科技汽车历史国际游戏动漫公益搞笑商业互联网数码国际足球房产家居时尚科学探索职场育儿股票教育影视情感热点中国军情武器中国南海中国足球亚洲杯科比综合体育 CBA 投资楼市大咖秀外汇创业风口 SUV 豪车概念车优惠新能源美国欧洲朝日韩俄罗斯孕期街拍恋爱攻略婚姻正能量

科技TOP

1

好纠结呀！现在的小屏手机到底哪款性价比最出色呢？

2

华为自研鸿蒙电脑，没有键盘！是一整块可折叠的超大屏幕，然后内置大面积线性马达，通

3

2025年手机选购指南，全价位段手机推荐

4

一个人躺在沙发上玩手机。

5

昨天，华为终端发布华为nova全球代言人易烊千玺手持华为nova14系列的海报

6

美团王兴现在肠子都悔青了，自己跟刘强东杠上有什么好处，现在好了，东哥京东又推

7

字节的工资是真的高啊！

8

网传华为nova14部分规格曝光：全系内存12GB，超大杯麒麟9系芯片+红枫多光

9

中国仪仗队在莫斯科阅兵，有个细节，现场俄罗斯人，基本用苹果手机，中方摄影师，用的

10

不用看发布会了，荣耀400系列目前就差一个价格，具体的配置基本确定相对上一代

科技最新文章

1

指责小米YU7外形抄袭法拉利，阻碍不了YU7大卖的。小米从手机开始，就努力去

2

小米YU7首发评测解密了，详细内容全网应该都是的，在这里我就聊下小米YU7

3

雷军称小定太折腾大家了小米YU7取消小定，背后有何深意？小米一直对YU7的产品

4

首批1万人免费培训啥时候可以报名？雷军称小定太折腾大家了

5

快手要求员工每天必须刷一小时短视频，不达标影响绩效？都上升到考核了肯定不是什么员

6

荣耀这次太狠了，华为都被它比下去了，Nova14有点颜面无存啊看看荣耀400和华

7

华为nova14系列配置汇总，购买建议很简单：选Pro，标准版、Ultra版三思

8

宝子们！荣耀400和华为Nova14正面battle啦，看完配置真的被荣耀惊到！

9

小米YU7首发量产天际屏【小米汽车二期工厂处于收尾状态，工作人员称YU7发布

10

我以为预约会是20000台，也以为预约会是40000台。但是，万万没想到，华为折