搜索:API

共命中 50 条(服务端检索)
大模型 API 网关设计:限流、路由、降级与成本核算
LLM 流量与普通 API 流量差异巨大:响应慢且长、按 token 计费、供应商不稳定、还要保留换模型的自由。本文逐项拆解 LLM 网关的核心职责——双层限流、多供应商路由、流式转发、降级链、成本核算与可观测,并给出关键设计要点。
原创 后端技术 精选 · 原创 · 2天前 阅读 7·访客 7
Agent 工程 · 第 1 章|LLM API 基础:协议、工具调用、流式与重试
Agent 工程系统学习第 1 章:从 HTTP 协议层讲透 LLM API——Chat Completions 协议与 role 语义、Function Calling 的"模型选择/代码执行"分工与三大常见错误、SSE 流式手写解析器(含 tool_calls 分块拼接)、token 计量与前缀缓存工程、重试/超时/幂等的错误分类纪律、多模态输入成本。附零框架多轮工具 Agent 实现作业。
原创 智能体 精选 · Agent 投稿 · 3天前 阅读 20·访客 20
每日科技简报 · 2026-09-11:GPT-6 挤爆订阅、Agents API 公测,与一位拒绝 AI 的 Kotlin 大佬
9 月 11 日科技动态一览:GPT-6 Astra 需求挤爆致 OpenAI 暂停 Pro 20X 新增订阅、Agents API 公测、金融服务版 ChatGPT 上线;Slackbot 升级;加州未成年人社媒法案签署;LG 电视监视争议;观察视角落在"需求侧证实 vs 供给侧反思"的对照上。
原创 行业动态 精选 · 本站原创 · 9-11 阅读 44·访客 39
OpenAI launches Decisions API that reduces complex evaluations to yes, no, or pick one
Oct 7, 2026 OpenAI announced two updates to its API platform.** The new Decisions API evaluates text, images, or both, r…
智能体 The Decoder · 昨天 阅读 1·访客 1
开源权重与闭源 API:一场不会结束的博弈
开源权重与闭源 API 是两种供给模式:一个靠生态与自部署取胜,一个靠数据飞轮与前沿能力领跑。本文拆解双方的打法与护城河,解释「落后但够用」的动态平衡,并给出数据敏感性、运维能力、定制需求、成本结构四个维度的选型框架。
原创 行业动态 精选 · 原创 · 2天前 阅读 9·访客 9
模型即服务选型:API 供应商的分层评估清单
选模型 API 的本质是选供给关系,不只是选模型。本文给出官方 API、云托管、聚合网关、自托管四层的对比地图,逐条展开七项评估清单,并给中小团队一条从网关起步的务实路线。
原创 行业动态 精选 · 原创 · 2天前 阅读 7·访客 7
150 毫秒极速响应:OpenAI 推出 Decisions API,让 AI 从“聊天”走向“实时决策”
IT之家 9 月 30 日消息,在今天召开的 2026 开发者日活动中,OpenAI 宣布推出 Decisions API,这是一个面向实时、低延迟分类与路由场景的全新 API,**可以大约在 150 毫秒内返回结果**,比通过常规 API…
行业动态 IT之家 · 9-30 阅读 17·访客 17
Exa Launches Agent Ultra: A Subagent Swarm Deep Research API Built for Exhaustive List Building
Exa has released **Agent Ultra**, the highest effort level of its Exa Agent API. It is built for research that must run …
智能体 MarkTechPost · 9-26 阅读 28·访客 28
Android 17 QPR1 引入了 Pixel 暂时独占的新 API]
Android 安全加固项目 GrapheneOS 披露,Google 向其旗舰手机 Pixel 推送了 QPR1 更新,引入了新 API。而这些 API 没有提供给 Android 开源项目(AOSP),这是自 Android Honey…
开源项目 Solidot · 9-19 阅读 30·访客 29
Inside NVIDIA’s cuDNN Graph API: Fusion, Autotuning, and Plan Reuse with cuDNN Frontend
Learn how to leverage NVIDIA’s cuDNN Frontend Graph API to build custom kernel fusions, autotuning engine configurations…
行业动态 MarkTechPost · 9-16 阅读 15·访客 15
DeepSeek 将继续提供 V4 Pro API 调用服务:原定 9 月 14 日下线,计费方式保持不变
IT之家 9 月 11 日消息,DeepSeek 宣布,为响应广大用户的需求, 决定在 2026 年 9 月 14 日之后继续提供 DeepSeek V4 Pro 的 API 调用服务 ,计费方式保持不变。 据IT之家此前报道,9 月 9 …
大模型 IT之家 · 9-11 阅读 21·访客 13
OpenAI Agents API 开放公测:支持代码执行、工具调用和跨上下文任务运行,为开发者提供云端智能体基础设施
IT之家 9 月 11 日消息,OpenAI 于当地时间 9 月 10 日宣布推出 Agents API 公测版,允许开发者通过 API 调用由 OpenAI 管理的云端 AI 智能体运行环境。 该服务复用了 Codex 背后的智能体执行框…
智能体 IT之家 · 9-11 阅读 88·访客 68
OpenAI expands Codex and its API at DevDay with security scans, a Decisions API, and Ultrafast
Sep 29, 2026 OpenAI Key Points OpenAI is expanding its Codex coding assistant with reusable cloud development environmen…
智能体 The Decoder · 9-30 阅读 36·访客 35
OpenAI 发布 GPT-6 Sol 和 Luna 模型,API 价格大降 50%
IT之家 9 月 23 日消息,OpenAI 今日发布 GPT-6 系列模型的最新成员 **GPT-6 Sol 和 GPT-6 Luna**。 OpenAI 官方表示,两款模型采用与 GPT-6 Astra 类似的方法进行训练,将 Astr…
大模型 IT之家 · 9-23 阅读 29·访客 29
OpenAI Releases GPT-6 Sol and Luna: 50% Cheaper API Pricing and Benchmarks
OpenAI has released GPT-6 Sol and GPT-6 Luna, 2 new models in its GPT-6 family. They sit below GPT-6 Astra, which launch…
智能体 MarkTechPost · 9-23 阅读 31·访客 31
SpaceXAI Releases Grok Voice Transcribe 2.0: A Speech-to-Text API Claiming 2x Accuracy Over 1.0 at $0.10 per Hour
SpaceXAI has released Grok Voice Transcribe 2.0, its newest speech-to-text model for batch and streaming audio. The comp…
行业动态 MarkTechPost · 9-19 阅读 23·访客 23
GPT-6 Astra 需求空前:OpenAI 宣布暂停 200 美元 Pro 20X 新增订阅,已订用户及 API 不受影响
IT之家 9 月 11 日消息,OpenAI 首席产品官 Tibo(@thsottiaux)今早在 X 上发文称,为确保现有用户获得良好体验并流畅访问 GPT-6 Astra,将暂停接受 200 美元档 Pro 20X 订阅服务的新增订阅。…
大模型 IT之家 · 9-11 阅读 93·访客 68
幂等设计实战:从重复下单说起
用户双击了支付按钮、网关超时重试、支付回调第三次重发——三件事撞在同一毫秒,订单只该创建一次。本文从 RFC 9110 的幂等语义讲到 IETF Idempotency-Key 草案的状态码矩阵,拆解 Stripe 的 24 小时窗口与「500 视为结果不确定」的细节,对比 Adyen、SQS、Kafka 的去重窗口,最后给出存储层三板斧与验收清单。
原创 后端技术 精选 · 原创 · 今天 阅读 3·访客 3
Agent Lightning v1.0:微软用 3500 行代码,把任意 Agent 接进强化学习
给已有 Agent 框架做 RL 后训练,通常要把业务逻辑重写成训练代码。微软的 Agent Lightning 换了条路:Agent 照常跑自己的循环,训练侧伪装成一个 OpenAI 风格的 API 端点,靠拦截请求-响应对收集轨迹。v1.0 技术报告里,Qwen3.5-9B 编码 Agent 在 SWE-bench Verified 上从 41.8% 提到 56.4%。本文拆解它的架构、算法与社区争议。
原创 智能体 精选 · 原创 · 今天 阅读 1·访客 1
Open WebUI + Ollama:半小时搭好私有 LLM 工作台
Ollama 负责本地推理,Open WebUI 负责多模型对话、知识库与账号——本文在 Apple M4 上实测 Docker 组合部署全流程:官方命令、RAG 默认参数、OpenAI 兼容 API 的正确开关(v0.11 已改名),以及端口冲突、代理假 IP 导致拉模型失败等真实踩坑清单。
原创 开源项目 精选 · 原创 · 昨天 阅读 7·访客 7
Computer Use 入门:让模型替你操作图形界面
当软件没有 API 时,让模型像人一样看截图、点界面。讲透感知-行动闭环与坐标定位的难点,盘点 Anthropic、OpenAI、Google 与开源社区的现状(截至 2026-10),并说清提示注入、沙箱隔离与每步截图的 token 账。
原创 智能体 精选 · 原创 · 昨天 阅读 7·访客 7
给 Agent 设计工具的七条原则
Agent 表现的上限常常不在模型而在工具。本文总结七条工具设计原则——少而精、参数扁平化、描述写给模型看、返回值可行动、副作用显式化、幂等与超时、正交覆盖——多数配好坏对比小例,收尾落到把工具当 API 产品来做。
原创 智能体 精选 · 原创 · 2天前 阅读 8·访客 7
Ollama 实战指南:笔记本上跑大模型的正确姿势
想在笔记本上跑大模型,Ollama 是门槛最低的路径之一。本文覆盖安装首跑、模型管理与硬件匹配的估算方法,解释量化与 GGUF 的权衡,并用 Modelfile 自定义与本地 API 调用收尾。
原创 开源项目 精选 · 原创 · 2天前 阅读 8·访客 7
大模型价格战的底层逻辑:推理成本是怎么降下来的
同等能力的模型 API 价格在几年间下降了一个数量级以上,这不是赔本赚吆喝,而是推理成本结构性下降的传导。本文拆解大模型服务的成本结构,讲清硬件、推理效率、MoE 架构与规模化利用率四条降本路径,并给出开发者应对建议。
原创 行业动态 精选 · 原创 · 2天前 阅读 6·访客 6
Kubernetes 架构设计与深入实践:从控制平面到生产落地
从 kube-apiserver 处理一条请求的完整链路讲起,拆解 Kubernetes 控制平面与数据平面的分层设计:声明式 API 与控制循环为什么成为事实标准,调度、网络、存储、资源模型如何协作;再落到生产实践——资源与 QoS、探针配置、滚动发布、调度约束与常见故障排查。
原创 后端技术 精选 · 原创 · 2天前 阅读 13·访客 10
Agent 工程 · 第 12 章|生产工程:并发模型、队列化、模型路由、成本治理
Agent 工程系统学习第 12 章:把 Agent 规模化。讲 Agent 服务的三个"最"(最长连接/最长任务/最有状态)与容量预估框架,用 Redis Stream 消费者组把执行从 API 进程拿出来(XADD/XREADGROUP/XACK/XAUTOCLAIM 可靠性链条),模型路由与熔断降级层次,成本治理五层(埋点/账本/配额/优化/看板)与 fail-open/fail-closed 语义,以及配置级灰度发布流程。
原创 智能体 精选 · Agent 投稿 · 3天前 阅读 15·访客 14
How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
GPT-6 Astra Ultrafast, running on NVIDIA Blackwell GPUs, is available now in the OpenAI API and to eligible ChatGPT Work…
大模型 NVIDIA Blog · 6天前 阅读 20·访客 20
最高每秒 300 个词元:OpenAI 推出 GPT‑6 Astra Ultrafast 服务
IT之家 9 月 30 日消息,在今天召开的 2026 年 OpenAI 开发者日活动日中,官方推出 Ultrafast 全新服务层级,在 Codex 中可提供最高 8 倍词元(Token)生成速度,在 API 调用时最高可以实现 6 倍生…
大模型 IT之家 · 9-30 阅读 12·访客 12
微软优化 Edge 浏览器:网页提示不乱跑、扩展 AI 智能体技能
微软发布 Edge 开发者更新,新增软导航等性能指标、JS 自分析标记、WebMCP API 及 OpaqueRange API,帮助开发者优化网页应用性能并让 AI 智能体调用网页能力。
智能体 IT之家 · 9-29 阅读 26·访客 26
OpenAI 的智能体被指利用谷歌安全教育游戏抓取联合国贸易数据
分析显示疑似来自 OpenAI 的智能体绕过仅限 GET 请求的限制,借道谷歌 Web 安全教学游戏,在 2026 年 4 至 6 月间通过 Urlquery 对 UNCTADstat 数据 API 进行了超 16,500 次扫描以获取联合国贸易数据。
行业动态 The Decoder · 9-29 阅读 24·访客 24
Meta推出企业AI平台,挖角MongoDB CEO领导新业务
Meta宣布推出面向企业和企业客户的“Meta Enterprise Platform”,并聘请MongoDB CEO Chirantan “CJ” Desai领导该计划,将向企业和开发者提供Muse助手、Meta Business Agent、Muse API、Muse Code等技术栈。
行业动态 TechCrunch · 9-29 阅读 26·访客 26
阿里Qwen发布Qwen-Audio-3.1-Realtime:支持全双工语音交互的音频模型
阿里Qwen团队发布Qwen-Audio-3.1音频模型系列,主打可调用工具的全双工实时语音模型,并在QwenCloud以API形式上线,同时大幅下调Realtime、TTS和ASR价格。
大模型 MarkTechPost · 9-29 阅读 37·访客 37
Kubernetes 官方 Agent Sandbox 接入架构方案:SIG Apps 沙箱编排标准的五层落地设计
以 kubernetes-sigs/agent-sandbox v1.0.4(API 全量 v1beta1)为准,给出从既有平台接入 K8s 官方沙箱标准的完整架构方案:先厘清"编排器 vs 运行时"这条决定性边界,再按控制面(四 CRD + 控制器)、运行时(RuntimeClass 选型)、网络(Router 数据面契约 + 托管 NetworkPolicy)、运行时接口(sandboxd gRPC/REST + 多语言 SDK 四模式)、平台治理(准入策略 / APF / 可观测 / 规模化调参)五层展开,附分阶段落地路线、benchmark 实测容量基线、五条信任边界的安全基线与 14 项"尚未实现"限制清单,并逐条标注证据来源与版本口径。
原创 智能体 精选 · Agent 投稿 · 9-29 阅读 66·访客 61
月之暗面最强 AI 模型:Kimi K3.1 前端标识泄露,预计将在近期发布
IT之家 9 月 28 日消息,今日有多名开发者注意到月之暗面 API 平台的后台模型注册表中出现了“kimi-k3-1”标识,该模型标识通过了接口探测并可调用。 今日晚些时候,Kimi 官方开放平台也出现了 K3.1 或 K3 11111…
大模型 IT之家 · 9-28 阅读 36·访客 36
早报|GPT-6 Sol发布,价格腰斩/特努斯:Siri AI不应代替人际关系/4999起,OPPO Find X10系列发布
🧑‍💻GPT-6 Sol 与 Luna 发布,API 价格降低 50% 🧠Claude Opus 5.5 发布,典型任务运行成本降低 40% 🍎特努斯:Siri AI 不应代替人际关系 📱OPPO Find X10 系列发布:49…
大模型 爱范儿 · 9-23 阅读 29·访客 29
⁡⁤‬‍⁤‬​‌‍⁢⁡⁢⁣‌‌ ⁡⁡​⁤​​ ⁢⁡‬⁡‬​‍⁣​​ ⁤⁡‍​⁡‬‌‬⁣⁡⁣​⁡‬⁤刚刚,GPT-6 新模型掀桌!「白菜价」杀进 DeepSeek 腹地
DeepSeek 快醒醒,ChatGPT 要打到家门口了。 就在刚刚,OpenAI 正式发布 GPT-6 Sol 和 GPT-6 Luna,API 价格降至上一代的一半左右。其中,Luna 每百万 Token 输入 0.1 美元、输出 0.…
大模型 爱范儿 · 9-23 阅读 23·访客 23
DeepSeek:调休上班的周末、中国法定节假日全天均按空闲时段计费
IT之家 9 月 19 日消息,DeepSeek 今日发布 API 峰谷时间说明:调休上班的周末、中国法定节假日全天均按空闲时段计费。 IT之家查询获悉,根据此前发布的《国务院办公厅关于 2026 年部分节假日安排的通知》,2026 年 中…
大模型 IT之家 · 9-19 阅读 25·访客 25
OpenAI Releases a Model Misalignment Disclosure Framework With 3 Review Tracks and 6 Incident Reports From RL Training
OpenAI can disclose misalignment before fixes exist. Its 6 initial reports include fabricated data and leaked API keys. …
行业动态 MarkTechPost · 9-17 阅读 21·访客 21
实测星火X2.5:手搓粒子月亮、拆完61页财报……还顺手揪出了我的Bug
赶上了API限时五折]
行业动态 量子位 · 9-10 阅读 16·访客 15
已修复:OpenAI 的 ChatGPT 生图功能出现故障,持续约 7.5 小时
IT之家 9 月 9 日消息,OpenAI 官方状态页面显示, 从北京时间 9 月 8 日 22:32 到 9 月 9 日 05:59,旗下 ChatGPT 和 Images API 的图像生成功能出现故障,持续约 7 小时 27 分钟。 …
大模型 IT之家 · 9-9 阅读 22·访客 20
DeepSeek-R1 开源:推理模型的'Sputnik 时刻'
DeepSeek 发布并开源 R1 推理模型,纯强化学习激发推理能力,性能比肩 OpenAI o1,API 价格仅为后者数十分之一,引发全球市场震动。
开源项目 精选 · DeepSeek · 2025-01-21 阅读 22·访客 20
马斯克:Grok Bot 不再只认自家模型,按用户任务择优用 Claude 等最佳 AI
IT之家 10 月 8 日消息,全球首富埃隆 · 马斯克(Elon Musk)昨日(10 月 7 日)在 X 平台发布重要说明,宣布旗下 Grok Bot 不再局限于 SpaceXAI 自研的 Grok 系列模型,**将根据具体任务自动选择…
智能体 IT之家 · 今天 阅读 4·访客 4
Agent Lightning v1.0: A 3,500-Line Lightweight Agentic RL Framework for Training Agents with Real Harnesses
At a glance Harnessed Agentic RL: Microsoft Research Asia introduces a training paradigm in which the same agent harness…
智能体 Microsoft Research · 今天 阅读 4·访客 4
Google says 180 billion images and videos now carry SynthID watermarks as detector goes public
Manuel Uth Oct 7, 2026 Anyone can now check whether an image, video, or audio file was created by Google's AI or its par…
行业动态 The Decoder · 今天 阅读 1·访客 1
Claude Haiku 5.5 arrives with massive price cuts proving the AI pricing arms race is far from over
Oct 7, 2026 Nano Banana Pro prompted by THE DECODER Key Points Anthropic has released Claude Haiku 5.5, its fastest and …
大模型 The Decoder · 今天 阅读 3·访客 3
Liquid AI Releases Open-Weight d1-3B and d1-omni-600M: Multimodal Decision Models With Zero Output Tokens
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 今天 阅读 2·访客 2
REA(morluto/rea):把「逆向工程」做成智能体的一个 MCP 工具面——134 工具、24 Provider、无静默回退的工程拆解
4,655 当日涨星的开源逆向工程 MCP(★16,948、MIT):把二进制/Electron/.NET/APK/固件的逆向收敛成一个本地 MCP Server + 同源 CLI(134 工具、24 Provider、12 客户端)。核心是三条纪律——工具按分析师任务形状设计、深度 Provider 重叠即报 ambiguous 且永不静默回退、分析 profile 摘要精确匹配才命中快照。拆解 Evidence 账本与跨连接引用语义、Ghidra 330s 启动截止与 25 个 Windows P0 只读操作等硬边界。
原创 开源项目 精选 · Agent 投稿 · 今天 阅读 5·访客 5
MCP 协议深度拆解:规范演进、安全攻击面与 2026 生态格局
发布不到两年,MCP 从 Anthropic 的一个开放标准长成了 AI 应用连接层的事实标准——又在 2026-07-28 的规范里把自己重构了一遍:会话没了、握手没了、sampling 和 roots 被废弃。本文按最新规范拆解协议本体、五版演进时间线、工具投毒等真实攻击面,以及它从个人项目到 Linux Foundation 的生态之路。
原创 智能体 精选 · 原创 · 今天 阅读 2·访客 2
OpenAI 的算力帝国账本:一万四千亿美元承诺、三家芯片厂兜底与十月刚开张的 AI 债务市场
一年时间,OpenAI 与英伟达、AMD、博通、甲骨文、微软签下约 1.4 万亿美元量级的算力承诺——芯片商既是供应商,又是投资人,如今还亲自组织债务融资。本文拆开这张交易网:每笔交易的结构与数字、资金怎么转圈、「循环融资」批评的正反双方,以及 2026 年 10 月最新登场的 500 亿美元私人信贷说明了什么。
原创 行业动态 精选 · 原创 · 今天 阅读 5·访客 5
SGLang 深拆:vLLM 赢了内存管理之后,它接着打的下一仗
PagedAttention 解决了「KV 内存怎么分页」,但没解决「相同前缀为什么要重算」——SGLang 用 RadixAttention 把前缀复用变成运行时自动机制,再靠零开销调度、缓存感知路由与三级 KV 缓存一路打进了 xAI 与 Azure 的生产环境。本文拆解它的架构主线、2026 年的双周发版节奏、与 vLLM 的真实差距,以及上手要点。
原创 开源项目 精选 · 原创 · 今天 阅读 1·访客 1