零数据保留
零数据保留(ZDR)意味着提供商不会在任何时间段内存储您的数据。
OpenRoute 有一个设置,当启用时,只允许您路由到具有零数据保留政策的端点。
不保留您数据的提供商也无法在您的数据上进行训练。但是,我们确实有一些端点和服务提供商不会在您的数据上进行训练,但确实保留它(例如,为了扫描滥用或法律原因)。OpenRoute 为您提供对这两种政策的控制。
OpenRoute 如何管理数据政策
OpenRoute 与提供商合作,了解他们的每个数据政策,并以让您控制要路由到哪些提供商的方式构建政策数据。
请注意,提供商的一般政策可能与给定端点的特定政策不同。OpenRoute 跟踪每个端点的特定政策,与提供商合作保持这些政策的最新状态,并在某些情况下与提供商创建特殊协议,以确保比其默认政策更注重隐私的数据保留或训练政策。
如果 OpenRoute 无法为提供商或端点建立或确定明确的政策,我们采取保守立场,假设端点既保留又在数据上进行训练,并如此标记。
提供商及其数据政策的完整列表可以在这里找到。请注意,此列表显示每个提供商的默认政策;如果有特定端点的政策与提供商默认值不同,如果启用"仅 ZDR",它可能不可用。
每次请求的 ZDR 执行
除了您隐私设置中的全局 ZDR 设置外,您还可以在每次请求的基础上使用 API 调用中的 zdr
参数执行零数据保留。
请求级别的 zdr
参数与您的账户范围 ZDR 设置作为"或"操作 - 如果任一启用,将应用 ZDR 执行。这意味着每次请求参数只能用于确保为特定请求启用 ZDR,不能覆盖或禁用账户范围的 ZDR 执行。
这对于不想全局执行 ZDR 但需要确保特定请求仅路由到 ZDR 端点的客户很有用。
使用方法
在您的提供商首选项中包含 zdr
参数:
{
"model": "gpt-4",
"messages": [...],
"provider": {
"zdr": true
}
}
当 zdr
设置为 true
时,请求将仅路由到具有零数据保留政策的端点。当 zdr
为 false
或未提供时,如果在您的账户设置中启用,ZDR 执行仍将适用。
缓存
一些端点/模型提供隐式提示缓存。这将在提供商数据中心的内存缓存中保留重复的提示数据,因此不需要重新处理提示的重复部分。这可以带来可观的成本节省。
OpenRoute 采取了内存中提示缓存不被视为"保留"数据的立场,因此我们允许在 ZDR 路由政策生效时访问具有隐式缓存的端点/模型。
OpenRoute 的保留政策
OpenRoute 本身有一个 ZDR 政策;除非您特别选择加入提示日志记录,否则您的提示不会被保留。
零保留端点
以下端点具有 ZDR 政策。请注意,此列表也可以通过 https://www.openroute.cn/api/v1/endpoints/zdr 以编程方式获得。当提供商的数据政策发生变化时,它会自动更新。
Last updated on