第 1 次请求：写入缓存
  [System Prompt 5000 Token] + [用户消息 50 Token]
  计费：System Prompt → 缓存写入价（标准输入价 ×1.25）

第 2-N 次请求：命中缓存
  [相同 System Prompt] + [新的用户消息 50 Token]
  计费：System Prompt → 缓存读取价（标准输入价 ×0.10）✅ 省了 90%

# 代码来源：Anthropic 官方文档 — Prompt Caching
# ClaudeAPI 接入：只需将 base_url 设为 https://gw.claudeapi.com
import anthropic
import os

client = anthropic.Anthropic(
    api_key=os.environ.get("CLAUDEAPI_KEY"),
    base_url="https://gw.claudeapi.com",
)

response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": "你是一个专业的客服助手，以下是我们产品的完整知识库：\n\n[产品文档 3000 字...]"
        },
        {
            "type": "text",
            "text": "[FAQ 列表 2000 字...]\n\n请根据以上知识库回答用户问题，不要编造信息。",
            "cache_control": {"type": "ephemeral"}  # ← 加这一行，缓存整个 system
        }
    ],
    messages=[
        {"role": "user", "content": "退款要多少天？"}
    ],
)

# 从响应确认缓存是否命中
usage = response.usage
print(f"缓存写入：{usage.cache_creation_input_tokens} Token")
print(f"缓存命中：{usage.cache_read_input_tokens} Token")
print(f"普通输入：{usage.input_tokens} Token")

# 代码来源：Anthropic 官方文档 — Prompt Caching（多轮对话）
import anthropic
import os

client = anthropic.Anthropic(
    api_key=os.environ.get("CLAUDEAPI_KEY"),
    base_url="https://gw.claudeapi.com",
)

def chat_with_cache(history: list, new_message: str):
    """
    history: 已有的对话历史（list of message dicts）
    new_message: 本轮新的用户消息
    """
    # 在历史消息的最后一条加上缓存标记
    if history:
        last_msg = history[-1]
        last_msg_with_cache = {
            "role": last_msg["role"],
            "content": [
                {
                    "type": "text",
                    "text": last_msg["content"] if isinstance(last_msg["content"], str)
                            else last_msg["content"][0]["text"],
                    "cache_control": {"type": "ephemeral"}  # 缓存历史部分
                }
            ]
        }
        messages = history[:-1] + [last_msg_with_cache]
    else:
        messages = []

    messages.append({"role": "user", "content": new_message})

    return client.messages.create(
        model="claude-sonnet-4-6",
        max_tokens=1024,
        messages=messages,
    )

# 代码来源：Anthropic 官方文档 — Prompt Caching（Tool Use 场景）
import anthropic
import os

client = anthropic.Anthropic(
    api_key=os.environ.get("CLAUDEAPI_KEY"),
    base_url="https://gw.claudeapi.com",
)

# 给 tools 列表的最后一个工具加上 cache_control
tools = [
    {
        "name": "search_knowledge_base",
        "description": "在知识库中搜索相关内容...[详细描述]",
        "input_schema": {
            "type": "object",
            "properties": {
                "query": {"type": "string", "description": "搜索关键词"}
            },
            "required": ["query"]
        }
    },
    {
        "name": "get_order_status",
        "description": "查询订单状态...[详细描述]",
        "input_schema": {
            "type": "object",
            "properties": {
                "order_id": {"type": "string"}
            },
            "required": ["order_id"]
        },
        "cache_control": {"type": "ephemeral"}  # 加在最后一个工具上，缓存整个 tools 列表
    }
]

response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    tools=tools,
    messages=[{"role": "user", "content": "帮我查一下订单 #12345"}],
)