Parallel Tool Calling（パラレルツールコーリング）

通常（順次）:  モデル → tool_A呼び出し → 結果待ち → tool_B呼び出し → 結果待ち → 最終回答
並列:          モデル → [tool_A, tool_B] 同時呼び出し → 結果待ち（並列） → 最終回答

レイテンシ改善: 2秒+2秒=4秒 → max(2秒,2秒)=2秒（50%削減）

from openai import OpenAI
import json
import concurrent.futures

client = OpenAI()

# ツールを定義
tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "都市の天気を取得",
            "parameters": {
                "type": "object",
                "properties": {"city": {"type": "string"}},
                "required": ["city"]
            }
        }
    }
]

# モデルが複数のtool_callsを返す
response = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "東京と大阪と名古屋の天気を教えて"}],
    tools=tools
)

tool_calls = response.choices[0].message.tool_calls
# → [tool_call(get_weather, Tokyo), tool_call(get_weather, Osaka), tool_call(get_weather, Nagoya)]

# 並列実行
with concurrent.futures.ThreadPoolExecutor() as executor:
    futures = {
        tc.id: executor.submit(get_weather, json.loads(tc.function.arguments)["city"])
        for tc in tool_calls
    }
    results = {tid: f.result() for tid, f in futures.items()}

# 全結果をまとめてフィードバック
tool_messages = [
    {"role": "tool", "tool_call_id": tc.id, "content": json.dumps(results[tc.id])}
    for tc in tool_calls
]

# Claudeも複数のtool_useブロックを1レスポンスで返せる
response = client.messages.create(
    model="claude-opus-4-8",
    tools=tools,
    messages=[{"role": "user", "content": "東京と大阪の天気を同時に取得して"}]
)

# 複数のtool_useブロックが含まれる場合
tool_uses = [b for b in response.content if b.type == "tool_use"]
# → [tool_use(get_weather, Tokyo), tool_use(get_weather, Osaka)]