Kimi K3 untuk Penaakulan dan Ejen Rantaian Panjang: Daripada Matematik Pertandingan ke Rantaian Tugasan Berbilang Langkah

Menilai sama ada sesuatu model boleh memacu ejen sukar dilakukan daripada papan pendahulu sahaja — pembeza sebenar ialah kestabilan merentasi rantaian tugasan berbilang langkah: langkah pertama memanggil alat, langkah kedua mencerna hasil, langkah ketiga memutuskan langkah seterusnya. Jika satu mata rantai terpesong, seluruh rantaian runtuh. Laporan rasmi Moonshot meletakkan kimi-k3 sebagai flagshim ufuk panjang: dalam 12 ujian pengekodan dan keejenan yang diterbitkan, model itu menewaskan flagshim Claude generasi terdahulu dalam kesemuanya, dan asas penaakulan kukuh GPQA 93.5% / AIME 91.2% mengekalkan pertimbangan pertengahan yang boleh dipercayai.

Mengapa keupayaan penaakulan penting bagi ejen

Inti sesebuah ejen ialah model yang memutuskan sendiri apa yang perlu dilakukan seterusnya. Kualiti setiap keputusan bergantung pada penaakulan ke atas keadaan semasa: selepas membaca hasil alat, ia perlu menilai sama ada mahu meneruskan, mencuba semula, atau menukar haluan. Penanda aras seperti matematik pertandingan dan soal jawab sains peringkat kedoktoran mengukur tepat penaakulan berbilang langkah ini — AIME 91.2% bermakna model mampu memikul tugasan yang rantaiannya panjang dan tiada satu mata pun boleh putus, GPQA 93.5% bermakna pertimbangan ke atas pengetahuan domain yang kompleks kekal utuh.

Indeks Kepintaran Artificial Analysis, iaitu komposit merentas pelbagai penanda aras, memberikan 57.1 — barisan hadapan model terbuka. Maksudnya bukan "kimi-k3 serba boleh", sebaliknya: selaku otak pembuat keputusan sesebuah ejen ia melepasi syarat, dan apabila digandingkan dengan gelung alat ia mampu memikul kerja berbilang langkah yang sebenar.

Gelung ejen minimum

Kitaran alat format OpenAI mempunyai empat bahagian: takrifkan alat → model memutuskan untuk memanggil → laksana dan hantar balik hasil → model meneruskan daripada hasil itu.

import json
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["EXAIV_API_KEY"],
    base_url="https://exaiv.com/api/ai/v1",
)

tools = [
    {
        "type": "function",
        "function": {
            "name": "search_orders",
            "description": "Look up order status by order ID or customer name",
            "parameters": {
                "type": "object",
                "properties": {
                    "query": {"type": "string", "description": "Order ID or customer name"},
                },
                "required": ["query"],
            },
        },
    },
    {
        "type": "function",
        "function": {
            "name": "send_refund",
            "description": "Initiate a refund for a given order",
            "parameters": {
                "type": "object",
                "properties": {
                    "order_id": {"type": "string"},
                    "amount": {"type": "number"},
                },
                "required": ["order_id", "amount"],
            },
        },
    },
]

def execute_tool(name, args):
    if name == "search_orders":
        return {"order_id": "A1024", "status": "delivered_damaged", "amount": 129.0}
    if name == "send_refund":
        return {"ok": True, "refund_id": "R7788"}
    raise ValueError(f"unknown tool {name}")

messages = [{"role": "user", "content": "Customer says order A1024 arrived damaged. Handle it per policy."}]

for _ in range(10):  # hard cap to prevent infinite loops
    resp = client.chat.completions.create(
        model="kimi-k3",
        messages=messages,
        tools=tools,
    )
    msg = resp.choices[0].message
    if not msg.tool_calls:
        print(msg.content)  # final answer
        break
    messages.append(msg)
    for call in msg.tool_calls:
        args = json.loads(call.function.arguments)
        result = execute_tool(call.function.name, args)
        messages.append({
            "role": "tool",
            "tool_call_id": call.id,
            "content": json.dumps(result, ensure_ascii=False),
        })

Rangka ini berjalan terus. Sistem sebenar hanya menggantikan execute_tool dengan API anda; protokolnya standard sepenuhnya jadi LangChain dan LlamaIndex tersambung tanpa mengubah takrifan alat.

Tiga peraturan kejuruteraan yang mengekalkan rantaian panjang stabil

Markah penanda aras yang tinggi tidak sama dengan stabil di produksi. Tambah sendiri tiga lapis pelindung:

Satu, tulis takrifan alat dengan tepat. Medan description ialah satu-satunya asas model membuat keputusan sama ada mahu menggunakan alat itu; huraian kabur menyebabkan salah panggil. Nyatakan juga format dan maksud setiap parameter — takrifan alat memberi pulangan pelaburan tertinggi dalam keseluruhan tindanan ejen.

Dua, simpan keadaan perantaraan berstruktur selepas setiap langkah. Jangan biarkan status tugasan hidup hanya dalam sejarah perbualan. Selepas setiap langkah, catat apa yang sudah siap dan apa yang seterusnya sebagai rekod berstruktur, supaya model melihat keadaan bersih pada setiap keputusan dan bukannya menyimpulkannya daripada timbunan dialog.

Tiga, kegagalan mestilah boleh diundur. Panggilan alat boleh gagal akibat tamat masa, argumen salah, atau peraturan perniagaan yang melarang. Gelung mesti mengendalikan tiga kelas: alat gagal → hantar mesej ralat semula sebagai tool message supaya model menukar haluan; penghuraian output gagal → cuba semula dengan petunjuk pembetulan; had langkah tercapai → hentikan dan beri amaran. Ejen tanpa laluan undur pasti akan patah di produksi, biasanya pada tengah malam.

Bentuk keadaan antara langkah

Peraturan keadaan di atas memerlukan rupa yang konkret. Selepas setiap kitaran alat, tambahkan blok keadaan ringkas yang boleh diyakini model:

def build_state_block(steps_done, pending, constraints):
    return (
        "CURRENT STATE:\n"
        + "\n".join(f"- done: {s}" for s in steps_done)
        + "\n".join(f"- pending: {p}" for p in pending)
        + "\nconstraints: " + constraints
    )

messages.append({
    "role": "user",
    "content": build_state_block(
        steps_done=["searched order A1024", "confirmed damaged delivery"],
        pending=["decide refund amount", "send refund", "notify customer"],
        constraints="refunds over 200 require human approval",
    ),
})

Kosnya beberapa ratus token setiap langkah, dan membeli dua perkara: model tidak perlu pernah menerbit semula kedudukannya daripada sejarah mentah, dan sistem pemantauan anda boleh membaca blok keadaan untuk mengetahui tepat di mana rantaian berada. Apabila sesuatu larian terpesong, log keadaan ialah bahan bedah siasat.

Menguji tingkah laku ejen sebelum produksi

Penanda aras mengukur penaakulan; saluran paip anda mesti mengukur saluran paip anda. Sebelum dikeluarkan, main semula satu set penilaian tetap:

• Tugasan emas: sepuluh hingga dua puluh rantaian tugasan sebenar dengan hasil betul yang diketahui, dijalankan semula setiap kali model atau prompt berubah
• Hasil alat adversarial: main semula dengan alat yang memulangkan ralat, hasil kosong, dan data cacat — sahkan model menukar haluan dan bukannya mereka-reka kejayaan
• Kadar sentuhan had: kira kekerapan larian menyentuh had langkah; kadar meningkat bermakna takrifan alat atau pembingkaian tugasan perlu dibaiki
• Kos setiap tugasan selesai: jumlah token dibahagikan larian berjaya — angka yang menentukan sama ada ejen ini wajar naik ke produksi

Harness ini mengambil satu petang untuk dibina dan menangkap kebanyakan insiden sebelum pengguna menemuinya.

Penghalaan mengikut bentuk tugasan

Memilih mengikut bentuk tugasan lebih baik daripada mengikut papan pendahulu:

Orkestrasi hibrid ialah bentuk lazim: peringkat pantas mengendalikan tugasan mekanikal berfrekuensi tinggi, kimi-k3 mengambil rantaian kompleks. Satu kunci, satu endpoint.

Penghalaan peringkat dalam satu rantai

Rantai ejen sebenar mencampurkan langkah mudah dan langkah sukar, dan membelanjakan flagshim untuk setiap langkah membazirkan masa dan wang. Penghala bertingkat di dalam gelung mengekalkan kualiti di tempat yang penting:

def route_step(step):
    if step["kind"] in ("decide", "synthesize", "verify"):
        return "kimi-k3"          # langkah pertimbangan: penaakulan flagshim
    return "deepseek-v4.1-flash-1017"   # langkah mekanikal: carian, format, pengelasan

Langkah pertimbangan — memutuskan apa seterusnya, menyatukan hasil alat yang bercanggah, mengesahkan calon jawapan — ialah tempat penanda aras penaakulan benar-benar berbaloi. Langkah mekanikal (pemformatan semula, pengelasan, carian mudah) berjalan baik pada peringkat pantas. Pasukan lazimnya mendapati majoriti langkah mendarat dalam baldi mekanikal, jadi pembahagian peringkat memotong kos dengan ketara sambil menambat kualiti keputusan rantai kepada flagshim. Endpoint dan kunci yang sama melayani kedua-dua model; hanya medan model berubah.

Kebolehcerapan untuk larian ejen

Sebaik rantai berjalan di produksi, tiga log menjawab hampir setiap soalan insiden:

• Log keputusan: satu baris setiap lelaran gelung — nombor langkah, model dipilih, alat dipanggil, token digunakan
• Log keadaan: blok keadaan berstruktur daripada setiap langkah, supaya larian gagal boleh dimain semula dari titik tepat percabangan
• Log kos: token setiap larian diagregat mengikut jenis tugasan, iaitu cara anda perasan satu aliran kerja senyap memakan separuh bajet

Simpan kesemuanya di bawah ID jejak yang sama supaya satu larian gagal boleh dibina semula dari hujung ke hujung. Penyahpepijatan ejen tanpa log ini merosot menjadi teka-teki; dengannya, kebanyakan insiden selesai dalam dua minit bacaan.

Gerbang keluaran sebelum rantai naik produksi

Selain harness penilaian, tetapkan empat syarat yang wajib lulus sebelum sesebuah ejen dibenarkan menerima trafik sebenar. Syarat ini sengaja ditulis sebelum pelancaran supaya keputusan tidak dibuat di tengah insiden:

• Kadar kejayaan minimum pada tugasan emas: tetapkan angka yang dipersetujui pasukan, dan sekat keluaran bila ia jatuh di bawahnya
• Had token setiap tugasan: sebarang larian yang melebihi ambang wajib direkod dan disemak, bukan diabaikan
• Laluan eskalasi manusia aktif: pastikan kes yang menyentuh had langkah benar-benar sampai kepada orang, bukan berhenti di log semata-mata
• Satu butang undur balik: kembalikan ke model lama atau ke jawapan statik bila kualiti merosot mendadak

Empat perkara ini murah dipasang namun menukar ejen daripada eksperimen menjadi perkhidmatan. Pasukan kecil di Asia Tenggara sering bergantung pada seorang sahaja yang memahami keseluruhan saluran paip; dengan gerbang sebegini, pengetahuan itu bertukar menjadi peraturan bertulis yang tetap berjalan walaupun orangnya bercuti.

Catatan terakhir untuk pasukan yang baru bermula: jangan terus membina ejen dengan sepuluh alat. Mulakan dengan dua alat, satu rantai tugasan, dan satu set tugasan emas. Setelah metrik stabil selama sebulan, barulah tambah alat dan percabangan. kimi-k3 memberi ruang konteks 1 juta token, tetapi ruang besar bukan alasan untuk menyimpan keputusan yang tidak perlu — semakin pendek dan jelas keadaan yang anda berikan, semakin murah dan semakin boleh diramal hasilnya.

FAQ

Apa yang dijawab artikel ini

• membina ejen dengan kimi-k3
• menulis gelung alat
• memulihkan ejen daripada kegagalan

Peta senario ringkas

Pandangan ke hadapan

Katalog dan weights terus berubah; konvensi integrasi dan panggilan di sini mengikut dokumen rasmi pada masa penerbitan.

Sumber dan pengesahan

Fakta utama dalam artikel ini datang daripada laporan rasmi Kimi dan dokumentasi function calling EXAIV dan disahkan pada 2026-11-09. ID model, harga dan ketersediaan mengikut katalog langsung platform — sengaja tidak menulis angka tetap yang cepat lapuk. Contoh kod mengikut kontrak API pada masa penerbitan; semak dokumen rasmi sebelum menyambung ke produksi.

Skop dan khalayak

Khalayak: pembangun yang membina ejen berbilang langkah. Skop: gelung alat, pengurusan keadaan, dan pemulihan kegagalan. Tidak merangkumi: perbandingan penanda aras atau latihan model.

Nota editorial dan pembetulan

Ditulis oleh pasukan kandungan EXAIV daripada fakta yang boleh disahkan, dengan sumber dan kod disemak sebelum penerbitan. Jika ada yang lapuk atau salah, halaman keluaran rasmi dan katalog langsung yang muktamad — maklumkan melalui saluran maklum balas halaman supaya kami membetulkannya.

Bacaan berkaitan

• Panduan Kimi K3
• Panduan Function Calling
• Panduan rangka kerja ejen
• Pengendalian ralat dan cuba semula
• Senarai semak sebelum produksi