Tata Kelola AI: Introspeksi & Persetujuan

Introspeksi Bisnis object (cakupan introspection:read)

Tiga alat baca memungkinkan klien AI mempelajari bentuk bisnis sebelum menyentuhnya: objek mana yang ada (termasuk bidang kustom dan objek kustom ruang kerja sendiri), apa arti setiap atribut, bagaimana objek saling terkait, dan tindakan mana yang dapat dieksekusi — dengan prasyarat dan perlengkapan saat ini. Agen yang berperilaku baik akan memanggil ini terlebih dahulu dan hanya mengusulkan tindakan yang benar-benar diizinkan oleh perlengkapan tersebut.

Tuliskan alat di bawah perlengkapan peninjauan: tertunda / ditolak

Ketika alat tulis MCP menargetkan tindakan yang perlengkapannya adalah review, panggilan tersebut tidak mengeksekusi efek samping. Ia mengembalikan hasil terstruktur: proposal tersebut dimasukkan dalam antrian untuk persetujuan manusia (pending), atau ditolak mentah-mentah (refused) dengan reason_code dan suggested_action yang dapat dibaca mesin.

// proposed — waiting for a human
{
  "status": "pending",
  "proposal_id": "prop_9f2c…",
  "action": "issue_coupon",
  "expires_at": "2026-07-10T00:00:00Z",  // 7 days
  "message": "Queued for human approval in
              AI Activity & Approvals."
}

// refused — with a reason and a next step
{
  "status": "refused",
  "action": "issue_coupon",
  "reason_code": "recently_rejected",
  "suggested_action": "A human rejected this
    proposal recently. Do not re-propose;
    consider a different action or ask the
    operator."
}

Setiap penolakan membawa reason_code dalam bentuk ini ditambah suggested_action — perlakukan kode di atas sebagai kode yang akan digunakan untuk percabangan dan bidang tersebut sebagai bidang yang dapat diperluas. Penolakan adalah batasan tegas yang harus Anda pahami, bukan kesalahan yang perlu dicoba lagi: jangan pernah mengubah kata-kata dalam proposal untuk menghindari penolakan.

Primitif transparansi & inventaris model kotak kaca

Disiplin kotak kaca yang sama — setiap keputusan otomatis dicatat dan dapat dijelaskan, data pribadi dijauhkan dari konteks model — meluas melampaui tindakan yang diatur: untuk bereksperimen dengan optimasi lalu lintas, untuk permintaan LLM keluar, dan untuk inventaris model ML klasik yang mendukung pemeringkatan, prediksi, dan deteksi di seluruh produk.

Optimasi otomatis lalu lintas A/B: log keputusan

Kampanye berulang (otomatisasi dan perjalanan) dapat memilih untuk Mengoptimalkan lalu lintas secara otomatis dari waktu ke waktu, yang mengalokasikan ulang bobot pengiriman di seluruh varian eksperimen berdasarkan kinerja klik yang diamati. Setiap pengalokasian ulang dapat diaudit:

• Log keputusan hanya-tambah. Setiap penghitungan ulang per jam menulis satu catatan dengan bobot yang diterapkan dan alasan yang mudah dibaca manusia. Catatan tidak pernah ditulis ulang — log adalah riwayat lengkap mengapa lalu lintas terlihat seperti itu.
• Pembagian yang dikonfigurasi tidak pernah diubah. Pembagian yang dikonfigurasi untuk eksperimen Anda tetap tidak berubah sebagai dasar; bobot yang dioptimalkan dihitung dan dicatat bersamaan dengannya.
• Batas eksplorasi: 10%. Bobot setiap varian tidak pernah turun di bawah 10%, sehingga setiap varian terus menerima trafik dan pembalikan tetap terdeteksi.
• Pembagian merata hingga ≥100 pengiriman per varian. Bobot tetap pada pembagian yang dikonfigurasi hingga setiap varian memiliki setidaknya ~100 pengiriman — tidak ada alokasi ulang pada data tipis, dan tidak ada "pemenang" statistik yang pernah diumumkan oleh mekanisme ini.

Penyembunyian PII LLM di batas penyedia

Sebelum setiap permintaan meninggalkan Flash untuk penyedia LLM eksternal, pengidentifikasi pribadi anggota disembunyikan — diterapkan pada batas penyedia, sehingga setiap fitur AI melewatinya:

• Nama samaran deterministik. Alamat email, nomor telepon, dan deretan angka seperti kartu digantikan dengan token pengganti yang stabil. Pengidentifikasi yang sama selalu dipetakan ke nama samaran yang sama, sehingga penalaran model di seluruh permintaan tetap koheren.
• Masking berlaku untuk setiap permintaan keluar dari setiap fitur AI — tidak ada yang perlu diaktifkan, dan tidak dapat dimatikan dari produk.
• Hanya masker, tidak pernah dibuka. Pemetaan bersifat satu arah pada batas keluaran: keluaran model tidak pernah ditulis ulang untuk mengembalikan pengidentifikasi sebenarnya, sehingga PII mentah tidak dapat bolak-balik melalui respons LLM.

Inventaris model kotak kaca

Setiap kemampuan prediktif atau statistik dalam produk adalah model deterministik klasik — tidak ada penilaian kotak hitam, tidak ada pengambilan sampel, sehingga data yang sama selalu menghasilkan model yang sama. Masing-masing membawa gerbang kejujuran eksplisit: di bawah gerbang tersebut, ia memancarkan nothing alih-alih tebakan, dan setiap skor dikirimkan dengan angka-angka yang diperlukan untuk menghitung ulang. Inventaris saat ini:

Tidak satu pun dari model ini yang bertindak sendiri: mereka memberi peringkat, memberi skor, dan menandai, dan segala sesuatu yang menggerakkan uang atau menghubungi anggota masih melewati mekanisme tindakan yang diatur di atas.

Untuk detail teknik lengkap pada setiap model — metode, input, kolom output, gerbang kejujuran, dan permukaan konsumsi — lihat Referensi Model Prediktif.