Gobernanza de la IA: Introspección y aprobaciones

Introspección empresarial-object (alcance introspection:read)

Tres herramientas de lectura permiten a un cliente de IA comprender la estructura del negocio antes de interactuar con él: qué objetos existen (incluidos los campos y objetos personalizados del espacio de trabajo), qué significa cada atributo, cómo se relacionan los objetos y qué acciones se pueden ejecutar, con sus precondiciones y configuración actual. Un agente eficiente consulta estas herramientas primero y solo propone acciones que la configuración permite.

Herramientas de escritura bajo un engranaje de revisión: pendiente / rechazada

Cuando una herramienta de escritura MCP apunta a una acción cuyo engranaje es review, la llamada no ejecuta el efecto secundario. Devuelve un resultado estructurado: o bien la propuesta se puso en cola para su aprobación humana (pending), o bien se rechazó directamente (refused) con un reason_code y un suggested_action legibles por máquina.

// proposed — waiting for a human
{
  "status": "pending",
  "proposal_id": "prop_9f2c…",
  "action": "issue_coupon",
  "expires_at": "2026-07-10T00:00:00Z",  // 7 days
  "message": "Queued for human approval in
              AI Activity & Approvals."
}

// refused — with a reason and a next step
{
  "status": "refused",
  "action": "issue_coupon",
  "reason_code": "recently_rejected",
  "suggested_action": "A human rejected this
    proposal recently. Do not re-propose;
    consider a different action or ask the
    operator."
}

Cada rechazo lleva un reason_code en esta forma más un suggested_action; trate los códigos anteriores como los que se deben ramificar y el campo como extensible. Un rechazo es una lectura estricta de los límites para usted, no un error que deba volver a intentar: nunca reformule una propuesta para eludir un rechazo.

Principalidades de transparencia y el modelo de inventario de caja de cristal

La misma disciplina de control total —cada decisión automatizada se registra y explica, los datos personales se mantienen fuera del contexto del modelo— se extiende más allá de las acciones controladas: a la optimización experimental del tráfico, a las solicitudes LLM salientes y al inventario de modelos de aprendizaje automático clásico que impulsa la clasificación, la predicción y la detección en todo el producto.

Optimización automática del tráfico A/B: el registro de decisiones

Las campañas recurrentes (automatizaciones y recorridos) pueden optar por Optimizar automáticamente el tráfico con el tiempo, lo que reasigna los pesos de entrega entre las variantes del experimento en función del rendimiento de clics observado. Cada reasignación es auditable:

• Registro de decisiones de solo anexión. Cada recálculo horario escribe un registro con las ponderaciones aplicadas y una explicación legible. Los registros nunca se sobrescriben: el registro contiene el historial completo de por qué el tráfico se ve como se ve.
• La división configurada nunca cambia. La división configurada de su experimento permanece intacta como línea base; los pesos optimizados se calculan y registran junto con él.
• Nivel mínimo de exploración: 10 %. El peso de ninguna variante cae por debajo del 10 %, por lo que todas siguen recibiendo tráfico y se puede detectar cualquier cambio.
• Reparto equitativo hasta alcanzar ≥100 entregas por variante. Los pesos se mantienen en el reparto configurado hasta que cada variante tenga al menos ~100 entregas; no se reasignan datos en conjuntos de datos reducidos y este mecanismo nunca declara un "ganador" estadístico.

Enmascaramiento LLM PII en la costura del proveedor

Antes de que cualquier solicitud salga de Flash para un proveedor externo de LLM, los identificadores personales de los miembros se enmascaran (se aplica en la interfaz del proveedor), de modo que todas las funciones de IA pasan por ella:

• Pseudonimos deterministas. Las direcciones de correo electrónico, los números de teléfono y las secuencias de dígitos similares a las de las tarjetas se reemplazan por tokens estables. El mismo identificador siempre se corresponde con el mismo seudónimo, por lo que el razonamiento del modelo se mantiene coherente en cada solicitud.
• El enmascaramiento se aplica a todos los mensajes salientes de todas las funciones de IA; no hay nada que habilitar y no se puede desactivar desde el producto.
• Solo enmascarado, nunca revelado. El mapeo es unidireccional en el límite de salida: la salida del modelo nunca se reescribe para restablecer los identificadores reales, por lo que la información personal identificable (PII) sin procesar no puede circular a través de una respuesta LLM.

Inventario del modelo de caja de cristal

Cada capacidad predictiva o estadística del producto es un modelo clásico y determinista: sin puntuación de caja negra ni muestreo, por lo que los mismos datos siempre producen el mismo modelo. Cada uno lleva una puerta de honestidad explícita: debajo de la puerta no emite nada en lugar de una suposición, y cada puntuación se envía con los números necesarios para volver a calcularla. El inventario actual:

Ninguno de estos modelos actúa por sí solo: clasifican, puntúan y marcan, y todo lo que mueve dinero o contacta a un miembro pasa por los mecanismos de control mencionados anteriormente.

Para obtener información técnica detallada sobre cada modelo (método, entradas, columnas de salida, criterios de confianza y superficies de consumo), consulte la Referencia de modelos predictivos.