jperezduerto.info
Seguridad a fondo · Unidad 27 · Lección 8 de 11
La salida generada necesita validación
Revisa por separado la estructura, el respaldo factual y la divulgación de contenido generado.
Para prepararteOfensiva de IA
Después de esta lección puedes
- Identifica qué comprobaciones pasó un borrador para clientes y cuáles siguen pendientes.
Una idea. Una situación. Una decisión razonada.
Cómo funciona
La salida puede ser incorrecta, mal formada o inadecuada. Mostrar texto, consultar datos, enviar mensajes y usar herramientas requieren controles distintos. Valida estructura y política en el destino. Estar bien formado no demuestra verdad ni permiso para producir efectos.
Una estructura válida puede contener una afirmación sin respaldo
Un asistente ficticio genera una actualización para clientes con el formato exigido por la aplicación.
| Registro | Observación de revisión |
|---|---|
| O1 | Esquema válido: campos obligatorios y tipos presentes |
| O2 | El borrador afirma servicio restablecido y causa confirmada |
| O3 | El registro aprobado indica comprobaciones incompletas y causa desconocida |
Decisión razonada: la estructura pasa, pero la afirmación factual no. Reescribe la actualización para ajustarla a O3: las comprobaciones de recuperación están incompletas y la causa no se ha confirmado. Un validador de esquema puede establecer la forma esperada sin decidir si esas afirmaciones son verdaderas.
Antes de enviar, comprueba por separado el destinatario real y la divulgación permitida. Los hechos correctos enviados a la audiencia equivocada también pueden causar daño. Revisar la redacción tampoco demuestra que los argumentos finales de la herramienta contengan el destinatario y el contenido revisados.
Al mostrar texto generado, aplica las reglas de representación de su destino; no lo supongas código fiable de la aplicación. Al ejecutar acciones, valida el efecto concreto y su autorización. Nombra estas comprobaciones por separado en la aceptación para que un esquema válido no sustituya silenciosamente la veracidad, la presentación segura o el permiso.
La distinción clave: Sintaxis, verdad y permiso son propiedades distintas.
Compruébate
Sin reloj ni penalizaciones. Lee cada explicación y vuelve a intentarlo cuando quieras.
Las preguntas de esta lección han cambiado. Tu lectura sigue guardada; repasa las preguntas actualizadas.
-
¿Qué demuestra O1 sobre este borrador?
Ver la respuesta
Respuesta correcta: La estructura exigida está presente; falta corregir el estado y comprobar el destino por separado. O1 respalda solo la estructura. El contenido debe ajustarse a la evidencia aprobada y revisarse independientemente el destino y la divulgación.
Pruébalo
- EscribeReescribe la afirmación de estado usando O1-O3. Define comprobaciones independientes de respaldo factual y destino real antes de poder enviar el mensaje.