Guías
Revisar solo el resultado de la IA sin leer el código: qué riesgos tiene y cómo cubrirlos
Publicado: · Actualizado:
Si solo compruebas que lo que te ha hecho la IA funciona, estás comprobando la mitad: que hace lo que le pediste. Lo que no se ve en la pantalla es qué más hace. Ahí caben cuatro riesgos: una clave o contraseña que queda a la vista, datos que salen hacia un servicio que no conoces, algo que borra o ejecuta más de la cuenta y una librería (un trozo de programa hecho por otros que tu proyecto reutiliza) insegura o directamente inventada. Ninguno da la cara mientras pruebas la app y todo va bien. Para cubrirlos no necesitas leer código, sino saber qué preguntar y dónde mirar.
«Funciona» solo responde a una pregunta
Imagina que le pides a una IA un formulario de reservas para tu peluquería. Guardas una cita de prueba, aparece en la lista y das el trabajo por bueno. Esa prueba te confirma que la cita se guarda. No te dice si cualquiera que tenga el enlace puede ver las citas de los demás, ni dónde acaba el teléfono de tus clientas.
Lo advierten los propios fabricantes. GitHub dice en su documentación que Copilot Chat «puede generar código que parece válido, pero no es correcto desde el punto de vista semántico o sintáctico», y pide revisar y probar siempre lo generado, sobre todo cuando hay seguridad de por medio. Anthropic lo deja en una línea en la documentación de Claude Code: «Eres responsable de revisar el código y los comandos propuestos para verificar su seguridad antes de aprobarlos».
Ni quien vende la herramienta te promete que baste con ver que funciona.
Los cuatro riesgos que el resultado no enseña
| Riesgo | Por qué no lo ves al probar | Qué preguntarle a la IA |
|---|---|---|
| Claves y contraseñas a la vista | La app funciona igual con la clave bien guardada que con la clave pegada en un archivo público | «¿Qué claves usa este proyecto y dónde está guardada cada una?» |
| Datos que salen o que cualquiera puede leer | Tú pruebas con tu sesión iniciada y ves solo lo tuyo | «¿A qué servicios externos envía datos y cuáles? ¿Qué ve alguien sin iniciar sesión?» |
| Borrados y comandos de más | El daño llega el día que algo falla, no el día de la prueba | «¿Qué puede borrar o sobrescribir esto? ¿Qué comandos ejecuta en mi ordenador?» |
| Librerías inseguras o inventadas | Se instalan en segundo plano y no cambian lo que ves | «Dame la lista de todo lo que has instalado y para qué sirve cada cosa» |
Claves a la vista
Para conectarse a otros servicios, tu proyecto usa claves de API. Anthropic las describe así: «Tu clave API es una llave digital a tu cuenta. Al igual que un número de tarjeta de crédito, si alguien obtiene y usa tu clave API, incurrirá en cargos en tu nombre». La misma página cuenta que es habitual que alguien suba por descuido una clave, escrita tal cual, a un repositorio público (la carpeta del proyecto colgada en internet a la vista de todos). Y la app funciona exactamente igual con la clave bien guardada que con la clave publicada.
Datos que salen, o que están abiertos
Aquí hay dos fallos distintos. Puede que el proyecto mande datos a un servicio externo sin que tú lo sepas. O puede que los guarde en su sitio y deje la puerta abierta. Supabase, un servicio para guardar los datos de una app, avisa en su documentación de que, si una tabla es accesible desde fuera y no tiene activada la «seguridad a nivel de fila» (RLS, por sus siglas en inglés), puede leerla y modificarla cualquiera a quien la base de datos dé acceso. Por eso pide activar esa protección en todas esas tablas. Según cómo esté montado el proyecto, ese «cualquiera» puede ser mucha más gente de la que imaginas. Con tu usuario de prueba no lo vas a notar nunca.
En España, además, esto lo regula la ley. Si lo que guardas o envías es el nombre, el teléfono o el correo de un cliente (y no digamos su DNI o su NIE), son datos personales, y se les aplican el RGPD (el reglamento europeo de protección de datos) y la Ley Orgánica 3/2018. Esta ley dedica su título VI a las transferencias internacionales de datos, que es lo que entra en juego cuando tu app manda esos datos a un servicio de fuera de la Unión Europea. Quien vigila que se cumpla es la AEPD. Esto es una orientación, no asesoramiento jurídico: si tu proyecto maneja datos de clientes, consúltalo con un profesional.
Borrados y comandos de más
Un asistente que trabaja dentro de tu ordenador, como Claude Code, puede editar archivos y ejecutar comandos (órdenes que se le dan al ordenador por escrito). Según la documentación de Anthropic, en el modo manual te pregunta antes de hacerlo. En el modo automático, que según esa misma página es el modo en el que arrancan las sesiones en la terminal (la ventana donde se escriben comandos) y en el editor VS Code, quien revisa cada acción ya no eres tú: lo hace otro modelo de IA. Si quieres ver cada aviso, comprueba en qué modo estás. Ese aviso es tu revisión: si le das a aceptar sin leerlo, te la has saltado. Tener una copia a la que volver ayuda mucho, y lo explicamos en checkpoints de Claude Code frente a git.
Librerías inseguras o inventadas
Casi ningún proyecto se escribe desde cero: tira de librerías hechas por otros. OWASP, una fundación dedicada a la seguridad del software, recoge entre los riesgos de los modelos de lenguaje que sugieran librerías inseguras o que no existen. Y describe el ataque que viene después: hay quien busca los nombres que los asistentes suelen inventarse y publica paquetes maliciosos con esos mismos nombres. Es la versión con consecuencias de una alucinación.
Cómo revisar sin leer una sola línea
Empieza por las cuatro preguntas de la tabla, con esas palabras. Después añade dos más:
- «Explícame qué hace este proyecto como si no supiera programar, y dime qué podría salir mal.»
- «¿Qué pasa si alguien escribe algo inesperado en el formulario?»
Luego comprueba tú lo que esté a tu alcance, que es más de lo que parece:
- Abre la app en una ventana de incógnito (o privada), sin iniciar sesión, e intenta ver datos que no deberías ver.
- Busca cada librería de la lista por su nombre. Si no encuentras una página oficial o no la menciona nadie, no sigas hasta que la IA te diga de dónde la ha sacado.
- Lee cada aviso de permiso antes de aceptarlo. Si no entiendes un comando, pídele a la IA que te lo explique en cristiano y que te diga qué pasaría si saliera mal.
- Pide una segunda opinión. Otra IA puede revisar el mismo código y decirte qué le preocupa. Antes de pegarlo, pásalo por nuestro control de privacidad: se ejecuta en tu navegador y te marca claves de API, líneas como «contraseña: …», correos y teléfonos para que no los compartas sin querer.
Un aviso sobre el método: la IA puede equivocarse al explicar su propio código. Si una respuesta es vaga o cambia cuando repites la pregunta, tómatelo como señal para ir más despacio. Y si la IA empieza a tocar cosas que no le has pedido, quizá el problema sea otro; lo contamos en por qué la IA edita el archivo equivocado.
Cuándo basta con mirar el resultado
Depende de quién pague el error.
Si es un proyecto solo para ti, sin datos de nadie más y sin claves que puedan generarte cargos (una calculadora, un programita que te ordena las fotos, siempre que tengas copia de ellas), mirar el resultado suele bastar. Pruébalo, aprende y no te agobies.
Si hay usuarios, datos o dinero de otras personas, mirar el resultado se queda corto. Una tienda online, las reservas de un negocio o las facturas de una gestoría entran aquí. Las preguntas de arriba te sirven para llegar con los deberes hechos, pero antes de publicar conviene que lo revise alguien que sepa leer código.
Si ya está publicado y algo no te cuadra
Lo primero son las claves. Si sospechas que una ha quedado expuesta, Anthropic recomienda anularla (revocarla) de inmediato. Se hace en la web del servicio que te dio la clave, y luego creas otra.
Para todo lo demás, en España tienes el 017 de INCIBE. Se llama «Tu Ayuda en Ciberseguridad» y es un servicio gratuito y confidencial para ciudadanos, empresas y menores que atiende todos los días del año, de 8:00 a 23:00. También responde por WhatsApp en el 900 116 117 y por Telegram en @INCIBE017.
En resumen
Ver que funciona es solo el primer paso. Haz las cuatro preguntas, comprueba lo que puedas con tus propias manos y busca a una persona cuando haya datos o dinero ajenos de por medio.
Para saber qué no pegar nunca en un chat, tienes la lista corta de qué sí y qué no compartir con ChatGPT. Y si todavía estás eligiendo con qué construir, nuestra herramienta gratuita IA para programadores, que a pesar del nombre también sirve si estás empezando, te ayuda a escoger asistente, a instalarlo en tu sistema y a arrancar con unos ajustes que convierten la revisión de los cambios en rutina.
Sigue leyendo
Preguntas frecuentes
¿Qué riesgos tiene revisar solo el resultado de la IA y no el código? +
Probar el resultado te dice que la app hace lo que pediste, pero no qué más hace. Se quedan fuera cuatro cosas: una clave o contraseña que queda a la vista, datos que salen hacia otro servicio o que cualquiera puede leer, acciones que borran o ejecutan más de lo previsto y librerías inseguras o inventadas. Ninguna se nota mientras todo funciona.
¿Cómo puedo revisar lo que ha hecho una IA si no sé programar? +
Con preguntas en lugar de lectura. Pídele a la IA que te diga qué claves usa y dónde las guarda, a qué servicios se conecta y qué datos envía, qué puede borrar o cambiar y qué ha instalado. Luego comprueba por tu cuenta lo que puedas: abre la app sin iniciar sesión, busca cada librería por su nombre y mira qué comandos te pide aprobar.
¿Puedo fiarme de la explicación que la IA da de su propio código? +
Sirve como punto de partida, no como garantía. GitHub avisa de que su asistente puede generar código que parece válido y no lo es, y la explicación puede fallar igual. Por eso conviene contrastar las respuestas importantes con una comprobación que hagas tú, o con una persona que sepa leer código cuando hay datos o dinero de otros.
¿Qué hago si ya he publicado una app hecha con IA y creo que hay un fallo? +
Si sospechas que una clave ha quedado expuesta, Anthropic recomienda anularla (revocarla) de inmediato. Se hace en la web del servicio que te dio la clave, y luego creas otra. Si la duda es más amplia, en España puedes llamar al 017 de INCIBE, un servicio gratuito y confidencial que atiende todos los días de 8:00 a 23:00.