
Una app hecha con IA puede mostrar datos ajenos a desconocidos: qué revisar antes de lanzarla
En un foro hecho con IA, cualquier visitante podía leer más de 80 mil perfiles y 200 mil mensajes de chat. En otro servicio estaban igual de expuestos más de mil registros con números de pasaporte. Nadie hackeó nada: simplemente nadie había cerrado las puertas. En noviembre salieron varios informes sobre esto. Una empresa alemana de seguridad revisó sitios hechos con el constructor Lovable, donde la aplicación se describe con palabras y la arma la IA. Otro equipo estudió las aplicaciones de un constructor similar de Grok y encontró a la vista de todos una lista del personal de un hospital y un resumen sobre un paciente de terapia intensiva. Y el ataque a un servicio donde la gente aloja sus aplicaciones mostró que las claves de IA se roban por dinero: los gastos ajenos con las claves robadas se estimaron en unos 740 mil dólares. En el episodio explicamos con palabras sencillas cómo funciona una aplicación hecha por un agente de IA y por qué puede funcionar de maravilla y, al mismo tiempo, estar abierta para todos. Vas a saber por qué una dirección larga, un botón de inicio de sesión y la marca verde de una revisión automática todavía no demuestran nada. Más de la mitad del episodio es práctica: qué decirle a tu agente para que cierre la base y revise el sitio con los ojos de un desconocido, cómo proteger tus claves y tu dinero, y qué hacer si los datos ya se filtraron. Al final, siete frases listas para tu agente.
Transcripción
Toca un párrafo para escuchar desde ahí.
Hola. El episodio de hoy es para quienes armaron un sitio o una aplicación con un agente de IA y lo publicaron en internet. O para quienes están por publicarlo. Desde principios de noviembre salieron varios informes, y todos hablan de lo mismo. Las aplicaciones que la IA arma en una tarde les muestran a desconocidos datos ajenos: perfiles, conversaciones, números de pasaporte, contraseñas. Y casi en ningún caso alguien tuvo que hackear nada.
Esto es lo que te vas a llevar del episodio. Vas a entender cómo una aplicación puede funcionar de maravilla y, al mismo tiempo, estar abierta para cualquiera que pase por ahí. Por qué la idea de que «a mi sitio pequeño nadie lo va a encontrar» ya no te protege. Por qué un botón de «Iniciar sesión» y la marca verde de una revisión automática todavía no demuestran nada. Y cómo te pueden sacar dinero a través de tus claves, aunque hayas hecho todo según las instrucciones. Y lo más importante: para cada punto habrá encargos listos que puedes darle hoy mismo a tu agente.
Una aclaración, y no vamos a volver a ella. En este tema las cifras son llamativas, y los titulares, todavía más. Casi todos los datos vienen de investigadores que ellos mismos venden revisiones de seguridad, y de empresas que cuentan sus propios incidentes. Así que cada cifra que escuches aquí es una estimación de ellos. Y cuando una cifra no signifique lo que parece, lo vamos a decir de inmediato.
Empecemos con una pregunta sencilla. ¿Cómo puede un desconocido leer tu base de datos si no hackeó nada? Para entenderlo, hay que imaginar una sola vez qué hay dentro de una aplicación. De verdad no es complicado.
Una aplicación tiene dos partes. La primera es la página que la persona ve en el navegador. La segunda es la base de datos, es decir, las tablas donde están los usuarios, los pedidos, los mensajes. En el esquema habitual, entre las dos hay otro programa, en un servidor. Funciona como un guardia en la entrada: la página pide datos, el guardia mira quién los pide y decide qué mostrarle.
Pues bien, en las aplicaciones que arman los constructores visuales y los agentes, muchas veces ese guardia no existe. La página, en el navegador del visitante, se comunica con la base por su cuenta, de forma directa. Para eso necesita una clave, y esa clave está en el propio código de la página, donde cualquiera la puede ver. Suena a un agujero, pero está pensado así. Supabase, una base de datos que a los agentes les gusta mucho, llama pública a esa clave y dice claramente que mostrarla es seguro.
Entonces, ¿dónde está la protección? En la base misma. Es un conjunto de reglas: quién puede ver y modificar qué filas de una tabla. En Supabase esto se llama seguridad a nivel de fila; en inglés, Row Level Security. Recuerda ese nombre, te va a servir cuando hables con tu agente. La regla funciona como una condición invisible que la base agrega por su cuenta a cada consulta. Por ejemplo: mostrarle a cada persona solo los pedidos en los que el comprador es ella misma.
Y aquí está lo central. Si no hay reglas, o si la regla dice «permitir a todos», cualquier visitante del sitio puede leer la tabla. No un hacker, sino simplemente una persona con un navegador. Según la documentación de Supabase, una tabla así no solo se puede leer, sino también modificar. Es decir, la puerta tiene cerradura, solo que nadie le echó llave.
¿Cómo se ve esto en la vida real? Una pequeña empresa de seguridad de Hamburgo, Crissy Field, junto con el diario económico alemán Handelsblatt, revisó sitios hechos en Lovable. Es un constructor donde la aplicación se describe con palabras y la arma la IA. Casi veinticinco mil de esos sitios entregaban registros de su base de datos a cualquier visitante, sin iniciar sesión. Esa cifra, por sí sola, todavía no es un desastre, y los investigadores lo subrayan. El menú de un restaurante también está en una base de datos, y debe verlo todo el mundo.
El problema empieza después. Los investigadores enviaron a esos sitios unas cuantas consultas más, solo de lectura. En más de siete mil sitios aparecieron tablas con direcciones de correo electrónico. No cada una de esas tablas significa una filtración: un correo puede ser público o de prueba.
Pero también hubo hallazgos sin discusión posible. En un foro se podían leer más de ochenta mil perfiles con nombres y fechas de nacimiento. Ahí mismo había más de doscientos mil mensajes de chat. Y en un servicio estaban expuestos más de mil registros con números de pasaporte.
Y esto importa más que cualquier cifra. El autor del informe dice que no se usaron técnicas de hackeo avanzadas. Según él, cualquiera con una comprensión moderada de cómo funciona la web podrá reproducir los resultados. Los investigadores pensaban empezar por lo más básico y luego pasar a ataques más sofisticados. Nunca llegaron a esa segunda parte, porque ya había demasiados datos sensibles a la vista. Si alguien llegó a usar esos datos para hacer daño, no lo pudieron determinar.
Aquí quizás digas: eso es un constructor, a mí todo me lo arma un agente en la terminal, ¿qué tiene que ver con mi proyecto? Tiene que ver porque el esquema es el mismo. La combinación de una página y una base de datos a la que el navegador accede directamente aparece también en muchos proyectos hechos con Claude Code. Y no se trata solo de Supabase. Firebase, otra base de datos del mismo tipo, dice sin rodeos en su documentación sobre la regla «permitir a todos»: nunca uses este conjunto de reglas en producción, porque permite que cualquiera sobrescriba toda tu base de datos.
Por eso, el primer encargo para el agente ni siquiera es sobre seguridad. Es para que entiendas tu propio proyecto. Dile así: explícame con palabras sencillas cómo está hecha mi aplicación. ¿Dónde están los datos y cómo se llama la base? ¿La página en el navegador va directo a la base o pasa por un programa en el servidor? ¿Dónde se configura quién puede ver qué?
La respuesta ocupará media página. A cambio, de aquí en adelante vas a comparar este episodio con tu propio proyecto, y no con sitios ajenos.
Ahora viene la pregunta obvia. ¿Por qué la IA, que escribe una aplicación funcional en una tarde, no pone esas reglas por su cuenta? La respuesta es simple, tanto que da un poco de rabia. El agente resuelve la tarea que le diste. Le pediste que los pedidos se guardaran y se mostraran. Se guardan y se muestran.
Pero quién debe ver qué pedidos no es una cuestión técnica. Es una decisión tuya sobre tu negocio. ¿Un vendedor ve los pedidos de los demás vendedores? ¿Un cliente ve las reseñas de otros con sus teléfonos? Si no lo dijiste, el agente no tiene de dónde sacarlo. Va a elegir la opción en la que todo funciona. Y la forma más segura de que todo funcione es permitirle todo a todos.
Y esto no es una suposición. Un estudio científico de este año revisó doscientas aplicaciones en funcionamiento hechas con IA. En el noventa y uno por ciento apareció al menos una vulnerabilidad, y el tipo de error principal fue justamente el control de acceso roto. Los autores ven una de las causas en que el agente persigue el objetivo de «que funcione». Otra de sus conclusiones conviene saberla desde ya: los buenos prompts reducen el riesgo, pero no lo eliminan. O sea, las palabras no bastan, también hace falta una verificación, y a eso vamos a llegar.
Por cierto, los programadores humanos se equivocan en el mismo lugar. En la clasificación del sector de las vulnerabilidades más peligrosas, los errores de control de acceso están en primer lugar. La IA no inventó este problema. Lo que pasa es que ahora hay muchas más aplicaciones, y las hacen personas a las que nadie les habló de estas reglas.
¿Qué hacer con esto? Lo primero y más importante: las reglas de acceso se las describes al agente con palabras, al principio del proyecto. No necesitas saber cómo se escriben dentro de la base. Basta con decirlo en lenguaje normal: el visitante solo ve el catálogo, el comprador solo ve sus propios pedidos, el administrador lo ve todo. Una sola frase así cambia la forma en que el agente va a construir la base.
Lo segundo: pídele al agente que trabaje con el principio de «cerrado por defecto». Cada tabla nueva empieza sin acceso para nadie, y solo se abre lo que tú indicaste. Y que lo anote en el archivo de instrucciones permanentes del proyecto. Si no, dentro de una semana, en una conversación nueva, ya no lo va a recordar.
Lo tercero es revisar lo que ya está construido. El encargo es este: enumera todas las tablas de la base y, para cada una, explica con palabras sencillas quién puede leerla y quién puede modificarla. Muéstrame aparte las tablas que no tienen protección o que tienen la regla «permitir a todos». Vas a recibir una lista de una página. Ahí se ve de inmediato dónde está el catálogo y dónde están los clientes con sus teléfonos.
En esa misma revisión, pídele al agente que busque tres errores típicos, que están descritos en la documentación de Supabase. El primero ya lo conoces: «permitir a todos» en una tabla con datos personales. El segundo es más sutil. La regla deja pasar a cualquiera que haya iniciado sesión y no revisa si esa fila es suya. El tercero es realmente traicionero. La marca de «esta persona es administradora» se guarda en una parte del perfil que el propio usuario puede editar. Le dan ganas y se nombra administrador.
Si el agente te respondió que usas Supabase, hay algunas cosas más que son específicas de ella. Una tabla que una persona crea a mano en el panel del servicio queda protegida de entrada. Pero tu agente no entra al panel: crea las tablas con comandos, y en esas tablas la protección no se activa sola. Por eso, pídele que active la seguridad a nivel de fila en cada tabla. Y que configure la base para que se active automáticamente en todas las tablas nuevas.
Supabase tiene además un asesor de seguridad integrado, el Security Advisor. Busca tablas sin protección y columnas con datos sensibles que se ven desde fuera. El agente lo puede ejecutar por su cuenta. Pídeselo, y que te explique cada hallazgo con palabras sencillas: qué es, qué riesgo implica y cómo propone corregirlo.
Y una trampa reciente de la que poca gente ha oído hablar. Desde el treinta de octubre, Supabase cambió el comportamiento en todos los proyectos: una tabla nueva no es accesible desde fuera hasta que se le da permiso de forma explícita. Es un buen cambio, pero tiene dos caras. Las tablas antiguas siguieron como estaban; lo que ya estaba abierto no se va a cerrar solo. Y en las tablas nuevas, el agente ahora se va a topar más seguido con el error de «acceso denegado».
Aquí hay que estar atento. La forma más rápida de quitar ese error es darle acceso a todos. Un agente al que solo le dijeron «arréglalo» bien puede ir por ese camino, y todo va a funcionar. Por eso, dale una regla permanente, también en el archivo de instrucciones. Un error de acceso no se arregla abriendo el acceso a todo el mundo. Primero explica a quién quieres permitir qué, y espera mi respuesta.
Ahora, sobre las claves de la base de datos: hay dos tipos. La pública está en el código de la página, y eso es normal. La secreta se salta todas las reglas de protección de un golpe, y su único lugar es el servidor. Pregúntale al agente directamente: ¿hay en los archivos que descarga el navegador del visitante una clave secreta, contraseñas o listas de usuarios?
No es una pregunta ociosa. Uno de los informes de noviembre describe un sistema de registro de horas de trabajo de un contratista. En su código, que recibe cada visitante, había dieciocho cuentas de empleados. Con las contraseñas en texto plano, incluidas las de los administradores. ¿Te lo imaginas? Ni siquiera hace falta leer la base: todo ya llegó al navegador.
Un punto aparte sobre los archivos. Si la aplicación guarda documentos escaneados, contratos o fotos, pregúntale al agente en qué almacenamiento están. En un almacenamiento público, cualquiera que tenga el enlace a un archivo lo puede abrir. Lo que hace falta es uno privado. Así, a la persona se le da un enlace temporal que deja de funcionar al poco tiempo.
Y la última revisión de esta parte, la más honesta. Pídele al agente que entre a tu sitio publicado como entraría un desconocido. Sin iniciar sesión, solo con la clave pública que de todos modos está en el código de la página. Que intente leer cada tabla y te muestre qué le devolvieron: si hay nombres, correos, teléfonos, pedidos. Solo lectura y solo tu propio sitio. En el fondo, es lo mismo que hicieron los investigadores de Hamburgo. Solo que esta vez el resultado lo ves tú primero.
Pasemos a la segunda conclusión. Mucha gente piensa así: bueno, tal vez algo no está cerrado, pero ¿quién va a encontrar mi sitio entre millones? La dirección es larga, no está publicada en ningún lado y la conocen tres personas. Por desgracia, ese razonamiento ya no funciona. Veamos las aplicaciones del constructor de Grok.
Grok tiene una herramienta, Grok Build, donde las aplicaciones también se arman con palabras. Los investigadores de la empresa Claroc encontraron en la red decenas de miles de esas aplicaciones y abrieron la primera página de cada una. Más de treinta y cinco mil se abrieron sin ningún inicio de sesión. La mayoría son inofensivas: juegos, páginas sencillas, calculadoras, que no necesitan inicio de sesión. Pero varios cientos contenían datos personales. Los autores calculan que son entre seiscientas cincuenta y ochocientas aplicaciones.
¡Y qué aplicaciones! Una lista del personal de una red de hospitales, con más de tres mil quinientas personas, en la que se podía buscar. Un resumen sobre un paciente de terapia intensiva, con sus análisis y el estado del respirador. Un tablero de turnos de una estación de bomberos, con nombres y números de placa. A estas personas es fácil entenderlas. Se armaron una herramienta de trabajo cómoda, pusieron ahí datos reales y les mandaron el enlace a sus colegas.
¿Cómo los encontraron, si el enlace solo lo habían visto los colegas? Cada aplicación publicada tiene su propio nombre de sitio. Cuando un colega abre el enlace por primera vez, su computadora le pregunta al servicio de directorio de internet dónde vive el sitio con ese nombre. Es como llamar a un servicio de información telefónica: para que te comuniquen, tienes que decir el nombre en voz alta. Hay servicios especiales que recopilan los registros de esas preguntas, y en ellos se puede buscar por patrón de nombre.
Resulta que el enlace deja de ser secreto en el momento en que alguien lo abre por primera vez. Grok propone como nombre cuatro palabras al azar, y algo así no se puede adivinar. Pero los investigadores señalan que nadie adivinaría uno, y nadie lo necesita, porque los nombres ya están en la lista. Por la misma razón, no vale la pena esconder tablas bajo nombres raros. La propia base de datos, en un mensaje de error, puede sugerir el nombre correcto.
La segunda mitad de esta historia es una configuración que alguien eligió por ti. Cuando los investigadores publicaron su propia aplicación, les ofrecieron tres opciones de acceso: cualquiera con el enlace, usuarios invitados y solo tú. La primera venía marcada de antemano. La persona presiona «Publicar», no cambia nada, y la aplicación queda abierta a todo internet. Y puede ser de otra forma. En ChatGPT también se puede publicar una aplicación que uno armó, y allí, en su caso, la opción predeterminada era «solo tú».
Y otro mecanismo que conviene tener presente. Lo describieron con precisión en Hamburgo. Los constructores arman las aplicaciones con los mismos patrones. Por eso, un método que funciona contra una aplicación puede funcionar contra otras con poco esfuerzo adicional, y esas otras son miles. No necesitas ser un objetivo interesante. Basta con parecerte a los demás.
¿Qué significa esto para ti? Primero: antes de cada publicación, averigua quién va a poder abrir la aplicación. Si la publica el agente, pregúntale directamente: ¿quién va a ver esta aplicación con el enlace y qué va a ver exactamente sin iniciar sesión? Si publicas a través de un constructor, esa opción está en la pantalla de publicación, y tendrás que revisarla tú. Todo lo interno debe ser solo para ti o para invitados. La opción «cualquiera con el enlace» tómala como una publicación para todo internet.
Después haz una cosa sencilla con tus propias manos. Abre la aplicación en una ventana de incógnito, sin iniciar sesión. Un desconocido debería ver la página de inicio de sesión o un error, no tus datos. Aquí no hace falta entender nada de tecnología, basta con mirar la pantalla.
Segundo: no pongas datos reales en aplicaciones de prueba. Dan ganas de probar una idea con una exportación real de clientes, se entiende. Pero una aplicación de prueba se publica igual que una de verdad, y se vigila mucho peor. Pídele al agente que genere cien clientes inventados con nombres y teléfonos creíbles. Para probar una idea, eso alcanza.
Tercero: revisa todo lo que ya publicaste. En un año de trabajo con agentes, es fácil acumular una decena de proyectos olvidados. Pídele al agente que te ayude a hacer una lista: qué se publicó desde tus carpetas y dónde vive ahora. Para cada punto hay solo dos decisiones. Si lo necesito, lo reviso. Si no lo necesito, lo despublico. En Grok, según Claroc, una aplicación despublicada deja de abrirse de inmediato.
Y cuarto, sobre los enlaces a chats. Cuando compartes una conversación con una IA, ese enlace funciona de otra manera y no llega a esos registros. Pero los buscadores sí pueden encontrar la página. En agosto del año pasado, en la búsqueda de Google aparecieron más de trescientas setenta mil conversaciones con Grok que la gente había compartido por enlace. Así que lo sensato es considerar público cualquier enlace compartido a un chat. Y no dejar en ese chat nada que no estés dispuesto a mostrarle a todo el mundo.
La tercera conclusión es la más engañosa, porque habla de una falsa tranquilidad. La aplicación tiene un botón de «Iniciar sesión». La revisión automática mostró una marca verde. Entonces, ¿todo está bien? Lamentablemente, no.
Los mismos investigadores de Claroc hicieron un experimento sencillo. Le pidieron a Grok una lista de clientes para un equipo de cuatro personas. Grok, por su cuenta y sin que se lo pidieran, agregó el inicio de sesión con cuenta de Google. Parece una muestra de cuidado por la seguridad. Pero el código funcionaba así: primero agregaba al equipo a cualquiera que iniciara sesión, y después verificaba si esa persona era parte del equipo. Como es lógico, la verificación siempre salía bien.
Luego entraron con una cuenta de Google ajena, que nadie había invitado. Ese desconocido vio a todos los clientes, modificó un registro y borró otro. Esa es la clave. El inicio de sesión responde a la pregunta «quién eres». La protección de datos responde a la pregunta «tienes permiso». Son dos verificaciones distintas, y la IA hace la primera con mucha seguridad y se olvida de la segunda.
En otra de sus aplicaciones de prueba no había ningún inicio de sesión. La abrieron en una ventana de incógnito y agregaron una fila a la base. El siguiente visitante vio esa fila. O sea, un desconocido no solo puede leer tus datos, sino también estropearlos. Lo demostraron con dos aplicaciones propias; las ajenas no las tocaron.
Ahora, sobre las marcas verdes. Las revisiones automáticas de seguridad existen tanto en los constructores como en los agentes. Claude Code, por ejemplo, tiene un comando para revisar la seguridad y un plugin que revisa el código después de cada paso. Son cosas útiles. Pero tienen dos limitaciones, y es mejor conocerlas.
La primera limitación está escrita en la propia documentación de Claude Code. La revisión lee el código fuente en tu computadora, no un sitio en funcionamiento ni un servicio desplegado, y puede pasar por alto problemas. Las reglas que se definen directamente en la base de datos pueden ni siquiera estar en el código. No habrá nada que revisar, y la marca seguirá en verde.
La segunda limitación es común a todos los escáneres. Notar que falta una regla es fácil. Es mucho más difícil notar una regla que existe, pero que deja pasar a quien no debe. Cuando el año pasado Lovable lanzó su primer escáner, el investigador que había encontrado el problema escribió sobre él que verifica la existencia de alguna regla, no que sea correcta. Qué tan precisos son los escáneres actuales es algo que ninguna fuente pública ha comprobado de forma independiente.
También hay un lado humano. ¿Por qué la gente no corrige ni siquiera lo que el escáner encontró? A esa pregunta respondió el jefe de seguridad de Lovable, Igor Andriushchenko, cuando los desarrolladores discutían el informe de Hamburgo. Según él, a muchos usuarios los frena el miedo a que la corrección rompa la aplicación en producción. Y ese miedo tiene fundamento. A algunos les resulta más fácil construir sin la protección y agregarla después. Pero en una aplicación compleja, dice, eso es una tarea difícil, y las cosas se rompen.
Fíjate en este mecanismo, porque aplica a cualquier herramienta. La protección que se deja para después se convierte en una reparación que a todos les da miedo. La aplicación funciona, llegaron usuarios, da miedo tocarla. Y sigue abierta durante meses.
Y lo último de esta parte: ¿quién responde si los datos se filtran? En el sitio de Lovable dice que no hace falta saber programar. Pero en los términos de uso se lee que el resultado de la IA puede contener errores, que no hay que confiar en él sin una revisión y pruebas independientes, y que el único responsable de revisarlo es el propio usuario. Se puede discutir mucho si eso es justo.
Pero hay algo más útil. Pídele al agente que lea los términos de los servicios en los que está montado tu proyecto y que te resuma un solo punto: quién responde por los datos de los usuarios. Lo más probable es que la respuesta no te sorprenda. Respondes tú.
Qué hacer. La herramienta principal aquí se llama prueba de dos cuentas, y es más sencilla de lo que suena. Se crean dos usuarios de prueba, el primero y el segundo. El primero crea un pedido o una nota. Luego el segundo intenta verlo, modificarlo y borrarlo. Si logra cualquiera de esas cosas, la protección no funciona, diga lo que diga el escáner.
Hacerlo a mano es tedioso, así que encárgaselo al agente. Dile así: escribe una prueba automática que cree dos usuarios y verifique que el segundo no pueda leer, modificar ni borrar los datos del primero. Agrega un tercer participante que no haya iniciado sesión: no debe ver nada personal. Ejecuta esta prueba antes de cada publicación. Si la prueba falla, no se publica.
Si la aplicación es interna, para tu equipo, agrega una verificación más. Entra con una cuenta ajena, que nadie invitó. ¿Te dejó pasar? Entonces la aplicación necesita una lista de personas autorizadas. Pídele al agente justamente una lista, y no solo un botón de inicio de sesión.
La segunda regla: la protección se pone antes de los primeros datos reales, no después. Es justamente el consejo del jefe de seguridad de Lovable, que recomienda construir con todas las funciones de seguridad activadas desde el principio, y aquí es difícil no darle la razón. Mientras la base está vacía y no hay usuarios, no hay nada que romper. El agente lo configura todo con calma, y la prueba de dos cuentas lo confirma.
¿Y si la aplicación ya está funcionando y apenas ahora te diste cuenta de que está abierta? Entonces hay que corregirla, pero con cuidado, para que no se cumpla justamente ese miedo. Pídele al agente que primero haga una copia de la base. Después, que cierre una tabla a la vez y, tras cada una, ejecute las pruebas y revise las funciones principales. Así, si algo se rompe, será algo pequeño y fácil de entender. Arreglarlo todo de una sola vez un viernes por la noche es mala idea.
Tercero. Usa las revisiones automáticas, pero tómalas como una capa entre varias. Cuando las ejecutes, pídele al agente que te explique cada hallazgo y te diga qué pasará si no se corrige. No cierres la ventana de advertencias, aunque sean muchas. Pero tampoco tomes la marca verde como una prueba. La prueba es el test de dos cuentas y la revisión del sitio en vivo con los ojos de un desconocido.
Y cuarto: cuándo no queda más remedio que recurrir a una persona. Si la aplicación guarda documentos, información médica o datos de pago, antes del lanzamiento conviene encargar una revisión externa de los permisos de acceso. Y repetirla después de cambios importantes. Eso aconsejan los investigadores de Hamburgo. Sí, ellos mismos venden esas revisiones, y hay que tenerlo en cuenta. Pero lo mismo dice la documentación de la propia Lovable.
La cuarta conclusión es sobre tu dinero. Hasta ahora hablamos de los datos de los usuarios. Ahora, de algo que pega directamente en tu tarjeta. Son las claves de los servicios de pago.
Primero veamos si esto te toca. Tu suscripción a Claude Code o a Codex no es una clave: simplemente inicias sesión en tu cuenta. La clave aparece cuando tu aplicación se comunica por su cuenta con un servicio de pago. Por ejemplo, en tu sitio hay un asistente de chat que les envía a una IA las preguntas de los visitantes. El servicio necesita saber a quién cobrarle, y para eso la aplicación tiene una clave, una larga cadena de caracteres. Quien tiene la clave, gasta de tu cuenta.
Si no sabes si tienes claves así, pregúntale al agente. La pregunta es sencilla: ¿a qué servicios de pago se conectan mis proyectos y dónde están sus claves? Normalmente las claves se guardan en la configuración del hosting, es decir, del servicio donde la aplicación vive en internet. Eso recomiendan todas las guías, y es un buen consejo. Pero este otoño quedó claro que a veces ni siquiera guardarlas bien es suficiente.
En octubre hackearon el hosting Railway. Según el informe de la propia empresa, el atacante revisó las configuraciones guardadas de los clientes y las fue seleccionando por su nombre. Es decir, buscaba a propósito claves de servicios de IA y de nubes. Después, con esas claves, empezaron a llegar solicitudes ajenas. Railway estima esos gastos en unos setecientos cuarenta mil dólares entre todos los afectados. Quién le devuelve ese dinero al cliente depende de quién era la clave: cada proveedor tiene sus propias reglas, y donde el proveedor no reembolsa, Railway promete pagar por su cuenta.
¿Para qué quiere alguien claves ajenas de servicios de IA? Para vender el acceso. Así explica el ataque que sufrió otra empresa, Fireworks, una nube donde se ejecutan modelos abiertos. La empresa lo vincula con un grupo que gana dinero revendiendo acceso robado a modelos. Las claves de IA se volvieron una mercancía, y hay quien las caza a propósito.
Y aquí va un detalle que ya nos toca de cerca. A través de Fireworks resultó afectado el conocido servicio de notas Notion: los atacantes obtuvieron transcripciones de conversaciones de los usuarios con su asistente de IA. Al investigarlo, Notion encontró en los mensajes claves que la propia gente había pegado en el chat. La empresa les aconsejó a sus clientes tratar esos datos como expuestos y cambiar las contraseñas, claves y otras credenciales que hubieran pegado ahí. La gente escribe claves y contraseñas en sus conversaciones con una IA, y luego esas conversaciones siguen su propio camino en manos de un intermediario del que nunca oyeron hablar.
Ahora, los encargos. El primero es un tope de gastos. Casi cualquier proveedor permite fijar en su panel un límite de gasto mensual. Pídele al agente que busque en la documentación de tu proveedor dónde se configura y que te guíe paso a paso. De paso, que te sugiera un monto razonable según lo que gastas normalmente. Ese límite no va a impedir que te roben la clave. Lo que hace es poner un límite a la factura que te llegue después.
El segundo: una clave distinta para cada proyecto y para cada proveedor. Cuando usas la misma clave en todos lados, si se filtra, tienes que rehacer todo. Cuando las claves están separadas, desactivas una y lo demás sigue funcionando. Eso hizo el editor de código Cursor. Le había dado a Fireworks una clave aparte, y después del ataque simplemente la desactivó.
El tercero: un inventario. Pídele al agente que haga una lista de todas las claves de todos tus proyectos. Dónde está, de qué servicio es, cuánto dinero se puede gastar con ella. Y para cada una, una instrucción breve de cómo reemplazarla. Ojo: en la lista deben ir los nombres de las claves, no las claves mismas. Esa lista te va a salvar el día en que llegue el correo de «tuvimos un incidente».
El cuarto es un hábito. No pegues claves ni contraseñas en chats con IA. El lugar de una clave es la configuración del proyecto, no una conversación. Si ya lo hiciste, considera esa clave expuesta y reemplázala.
El quinto. Si tu código está en GitHub, pregúntale al agente si ahí está activada la protección contra el envío de secretos. Esa protección detiene el envío si en el código quedó una clave. En los proyectos públicos de cuentas personales viene activada desde el principio; en los privados conviene revisarlo. Y si trabajas en Claude Code, a su plugin de revisión de seguridad le puedes dar reglas propias. Por ejemplo, que dé la alarma al ver una cadena que parezca una clave.
Y el sexto, el más sencillo. Si escuchas la noticia de un ataque a tu hosting o a tu proveedor de modelos, cambia las claves ese mismo día, sin esperar un correo personal. Eso mismo les aconsejó Railway a sus clientes: cambiar todo lo sensible que estuviera guardado antes del día del ataque. Con la lista del tercer punto, eso te va a tomar una hora, no una semana.
Queda la quinta conclusión, y es continuación de la cuarta. Los datos de tus usuarios pasan por una cadena de empresas que en su mayoría no elegiste y ni siquiera conoces por su nombre. Los clientes de Notion no eligieron Fireworks. Solo hablaban con el asistente en sus notas.
Y la cadena puede ser más larga. Esa misma clave que Cursor le dio a Fireworks terminó en manos de los atacantes. Con los accesos robados llegaron al catálogo de extensiones que Cursor mantiene para su editor. El veintinueve de octubre, durante unas once horas, hubo ahí versiones falsificadas de la extensión de Claude Code. Según la estimación de Cursor, como máximo cinco mil personas pudieron recibirlas. La empresa dice que se comunicó con cada una directamente.
¿Te afecta esto? Según la descripción de Cursor, se trata de quienes ese día instalaron o actualizaron esa extensión justamente desde su catálogo. Si trabajas con Claude Code en la terminal y no usas el editor Cursor, esta historia no te tocó. Pero la lección es para todos. Una persona simplemente actualizó una extensión y salió perjudicada por culpa de una empresa de la que quizás nunca había oído hablar.
Tu propio proyecto funciona igual, solo que en pequeño. La aplicación le envía a una IA lo que escribió el usuario. Entre tú y la IA puede haber un servicio intermediario. Todo eso vive en un hosting. Por ahí cerca hay un contador de visitas y un servicio de correos masivos. Cada eslabón es un lugar donde los datos pueden quedarse y desde donde se pueden filtrar.
De ahí salen tres encargos. El primero: pídele al agente que haga un mapa. Que recorra el código y enumere todos los servicios externos a los que la aplicación envía algo. Y que diga, para cada uno, qué datos de los usuarios exactamente van ahí. Normalmente la lista es más larga de lo que uno espera. Si tus usuarios viven en la Unión Europea, la ley además te exige llevar ese registro.
El segundo: enviar menos. Mira el mapa y pregúntale al agente sobre cada eslabón: ¿se puede resolver la tarea sin mandar ahí el pasaporte, el teléfono o la ficha completa del cliente? Muy a menudo a la IA le basta con el texto sin nombres. Lo que no enviaste no se le puede filtrar al intermediario.
El tercero tiene que ver con tus propias herramientas. Pídele al agente que te muestre qué extensiones y plugins tienes instalados en el editor y en el propio agente. Lo más probable es que no recuerdes la mitad. Deja lo que realmente usas, y que borre el resto. Y si llega la noticia de un incidente, sigue la instrucción del proveedor completa. Cursor advirtió de forma expresa que desinstalar la extensión por sí solo puede no ser suficiente.
Y lo último de la parte práctica: qué hacer si ya tuviste una filtración. El orden es este. Primero, cerrar la puerta: activar la protección o despublicar la aplicación. Después, cambiar todas las claves que pudieron quedar a la vista. Luego, junto con el agente, averiguar qué tablas estuvieron abiertas y de quién eran los datos que había en ellas.
Después viene la parte desagradable, pero obligatoria. El autor del informe de Hamburgo la describe así: el dueño del sitio debe investigar cuántos de sus clientes resultaron afectados, avisarles de la filtración y reportarla a las autoridades correspondientes. Si entre tus usuarios hay residentes de la Unión Europea, la ley da setenta y dos horas para notificar a la autoridad de control. Otros países, incluida Rusia, tienen sus propias leyes y sus propios plazos. Conviene conocerlos de antemano, no el día de la filtración, y eso también se le puede encargar al agente.
Y ahora, un resumen para tener a mano. Siete frases que puedes decirle hoy a tu agente, palabra por palabra. La primera: explícame con palabras sencillas cómo está hecho mi proyecto, dónde están los datos y si la página va directo a la base. La segunda: enumera todas las tablas y dime de cada una quién puede leerla y modificarla. La tercera: entra a mi sitio publicado como un desconocido, sin iniciar sesión, y muéstrame qué datos entrega.
La cuarta: escribe la prueba de dos cuentas y ejecútala antes de cada publicación. La quinta: anota como regla que un error de acceso no se arregla abriéndole el acceso a todos. La sexta: haz una lista de todas las claves de mis proyectos, sin las claves mismas, y escribe cómo reemplazar cada una. La séptima: enumera los servicios externos a los que la aplicación envía datos de los usuarios. Todo junto te va a llevar una tarde.
Y la conclusión, muy breve. Que funcione no significa que esté cerrado, mientras tú no le hayas dicho al agente quién debe ver qué. Una dirección larga, un botón de inicio de sesión y una marca verde no demuestran nada; lo único que lo demuestra es una revisión con los ojos de un desconocido. Y las claves son dinero, así que cada proyecto lleva su propia clave y su propio tope de gastos.
Y unas palabras de mi parte. La historia de las claves encontradas en chats ajenos fue la que más me impactó. La conversación con los agentes es, en el fondo, toda la cocina del proyecto: ahí están el código, los archivos, las claves, los planes. Creo que esas cosas es mejor tenerlas en herramientas que no las envían a ningún lado. Precisamente por eso hice Arsminal, primero para mí.
En Arsminal, las conversaciones, los archivos y las claves se guardan solo en tu computadora y en tu teléfono, en ningún otro lugar. La conexión entre la computadora y el teléfono está cifrada de extremo a extremo. El cifrado es poscuántico, según el estándar que el instituto estadounidense NIST aprobó en dos mil veinticuatro. La idea es que lo que se intercepte hoy no lo puedan descifrar ni siquiera las futuras computadoras cuánticas. El servidor de conexión solo transmite ruido cifrado: no lo puede leer y no guarda nada. Y los comandos de voz se reconocen directamente en la computadora; la grabación no sale de ahí.
Eso es todo por hoy. Estuvo con ustedes Evgenii Arsentev, creador de Arsminal, una terminal para dirigir agentes de IA: todo tu equipo de agentes trabaja en una sola ventana, como chats en un mensajero. Fundador de ArsentevAI, Dad4Kids y ReelsZavod. Prueba Arsminal gratis en arsminal.com. Gracias por escuchar.