¿Sabes si es fake o es real? Google SynthID podría ser la respuesta

En un mundo donde ya ni la sonrisa del Papa con chamarra Balenciaga es confiable, llegó Google SynthID, una especie de tatuaje invisible que nos promete distinguir lo real de lo AI-made. O al menos, eso dice Google, porque ya sabemos que a la primera los hackers lo van a romper con Paint o con un filtro de perrito en TikTok.

La pregunta no es si funciona, sino si de verdad lo necesitamos. Spoiler alert: sí… pero también no.

El chiste de Google: ponerle un sello invisible al internet

Google DeepMind (ese laboratorio donde un grupo de genios que nunca han pisado Iztapalapa pero deciden el futuro de la humanidad) sacó SynthID, una marca de agua invisible que se incrusta en fotos, videos, audios y textos generados por IA.

La onda es sencilla: tú ves una foto normal, pero en el fondo lleva un código secreto que solo otra herramienta de Google puede leer. Algo así como cuando compras unos tenis en Tepito y solo el experto sabe si son originales o clones.

Según Demis Hassabis, el mero mero de DeepMind, la idea es que ya no nos hagan pato con los deepfakes. Porque si algo nos sobra en el 2024 son elecciones y políticos que se graban diciendo tonterías, y nadie sabe si era real o generado en MidJourney.

Los detalles técnicos… en español chilango

• Invisible pero presente: el sello va metido en los píxeles, en el audio, en el texto. Tú ni lo notas, pero Google sí.
• Resistente: que si le recortas, le pones filtro sepia, lo subes a Facebook en 480p, ahí sigue.
• Detector propio: Google inventa el problema y te vende la solución. O sea, como Telmex con su “infinitum”.
• Beta mode: todavía no es perfecto, pero quieren que todos lo adopten y se vuelva el estándar mundial. O sea, que si quieres saber si tu meme del perrito musculoso es real, vas a tener que pasar por Google.

La promesa: salvarnos del Apocalipsis de los deepfakes, o hacerlos cada vez más indetectables (porque claro, ese podría ser otro negocio a futuro)

La gran narrativa es que con SynthID ya no vamos a caer en las fake news. Que si ves a un político con pelo bien peinado o un influencer hablando coherentemente, ya puedes saber si es real o IA.

Pero hay un detalle: no todos van a usar SynthID. Meta, OpenAI, Microsoft y hasta tu primo que baja modelos piratas en Hugging Face tienen sus propios sistemas. Es como si cada taquero de la esquina inventara su propia “salsa verde”: ninguna sabe igual, ninguna combina, y al final acabas con agruras.

Durante la conferencia Cloud Next de Google, se escuchó de todo:

• Los optimistas: “¡Por fin una forma de acabar con los deepfakes!”.
• Los paranoicos: “Esto es el inicio del Gran Hermano de Google, pronto nos van a cobrar por respirar”.
• Los pragmáticos: “¿Sirve para checar si las fotos de Tinder son reales? Porque ahí sí me interesa”.
• Los marketeros: “Uf, esto es oro, ya no me van a acusar de usar stock photos para mis campañas”.
• Mientras tanto, en X (antes Twitter, ahora circo romano con algoritmo), la gente resumió la idea en un meme: “Google quiere ponerle marca de agua hasta a la foto del pozole de la abuela”.

El gran problema: esto se va a romper (y lo saben)

Aquí lo interesante: Google lanza SynthID sabiendo que los hackers ya están frotándose las manos. Es un gato y ratón digital: ellos ponen el sello, otros lo borran, luego sacan versión 2.0, y así hasta que todos nos aburramos y regresemos a creerle más a WhatsApp que a la ONU.

De hecho, OpenAI ya tiró la toalla con su propio detector porque no servía ni para distinguir si un niño de primaria escribió su tarea o ChatGPT lo hizo en 10 segundos.

Entonces, ¿qué tan real es la promesa de Google? Pues es como la dieta keto: al principio suena infalible, pero tarde o temprano alguien va a llegar con una concha de la panadería y adiós disciplina.

México y la IA: cuando el fake ya es costumbre

Mientras Google inventa SynthID, en México ya estamos acostumbrados a no creerle a nada.

• ¿Qué si AMLO dijo que la aspiracionalidad causa infelicidad? Real.
• ¿Qué si Abelito tiene un OnlyFans con peluches de su tamaño? Fake (por ahora).
• ¿Qué si la Ciclovía del Zócalo al Estadio Azteca estará lista para el mundial? Fake disfrazado de boletín oficial.
• Aquí ya no necesitamos IA para desconfiar: la política nos entrenó desde hace décadas.

El negocio detrás del “salvador digital”

No nos hagamos mensos: esto no es altruismo. Google no se despertó un día diciendo “vamos a salvar la democracia”. No. Esto es un negociazo:

• Integrar SynthID en Google Cloud y Vertex AI.
• Cobrarle a las empresas que quieran “seguridad digital”.
• Convencer a todos de que sin SynthID el internet es básicamente Mordor.
• Es como venderte cubrebocas en pandemia: primero inflan el miedo, luego inflan la factura.

Google sueña con que SynthID sea como el cinturón de seguridad del internet. Que sin él no subas nada. Que todo lo que veas esté marcado, como si fueran boletos de Ticketmaster (esperemos que con menos cargos por servicio).

La gran ironía es que estamos confiando en Google para decirnos qué es real y qué no. Sí, en la misma empresa que nos cobra por más espacio en Gmail porque acumulamos memes del 2010. ¿Es necesario un estándar global? Claro. ¿Será este? Probablemente no. Pero al menos ya tenemos con qué burlarnos: cuando tu tía suba una cadena de “AMLO clon robot” podrás contestarle: “Tranquila, tía, ya lo revisé en SynthID”. Al final, lo fake y lo real ya no importa tanto, lo que importa es quién controla la narrativa. Y ahí, Google ya lleva ventaja.