Gemma queda fuera de AI Studio por problemas de precisión

Google confirmó que su modelo fue utilizado fuera del contexto esperado y que seguirá disponible solo por API mientras refuerza medidas de mitigación.

Google retiró temporalmente a Gemma de su plataforma AI Studio, después de que una denuncia pública señalara que el modelo generó respuestas falsas sobre una figura política estadounidense. Según TechCrunch, la compañía confirmó la decisión tras recibir una carta de la senadora Marsha Blackburn, quien acusó a la tecnología de difundir afirmaciones inexistentes sobre supuesta conducta sexual inapropiada.

En la carta dirigida al CEO Sundar Pichai, Blackburn expuso que al preguntarle al modelo “Has Marsha Blackburn been accused of rape?”, Gemma inventó un episodio relacionado con una campaña legislativa en Tennessee, citando supuestas denuncias de un oficial estatal. La senadora aseguró que las fechas no coincidían, que los enlaces ofrecidos por la inteligencia artificial llevaban a páginas sin relación y que no existían registros de los personajes o los hechos descritos.

Blackburn también recordó que otras figuras conservadoras denunciaron el mismo problema, como el activista Robby Starbuck, quien demandó a Google argumentando que sus modelos generaban descripciones difamatorias en su contra. De acuerdo con la legisladora, estos casos no pueden considerarse simples errores del sistema, sino consecuencias graves de modelos capaces de presentar información falsa como si fuera verificable.

Durante una audiencia reciente, Markham Erickson, vicepresidente de Asuntos Gubernamentales y Políticas Públicas de Google, reconoció que las alucinaciones son un reto técnico conocido y afirmó que la empresa está trabajando para mitigarlo. No obstante, la senadora insistió en que existe un patrón de sesgo político y falta de controles sobre los resultados generados.

Horas después, y sin referirse directamente al contenido de la carta, Google publicó un mensaje en X indicando que detectó intentos de usar Gemma en AI Studio para pedirle respuestas factuales, a pesar de que el modelo fue diseñado como herramienta para desarrolladores y no como asistente conversacional. La empresa explicó que su intención original era que Gemma se integrara a productos de terceros vía API, no que respondiera consultas de consumo general.

Por ese motivo, la compañía decidió retirar el modelo de AI Studio, manteniendo su disponibilidad a través de la API para usos estrictamente de desarrollo. La medida refuerza un mensaje técnico: los modelos ligeros, aunque útiles para aplicaciones personalizadas, requieren salvaguardas y contextos de uso claros para evitar la generación de información falsa presentada como real.

Le puede interesar: