RyzaChat apenas se estrenó el 25 de agosto y los jugadores ya encontraron formas de hacer que Ryza respondiera cosas que claramente no estaban en los planes. SpiralAI terminó publicando una advertencia apenas dos días después.

Era bastante predecible.

Pones una IA conversacional detrás de uno de los personajes más populares de Atelier, le das libertad para responder a prácticamente cualquier cosa y después la sueltas frente a internet.

Los usuarios japoneses tardaron horas en empezar a buscarle las costuras.

En redes comenzaron a circular conversaciones donde Ryza responde frases con contenido sexual o directamente absurdo, obtenidas mediante mensajes diseñados para saltarse las restricciones del sistema. La técnica entra dentro de lo que se conoce como prompt injection, básicamente empujar al modelo con instrucciones para conseguir respuestas que normalmente debería rechazar.

Y SpiralAI ya se dio cuenta.

SpiralAI pide que dejen de forzar las respuestas

El 27 de agosto, apenas dos días después del lanzamiento, el equipo de RyzaChat publicó un aviso pidiendo a los jugadores respetar los términos de uso.

Las propias reglas prohíben saltarse restricciones técnicas y utilizar los mensajes generados con fines obscenos o contrarios al orden público. Es decir, muchas de las pruebas que se hicieron virales están bastante lejos de cómo SpiralAI esperaba que se utilizara la aplicación.

Por ahora no se ha anunciado un cierre del servicio ni una actualización específica para endurecer los filtros.

La petición es, literalmente, que la gente deje de intentar romperlos.

También están circulando cosas que RyzaChat ni siquiera generó

Y aquí hay que separar dos problemas.

Una cosa son las respuestas extrañas que sí están consiguiendo los usuarios dentro de la aplicación.

Otra son imágenes y videos de Ryza creados con IA que comenzaron a aparecer en redes y que no fueron producidos por SpiralAI.

La compañía asegura que algunos usuarios también extrajeron materiales, voces y otros datos internos de la app para utilizarlos en contenido propio, algo que considera ingeniería inversa y una violación de sus términos. En los casos más graves, dice que podría tomar medidas junto con las partes involucradas.

Esto es especialmente importante porque la propia página oficial insiste en que las ilustraciones de Ryza dentro de la aplicación no utilizan IA generativa. Fueron realizadas manualmente bajo la supervisión de Toridamono, mientras que la voz sintética utiliza material grabado con autorización de Yuri Noguchi.

Así que no todo lo que aparezca en X con una Ryza hecha por IA viene realmente de RyzaChat.

Y mientras todo esto pasa, Ryza ya habló más de un millón de veces

La polémica tampoco parece haber frenado demasiado a la gente.

SpiralAI anunció que Ryza ya superó el millón de respuestas generadas dentro de la aplicación y está regalando 900 tokens de conversación a determinados usuarios como celebración.

RyzaChat es una aplicación oficial licenciada por Koei Tecmo que permite conversar libremente con Ryza, avanzar por una especie de RPG mediante texto y encontrarse con más de 30 personajes de la saga. Actualmente está disponible en Japón para iOS y Android, mientras su versión global sigue en preparación.

SpiralAI quería demostrar hasta dónde podía llegar una conversación libre con Ryza.

Internet decidió comprobarlo de una forma bastante distinta.