Un equipo de investigadores tomó el control de la cuenta de Kokoro en Hugging Face registrando el dominio del desarrollador que aparecía en el archivo de donaciones del proyecto. Después restableció la contraseña y, en una prueba controlada, modificó los pesos del modelo en 87 segundos para que produjera audio distinto del texto de entrada. No subió la versión alterada a la plataforma.
El caso expone un riesgo de la cadena de suministro de modelos: una cuenta comprometida podría distribuir pesos manipulados mediante una actualización aparentemente rutinaria. Los investigadores afirman que Hugging Face no detectaría esos cambios como sospechosos. El modelo se utiliza en proyectos vinculados a Google, NVIDIA, AMD, Intel y Amazon Web Services.
El dominio permitió restablecer la contraseña
Según BleepingComputer, los investigadores registraron durante el fin de semana el dominio hexgrad.com, que figuraba en el archivo público DONATE.md de Kokoro. Luego usaron el dominio para iniciar el restablecimiento de la contraseña de la cuenta publicadora del modelo. El artículo no identifica a los demás integrantes del equipo; sí atribuye la explicación de la prueba al investigador de seguridad Alon Hertz.
El método no dependió de explotar el modelo ni de modificar la aplicación que lo ejecuta. En la demostración, el equipo ajustó los pesos neuronales y pasó el resultado por el flujo de inferencia habitual. Hertz describió la prueba así:
“We changed what this model says by fine-tuning its neural weights. Same input text. Same voice file. Same configuration. Same inference code — not a single line touched in the application that runs it,”
— Alon Hertz, investigador de seguridad
Los investigadores ejecutaron la prueba en local y usaron una GPU para juegos durante 87 segundos para modificar los pesos. El modelo generó una salida envenenada, pero no se enviaron los archivos alterados a Hugging Face. Hertz dijo que hacerlo habría puesto en riesgo los sistemas de producción que dependen del modelo.
El riesgo descrito no exige que el paquete incluya malware convencional. Según el equipo, la versión manipulada conservaría los rasgos de una publicación legítima: el publicador, la ruta de descarga, el formato y la arquitectura seguirían siendo los mismos. Los tamaños de archivo serían parecidos y el paquete no contendría malware; al cambiar solo los pesos, los escáneres de malware no tendrían código malicioso o una firma que detectar.
Una voz conocida en proyectos de IA
Kokoro es un modelo de texto a voz con pesos abiertos y 82 millones de parámetros, según la página del proyecto en Hugging Face. Convierte texto en habla, admite varios idiomas y ofrece más de 50 voces predefinidas, de acuerdo con BleepingComputer. Sus pesos se distribuyen con licencia Apache, y el proyecto indica que puede usarse desde proyectos personales hasta entornos de producción.
La página del modelo presenta dos versiones publicadas. La v1.0, fechada el 27 de enero de 2025, incluye ocho idiomas y 54 voces; la v0.19, del 25 de diciembre de 2024, incluye un idioma y 10 voces. La ficha también consigna el identificador SHA-256 de la v1.0, aunque BleepingComputer no afirma que los investigadores cambiaran una versión concreta de la lista.
| Versión | Publicación | Idiomas e voces | SHA-256 abreviado |
|---|---|---|---|
| v1.0 | 27 de enero de 2025 | 8 idiomas y 54 voces | 496dba11 |
| v0.19 | 25 de diciembre de 2024 | 1 idioma y 10 voces | 3b0c392f |
El modelo suma casi 13 millones de descargas al mes en Hugging Face, según BleepingComputer. El artículo sitúa su uso en herramientas de Google, NVIDIA e Intel para agentes de voz y síntesis de habla en el propio dispositivo. AMD y Amazon Web Services también han publicado guías que muestran su uso en flujos de trabajo con agentes de IA.
El proyecto, atribuido a Hexgrad, no había recibido una actualización desde abril de 2025, según BleepingComputer. El repositorio de GitHub y el paquete de Python en PyPI también quedaron inactivos alrededor de ese momento. Ese silencio no impidió que Kokoro siguiera acumulando descargas y presencia en otros proyectos.

La prueba apuntó a actualizaciones automáticas
El escenario que preocupa al equipo es que sistemas que descargan automáticamente revisiones nuevas incorporen pesos alterados sin que cambie el código de la aplicación. Si una cuenta publicadora comprometida distribuyera esa actualización, el cambio podría llegar a instalaciones que confían en el canal habitual del proyecto. BleepingComputer señala como posibles consecuencias el robo de datos o la ejecución de código en ataques a la cadena de suministro; la demostración descrita, sin embargo, cambió la salida de voz y no incluyó la publicación de los pesos manipulados.
Hertz también advirtió de un problema más amplio que el secuestro de una cuenta. A su juicio, una cuenta que no haya sido tomada por un tercero también podría publicar durante un tiempo archivos que parezcan legítimos y distribuir más tarde una actualización maliciosa. La confianza en el nombre del publicador, por sí sola, no demostraría que quien controla la cuenta siga siendo su propietario original.
El investigador resumió la crítica a los controles de la plataforma: “Hugging Face does not vet publishers. It doesn’t verify whether an account is still held by its original, legitimate owner — or by whoever quietly took it over last week. It doesn’t vet the models or datasets those accounts upload,”. Añadió que los pesos y conjuntos de datos sin verificar también circulan por espejos, versiones convertidas, publicaciones de GitHub, registros de paquetes, guías de despliegue y descargas directas.
Hugging Face aún no había respondido
Hertz dijo que comunicó el problema a Hugging Face y esperaba una respuesta rápida, pero que no la había recibido. BleepingComputer también contactó con la plataforma para pedir comentarios y, al publicar su información, seguía sin respuesta. El artículo no detalla medidas adoptadas por Hugging Face ni anuncia cambios en el proceso de verificación de cuentas o publicaciones.
El archivo DONATE.md del proyecto es el documento que permitió identificar el dominio usado en el restablecimiento. Incluye canales de patrocinio y donaciones, entre ellos una dirección de correo asociada a Hexgrad. La página del modelo, por su parte, afirma que Kokoro se ha desplegado en proyectos y API comerciales, y advierte de sitios web que usan “kokoro” en el dominio raíz sin estar afiliados al autor o a la página del modelo.
Los investigadores presentaron Kokoro como un ejemplo destacado para mostrar cómo un cambio en los pesos puede conservar la apariencia de una publicación corriente. La prueba quedó en local: los pesos alterados no llegaron a Hugging Face, y la plataforma no había respondido a las consultas de BleepingComputer.
Fuentes: BleepingComputer, ATLABYTE, Hugging Face, Hugging Face