Una compañera de trabajo me recomendó The Artifice Girl. Mientras la veía, me llamó la atención que se mencionara a la Universidad de Deusto. En una de las primeras escenas, Gareth, el programador que está detrás de Cherry, cuenta que su proyecto empezó con un chatbot que había tomado prestado sin permiso de aquella universidad.
Me quedé con la duda de si esa referencia tenía algo de real. Buscando información, di con una publicación de Pablo García Bringas, uno de los investigadores de Deusto, que identificaba el proyecto al que aludía la película. Se llamaba Negobot y, en el chat, se presentaba como Sara, una adolescente ficticia de 14 años. Publicación de Pablo García Bringas sobre la película
Sara existió, al menos en un chat
Negobot fue un prototipo desarrollado en Bilbao por investigadores de DeustoTech, en colaboración con la empresa Optenet y con financiación del Gobierno Vasco. El equipo presentó el trabajo en un congreso en 2012 y publicó después una versión ampliada en el Logic Journal of the IGPL. Su objetivo era detectar indicios de grooming, la captación de menores con fines sexuales. Para ello, el programa conversaba haciéndose pasar por una adolescente. Artículo original de Deusto · Artículo de revista
Al leer el artículo, lo que más me interesó fue cómo habían resuelto la conversación. ¿Cómo decides qué debe contestar un programa cuando las señales aparecen poco a poco y un mismo mensaje puede tener sentidos distintos según lo que se haya dicho antes?
Los investigadores recurrieron a la teoría de juegos para plantear esa decisión. El bot trataba de obtener información sin que su forma de responder llevara al interlocutor a cortar el contacto. Para ello definieron siete estados, del −3 al +3. Sara empezaba en el nivel 0, con una actitud neutra. Si la otra persona perdía interés, el programa podía cambiar de estrategia para mantener la conversación. Si detectaba señales sospechosas, subía de nivel y ajustaba sus respuestas. Descripción técnica en Deusto Ingeniería
Desde el punto de vista de la programación, el diseño me recordó a una máquina de estados. El sistema normalizaba el texto, corregía algunas erratas y utilizaba Apache Lucene para buscar similitudes con un conjunto de 377 conversaciones. También tenía en cuenta el historial y la frecuencia de los contactos. A partir de esa evaluación, seleccionaba respuestas mediante patrones escritos en AIML, un lenguaje de reglas para chatbots. Artículo original de Deusto
Negobot y la IA de su época
Cuando el equipo presentó Negobot en 2012, aún faltaba una década para que apareciera ChatGPT y la IA generativa se popularizara. La inteligencia artificial ya existía, y el trabajo de Deusto encajaba en una forma de desarrollarla que combinaba reglas escritas por el equipo con técnicas para encontrar patrones en el texto.
Un algoritmo es una secuencia de pasos para realizar una tarea, como ordenar una lista o buscar coincidencias entre dos textos. Los sistemas de inteligencia artificial también funcionan con algoritmos. Lo que me interesa en este caso es de dónde sale el comportamiento del programa. En Negobot, el equipo definía los estados de la conversación y escribía los patrones de respuesta. El programa analizaba el mensaje y el historial para decidir cuáles aplicar. Un modelo de lenguaje como los que se usan hoy en los chatbots generativos aprende patrones del texto durante el entrenamiento y los utiliza para generar una respuesta fragmento a fragmento. Esos fragmentos, llamados tokens, pueden ser palabras, partes de palabras o signos de puntuación.
En el artículo de Deusto podía seguir el recorrido desde el mensaje hasta la respuesta y entender qué hacía que Sara cambiara de estrategia. Me quedaba por saber cómo se había comportado al ponerla a prueba.
¿Hasta dónde llegó?
En 2013, Carlos Laorden contó a la Agencia SINC que el prototipo se estaba probando en el chat de Google y que el equipo había alcanzado un acuerdo de colaboración con la Ertzaintza. Ese mismo otoño, la revista de la Universidad de Deusto explicaba que Negobot seguía en un entorno cerrado y controlado mientras se estudiaba su posible uso en casos reales. En las fuentes que he consultado, el último estado documentado del prototipo es el de esas pruebas controladas. Entrevista de Agencia SINC · Revista Deusto, n.º 120
El primer artículo mostraba dos conversaciones de prueba en las que se podía ver cómo cambiaba de estado el programa. Al leerlas, me surgieron otras preguntas. ¿Con qué frecuencia confundiría una broma con una señal de riesgo? ¿Qué ocurriría si las señales aparecieran a lo largo de varios días? ¿Hasta qué punto influirían las respuestas de Sara en lo que el interlocutor dijera después? Según explicó Laorden, la idea era que una alerta permitiera a las autoridades revisar la conversación y valorar si había motivos para investigar. Artículo original de Deusto · Entrevista de Agencia SINC
¿Hay proyectos parecidos hoy?
De los proyectos que he encontrado, el que más se parece a Negobot es C³-Sex, una línea de investigación con trabajos publicados en 2019 y 2020 y participación de la Universidad de Murcia y de universidades colombianas. También utilizaba un agente conversacional para interactuar y analizar las respuestas. Sus investigadores combinaron modelos generativos y reglas y documentaron pruebas con conversaciones en Omegle. Trabajo de 2019 · Artículo de 2020
Otras iniciativas analizan las conversaciones que ya se producen en las plataformas. En 2020, Microsoft y varias organizaciones presentaron Project Artemis, pensado para señalar interacciones que merecieran una revisión humana. En 2026, la organización Thorn comunicó que su tecnología de detección de grooming se había incorporado a la plataforma de moderación de Hive. Es un paso hacia el uso de estas herramientas en la moderación diaria, aunque la información publicada apenas permite comparar su eficacia con la de un prototipo como Negobot. Project Artemis · Actualización de Thorn de 2026
Más cerca de casa encontré StopOnSexGroom, un proyecto vinculado a la UPV/EHU. Su equipo ha estudiado los patrones lingüísticos del ciberacoso sexual a menores en España para desarrollar herramientas de detección y materiales de prevención. Ese trabajo me hizo volver a una de las preguntas que me había planteado al leer sobre Negobot. Para entender qué está ocurriendo en un chat importa tanto el lenguaje que se usa como lo que ha pasado antes en la conversación. Proyecto StopOnSexGroom · Informe publicado por el Ministerio del Interior
La pregunta que me dejó la película
Empecé buscando el motivo de una mención a la Universidad de Deusto y acabé preguntándome cómo estamos preparando a los niños para lo que pueden encontrarse en internet. Hoy tienen acceso a la tecnología desde edades tempranas y pueden recibir mensajes privados mientras juegan o usan una aplicación. Por eso me parece más importante que nunca protegerlos desde sus primeros pasos en internet.
A mi parecer, una prohibición de acceso deja pendiente lo esencial. Creo que debemos educarlos y acompañarlos en el uso de la tecnología. Eso implica explicarles, con palabras adecuadas a su edad, que hay personas que intentan ganarse su confianza para aprovecharse de ellos. Podemos hablar de qué hacer si alguien les pide una foto íntima, los presiona para que sigan hablando en privado o les pide que guarden en secreto algo que les incomoda.
La pedofilia y el abuso sexual infantil siguen siendo temas tabú en nuestra sociedad. Creo que debemos hablar de ellos en casa y en la escuela, aunque a los adultos nos resulte incómodo. Herramientas como Negobot pueden ayudar a detectar señales de riesgo. A nosotros nos toca abrir esa conversación antes, para que los niños sepan que pueden pedir ayuda aunque ya hayan respondido o compartido algo. Y cuando se animen a contarlo, lo primero es escucharles y dejarles claro que lo ocurrido nunca será culpa suya.
Sé el primero en comentar