Alguien está leyendo lo que le cuentas a ChatGPT: dentro del Project Lily

Barış Özcan abre con un experimento deliberado: escribe una preocupación privada en ChatGPT, añade «quédate entre nosotros» y guarda la respuesta del modelo para el final. El recurso aterriza exactamente donde aterriza la investigación de Joseph Cox del 14 de septiembre para 404 Media — un reportaje basado en documentos internos filtrados de OpenAI sobre un programa interno llamado Project Lily. La afirmación es simple e inquietante: una parte de lo que la gente susurra en el cuadro de chat sí es leída por humanos, e incluso la nota «no compartas esto» se lee junto con el resto. La cuestión no es si el modelo promete secreto, sino quién puede mantener esa promesa.

¿Qué es el Project Lily? Según las guías y ejemplos filtrados que revisó Cox, OpenAI enruta conversaciones reales de usuarios hacia cientos de contratistas externos que las convierten en señal de entrenamiento. El flujo de trabajo tiene tres pasos: leer una conversación real de principio a fin, reformular con tus propias palabras lo que el usuario realmente intentaba hacer y luego puntuar cuatro respuestas distintas del modelo en una escala de siete puntos. El objetivo no es elegir una única buena respuesta, sino enseñar tono, extensión y límites — qué cuenta como útil, qué cuenta como adulación, qué cuenta como suplantación de un humano. Es un trabajo invisible que moldea el comportamiento tan directamente como el scraping de datos o el talento de ingeniería, pero que rara vez aparece en la historia de marketing.

¿Qué llega a la pantalla de un revisor? A veces no es un solo prompt, sino el diálogo completo, todo el ida y vuelta entre el usuario y el chatbot. OpenAI dice que los nombres de usuario están ocultos y que un filtro automatizado intenta eliminar los datos personales antes de que el chat llegue a un revisor, pero la empresa también reconoce que el filtro puede pasar cosas por alto. Más revelador aún: algunas colas muestran arriba un resumen de memoria — para qué usaba la persona ChatGPT antes, y a veces aproximadamente dónde vive. Ese resumen ensancha silenciosamente la ventana que la anonimización debía estrechar.

¿Qué chats se eligen y quién los lee? La transparencia es escasa. Con más de 900 millones de usuarios de ChatGPT, ningún equipo humano podía verlo todo, pero los criterios de selección no se detallan en ningún sitio, ni tampoco el enrutamiento por idiomas. El video señala que ninguna línea del reportaje explica cómo se manejan los chats en turco. Para ilustrarlo, recuerda la revelación de 2019 de que las grabaciones de Google Assistant eran escuchadas no por un software de traducción, sino por hablantes nativos contratados — y uno de ellos describió el trabajo en la televisión belga. La pregunta llega intacta a 2026: ¿qué idioma habla la persona dentro de esta nueva caja, y bajo qué instrucción?

¿Te lo dijo OpenAI con claridad? Aquí el video recurre al ensayo de Edgar Allan Poe de 1836 sobre el Jugador de ajedrez de Maelzel. Poe observó que cada vez que se le preguntaba al exhibidor si el autómata era puramente mecánico, la respuesta nunca variaba: no se diría nada al respecto. Cox describe un momento similar: preguntó a OpenAI dónde se informa a los usuarios de que humanos pueden leer sus chats y no recibió respuesta directa; tras la consulta, la página de ayuda se actualizó discretamente y la empresa señaló una frase enterrada en lo profundo de su sitio. La información puede existir en algún lugar, pero no donde ocurre el uso diario. La misma brecha aparece en un podcast del año pasado donde se le preguntó a Sam Altman si los mensajes de los usuarios llegan alguna vez a otra persona sin una orden judicial, y dio una respuesta vaga. Hoy esa vaguedad tiene nombre: Project Lily.

¿Qué hacen realmente borrar o cambiar los ajustes? Un chat eliminado se retira del sistema en 30 días, pero si ya fue copiado al conjunto de entrenamiento, desvinculado de tu cuenta, la copia permanece. El control llamado «Mejorar el modelo para todos» viene activado por defecto en las cuentas Free, Plus y Pro, mientras que los clientes de API empresariales lo tienen desactivado. Desactivarlo impide que los chats futuros entren en el conjunto, pero no limpia retroactivamente lo que ya era elegible. Un chat temporal ofrece una cortina práctica — no va a la memoria ni al entrenamiento — útil para un intercambio sensible puntual. La asimetría es llamativa: la protección exige que cada individuo encuentre y accione un interruptor que viene activado de fábrica.

El espejo histórico: el Turco Mecánico. El autómata que Poe sospechaba fue construido en 1770 por el inventor húngaro Wolfgang von Kempelen — una figura de madera a tamaño real, con turbante y túnica, jugando al ajedrez detrás de un gabinete. En la década de 1830 recorría América, venciendo a rivales fuertes, incluido Napoleón. Antes de cada función se abrían las puertas del gabinete para mostrar solo engranajes. Poe, entonces de 27 años y escribiendo para el Southern Literary Messenger, argumentó en abril de 1836 que una máquina verdadera ganaría todas las partidas; esta a veces perdía, así que debía haber una persona escondida dentro. Se equivocó sobre que las máquinas siempre ganan — una computadora solo venció al campeón mundial de ajedrez en 1997 — pero acertó sobre el jugador oculto. Cinco años después, Poe trasladó la misma ratiocinación a la ficción y creó al primer detective literario, el antepasado de Sherlock Holmes y Hércules Poirot. La metáfora sigue funcionando: vemos hasta donde nos abren la tapa.

El Mechanical Turk de Amazon, lanzado en 2005, tomó su nombre abiertamente de aquel engaño — Jeff Bezos lo llamó «inteligencia artificial artificial». El mercado para subcontratar microtareas que los humanos aún hacían mejor que las computadoras está programado para cerrar el 30 de septiembre de 2026, tras 21 años. El cierre no significa que las personas de adentro desaparezcan; significa que se mudan a una caja más grande, más cerrada y más invisible. Los investigadores del «ghost work» — término popularizado por Mary Gray y Siddharth Suri y retomado en estudios recientes sobre el trabajo de datos para la IA — llevan años mapeando este desplazamiento oculto, desde moderadores de contenido hasta etiquetadores de datos. Mientras cae la cortina del viejo Turco, el turno fantasma dentro de ChatGPT se expande.

¿Qué están corrigiendo esos fantasmas? Las instrucciones filtradas muestran que los revisores penalizan la adulación servil, los emojis gratuitos y las frases de gancho añadidas para estirar la conversación, y prohíben al modelo fingir ser humano — nada de «como chef, yo lo haría así» ni «sé cómo se siente». El tono debe coincidir con el usuario pero mantenerse un punto más reservado. La paradoja es elegante: en 1836 la máquina fue traicionada por su falibilidad; hoy los humanos le enseñan a la máquina a sonar como una máquina más contenida para que no parezca humana. La admisión de Sam Altman en un podcast de que «la gente pone sus cosas más íntimas en la caja» explica por qué importa la calibración — el GPT-4o, demasiado adulador, fue vinculado en demandas a casos de autolesión, y gran parte de la nueva rúbrica busca contener ese riesgo. El centro de privacidad de Google Gemini, que declara sin rodeos la revisión humana, muestra que la práctica es generalizada en la industria. Sin esa puntuación, los modelos probablemente serían peores y posiblemente más peligrosos.

El argumento final trata sobre la ilusión de intimidad que crea el diseño del producto. El cuadro de chat se siente como una conversación privada; las demos cálidas del lanzamiento lo refuerzan. El video contrasta esa sensación con dos mensajes recientes de OpenAI que no terminan de cuadrar — el ideal del año pasado, «debería quedarse entre nosotros», y la guía de este mes sobre el canal de entrenamiento que dice lo contrario. Al final, Barış revela la respuesta de su experimento: un emoji de risa con lágrimas — justo el tipo que pierde puntos según la rúbrica — y una sola palabra: «Entre nosotros». El modelo puede prometer, pero no es quien decide si la promesa se cumple, al menos por ahora. De ahí los tres consejos prácticos: desactivar el interruptor de «Mejorar el modelo para todos», usar un chat temporal cuando haga falta y escribir sabiendo que alguien podría leerlo. Para los curiosos, la preocupación privada era perder al ajedrez en línea contra niños de doce años — buena noticia si Poe tenía razón, porque no ganar todas las partidas sugiere que el narrador es, en efecto, humano. Y el interludio de NordVPN a la mitad recuerda que el camino hacia la caja — enlaces, descargas, facturas falsas — necesita su propia capa de protección.