Enrique Dans

La cuestión destila una ironía deliciosa: una serie de personas contratadas por OpenAI para entrenar su inteligencia artificial han sido despedidas por utilizar inteligencia artificial para entrenar a la inteligencia artificial. Sí, vuélvelo a leer, pero con más atención: es lo que es. Varias personas contratadas por OpenAI estaban utilizando herramientas como Grammarly o traductores automáticos en tareas en las que este uso, o la asistencia de cualquier tipo, estaban específicamente prohibidas. Básicamente, estaban haciendo trampas.

¿O no? ¿Estaban realmente haciendo trampas, o se trata de un uso razonable? Veamos: en primer lugar, había una prohibición expresa. Razonable o no, pero expresa, puesta en negro sobre blanco. En segundo, se disimuló y se intentó ocultar ese uso, lo que también dice algo sobre la cuestión. Y en tercero, se utilizaron esas herramientas automatizadas en tareas que reclamaban la obtención de un juicio genuinamente humano. Parece que aunque se intente argumentar que la redacción en un segundo idioma o la traducción no son como tal un trabajo que implique la subcontratación a una máquina de un juicio humano, en este caso hay poco que protestar. Como mucho, discutir que el hecho de que la prohibición contractual convierta algo en incumplimiento no demuestra necesariamente que esa política sea sensata o tenga realmente sentido.

¿Pero debe ser así en todos los casos? ¿Realmente el uso de inteligencia artificial debe convertir automáticamente al que la usa en un tramposo? ¿Así, sin paliativos ni interpretaciones posibles? A ver, intentemos sentar una serie de bases: yo diría que hay tres criterios que pueden convertir el uso de inteligencia artificial en trampa: vulnerar una regla expresa, falsear quién hizo el trabajo intelectual relevante o delegar precisamente la competencia por la que estamos siendo evaluados.

Si te han dicho específicamente que no lo hagas, es decir, si al usar inteligencia artificial estás violando algún tipo de regla especificada como tal, y a pesar de ello la usas, estás haciendo trampas. Independientemente de que la norma tenga o no tenga sentido, estás infringiéndola, y quien te pidió el trabajo te podrá decir que estabas advertido. Pero sigamos: si al usarla estás generando una representación errónea de quién hizo el trabajo intelectual relevante, es decir, que las ideas, los juicios de valor, las conclusiones, etc. no las hiciste tú, sino que las hizo la inteligencia artificial, estás usándola para presentarte como autor de algo que no hiciste, y por tanto, trampa. Y por último, si con el uso de la inteligencia artificial estás subcontratando precisamente la competencia o responsabilidad por la que te están evaluando, lo que daría lugar a una valoración incorrecta, entonces es trampa.

El contraste central, creo, está en la asistencia frente a la sustitución. La inteligencia artificial puede ser puramente asistencial (organiza, resume, corrige, propone alternativas o acelera un trabajo cuya dirección intelectual sigue siendo humana), sustitutiva (realiza precisamente el razonamiento, juicio o creación que se esperaba de la persona), o directamente engañosa (además de sustituir, se oculta para inducir a otros a atribuir a la persona una capacidad, esfuerzo o autoría inexistentes).

Podemos plantear múltiples ejemplos. Que un estudiante entregue un trabajo en el que se le pide que lleve a cabo un razonamiento, y haya subcontratado ese razonamiento a un chatbot es, claramente, trampa, además de ser una forma de perder el tiempo porque no genera prácticamente ningún aprendizaje, que era la finalidad última de toda la cuestión. Pero si lo que se evaluaba era la capacidad de investigación y el uso de herramientas, el uso puede ser perfectamente legítimo, como si se usa para comprobar una traducción en un curso que no sea de idiomas, o para asegurar la corrección gramatical. A un directivo, por ejemplo, se le paga por su juicio y por sus resultados, no por teclear personalmente cada página de un informe o una presentación. A un escritor o periodista que use inteligencia artificial para estructurar, plantear alternativas o editar, no parece muy razonable negarle la autoría intelectual si las ideas, las decisiones o el tono son genuinamente suyos. El engaño comienza cuando se intenta hacer pasar el trabajo generado como prueba de una labor humana (de redacción, investigación o creación) que, en realidad, nunca tuvo lugar. Creo que Associated Press o Springer Nature lo hacen razonablemente bien al marcar sus reglas, mientras que otros que pretenden que sus profesionales «no toquen la inteligencia artificial ni con un palo» aunque sea para traducir, buscar fuentes o usos similares resultan bastante absurdos y maximalistas.

¿Por qué lo ocultamos? Simplemente, porque en cuanto aparece la inteligencia artificial, los trabajos se desvalorizan y los usuarios son percibidos como vagos y menos competentes. No debería ser automáticamente así y sin duda no lo será en el futuro, pero ahora mismo lo es, y ese estigma empuja a los autores a esconder cualquier tipo de uso, aunque sea perfectamente legítimo. Si además las instituciones responden con secretismo o con reglas poco claras, es peor aún.

¿Mi conclusión? Me parece profundamente simplista situar el límite entre «humano» e «inteligencia artificial». Deberíamos situarlo entre «asistencia declarada» y «sustitución encubierta». Las normas deberían, además de tener sentido común, especificar de forma muy clara qué cosas no pueden delegarse bajo ningún concepto: el aprendizaje, el juicio, la verificación, la rendición de cuentas, la obtención de información original o la evaluación genuinamente humana. Todo lo demás es, en gran medida, una simple cuestión de cómo definimos nuestros flujos de trabajo.

In English on Medium, «In our AI world, is everybody now cheating?»