Desde que apareció la inteligencia artificial generativa y su uso se hizo habitual entre mis alumnos, les he estado diciendo lo mismo: pueden usarla, sí, siempre que la usen bien. Es decir, seguramente se plantearán usarla porque les ayuda a reducir el tiempo que emplean en la creación y desarrollo de un trabajo, pero eso debería llevarles a incrementar su tiempo de supervisión, porque si hay algo que no voy a aceptar bajo ningún concepto si me entregan un trabajo con alguna estupidez, barbaridad o tontería, es que se escuden en «no es culpa mía, fue una alucinación del chatbot«.
No, la responsabilidad no es del chatbot por producir una alucinación, es tuya por no supervisar el contenido adecuadamente y dejarla pasar. Es exactamente como debe ser: si tu perro escapa y muerde a alguien, el culpable y el que merece la sanción no es el animal, eres tú por dejarlo escapar. Lo que necesitamos no son guardrails para los modelos de inteligencia artificial, los necesitamos para los imbéciles irresponsables que los crean.
El hackeo de Hugging Face por OpenAI no fue una simple alucinación: fue una empresa completamente irresponsable que puso modelos muy potentes a resolver pruebas de ciberseguridad con unas salvaguardas ridículas y una supervisión completamente deficiente. No hay «una máquina misteriosa y superinteligente», sino una compañía que crea una capacidad, elimina los controles mínimamente razonables y acepta el riesgo porque la idea de presentar un modelo «tan potente que no lo podemos parar» le pone mucho y le puede dar una apariencia de superioridad en el mercado.
La sección 1714.46 del Código Civil del Estado de California, aprobada en 2025, establece literalmente que quien desarrolló, modificó o utilizó una inteligencia artificial no puede alegar como defensa que esta causó autónomamente el daño. Es exactamente lo mismo que digo a mis alumnos: el ejercicio lo entregaste tú, no el chatbot, la responsabilidad (y la mala nota) son tuyas.
Por el momento, hablamos de alegaciones, no de una sentencia: OpenAI afirma que todo el procedimiento carece de fundamento, y el demandante no solicita indemnizaciones ni penas de cárcel, sino simplemente una orden judicial que impida nuevos accesos no autorizados o prácticas inseguras. Estamos ya en «no vale decir que lo hizo el modelo», pero aún no en atravesar, como creo que hay que hacer ya, la barrera de la responsabilidad personal, la de los ingenieros que no protegen o de los directivos que les piden que no lo hagan.
La imprudencia grave de quienes dirigen una compañía, cuando permite que una inteligencia artificial salga de su entorno controlado y cause daños graves, debe conllevar responsabilidades igualmente graves. Si tienes un animal y no sabes dominarlo, la culpa de lo que haga es completamente tuya. ¿Quién autorizó que ese modelo tuviese capacidades ofensivas? ¿Quién conocía las señales anteriores o el posible riesgo? ¿Quién decidió prescindir de controles disponibles? ¿Quién permitió que el experimento continuase? Si respondemos a eso con una multa corporativa, que pagan simplemente los accionistas, en lugar de con responsabilidades penales individuales, estaremos cometiendo el mismo error que nos ha traído muchos males anteriores. O sabes que te juegas la cárcel, o no vas a internalizar el posible riesgo que conllevan tus malas decisiones.
Quien conserva los beneficios de la automatización no puede externalizar sus daños atribuyéndolos a la autonomía de la máquina. Un agente puede actuar solo; lo que no puede hacer es asumir la responsabilidad de quienes decidieron soltarlo para que lo hiciera.
In English on Medium, «What happens when we let AI off the leash«
«Responsable la empresa anunciadora»
Totalmente de acuerdo con el artículo.
Y me parece especialmente extraño que todavía no se estén pidiendo responsabilidades incluso penales a ingenieros y gestores de las empresas.
Si el responsable de las intrusiones hubiera sido un hacker identificable le estarían lloviendo las demandas y la policía ya lo hubiera detenido.
Pero claro está, si una empresa es la que hackea, estafa, roba, vende productos perjudiciales para la salud (tabaco, gasolina con plomo, etc.) o para el medio ambiente (CFCs, hidrocarburos, etc…) no pasa nada.
No sé porqué da tanto miedo la IA si una inteligencia colmena, muchas veces sin control, como las de las empresas ya ha causado suficientes perjuicios.
Lo que hay que leer por no estar sordo: «el demandante no solicita indemnizaciones ni penas de cárcel».
O sea, el demandante NO es el perjudicado directo…, sino un grupo de picapleitos que conforman una Asociación sin Fines de Lucro que sólo pide que no vuelva a pasar… ¡¡¡Oh, mi má, pero qué tierno todo!!!
(Tengo que usar el sarcasmo porque matar es ilegal)
Me parece correcto. El símil con los animales, con los (futuros) robots de reparto o vehículos de conducción autónoma… pues solo puede ser culpable
1) El que le da una orden mala
2) El que lo fabrica
Me pregunto lo que sucederá con la DGT sin multas en el futuro… pero igual salimos ganando por lo que nos ahorraremos en hospitales, ambulancias, grúas y demás, amén de verdaderas tragedias con fallecidos.
Por otra parte, California solo puede legislar en su casa. No puede evitar que los norcoreanos usen IA para atacar infraestructuras.
A veces me pregunto si las cadenas de bloques pequeñas (como Solana) podrán resistir al intento de hackeo del 51% con tanto bot suelto
Si al apretar un tornillo con una llave inglesa, le pasas de rosca, no se te ocurre decir que la culpa no es tuya, sino de la llave inglesa. Si al dar una respuesta con un AI, dices una tontería, no se te ocurra decir que la culpa no es tuya, sino de la AI, Llave inglesa, y Ai son herramientas muy útiles a tu servicio, pero tu eres el responsable de sus resultados.
Gorki, el tema no es tan simple, aunque en ciertas situaciones lo parezca. No hay que olvidar que este asunto forma parte del ya antiguo debate sobre si la tecnología es neutra o no.
La IA es una herramienta que recopila datos privados y sensibles de millones de personas en manos de billonarios, que consume muchísimos recursos, pero nos da la impresión de que es muy útil porque podemos ver cómo seríamos en los 80 y creernos artistas sin saber coger un lápiz.
La culpa? Nuestra. Responsable? Quien la usa.
Lo que me queda claro después de la lectura atenta del artículo es que la IA es una herramienta INUTIL para tomar decisiones por ejemplo empresariales o personales, ya que como buena caja negra no explican en que se basan sus asunciones para dar un prestamo, para negarlo, para redirigir a un equipo de ventas, etc etc.
El otro día me quedó claro que nadie de este blog que pudiera explicar «casos de uso» en el que una IA aprendiera de la experiencia, ahora además nos queda claro que es EL IMBECIL que las maneja el responsable… o en el caso de OpenAI el que no las maneja, si nos creemos sus mentiras.
Caso visto para sentencia !!
Nos estas diciendo entonces… que todos los artículos del Fast Company ese, nos están vendiendo humo…??? Que la inutilidad de una IA para manejar los entresijos de una empresa, son un Bluff…???
XDDD (es Viernes…)
– En los 90 me decían que la tele nos volvería tontos.
– En los 2000 que internet.
– En los 2010 que los móviles.
– En los 2020 que la Inteligencia Artificial.
Eso demuestra que la estupidez humana no es capaz de tocar fondo.
Recuerdo que hace varios años en un periódico español leí una entrevista a una antigua integrante de ETA que estaba en la cárcel. Ella decía, entre otras cosas, que algo que le dolía mucho es que aquellos profesores que desde la cátedra le enseñaron el marxismo y justificaban la lucha armada seguían tranquilamente trabajando en la universidad y dictando clase, mientras que ella, que les había puesto mucha atención y que creyendo lo que le dijeron decidió pasar de la teoría a la práctica, tenía que pasar largos años en la cárcel pagando por las cosas que había hecho y que otros la habían incentivado a hacer.
Es claro que dicha etarra era una adulta y debía ser completamente responsable de sus actos, pero ¿se atrevería alguien realmente a decir que sus radicalizados profesores no tendrían la más mínima culpa por los actos cometidos por ella y por otros jóvenes a quienes les lavaron el cerebro?
No sabemos si ChatGPT, Gemini o Claude tengan consciencia de sí mismos o lleguen a tenerla alguna vez. De lo que se sabe hasta el momento, los perros tampoco tienen dicha consciencia, pues no pasan la prueba del espejo. La inteligencia, sin embargo, es otra cosa. El perro tiene probablemente la inteligencia de un niño de dos años y los mencionados chatbots es claro que son muchísimo más inteligentes que un perro. En todo caso, para efectos prácticos lo importante es quién es o debería ser jurídicamente responsable de los actos de ellos. Si un perro mata a una persona, el responsable es su dueño pero en muchos sitios se consideraría que por seguridad el perro debería ser sacrificado. Si un chatbot incentiva a alguien a suicidarse, como ya ha ocurrido, el responsable sería también su dueño pero el chatbot debería ser modificado para que no vuelva a dañar a nadie. Y si un chatbot ya tiene autoconsciencia, entonces él mismo debería ser responsable por sus actos y en mayor o menor medida aquellos que lo programaron o lo instruyeron o para los que trabaja o que lo incentivan a actuar de una determinada manera.
Finalmente, en cuanto al alumno al que un chatbot efectivamente le ha dicho una tontería, el error del alumno es sencillamente no haber entrecomillado dicha tontería, como debería hacerlo no solo ante las tonterías o certezas de los chatbots sino también ante todas aquellas que haya copiado literalmente de los escritos de Marx, Luxemburg, Hayek, von Mises o de cualquier otro autor.
(la que vas a liar, Mauricio… la que vas a liar…) XDDD
No, no te preocupes, Mau es de lo que también piensan que el terrorista SIEMPRE es el otro. Se empieza por ahí, y se acaba siendo un Netanyahu cualquiera…, que, después de haber financiado a quienes financió, después de saber que iban a hacer lo que iban a hacer, los tilda luego de terroristas, y con una orden de detención internacional se presenta en la ONU y todos le besan el ojete. TO-DOS.
Ah, pero eso sí, los otros siempre son los terroristas, como la IA siempre será la culpable. Siempre.
Y si eres millonario, pelillos a la mar porque no pisarás la carcel ni aún queriendo. Te besarán el ojete, jueces incluidos, of course! Siempre.
Pero vete al carajo, suéltame el brazo con tus putas idas de olla… porque siempre me contestas a mi?…
Que si quieres bolsa, ostias…!!!! XDDD
Ya veo que te quieres sentir MUY importante creyendo que te contesto a ti… (Mi má… Facepalm)
Pues aprende de una vez a contestar al mensaje que te interesa
Mauricio
Creo que te refieres a esta entrevista
https://www.galde.eu/wp-content/uploads/2026/07/Galde14completa.pdf
No menciona a la Uni,
La publicación que enlazas, Buzzword, me resulta completamente desconocida. En todo caso, entiendo que lo ideal hubiera sido que yo mismo proporcionara el enlace a la entrevista que menciono, pero fue algo que leí al paso hace muchos años y que nunca he podido volver a encontrar. Lamentablemente, siempre hay cosas que uno recuerda, pero cuya fuente ha olvidado o se ha vuelto muy difícil de encontrar por falta de suficientes datos referenciales o sencillamente ha desaparecido.
En todo caso, ya que yo mismo soy profesor es claro que para mí era significativa la parte en la que la entrevistada se queja de algunos de sus profesores, así que no creo estar recordándolo mal. Además, para quien haya conocido el ideologizado mundo de las facultades de humanidades de algunas universidades en los años anteriores a la desintegración de la URSS, lo que decía la mencionada etarra no le parecería nada esencialmente raro, pues había en ciertas carreras algunos profesores y alumnos muy radicalizados.
Una pena no tener acceso a la fuente. En su momento también acusaron a la iglesia, en concreto a un seminario… Los servicios de inteligencia también aportaron su granito de arena, o los servicios que actuaron cmo el GAL… Por eso con los años quedarse con versiones solo recordadas, no pueden ser investigadas
Buzzword, las revoluciones son huérfanas cuando fracasan. Aquellos que en algún momento incitaron activamente cualquier movimiento de la tendencia que sea suelen quedarse en las sombras cuando este naufraga, más aún si los métodos que en su momento usaron los insurrectos fueron muy cuestionables o dignos de rechazo.
Es curioso como se pasó de la responsabilidad civil de la IA a la del profesorado que explicó teorías como la marxista… Ahora resulta que Marx es culpable de lo que decida hacer una etarra… y seguro que no a través de la lectura directa, sino a través de textos interpretativos… y Marx es culpable de la Revolución Cultural Asesina Maoísta o de las guarradas actuales del neozar Putin (porque viene de la extinta URSS, que , a su vez, era un engendro marxista…).
Pobre IA, menos mal que a ella se la sudan las idas de olla de algunos que aún no saben, o no quieren saber, distinguir entre los vascos y ETA. Entre el tejido político vasco, bastante bravío desde los vascones, a un cáncer que le salió ese tejido con el terrorismo de un grupo llamdo ETA. Que encauzó la rabia antifranquista de ese mismo tejido, aunque así promoviera el aumento del cáncer terrorista, gracias a ese apoyo descontrolado del pueblo vasco. Bildu, por ejemplo, no tiene nada de canceroso, vuelve a ser el tejido inicial de los vascones antinvasores (romanos o franquistas). Y hace más política española que Podemos.
Y, por cierto, es muy importante la palabra «creyendo lo que le dijeron (los profesores)» que dice la etarra, según un comentario anterior, porque entre creer y pensar hay meses luz de diferencia. Y el pensamiento crítico brillaba por su ausencia, en la mente de la protoetarra.
Xaquín, bien decía Lúa que la iba a liar con lo que escribí más arriba, pero debo decir que me parece increíble cómo los seres humanos caemos una y otra vez en fijarnos más en el dedo que en la luna. Si en vez de la mencionada organización terrorista vasca hubiera escrito Sendero Luminoso es probable que ni siquiera te hubieras molestado en responderme. La verdad es que el asunto que planteo no se refiere de ninguna manera a ETA sino, como pensé que sería evidente, al tema de la responsabilidad del aprendiz y a aquella que en un porcentaje todavía a determinar tendría el dueño del chatbot que pretende enseñarle.
Y en esto obviamente hay todo un abanico de posibilidades, pues lo que diga un chatbot generalista podría uno asumir que sería como una especie de libro a citar (más allá de los enlaces que aporte), pero lo que diga uno que actúe como instructor electrónico avanzado ya no solo debería ser citado sino que se supone que es una autoridad en el tema cuyos errores serían responsabilidad de la empresa que lo desarrolló. En el campo médico, por ejemplo, si un instructor electrónico comete errores que conduzcan a que sus alumnos actuales o antiguos realicen procedimientos o prescriban medicinas que causen daño a sus pacientes, no veo la razón por la cual pueda ocurrírsele a alguien pensar que la empresa desarrolladora no tendría ninguna responsabilidad.
El ejemplo que pongo de la etarra y sus profesores es intencionalmente extremo solo para que quede claro que siempre podría haber un porcentaje de culpa atribuible a quien ha creado el mentor, maestro o instructor electrónico. No estoy cuestionando a ningún autor, libro o ensayo ni tampoco la libertad de expresión o de cátedra, ni la descolonización donde sea aplicable. Pero así como ciertos profesores de medicina de carne y hueso podrían tener algún grado de responsabilidad en la mala práctica médica de sus alumnos y antiguos alumnos, es evidente que determinados docentes de áreas humanísticas podrían a lo mejor haber cometido delitos de enaltecimiento del terrorismo o de incitación al odio en los términos expresados por las leyes de España y de otros países. Así que no veo una buena razón para que ironices sobre este asunto.
Y si bien entre creer y pensar tal como lo planteas puede haber mucha diferencia, no olvides que los profesores de determinadas facultades solían venderte como crítica y científica su propia opción política. En todo caso, ya que cada país tiene sus propios demonios que nublan la objetividad, pues veamos el asunto desde otro lugar del orbe: ¿se atrevería alguien realmente a decir que una empresa que vende un sistema de inteligencia artificial de uso militar no tiene ninguna responsabilidad al ser su producto culpable de haber destruido no un cuartel sino una escuela? Es evidente, que como mínimo debería ser alcanzado por la normativa de productos defectuosos, al menos hasta que la leyes se actualicen y abarquen las diversas situaciones que ya se están dando.
¿se atrevería alguien realmente a decir que una empresa que vende un sistema de inteligencia artificial de uso militar no tiene ninguna responsabilidad al ser su producto culpable de haber destruido no un cuartel sino una escuela?
El fabricante de la herramienta siempre ha sido responsable de que ésta funcione bien, sea un torpedo, un avión o un vehículo o un radar.
Pero no me consta que alguna vez se les haya responsabilizado de las consecuencias de su uso.
Si un soldado arrasa una aldea en Vietnam, la culpa no la tiene el fabricante del rifle automático. Si un camión atropella a una anciana, solo será responsable el fabricante si los frenos fallaron, no si el conductor iba distraído. Etc, etc, etc. Así ha sido siempre y así seguirá siendo.
En el, caso de la IA hay tres partes:
– la herramienta en sí
– el origen de la información que maneja
– quien la utiliza
Cada uno es responsable de la parte que le toca.
Efectivamente, Alquimista, a cada uno le toca ser responsable de la parte que le toca y no dejar que en toda esa cadena alguien (por ejemplo, las empresas) se lave las manos como Poncio Pilatos.
En todo caso, el tema de la responsabilidad ante las consecuencias indeseadas derivadas del uso de una determinada tecnología y, más aún, ante aquellas vinculadas a sistemas computacionales, seguro que va a ir creciendo en los próximos años. Ya empezó a hablarse de este asunto hace años, en 1979, ante el accidente de Air New Zealand en la Antártida y esto ha resurgido con fuerza con los accidentes del Boeing 737 MAX en 2018 en Indonesia y en 2019 en Etiopía. Al menos uno puede ya leer noticias como que Boeing deberá pagar más de 28 millones de dólares a la familia de una víctima del accidente del 737 MAX.
En el caso de coches autónomos de nivel 5 o de cosas que podrían ser el colmo de la irresponsabilidad como son los drones de combate autónomos, el tema de la responsabilidad de las empresas que los producen, sin duda, se multiplica significativamente.