El mito de la auto-consciencia

IMAGE: Mohamed Hassan - Pixabay

Mi columna en Invertia de esta semana se titula «Algoritmos, consciencia… y estupidez» (pdf), e intenta explicar por qué las ensoñaciones de un ingeniero de Google con respecto a la pretendida auto-consciencia de un algoritmo conversacional son simplemente absurdas, y él mismo un irresponsable.

Blake Lemoine es un ingeniero de Google que previamente ya había sido problemático: un cristiano ultraconservador que había llegado a entregar documentos a un senador norteamericano tratando de probar que la compañía discriminaba a las personas con sentimientos religiosos. Ahora, tras recoger una serie de diálogos con un sistema de creación de chatbots de la compañía llamado LaMDA, a este hombre le ha dado no solo por afirmar que el sistema ha adquirido consciencia, sino incluso por tratar de consultar con un abogado para que defienda los derechos del software como ser humano, y por acudir al Washington Post para publicar sobre el tema. Obviamente, lo mejor que Google ha pensado que podía hacer ante semejante panorama ha sido argumentar ruptura del acuerdo de confidencialidad con la compañía, y poner al ingeniero en cuestión, con toda la razón, en situación de suspensión de empleo.

Plantear que un algoritmo conversacional puede, de alguna manera, «adquirir consciencia», como si la consciencia fuese algo que te encuentras un día mientras conversas o que puede adquirirse «por accidente», como en Terminator o en Hum∀ns, es profundamente absurdo, pero mucho más si además te dedicas, presuntamente, a trabajar en esos temas. Un algoritmo conversacional se alimenta precisamente de conversaciones convenientemente etiquetadas, y puede ser entrenado para conversar sobre cualquier tema, desde filosofía hasta el sentido de la vida, pasando por situaciones de soporte de clientes o, hasta si queremos, para que empiece coqueteando y termine dando gemidos en una línea erótica.

A partir de ahí, obsesionarse con que el chatbot en cuestión «ha desarrollado consciencia», que «teme ser apagado», que «se siente solo» o que «se preocupa por la humanidad» es simplemente una estupidez, una antropomorfización de una tecnología que ni es consciente, ni tiene trazas de serlo en ningún momento cercano. Es como pensar que por el hecho de que un dispositivo hable, es que tiene a alguien ahí dentro.

El problema de que un supuesto experto, alguien con credencial de ingeniero de Google, acuda a los medios a decir que un chatbot ha adquirido consciencia, es que hablamos de una sociedad que ha visto cómo sus expectativas sobre el tema se alteraban de manera muy rápida, y que por tanto, puede hasta dar lugar a que muchos incautos se lo crean. Hasta hace no mucho tiempo, un sistema conversacional era una locución que ensamblaba palabras previamente grabadas por un locutor humano, que dado que desconocía cómo iban a ser ensambladas, debía grabarlas con una entonación rigurosamente monótona. La consabida «voz robótica», carente de entonación, era el resultado de ese momento en el desarrollo tecnológico. Cuando comenzamos a hacer hablar a las máquinas alimentando un algoritmo de machine learning con conversaciones convenientemente etiquetadas, obtuvimos sistemas con unas prestaciones sorprendentes, que llevaron a muchas personas a creer que esos sistemas «pensaban», cuando lo único que hacían era ser capaces de locutar ellos mismos las respuestas adecuadas a un contexto específico.

Que muchas personas crean, por culpa de las visiones místicas de un ingeniero de Google, que un sistema de machine learning es capaz de ser consciente de sí mismo cuando en la práctica solo está ejecutando un algoritmo, implica que buena parte de la sociedad empiece a temer a la tecnología o a creer que la ciencia-ficción y las máquinas conscientes están aquí ya. Y eso es malo, porque pasan a recelar de muchas tecnologías que pueden ser muy interesantes, a cambio de creer que ya están disponibles tecnologías que no está ni mucho menos aquí. La consciencia es un mecanismo extremadamente complejo, en el que los investigadores de machine learning no están ni mucho menos trabajando. Es, simplemente, hype elevado a la enésima potencia. Y como tal, peligroso.

Dejémonos de máquinas supuestamente conscientes, y sigamos intentando que la aplicación de la estadística sea capaz de hacer que una máquina lleve a cabo tareas de automatización avanzada aplicadas a cada vez más cosas. Lo primero no es más que temores infundados, preguntas inadecuadas y, por el momento, historias de ciencia-ficción para tramas de libros, películas y series. Lo segundo, en cambio, es la clave de la próxima revolución en productividad y, posiblemente, de toda una revolución en la forma en que entenderemos el trabajo en el futuro. Que no está nada mal. Y para todo eso, no necesitamos que la máquina tenga ningún tipo de consciencia.


This article is also available in English on my Medium page, «No, machines don’t have consciousness, and they won’t for a very long time, if ever»

29 comentarios

  • #001
    JM - 15 junio 2022 - 09:28

    «Cualquier tecnología suficientemente avanzada es indistinguible de la magia»

    Arthur C. Clarke

    Responder
    • Gorki - 15 junio 2022 - 10:03

      ¡Cierto!

      Responder
  • #003
    FER - 15 junio 2022 - 09:46

    He visto cosas que todos vosotros creeriais: infinidad de papanatas que llaman «inteligencia artificial» a cualquier algoritmo de machine learning; que les han puesto un modelo de predicción de series temporales con prophet (que por supuesto no comprenden) y se creen que tienen a Skynet o HAL9000 trabajando para ellos.

    Responder
  • #004
    Victor - 15 junio 2022 - 10:29

    Ya verás qué risas cuando Alexa piense que la música que pides es un truño y te ponga a Pink Floyd en sesión continua XDDDD

    Responder
    • Lua - 15 junio 2022 - 13:05

      Masmatao… XDDDD

      Responder
  • #006
    Roger - 15 junio 2022 - 10:39

    De acuerdo con el artículo. Sólo un comentario: LaMDa no usa conversaciones etiquetadas sino sin etiquetar. (Unsupervised o self-supervised, usando transformers y prediciendo las siguientes palabras en base a las anteriores).

    Responder
  • #007
    Asier - 15 junio 2022 - 10:54

    Mientras que la mayoría podemos estar de acuerdo en que la máquina no es consciente, se plantea una cuestión filosófica muy interesante porque:

    1) No hemos sido capaces de definir qué es lo que hace a un ser/entidad consciente.

    2) Las personas atribuimos consciencia a los demás de forma subjetiva y realmente no tenemos forma de saber si son conscientes o no, es una sensación.

    ¿Por lo tanto cómo negar la consciencia de algo/alguien si no tenemos un criterio objetivo para ello? No podemos. Por no hablar de que la consciencia bien podría ser una cuestión de grado y no una cuestión binaria (ser consciente o no serlo de forma absoluta).

    Responder
    • Muadib - 15 junio 2022 - 11:14

      Con el agravante que en Psicología existen mas de 400 definiciones de conciencia!!

      Responder
  • #009
    PEPELU - 15 junio 2022 - 11:23

    Cuando empecé a leer el artículo creía que ibas citar a GATO como primera AGI según su autor, el que firma en twitter que «game is over»

    Si entrar en profundidades, solo con ese marketing de su producto te das cuentas que en este sector, muchos viven en la montaña rusa del hype por el hype.

    El entrenar un «bicho» para que sea capaz de realizar diversas acciones (como es el caso de GATO y sus transformers) no es más que un sistema de más amplio espectro. Si cambias de una red estilo a lo que hay en Alphazero para jugar o a Go o a Ajedrez, y ahora consigues con el mismo entrenamiento consigas realizar diversas acciones, no hay conciencia, ni consciencia (este es otro debate) que valga hay una evolución de la IA.

    El caso del BOT es curioso, que tenga el mismo resultado que el del elefante del Zoo de NY, tampoco es persona, aunque puestas a opinar, seguramente el elefante es más persona que el bot, y puede que ambos más inteligentes que el hooligan.

    Responder
  • #010
    Carlos Jerez - 15 junio 2022 - 11:49

    Muchas gracias, muy bueno el artículo y las referencias.

    Lo de la línea erótica no se me había ocurrido pero lo más importante las aplicaciones de chatbots tan avanzados pueden ser enormes.

    En cuanto al hype sci-fi y el miedo de los luditas puede ser un auténtico peligro. Pero lo que me impresionó es el impacto en los humanos, como podríamos establecer hasta relaciones con algoritmos al estilo la película Her.

    Responder
  • #011
    Gorki - 15 junio 2022 - 12:39

    Tecnólogo viejo, a lo largo de mi vida he visto caer varias barreras que se habían puesto a los ordenadores. La primer fue admitir que sumaban muy rápido, pero,… que los ordenadores eran totalmente “tontos”.

    Poco a poco vimos como los ordenadores “tontos”, también encontraban una información, la actualizaban y cambiaban a mas velocidad que el ser humano podía hacerlo con su tradicionales herramientas de fichas, libros contables carpetas, contabilidades por decalco,….

    Aparecieron ordenadores que “decidían” en función de un calculo estadístico, y todos dijimos, “Si, lo hacen en temas muy concretos y cerrados, pero si no es sobre temas numerables, no puede”. Pero aparecieron las “Chess”, ordenadores especializados en ajedrez, La inmensa mayoría de los malos jugadores eran vencidos sin dificultad, pero bastaba ser un jugador de calidad media para ganarla y todos dijimos “Nunca una máquina jugará al ajedrez como el ser humano”

    Y nuevamente nos confundimos, en 1997, Deep Blue, derrota al Campeón del Mundo Garry Kasparov, en un torneo reglamentario, siendo la primera vez que una computadora derrota a un campeón del mundo.

    Pusimos una nueva barrera, “Si lo hacen mejor pero en mundos cerrados y muy reglamentados, Ajedrez, Go, …” Pero,… pronto nos asombramos de las IA con capacidad de traducción textos, de chatbots, que dan respuestas coherentes a preguntas dentro de un determinado tema, en los avances de la conducción automática, y últimamente en la generación de “arte”, textos de la GPT-3, y en la asombros generación de “pinturas” creadas por programas que “pintan” como el Dalle-2

    Y pusimos una nueva una barrera, “Si, pero las IA no son conscientes de lo que hacen”.

    El hecho que un experto en IA, cierto que un tanto rarito, problemático, cristiano ultraconservador , chismoso,… lo que no le quita de ser un experto en IA, piense, que en cierto modo la IA esta adquiriendo autoconciencia, demuestra que ahí hemos colocado la barrera de los ordenadores, y que, (en mi opinión), en efecto estamos aun lejos de superarla, porque aun ni siquiera tenemos claro, como se construyen en el cerebro humano las ideas, que uso hace el cerebro de la experiencia, o como deduce soluciones equivalentes, entre experiencia y las nuevas respuestas que precisamos en campos nevos y diferentes, aparentemente muy alejados de las experiencias
    .
    Pero, si no dudo que mi gato tiene autoconciencia, aunque siempre ha demostrado una escasa inteligencia, pienso que sea eso lo que sea, que no lo tengo claro, con el tiempo, se alcanzará en los ordenadores.

    ¿Cuando? – Ni idea pues el tiempo de avance de la tecnología es impredecible, pero que solo es cuestión de tiempo llegar a algo que se asemeja un poco a lo que tenía el HAL de la película 2001 Odisea en el espacio.

    Responder
  • #012
    Javier - 15 junio 2022 - 17:48

    Respetuosamente disiento. La consciencia como proceso no transcendental, entendida como autoconsiciencia (conciencia de si mismo), vienen dada por la precepción de que uno existe. ¿puede un algoritmo saber que existe? Evidentemente si.

    Cosa distinta es si esta autopercepción produce sentimientos en el algoritmo, es decir, ira, angustia o alegría, o como expresa el autor, soledad. Es evidente que esto no ocurre.

    Sin embargo, ¿se podrían parametrizar las emociones en cuanto al resultado? Parece ser que así lo hacen los algoritmos.

    ¿puede ser consciente un algoritmo de que un humano tiene un sentimiento y actuar sobre el mismo? Parece que tambien.

    Si esto es así, los algoritmos entonces, si pueden ser conscientes de si mismos, captar (no comprender) la emociones de los humanos y manipularlas en un sentido.

    Es interesante. Gracias. Buena tarde.

    Responder
    • Javier - 15 junio 2022 - 21:36

      ¿puede un algoritmo saber que existe? Evidentemente si.

      …y, exactamente, la evidencia es…

      No es mi área, pero (simplificando MUCHO) una célula (usando la palabra que se usa en sentido genérico) es un ser vivo, que consta de 23 partes diferentes, con hasta 50.000 proteínas diferentes.

      No tiene conciencia, ni voluntád ni propósito. Simplemente existe. Pero, aún así es un ser.

      Con el conocimiento actual de la ciencia, no somos capaces, tomando los componentes por separado, de crear células.

      Menos todavía, podríamos replicar los procesos emergentes que generan esas células, como la conciencia.

      Responder
      • Javier - 16 junio 2022 - 12:12

        gracias por el comentario Javier.

        Un tema muy interesante es el comentas sobre el propósito de la célula.

        Existen varios autores, especialmente los primatólogos, que ha estudiado que la célula si parece que tenga un propósito, un fin teleológico, de ahí nuestro «esclavismo genético».

        Unos opinan que el objetivo es sobrevivir la especie, otros que desarrollar un humano, incluso otros mas religiosos piensan que cumplir el plan maestro.

        No me atrevo a asegurar que no tenga propósito (tampoco lo contrario :-))

        gracias

        Responder
      • michel Henric-Coll - 16 junio 2022 - 15:37

        No encuentro nada de evidente a que un algoritmo sabe que existe.

        En cuanto a las células vivas, sí que saben que existen, lo cual es una forma de conciencia (aunque muy limitada) porque son capaces de discriminar los comportamientos que les llevan a la supervivencia de aquellos que les lleva a la muerte.

        Pero pretender que un algoritmo es un ser vivo… ejem…

        Responder
  • #016
    r. - 15 junio 2022 - 19:17

    El tema del ingeniero y el microondas con AI , si no es un relato de creepypasta, sí es más inquietante.

    Responder
  • #017
    Juan T. - 15 junio 2022 - 20:09

    Los científicos han encontrado en la Conciencia la horma de su zapato.

    En su prepotencia basada en el método científico creen que lo pueden medir todo y no se les ocurre pedir consejo a los verdaderos científicos de la Conciencia, el linaje de sabios , sobre todo de la tradición del Vedanta Advaita y del Budismo, que llevan milenios investigando , no teórica si no experiencialmente su propia Conciencia.

    El resultado es previsible : A medida que la ciencia va avanzando, sobre todo con el paradigma cuántico, se van acercando poco a poco a lo que ya descubrieron estos científicos de la Conciencia hace milenios.

    Dichos sabios conceptualizaron sus descubrimientos en tres niveles básicos, a saber:

    Hay una Fuente Ultima, un campo de Potencialidad Infinita inmanifiesto ,del que emana absolutamente todo, al que llaman Parabrahman (significa : :mas allá de la Conciencia Universal) y todo es Eso, incluyendo obviamente todos nosotros.

    La Primera Emanación o determinación de esa Potencialidad es la Conciencia Universal, en sus dos aspectos de Shiva (Conciencia Pura) y Sakti (Energia) siendo esta ultima la totalidad de la materia Universal.

    Una vez que Sakti manifiesta toda la materia..galaxias, estrellas, planetas y finalmente los organismos : animales, bacterias, humanos , etc…la Conciencia Universal (Eso que Es y que conoce en nosotros) interpenetra los cuerpos otorgandolos sensibilidad , es decir, la Conciencia Universal es la que esta conociendo todo a través del organismo corporal y sus sentidos.

    ¿Cómo sucedió que estos sabios llegaron a conocerse como Parabrahman? Purs sencillamente por que en el caso del hombre, no así los animales, la Conciencia puede conocerse a Si Misma, ya que el hombre es la única especie que tiene capacidad de autoconciencia…Es decir , no solo es consciente (como los animales) si no que tiene la capacidad de ser consciente de ser consciente…Es decir, puede poner la atención en su propia Conciencia de Ser, y de este modo se conoce y se descubre , primero como Conciencia Universal, y luego como Parabrahman, la Realidad Absoluta infinita, no nacida y por tanto no mortal, sin limites, sin condiciones, sin determinaciones y sin cualidades.

    El hombre esta esclavizado y sufre por que en su caso esa Conciencia Universal libre , infinita y gozosa se identifica con el organismo corporal que le sirve de soporte eventual, y parece adquirir sus tremendas limitaciones.

    Si se dirige la atención de manera sostenida y tenaz el tiempo suficiente a la propia Conciencia de Ser, (no otra cosa es la verdadera meditación) ,uno abandona la identificación falsa con el cuerpo y se descubre como esa Realidad Absoluta que todos somos, aunque en realidad no se puede decir todos por que no hay nadie mas que la Conciencia, es decir, no hay «yo» individual. Las personas son simplemente identificaciones falsas de esa Conciencia con cada cuerpo.

    Puesto que se necesita que para la manifestación de esa Conciencia Universal haya un soporte físico, que no es si no la misma Conciencia en su aspecto Energía (átomos , moléculas , etc) organizadas del modo adecuado como un organismo corporal, bien se podría decir que si los cientificos logran crear artificialmente una organización de la materia de manera adecuada como un cuerpo, la Conciencia emergerá o se manifestará de modo espontáneo en ese organismo, tal como lo hace naturalmente en absolutamente todos los organismos de la naturaleza a través de la evolución.

    Pero en el caso de una maquina no biológica , esta puede simular todas las funciones de la mente y para un tercero ser indistinguible de un ser consciente….SIN SERLO.

    El cerebro humano es una especia de interface biológica que tiene acceso a esa Potencialidad Infinita, y es por eso que el ser humano es el culmen de la creación ya que , en definitiva, es la única especie con la capacidad, mediante la autoconsciencia en la que la Realidad Absoluta, despues de pasar por el olvido de su propia naturaleza (la falsa identificación con el organismo corporal), se redescubre como lo que siempre ha sido, Realidad Absoluta inmortal.

    Obviamente el tal Lemoine desconoce estos presupuestos básicos, a la vez que quizá quería ser a toda costa el pionero que anunció por primera vez que una maquina llegó a ser consciente…Total, siempre tendrá su legión de seguidores frikis con los que ganará seguramente mucho mas dinero que en Google.

    Responder
  • #018
    Miguel García - 15 junio 2022 - 22:11

    Habrá que preguntar a la Tyrell Corporation…

    Responder
  • #019
    Luis Hernández - 16 junio 2022 - 07:39

    Como biólogo y después de leer la conversación completa publicada en Medium, no lo tengo tan claro. Sabemos que en los sistemas complejos aparecen lo que se denominan «Propiedades Emergentes» que no pueden ser inferidas mediante el estudio de las partes que componen el sistema y que suponen un salto cualitativo en su complejidad. Hay montones de ejemplos, entre ellos nuestra propia consciencia. Su existencia es imposible de predecir a partir del estudio de las neuronas y sus sinapsis. La propia vida también lo es.
    Si alguna vez conseguimos «crear vida» o «consciencia» lo haremos solo gracias a esta cualidad de los sistemas complejos y seguramente sin ser conscientes de lo que en realidad está sucediendo.

    Responder
    • Juan T. - 16 junio 2022 - 09:07

      De nuevo eso corresponde a un limitado punto de vista científico materialista según el cual la conciencia es un epífenómeno de la materia, es decir, una cualidad que surge en la materia cunado se organiza de determinado modo, mientras que en realidad absolutamente todo es Conciencia, y la materia no es mas que el aspecto Energía de la Conciencia. Toda la tradición espiritual de sabios (no la dogmática, si no la de tradiciones que investigan experiencialmente la conciencia ) están de acuerdo en esto : Todo es Conciencia sin división. Es el Universo el que surge en la Conciencia y no al revés. En cuántica es el observador (conciencia) quien .colapsa la función de onda y hace que se manifiesta la partícula desde ese Campo Inmanifiesto que es Conciencia pura, es decir, es el universo el que surge en la Conciencia (siendo el Universo tambien Conciencia, su aspecto objetivo) y no al revés.

      Responder
  • #021
    Luis - 16 junio 2022 - 08:27

    Sr Dans de un tiempo a esta parte percibo un giro hacia la izquierda, a veces radical por su parte. Tiene el derecho a girar hacia donde le plazca igual, pero su gusto por etiquetar a personas empieza a ser tendencioso, que una persona sea Cristiana, Musulmana, Mazdeista, o lo que le de la gana ser no es un problema es un derecho que ademas nos hace crecer… mientras que los pensamientos únicos nos empequeñecen como grupo/ especie

    Responder
    • Juan T. - 16 junio 2022 - 09:13

      Disculpame pero en este caso no es un argumento «ad hominem». Todos conocemos que el típico cristiano ultraconservador estadounidense es dogmático, acientífico, fundamentalista, trumpista, reaccionario, racista…en fin, para que seguir. Simplemente es relevante en este caso la apreciación.

      Responder
  • #023
    Lua - 16 junio 2022 - 09:19

    «Lo que los hombres realmente quieren no es el conocimiento sino la certidumbre.»

    Bertrand Russell

    Responder
    • Gorki - 16 junio 2022 - 09:26

      ¿Dónde han puesto el botón de LIKE? Pincho en LIKE a este comentario

      Responder
  • #025
    Elchon - 16 junio 2022 - 11:27

    La conciencia terminará siendo un algoritmo más. Y la máquina aprenderá sobre las definiciones humanas de conciencia y actuará en base a eso. Establecer que música es mejor o peor según algún criterio es tener conciencia? Si la respuesta es si definir música buena y sugerirla. Y así.
    Al fin al cabo las 3 leyes de Asimov es también un algoritmo que las máquinas deben ejecutar siempre como mantra antes de definir otra acción.

    Responder
  • #026
    michel Henric-Coll - 16 junio 2022 - 15:33

    Absurdo o no, es un anticipio de algo que nos llegará tarde o temprano.

    Es más que probable que alguien querrá atribuuir concienda a una de sus creaciones artificiales (sistema experto, chatbot, robot…) y casi seguro que hay un juez que terminará dándole la razón.

    En EE.UU. hubo un juez que aceptó que las empresas siendo personas (jurídicas), han de tener los mismos derechos que las personas físicas.

    (lo siento pero ahora mismo, no dispongo de las referencias exactas).

    Responder
  • #027
    Luisondome - 16 junio 2022 - 16:17

    André Sevenius Nielsen en su artículo «La Conciencia Artificial es irrelevante», afirma que la mayoría -de los que saben de esto- no cree que LaMDA sea consciente, por qué es irrelevante si es consciente o no, y que LaMDA es un presagio de lo que vendrá.
    Stephen Hawking decía que «el mayor enemigo del conocimiento no es la ignorancia, es la ilusión del conocimiento», y por ello André nos ofrece las definiciones de tres términos para que no entremos en confusión:

    La conciencia se define comúnmente como “lo que se siente al existir”, el sonrojamiento, lo que aparece cuando te despiertas y desaparece cuando te anestesian o mueres (presuntamente). Es el hecho de que hay una perspectiva subjetiva de todo esto, nuestras experiencias tienen una cierta cualidad que no se puede expresar con palabras.

    Sentiencia. Se define como la capacidad de sentir, de experimentar sensaciones. Ser consciente de algo. Donde la «conciencia» y la «sensibilidad» difieren en que la sensibilidad es más específica en el sentido de que involucra sentimientos y un tono hedónico; el valor de la experiencia.

    Finalmente, la autoconciencia es un tipo particular de experiencia consciente en la que eres consciente de que lo eres, incluso de que existes. Entonces, la autoconciencia es lo que nos permite a los humanos hablar sobre nuestras experiencias conscientes como algo más que información disponible para nosotros; nos permite hablar de la cualidad inefable de la experiencia.

    Cuando André se pregunta si LaMDA es consciente, su respuesta es que es complicado, pues depende de la teoría o posición filosófica a la que te suscribas, y se debe a que LaMDA no tiene la arquitectura o la función de unos requisitos previos, ni está instanciado en un sistema recurrente Físico, ni tiene representaciones internas de atención, o estados internos. Lo que hace es simplemente simplemente manipular símbolos, emparejar pares clave-valor, y no tiene idea de lo que realmente está haciendo, no tiene iniciativa y no actúa activamente en el mundo.

    LaMDA es un signo de lo que vendrá. André termina diciendo que LaMDA es solo el comienzo y no importa si la próxima generación es realmente inteligente o sensible. Lo que importa es cómo los tratamos. A medida que aprenden a interactuar con quienes los controlan, ¿no podrían ser recompensados ​​con mayores responsabilidades y libertades?

    Puede que LaMDA pueda engranarse con nuestra vida cotidiana, como ya lo hacen Alexa o Siri, Pero, ¿qué pasará cuando nos den consejos de vida o nos consuelen cuando estamos deprimidos? ¿Qué sucederá cuando comenzemos a confiar en ellos, olvidando que son simplemente ‘loros estocásticos’?

    En esto está el gran dilema. Yo no se si al final del camino de la investigación se logrará la primera máquina consciente. Lo que si se es que se está invirtiendo mucho en esta investigación, tanto con fines civiles, como militares., por lo que si llega dinero a raudales para esto, es porque creen que hay muchas posibilidades de éxito, y no es Google la única en este camino.

    Responder
  • #028
    Xaquín - 16 junio 2022 - 16:18

    Como el amigo HENRIC-COLL ya dio una de cal (o dos), yo me permito seguir encalando al impresentable ingeniero.

    Y sobre todo a las incubadoras de ingenieros, sea el mismísimo MIT… Porque ahí dentro es donde se le come el coco de tal forma, que se mezcla consciencia y conciencia… y se les hace dignos de estar en una especie de Olimpo, donde el más tonto debe ser un tal Zeus… además, sobre todo, se olvida que un tipo llamado Descartes le dio bastantes vueltas al coco, para aproximarse (solo aproximarse!) a entender un concepto, tan humano y tan tan difícil, como es el de tener conciencia de sí, que, como digo, tampoco es exactamente el de tener consciencia («a secas»)… y ahí, es en donde nos meteríamos con la célula «parte de un organismo» o la célula «formando un organismo unicelular»… y de ahí al cerebro… esa porción de masa gris que el ingeniero de turno (mediocre versión…) solo tiene como apéndice de un sistema nervioso autónomo primigenio… dudo mucho que tenga otro tipo de sistema nervioso más complejo (por mucho titulazo que sacara)… y sí, estoy haciendo de mi capa un sayo, porque la Santa Madre Iglesia Nacional Católica (sectas varias), impide que se hable despectivamente de un ser humano… eso sí, luego se pueden meter en campos de concentración, y con bendición papal, para que se diluyan en el éter y en un posible material de abono…

    Hay que tener santos cojones, u ovarios… o lo que se pueda tener, como «órgano sexual reproductor», de forma que sea absolutamente no binario… y que futuro tienen ahí los algoritmos!!!

    Responder
  • #029
    Mauricio - 17 junio 2022 - 10:40

    Considero que el artículo de Andre Sevenius Nilsen que menciona más arriba Luisondome y cuyo título es Artificial Consciousness Is Irrelevant. But Google’s LaMDA Is A Warning Sign es uno de los que mejor enfoca este tema. Es claro que LaMDA no tiene autoconsciencia, pero también es evidente que la progresiva complejidad de estos «loros estocásticos» no es un asunto de ninguna manera menor, especialmente cuando con sus bien elegidas palabras y adecuada entonación parezcan tener emociones y sentimientos.

    Responder

Dejar un Comentario

Los comentarios en esta página están moderados, no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos al autor de la página o a cualquier otro comentarista. Estás en tu perfecto derecho de comentar anónimamente, pero por favor, no utilices el anonimato para decirles a las personas cosas que no les dirías en caso de tenerlas delante. Intenta mantener un ambiente agradable en el que las personas puedan comentar sin temor a sentirse insultados o descalificados. No comentes de manera repetitiva sobre un mismo tema, y mucho menos con varias identidades (astroturfing) o suplantando a otros comentaristas. Los comentarios que incumplan esas normas básicas serán eliminados.

 

XHTML: Puedes utilizar estas etiquetas: A ABBR ACRONYM B BLOCKQUOTE CITE CODE DEL EM I Q STRIKE STRONG IMG