La cosa más rara que una Inteligencia Artificial podría decirte…

[Por Eliezer Yudkowsky para Lesswrong.com] Los seres humanos estamos todos locos. Y si algo se nos revuelve en el cerebro, nos volvemos tan locos que incluso el resto de los humanos lo percibe. Uno de mis ejemplos favoritos sobre este asunto son los anosognósicos; personas que han sufrido daños en el hemisferio derecho cerebral que provocan la paralización del brazo izquierdo, y que se niegan a aceptar que sus brazos están paralizados. En lugar de asumir la triste realidad, cuando se les pregunta por qué no mueven el brazo izquierdo, los anosognósicos se inventarán cualquier excusa.

Sin duda esta es una forma asombrosa de daño cerebral ya que desactiva la habilidad de notar o aceptar un daño cerebral. Si te dicen de forma rotunda que tu brazo está paralizado, lo negarás. Todas las maravillosas facultades de generar y racionalizar excusas con las que cuenta tu cerebro se movilizarán masivamente para enmascarar el daño a tus propios ojos.

Tal y como mi compañero Yvain resumió en este otro post:

Tras un infarto en el hemisferio derecho, la paciente perdió el movimiento en el brazo izquierdo, pero lo negaba continuamente. Cuando el doctor le pidió que moviera el brazo y observó que no se movía, ella afirmó que en realidad no era su brazo, sino el de su hija. ¿Qué hacía el brazo de su hija pegado a su hombro? La paciente respondió que su hija había estado allí mismo, en su cama, durante las últimas semanas. ¿Por qué llevaba su alianza matrimonial en el brazo de su hija? La paciente contestó que su hija se lo había pedido. ¿Dónde estaba entonces su brazo? La paciente volvió la cabeza y comenzó a buscar de forma perpleja por encima de su hombro.

Encontré realmente perturbador que el cerebro cuente con una “macro de la negación absoluta” tan sencilla a la que poder apelar, como efecto secundario de una parálisis. Asombra que un único golpe en el cerebro pueda deshabilitar la función motora en el lado izquierdo y al mismo tiempo desactivar nuestra capacidad de reconocer o aceptar dicha discapacidad. Existen otras formas de daño cerebral que también parecen provocar una lesión y la incapacidad para reconocerla; por ejemplo, algunas personas que sufren daños en las áreas encargadas del reconocimiento facial, insisten en que sus amigos han sido remplazados por duplicados exactos.

Y es algo que realmente hace que te preguntes… ¿qué pasaría si todos compartiésemos una forma de daño cerebral común, de modo que ningún ser humano percibiese ciertos hechos sencillos y obvios? ¿Cosas tan flagrantes, tal vez, como que nuestros brazos izquierdos están paralizados? Cada vez que este asunto se inmiscuyera en nuestro universo, lo contrarrestaríamos con alguna excusa ridícula – tan ridícula como “es el brazo de mi hija” – aunque en este caso no habría ningún doctor cuerdo que hiciera las preguntas lógicas adecuadas y que nos forzase a ir complicando más y más las respuestas. (¿Usaríamos todos la misma excusa?)

Si la “macro para la negación absoluta” es así de simple, y se la invoca de una forma tan sencilla… supón que necesitas construir una Inteligencia Artificial (AI). Escribes el código fuente tu mismo, y en tanto a lo que podrías decir inspeccionando los procesos de razonamiento de la AI, esta no cuenta con la “macro de negación absoluta” ya que carece del daño que podría provocarle el equivalente a la anosognosia. La AI cuenta con sistemas redundantes diseñados con arquitecturas diversas, lo cual la defiende en profundidad contra errores cognitivos. Si uno de los sistemas comete un fallo, los otros lo detectan. La AI no posee ninguna funcionalidad que la permita deliberar la racionalización, y por supuesto tampoco es capaz del pensamiento doble y la negación de una negación típica de los anosognósicos y del pensamiento político humano. Observando el proceso de pensamiento de la AI, te das cuenta de que no tiene intención de engañarte sino que su objetivo explícito es el de decirte siempre la verdad. Y a medida que vas trabajando con ella, observas que la AI ha quedado casi de forma inhumana, excelentemente calibrada. De hecho tu y ella habéis estado de acuerdo en un 99% de las 200 ocasiones en que has apelado a su juicio, y solo habéis estado en desacuerdo en un par de ocasiones que tu sepas.

Podría decirse que ahora cuentas con más razones para confiar en lo que dice la AI que en lo que tus propios pensamientos indican.

Y entonces la AI te dice que está segura en un 99,9% – habiéndolo visto a través de sus propias cámaras y habiéndolo confirmado tras consultar un centenar más de fuentes – a pesar de que (es consciente) de que el cerebro humano empleará la macro absoluta de negación al respecto, de que los humanos… ¿qué?

¿Cual sería la cosa más absurda que la AI podría decir, tal que te llevara a desear fervientemente que la mente artificial estuviera en lo cierto?

——————-

Bonito ejercicio de filosofía ¿verdad? Espero vuestros comentarios.

Muchas gracias a José Cuesta por enviarme el enlace para que tradujera el texto. Realmente da que pensar.

Crédito imagen: Galería de PsicoCafé (Flickr).

61 Comentarios

  1. 54 monchevere monchevere 11 Ago 2009 0 (0 Votos)

    ¿¿¿¿Que el final de Lost es cuál????
    ¡Anda y vete al pasado a acabar contigo misma!

  2. 55 Santiago Santiago 14 Ago 2009 0 (0 Votos)

    Lindo ejercicio….

    Si toda mi vida lo que me dijeron mis sentidos fue correcto, por que no les voy a creer ahora que me dicen que mi brazo no esta paralizado??

  3. 56 exponencio exponencio 14 Ago 2009 -1 (1 Voto)

    que los humanos…

    … son la herramienta natural mas eficiente jamás creada para incrementar el desorden del universo a costa de la autordenacion propia y de su entorno. Por tanto, a pesar de su libertad individual, el Ser Humano tiene su destino prefijado por una ley fisica a la que llama Segunda ley de la termodinámica.

  4. 57 aaa aaa 16 Ago 2009 0 (0 Votos)

    Cito un párrafo y hablo sobre el:

    “¿qué pasaría si todos compartiésemos una forma de daño cerebral común, de modo que ningún ser humano percibiese ciertos hechos sencillos y obvios? ¿Cosas tan flagrantes, tal vez, como que nuestros brazos izquierdos están paralizados? Cada vez que este asunto se inmiscuyera en nuestro universo, lo contrarrestaríamos con alguna excusa ridícula”

    Me ha parecido una forma bastante brillante de explicar las religiones y las ridículas excusas que se dan tomándolas como pretexto. Aunque es bastante evidente que después de la muerte no hay nada, los sujetos se niegan a aceptarlo, y en su infinita cegera provocada por esa macro, no se les ocurren otra cosa que soltar algo así como “vino Dios y se lo llevó al paraíso donde es feliz”.

    Brillante artículo.

  5. 58 Salva Salva 19 Ago 2009 0 (0 Votos)

    “…de que los humanos podéis mover el brazo izquierdo”

  6. 59 Rodrigo R. Rodrigo R. 5 Sep 2009 0 (0 Votos)

    “¿qué pasaría si todos compartiésemos una forma de daño cerebral común, de modo que ningún ser humano percibiese ciertos hechos sencillos y obvios? ”

    Si todos los hombres compartiesemos algún tipo de deficiencia cerebral ecuménica, probablemente estaríamos creyendo alguna estupidez como que hay un ser superior omnipotente y omnisciente que lo ha creado todo y que nos castigara o premiara después de nuestra muerte en base a nuestras acciones, negando toda la evidencia en contra.

    Menos mal que ese no es el caso y que todos tenemos cerebros sanos…

  7. 60 jairo jairo 16 Sep 2009 0 (0 Votos)

    … de que los humanos no son mas que una invención de esa misma IA creada por ellos, reproducida tiempo despues, y que esta cadena de hechos ya seria conocida por la IA.

    Bueno, fue algo que se me ocurrio, aunque tal vez suena a ser omnipresente y superior ; )
    Gracias maikel por esas historias que nos hacen pensar.

  8. 61 Nirgal Nirgal 11 Nov 2009 0 (0 Votos)

    “…de que los humanos no pasan el test de Turing”.

Deja una respuesta

Tu correo nunca será publicado. Los campos obligatorios están marcardos con *

Obligatorio
Obligatorio

Patrocinadores

Twitter

  • No public twitter messages

Flickr

  • Una foto de Flickr
  • Una foto de Flickr
  • Una foto de Flickr
  • Una foto de Flickr
  • Una foto de Flickr
  • Una foto de Flickr
  • Una foto de Flickr
  • Una foto de Flickr
  • Una foto de Flickr