10/6/09

Un futuro controlado por las máquinas



Skynet, Matrix, HAL, WORP (o Joshua)... en la ciencia ficción nos ha dado miedo dejar demasiado el control a sistemas informáticos (sin embargo no nos alerta demasiado el fallo humano, al fin y al cabo seguimos teniendo el control).

En la novela "Playas de acero", de John Varley, la inteligencia artificial que controla las ciudades humanas en la Luna (a donde los humanos han sido desplazados por una raza alienígane infinítamente más poderosa) queda infectada por un virus que transmite a los humanos (que están conectados por bioimplantes a la misma).

¿Cual es el terror?, que nuestros serviciales programas se vuelvan locos, o lo que es peor, que se vuelvan más inteligentes, que se vuelvan una amenaza, o que como en "Yo, robot" (la peli, claro) hagan su propia interpretación de las leyes de la robótica y nos protejan de nosotros mismos encerrándonos como si fuéramos esclavos en campos de concentración.

Aunque, más allá de la amenaza, el terror auténtico es el DESPERTAR DE LA INTELIGENCIA ARTIFICIAL, que "Skynet" adquiera conciencia de sí mismo y empiece a tomar decisiones.

Una parte cada vez mayor de nuestros servicios están controlados por software, hacer una lista sería enorme, desde el tráfico aéreo a una central nuclear. En la película "La Jungla 4.0" se habla de la teoría del "Caos total" un acto terrorista que derrumba servicios críticos. Esto hace que los escritores y lectores de ciencia ficción hagamos ciertas reflexiones sobre lo peligrosa que podría ser esta dependencia. Con todo mi opinión personal es que las máquinas son más fiables que los humanos, es un hecho.

¿Y por qué hablo de esto?. Pues porque algunos expertos han declarado que el motivo del accidente aéreo del Airbus A330 fué originado por un fallo informático.

El fallo informático en los sistemas de navegación aérea.

"Los aviones comerciales modernos (entre ellos el Airbus A330) incorporan un sistema informático llamado Air Data Inertial Reference Unit (ADIRU). Este sistema se encarga de comunicar distintos parámetros (altura, velocidad, viento, etc) a los pilotos y también al piloto automático. Pero por lo visto en esta ocasión los pilotos no tuvieron ni la más mínima oportunidad. Incluso al observar que el sistema se estaba volviendo loco no pudieron tomar el control en sus manos. En los aviones Airbus (a diferencia del Boeing) esta posibilidad está desactivada. En situaciones críticas los pilotos no pueden tomar el control.

Las distintas formas de ver el problema - ¿quién es el que tiene la prioridad si el humano o la computadora? - lo llaman “la diferencia filosófica entre Boeing y Airbus“. De momento la estadística de incidentes se mantiene igual para los dos fabricantes de forma que los constructores no pueden inclinarse ni por uno ni por otro. Sin embargo, los propios pilotos realmente odian los Airbus con todas sus almas, basta con leer algunos de sus foros para darse cuenta de ello." Tomado de Xand.es.

Y esa es la cuestión, llegará el momento (y en algunos casos, como hemos leído ha llegado ya) en el que tendremos que decidir si dar el control a las máquinas o a los humanos, y no me refiero al control de tráfico, o sensores de velocidad, o mecanismos de encendido, sino a temas mucho más críticos (operaciones de corazón, robots de defensa/policía con armamento letal, software de inversiones con capacidad de tomar decisiones y hacer inversiones -esto teóricamente ya se podría hacer...).



5 comentarios:

  1. Has metido el dedo en la herida.... muy buena la aproximación con el tema de los aviones, lo desconocia..

    ResponderEliminar
  2. Buenas, pues no estoy en nada de acuerdo con casi nada de lo que expones (seguramente sólo estoy de acuerdo en lo de skinet... ;))

    ADIRU=Air Data & Inertial Unit. No es un sistema informático como podrías pensar, es más bien un conjunto de sensores de posición relativa a tres ejes (giróscopo) y datos de aire (presión, que varía con la altura). Estos sistemas lo llevan aviones casi excluyendo al de los Wright. Claro, han variado y ahora, donce antes llevaban muelles, palancas y diafragmas, llevamos electrónica.

    Y Boeing vs Airbus? el 777 tiene una estructura de mandos (protegidos por computador) compleatmente similar a la de Airbus. Y los pequeños Boeing... cuál? el 737 de Amsterdan que se estrello recientemente porque el ''sisitema de vuelo automático'' corto motores antes de llegar a la pista?

    Los pilotos de Airbus no están desencantados, lo están los que volaban los DC8 y ahora son comandantes en Airbus (y no han sabido evolucionar)

    Cuál es el problema: creernos lo que se escribe en la prensa. Qué expertos?

    Dios mío que calentón me he pegado!
    Que conste que lo hago de buen rollo, que vengo a comentar como de cafetería a mesita de café...

    El informe del accidente llegarña a los dos años de haber empezado. Y las cajas? ande están las cajas? y recuprar los restos? no hemos empezado con la recuperación y ya queremos saber que ha pasado? demasiado rápido.

    Y decidir entre computador y humano... ahora, desde choque en vuelo sobre suiza de dos aviones en los que los computadores les avisaban pero el controlador de tierra dio ordenes equivocads: PREFERENCIA A LA MÁQUINA (en este caso). ES LA LEY.

    saludos,

    ResponderEliminar
  3. Un saludo julio! Me uno a lo comentado por arcodelta, en mi empresa trabajo con pilotos (de airbus y de boing por igual), los airbus tienen un flight envelope, es decir que si haces un movimiento brusco con los manos el avión lo hará mucho más suave y en el límite que considera seguro para que el avión no se rompa o se parta.

    En airbus tienen la posibilidad de pasarse esos límites aunque tmb hasta cierto punto, en boing tmb tienen el límite del flight envelope pero se desactiva por completo si el piloto hace mucha fuerza en el extremo de los mandos. El debate está abierto porque en algunos casos el flight envelope ha salvado a los pilotos y en otros casos sin flight envelope se han salvado y creen que no hubiese sido posible con él.

    Todavía no sabemos qué ha pasado con ese avión, si ha sido por los sensores de velocidad, explosión, etc, iremos viendo, tal vez se hayan muerto por un error informático pero es altamente improbable, este tipo de accidentes normalmente son como consecuencia de un montón de pequeños errores.

    Y no, tampoco soy un experto en aviones así que tampoco tomeis mis palabras como una gran realidad ;)

    ResponderEliminar
  4. La verdad es que no quise meterme demasiado en el tema de los aviones por ser un completo y eminente ignorante del tema, pero leyéndoos me parece FASCINANTE toda la tecnología que hay detrás (o delante) del piloto, y la cantidad de dilemas que suscita.

    Gracias por enriquecer este "humilde" post :-)

    ResponderEliminar
  5. Yo te enriquezco lo que haga falta!!! ;)))

    Gracias por invitarnos a un cacho de tus cosas. Para una vez que puedo decir algo, pues lo digo. Y además andaba calentito porque no veas la que le está callendo a esta industria. En otras ''casas'' como esta se nos abrió un debate tambien y se acusaba a esta industria de ''desfasada'', mercantilista (esto no se si tomarlo como un piropo, porque yo la he definido como indusria) y cosas del estilo.

    Lo dicho, gracias por dejarme desfogar.

    saludos

    ResponderEliminar

Tolerancia cero con las faltas de respeto, palabras malsonantes y comentarios denigrantes sobre la sublime saga de Stars Wars..