Árbol de agradecimientos11Gracias

¿Debería decidir un coche sin conductor quién vive y quién muere?

  1. #1
    Avatar de Murnau Esperando
    Registrad@ el
    29/04/2008
    Localidad
    Düsseldorf
    Sexo
    Chico
    Mensajes
    8.839
    Agradecido
    3363 veces
    Temas
    96

    ¿Debería decidir un coche sin conductor quién vive y quién muere?

    Los cerebros de la automovilística de Detroit, Tokio y Stuttgart ya saben prácticamente cómo fabricar vehículos sin conductor. Hasta los chicos de Google parecen haber resuelto el misterio. Ahora viene lo difícil: decidir si las máquinas deberían tener poder sobre quién sobrevive y quién muere en un accidente.

    El sector promete un futuro brillante con vehículos autónomos que se moverán armónicamente como bancos de peces. No obstante, esto no se hará realidad hasta que los fabricantes de coches respondan a la clase de preguntas espinosas que ha explorado la ciencia ficción desde que Isaac Asimov escribiese su serie sobre robots el siglo pasado. Por ejemplo, ¿debería un vehículo autónomo sacrificar a su ocupante con un giro brusco que lo haga caer por un precipicio para evitar matar a los niños que llenan un autobús escolar?

    Aquí los ejecutivos de la industria automovilística se encuentran en terreno desconocido, por lo cual han reclutado a especialistas en ética y a filósofos para que les ayuden a navegar por los matices que van del blanco al negro. Ford, General Motors, Audi, Renault y Toyota se han dirigido al Centro de Investigación en Automoción de la Universidad de Stanford, donde se están programando coches con el fin de que tomen decisiones éticas, y luego observar qué ocurre.

    “Indudablemente, el tema está en el punto de mira”, afirma Chris Gerdes, director del laboratorio, que recientemente se reunió con los directores ejecutivos de Ford y General Motors para debatir la cuestión. “Son conscientes de los problemas y los retos porque en la actualidad sus programadores tratan activamente de tomar esas decisiones”.


    Los fabricantes de automóviles, además de Google, están gastando miles de millones en desarrollar coches sin conductor. Esta semana, Ford ha declarado que está llevando el desarrollo de coches autónomos del laboratorio de investigación a sus operaciones avanzadas de ingeniería. Este verano, Google proyecta poner en las carreteras de California “unos cuantos” coches autónomos que hayan pasado el examen de la pista de pruebas.
    Robots sociales

    Los coches ya pueden pararse y cambiar de dirección sin la ayuda de un conductor humano. Según Boston Consulting Group, es posible que, dentro de una década, haya vehículos totalmente automatizados circulando por las carreteras públicas. Los coches serán una de las primeras máquinas autónomas que pondrán a prueba los límites del sentido común y la reacción en tiempo real.
    “Será lo que marque la pauta para todos los robots sociales”, pronostica el filósofo Patrick Lin, director del Grupo de Ética y Ciencias Emergentes de la Universidad Politécnica de California y consejero de fabricantes de automóviles. “Son los primeros robots verdaderamente sociales que transitarán entre la gente”.


    Los coches que conducen solos prometen anticipar y evitar los choques, lo que reducirá espectacularmente las 33.000 muertes anuales en las carreteras de Estados Unidos. Pero seguirá habiendo accidentes. Y en esos momentos cabe la posibilidad de que el coche robot tenga que elegir el mal menor, como por ejemplo girar e invadir una acera llena de gente para evitar ser alcanzado por detrás por un camión a toda velocidad, o quedarse en el sitio y poner en peligro mortal al conductor.


    “Hay que responder a esta clase de preguntas antes de que la conducción automatizada se haga realidad”, señalaba esta semana Jeff Greenberg, director técnico de la interfaz hombre-máquina de Ford, durante un recorrido por el nuevo laboratorio de investigación del fabricante en Silicon Valley.


    Las leyes de Asimov

    En estos momentos, los especialistas en ética tienen más preguntas que respuestas. ¿Las normas que gobiernan a los vehículos autónomos deberían dar prioridad al bien mayor –el número de vidas salvadas– y no dar valor a los individuos involucrados? ¿Deberían inspirarse en Asimov, cuya primera ley de la robótica dice que una máquina autónoma no puede causar daño a un ser humano, o debido a su inacción, permitir que le sea causado?

    “Yo no querría que mi coche robot vendiese mi vida solo para salvar otra u otras dos”, admite Lin. “Pero esto no quiere decir que el vehículo deba preservar nuestra vida por encima de todo, sin que importe de cuántas víctimas estemos hablando. Eso me parecería muy mal”.
    Por esta razón no deberíamos dejar esas decisiones en manos de robots, opina Wendell Wallach, autor de A Dangerous Master: How to Keep Technology from Slipping Beyond Our Control [Un amo peligroso. Cómo impedir que la tecnología se nos vaya de las manos].
    “El camino a seguir es crear un principio absoluto según el cual las máquinas no tomarán decisiones sobre la vida y la muerte”, afirma Wallach, investigador del Centro Interdisciplinar de Bioética de la Univeridad de Yale. “Debe haber un ser humano involucrado. Si la gente piensa que no se la considerará responsable de las acciones que emprende, acabaremos teniendo una sociedad sin ley”.
    Desobedecer las leyes

    Mientras que Wallach, Lin y otros especialistas en ética lidian con las complejidades filosóficas, Gerdes lleva a cabo experimentos en la realidad. Este verano, en un circuito de carreras del norte de California, probará vehículos automatizados programados para seguir normas éticas a la hora de tomar decisiones instantáneas, como por ejemplo, cuándo es adecuado desobedecer las reglas del tráfico y cruzar una doble línea continua para dejar sito a ciclistas o a coches aparcados en doble fila.
    Gerdes también está colaborando con Toyota para encontrar maneras de que un coche autónomo devuelva rápidamente el control a un conductor humano. Incluso esta clase de transferencia está llena de peligros, afirma, sobre todo a medida que los automóviles hacen más cosas y las habilidades de conducción disminuyen.
    En último término, el problema de otorgar a un vehículo autónomo el poder de tomar decisiones importantes es que, al igual que los robots de ciencia ficción, un coche sin conductor carece de empatía y de la capacidad de captar el matiz. “Por ahora no se ha diseñado ningún sensor tan bueno como el ojo y el cerebro humanos”, concluye Gerdes.

    http://economia.elpais.com/economia/...53_146424.html

    ¿Y bien? A mí me parece un tema bastante interesante.


  2. #2
    XY
    XY está desconectado/a
    Mega Usuari@
    Registrad@ el
    27/10/2007
    Sexo
    Chico
    Mensajes
    15.249
    Agradecido
    9445 veces
    Temas
    62
    Sólo si el coche viaja en el tiempo y su mejor amigo es una tarta que habla.
    10.002 ha agradecido este mensaje.


  3. #3
    Avatar de Jwym, Lord of Cinder Moderation gone hollow
    Registrad@ el
    16/07/2005
    Localidad
    ¿Importa eso en Internet?
    Sexo
    Chico
    Edad
    33
    Mensajes
    10.493
    Agradecido
    2731 veces
    Temas
    85
    Turing dijo: la cuestión no es si las máquinas pueden pensar como los humanos, sino si podemos programar a las máquinas para que simulen el pensamiento humano.

    Por ello, preguntarse si deberíamos dejar que una máquina mate al humano que la opera para salvar la vida de otros humanos es como preguntarse si uno mismo debería scrificar su vida para salvar la de otros.

    Después está lo de las leyes de Asimov, que son pura literatura (ya pasa cuando un científico escoge la divagación sobre la ciencia) y ante las cuales soy incapaz de hallar un razón suficientemente poderosa que garantice que se van a cumplir ni siquiera esporádicamente. Algunos maguf... quiero decir, computer scientists las venden como axiomas, pero a mi me suenan más a leyes en el sentido legal del término. Es decir, quieres hacerlos así, igual que uno legisla para que la gente no mate, pero a mi modo de ver andan lejos de ser leyes como la de la Gravedad. "Un robot no puede dañar a un humano". Lo veremos, dijo un ciego.
    Vaina Loca y N_Raist han agradecido este mensaje.
    I allò que val és la consciència de no ser res si no s'és poble. De no ser res si no s'és lliure.
    Vicent Andrés Estellés.


  4. #4
    Avatar de HiperBatsa Live to ride/ride to live
    Registrad@ el
    25/08/2009
    Localidad
    Algun lugar de Andalucia
    Sexo
    Chica
    Edad
    21
    Mensajes
    4.072
    Agradecido
    1160 veces
    Temas
    142
    No me parece una clase de decisión que pueda efectuar una máquina, la verdad.
    An α β

  5. #5
    Avatar de Jwym, Lord of Cinder Moderation gone hollow
    Registrad@ el
    16/07/2005
    Localidad
    ¿Importa eso en Internet?
    Sexo
    Chico
    Edad
    33
    Mensajes
    10.493
    Agradecido
    2731 veces
    Temas
    85
    Oh, claro que lo es. Son simplemente los datos de salida del algoritmo que lleve programado. Lo cual, pensándolo bien, hace que me contradiga: la máquina no decide, funciona de manera que parece que decide (Turing), pero quién en un principio decidió qué hacer fue Googl... quiero decir, el humano que diseñó el algoritmo (aunque no pensase directamente en un caso tan concreto).
    Última edición hecha por Jwym, Lord of Cinder, 30/06/2015 a las 20:36.
    N_Raist ha agradecido este mensaje.
    I allò que val és la consciència de no ser res si no s'és poble. De no ser res si no s'és lliure.
    Vicent Andrés Estellés.


  6. #publi
    Publicidad

     

  7. #6
    Avatar de HiperBatsa Live to ride/ride to live
    Registrad@ el
    25/08/2009
    Localidad
    Algun lugar de Andalucia
    Sexo
    Chica
    Edad
    21
    Mensajes
    4.072
    Agradecido
    1160 veces
    Temas
    142
    Claro, métele un algoritmo y lo hará xD Pero en sí la idea no me parece algoritmizable. En sentido estricto sí, pero el factor humano y espontáneo no se puede programar.
    An α β

  8. #7
    Avatar de Danica Nire mundua eraikitzen...
    Registrad@ el
    13/06/2007
    Localidad
    Republika independiente de mi casa...
    Sexo
    Chica
    Edad
    29
    Mensajes
    12.632
    Agradecido
    4563 veces
    Temas
    46
    Pues me parece lo mejor de todo esto, que se elimina el factor humano, por muy mal que suene, porque así se puede mediante algoritmos evitar siempre el mal mayor. Teniendo en cuenta todas las variables posibles decidir si es mejor que muera el conductor del coche o 5 personas fuera de él, ahora morirían los 5 por el instinto de supervivencia del conductor. Es una putada sí, pero en realidad la máquina puede hacer lo más justo. Ahora, no me gustaría probar los primeros modelos porque para que esos algoritmos sean buenos probablemente necesite aprender de mucho prueba error

    Zaindu maite duzun hori



  9. #8
    Avatar de Jwym, Lord of Cinder Moderation gone hollow
    Registrad@ el
    16/07/2005
    Localidad
    ¿Importa eso en Internet?
    Sexo
    Chico
    Edad
    33
    Mensajes
    10.493
    Agradecido
    2731 veces
    Temas
    85
    Es que no se programa eso (ni se pretende). Lo que hace un coche autónomo es machine-learning; de algún modo utiliza un conjunto de datos reducido pero más o menos representativo para afrontar situaciones nuevas y producir una repuesta con la mayor probabilidad de ser correcta en términos humanos, sin que la máquina necesite entender lo que "correcto" significa. No soy un experto, pero me imagino que estos cacharros deben tiran de versiones refinadas de redes neurales, que a día de hoy es el paradigma del algoritmo que simula el proceso humano de toma de decisiones. Como decía, no es decisión en el sentido clásico de la palabra, pero lo imita de tal manera que a efectos prácticos el resultado, o el efecto si uno lo prefiere, es indistinguible de una decisión humana porque, si está bien hecho, la probabilidad de que escoja un resultado contraproducente en el sentido humano del término tiende a cero.
    Danica ha agradecido este mensaje.
    I allò que val és la consciència de no ser res si no s'és poble. De no ser res si no s'és lliure.
    Vicent Andrés Estellés.


  10. #9
    Mega Usuari@
    Registrad@ el
    14/04/2009
    Localidad
    JALISIA
    Sexo
    Chico
    Edad
    40
    Mensajes
    5.182
    Agradecido
    2710 veces
    Temas
    93
    Jaimériste Galois escribió: Ver mensaje
    Es que no se programa eso (ni se pretende). Lo que hace un coche autónomo es machine-learning; de algún modo utiliza un conjunto de datos reducido pero más o menos representativo para afrontar situaciones nuevas y producir una repuesta con la mayor probabilidad de ser correcta en términos humanos, sin que la máquina necesite entender lo que "correcto" significa. No soy un experto, pero me imagino que estos cacharros deben tiran de versiones refinadas de redes neurales, que a día de hoy es el paradigma del algoritmo que simula el proceso humano de toma de decisiones. Como decía, no es decisión en el sentido clásico de la palabra, pero lo imita de tal manera que a efectos prácticos el resultado, o el efecto si uno lo prefiere, es indistinguible de una decisión humana porque, si está bien hecho, la probabilidad de que escoja un resultado contraproducente en el sentido humano del término tiende a cero.
    Dudo bastante que usen redes neuronales, no por otra cosa sino porque las redes neuronales no me parece que estén listas para eso aún. En entornos controlados a veces hacen cosas muy extrañas y no creo que nadie quiera arriesgarse a llevar eso en un coche. Yo diría que seguramente tiene un proceso de input/output más sencillo. Cual usan, eso ya no lo sé.

    Edit:

    No había leído tu comentario sobre Turing y Asimov. Me alegra que pienses así. Tengo amigos (informáticos) que están flipados con todo el tema de IA etc y se ponen insoportables si les dices que puedes programar un cacharro para lo que te salga del rabo, incluído matar personas. No sé qué hay que me lo impida. Reconoce esta forma. Pégale un tiro. Fin.
    Última edición hecha por Vaina Loca, 30/06/2015 a las 21:20.
    Jwym, Lord of Cinder ha agradecido este mensaje.

  11. #10
    Avatar de Jwym, Lord of Cinder Moderation gone hollow
    Registrad@ el
    16/07/2005
    Localidad
    ¿Importa eso en Internet?
    Sexo
    Chico
    Edad
    33
    Mensajes
    10.493
    Agradecido
    2731 veces
    Temas
    85
    Lo último que oí de personas que están medio metidas es que por ahí anda la cosa, pero también es verdad que hay mucho fantasma suelto.
    I allò que val és la consciència de no ser res si no s'és poble. De no ser res si no s'és lliure.
    Vicent Andrés Estellés.


  12. #11
    Avatar de Die Mapa Schön Ich bin Mapa
    Registrad@ el
    08/12/2004
    Localidad
    Düsseldorf
    Sexo
    Chico
    Edad
    32
    Mensajes
    38.938
    Agradecido
    7034 veces
    Temas
    542
    Mira que mi ignorancia respecto a estas cosas es importante. Pero siempre me han hecho gracia las tres leyes de Asimov. Cómo idea literaria es cojonuda. Pero siempre me ha parecido absurdo que se crea que todo robot tenga que aceptar dichas tres leyes, cuando lo lógico es lo aquí comentado.



  13. #12
    Mega Usuari@
    Registrad@ el
    14/04/2009
    Localidad
    JALISIA
    Sexo
    Chico
    Edad
    40
    Mensajes
    5.182
    Agradecido
    2710 veces
    Temas
    93
    Jaimériste Galois escribió: Ver mensaje
    Lo último que oí de personas que están medio metidas es que por ahí anda la cosa, pero también es verdad que hay mucho fantasma suelto.
    A mí me suena a lo mismo que el tema del Big Data y la neurociencia.

    Oh, la Neurociencia por fin nos permitirá cumplir nuestros sueños más húmedos (psicólogos y sociólogos) -> Meh, seguimos más o menos igual que antes.

    El Big Data nos permitirá predecir todo, el mundo será maravilloso y bla bla bla -> Trabaéo en esta mierda por un tiempo y es casi todo ruido. La gente se pone a analizar datos y datos a lo burro, buscando correlaciones, haciendo mierdas con todo tipo de formulas y ni siquiera sabe qué coño está buscando. Es absurdo. Hace falta una teoría detrás. Hace falta un objetivo. Y la mayoría de los datos no sirven para nada. Ya no es que no estén estructurados, es que son puro ruido.

    Se lo dije a mi jefe una vez (y al final me hicieron caso): Si pretendes predecir el comportamiento del consumidor te sobra todo esto que tienes aquí. Haces unas encuestas, un análisis de mercado y perfiles de consumidor. No es trendy. No es cool. Hay que coger papel y lápiz, pero funciona.
    Danica ha agradecido este mensaje.

  14. #13
    Avatar de Jwym, Lord of Cinder Moderation gone hollow
    Registrad@ el
    16/07/2005
    Localidad
    ¿Importa eso en Internet?
    Sexo
    Chico
    Edad
    33
    Mensajes
    10.493
    Agradecido
    2731 veces
    Temas
    85
    Es fácil confundirlas con leyes universales, pero a mí me parece que, en la pràctica, si un programa tuviera que lidiar con una situación en que todos los outputs contradicen alguna de las leyes de Asimov lo único que pasaría es que el compilador daría error y el coche seguiría recto a estrellarse entre los matorrales. En Python sería algo así:

    Error in module googledeservesyourallegiance.py line 666: Unable to fulfill Asimov's Laws.

    Irónicamente, las leyes se estarían cumpliendo si las interpretas de la manera más literal posible, aduciendo que a la postre no es la máquina quién mata al humano sino su incapacidad para tomar una decisión, algo que no se le puede atribuir a la máquina en si sino al Diseñador.

    HDP: La historia de mi vida. Sí, trabajo en Big Data. Y sí, mi jefe es neurocientífico. Sigue sin escucharme.
    I allò que val és la consciència de no ser res si no s'és poble. De no ser res si no s'és lliure.
    Vicent Andrés Estellés.


  15. #14
    Avatar de Danica Nire mundua eraikitzen...
    Registrad@ el
    13/06/2007
    Localidad
    Republika independiente de mi casa...
    Sexo
    Chica
    Edad
    29
    Mensajes
    12.632
    Agradecido
    4563 veces
    Temas
    46
    Yo también medio trabajo en el mundillo del big data, pero mi jefe tiene claro lo que decís, pero seguimos llamando así a cualquier cosa porque suena guay

    Zaindu maite duzun hori



  16. #15
    Mega Usuari@
    Registrad@ el
    14/04/2009
    Localidad
    JALISIA
    Sexo
    Chico
    Edad
    40
    Mensajes
    5.182
    Agradecido
    2710 veces
    Temas
    93
    Jaimériste Galois escribió: Ver mensaje
    Es fácil confundirlas con leyes universales, pero a mí me parece que, en la pràctica, si un programa tuviera que lidiar con una situación en que todos los outputs contradicen alguna de las leyes de Asimov lo único que pasaría es que el compilador daría error y el coche seguiría recto a estrellarse entre los matorrales. En Python sería algo así:

    Error in module googledeservesyourallegiance.py line 666: Unable to fulfill Asimov's Laws.

    Irónicamente, las leyes se estarían cumpliendo si las interpretas de la manera más literal posible, aduciendo que a la postre no es la máquina quién mata al humano sino su incapacidad para tomar una decisión, algo que no se le puede atribuir a la máquina en si sino al Diseñador.

    HDP: La historia de mi vida. Sí, trabajo en Big Data. Y sí, mi jefe es neurocientífico. Sigue sin escucharme.
    xD Entonces entiendes perfectamente a lo que me refiero. Yo me he acabado convirtiendo en un jovenzuelo old school xD

    No sé, yo es que cuando empecé en el tema me imaginaba algo super avanzado de la ostia repolla. Primero pensé, bueno, quizá sea mi empresa, que somos unos paletos. Pero luego empecé a ir a eventos y leer cosillas y resulta que no. Fuí a la biblioteca de la universidad a coger un par de libros, y allí estaba, la misma mierda escrita en páginas de papel.

    EL BIG DATA SALVARÁ AL MUNDO

    Si algo me quedó grabado con fuego de mis clases de metodología de investigación, es que como no tengas una teoría, aunque sea coja y tenga defectos, es que vas a perder el tiempo como un miserable.

    En el mundillo del Big Data todo funciona más o menos así. Tenemos todos estos cacharros/software, vamos a hacer que registren toda su puñetera actividad -> Tenemos ahora un montón de datos, una burrada de ellos -> Ahora vamos a coger estos datos y vamos a hacer que sean "legibles", y vamos suponer cuáles son válidos y cuales no, sin pararnos a pensar mucho en la naturaleza de los mismos (esto es una cosa que, de verdad, no podía con ello) -> Ahora cogemos todas estas fórmulas que nos ha dicho fulatino, que es un tipo con un CV de la ostia, y vamos a aplicarlas a los datos. -> Tachán, tenemos un montón de datos nuevos que no sirven para nada. Oh, mira, el índice de superluminidad en el condensador de fluzo da 0,46. ¡Qué bien! ¡Hemos incrementado las ventas un 0%! ¡Fantástico!

    En fin, me pareció todo una gilipollez. Y conste que con minería de datos se han hecho cosas interesantes, pero muy poquitas, y sabiendo qué es lo que querían. Hay (algunas) aplicaciones interesantes para eso, pero son pocas de momento y son evidentes porque sabes que necesitas ese tipo de datos precisamente. Si no tienes una pregunta inicial es todo un sinsentido. Y aunque la tengas, hay cosas que no se pueden trabajar de esta manera.

    ¿Qué opina este fulano sobre la legalización de la marihuana? Pues no te queda más cojones que hacer grupos de discusión, con los grupos de discusión diseñas entrevistas en profundidad, con las entrevistas en profundidad y los grupos diseñas las encuestas, y quizá descubras algún patrón en las encuestas que te permita ir a tu pila de datos y te dé alguna pista. Fin.


    Danica escribió: Ver mensaje
    Yo también medio trabajo en el mundillo del big data, pero mi jefe tiene claro lo que decís, pero seguimos llamando así a cualquier cosa porque suena guay
    Básicamente.

Página 1 de 3 1 2 3 ÚltimaÚltima

Permisos de tu Usuario

  • No puedes crear nuevos temas
  • No puedes publicar respuestas
  • No puedes adjuntar archivos
  • No puedes editar tus mensajes
  •  
  • El código BB está activado
  • Los emoticonos están activados
  • La etiqueta [IMG] está activado
  • La etiqueta [VIDEO] está activado
  • El código HTML está activado
  • Los Trackbacks están desactivados
  • Los Pingbacks están desactivados
  • Los Refbacks están activados
  • Temas similares

    1. Respuestas: 7
      Último mensaje: 25/11/2010, 23:44
    2. Personaje que va sin seguro del coche, ¿qué hacer?
      Por fenobarbitol en Acción Social
      Respuestas: 12
      Último mensaje: 07/12/2009, 5:59
    3. Respuestas: 1
      Último mensaje: 11/01/2008, 0:10
    4. Respuestas: 12
      Último mensaje: 16/10/2007, 17:42
    5. Eeeh, quién vive en Madrid?!
      Por Karma Koma en Foro General
      Respuestas: 9
      Último mensaje: 22/04/2004, 18:51