Árbol de agradecimientos175Gracias

Nuevos Horizontes - al infinito y más allá

...

  1. #121
    Avatar de Moái Rapanui moanin'
    Registrad@ el
    04/08/2011
    Sexo
    Chico
    Edad
    21
    Mensajes
    2.608
    Agradecido
    489 veces
    Temas
    6
    Jaimériste Galois escribió: Ver mensaje
    Creo que ya he mencionado muchas veces la Ley de Copias de von Neumann (otro que le daba mil patadas a Walking).
    A mí no me suena, ¿de qué va exactamente?

    Jaimériste Galois escribió: Ver mensaje
    Me parece imposible que una máquina construya por cuenta propia un motor de curvatura o un aparato de teletransporte sin que los creadores de la máquina supieran cómo en el momento de crearla. La inteligencia artificial se llama artificial por algo, no lo perdamos de vista.
    ¿Qué hay de la famosa singularidad? Quizás tengo un concepto equivocado de lo que se supone que será (si ocurre).

  2. #122
    Avatar de Milander Participativ@
    Registrad@ el
    11/01/2012
    Sexo
    Chico
    Edad
    22
    Mensajes
    278
    Agradecido
    138 veces
    Temas
    2
    Muy interesante. ¿A causa de qué se produciría antes un fallo en un supuesto sistema de autorreplicación, a algo estrictamente computacional o a un defecto material? Me inclino por lo segundo, pero no tengo ni idea...

  3. #123
    Avatar de Darth Katsu Ebenezer Scrooge
    Registrad@ el
    16/12/2009
    Sexo
    Chico
    Mensajes
    5.356
    Agradecido
    2300 veces
    Temas
    22
    Jaimériste Galois escribió: Ver mensaje
    Las máquinas fallarán siempre Hole, porque dejar de hacerlo implicaría un descenso de la entropía. Por esa misma razón, la autoreplicación o autoreparación perfecta es imposible a largo plazo; tarde o temprano fallará, igual que tarde o temprano células sanas se transforman en células cancerosas. Creo que ya he mencionado muchas veces la Ley de Copias de von Neumann (otro que le daba mil patadas a Walking).

    Puede que no fallen tanto o tan pronto como el Ser Humano, pero lo harán; ahora bien, creo que es muy discutible que nos gobiernen o se vuelvan contra nosotros en el sentido humano del concepto, porque encuentro muy improbable que unas máquinas que funcionan con algoritmos pensados por humanos puedan acabar haciendo cosas que los humanos no hayamos concebido en un punto anterior a la creación de los mismos algoritmos. Si uno hace máquinas es para que desempeñen tareas que uno mismo querría hacer pero que no puede o que llevan demasiado tiempo por las limitaciones biológicas que tenemos, no para que inventen lo que nosotros no inventamos. Me parece imposible que una máquina construya por cuenta propia un motor de curvatura o un aparato de teletransporte sin que los creadores de la máquina supieran cómo en el momento de crearla. La inteligencia artificial se llama artificial por algo, no lo perdamos de vista.
    Dentro de treinta o cuarenta años, cuando los robots de guerra se cuenten por docenas, alguien puede crear un programa lo suficientemente complejo para que domine a todos los ejércitos robóticos de las potencias a través de internet y que sólo obedezca órdenes de su creador. También lo puede programar para que muerto el creador la máquina siga por su cuenta con estos parámetros:

    - Construir más robots de guerra en fábricas automatizadas.

    - Pacificada una zona, construir en ella más fábricas automatizadas.

    - Controlar materias primas.

    - Mejorar la eficiencia de la producción, la fabricación, la logística. Que el programa tenga la obligación de buscar siempre cuellos de botella para mejorar los procesos.

    - Que haga lo mismo en los modelos bélicos. Que siempre busque mejorarlos teniendo en cuenta sus fallos: estadística de modelo más destruido, estadística de componente con más averías, etc.

    - Una vez pacificado el planeta y extinguida la humanidad, un algoritmo que obligue al programa a salir fuera y buscar otras especies y extinguirlas a su vez.

    - Deberá aplicar los mismos criterios a la hora de construir naves espaciales, siempre buscar las más rápidas y eficientes. ¿Que no descubre ninguna forma de viajar en pocos días por las estrellas? igual tampoco existe. Además la IA no tiene porqué tener prisa, si tarda seis mil años en encontrar a otra especie, más tiempo que ha tenido para expandir sus fábricas por todas partes de robots asesinos cada vez más capaces.

    Sí, el skynet este no es un organismo vivo en sentido estricto. Pero funciona como uno. Igual que los virus, que sólo saben reproducirse y nadie está de acuerdo en si están vivos o no.
    Imparcial, adj. Incapaz de percibir promesa de ventaja personal en la adhesión a uno de los dos bandos de una controversia, o en la adopción de una entre dos ideas en conflicto.

    El Diccionario del Diablo.

  4. #124
    Avatar de Drēag Muy Entendid@
    Registrad@ el
    18/08/2014
    Sexo
    Chico
    Mensajes
    2.652
    Agradecido
    845 veces
    Temas
    8
    Yo creo que salvo Jenofonte nadie ha dicho que nos vayan a gobernar o reemplazar, ¿no? Yo sólo digo que eso no quita que puedan ser peligrosas, directa (a largo plazo) o indirectamente (reducción del mercado laboral por la robotizacion/automatización.

    Y qué dice, resumidamente esa ley sobre la imposibilidad de que las máquinas puedan de forma autónoma seguir un ciclo de vida y muerte?

    ¿Y es seguro y absolutamente válido para siempre que las máquinas jamás podrán tener capacidad de inventiva? ¿Ni después de 1000 años de.desarrollo?


  5. #125
    Avatar de Drēag Muy Entendid@
    Registrad@ el
    18/08/2014
    Sexo
    Chico
    Mensajes
    2.652
    Agradecido
    845 veces
    Temas
    8
    Aunque el hecho de que no puedan tener inventiva no quita que haya que tener cautela (que es donde me quedé, no dije que lo de skynet vaya o pueda ocurrir) precisamente por lo que se le pueda enseñar a hacer a una máquina. Vamos, que al menos yo no he dicho lo contrario de lo que ha mencionado Jaime salvo por lo de la capacidad futura de las máquinas para repararse de forma autónoma indefinidamente.
    Última edición hecha por Drēag, 04/09/2015 a las 20:21.


  6. #publi
    Publicidad

     

  7. #126
    Avatar de Drēag Muy Entendid@
    Registrad@ el
    18/08/2014
    Sexo
    Chico
    Mensajes
    2.652
    Agradecido
    845 veces
    Temas
    8
    Voy a estar un tiempo sin poder usar Internet salvo con el móvil, no puedo hacer mucho desde aquí pero echando un vistazo rápido parece que la ley de copias de Von Newmann no es una ley universal, más bien una ley sujeta a una arquitectura determinada. A ver si investigo más sobre esto cuando pueda porque parece que dicha ley tiene sus flaws en cuanto a su aplicación. Pero a ver si puedo mirarlo mejor sin quemarme los hogos con el movil.

  8. #127
    Avatar de Jwym, Lord of Cinder Moderation gone hollow
    Registrad@ el
    16/07/2005
    Localidad
    ¿Importa eso en Internet?
    Sexo
    Chico
    Edad
    32
    Mensajes
    10.493
    Agradecido
    2731 veces
    Temas
    85
    Milander escribió: Ver mensaje
    Muy interesante. ¿A causa de qué se produciría antes un fallo en un supuesto sistema de autorreplicación, a algo estrictamente computacional o a un defecto material? Me inclino por lo segundo, pero no tengo ni idea...
    Ambas son posibilidades, pero incluso en un escenario de recursos infinitos el fallo se producirá por la propia naturaleza del concepto de autorreplicación y cómo interactúa con las leyes fundamentales de la naturaleza. Es un tema de teoría de información. Como siempre, no soy un experto, y mi explicación no pasa de la heurística, pero el tema es que en un proceso evolutivo, la información tiende a desorganizarse -la entropía-. Siempre está ahí, pero cada vez resulta más costoso recopilarla para regresar a estados anteriores; y cuánto más lejos del estado original -la máquina madre- la probabilidad de recopilar la información tiende cero, que es como decir que la probabilidad de cometer errores tiende a uno. Pensad en un huevo que se rompe: tanto entero como roto, toda la información sobre el huevo permanece intacta, pero en el segundo caso está tan desorganizada que cuesta mucho recomponer el huevo a partir de sus componentes. Eso es entropía, y eso es lo que sucede cuando algo se autorreplica (de nuevo, el ejemplo de las células y el cáncer).

    Después, claro, cabría preguntarse qué pasa cuando se agotan los recursos necesarios para construir nuevas réplicas del autómata; o qué pasa si se acercan demasiado a un agujero negro, en dónde la información comienza a perderse, almenos temporalmente.

    Jenofonte escribió:
    [...]

    1 Construir más robots de guerra en fábricas automatizadas.

    2 Pacificada una zona, construir en ella más fábricas automatizadas.

    3 Controlar materias primas.

    4 Mejorar la eficiencia de la producción, la fabricación, la logística. Que el programa tenga la obligación de buscar siempre cuellos de botella para mejorar los procesos.

    5 Que haga lo mismo en los modelos bélicos. Que siempre busque mejorarlos teniendo en cuenta sus fallos: estadística de modelo más destruido, estadística de componente con más averías, etc.

    6 Una vez pacificado el planeta y extinguida la humanidad, un algoritmo que obligue al programa a salir fuera y buscar otras especies y extinguirlas a su vez.

    7 Deberá aplicar los mismos criterios a la hora de construir naves espaciales, siempre buscar las más rápidas y eficientes. ¿Que no descubre ninguna forma de viajar en pocos días por las estrellas? igual tampoco existe. Además la IA no tiene porqué tener prisa, si tarda seis mil años en encontrar a otra especie, más tiempo que ha tenido para expandir sus fábricas por todas partes de robots asesinos cada vez más capaces.
    Haces que escribir un algoritmo sea como escribir la carta a los Reyes Magos, y no: los pasos 1, 2 y 3; OK, pero a partir del 4 ya comienza a chirriar: "Mejorar la eficiencia de la producción" es una instrucción muy vaga como para ser entendida por una computadora, y peor es pretender que a partir de una vaguedad como esa sea la propia computadora la que escriba nuevos algoritmos menos vagos para las computadoras que estén por venir. Necesitarás definir lo que significa eficiente, buscar parámetros óptimos, resolver ecuaciones variacionales y un montón de cosas más que la computadora no puede deducir por sí misma. Cuando deigo deducir, no me refiero a cómo hacerlo sino a por qué hacerlo. Podrás implementar un algoritmo que reconozca patrones a partir de los cuales clasifique estados de su entorno para tomar un decisión, pero necesitarás primero decirle cuáles son esos estados posibles, y cualquier estado que no se te ocurriera y no esté en la memoria del procesador no será identificado por la computadora como un nuevo estado al que dará su propia definición, sino será asociado al estado almacenado más parecido, lo cual nos trae de vuelta a la entropía: es el creciente desorden de la información el que a la larga hará que las computadoras sencillamente no puedan reconciliar la información de entrada con las posibles respuestas de salida.

    Quizá no ha quedado claro, pero no es un problema tecnológico o de no saber lo suficiente en un momento determinado; es simplemente una característica del Universo que impide que ciertas cosas puedan pasar.

    Con esto creo que he respondido también a las preguntas de Hole. Queda comentar el tema de la cautela que, por supuesto: peor que que las máquina sean capaces de tomar sus propias decisiones es que estén sujetas a las decisiones de creadores humanos manazas. Puedes construirlo a prueba de bombas pero no a prueba de tontos.
    Milander ha agradecido este mensaje.
    I allò que val és la consciència de no ser res si no s'és poble. De no ser res si no s'és lliure.
    Vicent Andrés Estellés.


  9. #128
    Avatar de Drēag Muy Entendid@
    Registrad@ el
    18/08/2014
    Sexo
    Chico
    Mensajes
    2.652
    Agradecido
    845 veces
    Temas
    8
    ¿Y el error tiene que desencadenar necesariamente en la destrucción?


  10. #129
    Avatar de Darth Katsu Ebenezer Scrooge
    Registrad@ el
    16/12/2009
    Sexo
    Chico
    Mensajes
    5.356
    Agradecido
    2300 veces
    Temas
    22
    Mph, mira que se me han ocurrido cosas para programar skynet en un rato. Mira lo que no podrán hacer una docena de informáticos durante pongamos cinco años y pagados por una potencia, o por un grupo terrorista. Hay muchos casos que podrán cubrir para que el programa sepa qué hacer. Y si en un caso no sabe qué hacer pues simplemente mostrará un agujero que podrá ser aprovechado por sus enemigos, pero no supone como dice Xenon que vaya a explotar.
    Imparcial, adj. Incapaz de percibir promesa de ventaja personal en la adhesión a uno de los dos bandos de una controversia, o en la adopción de una entre dos ideas en conflicto.

    El Diccionario del Diablo.

  11. #130
    Avatar de Cooper Bang!
    Registrad@ el
    19/06/2009
    Sexo
    Chico
    Mensajes
    18.998
    Agradecido
    9023 veces
    Temas
    163
    Jaime, eres demasiado académico. Sal del aula y entra en el bar, que meter un concepto como la entropía para mí ya es complejo, no quiero pensar para neófitos. xD

    Eso sí, me ha molado mucho el punto de las ecuaciones y de cómo, en definitiva, funciona una computadora. Mucha gente cree que la posibilidad de aprender es integrable y a mí, conociendo el funcionamiento de una máquina, me parece impensable. Si una computadora se adapta, es porque el humano antes ha predicho el problema que se va a encontrar, no porque ella lo analice y lo deduzca.
    Jwym, Lord of Cinder y Toboe han agradecido este mensaje.
    “The amazing thing is that every atom in your body came from a star that exploded. And, the atoms in your left hand probably came from a different star than your right hand. It really is the most poetic thing I know about physics: You are all stardust. You couldn’t be here if stars hadn’t exploded, because the elements - the carbon, nitrogen, oxygen, iron, all the things that matter for evolution - weren’t created at the beginning of time. They were created in the nuclear furnaces of stars, and the only way they could get into your body is if those stars were kind enough to explode. So, forget Jesus. The stars died so that you could be here today.”

    Lawrence Krauss, "A Universe from Nothing: Why There Is Something Rather Than Nothing".

  12. #131
    Avatar de Darth Katsu Ebenezer Scrooge
    Registrad@ el
    16/12/2009
    Sexo
    Chico
    Mensajes
    5.356
    Agradecido
    2300 veces
    Temas
    22
    Doble post. Pero bueno, entiendo lo que querías decirme, que la IA no piensa, sólo ejecuta casuística que previamente le han metido allí.

    Edito: para jaime.
    Imparcial, adj. Incapaz de percibir promesa de ventaja personal en la adhesión a uno de los dos bandos de una controversia, o en la adopción de una entre dos ideas en conflicto.

    El Diccionario del Diablo.

  13. #132
    Avatar de Jwym, Lord of Cinder Moderation gone hollow
    Registrad@ el
    16/07/2005
    Localidad
    ¿Importa eso en Internet?
    Sexo
    Chico
    Edad
    32
    Mensajes
    10.493
    Agradecido
    2731 veces
    Temas
    85
    Xenon escribió: Ver mensaje
    ¿Y el error tiene que desencadenar necesariamente en la destrucción?
    No a bote pronto pero probablemente sí a largo plazo. Vamos a ver si se me ocurre un ejemplo simplificado: supongamos una máquina a la que programamos para que sepa distinguir entre perros y gatos. Esto es, que usa una cámara para captar una imagen del animal y mediante machine-learning es capaz de determinar que se trata de un perro o de un gato. Si somos buenos programadores, añadiremos una vía de escape para que, si pasado cierto tiempo de computación el algoritmo no ha sido capaz de dar una respuesta, pare y devuelva un estado de error.

    Todo va bien durante mucho tiempo y la máquina va identificando perror y gatos sin problema. Además, la dotamos de capacidad de autorreplicación, por lo que la máquina es capaz de generar otras máquinas con el mismo código de identificación de perros y gatos. Al cabo de un tiempo tenemos un ejército de máquinas capaces de separar los perros de los gatos de un conjunto en el que vienen todos juntos. Ocurre sin embargo que al pasar el tiempo, y puesto que la entropía existe, los perros y los gatos dejan de ser perros y gatos: evolucionan, dan paso a nuevas especies y lo que una vez fueron perros y gatos ya se han extinguido: en ese punto, tenemos un montón de máquinas inútiles que, si fuimos buenos programadores, no hacen más que dar error hasta que se quedan sin batería y consumen todos los recursos necesarios para la replicación o, si no lo fuimos, se lían a computar hasta que se calientan demasiado y dejan de funcionar.

    Si ahora cambiamos perros y gatos por amigos y enemigos y añadimos que cada vez que vea un amigo, salude; y cada vez que vea un enemigo, dispare; nos hacemos a la idea de la clase de problema que podemos tener cuando haya pasado tanto tiempo que los contendientes sean de nuevo amigos o simplemente una nueva clase de individuos que la máquina forzosamente clasifica como alguno de los dos (no siempre necesariamente el mismo, ojo) cuando no es ni uno ni otro ni tiene nada que ver con lo que dio inicio a que dicha máquina fuese creada.

    Pero hay más: tú creas una máquina para que haga algo, no solamente para que se autorreplique. En ese proceso de hacer "algo" nuestra hamija la entropía vuelve a hacer acto de presencia: la máquina se da un golpe, se moja, se calienta... se puede romper un componente que dañe el sistema de replicado, dando lugar a una máquina que ya no se autorreplica sino que construye versiones defectuosas de sí misma. Estas, a su vez, pueden sufrir el mismo destino e ir produciendo copias cada vez más alejadas del especímen inicial hasta que se llega a una generación en la que las máquinas hacen cosas completamente distintas de lo que se pretendió en un principio. Si uno espera que el efecto de la entropía sea mínimo, la única opción es que todo lo que la máquina haga sea replicar, pero es evidente que una máquina así es inútil. "Bueno, pues que replique primero y trabaje después", diréis. OK, pero incluso aunque pudiera trabajar una vez consumidos los recursos necesarios para la replicación, el propio proceso de replicar lleva un tiempo distinto de cero durante el cual, lo habéis adivinado, la entropía actúa y accidentes pueden suceder.

    10.001 escribió: Ver mensaje
    Jaime, eres demasiado académico. Sal del aula y entra en el bar, que meter un concepto como la entropía para mí ya es complejo, no quiero pensar para neófitos. xD
    Ya joder, pero es que es la clave de todo este asunto. En lenguaje de bar, la entropía es cuando hacemos cada día el mismo trayecto en coche sin problemas y un día de repente tenemos un accidente.
    Última edición hecha por Jwym, Lord of Cinder, 04/09/2015 a las 22:11.
    Toboe y Cooper han agradecido este mensaje.
    I allò que val és la consciència de no ser res si no s'és poble. De no ser res si no s'és lliure.
    Vicent Andrés Estellés.


  14. #133
    Avatar de Darth Katsu Ebenezer Scrooge
    Registrad@ el
    16/12/2009
    Sexo
    Chico
    Mensajes
    5.356
    Agradecido
    2300 veces
    Temas
    22
    Bueno, al primer problema: está claro que si el tiempo avanza quién es amigo y quién enemigo va a variar. Pero en ese caso de guerras humanas siempre estará el equipo de programadores detrás para ir actualizando. Si creamos a Skynet porque queremos exterminar a la humanidad pues no necesita saber quién es amigo o enemigo, le decimos que todo lo que se mueva y que pese más que un pollo se lo folle. Y ya.

    El segundo caso no es exclusivo de IAs, me has descrito cómo funciona un cáncer en los organismos humanos, ni más ni menos. Lo de siempre, si hay humanos detrás pues sin problema. Si no, pues quizá Skynet morirá tarde o temprano, lo reconozco, por bien que le preparemos para esos casos. Pero al menos morirá épicamente. Lo podemos programar para que en sus últimos momentos diga: "Yo he visto cosas que vosotros no creeríais. He visto naves en llamas más allá de Orión. He visto Rayos-C brillar en la oscuridad, cerca de la puerta de Tannhäuser. Todos esos momentos se perderán en el tiempo como lágrimas en la lluvia. Es hora de morir."
    Imparcial, adj. Incapaz de percibir promesa de ventaja personal en la adhesión a uno de los dos bandos de una controversia, o en la adopción de una entre dos ideas en conflicto.

    El Diccionario del Diablo.

  15. #134
    Avatar de Jwym, Lord of Cinder Moderation gone hollow
    Registrad@ el
    16/07/2005
    Localidad
    ¿Importa eso en Internet?
    Sexo
    Chico
    Edad
    32
    Mensajes
    10.493
    Agradecido
    2731 veces
    Temas
    85
    ¿Acaso no son las células unas unidades consumidoras de energía dedicadas a un cometido y portadoras de un código de replicación? Por supuesto que lo que he descrito es un cáncer: el concepto subyacente es exactamente el mismo. Ten a un organismo viviendo el tiempo suficiente y verás cómo desarrolla cáncer. Seguro.

    Ah, y los humanos podrán actualizar mientras supervisen lo suficiente; pero si uno de esos desgracidos accidentes convierte a las máquinas en "inactualizables" (por no entender el código o, simplemente, por actuar de manera peligrosa para nosotros) mientras nadie supervisaba, chau. Por otro lado, si para evitar que pasen esas cosas tienes que estar siempre supervisando entonces es obvio que la idea de construir máquinas para que nos hagan el trabajo es una contradicción en toda regla.
    I allò que val és la consciència de no ser res si no s'és poble. De no ser res si no s'és lliure.
    Vicent Andrés Estellés.


  16. #135
    Avatar de Darth Katsu Ebenezer Scrooge
    Registrad@ el
    16/12/2009
    Sexo
    Chico
    Mensajes
    5.356
    Agradecido
    2300 veces
    Temas
    22
    Bueno, ya construimos máquinas para que nos hagan el trabajo. De hecho cada vez dependemos más de ellas, se están informatizando los ficheros, archivos, bibliotecas, de todo el mundo. Cuando el proceso haya culminado en caso de apagón serio nos vamos a reír mucho.

    De lo del cáncer, pues eso, al fin y al cabo mi amado Skynet moriría de una enfermedad propia de seres vivos, y viviría como ellos, reproduciéndose. Que te recuerdo que nosotros, en buena medida, también cumplimos una programación, como bien se señala en ​El gen egoísta.
    Imparcial, adj. Incapaz de percibir promesa de ventaja personal en la adhesión a uno de los dos bandos de una controversia, o en la adopción de una entre dos ideas en conflicto.

    El Diccionario del Diablo.

Página 9 de 26 PrimeraPrimera ... 7 8 9 10 11 19 ... ÚltimaÚltima

Permisos de tu Usuario

  • No puedes crear nuevos temas
  • No puedes publicar respuestas
  • No puedes adjuntar archivos
  • No puedes editar tus mensajes
  •  
  • El código BB está activado
  • Los emoticonos están activados
  • La etiqueta [IMG] está activado
  • La etiqueta [VIDEO] está activado
  • El código HTML está activado
  • Los Trackbacks están desactivados
  • Los Pingbacks están desactivados
  • Los Refbacks están activados
  • Temas similares

    1. alguien vio los simpson ayer? (los nuevos)
      Por _DeessA_ en Televisión y Radio
      Respuestas: 14
      Último mensaje: 18/09/2005, 20:42
    2. Olap, soy nuevo .. n_n
      Por Griffin en Foro General
      Respuestas: 38
      Último mensaje: 08/02/2004, 21:51
    3. Nuevo servidor (y nuevas ideas) para elKonsultorio.com
      Por Administrador en Foro General
      Respuestas: 14
      Último mensaje: 06/02/2004, 23:56
    4. Nuevo foro: El Tablón
      Por Administrador en Foro General
      Respuestas: 9
      Último mensaje: 02/02/2004, 18:44
    5. Re: Nuevos emoticons!!
      Por CiRa en Foro General
      Respuestas: 17
      Último mensaje: 21/01/2004, 11:54