Hace 9 años | Por --418333-- a es.noticias.yahoo.com
Publicado hace 9 años por --418333-- a es.noticias.yahoo.com

...Cuando el robot guardián se veía obligado a tomar la decisión de a qué humano salvar primero, titubeaba indeciso hasta el punto de paralizarse, por lo que en múltiples ocasiones no llegaba a salvar a ninguno de los dos humanos, a pesar de que contar con tiempo más que suficiente para salvar al menos a uno. De las 33 ocasiones en que se repitió el experimento, el robot guardián sólo pudo salvar a ambos "humanos" en 3 ocasiones. En el resto de casos, pareció que el robot era incapaz de decidir.

Comentarios

ChukNorris

#8 ¿No toma decisiones?

#5 lol se trataría de programarlo de tal forma que fuese aprendiendo de sus propias "experiencias", no de programarlo para cada posible opción.

meda

#11 No, no toma decisiones. Los algoritmos de toma de decisiones y de aprendizaje tomarán la información y la procesarán como tú le hayas programado para que lo haga.

ChukNorris

#14 Los algoritmos de toma de decisiones y de aprendizaje tomarán la información y la procesarán como tú le hayas programado para que lo haga.

Y el bot decidirá como salvar a los humanos ...

meda

#15 No, lo hará como venga escrito en el algoritmo. Eso ya depende de si a eso le llamas decidir o no, pero teniendo en cuenta que ese código habrá sido escrito por un humano, yo diría que no, que ahí lo que opine el robot importa más bien poco (entre otras cosas, porque no tiene opinión).

ChukNorris

#17 Eso ya depende de si a eso le llamas decidir o no, pero teniendo en cuenta que ese código habrá sido escrito por un humano

En el momento que toma decisiones ejecuta soluciones que no tiene por qué comprender la persona que lo programó ... sí que lo llamaría decidir.

D

#18 el que programa siempre decide, de un modo u otro. En sistemas basados en reglas, por ejemplo, las estrategias de resolución de conflictos se programan de antemano.

Lo más cercano a una toma de decisiones autónoma por parte de una máquina yo diría que es el aprendizaje no supervisado...

xuco

#1 #2 #3 #4 #5 #6 #7 #8 #9 #10 Tus defectos como robot son mi fracaso como programador.

Tilos

#5 Totalmente de acuerdo, yo lo que veo en el artículo es que el programador ha diseñado el algoritmo para un objetivo y punto. Lo de ponerse a hablar de ética y moral me parece hasta ofensivo viendo lo sencillo que era el puto mecanismo del "robot"

Aunque, dándole vueltas, me da que el experimento nunca poco tiene que ver con la robótica e inteligencia artificial y más bien se centra en una burda representación de humanidad. Es decir, solo hacen esa chorrada de algoritmo para hacerte pensar que posiblemente un humano, al ser emocional, se quedaría bloqueado y no salvaría a ninguno. E

D

#16 Te garantiz que no. lol
Asimov escribió el grueso de sjs hstorias de robots cuando estudiaba química, no recuerdo ahora la universla ad en la que llegó a ser profesor. No tenía la maás puta idea de computación y de hecho sus ideas obre computadores son muy ingenuas.

D

#19 Qué ideas iba a tener si la computación estaba en pañales? Este señor nació en 1920 y los primeros trabajos de Turing son de 1930. Sólo las tendría si hubiera sido un investigador puntero de la época que le tocó vivir.

D

#5 Ahora me vas a decir que el algoritmo de menéame no toma decisiones por su cuenta.

Marco_Pagot

#5 No le pidas coherencia a Yahoo News. Pídele sensacionalismo.

timonoj

#5 Es lo que he pensado yo, y ni he visto el vídeo.

El artículo, lo mencionado, una sensacionalistada...Pero una cosa que menciona al final y de refilón, es probablemente donde vamos a tener los problemas muy prontito: Coches con IA que conducen solicos. En caso de accidente inevitable, y tratando de minimizar daños, qué decisiones tomar? Tratar de salvar peatones/coches adicionales, incluso cuando eso puede suponer daños al conductor? Salvar al conductor aunque tenga que atropellar una familia? Qué harán los posibles compradores, se atreverán a comprar un coche que podría tomar la decisión de herirles a ellos por el bien común?

c

Que me hubiesen preguntado a mi y les habia ahorrado esa puta mierda de experimento. No puedes exponer un robot a condiciones no programadas y esperar que tome "decisiones" coherentes. Y mucho menos montarte una mierda de articulo sobre el predecible cortocircuito lógico que va a sufrir el trasto.

#38 Yo apuesto porque triunfaran los que primen la seguridad del conductor por encima de lo demas, con excepciones cuando se trate de daños en el vehículo vs. atropellar a alguien. Lo complementas con un buen seguro de responsabilidad civil y pista, que llevamos décadas con las carreteras llenas de borrachuzos y fitipaldis y nadie se echa las manos a la cabeza.

Si por algún motivo no fuera así, auguro un gran futuro en el sector de roots, cracks y todo tipo de sistemas de parcheo para IAs de vehículos.

Fenomenal

Como dice #5, ni ética ni pollas, un bucle en la programación.

El día que una inteligencia artificial desarrolle su propia "ética" os vais a cagar... Llevamos demasiado tiempo mirándonos el ombligo.

D

#5 Quizá en el libro de "Yo, robot" no sea igual que en la película, pero no empieza precisamente con un robot tomando la decisión de salvar a un humano y no al otro porque el salvado tenía más probabilidades de sobrevivir?

xuco

#2 ante la duda....

Varlak_

#28 valgame el señor

Carnedegato

Joder, cómo le puedo dar otro positivo a #2?

anor

#1 " Una herramienta que hace todo por ti te atrofia, no te ayuda. "

Muy cierto, una herramienta se convierte en un obstaculo y puede impedir el desarrollo del ser humano. Y no solo una herramienta asi tiene ese efecto negativo, tambien un entorno social puede provocarlo si lo hace todo por ti ( aunque en realidad no lo haga ). Son entornos sociales aparentemente protectores pero en realidad no protegen y a la vez impiden que el ser humano se proteja a si mismo individual o colectivamente.

Las buenas herramientas son las que facilitan hacer las cosas por uno mismo. Estas no atrofian.

m

#1 Eso no es cierto, por el simple hecho de que en principio cualquier comportamiento, es factible de ser convertido en instrucciones, quizás aún no estemos preparados para "humanizar" a los robots, pero hace un siglo nadie pensaba que el hombre llegaría a la Luna, ni que existiesen teléfono móviles, ni que un coche fuese capaz de conducirse de forma autónoma.

D

#23 No, en principio no toda etología (conjunto de pautas de comportamiento) se puede algoritmizar. Así que te niego la mayor. De hecho, gran parte del comportamiento humano como se analiza en el propio artículo, es aleatorio, y aunque puedes incluir esa instrucción en un algoritmo, eso no es propiamente una instrucción, sino un azar. Peor aún, otra gran parte depende de la interacción con congéneres o similares, y nos metemos ya en propiedades emergentes y heurística de grueso calibre. Lo que ya acepta todo el mundo (incluyendo Minsky y otros fenómenos que dicen digo donde dijeron Diego) es que la mente humana, no la conciencia, la mente, NO es algorítmica.

Las etologías de los animales (y dicho sea de paso, si aceptamos pulpo como animal de compañía, las de las plantas están resultando más complejas de lo que se había pensado, as usual, y meto en el saco "etología" a los avisos químicos que intercambian incluso entre especies o los movimientos tróficos que experimentan en relación a estímulos sin tener sistema nervioso, por no hablar ya de otros seres vivos) no sabemos aún donde poner la divisoria entre "consciencia" e "inconsciencia". Suponemos que la mayoría de los comportamientos de tipo autómata son algoritmizables, pero esto es una suposición que nos sacamos de la chistera sin el menor indicio -sin el menor indicio. Podemos algoritmizar muchas cosas de tales comportamientos y el resultado es muy impresionante, pero también son muy impresionantes otras cosas que hemos hecho a lo largo de nuestra historia y ahora nos quedamos alucinados a colores de lo burros que fuimos.

D

#1 seguro que sabes mucho sobre todo, pero quizá te precipitas en utilizar expresiones axiomáticas como "jamás". No digo que estés equivocado pero tampoco digo que estés en la absoluta certeza.

D

#29 Yo sé lo que sé e ignoro todo lo demás, que como intuirás, es infinitamente más. Intento compartir lo que sé y aprender lo que no sé.

"Jamás" no es una expresión axiomática, al menos no en ciencias. En MC si algo es jamás, es jamás, aunque bien es cierto que el censo de jamases es reducido. Hay cosas que están para quedarse, la Tierra no va a ser plana ni el Sol va a girar alrededor suya, esto son verdades consolidadas. Ciertamente que se ha ido a la Luna, porque nadie (o, realmente, muy poca gente en relación al total) pensó nunca que fuese una imposibilidad absoluta, sólo relativa a los medios de cada época, y efectivamente, se ha ido, pero no en globo, ni en bala de cañón. En esos medios jamás se podrá ir.

Una herramienta es lo que es por definición, y esto es algo que se define al inicio del debate. Como tal, mientras sea herramienta, por definición, es (entre otras cosas) una extensión de la voluntad humana. Si deja de ser eso, entonces deja de ser una herramienta, y en consecuencia dejaría de ser una máquina o un robot para convertirse en otra cosa. Ten la absoluta certeza de esto, porque dudar es sanísimo, pero una cosa es dudar y otra hacerse pajas mentales.

D

#43 No hablo de cosas ya corroboradas sino de la posibilidad futura, puedes decir que el robot ya no seria robot y lo que quieras juegas con la semántica y las pajas lol ya veo, si fuera por ti hubieses sido de los que tomaban por loco a Tesla y tantos otros lol

D

#49 ¿Pero ya empezamos a insultar? Después os devuelven los insultos y os parece mal.

No, evidentemente nunca hubiera apoyado la idea de ir a la Luna en globo o bala de cañón. Tesla tenía razón en lo que la tenía y decía muchas barbaridades (la mayor parte), como todo el mundo. Sï, barbaridades brutales, y si estuviera vivo hoy diría exactamente esto mismo. Y con las palabras juegas tú, una herramienta es lo que es, un perro NO es una herramienta, aunque los humanos intenten utilizarlo de tal. O un soldado. ¿Te suena un poema de Bertolt Brecht al respecto?

Si la herramienta deja de ser herramienta, el debate cambia por completo, porque las reglas a aplicar son muy otras. Los que juegan con las palabras son los que intentan aplicar leyes fuera de su jurisdicción de validez. Y tampoco, si me apuras, partiendo de una herramienta nunca crearás un ser autónomo. Harás una herramienta todo lo complicada que tú quieras, pero que seguirá siendo eso, una extensión de la voluntad humana (y será eventualmente, porque es lo que es, la voluntad la que salga fuera de control, no la herramienta, ¿te suena la maldición griega de "ojalá los dioses te concedan todos tus deseos"?). Lo siento, hay cosas imposibles (la inmnesa mayoría), y "pajas mentales" se refiere precisamente a pensar que puedan ser posibles. Y ciertamente la mayoría de nuestros mitos culturales son directamente cosas totalmente imposibles. Ahora y mientras el Universo tenga estas leyes que tiene (o que a nuestra mente le parece interpretar así).

Tampoco tengo la culpa si la peña no puede distinguirlas. Es algo que deben revisar y con cierta urgencia.

D

#50 insultar ? veo que te gusta inventar (gilipollas sería un insulto, si lo que he escrito te parece un insulto es que tienes la piel muy fina y cualquier objeción te ofende). Y sigues en tus trece, sigues con la "herramienta" de la que se habla en el artículo, hace bastantes frases que no hablamos de lo mismo lol. Me aburres agudo, ok, jjaammaass un rroobboott podrá poseer conductas complejas, gracias por iluminarme.

D

#52 Es que los argumentos que yo doy de ser válidos tienen que serlo independientemente de que los diga yo, tú o el vecino, y en un debate apelar al mensajero es insultante para el debate mismo. Espero explicarme. No siendo que el mensajero descaradamente muestre un sesgo obvio y una mala intención patente, cosa que tú no argumentas ni demuestras en absoluto.

Tienes un problema de lectura, porque no he escrito (ahí arriba está) lo que me atribuyes, es más, en dos puntos dices que no digo lo que precisamente digo. Si te aburro, que es otro insulto, no quedas muy bien parado por leerme. No te molestes en contestar, porque ya estás en el insulto puro y duro y a mí también se me da muy bien, mejor que a ti. Igual es lo que buscas.

D

#49 Mira, en el pasado tal vez fuera más difícil, pero hoy, gracias al brutal avance del conocimiento científico podemos saber mucho mejor lo que es posible de lo que no lo es. De entrada, si quieres hacer algo con total seguridad podrás evaluar un costo energético y de recursos (que después traducirás a económico), en ese momento ya sabrás si algo es muy difícil (es decir, que hoy no es posible pero que tal vez en el futuro, si tenemos acceso a fuentes de energía inimaginables, por ejemplo), o si es directamente imposible.

Y sí, no te lo creas, compruébalo tú mismo, hay cosas directamente imposibles. No es que sean teóricamente posibles pero inviables en la práctica incluso para tecnologías que podrían ser magia, sino literalmente imposibles. Pero vivimos en una civilización que hasta gestiona mal la mierda que caga, todo por prejuicios culturales, así que pienso que es imperativo comenzar a cambiar la mentalidad a gran escala, y particularmente el mito del progreso es especialmente dañino, es una especie de vivir de la herencia o la lotería que me va a tocar indefinidamente, y todas las cosas tienen un límite, esto también es algo que no te lo puedes creer, pero te recomiendo que compruebes que es así. Incluso la estupidez humana.

DORAP

#1 "Y a mayores, la automatización (en realidad: la comodidad) nos hace cada vez más torpes e indefensos. Una herramienta que hace todo por ti te atrofia, no te ayuda."

Eso de que las herramientas nos atrofian no es verdad, no veo ningún caso en que se cumpla, por ejemplo, no sabrás menos matemáticas por utilizar una calculadora, es más, la calculadora te ayudará en las operaciones básicas y te permitirá a HACER MÁS MATEMÁTICAS. Un matemático del sigo XIX hubiera asesinado por una calculadora de bolsillo, le hubiera permitido desarrollar sus estudios y sus conocimientos muchísimo más rápido. ¿Qué parte mala hay en ello?

Más ejemplos:

Existen coches, motos, trenes y tranvías pero todos seguimos caminando... para colmo, la gente ahora CORRE POR DIVERSIÓN, pregúntale a tus abuelos qué hubieran pensado si un amigo suyo se hubiera dedicado a correr por el barrio una hora cada noche.

Existen cámaras de fotos, de video, de cine, pero siguen existiendo pintores y escultores, es más, la pintura y la escultura está más valorada económicamente que en cualquier momento de la historia.

Existen audiolibros y la gente sigue leyendo y hay mayor alfabetismo que en cualquier momento de nuestra historia, de hecho, nadie compra audiolibros.

Existen máquinas herramientas, pero en lugar de dejar de apretar tornillos, la humanidad genera más patentes en un año que en todo el siglo XIX, cuanta mayor cantidad de máquinas herramientas más innovación e ingeniería generamos.

D

#33 No, las calculadoras no tienen nada que ver con las matemáticas como un todo, tienen que ver con una parte (álgebra). En realidad sí atrofian, porque antes de existir calculadoras existían ábacos y otros procedimientos de cálculo mental, lo que sucede es que la potencia de una máquina, se quiera que no, no se puede igualar. No puedo sustituir a los ordenadores de la NASA por un ejército de calculadores humanos con ábacos, simplemente. Si quiero ir a la Luna, tengo que pasar por el aro. Por otro lado, tampoco está demostrado que desarrollar una capacidad mental de cálculo sea especialmente útil, por tanto el ejemplo de la calculadora no es muy útil.

Y de hecho, las calculadoras no han tenido especial impacto en la enseñanza de las matemáticas, pero los ordenadores han efectivamente desterrado las reglas de cálculo, es lo que hablo arriba, es más potencia, simplemente.

Sin embargo, existe una correlación brutal e innegable entre obesidad y desplazamiento en automóvil. Las enfermedades que se tienen hoy son completamente diferentes en gran medida de las de nuestros abuelos. Como dicen ellos en sus chistes, antes los médicos recomendaban reposar y comer mucho (porque se trabaja como una bestia y se comía poco y mal), ahora se recomienda hacer ejercicio y dieta. Porque la gente no se mueve y come en exceso.

Simplemente hemos cambiado nuestro entorno, y nuestro cuerpo se adapta a una evolución artificial. El problema es que este entorno, artificial, no responde a la naturaleza, sino a nuestros despropósitos intentando manipularla, y está por ver que esto llegue a buen puerto, aunque todo el mundo que vislumbra algo claramente ve que por aquí vamos muy mal.

No confundas a la gente que cuestiona el mito del progreso con los luditas. Yo no voy a renunciar a una tomografía en medicina, porque es algo que jamás podríamos hacer por nosotros mismos, pero está por ver que sea mejor mecanografiar que manuscribir, sobre todo ahora que existen escáneres. Y te ruego que pienses detenidamente sobre esto.

Y sí, el progreso es un mito. Los seres humanos, culturalmente, los fabricamos. No existe tal cosa, del mismo modo que nunca llueve a gusto de todos. Todo tiene su precio, hay que valorar, preferiblemente de forma democrática (y con todo el mundo correctamente informado de las consecuencias), si algo merece la pena o no la merece. En mi opinión, ciudades de millones de personas son una aberración que no debería existir, y desde luego cosas como un coche para mí no tienen sentido (una máquina de más de una tonelada que como mucho transporta a cuatro individuos, y que sigue matando tanta gente como antes a pesar de que son "muchísimo más seguros que hace 30 años", que lo serán, pero aquí siguen muriendo 5.000 o más personas al año, por no hablar del impacto ecológico, en el que por supuesto hay que incluir la fabricación y la eliminación).

Azucena1980

No sé qué me da que al USS Army las leyes de Asimov se las traen al pairo

powernergia

Esto me recuerda una frase que oí ayer en la pelicula "Alien Resurrection", que hablando sobre un robot que sale en la peli dicen:

"Ya decía yo que era demasiado humano para ser humano".

Curiosa e interesante cita.

mblanch

Yo hago unas prácticas así y me suspenden.

Svacam

¿El robot fue diseñado y construido por Isaac Asimov?
Joder, si lograron resucitarlo y enseñarle robotica, ¡ya puedo creerme cualquier cosa!

Lo que aprende uno en meneame, hoyga.

ChukNorris

#10 hoyga, como podrá comprobar por el titular ... este es el 1º ... espera a ver los demás, vas a flipar. lol

D

#0 Haces buenos envíos pero esta te la voto sensacionalista. Lo siento.

D

#27 Lo es, pero hay comentarios muy interesantes al respecto. Ya me vale.

D

La verdad es que la noticia me parece un poco absurda. ¿Que no se esperaban que pasara eso? Coño, pues que le pregunten al que programó al robot, dependiendo de cómo lo programes actuará de una forma u otra. Si no les parece satisfactorio es que falla la programación.

Y llamarlos robots de Asimov, pues nada, pura propaganda.

D

Un titular alternativo podría ser "El primer robot de Asimov toma decisiones éticas sorprendentes y nefastas", es decir, quitando el paréntesis. Cada vez que veo un paréntesis me dan ganas de votar "sensacionalista".

D

#7 pues yo creo que se abusa de los paréntesis en los titulares, y creo que se hace intencionadamente para atraer más visitas. Para hacer una pausa ya estaba la coma.
Si tuviera que interpretar un guion en el que mi personaje dijera: "Pepe es alto y rico" lo diría todo seguido; "Pepe es alto (y rico)" se lee con una pausa y cambiando el tono. No sé si me explico... Da un matiz a la frase que provoca curiosidad al lector. Algo así como un guiño.

D

#34 Bueno, yo no puedo opinar de otro caso que el que nos ocupa. En el que sugieres, dado que Pepe es único, es sólo él quien puede ser alto y rico. Es innecesario el paréntesis, salvo que quieras dar un matiz de timidez a la segunda idea (algo así como decirla en voz baja).

En general sí, en mi opinión se escribe mal (en el sentido de no ajustarse a las ideas que uno quiere transmitir, yo aunque las sigo me importan un rábano las normas en este tema, la mayoría de las lenguas se escribieron durante siglos sin normas ni autoridades). Y en descargo de todos, es que es difícil escribir de forma precisa. Es lo malo de internet, que todo el mundo quiere correr y así es muy difícil (o... imposible).

D

#7 El único uso que justifica la existencia de esos paréntesis es únicamente el de resaltar las consecuencias nefastas. Los paréntesis no cambian el significado de las conjunciones.

Para indicar que tiene decisiones que son sorprendentes y otras que son nefastas se diria "son sorprendentes o nefastas" (si no son excluyentes, incluso "y/o") o "son o sorprendentes o nefastas" (si sí lo son).

PD: Es la prosodia la que estudia las pausas, no la fonética.

D

#36 Yo no hablé de la prosodia, como no hablé de la morfología ni la sintaxis, intentaba explicar que hasta cierto punto la escritura intenta en la medida de lo posible crear una aplicación unívoca (lo que ya sabemos que es imposible). En mi opinión, los paréntesis si cambian significados. Por ejemplo, las reglas ortográficas sugieren que los paréntesis deben usarse para incorporar datos, en mi opinión eso sí puede hacerse mediante comas (o incluso mejor, rehaciendo la oración al completo), e incluso el paréntesis es innecesario (las reglas de la RAE a mí me parecen absurdas en su mayoría): me parece una tontería escribir "en la página 3 (gráfica 3)", cuando ese paréntesis sí es idiota: "en la página 3 gráfica 3". O lo de Alcobendas (Madrid), cuando basta Alcobendas, Madrid. Como dices tú, prosódicamente es más coherente lo segundo.

Pero yo diría que sí cambian el significado:

"Confiemos, ¿por qué no?, en que conseguiremos el objetivo"
"Confiemos (¿por qué no?) en que conseguiremos el objetivo"

En el primer caso la pregunta es retórica, en el segundo no lo es.

atatat

Estos son los robots que pagarán nuestras pensiones...

GekoDH

Eso es como ese ejemplo que siempre se pone en las clases de inteligencia artificial, la del burro que tiene dos montones de hierba exactamente iguales a la misma distancia y se muere de hambre por no poder decidirse, ¿qué haría en realidad? Random.

f

Con que le hayan cargado la Wikipedia no vale decir que porque no salve a ninguno de los humanos el robot no sea sin embargo muy inteligente...

N

A alguien le falta repasar lógica difusa...

T

Si no llevan cerebros positrónicos no se les pueden implementar las leyes de Asimov.