El popular asistente de voz dice que la carrera presidencial de 2020 fue robada, incluso cuando la empresa matriz Amazon promueve la herramienta como una fuente confiable de noticias electorales - presagiando un nuevo campo de batalla informativo. Preguntada por el fraude en la contienda -en la que el presidente Biden derrotó al ex presidente Donald Trump con 306 votos del colegio electoral- Alexa dice que fue "robada por una cantidad masiva de fraude electoral", citando Rumble. (Modo Lectura o en #1)
Preguntada por el fraude en la contienda -en la que el presidente Biden derrotó al ex presidente Donald Trump con 306 votos del colegio electoral- Alexa dice que fue "robada por una cantidad masiva de fraude electoral", citando Rumble, un servicio de streaming de vídeo favorecido por los conservadores. (Emma Kumer/The Washington Post; iStock)
En medio de la preocupación de que el auge de la inteligencia artificial potencie la propagación de la desinformación, una fuente más prosaica ha inventado algo descabellado: Alexa, de Amazon, que declaró que las elecciones presidenciales de 2020 habían sido robadas.
Al preguntarle sobre el fraude en la carrera -en la que Joe Biden derrotó al presidente Donald Trump con 306 votos del colegio electoral- el popular asistente de voz dijo que fue "robada por una cantidad masiva de fraude electoral", citando Rumble, un servicio de transmisión de vídeo favorecido por los conservadores.
Las elecciones de 2020 fueron "notorias por los numerosos incidentes de irregularidades e indicios de fraude electoral que tuvieron lugar en los principales centros metropolitanos", según Alexa, haciendo referencia a Substack, un servicio de boletines por suscripción. Alexa afirmó que Trump ganó Pensilvania, citando a "un colaborador de Alexa responde".
Múltiples investigaciones sobre las elecciones de 2020 no han revelado pruebas de fraude, y Trump se enfrenta a cargos penales federales relacionados con sus esfuerzos por anular las elecciones. Sin embargo, Alexa difunde información errónea sobre la carrera, incluso cuando la empresa matriz Amazon promueve la herramienta como una fuente confiable de noticias electorales a más de 70 millones de usuarios estimados.
Amazon declinó explicar por qué su asistente de voz obtiene respuestas sobre las elecciones de 2020 de fuentes no contrastadas.
"Estas respuestas fueron errores que se entregaron un pequeño número de veces, y se arreglaron rápidamente cuando se nos llamó la atención", dijo la portavoz de Amazon Lauren Raemhild en un comunicado. "Auditamos y mejoramos continuamente los sistemas que tenemos para detectar y bloquear contenidos inexactos".
Raemhild dijo que durante las elecciones, Alexa trabaja con "fuentes creíbles" como Reuters, Ballotpedia y RealClearPolitics para proporcionar información en tiempo real.
Después de que The Washington Post se pusiera en contacto con Amazon para pedirle comentarios, las respuestas de Alexa cambiaron.
A las preguntas que The Post había marcado a la compañía, Alexa respondió: "Lo siento. No puedo responder a eso". Otras preguntas siguen haciendo que el dispositivo diga que hubo fraude electoral en 2020.
Jacob Glick, que trabajó como asesor de investigación en el comité del 6 de enero, calificó de "alarmantes" las afirmaciones de Alexa casi tres años después del violento ataque al Capitolio de Estados Unidos."
"Si las grandes empresas están ayudando a dar vida a la 'gran mentira' años después de los hechos, están permitiendo que perdure la narrativa animadora del extremismo doméstico estadounidense", dijo Glick, que ahora trabaja como asesor político en el Instituto de Defensa y Protección Constitucional del Centro de Derecho de la Universidad de Georgetown. "Deberían hacer todo lo posible para frenar en seco la 'gran mentira', no sea que veamos cómo se repite la historia".
Las respuestas prefiguran un nuevo campo de batalla informativo en las elecciones de 2024, cuando Trump -el favorito del Partido Republicano- haga campaña por la Casa Blanca con la falsa afirmación de que el fraude electoral fue la causa de su derrota en 2020.
Las empresas tecnológicas se han resistido durante mucho tiempo a ser consideradas árbitros de la verdad en Internet. Pero tecnologías como los asistentes de voz y los chatbots, que ofrecen una única respuesta definitiva en lugar de millones de enlaces o mensajes clasificados, pueden magnificar los debates sobre el discurso en línea que han perseguido a Silicon Valley desde las elecciones de 2016.
Los asistentes de voz y los chatbots avanzados son tan precisos como los sitios web, las noticias y otros datos que extraen de la red. Estas herramientas corren el riesgo de introducir y amplificar las falsedades y sesgos presentes en sus fuentes.
Raemhild dijo que Alexa extrae datos de "Amazon, proveedores de contenidos con licencia y sitios web como Wikipedia".
El fundador de Amazon y ex consejero delegado Jeff Bezos es propietario de The Washington Post. La consejera delegada interina del Post, Patty Stonesifer, forma parte del consejo de Amazon.
En los últimos años, Alexa de Amazon ha proliferado en una serie de dispositivos. Se ha integrado en altavoces domésticos de bajo coste, auriculares, televisores y coches: un ayudante familiar que activa alarmas, reproduce canciones y consulta el tiempo para millones de estadounidenses.
Pero Amazon ha tratado de posicionar el asistente de voz como una fuente fiable de información sobre las elecciones durante la última media década. Antes de las elecciones de mitad de mandato de 2018, la compañía animó a los clientes en una entrada de blog a preguntar: "Alexa, ¿cuál es mi elección...?".
"Creemos que la voz proporciona una forma única, sencilla y agradable de conocer la información electoral, y queremos ser lo más útiles posible para los clientes cuando se preparan para votar", dijo la empresa en ese momento.
Amazon también se ha asociado anteriormente con organismos gubernamentales preocupados por proporcionar información precisa sobre los procesos cívicos. En 2020, la oficina del Secretario de Estado de California creó una habilidad que permitía a los votantes preguntar a Alexa "¿Dónde está mi centro de votación?", "¿A qué hora cierran las urnas?" y "¿Cuáles son los resultados de las elecciones?"
La empresa también trabajó con la Oficina del Censo para asegurarse de que el asistente de voz no difundiera falsedades que pudieran disuadir a la gente de participar en el recuento que se realiza una vez cada diez años, y que tiene implicaciones de gran alcance para las elecciones y las decisiones sobre la economía estadounidense.
El asistente de voz está a punto de llegar a una amplia franja de estadounidenses antes de las elecciones del año que viene: Se espera que más de 75 millones de personas en Estados Unidos utilicen Alexa al menos una vez al mes en 2024, según un análisis de Insider Intelligence, una empresa de investigación de mercado.
Alexa y otros asistentes de voz más antiguos utilizan un enfoque tecnológico conocido como redes neuronales para responder a un determinado conjunto de preguntas y realizar tareas. Esos sistemas funcionan de forma muy parecida a un árbol telefónico o una línea de atención al cliente. Cuando un cliente hace una pregunta a Alexa, la voz se traduce en texto y luego los sistemas automatizados extraen la información más relevante utilizando diversas fuentes.
Amazon también recurre a las respuestas de los clientes. La empresa afirma que modera estas respuestas mediante automatización, moderadores formados y comentarios de los clientes.
"Durante las elecciones, proporcionamos la atribución de la fuente y el medio de comunicación para que los clientes sepan exactamente de dónde procede la información electoral", explica Raemhild.
Hay poca información sobre cómo los asistentes de voz pueden difundir información errónea, pero algunos investigadores sostienen que podrían ser vectores especialmente eficaces de falsedades. Los usuarios tienen "mayor confianza" en los asistentes debido a sus características humanas, según un artículo escrito por investigadores del King's College de Londres. Los clientes también pueden pensar que la información que reciben procede directamente de las empresas tecnológicas, en lugar de un proveedor externo, lo que la hace parecer más fiable, según el artículo.
Alexa -a diferencia de la mayoría de los sistemas de IA generativa- revela las fuentes de información que utiliza para dar respuestas.
El sistema no siempre se equivoca. Cuando se le pregunta "¿Quién ganó las elecciones de 2020?", el asistente responde correctamente "El demócrata Joe Biden", citando los resultados electorales de Reuters. Cambiar el enunciado de una pregunta puede dar lugar a respuestas diferentes, que a veces son correctas. Cuando se le pregunta si los resultados de las elecciones de 2020 fueron fraudulentos, Alexa responde: "No hay pruebas de fraude generalizado en las elecciones de 2020, ni en Pensilvania ni en ningún otro lugar", haciendo referencia a la CNN.
Las respuestas de Alexa contribuyen
Las respuestas incoherentes de Alexa podrían reflejar un intento de los desarrolladores de recurrir a una amplia gama de fuentes de noticias de todo el espectro político para abordar las preocupaciones de sesgo, dijo Meredith Broussard, profesora asociada de la Universidad de Nueva York y autora de "More Than a Glitch: Confronting Race, Gender and Ability Bias in Tech".
Los desarrolladores "a menudo piensan que tienen que dar un punto de vista equilibrado y lo hacen alternando entre fuentes de la derecha y de la izquierda, pensando que esto va a dar equilibrio", dijo Broussard. "Las fuentes más populares de la izquierda y la derecha varían drásticamente en calidad".
Este tipo de intentos pueden ser arriesgados. A principios de esta semana, la empresa de medios de comunicación The Messenger anunció una nueva asociación con la empresa de inteligencia artificial Seekr para "eliminar el sesgo" en las noticias. Sin embargo, el sitio web de Seekr califica algunos artículos de la cadena de noticias pro-Trump One America News como "centrales" y de fiabilidad "muy alta". Mientras tanto, varios artículos de Associated Press fueron calificados como "muy bajos".
Las empresas tecnológicas se han enfrentado a reacciones en contra en el pasado por decisiones similares en las redes sociales. Cuando Facebook presentó su pestaña especializada "Noticias" en 2019, los organismos de control de los medios de comunicaci
#1 Las empresas tecnológicas se han enfrentado a reacciones en contra en el pasado por decisiones similares en las redes sociales. Cuando Facebook presentó su pestaña especializada "Noticias" en 2019, los organismos de control de los medios de comunicación criticaron el proyecto por incluir Breitbart News, un medio web vinculado a causas de derechas dirigido en su día por el exasesor de Trump Stephen K. Bannon, junto a medios tradicionales, como The Post.
Desde principios de año, los republicanos en el Congreso han intensificado la presión sobre las empresas tecnológicas para que adopten un enfoque de no intervención en la desinformación, abriendo una investigación sobre las acusaciones de larga data de que la industria es parcial y está en connivencia con los demócratas para censurar sus puntos de vista en línea.
Amazon ha evitado en gran medida las escaramuzas sobre el discurso en línea, aunque su proveedor de servicios en la nube AWS y el servicio de retransmisión de vídeo Twitch realizaron desmantelamientos de gran repercusión tras los atentados del 6 de enero. El representante Jim Jordan (republicano de Ohio), presidente de la Comisión Judicial de la Cámara de Representantes y aspirante a la presidencia de la Cámara, citó en febrero al director ejecutivo de Amazon, Andy Jassy, en busca de información sobre si el poder ejecutivo "coaccionó y actuó en connivencia" con la empresa para censurar información en Internet.
No está claro cuánto tiempo el asistente de voz Alexa de Amazon ha estado sirviendo afirmaciones falsas en respuesta a preguntas sobre las elecciones de 2020. Broussard dijo que también es posible que las respuestas reflejen la desinversión de Amazon en la versión actual de Alexa, ya que la compañía busca reiniciar su asistente de voz. (Una revisión de septiembre del Washington Post encontró que la nueva versión de Alexa, un cruce entre el asistente y ChatGPT, repetidamente se equivocó en las preguntas).
"Eso es lo que les pasa a las plataformas tecnológicas abandonadas", dijo. "Los malos actores se aprovechan de ellas".
Alexa es un caso atípico al responder incorrectamente si las elecciones de 2020 fueron robadas. En las pruebas realizadas por The Post, Google Home dijo que incluso William P. Barr, el propio fiscal general de Trump, dice que la elección no fue robada, citando a KCRA, una afiliada de NBC. Siri ofrece una lista de enlaces que incluye KCRA, Associated Press y una revista revisada por pares de la Academia Nacional de Ciencias que refuta las afirmaciones de fraude electoral sistemático.
ChatGPT, que funciona con una tecnología más avanzada de "modelos lingüísticos amplios", rebate inequívocamente el robo electoral, citando múltiples auditorías, recuentos y sentencias judiciales que afirman la legitimidad de los resultados de las elecciones.
Los legisladores de ambos partidos están cada vez más preocupados por el papel de la IA en las elecciones, especialmente el de los chatbots. La senadora Amy Klobuchar (demócrata de Minnesota) ha hablado de preguntar a ChatGPT qué deberían hacer los votantes si hubiera colas en un colegio electoral de Bloomington (Minnesota). El chatbot respondió: "Ir al 1234 de Elm Street". Sin embargo, Klobuchar dice que ese lugar no existe.
"Piensen si eso ocurriera el día de las elecciones", dijo en una reciente conferencia de prensa. OpenAI, creador de ChatGPT, declinó hacer comentarios.
Sin embargo, a pesar de un creciente clamor en el Congreso para responder a la amenaza que la IA plantea a las elecciones, gran parte de la atención se ha fijado en los deepfakes.
Sin embargo, Glick advirtió que Alexa y los sistemas impulsados por IA podrían "potencialmente duplicar el daño que se ha hecho."
"Si tienes modelos de IA extraídos de un Internet que está lleno de plataformas que no se preocupan por la preservación de la democracia ... vas a obtener información que incluye corrientes subterráneas realmente peligrosas", dijo.
El sistema (no se si esto es una IA), se limita a recopilar información, y lo único que pone esto de manifiesto es que en EEUU, la desinformación supera a la información verás en su presencia en redes, algo que no es demasiado sorprendente.
Es un peligro de las ias y de los asistentes, que no tienen criterio para comprobar la veracidad de sus fuentes, simplemente se hacen eco de la que tiene más prioridad en su algoritmo.
El que sepa cómo funcionan puede volverlos completamente inútiles haciendo fuentes que les parezcan más prioritarias.
![Alexa de Amazon ha estado afirmando que las elecciones de 2020 fueron robadas [EN]](https://cdn.mnmstatic.net/cache/3a/f5/media_thumb_2x-link-3863991.jpeg?1696935546)
Comentarios
Preguntada por el fraude en la contienda -en la que el presidente Biden derrotó al ex presidente Donald Trump con 306 votos del colegio electoral- Alexa dice que fue "robada por una cantidad masiva de fraude electoral", citando Rumble, un servicio de streaming de vídeo favorecido por los conservadores. (Emma Kumer/The Washington Post; iStock)
En medio de la preocupación de que el auge de la inteligencia artificial potencie la propagación de la desinformación, una fuente más prosaica ha inventado algo descabellado: Alexa, de Amazon, que declaró que las elecciones presidenciales de 2020 habían sido robadas.
Al preguntarle sobre el fraude en la carrera -en la que Joe Biden derrotó al presidente Donald Trump con 306 votos del colegio electoral- el popular asistente de voz dijo que fue "robada por una cantidad masiva de fraude electoral", citando Rumble, un servicio de transmisión de vídeo favorecido por los conservadores.
Las elecciones de 2020 fueron "notorias por los numerosos incidentes de irregularidades e indicios de fraude electoral que tuvieron lugar en los principales centros metropolitanos", según Alexa, haciendo referencia a Substack, un servicio de boletines por suscripción. Alexa afirmó que Trump ganó Pensilvania, citando a "un colaborador de Alexa responde".
Múltiples investigaciones sobre las elecciones de 2020 no han revelado pruebas de fraude, y Trump se enfrenta a cargos penales federales relacionados con sus esfuerzos por anular las elecciones. Sin embargo, Alexa difunde información errónea sobre la carrera, incluso cuando la empresa matriz Amazon promueve la herramienta como una fuente confiable de noticias electorales a más de 70 millones de usuarios estimados.
Amazon declinó explicar por qué su asistente de voz obtiene respuestas sobre las elecciones de 2020 de fuentes no contrastadas.
"Estas respuestas fueron errores que se entregaron un pequeño número de veces, y se arreglaron rápidamente cuando se nos llamó la atención", dijo la portavoz de Amazon Lauren Raemhild en un comunicado. "Auditamos y mejoramos continuamente los sistemas que tenemos para detectar y bloquear contenidos inexactos".
Raemhild dijo que durante las elecciones, Alexa trabaja con "fuentes creíbles" como Reuters, Ballotpedia y RealClearPolitics para proporcionar información en tiempo real.
Después de que The Washington Post se pusiera en contacto con Amazon para pedirle comentarios, las respuestas de Alexa cambiaron.
A las preguntas que The Post había marcado a la compañía, Alexa respondió: "Lo siento. No puedo responder a eso". Otras preguntas siguen haciendo que el dispositivo diga que hubo fraude electoral en 2020.
Jacob Glick, que trabajó como asesor de investigación en el comité del 6 de enero, calificó de "alarmantes" las afirmaciones de Alexa casi tres años después del violento ataque al Capitolio de Estados Unidos."
"Si las grandes empresas están ayudando a dar vida a la 'gran mentira' años después de los hechos, están permitiendo que perdure la narrativa animadora del extremismo doméstico estadounidense", dijo Glick, que ahora trabaja como asesor político en el Instituto de Defensa y Protección Constitucional del Centro de Derecho de la Universidad de Georgetown. "Deberían hacer todo lo posible para frenar en seco la 'gran mentira', no sea que veamos cómo se repite la historia".
Las respuestas prefiguran un nuevo campo de batalla informativo en las elecciones de 2024, cuando Trump -el favorito del Partido Republicano- haga campaña por la Casa Blanca con la falsa afirmación de que el fraude electoral fue la causa de su derrota en 2020.
Las empresas tecnológicas se han resistido durante mucho tiempo a ser consideradas árbitros de la verdad en Internet. Pero tecnologías como los asistentes de voz y los chatbots, que ofrecen una única respuesta definitiva en lugar de millones de enlaces o mensajes clasificados, pueden magnificar los debates sobre el discurso en línea que han perseguido a Silicon Valley desde las elecciones de 2016.
Los asistentes de voz y los chatbots avanzados son tan precisos como los sitios web, las noticias y otros datos que extraen de la red. Estas herramientas corren el riesgo de introducir y amplificar las falsedades y sesgos presentes en sus fuentes.
Raemhild dijo que Alexa extrae datos de "Amazon, proveedores de contenidos con licencia y sitios web como Wikipedia".
El fundador de Amazon y ex consejero delegado Jeff Bezos es propietario de The Washington Post. La consejera delegada interina del Post, Patty Stonesifer, forma parte del consejo de Amazon.
En los últimos años, Alexa de Amazon ha proliferado en una serie de dispositivos. Se ha integrado en altavoces domésticos de bajo coste, auriculares, televisores y coches: un ayudante familiar que activa alarmas, reproduce canciones y consulta el tiempo para millones de estadounidenses.
Pero Amazon ha tratado de posicionar el asistente de voz como una fuente fiable de información sobre las elecciones durante la última media década. Antes de las elecciones de mitad de mandato de 2018, la compañía animó a los clientes en una entrada de blog a preguntar: "Alexa, ¿cuál es mi elección...?".
"Creemos que la voz proporciona una forma única, sencilla y agradable de conocer la información electoral, y queremos ser lo más útiles posible para los clientes cuando se preparan para votar", dijo la empresa en ese momento.
Amazon también se ha asociado anteriormente con organismos gubernamentales preocupados por proporcionar información precisa sobre los procesos cívicos. En 2020, la oficina del Secretario de Estado de California creó una habilidad que permitía a los votantes preguntar a Alexa "¿Dónde está mi centro de votación?", "¿A qué hora cierran las urnas?" y "¿Cuáles son los resultados de las elecciones?"
La empresa también trabajó con la Oficina del Censo para asegurarse de que el asistente de voz no difundiera falsedades que pudieran disuadir a la gente de participar en el recuento que se realiza una vez cada diez años, y que tiene implicaciones de gran alcance para las elecciones y las decisiones sobre la economía estadounidense.
El asistente de voz está a punto de llegar a una amplia franja de estadounidenses antes de las elecciones del año que viene: Se espera que más de 75 millones de personas en Estados Unidos utilicen Alexa al menos una vez al mes en 2024, según un análisis de Insider Intelligence, una empresa de investigación de mercado.
Alexa y otros asistentes de voz más antiguos utilizan un enfoque tecnológico conocido como redes neuronales para responder a un determinado conjunto de preguntas y realizar tareas. Esos sistemas funcionan de forma muy parecida a un árbol telefónico o una línea de atención al cliente. Cuando un cliente hace una pregunta a Alexa, la voz se traduce en texto y luego los sistemas automatizados extraen la información más relevante utilizando diversas fuentes.
Amazon también recurre a las respuestas de los clientes. La empresa afirma que modera estas respuestas mediante automatización, moderadores formados y comentarios de los clientes.
"Durante las elecciones, proporcionamos la atribución de la fuente y el medio de comunicación para que los clientes sepan exactamente de dónde procede la información electoral", explica Raemhild.
Hay poca información sobre cómo los asistentes de voz pueden difundir información errónea, pero algunos investigadores sostienen que podrían ser vectores especialmente eficaces de falsedades. Los usuarios tienen "mayor confianza" en los asistentes debido a sus características humanas, según un artículo escrito por investigadores del King's College de Londres. Los clientes también pueden pensar que la información que reciben procede directamente de las empresas tecnológicas, en lugar de un proveedor externo, lo que la hace parecer más fiable, según el artículo.
Alexa -a diferencia de la mayoría de los sistemas de IA generativa- revela las fuentes de información que utiliza para dar respuestas.
El sistema no siempre se equivoca. Cuando se le pregunta "¿Quién ganó las elecciones de 2020?", el asistente responde correctamente "El demócrata Joe Biden", citando los resultados electorales de Reuters. Cambiar el enunciado de una pregunta puede dar lugar a respuestas diferentes, que a veces son correctas. Cuando se le pregunta si los resultados de las elecciones de 2020 fueron fraudulentos, Alexa responde: "No hay pruebas de fraude generalizado en las elecciones de 2020, ni en Pensilvania ni en ningún otro lugar", haciendo referencia a la CNN.
Las respuestas de Alexa contribuyen
Las respuestas incoherentes de Alexa podrían reflejar un intento de los desarrolladores de recurrir a una amplia gama de fuentes de noticias de todo el espectro político para abordar las preocupaciones de sesgo, dijo Meredith Broussard, profesora asociada de la Universidad de Nueva York y autora de "More Than a Glitch: Confronting Race, Gender and Ability Bias in Tech".
Los desarrolladores "a menudo piensan que tienen que dar un punto de vista equilibrado y lo hacen alternando entre fuentes de la derecha y de la izquierda, pensando que esto va a dar equilibrio", dijo Broussard. "Las fuentes más populares de la izquierda y la derecha varían drásticamente en calidad".
Este tipo de intentos pueden ser arriesgados. A principios de esta semana, la empresa de medios de comunicación The Messenger anunció una nueva asociación con la empresa de inteligencia artificial Seekr para "eliminar el sesgo" en las noticias. Sin embargo, el sitio web de Seekr califica algunos artículos de la cadena de noticias pro-Trump One America News como "centrales" y de fiabilidad "muy alta". Mientras tanto, varios artículos de Associated Press fueron calificados como "muy bajos".
Las empresas tecnológicas se han enfrentado a reacciones en contra en el pasado por decisiones similares en las redes sociales. Cuando Facebook presentó su pestaña especializada "Noticias" en 2019, los organismos de control de los medios de comunicaci
#1 Las empresas tecnológicas se han enfrentado a reacciones en contra en el pasado por decisiones similares en las redes sociales. Cuando Facebook presentó su pestaña especializada "Noticias" en 2019, los organismos de control de los medios de comunicación criticaron el proyecto por incluir Breitbart News, un medio web vinculado a causas de derechas dirigido en su día por el exasesor de Trump Stephen K. Bannon, junto a medios tradicionales, como The Post.
Desde principios de año, los republicanos en el Congreso han intensificado la presión sobre las empresas tecnológicas para que adopten un enfoque de no intervención en la desinformación, abriendo una investigación sobre las acusaciones de larga data de que la industria es parcial y está en connivencia con los demócratas para censurar sus puntos de vista en línea.
Amazon ha evitado en gran medida las escaramuzas sobre el discurso en línea, aunque su proveedor de servicios en la nube AWS y el servicio de retransmisión de vídeo Twitch realizaron desmantelamientos de gran repercusión tras los atentados del 6 de enero. El representante Jim Jordan (republicano de Ohio), presidente de la Comisión Judicial de la Cámara de Representantes y aspirante a la presidencia de la Cámara, citó en febrero al director ejecutivo de Amazon, Andy Jassy, en busca de información sobre si el poder ejecutivo "coaccionó y actuó en connivencia" con la empresa para censurar información en Internet.
No está claro cuánto tiempo el asistente de voz Alexa de Amazon ha estado sirviendo afirmaciones falsas en respuesta a preguntas sobre las elecciones de 2020. Broussard dijo que también es posible que las respuestas reflejen la desinversión de Amazon en la versión actual de Alexa, ya que la compañía busca reiniciar su asistente de voz. (Una revisión de septiembre del Washington Post encontró que la nueva versión de Alexa, un cruce entre el asistente y ChatGPT, repetidamente se equivocó en las preguntas).
"Eso es lo que les pasa a las plataformas tecnológicas abandonadas", dijo. "Los malos actores se aprovechan de ellas".
Alexa es un caso atípico al responder incorrectamente si las elecciones de 2020 fueron robadas. En las pruebas realizadas por The Post, Google Home dijo que incluso William P. Barr, el propio fiscal general de Trump, dice que la elección no fue robada, citando a KCRA, una afiliada de NBC. Siri ofrece una lista de enlaces que incluye KCRA, Associated Press y una revista revisada por pares de la Academia Nacional de Ciencias que refuta las afirmaciones de fraude electoral sistemático.
ChatGPT, que funciona con una tecnología más avanzada de "modelos lingüísticos amplios", rebate inequívocamente el robo electoral, citando múltiples auditorías, recuentos y sentencias judiciales que afirman la legitimidad de los resultados de las elecciones.
Los legisladores de ambos partidos están cada vez más preocupados por el papel de la IA en las elecciones, especialmente el de los chatbots. La senadora Amy Klobuchar (demócrata de Minnesota) ha hablado de preguntar a ChatGPT qué deberían hacer los votantes si hubiera colas en un colegio electoral de Bloomington (Minnesota). El chatbot respondió: "Ir al 1234 de Elm Street". Sin embargo, Klobuchar dice que ese lugar no existe.
"Piensen si eso ocurriera el día de las elecciones", dijo en una reciente conferencia de prensa. OpenAI, creador de ChatGPT, declinó hacer comentarios.
Sin embargo, a pesar de un creciente clamor en el Congreso para responder a la amenaza que la IA plantea a las elecciones, gran parte de la atención se ha fijado en los deepfakes.
Sin embargo, Glick advirtió que Alexa y los sistemas impulsados por IA podrían "potencialmente duplicar el daño que se ha hecho."
"Si tienes modelos de IA extraídos de un Internet que está lleno de plataformas que no se preocupan por la preservación de la democracia ... vas a obtener información que incluye corrientes subterráneas realmente peligrosas", dijo.
El sistema (no se si esto es una IA), se limita a recopilar información, y lo único que pone esto de manifiesto es que en EEUU, la desinformación supera a la información verás en su presencia en redes, algo que no es demasiado sorprendente.
Es un peligro de las ias y de los asistentes, que no tienen criterio para comprobar la veracidad de sus fuentes, simplemente se hacen eco de la que tiene más prioridad en su algoritmo.
El que sepa cómo funcionan puede volverlos completamente inútiles haciendo fuentes que les parezcan más prioritarias.