<?xml version="1.0" encoding="UTF-8"?>
<rss version="2.0" 
     xmlns:content="http://purl.org/rss/1.0/modules/content/"
     xmlns:wfw="http://wellformedweb.org/CommentAPI/"
     xmlns:dc="http://purl.org/dc/elements/1.1/"
     xmlns:meneame="http://meneame.net/faq-es.php"
 >
<channel>
	<title>Menéame: comentarios [4216829]</title>
	<link>http://www.meneame.net</link>
	<image><title>www.meneame.net</title><link>http://www.meneame.net</link><url>http://cdn.mnmstatic.net/m/emnm/img/mnm/eli-rss.png</url></image>
	<description>Sitio colaborativo de publicación y comunicación entre blogs</description>
	<pubDate>Tue, 15 Sep 2026 17:33:59 +0000</pubDate>
	<generator>http://blog.meneame.net/</generator>
	<language>es</language>
	<item>
		<meneame:comment_id>45421124</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>13</meneame:order>
		<meneame:user>tommyx</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>11</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#13 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c013#c-13</link>
		<pubDate>Tue, 15 Sep 2026 17:33:59 +0000</pubDate>
		<dc:creator>tommyx</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c013#c-13</guid>
		<description><![CDATA[<p>básicamente no les salen los números económico</p><p>&#187;&nbsp;autor: <strong>tommyx</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45418012</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>12</meneame:order>
		<meneame:user>ewok</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>13</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#12 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c012#c-12</link>
		<pubDate>Tue, 15 Sep 2026 08:21:03 +0000</pubDate>
		<dc:creator>ewok</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c012#c-12</guid>
		<description><![CDATA[<p><a class="tooltip c:4216829-11" href="https://www.meneame.net/m/emnm/contagio-del-miedo/c011#c-11" rel="nofollow">#11</a> No se puede despachar a quienes alertan del riesgo como “propagandistas” o decir que “parece mentira” sin entrar en sus argumentos. Y mucho menos porque tal persona &#34;sabe más de IA&#34; (sin ser cierto, además).<br />
<br />
Por ejemplo, Geoff Hinton (como dije, uno de los <i>padres de la IA</i> ) dejó Google para poder hablar con más libertad sobre estos riesgos y lleva años alertando sobre pérdida de control y desalineamiento. Estaba muy bien pagado en Google, por cierto.<br />
<br />
Vídeo breve y directo:  <a href="https://www.youtube.com/watch?v=AUGHMx7iAxk" title="www.youtube.com/watch?v=AUGHMx7iAxk" rel="nofollow">www.youtube.com/watch?v=AUGHMx7iAxk</a><br />
Más extenso: <a href="https://www.meneame.net/m/tecnología/entrevista-geoff-hinton-padrino-ia-he-creado-monstruo-eng" title="www.meneame.net/m/tecnología/entrevista-geoff-hinton-padrino-ia-he-creado-monstruo-eng" rel="nofollow">www.meneame.net/m/tecnología/entrevista-geoff-hinton-padrino-ia-he-cr</a><br />
<br />
* Si aplicamos el propio criterio de Cantrill de escuchar a los expertos del área, habrá que escucharlos a ellos.</p><p>&#187;&nbsp;autor: <strong>ewok</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417955</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>11</meneame:order>
		<meneame:user>hatagon</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>6</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#11 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c011#c-11</link>
		<pubDate>Tue, 15 Sep 2026 08:11:33 +0000</pubDate>
		<dc:creator>hatagon</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c011#c-11</guid>
		<description><![CDATA[<p><a class="tooltip c:4216829-6" href="https://www.meneame.net/m/emnm/contagio-del-miedo/c06#c-6" rel="nofollow">#6</a> La falacia de autoridad no impide que lo que dice un tio deba tener sentido. En este tema, nada de lo que dicen los propagandistas tiene ni el más mínimo sentido. El que sean muy sabios no impide que estén pagados.<br />
<br />
Respecto de &#34;sabrán más que tú&#34;, no lo admito. Si lo saben, no lo explican. Es indistinguible de una mentira y tiene mucha pinta de mentira.</p><p>&#187;&nbsp;autor: <strong>hatagon</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417921</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>10</meneame:order>
		<meneame:user>hatagon</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>6</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#10 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c010#c-10</link>
		<pubDate>Tue, 15 Sep 2026 08:03:53 +0000</pubDate>
		<dc:creator>hatagon</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c010#c-10</guid>
		<description><![CDATA[<p>La IA no nos va a matar a todos. No tiene ni sentido. No sólo no tiene por qué hacerlo, sino que no tiene ninguna forma de hacerlo. <br />
<br />
Esto de &#34;vamos a morir todos&#34; es una campaña de propaganda bastante absurda. Están pagando a mucha gente para que vaya repitiendo la tontería.</p><p>&#187;&nbsp;autor: <strong>hatagon</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417819</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>9</meneame:order>
		<meneame:user>ewok</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>13</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#9 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c09#c-9</link>
		<pubDate>Tue, 15 Sep 2026 07:45:10 +0000</pubDate>
		<dc:creator>ewok</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c09#c-9</guid>
		<description><![CDATA[<p><a class="tooltip c:4216829-8" href="https://www.meneame.net/m/emnm/contagio-del-miedo/c08#c-8" rel="nofollow">#8</a> Vende infraestructura para IA, no investigación de alineación.<br />
<br />
Que sepa mucho sobre el OS o la plataforma donde corre un modelo no implica que sepa más sobre comportamientos engañosos o cómo podría cambiar el sistema de recompensa.<br />
 <br />
Quien diseña un servidor para secuenciación genética no sabe &#34;más de genética&#34; que quienes investigan genómica.</p><p>&#187;&nbsp;autor: <strong>ewok</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417754</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>8</meneame:order>
		<meneame:user>Torrezzno</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>18</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#8 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c08#c-8</link>
		<pubDate>Tue, 15 Sep 2026 07:34:04 +0000</pubDate>
		<dc:creator>Torrezzno</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c08#c-8</guid>
		<description><![CDATA[<p><a class="tooltip c:4216829-6" href="https://www.meneame.net/m/emnm/contagio-del-miedo/c06#c-6" rel="nofollow">#6</a> si lo has investigado sabrás que su empresa de Cloud computing se usa entre otras cosas para Fine tuning e inferencia</p><p>&#187;&nbsp;autor: <strong>Torrezzno</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417736</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>7</meneame:order>
		<meneame:user>ed25519</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>9</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#7 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c07#c-7</link>
		<pubDate>Tue, 15 Sep 2026 07:30:00 +0000</pubDate>
		<dc:creator>ed25519</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c07#c-7</guid>
		<description><![CDATA[<p>Buen meneo, gracias por compartir <a class='tooltip u:Torrezzno' href='/user/Torrezzno'>@Torrezzno</a></p><p>&#187;&nbsp;autor: <strong>ed25519</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417640</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>6</meneame:order>
		<meneame:user>ewok</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>13</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#6 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c06#c-6</link>
		<pubDate>Tue, 15 Sep 2026 07:15:11 +0000</pubDate>
		<dc:creator>ewok</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c06#c-6</guid>
		<description><![CDATA[<p><a class="tooltip c:4216829-2" href="https://www.meneame.net/m/emnm/contagio-del-miedo/c02#c-2" rel="nofollow">#2</a> ¿Falacia de autoridad? <br />
<br />
El propio Cantrill describe su trayectoria como centrada en la interfaz entre <i>hardware</i> y<i> software</i>, sistemas operativos y construcción de ordenadores.  <br />
<br />
Por otro lado:<br />
<br />
* Amodei ha dedicado años al desarrollo de modelos y a su seguridad, no creo que sepa &#34;menos de IA&#34; que Cantrill.<br />
<br />
* Coxon ha trabajado directamente en el entrenamiento de modelos en OpenAI y Anthropic, tampoco creo que &#34;sepa menos&#34;.<br />
<br />
* Evan Hubinger (quien habló de las posibilidades de &#62;10% de desastre, tal como vamos) es responsable de las pruebas de estrés en Anthropic; trabaja en comportamiento desalineado, sabotaje, auditoría y evaluación de modelos.<br />
<br />
* Jan Leike trabajó en DeepMind, OpenAI y ahora lidera Alignment Science en Anthropic. Ídem.<br />
<br />
* Ilya Sutskever, clave en <i>deep learning</i>, codirigió el Superalignment de OpenAI junto con Leike.<br />
<br />
* Geoff Hinton: uno de los &#34;padres de la IA&#34;, experto en cómo aprenden y escalan las redes neuronales y por qué podrían adquirir capacidades peligrosas, ha dicho que estamos criando un cachorro de tigre... pero los tigres crecen.<br />
<br />
Para responder si puede aparecer un comportamiento engañoso en un modelo, cómo se audita una IA más capaz que el evaluador, si un modelo puede ocultar objetivos o &#34;trucar&#34; las recompensas, si funcionará la alineación al escalar capacidades, etc., los susodichos seguramente &#34;saben más&#34;.<br />
<br />
¿No es Cantrill quien nos pide que confiemos en los expertos en la materia? Si aplicamos sus criterios, al hablar de alineación no son los ingenieros de sistemas sino los investigadores de la alineación.<br />
<br />
<a class="tooltip c:4216829-3" href="https://www.meneame.net/m/emnm/contagio-del-miedo/c03#c-3" rel="nofollow">#3</a>, <a class="tooltip c:4216829-4" href="https://www.meneame.net/m/emnm/contagio-del-miedo/c04#c-4" rel="nofollow">#4</a>, <a class="tooltip c:4216829-5" href="https://www.meneame.net/m/emnm/contagio-del-miedo/c05#c-5" rel="nofollow">#5</a><br />
<br />
Relacionada: <a href="https://www.meneame.net/m/tecnología/mayor-problema-ia-nadie-puede-resolver" title="www.meneame.net/m/tecnología/mayor-problema-ia-nadie-puede-resolver" rel="nofollow">www.meneame.net/m/tecnología/mayor-problema-ia-nadie-puede-resolver</a></p><p>&#187;&nbsp;autor: <strong>ewok</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417456</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>5</meneame:order>
		<meneame:user>sleep_timer</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>13</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#5 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c05#c-5</link>
		<pubDate>Tue, 15 Sep 2026 06:36:20 +0000</pubDate>
		<dc:creator>sleep_timer</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c05#c-5</guid>
		<description><![CDATA[<p>Una cosa es que entre los periolistos y los desgobiernos nos quieran meter miedo, y otra es que a mi me de miedo.<br />
En mi miedo mando yo.</p><p>&#187;&nbsp;autor: <strong>sleep_timer</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417388</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>4</meneame:order>
		<meneame:user>DenisseJoel</meneame:user>
		<meneame:votes>1</meneame:votes>
		<meneame:karma>31</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#4 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c04#c-4</link>
		<pubDate>Tue, 15 Sep 2026 06:19:31 +0000</pubDate>
		<dc:creator>DenisseJoel</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c04#c-4</guid>
		<description><![CDATA[<p><a class="tooltip c:4216829-3" href="https://www.meneame.net/m/emnm/contagio-del-miedo/c03#c-3" rel="nofollow">#3</a> Exacto, la IA es como los drones asesinos autónomos con selección automática de objetivos: sus consecuencias dependen completamente de quién los usa. Son una tecnología 100% neutral, como todas.</p><p>&#187;&nbsp;autor: <strong>DenisseJoel</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417336</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>3</meneame:order>
		<meneame:user>--758767--</meneame:user>
		<meneame:votes>0</meneame:votes>
		<meneame:karma>20</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#3 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c03#c-3</link>
		<pubDate>Tue, 15 Sep 2026 06:07:51 +0000</pubDate>
		<dc:creator>--758767--</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c03#c-3</guid>
		<description><![CDATA[<p>El otro día salió el tema y yo comenté que no tenía suficiente conocimiento para pensar que la IA iba a acabar con el mundo o no. Y le pedí precisamente a la IA un resumen de por qué se pensaba eso .... y lo único que me parecio un poco peligroso era que la IA podía tomar atajos para conseguir cumplir lo que se le pedía que podía no ser recomendables.<br />
<br />
Al final, mientras no llegue la AGI que ya veremos si llega la IA sigue siendo una herramienta al servicio de una persona y el peligro lo va a tener esa persona, no la IA.<br />
<br />
Así que yo me quedaría muy tranquilo respecto a eso. Si dentro de unos años (o meses) vemos a IAs atacando sites, servidores, creando bots, etc .... no es cosa de la IA sino de gente que hay detrás.<br />
<br />
La IA es una herramienta, muy poderosa, pero dependiente de quien la usa. Le das un martillo y un cincel a Miguel Angel y te saca un Moisés, me lo de das a mí y saco gravilla.</p><p>&#187;&nbsp;autor: <strong>--758767--</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417293</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>2</meneame:order>
		<meneame:user>Torrezzno</meneame:user>
		<meneame:votes>1</meneame:votes>
		<meneame:karma>30</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#2 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c02#c-2</link>
		<pubDate>Tue, 15 Sep 2026 05:59:54 +0000</pubDate>
		<dc:creator>Torrezzno</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c02#c-2</guid>
		<description><![CDATA[<p>Quedaos con esta parte:<br />
<br />
&#34;Podría haberme llevado (¿y tal vez lo habría hecho?) todo este vergonzoso incidente a la tumba, pero me siento en la obligación de confesarlo ahora, porque nunca he visto sembrar el miedo de forma tan irresponsable por parte de supuestos tecnólogos como lo veo ahora con respecto a la IA y la amenaza de la extinción humana (!).&#34;<br />
<br />
Y viene de un tipo que probablemente sepa mas de IA que Amodei, Altman y Musk</p><p>&#187;&nbsp;autor: <strong>Torrezzno</strong></p>]]></description>
	</item>

	<item>
		<meneame:comment_id>45417281</meneame:comment_id>
		<meneame:link_id>4216829</meneame:link_id>
		<meneame:order>1</meneame:order>
		<meneame:user>Torrezzno</meneame:user>
		<meneame:votes>3</meneame:votes>
		<meneame:karma>42</meneame:karma>
		<meneame:url>https://www.meneame.net/m/emnm/contagio-del-miedo</meneame:url>
		<title>#1 El contagio del miedo [EN]</title>
		<link>https://www.meneame.net/m/emnm/contagio-del-miedo/c01#c-1</link>
		<pubDate>Tue, 15 Sep 2026 05:57:09 +0000</pubDate>
		<dc:creator>Torrezzno</dc:creator>
		<guid>https://www.meneame.net/m/emnm/contagio-del-miedo/c01#c-1</guid>
		<description><![CDATA[<p>El contagio del miedo<br />
13 de septiembre de 2026<br />
Tengo que hacer una confesión difícil: un incidente vergonzoso del que nunca he hablado, ni siquiera con mis seres más queridos.<br />
<br />
Una noche a altas horas, durante mi primer año de universidad y habiendo descubierto que la informática era la vocación de mi vida, estaba en la parte de atrás del gran laboratorio de informática, hablando con algunos compañeros de los primeros cursos. Estábamos criticando con desdén la falta de conocimientos tecnológicos de la población en general, con el tipo de arrogancia y soberbia que solo la juventud y la precocidad pueden invocar. En algún momento de esta discusión, se gestó una idea terrible: ¿y si íbamos al laboratorio de informática general de al lado y les decíamos a los estudiantes de humanidades que un virus informático se estaba propagando por sus ordenadores? ¿Se lo creerían?<br />
<br />
Para mi eterno arrepentimiento, nos dejamos llevar por ese horrible impulso: fuimos al laboratorio de al lado, repleto de estudiantes trabajando en sus trabajos trimestrales, y, con una alarma fingida en nuestras voces, anunciamos en voz alta que un virus se había escapado del laboratorio de informática y que todos debían expulsar sus disquetes para evitar su propagación.<br />
<br />
Lo que ocurrió después fue un caos: el equivalente tecnológico a gritar &#34;fuego&#34; en un teatro abarrotado. La gente entró en pánico: no solo expulsaron los disquetes, sino que apagaron los ordenadores; arrancaron los cables de las máquinas que ya estaban apagadas; gritaron; salieron corriendo de la sala. Inmediatamente nos dimos cuenta de que habíamos hecho algo horrible, pero descubrimos que no podíamos contener el incendio que habíamos provocado. Intentamos explicar que era &#34;una broma&#34;; algunos (¡con razón!) respondieron con furia indignada (¡¿qué nos pasaba para hacer semejante cosa?!), mientras que otros simplemente no nos creyeron: una vez que el miedo había echado raíces, no podíamos erradicarlo.<br />
<br />
Las secuelas son borrosas, pero fue grave. Era la semana previa a los exámenes finales, y la gente que había apagado sus ordenadores había perdido su trabajo. Estaban furiosos y nosotros estábamos metidos en un lío tremendo.<br />
<br />
A la mañana siguiente, nos encontramos en el despacho del director de instalaciones (una presencia famosa por ser imponente), que nos echó una severa reprimenda mientras nos mirábamos los pies. Nos hizo escribir a cada uno cartas de disculpa (algo fácil de hacer, ya que mi vergüenza era sincera), diciéndonos que le diéramos dos copias: una para enviarla a aquellos a los que habíamos perjudicado, y la otra para guardarla en su cajón. Nos dijo en términos inequívocos que si alguna vez volvíamos a vernos envueltos en algo parecido a esto, tendríamos que buscar otra universidad en la que estudiar, y le aseguramos que habíamos aprendido la lección. (Cuando me gradué cuatro años después, se aseguró de devolverme la carta, y sigo agradecido por la seriedad y empatía con la que manejó todo el asunto).<br />
<br />
Podría haberme llevado (¿y tal vez lo habría hecho?) todo este vergonzoso incidente a la tumba, pero me siento en la obligación de confesarlo ahora, porque nunca he visto sembrar el miedo de forma tan irresponsable por parte de supuestos tecnólogos como lo veo ahora con respecto a la IA y la amenaza de la extinción humana (!). Sorprendentemente, no es una hipérbole: esta semana, el exempleado de Anthropic Jacob Coxon afirmó —y luego el líder de Ciencia de Alineación de Anthropic, Evan Hubinger, estuvo de acuerdo— que la probabilidad de que la IA &#34;mate a todos los humanos&#34; es &#34;&#62;10% en la próxima década&#34; (!!).<br />
<br />
Es decir, la afirmación no es simplemente que la IA podría matar a miles, millones o incluso miles de millones de humanos (¡afirmaciones que de por sí serían extraordinarias!), sino que hay más de un diez por ciento de probabilidades de que la IA mate a todos los humanos. Es decir, si tienes un recién nacido, su afirmación es que hay más de un diez por ciento de probabilidades de que tu hijo perezca de alguna manera a manos de la IA antes de entrar en el instituto.<br />
<br />
Estas macabras afirmaciones atacan descaradamente el corazón del hogar y, dada la evidente importancia de la IA, no es de extrañar que hayan saltado a la opinión pública, con la gente haciéndose la pregunta natural: ¿cómo ocurriría eso? Las respuestas siempre se basan en extrapolaciones vagas hacia el futuro; por ejemplo, Jacob Coxon cita &#34;el hackeo de infraestructuras críticas&#34; y &#34;armas biológicas a nivel de extinción&#34; sin dar más detalles. Pero Coxon no es un experto en infraestructuras críticas, ni en armas biológicas, ni, ya puestos, en extinción.<br />
<br />
En lo que Coxon, de 27 años, sí es experto —aunque sea por accidente— es en el contagio del miedo. No podemos esperar que el público entienda el funcionamiento interno de toda la tecnología (¡esa fue la falacia de mi yo de 18 años!): la tecnología es demasiado amplia, demasiado profunda y demasiado fundamental para todas nuestras vidas como para esperar que todo el mundo entienda todo; debemos, a cierto nivel, confiar en los expertos en la materia. Cuando esos expertos siembran el miedo, es el miedo el que echa raíces, propagándose mucho más fácilmente que cualquier prueba que pueda seguirle. (Como bromeó célebremente Jonathan Swift hace más de tres siglos: &#34;La falsedad vuela, y la verdad viene cojeando tras ella&#34;). En este sentido, Coxon es más un vector que el paciente cero: es indiscutible que los temores al riesgo de extinción están muy extendidos y es probable que el propio Coxon tenga estos temores porque se los ha escuchado a otra persona. Desgraciadamente, a medida que el miedo se afianza, el mero número de expertos asustados se convierte en su propio tipo de prueba, y las voces contrarias quedan ahogadas por el estruendo de un aparente consenso.<br />
<br />
Con pleno conocimiento de que el miedo se está arraigando, me gustaría, no obstante, ofrecer una refutación, aunque sea desde mi propio (y estrecho) campo de especialización: la construcción de ordenadores. Como reflexioné en mi charla del Monktoberfest de 2023, &#34;La inteligencia no es suficiente&#34;, los actos de ingeniería no son solo actos de inteligencia. Requieren no solo los aspectos humanos de nuestro carácter, sino también nuestra acción en (y razonamiento sobre) el mundo físico. A los que se mantienen firmes en su miedo les gusta pasar por alto estos detalles (&#34;¡los robots harán esto!&#34;), pero hacerlo es ignorar la realidad física de que los robots no pueden hacer esto hoy en día, y no parece que vayan a hacerlo en un horizonte temporal coherente con estos temores de extinción.<br />
<br />
En términos más generales, en la medida en que los sistemas digitales tienen agencia en el mundo físico, es una agencia que nosotros —nosotros, los humanos con brazos y piernas y cerebros y padres e hijos— permitimos: la IA se ejecuta en sistemas físicos que han sido diseñados con responsabilidad y control humanos. ¡La inteligencia no exime a un sistema de las realidades del mundo físico!<br />
<br />
Para aquellos que, como Coxon, están atrapados por un miedo inquebrantable, esto será de poco consuelo. Pero para aquellos que escuchan estos temores por primera vez: sabed que vuestra incredulidad está justificada. Deberíamos prestar atención a la sabiduría del difunto Carl Sagan de que las afirmaciones extraordinarias requieren pruebas extraordinarias: las afirmaciones de Coxon y los de su calaña son las más extraordinarias que puede hacer un tecnólogo, y debemos exigir pruebas acordes con las afirmaciones.<br />
<br />
Dicho esto, no deberíamos esperar que el público entienda los LLM, las infraestructuras críticas, las armas biológicas, la biología de la extinción, etc.; esa carga debe recaer en quienes hacen la afirmación. La lección que aprendí (vergonzosamente) hace décadas es que los expertos en la materia, por su experiencia, tienen implícitamente la confianza del público, y no debemos abusar de ella. Nos incumbe ser prudentes en nuestras afirmaciones, y al máximo cuando damos la voz de alarma.<br />
<br />
Así que, a los que estaban en aquel laboratorio a altas horas de la noche hace más de tres décadas, lo siento: no teníais nada que temer entonces, y (¡al menos con respecto al riesgo de extinción!) no tenéis nada que temer ahora.</p><p>&#187;&nbsp;autor: <strong>Torrezzno</strong></p>]]></description>
	</item>

</channel>
</rss>
