Cuando la IA puede imitar cadenas de palabras humanas mediante "computación sin sentido", ¿qué dice eso sobre las cadenas de palabras humanas?. Los mejores modelos de lenguaje generativo como ChatGPT-4 aún nos sorprenden con lo que pueden y no pueden hacer. Y eso es por una razón aparentemente simple: una IA todavía no "entiende" lo que está haciendo. Ni siquiera puede “saber” lo que queremos de él; solo desciende a cualquier función de recompensa que se le dé.
Comentarios
Resumen al final:
"Que toda esta historia también sea solo una creación de mi propio modelo estadístico no es una contradicción; es exactamente el punto.
Como reflexión final, y apoyándose en un ensayo futuro, se debe enfatizar que nada de esto pretende ser un infierno posmodernista de “la realidad es relativa” o “cualquier verdad es tan buena como otra”. No, ni siquiera cerca. De hecho, argumentaré en dicho ensayo posterior justamente lo contrario. Mientras tanto, no creo que la jaula de una persona racional deba sacudirse por la vista aquí. Abandonar nuestras fantasías metafísicas ciertamente no es una razón para levantar las manos y entrar en pánico. La vida no se desmorona sin una "realidad" metafísica mágica, como tampoco se desmorona sin los dioses del cielo o la ilusión del libre albedrío.
El biólogo Richard Dawkins dijo una vez que los ateos "van un dios más allá" al rechazar el pensamiento mágico de la religión. Si los mismos ateos tienen el coraje de sus convicciones, creo que también pueden ir un dios epistemológico más allá y rechazar el pensamiento mágico de la “realidad” trascendente. Dentro de la maravillosa y hermosa cosmovisión científica que nuestros cerebros humanos son capaces de diseñar, podemos estar seguros de esto: la evolución se aseguró de que nuestras historias científicas sean generalmente estables y útiles. Y nos dio las herramientas para mejorarlos constantemente.
Y si hay algo en lo que la civilización humana necesita mejorar con urgencia, son las historias que contamos. Creo que abandonar las fantasías metafísicas vacías sobre la verdad y la realidad es al menos un pequeño paso en ese camino."