{"id":1687,"date":"2025-10-14T22:02:43","date_gmt":"2025-10-14T22:02:43","guid":{"rendered":"http:\/\/68ee9df8df58472ddb251bee"},"modified":"2025-10-14T22:02:43","modified_gmt":"2025-10-14T22:02:43","slug":"un-chatbot-que-no-alucine-es-simplemente-imposible","status":"publish","type":"post","link":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/","title":{"rendered":"Un chatbot que no “alucine” es simplemente imposible"},"content":{"rendered":"
<\/div>\n

Las alucinaciones de los chatbots<\/em> pueden reducirse, pero no pueden solucionarse con el enfoque actual de los grandes modelos de lenguaje (LLM).<\/strong> A menos que cambie la idea misma en la que se basa la versi\u00f3n actual de ChatGPT. Esta fue una de las conclusiones a las que se lleg\u00f3 en un art\u00edculo escrito por investigadores de OpenAI, liderados por Sam Altman.<\/p>\n

En un par de a\u00f1os, el concepto de “alucinaci\u00f3n” en la inteligencia artificial se ha hecho de dominio p\u00fablico. Hace ya dos a\u00f1os, muchos notaron que varios libros escritos con IA<\/a> generativa ocupaban los primeros puestos de algunas listas de ventas en Amazon. Uno, en concreto, presentaba nombres inventados entre los autores y una serie de indicaciones err\u00f3neas sobre c\u00f3mo distinguir las setas t\u00f3xicas de las comestibles. El caso, reportado por 404 Media<\/em>, proporcion\u00f3 un ejemplo de c\u00f3mo la impresi\u00f3n de recibir informaci\u00f3n correcta, cuando en realidad es solo veros\u00edmil, puede causar da\u00f1os bastante graves.<\/p>\n

Varios investigadores han demostrado que la aparici\u00f3n de alucinaciones, errores f\u00e1cticos en secuencias de palabras generadas estad\u00edsticamente por los LLM, es inevitable. Se trata de una limitaci\u00f3n estructural que no puede superarse simplemente aumentando la cantidad de datos o la capacidad de c\u00f3mputo. Lo novedoso es que, hasta hace poco, las empresas que dise\u00f1an estos productos restaban importancia al problema, mientras que ahora incluso OpenAI admite que, para resolverlo, ser\u00eda necesario cambiar la forma en que funciona su modelo.<\/p>\n

\n
\n
\"Imagen<\/picture><\/span><\/div>\n
\n
GPT-5 es m\u00e1s seguro, pero las alucinaciones de odio siguen al alcance de un prompt<\/em><\/a><\/div>\n

La nueva versi\u00f3n de ChatGPT explica por qu\u00e9 no genera resultados que infrinjan las reglas. El an\u00e1lisis inicial de WIRED revel\u00f3 que algunas barreras eran f\u00e1ciles de eludir.<\/p>\n<\/div>\n<\/div>\n

\n

\u00bfDe d\u00f3nde vienen las alucinaciones?<\/h2>\n

Seg\u00fan los investigadores de OpenAI, las alucinaciones<\/a> “se originan simplemente como errores en la clasificaci\u00f3n binaria”. Cuando el modelo no puede responder ciertas preguntas, en algunos casos porque la informaci\u00f3n no est\u00e1 disponible, y en otros por la forma en que fue entrenado, adivina. Por ejemplo, mencionan respuestas generadas sobre la tesis doctoral de uno de los firmantes de la investigaci\u00f3n, donde el chatbot<\/em> insist\u00eda en ofrecer t\u00edtulos incorrectos.<\/p>\n

En un arrebato de antropomorfismo, los investigadores comparan este comportamiento con el de un estudiante que inventa una respuesta en un examen dif\u00edcil. Sin embargo, asignar caracter\u00edsticas humanas a los sistemas inform\u00e1ticos es un enfoque peligroso, ya que puede alejarnos de una comprensi\u00f3n precisa de los procesos que determinan su funcionamiento. En este caso, no obstante, la analog\u00eda ayuda a ilustrarlo, ya que entre los criterios de evaluaci\u00f3n de estas tecnolog\u00edas se encuentran pruebas que entrenan a las m\u00e1quinas para obtener la m\u00e1xima puntuaci\u00f3n. Estas limitaciones no se aplican solo a ChatGPT, sino tambi\u00e9n a los modelos<\/a> m\u00e1s populares. Los investigadores analizaron diez de ellos.<\/p>\n

\n
\n
\"OpenAI<\/picture><\/span><\/div>\n
\n
OpenAI y Samsung se unen para reforzar el Proyecto Stargate<\/a><\/div>\n

Donald Trump anunci\u00f3 a inicios de este a\u00f1o el Proyecto Stargate, con la meta de establecer \u201cla mayor infraestructura de inteligencia artificial de la historia\u201d. OpenAI lidera esta iniciativa, a la cual se han sumado empresas surcoreanas.<\/p>\n<\/div>\n<\/div>\n

\n

Qu\u00e9 soluci\u00f3n plantea OpenAI<\/h2>\n

Para remediar el problema, los investigadores proponen un enfoque diferente: penalizar m\u00e1s las respuestas incorrectas dadas con confianza que las no respuestas, o mejor dicho, aquellas que admiten no saber. Para ello, ser\u00eda necesario revisar los modelos actuales de evaluaci\u00f3n del rendimiento. Actualmente, los LLM se entrenan para predecir la siguiente palabra en una secuencia dada o en una frase en lenguaje natural.<\/p>\n

La conclusi\u00f3n de los investigadores es clara: ning\u00fan modelo alcanzar\u00e1 jam\u00e1s el 100% de fiabilidad, porque algunas preguntas, especialmente las relacionadas con el mundo real, no tienen respuestas seguras ni calculables<\/strong>, ni siquiera con todos los datos posibles a disposici\u00f3n. Pero si la respuesta a una pregunta dada no es calculable, y los distintos LLM dejan de intentar “adivinarla” sobre una base estad\u00edstica, \u00bfqu\u00e9 pasar\u00e1 con la experiencia del usuario?<\/p>\n

Como escribe Wei Xing, profesor adjunto de la Facultad de Ciencias Matem\u00e1ticas y F\u00edsicas de la Universidad de Sheffield, en The Conversation<\/em>, la soluci\u00f3n propuesta por OpenAI podr\u00eda significar literalmente el fin de ChatGPT. Imagina recibir constantemente respuestas ambiguas o admisiones de ignorancia del chatbot<\/em> al que consultas precisamente para obtener respuestas. En su art\u00edculo, explica que no ser\u00eda dif\u00edcil reducir las alucinaciones utilizando los conocimientos del estudio. Desde hace d\u00e9cadas existen m\u00e9todos establecidos para cuantificar la incertidumbre. Podr\u00edan usarse para proporcionar estimaciones fiables de la incertidumbre y guiar a una IA a tomar decisiones m\u00e1s inteligentes.<\/p>\n","protected":false},"excerpt":{"rendered":"

Las alucinaciones de los chatbots pueden reducirse, pero no pueden solucionarse con el enfoque actual de los grandes modelos de lenguaje (LLM). A menos que cambie la idea misma en la que se basa la versi\u00f3n actual de ChatGPT. Esta fue una de las conclusiones a las que se lleg\u00f3 en un art\u00edculo escrito por […]<\/p>\n","protected":false},"author":2,"featured_media":1688,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1687","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technology"],"yoast_head":"\nUn chatbot que no "alucine" es simplemente imposible - TecnoArtesanos Tech Blog<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/\" \/>\n<meta property=\"og:locale\" content=\"en_US\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Un chatbot que no "alucine" es simplemente imposible - TecnoArtesanos Tech Blog\" \/>\n<meta property=\"og:description\" content=\"Las alucinaciones de los chatbots pueden reducirse, pero no pueden solucionarse con el enfoque actual de los grandes modelos de lenguaje (LLM). A menos que cambie la idea misma en la que se basa la versi\u00f3n actual de ChatGPT. Esta fue una de las conclusiones a las que se lleg\u00f3 en un art\u00edculo escrito por […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/\" \/>\n<meta property=\"og:site_name\" content=\"TecnoArtesanos Tech Blog\" \/>\n<meta property=\"article:published_time\" content=\"2025-10-14T22:02:43+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/media.es.wired.com\/photos\/68ee9df70118091c61cd4674\/master\/pass\/1400649389\" \/>\n<meta name=\"author\" content=\"Sergio Morales\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sergio Morales\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"4 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/\",\"url\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/\",\"name\":\"Un chatbot que no \\\"alucine\\\" es simplemente imposible - TecnoArtesanos Tech Blog\",\"isPartOf\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/10\/un-chatbot-que-no-alucine-es-simplemente-imposible.jpg\",\"datePublished\":\"2025-10-14T22:02:43+00:00\",\"author\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/ec88bc1410fd158963717c4216f04807\"},\"breadcrumb\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#breadcrumb\"},\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#primaryimage\",\"url\":\"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/10\/un-chatbot-que-no-alucine-es-simplemente-imposible.jpg\",\"contentUrl\":\"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/10\/un-chatbot-que-no-alucine-es-simplemente-imposible.jpg\",\"width\":775,\"height\":775},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/blog.tecnoartesanos.com\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Un chatbot que no “alucine” es simplemente imposible\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#website\",\"url\":\"https:\/\/blog.tecnoartesanos.com\/\",\"name\":\"TecnoArtesanos Tech Blog\",\"description\":\"\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/blog.tecnoartesanos.com\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-US\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/ec88bc1410fd158963717c4216f04807\",\"name\":\"Sergio Morales\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/3d45178fc8fbbe32d39278bc504fa9093f947f406ff4f1ddcfa27505ab772184?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/3d45178fc8fbbe32d39278bc504fa9093f947f406ff4f1ddcfa27505ab772184?s=96&d=mm&r=g\",\"caption\":\"Sergio Morales\"},\"sameAs\":[\"https:\/\/sergiomorales.space\"],\"url\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/author\/sergiomorales\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Un chatbot que no \"alucine\" es simplemente imposible - TecnoArtesanos Tech Blog","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/","og_locale":"en_US","og_type":"article","og_title":"Un chatbot que no \"alucine\" es simplemente imposible - TecnoArtesanos Tech Blog","og_description":"Las alucinaciones de los chatbots pueden reducirse, pero no pueden solucionarse con el enfoque actual de los grandes modelos de lenguaje (LLM). A menos que cambie la idea misma en la que se basa la versi\u00f3n actual de ChatGPT. Esta fue una de las conclusiones a las que se lleg\u00f3 en un art\u00edculo escrito por […]","og_url":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/","og_site_name":"TecnoArtesanos Tech Blog","article_published_time":"2025-10-14T22:02:43+00:00","og_image":[{"url":"https:\/\/media.es.wired.com\/photos\/68ee9df70118091c61cd4674\/master\/pass\/1400649389","type":"","width":"","height":""}],"author":"Sergio Morales","twitter_card":"summary_large_image","twitter_misc":{"Written by":"Sergio Morales","Est. reading time":"4 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/","url":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/","name":"Un chatbot que no \"alucine\" es simplemente imposible - TecnoArtesanos Tech Blog","isPartOf":{"@id":"https:\/\/blog.tecnoartesanos.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#primaryimage"},"image":{"@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#primaryimage"},"thumbnailUrl":"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/10\/un-chatbot-que-no-alucine-es-simplemente-imposible.jpg","datePublished":"2025-10-14T22:02:43+00:00","author":{"@id":"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/ec88bc1410fd158963717c4216f04807"},"breadcrumb":{"@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#breadcrumb"},"inLanguage":"en-US","potentialAction":[{"@type":"ReadAction","target":["https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/"]}]},{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#primaryimage","url":"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/10\/un-chatbot-que-no-alucine-es-simplemente-imposible.jpg","contentUrl":"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/10\/un-chatbot-que-no-alucine-es-simplemente-imposible.jpg","width":775,"height":775},{"@type":"BreadcrumbList","@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/10\/14\/un-chatbot-que-no-alucine-es-simplemente-imposible\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/blog.tecnoartesanos.com\/"},{"@type":"ListItem","position":2,"name":"Un chatbot que no “alucine” es simplemente imposible"}]},{"@type":"WebSite","@id":"https:\/\/blog.tecnoartesanos.com\/#website","url":"https:\/\/blog.tecnoartesanos.com\/","name":"TecnoArtesanos Tech Blog","description":"","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/blog.tecnoartesanos.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-US"},{"@type":"Person","@id":"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/ec88bc1410fd158963717c4216f04807","name":"Sergio Morales","image":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/3d45178fc8fbbe32d39278bc504fa9093f947f406ff4f1ddcfa27505ab772184?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/3d45178fc8fbbe32d39278bc504fa9093f947f406ff4f1ddcfa27505ab772184?s=96&d=mm&r=g","caption":"Sergio Morales"},"sameAs":["https:\/\/sergiomorales.space"],"url":"https:\/\/blog.tecnoartesanos.com\/index.php\/author\/sergiomorales\/"}]}},"_links":{"self":[{"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/posts\/1687","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/comments?post=1687"}],"version-history":[{"count":0,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/posts\/1687\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/media\/1688"}],"wp:attachment":[{"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/media?parent=1687"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/categories?post=1687"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/tags?post=1687"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}