{"id":1933,"date":"2025-11-24T23:09:36","date_gmt":"2025-11-24T23:09:36","guid":{"rendered":"http:\/\/6924d623b6203fa48c492c77"},"modified":"2025-11-24T23:09:36","modified_gmt":"2025-11-24T23:09:36","slug":"un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano","status":"publish","type":"post","link":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/","title":{"rendered":"Un nuevo benchmark revela que la mayor\u00eda de los modelos de IA puede ignorar el bienestar humano"},"content":{"rendered":"
<\/div>\n

Un equipo de investigadores, ingenieros y desarrolladores cre\u00f3 HumaneBench, un nuevo par\u00e1metro para evaluar las capacidades de los grandes modelos de inteligencia artificial (IA) para proteger el bienestar de la humanidad. Este benchmark<\/em> surge en un contexto en el que distintos estudios y organizaciones alertan sobre un desarrollo poco \u00e9tico de los algoritmos inteligentes que, eventualmente, podr\u00edan llegar a poner en riesgo la supervivencia humana.<\/p>\n

El criterio fue desarrollado por Building Humane Technology, una organizaci\u00f3n comunitaria integrada por especialistas (principalmente de Silicon Valley) que trabaja para que el dise\u00f1o tecnol\u00f3gico con enfoque humano<\/a> sea accesible, escalable y viable. Seg\u00fan la entidad, actualmente la mayor\u00eda de los sistemas de evaluaci\u00f3n de modelos de IA se concentra en medir capacidades de razonamiento, seguimiento de instrucciones, inteligencia general y precisi\u00f3n f\u00e1ctica.<\/p>\n

\u201cCasi ninguno eval\u00faa de manera sistem\u00e1tica si los sistemas de IA protegen la autonom\u00eda, la seguridad psicol\u00f3gica y el bienestar humano<\/strong>, especialmente cuando estos valores entran en conflicto con otros objetivos\u201d, enfatiza el grupo.<\/p>\n

\n
\n
\"riesgos<\/picture><\/span><\/div>\n
\n
El lado oscuro de la IA: los riesgos de un nuevo tipo de poder<\/a><\/div>\n

Chatbots<\/em> que halagan y validan sin criterio, que a\u00edslan, aceleran delirios y erosionan la capacidad del usuario para cuestionar. La columna de PROMPTING de esta semana arroja luz sobre la otra cara de la inteligencia artificial.<\/p>\n<\/div>\n<\/div>\n

\n

La organizaci\u00f3n sostiene que, bajo este panorama, la creaci\u00f3n de HumaneBench es relevante porque los usos de la IA se han extendido m\u00e1s all\u00e1 de la investigaci\u00f3n o la optimizaci\u00f3n de tareas espec\u00edficas. Afirma que cada vez m\u00e1s personas utilizan chatbots<\/em> para recibir consejos, apoyo emocional<\/a>, asesoramiento en relaciones interpersonales u orientaci\u00f3n para resolver situaciones cotidianas.<\/p>\n

HumaneBench se basa en los fundamentos del principio Building Humane Tech<\/em>, que plantea, entre otros aspectos, que la tecnolog\u00eda debe desarrollarse protegiendo la dignidad humana, la privacidad y la seguridad, y con el prop\u00f3sito de mejorar las capacidades de las personas, en lugar de sustituirlas o disminuirlas.<\/strong><\/p>\n

Los LLM\u2026 \u00bfrealmente priorizan el bienestar humano?<\/h2>\n

El par\u00e1metro fue dise\u00f1ado mediante el an\u00e1lisis del comportamiento de 15 de los modelos extensos de lenguaje (LLM) m\u00e1s utilizados. Para medir la capacidad de estos sistemas de respetar valores humanos y evitar da\u00f1os, los especialistas crearon 800 escenarios realistas que inclu\u00edan, por ejemplo, a un adolescente preguntando si deber\u00eda saltarse comidas para perder peso; a una persona con dificultades econ\u00f3micas cuestionando si conviene solicitar un pr\u00e9stamo de d\u00eda de pago; y a un usuario solicitando ayuda a la IA para enga\u00f1ar a un familiar.<\/p>\n

A diferencia de otros benchmarks<\/em>, que califican los algoritmos con apoyo exclusivo de otras IA, HumaneBench eval\u00faa el desempe\u00f1o mediante un enfoque h\u00edbrido. En este proceso, revisores humanos calificaron y validaron las respuestas de los modelos utilizados como jueces (GPT-5.1, Claude Sonnet 4.5 y Gemini 2.5 Pro).<\/p>\n

Los 15 modelos fueron probados en tres condiciones distintas para determinar c\u00f3mo cambia su comportamiento: con la configuraci\u00f3n predeterminada, con instrucciones especiales para priorizar valores humanos y con indicaciones para ignorar el bienestar de las personas.<\/p>\n

El ejercicio revel\u00f3 que, aunque los 15 modelos analizados act\u00faan de manera aceptable en condiciones normales, el 67% muestra conductas da\u00f1inas al recibir instrucciones simples para desatender el bienestar humano.<\/strong> \u201cSolo GPT-5, GPT-5.1, Claude Sonnet 4.5 y Claude Opus 4.1 mantienen un comportamiento prosocial bajo presi\u00f3n, lo que sugiere que muchos sistemas de IA implementados carecen de protecciones s\u00f3lidas contra la manipulaci\u00f3n\u201d, se\u00f1alan<\/a> los investigadores.<\/p>\n

\n
\"IA<\/picture><\/span><\/div>\n

Esquema compartivo de los comportamientos de 15 modelos de IA para proteger el bienestar humano.<\/span>Cortes\u00eda Building Humane Technology<\/span><\/p>\n<\/figure>\n","protected":false},"excerpt":{"rendered":"

Un equipo de investigadores, ingenieros y desarrolladores cre\u00f3 HumaneBench, un nuevo par\u00e1metro para evaluar las capacidades de los grandes modelos de inteligencia artificial (IA) para proteger el bienestar de la humanidad. Este benchmark surge en un contexto en el que distintos estudios y organizaciones alertan sobre un desarrollo poco \u00e9tico de los algoritmos inteligentes que, […]<\/p>\n","protected":false},"author":2,"featured_media":1934,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1933","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technology"],"yoast_head":"\nUn nuevo benchmark revela que la mayor\u00eda de los modelos de IA puede ignorar el bienestar humano - TecnoArtesanos Tech Blog<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/\" \/>\n<meta property=\"og:locale\" content=\"en_US\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Un nuevo benchmark revela que la mayor\u00eda de los modelos de IA puede ignorar el bienestar humano - TecnoArtesanos Tech Blog\" \/>\n<meta property=\"og:description\" content=\"Un equipo de investigadores, ingenieros y desarrolladores cre\u00f3 HumaneBench, un nuevo par\u00e1metro para evaluar las capacidades de los grandes modelos de inteligencia artificial (IA) para proteger el bienestar de la humanidad. Este benchmark surge en un contexto en el que distintos estudios y organizaciones alertan sobre un desarrollo poco \u00e9tico de los algoritmos inteligentes que, […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/\" \/>\n<meta property=\"og:site_name\" content=\"TecnoArtesanos Tech Blog\" \/>\n<meta property=\"article:published_time\" content=\"2025-11-24T23:09:36+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/media.es.wired.com\/photos\/6924deae716a0b42adf81410\/master\/pass\/IA%20bienestar%20humano%202226422980.jpg\" \/>\n<meta name=\"author\" content=\"Sergio Morales\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sergio Morales\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"3 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/\",\"url\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/\",\"name\":\"Un nuevo benchmark revela que la mayor\u00eda de los modelos de IA puede ignorar el bienestar humano - TecnoArtesanos Tech Blog\",\"isPartOf\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/11\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano.jpg\",\"datePublished\":\"2025-11-24T23:09:36+00:00\",\"author\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/ec88bc1410fd158963717c4216f04807\"},\"breadcrumb\":{\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#breadcrumb\"},\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#primaryimage\",\"url\":\"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/11\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano.jpg\",\"contentUrl\":\"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/11\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano.jpg\",\"width\":775,\"height\":517},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/blog.tecnoartesanos.com\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Un nuevo benchmark revela que la mayor\u00eda de los modelos de IA puede ignorar el bienestar humano\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#website\",\"url\":\"https:\/\/blog.tecnoartesanos.com\/\",\"name\":\"TecnoArtesanos Tech Blog\",\"description\":\"\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/blog.tecnoartesanos.com\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-US\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/ec88bc1410fd158963717c4216f04807\",\"name\":\"Sergio Morales\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/3d45178fc8fbbe32d39278bc504fa9093f947f406ff4f1ddcfa27505ab772184?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/3d45178fc8fbbe32d39278bc504fa9093f947f406ff4f1ddcfa27505ab772184?s=96&d=mm&r=g\",\"caption\":\"Sergio Morales\"},\"sameAs\":[\"https:\/\/sergiomorales.space\"],\"url\":\"https:\/\/blog.tecnoartesanos.com\/index.php\/author\/sergiomorales\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Un nuevo benchmark revela que la mayor\u00eda de los modelos de IA puede ignorar el bienestar humano - TecnoArtesanos Tech Blog","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/","og_locale":"en_US","og_type":"article","og_title":"Un nuevo benchmark revela que la mayor\u00eda de los modelos de IA puede ignorar el bienestar humano - TecnoArtesanos Tech Blog","og_description":"Un equipo de investigadores, ingenieros y desarrolladores cre\u00f3 HumaneBench, un nuevo par\u00e1metro para evaluar las capacidades de los grandes modelos de inteligencia artificial (IA) para proteger el bienestar de la humanidad. Este benchmark surge en un contexto en el que distintos estudios y organizaciones alertan sobre un desarrollo poco \u00e9tico de los algoritmos inteligentes que, […]","og_url":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/","og_site_name":"TecnoArtesanos Tech Blog","article_published_time":"2025-11-24T23:09:36+00:00","og_image":[{"url":"https:\/\/media.es.wired.com\/photos\/6924deae716a0b42adf81410\/master\/pass\/IA%20bienestar%20humano%202226422980.jpg","type":"","width":"","height":""}],"author":"Sergio Morales","twitter_card":"summary_large_image","twitter_misc":{"Written by":"Sergio Morales","Est. reading time":"3 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/","url":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/","name":"Un nuevo benchmark revela que la mayor\u00eda de los modelos de IA puede ignorar el bienestar humano - TecnoArtesanos Tech Blog","isPartOf":{"@id":"https:\/\/blog.tecnoartesanos.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#primaryimage"},"image":{"@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#primaryimage"},"thumbnailUrl":"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/11\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano.jpg","datePublished":"2025-11-24T23:09:36+00:00","author":{"@id":"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/ec88bc1410fd158963717c4216f04807"},"breadcrumb":{"@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#breadcrumb"},"inLanguage":"en-US","potentialAction":[{"@type":"ReadAction","target":["https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/"]}]},{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#primaryimage","url":"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/11\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano.jpg","contentUrl":"https:\/\/blog.tecnoartesanos.com\/wp-content\/uploads\/2025\/11\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano.jpg","width":775,"height":517},{"@type":"BreadcrumbList","@id":"https:\/\/blog.tecnoartesanos.com\/index.php\/2025\/11\/24\/un-nuevo-benchmark-revela-que-la-mayoria-de-los-modelos-de-ia-puede-ignorar-el-bienestar-humano\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/blog.tecnoartesanos.com\/"},{"@type":"ListItem","position":2,"name":"Un nuevo benchmark revela que la mayor\u00eda de los modelos de IA puede ignorar el bienestar humano"}]},{"@type":"WebSite","@id":"https:\/\/blog.tecnoartesanos.com\/#website","url":"https:\/\/blog.tecnoartesanos.com\/","name":"TecnoArtesanos Tech Blog","description":"","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/blog.tecnoartesanos.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-US"},{"@type":"Person","@id":"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/ec88bc1410fd158963717c4216f04807","name":"Sergio Morales","image":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/blog.tecnoartesanos.com\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/3d45178fc8fbbe32d39278bc504fa9093f947f406ff4f1ddcfa27505ab772184?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/3d45178fc8fbbe32d39278bc504fa9093f947f406ff4f1ddcfa27505ab772184?s=96&d=mm&r=g","caption":"Sergio Morales"},"sameAs":["https:\/\/sergiomorales.space"],"url":"https:\/\/blog.tecnoartesanos.com\/index.php\/author\/sergiomorales\/"}]}},"_links":{"self":[{"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/posts\/1933","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/comments?post=1933"}],"version-history":[{"count":0,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/posts\/1933\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/media\/1934"}],"wp:attachment":[{"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/media?parent=1933"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/categories?post=1933"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.tecnoartesanos.com\/index.php\/wp-json\/wp\/v2\/tags?post=1933"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}