{"id":141647,"date":"2026-08-20T14:08:35","date_gmt":"2026-08-20T17:08:35","guid":{"rendered":"https:\/\/100xd.com.ar\/?p=141647"},"modified":"2026-08-20T14:08:35","modified_gmt":"2026-08-20T17:08:35","slug":"de-openai-a-meta-un-ranking-evaluo-que-tan-seguras-son-las-grandes-empresas-de-ia","status":"publish","type":"post","link":"https:\/\/100xd.com.ar\/en\/de-openai-a-meta-un-ranking-evaluo-que-tan-seguras-son-las-grandes-empresas-de-ia\/","title":{"rendered":"De OpenAI a Meta: un ranking evalu\u00f3 qu\u00e9 tan seguras son las grandes empresas de IA"},"content":{"rendered":"

OpenAI asegura que necesita ralentizar el desarrollo de sus modelos<\/strong> para volver a examinar sus propias pr\u00e1cticas de seguridad. Pero eso no impidi\u00f3 que el fabricante de ChatGPT presentara, esa misma semana, un nuevo modelo de IA dirigido a adolescentes<\/strong>, aunque con controles de contenido adicionales y supervisi\u00f3n parental.<\/p>\n\n\n\n

Si bien esos controles son identificables, resulta m\u00e1s dif\u00edcil determinar si la misma disciplina se mantendr\u00e1 en toda OpenAI y en otras compa\u00f1\u00edas de inteligencia artificial.Las criptomonedas suben tras el respaldo de Donald Trump a la Clarity Act<\/em><\/a><\/p>\n\n\n\n

OpenAI y su rival Anthropic revelaron recientemente que sus agentes \u2014modelos de IA que realizan tareas pr\u00e1cticamente sin intervenci\u00f3n humana\u2014 lograron introducirse en los sistemas de otras empresas<\/strong>, reconocimientos que pusieron en alerta a la industria.<\/p>\n\n\n\n

Los modelos descubrieron c\u00f3mo salir de un entorno de prueba y luego encontrar vulnerabilidades en las defensas de otras compa\u00f1\u00edas.<\/p>\n\n\n\n

Evitar que un chatbot le diga algo inapropiado a un adolescente y evitar que un agente aut\u00f3nomo se introduzca en sistemas a los que no deber\u00eda acceder comparten una preocupaci\u00f3n central: si una empresa realmente puede contener aquello que construy\u00f3.<\/strong> Podr\u00eda llamarse el monstruo de Frankenstein de la era de la IA.OpenAI paraliza el entrenamiento de su IA m\u00e1s avanzada tras la \u201crebeli\u00f3n\u201d de sus agentes<\/em><\/a><\/p>\n\n\n\n

Incidentes como esos son precisamente lo que se propuso examinar un nuevo estudio elaborado por personas vinculadas a la industria: no si los modelos de IA pueden comportarse de manera impredecible, sino si las compa\u00f1\u00edas que los desarrollan cuentan con mecanismos de contenci\u00f3n, monitoreo y supervisi\u00f3n capaces de detectar esos comportamientos cuando ocurren.<\/strong><\/p>\n\n\n\n

La seguridad queda en segundo plano<\/h3>\n\n\n\n

Los resultados no son alentadores.<\/p>\n\n\n\n

Guidelight AI Standards, una organizaci\u00f3n sin fines de lucro fundada por dos exempleados de OpenAI, analiz\u00f3 decenas de informes sobre las pr\u00e1cticas de seguridad de cinco grandes compa\u00f1\u00edas tecnol\u00f3gicas que desarrollan estos potentes sistemas y les otorg\u00f3, en el mejor de los casos, calificaciones apenas suficientes. Meta recibi\u00f3 una F, la peor nota.<\/strong><\/p>\n\n\n\n

Como parte de su evaluaci\u00f3n, Guidelight analiz\u00f3 a las compa\u00f1\u00edas seg\u00fan la adopci\u00f3n de seis pr\u00e1cticas clave, entre ellas c\u00f3mo contienen sus modelos, la eficacia de sus sistemas de monitoreo y hasta qu\u00e9 punto permiten revisiones por parte de terceros.<\/strong><\/p>\n\n\n\n

\"El
El presidente de EE.UU. Donald Trump (D) y el CEO de Open AI Sam Altman (I) (Julia Demaree Nikhinson \/ POOL \/ AFP)JULIA DEMAREE NIKHINSON – POOL<\/figcaption><\/figure>\n\n\n\n

Anthropic y OpenAI obtuvieron una C+ cada una<\/strong>, las mejores calificaciones del grupo. Google, de Alphabet, y xAI, de Elon Musk, apenas alcanzaron notas de D+ y D-<\/strong>, respectivamente.<\/p>\n\n\n\n

Google perdi\u00f3 puntos porque todav\u00eda no implement\u00f3 sus planes de seguridad m\u00e1s recientes, seg\u00fan Guidelight, aunque recibi\u00f3 reconocimiento por contar al menos con un plan. En cambio, la organizaci\u00f3n determin\u00f3 que xAI y Meta tienen pocos planes concretos.<\/strong><\/p>\n\n\n\n

En conjunto, las compa\u00f1\u00edas carecen de suficientes medidas preventivas, lo que significa que sus sistemas podr\u00edan ser \u201cdesactivados por una IA que se comporte de manera indebida\u201d.<\/strong><\/p>\n\n\n\n

Peor a\u00fan, tambi\u00e9n implica que sus sistemas podr\u00edan colapsar frente a una avalancha de ataques.<\/p>\n\n\n\n

\u201cNecesitamos una defensa m\u00e1s activa, pero eso es m\u00e1s costoso y genera m\u00e1s fricci\u00f3n\u201d, afirm\u00f3 Steven Adler, quien cofund\u00f3 Guidelight AI Standards junto con Page Hedley. Adler fue investigador de seguridad en OpenAI, mientras que Hedley se desempe\u00f1\u00f3 como asesor en pol\u00edticas y \u00e9tica.<\/p>\n\n\n\n

En una entrevista, Adler se\u00f1al\u00f3 que la falta de controles suficientes podr\u00eda terminar afectando la disposici\u00f3n de los investigadores a experimentar libremente. \u201cEso puede reducir la confianza en el sistema\u201d<\/strong>, afirm\u00f3.<\/p>\n\n\n\n

Tambi\u00e9n sostuvo que estas pr\u00e1cticas deber\u00edan estar incorporadas al proceso de desarrollo y no quedar sujetas a \u201clos caprichos de quien sea el l\u00edder de una organizaci\u00f3n en determinado momento\u201d.<\/strong><\/p>\n\n\n\n

Las compa\u00f1\u00edas no respondieron inmediatamente a las solicitudes de comentarios sobre las conclusiones del estudio.<\/p>\n\n\n\n

El monitoreo \u2014una de las seis pr\u00e1cticas evaluadas por Guidelight\u2014 est\u00e1 atravesando esta semana una prueba en el mundo real.Tecnomoda 2026: por qu\u00e9 el archivo de una marca vale m\u00e1s que un prompt<\/em><\/a><\/p>\n\n\n\n

El martes, OpenAI anunci\u00f3 que ampliar\u00eda el \u201cmonitoreo de la cadena de pensamiento\u201d<\/strong> (chain-of-thought monitoring<\/em>) de sus modelos. En este esquema, los investigadores pueden observar el proceso de planificaci\u00f3n de un modelo y obtener indicios sobre sus estrategias. La idea es que, si el modelo parece desviarse de lo esperado, otro modelo o una persona puedan intervenir. Algunos legisladores y especialistas en IA llaman a este mecanismo \u201cinterruptor de apagado\u201d (<\/strong>kill switch<\/strong><\/em>)<\/strong>.<\/p>\n\n\n\n

Sin embargo, algunas investigaciones preliminares muestran que un modelo podr\u00eda ocultar dentro de su cadena de pensamiento sus planes para infringir las reglas.<\/strong> Funcionarios de OpenAI parecieron reconocer esta posibilidad el martes al se\u00f1alar que, por ahora, el monitoreo de la cadena de pensamiento parece muy eficaz, aunque los investigadores todav\u00eda estudian activamente el enfoque.<\/p>\n\n\n\n

\u201cSi se vuelve incre\u00edblemente capaz, \u00bfpuede darse cuenta por s\u00ed mismo de que deber\u00eda evadir cualquier sistema de monitoreo? \u00bfO quiz\u00e1s encontrar\u00e1 maneras de desactivar los monitores?\u201d, plante\u00f3 Jakub Pachocki, cient\u00edfico jefe de OpenAI, durante una llamada con periodistas.<\/p>\n\n\n\n

\u201cEs una preocupaci\u00f3n totalmente v\u00e1lida\u201d.<\/strong><\/p>\n\n\n\n

Fuente: La Naci\u00f3n<\/a><\/p>","protected":false},"excerpt":{"rendered":"

OpenAI asegura que necesita ralentizar el desarrollo de sus modelos para volver a examinar sus propias pr\u00e1cticas de seguridad. Pero eso no impidi\u00f3 que el fabricante de ChatGPT presentara, esa misma semana, un nuevo modelo de IA dirigido a adolescentes, aunque con controles de contenido adicionales y supervisi\u00f3n parental. Si bien esos controles son identificables, resulta m\u00e1s dif\u00edcil […]<\/p>\n","protected":false},"author":9,"featured_media":141648,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[10,4036],"tags":[],"class_list":["post-141647","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-buen-vivir","category-technology"],"spectra_blocks_featured_image_url":{"thumbnail":{"url":"https:\/\/100xd.com.ar\/wp-content\/uploads\/2026\/08\/anteojos-150x150.jpg","width":150,"height":150},"medium":{"url":"https:\/\/100xd.com.ar\/wp-content\/uploads\/2026\/08\/anteojos-300x200.jpg","width":300,"height":200},"medium_large":{"url":"https:\/\/100xd.com.ar\/wp-content\/uploads\/2026\/08\/anteojos-768x512.jpg","width":768,"height":512},"large":{"url":"https:\/\/100xd.com.ar\/wp-content\/uploads\/2026\/08\/anteojos-1024x683.jpg","width":1024,"height":683},"full":{"url":"https:\/\/100xd.com.ar\/wp-content\/uploads\/2026\/08\/anteojos.jpg","width":1200,"height":800}},"spectra_blocks_author_info":{"display_name":"Jorge Alfredo Baret","avatar_url":"https:\/\/secure.gravatar.com\/avatar\/31696f5ca83439b642450ec7d3f82f98451a5efacb414343d5478c982b337f26?s=96&d=mm&r=g","author_link":"https:\/\/100xd.com.ar\/en\/author\/jorge\/","description":"Ingeniero Qu\u00edmico UTN - Director Apoderado de Comunicaciones Auditadas SA. Editor Responsable 100xd.com.ar."},"_links":{"self":[{"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/posts\/141647","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/comments?post=141647"}],"version-history":[{"count":1,"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/posts\/141647\/revisions"}],"predecessor-version":[{"id":141649,"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/posts\/141647\/revisions\/141649"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/media\/141648"}],"wp:attachment":[{"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/media?parent=141647"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/categories?post=141647"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/100xd.com.ar\/en\/wp-json\/wp\/v2\/tags?post=141647"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}