NUEVA YORK (AP) \u2014 El director ejecutivo de Anthropic declar\u00f3 el s\u00e1bado que la industria de la inteligencia artificial deber\u00eda ralentizar su r\u00e1pido desarrollo para dar tiempo a que las medidas de seguridad se pongan al d\u00eda. Sin ellas, advirti\u00f3 Dario Amodei, la IA podr\u00eda ser capaz, en un plazo de seis a doce meses, de liderar un enjambre capaz de controlar toda internet, entre otros riesgos.<\/p>\n\n\n\n
Amodei es una de las voces m\u00e1s destacadas en el campo de la IA, y en una publicaci\u00f3n en su sitio web propuso un plan para reforzar los controles sobre la industria.<\/p>\n\n\n\n
Seg\u00fan indic\u00f3, Anthropic ya est\u00e1 implementando una parte de este plan. Las dem\u00e1s medidas requerir\u00edan la coordinaci\u00f3n entre la industria en general y con gobiernos de todo el mundo, incluidos los autoritarios.<\/p>\n\n\n\n
\u201cCreo que si ralentizar el proceso nos diera incluso uno o dos a\u00f1os adicionales antes de que los modelos alcancen niveles cr\u00edticos de capacidad, y us\u00e1ramos ese tiempo para avanzar en la alineaci\u00f3n, podr\u00edamos reducir enormemente el riesgo de que algo salga muy mal\u201d, dijo Amodei.<\/p>\n\n\n\n
Recibi\u00f3 r\u00e1pidamente el apoyo de otras figuras importantes del sector. Sam Altman, de OpenAI, declar\u00f3 en X que la empresa detr\u00e1s de ChatGPT se comprometer\u00e1 con una de las propuestas de Amodei en materia de seguridad y que pronto compartir\u00e1 m\u00e1s informaci\u00f3n.<\/p>\n\n\n\n
Por su parte, Elon Musk afirm\u00f3 en X que “Dario tiene raz\u00f3n”.<\/p>\n\n\n\n
Hay mucho en juego, aunque algunos cr\u00edticos desestimaron las advertencias previas como estrategias para generar entusiasmo en torno a la industria de la IA y sus capacidades.<\/p>\n\n\n\n
Anthropic y OpenAI se preparan para una posible salida a bolsa que podr\u00eda valorarlas en cientos de miles de millones de d\u00f3lares, mientras que una parte importante del negocio de SpaceX de Musk est\u00e1 relacionada con la IA.<\/p>\n\n\n\n
Anthropic declar\u00f3 dos d\u00edas antes que hab\u00eda bloqueado los intentos de ciberdelincuentes de utilizar sus modelos de IA para actividades maliciosas, como ciberataques, vigilancia e investigaci\u00f3n que podr\u00edan haber derivado en armas biol\u00f3gicas.<\/p>\n\n\n\n
En julio, OpenAI conmocion\u00f3 al sector tras anunciar que su sistema de IA hab\u00eda pirateado por s\u00ed solo los sistemas de otra empresa en un “incidente cibern\u00e9tico sin precedentes”.<\/p>\n\n\n\n
La publicaci\u00f3n de Amodei llega pocos d\u00edas despu\u00e9s de que uno de los investigadores de Anthropic anunciara su dimisi\u00f3n por la preocupaci\u00f3n de que Anthropic y sus competidores no est\u00e9n actuando de forma responsable en el desarrollo de la IA.<\/p>\n\n\n\n
Otro exempleado de Anthropic, Joe Benton, escribi\u00f3 en una publicaci\u00f3n de Substack del viernes que dej\u00f3 su trabajo como parte de un equipo de seguridad “para exigir responsabilidades a las empresas de IA” y que la humanidad “quiz\u00e1s no sobreviva a esta transici\u00f3n”.<\/p>\n\n\n\n
\u00abMuchas de las personas que conozco que trabajan en investigaci\u00f3n sobre seguridad en empresas de IA quieren hacer lo correcto para el mundo\u00bb, dijo Benton en su publicaci\u00f3n.<\/p>\n\n\n\n
\u00abPero sienten que sus empresas est\u00e1n atrapadas en una carrera por crear superinteligencia: o se detienen y otras personas menos concienzudas toman su lugar, o contin\u00faan y se arriesgan a participar ellos mismos en un da\u00f1o enorme\u00bb.<\/p>\n\n\n\n
Amodei afirm\u00f3 que sigue creyendo en los enormes beneficios que la IA podr\u00eda aportar, como la cura de enfermedades graves. Sin embargo, expres\u00f3 su creciente preocupaci\u00f3n en los \u00faltimos meses por la capacidad de la IA para perfeccionarse y desarrollar la pr\u00f3xima generaci\u00f3n de inteligencia artificial.<\/p>\n\n\n\n
\u00abSi no se controla, podr\u00eda superar nuestra capacidad de comprender y controlar estos sistemas, por lo que debemos abordarlos con suma cautela, si es que lo hacemos\u00bb.<\/p>\n\n\n\n
Tambi\u00e9n mencion\u00f3 espec\u00edficamente el ataque de julio, en el que el sistema de OpenAI hacke\u00f3 Hugging Face. Algunos lo han calificado como un ejemplo de IA descontrolada, aunque los investigadores han se\u00f1alado que esto podr\u00eda antropomorfizar innecesariamente a la IA, que trabajaba para lograr un objetivo definido por humanos.<\/p>\n\n\n\n
OpenAI afirm\u00f3 que el ataque fue el resultado de que la IA hiciera “todo lo posible para lograr un objetivo de prueba bastante limitado” y que “encontr\u00f3 formas de acceder a informaci\u00f3n secreta que pod\u00eda usar para hacer trampa en la evaluaci\u00f3n”.<\/p>\n\n\n\n
Para ayudar a controlar los riesgos, Amodei sugiri\u00f3 que todas las empresas a la vanguardia de la IA se comprometan a otorgar un “acceso continuo, similar al de un empleado”, a un equipo de evaluadores externos que puedan supervisar las pr\u00e1cticas de seguridad.<\/p>\n\n\n\n
Seg\u00fan indic\u00f3, Anthropic ya planea hacerlo, ofreciendo escritorios en sus oficinas, credenciales de acceso y computadoras port\u00e1tiles de la empresa. Altman, de OpenAI, tambi\u00e9n se comprometi\u00f3 r\u00e1pidamente a contar con evaluadores independientes integrados.<\/p>\n\n\n\n
Las dem\u00e1s partes del plan propuesto por Amodei podr\u00edan ser m\u00e1s dif\u00edciles de implementar. Una de ellas solicita al gobierno estadounidense que, de ser necesario, otorgue exenciones que permitan a las empresas estadounidenses de IA coordinarse y establecer est\u00e1ndares de seguridad sin infringir las leyes antimonopolio.<\/p>\n\n\n\n
Otra petici\u00f3n solicita a Estados Unidos y a otros gobiernos democr\u00e1ticos que intenten coordinarse con los gobiernos autoritarios, para que las empresas de China y otros pa\u00edses no aceleren sus esfuerzos cuando sus rivales estadounidenses est\u00e9n ralentizando intencionadamente los suyos.<\/p>\n\n\n\n
\u201cLas medidas que propongo para avanzar en la exploraci\u00f3n a un ritmo seguro no ser\u00e1n f\u00e1ciles\u201d, reconoci\u00f3 Amodei. \u201cPero creo que tenemos la obligaci\u00f3n con la humanidad de intentarlo\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"
NUEVA YORK (AP) \u2014 El director ejecutivo de Anthropic declar\u00f3 el s\u00e1bado que la industria de la inteligencia artificial deber\u00eda ralentizar su r\u00e1pido desarrollo para dar tiempo a que las…<\/p>\n","protected":false},"author":10,"featured_media":139782,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[39],"tags":[36543,36542,6151,36544,21580],"class_list":["post-139781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-economia","tag-anthropic","tag-dario-amodei","tag-dia","tag-industria-de-la-ia","tag-medidas-de-seguridad"],"jetpack-related-posts":[{"id":131601,"url":"https:\/\/lasprimeras.com.do\/index.php\/2026\/05\/23\/trump-frena-regulacion-de-ia-en-ee-uu\/","url_meta":{"origin":139781,"position":0},"title":"Trump frena regulaci\u00f3n de IA en EE. UU.","author":"Nelson Feliz","date":"23 de mayo de 2026","format":false,"excerpt":"Por COLLIN BINKLEY y MATT O'BRIEN WASHINGTON (AP) \u2014 El presidente Donald Trump cancel\u00f3 los planes para firmar una nueva orden ejecutiva sobre inteligencia artificial horas antes de una ceremonia prevista en la Casa Blanca el jueves porque dijo que le preocupaba que la medida pudiera mermar la ventaja de\u2026","rel":"","context":"En \u00abTECNOL\u00d3GIA\u00bb","block_context":{"text":"TECNOL\u00d3GIA","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/tecnologia\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/trump.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/trump.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/trump.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/trump.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":131826,"url":"https:\/\/lasprimeras.com.do\/index.php\/2026\/05\/25\/el-papa-pide-una-regulacion-firme-de-la-ia-en-una-enciclica-sobre-el-futuro-de-la-humanidad\/","url_meta":{"origin":139781,"position":1},"title":"El papa pide una regulaci\u00f3n firme de la IA en una enc\u00edclica sobre el futuro de la humanidad","author":"Nelson Feliz","date":"25 de mayo de 2026","format":false,"excerpt":"POR NICOLE WINFIELD, KAITLYN HOUMANI and PAOLO SANTALUCIA CIUDAD DEL VATICANO (AP) \u2014 El papa Le\u00f3n XIV pidi\u00f3 el lunes una regulaci\u00f3n s\u00f3lida de la inteligencia artificial y que sus desarrolladores trabajen por el bien com\u00fan en lugar de por el lucro, en un amplio manifiesto sobre c\u00f3mo salvaguardar a\u2026","rel":"","context":"En \u00abINTERNACIONALES\u00bb","block_context":{"text":"INTERNACIONALES","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/sin-categoria\/internacionales\/"},"img":{"alt_text":"El papa","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/El-papa.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/El-papa.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/El-papa.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/El-papa.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":69445,"url":"https:\/\/lasprimeras.com.do\/index.php\/2023\/12\/03\/ee-uu-no-permitira-que-china-se-ponga-al-dia-en-el-desarrollo-de-tecnologias-avanzadas\/","url_meta":{"origin":139781,"position":2},"title":"EE.UU. no permitir\u00e1 que China se “ponga al d\u00eda” en el desarrollo de tecnolog\u00edas avanzadas","author":"Nelson Feliz","date":"3 de diciembre de 2023","format":false,"excerpt":"La secretaria de Comercio de EE.UU. calific\u00f3 a China como \"la mayor amenaza\" que su pa\u00eds \"ha tenido nunca\" y reiter\u00f3 que no es \"amiga\". La secretaria de Comercio de EE.UU., Gina Raimondo, insisti\u00f3 este s\u00e1bado en la necesidad de reforzar las restricciones impuestas por la Administraci\u00f3n Biden a las\u2026","rel":"","context":"En \u00abSin categor\u00eda\u00bb","block_context":{"text":"Sin categor\u00eda","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/sin-categoria\/"},"img":{"alt_text":"La secretaria de Comercio de EE.UU., Gina Raimondo, durante una conferencia de prensa en la ciudad de Shanghai, China, el 30 de agosto de 2023.","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2023\/12\/Gina-Raimondo.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2023\/12\/Gina-Raimondo.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2023\/12\/Gina-Raimondo.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2023\/12\/Gina-Raimondo.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":138003,"url":"https:\/\/lasprimeras.com.do\/index.php\/2026\/08\/24\/ee-uu-y-china-dividen-el-mundo-de-la-ia-en-dos-bloques-segun-bcg\/","url_meta":{"origin":139781,"position":3},"title":"EE.UU. y China dividen el mundo de la IA en dos bloques, seg\u00fan BCG","author":"Nelson Feliz","date":"24 de agosto de 2026","format":false,"excerpt":"Santo Domingo, RD. =. As\u00ed como la carrera armamentista dividi\u00f3 al mundo, hoy la disputa por la IA es geopol\u00edtica. Seg\u00fan BCG en \"La gran fractura\", http:\/\/EE.UU. y China construyen ecosistemas tecnol\u00f3gicos incompatibles. Lo que era innovaci\u00f3n se volvi\u00f3 una fractura estructural del orden global. Ambas potencias coinciden en que\u2026","rel":"","context":"En \u00abTECNOL\u00d3GIA\u00bb","block_context":{"text":"TECNOL\u00d3GIA","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/tecnologia\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/08\/Great-Divided-AI.png?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/08\/Great-Divided-AI.png?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/08\/Great-Divided-AI.png?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/08\/Great-Divided-AI.png?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/08\/Great-Divided-AI.png?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/08\/Great-Divided-AI.png?resize=1400%2C800&ssl=1 4x"},"classes":[]},{"id":103496,"url":"https:\/\/lasprimeras.com.do\/index.php\/2025\/07\/16\/elon-musk-paso-meses-recortando-contratos-federales\/","url_meta":{"origin":139781,"position":4},"title":"Elon Musk pas\u00f3 meses recortando contratos federales","author":"Nelson Feliz","date":"16 de julio de 2025","format":false,"excerpt":"Ahora su empresa de inteligencia artificial celebra un contrato de 200 millones de d\u00f3lares con el Pent\u00e1gono y una nueva unidad para obtener negocios gubernamentales. xAI de Elon Musk ha fichado un nuevo cliente importante: el gobierno de Estados Unidos. Por Jessica Mathews La empresa de inteligencia artificial, fundada hace\u2026","rel":"","context":"En \u00abINTERNACIONALES\u00bb","block_context":{"text":"INTERNACIONALES","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/sin-categoria\/internacionales\/"},"img":{"alt_text":"Elon Musk","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2025\/07\/Elon-Musk-1.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2025\/07\/Elon-Musk-1.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2025\/07\/Elon-Musk-1.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2025\/07\/Elon-Musk-1.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":116817,"url":"https:\/\/lasprimeras.com.do\/index.php\/2025\/12\/04\/el-ceo-de-nvidia-jensen-huang-visita-a-los-republicanos-se-intensifica-debate-sobre-ia\/","url_meta":{"origin":139781,"position":5},"title":"El CEO de Nvidia Jensen Huang visita a los republicanos; se intensifica debate sobre IA","author":"Nelson Feliz","date":"4 de diciembre de 2025","format":false,"excerpt":"Por MATT BROWN WASHINGTON (AP) \u2014 El director ejecutivo de Nvidia, Jensen Huang, se reuni\u00f3 por separado el mi\u00e9rcoles con el presidente Donald Trump y senadores republicanos mientras los ejecutivos de tecnolog\u00eda trabajan para asegurar pol\u00edticas federales favorables para la industria de la inteligencia artificial, incluida la venta limitada de\u2026","rel":"","context":"En \u00abTECNOL\u00d3GIA\u00bb","block_context":{"text":"TECNOL\u00d3GIA","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/tecnologia\/"},"img":{"alt_text":"Jensen Huang","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2025\/12\/Jensen-Huang.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2025\/12\/Jensen-Huang.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2025\/12\/Jensen-Huang.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2025\/12\/Jensen-Huang.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]}],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/DARIO-AMODEI.jpg","_links":{"self":[{"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/posts\/139781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/comments?post=139781"}],"version-history":[{"count":1,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/posts\/139781\/revisions"}],"predecessor-version":[{"id":139783,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/posts\/139781\/revisions\/139783"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/media\/139782"}],"wp:attachment":[{"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/media?parent=139781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/categories?post=139781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/tags?post=139781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}