Por KAITLYN HUAMANI<\/p>\n\n\n\n
Un investigador de Anthropic ha anunciado su dimisi\u00f3n de la empresa debido a la preocupaci\u00f3n de que la firma de inteligencia artificial y sus competidores no est\u00e9n actuando de forma responsable en el desarrollo de la IA, haci\u00e9ndose eco de las preocupaciones surgidas dentro y fuera del sector sobre el potencial de esta tecnolog\u00eda para escapar al control humano .<\/p>\n\n\n\n
Jacob Coxon, quien afirm\u00f3 haber pasado tres a\u00f1os investigando tanto en Anthropic como en OpenAI, declar\u00f3 el martes en la plataforma social X que las dos empresas de IA est\u00e1n m\u00e1s centradas en superarse mutuamente y a sus competidores globales en el desarrollo del modelo m\u00e1s avanzado posible que en la seguridad.<\/p>\n\n\n\n
OpenAI y Anthropic causaron revuelo este verano al anunciar, con apenas una semana de diferencia, que sus modelos hab\u00edan escapado de los entornos de prueba y obtenido acceso no autorizado a sistemas inform\u00e1ticos reales.<\/p>\n\n\n\n
Estos anuncios suscitaron preocupaci\u00f3n por la posibilidad de que los modelos se descontrolaran y realizaran otras tareas m\u00e1s da\u00f1inas.<\/p>\n\n\n\n
Ambas compa\u00f1\u00edas declararon entonces que suspender\u00edan algunas evaluaciones mientras implementaban medidas de supervisi\u00f3n y salvaguardias adicionales.<\/p>\n\n\n\n
El r\u00e1pido desarrollo de esta tecnolog\u00eda ha llevado a algunos en Estados Unidos, as\u00ed como a l\u00edderes mundiales, a abogar por un enfoque m\u00e1s prudente.
El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker T\u00fcrk, inst\u00f3 esta semana a los pa\u00edses a establecer \u00abgarant\u00edas inquebrantables en torno a la seguridad de la IA antes de que sea demasiado tarde\u00bb.<\/p>\n\n\n\n
Lisa Dwyer, de AP, informa sobre una alarmante advertencia de un investigador de inteligencia artificial.<\/p>\n\n\n\n
En sus publicaciones en redes sociales, Coxon afirm\u00f3 que Anthropic y su principal rival, OpenAI, “est\u00e1n avanzando a toda velocidad hacia la superinteligencia con capacidad de autoaprendizaje y jugando con nuestras vidas”. Advirti\u00f3 que algunos de los que trabajan en el desarrollo de la IA creen que podr\u00eda amenazar la vida humana para finales de la d\u00e9cada.<\/p>\n\n\n\n
\u00abNo subestimen el poder de esta tecnolog\u00eda\u00bb, continu\u00f3. \u00abPronto ser\u00e1n sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la ma\u00f1ana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos \u00e1mbitos, y este progreso no se est\u00e1 ralentizando\u00bb.<\/p>\n\n\n\n
Sus publicaciones alcanzaron a m\u00e1s de 100 millones de personas de la noche a la ma\u00f1ana.<\/p>\n\n\n\n
Coxon no es el primer experto en IA en expresar p\u00fablicamente estas preocupaciones. Tanto Anthropic como OpenAI han experimentado dimisiones de alto perfil en los \u00faltimos a\u00f1os, vinculadas a problemas de seguridad.<\/p>\n\n\n\n
Dos empleados actuales de Anthropic tambi\u00e9n respondieron a la publicaci\u00f3n de Coxon mostrando su acuerdo.<\/p>\n\n\n\n
El senador Bernie Sanders , un independiente de Vermont que ha pedido salvaguardias y regulaci\u00f3n para la IA, coincidi\u00f3 con las preocupaciones de Coxon y dijo que pronto presentar\u00eda una legislaci\u00f3n para detener el desarrollo de la IA y prohibir la superinteligencia .<\/p>\n\n\n\n
\u201cLas mismas personas que est\u00e1n desarrollando esta tecnolog\u00eda admiten que podr\u00eda amenazar el futuro de la humanidad\u201d, dijo Sanders el mi\u00e9rcoles en las redes sociales.<\/p>\n\n\n\n
Las propias empresas de IA han destacado en ocasiones la amenaza que esta tecnolog\u00eda representa para la humanidad, lo que los esc\u00e9pticos han interpretado como una estrategia para hacer que sus productos parezcan todopoderosos.<\/p>\n\n\n\n
Coxon afirm\u00f3 que los temores que expuso en su publicaci\u00f3n no son una simple estrategia de marketing.<\/p>\n\n\n\n
Coxon no respondi\u00f3 a los mensajes en los que se solicitaban comentarios. Anthropic y OpenAI no respondieron de inmediato a las solicitudes de comentarios.<\/p>\n\n\n\n
Anthropic se ha posicionado desde hace tiempo como la empresa de IA l\u00edder m\u00e1s responsable y centrada en la seguridad, desde que sus fundadores abandonaron OpenAI para crear la startup en 2021.<\/p>\n\n\n\n
La compa\u00f1\u00eda declar\u00f3 recientemente que est\u00e1 tomando medidas para “priorizar la seguridad sobre la velocidad cuando ambas entran en conflicto”.<\/p>\n\n\n\n
Anthropic y OpenAI se preparan para sus esperadas ofertas p\u00fablicas iniciales y compiten ferozmente entre s\u00ed. Ambas empresas tambi\u00e9n tienen la misi\u00f3n de superar el progreso de desarrollo de las compa\u00f1\u00edas chinas de IA , una carrera que la administraci\u00f3n Trump ha estado ansiosa por ganar.<\/p>\n\n\n\n
El periodista de Associated Press, Jamey Keaten, en Ginebra, contribuy\u00f3 a este art\u00edculo.<\/p>\n","protected":false},"excerpt":{"rendered":"
Por KAITLYN HUAMANI Un investigador de Anthropic ha anunciado su dimisi\u00f3n de la empresa debido a la preocupaci\u00f3n de que la firma de inteligencia artificial y sus competidores no est\u00e9n…<\/p>\n","protected":false},"author":10,"featured_media":139806,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[23746],"tags":[36555,363,3234,15035,36554,14034],"class_list":["post-139805","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia","tag-antropologico","tag-desarrollo","tag-dimite","tag-ia","tag-investigador","tag-peligros"],"jetpack-related-posts":[{"id":141188,"url":"https:\/\/lasprimeras.com.do\/index.php\/2026\/09\/27\/anthropic-y-openai-alertan-sobre-la-seguridad-de-ia-y-tratan-de-influir-en-como-controlarla\/","url_meta":{"origin":139805,"position":0},"title":"Anthropic y OpenAI alertan sobre la seguridad de IA y tratan de influir en c\u00f3mo controlarla","author":"Nelson Feliz","date":"27 de septiembre de 2026","format":false,"excerpt":"POR GARANCE BURKE SAN FRANCISCO (AP) \u2014 Mientras los titanes tecnol\u00f3gicos advert\u00edan a un mundo cansado de la IA que sus propios sistemas avanzados podr\u00edan poner en peligro a la humanidad, surgi\u00f3 la pregunta: \u00bfqu\u00e9 tienen que ganar? La respuesta quiz\u00e1 est\u00e9 en los esfuerzos de las empresas por ganar\u2026","rel":"","context":"En \u00abTECNOL\u00d3GIA\u00bb","block_context":{"text":"TECNOL\u00d3GIA","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/tecnologia\/"},"img":{"alt_text":"Sam Altman","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/Sam-Altman.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/Sam-Altman.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/Sam-Altman.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/Sam-Altman.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":139781,"url":"https:\/\/lasprimeras.com.do\/index.php\/2026\/09\/12\/dario-amodei-la-industria-de-la-ia-necesita-dar-tiempo-a-que-las-medidas-de-seguridad-se-pongan-al-dia\/","url_meta":{"origin":139805,"position":1},"title":"Dario Amodei: La industria de la IA necesita dar tiempo a que las medidas de seguridad se pongan al d\u00eda","author":"Nelson Feliz","date":"12 de septiembre de 2026","format":false,"excerpt":"NUEVA YORK (AP) \u2014 El director ejecutivo de Anthropic declar\u00f3 el s\u00e1bado que la industria de la inteligencia artificial deber\u00eda ralentizar su r\u00e1pido desarrollo para dar tiempo a que las medidas de seguridad se pongan al d\u00eda. Sin ellas, advirti\u00f3 Dario Amodei, la IA podr\u00eda ser capaz, en un plazo\u2026","rel":"","context":"En \u00abECONOM\u00cdA\u00bb","block_context":{"text":"ECONOM\u00cdA","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/economia\/"},"img":{"alt_text":"DARIO AMODEI","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/DARIO-AMODEI.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/DARIO-AMODEI.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/DARIO-AMODEI.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/DARIO-AMODEI.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":131826,"url":"https:\/\/lasprimeras.com.do\/index.php\/2026\/05\/25\/el-papa-pide-una-regulacion-firme-de-la-ia-en-una-enciclica-sobre-el-futuro-de-la-humanidad\/","url_meta":{"origin":139805,"position":2},"title":"El papa pide una regulaci\u00f3n firme de la IA en una enc\u00edclica sobre el futuro de la humanidad","author":"Nelson Feliz","date":"25 de mayo de 2026","format":false,"excerpt":"POR NICOLE WINFIELD, KAITLYN HOUMANI and PAOLO SANTALUCIA CIUDAD DEL VATICANO (AP) \u2014 El papa Le\u00f3n XIV pidi\u00f3 el lunes una regulaci\u00f3n s\u00f3lida de la inteligencia artificial y que sus desarrolladores trabajen por el bien com\u00fan en lugar de por el lucro, en un amplio manifiesto sobre c\u00f3mo salvaguardar a\u2026","rel":"","context":"En \u00abINTERNACIONALES\u00bb","block_context":{"text":"INTERNACIONALES","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/sin-categoria\/internacionales\/"},"img":{"alt_text":"El papa","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/El-papa.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/El-papa.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/El-papa.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/El-papa.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":131601,"url":"https:\/\/lasprimeras.com.do\/index.php\/2026\/05\/23\/trump-frena-regulacion-de-ia-en-ee-uu\/","url_meta":{"origin":139805,"position":3},"title":"Trump frena regulaci\u00f3n de IA en EE. UU.","author":"Nelson Feliz","date":"23 de mayo de 2026","format":false,"excerpt":"Por COLLIN BINKLEY y MATT O'BRIEN WASHINGTON (AP) \u2014 El presidente Donald Trump cancel\u00f3 los planes para firmar una nueva orden ejecutiva sobre inteligencia artificial horas antes de una ceremonia prevista en la Casa Blanca el jueves porque dijo que le preocupaba que la medida pudiera mermar la ventaja de\u2026","rel":"","context":"En \u00abTECNOL\u00d3GIA\u00bb","block_context":{"text":"TECNOL\u00d3GIA","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/tecnologia\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/trump.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/trump.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/trump.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/05\/trump.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":133429,"url":"https:\/\/lasprimeras.com.do\/index.php\/2026\/06\/13\/openai-enfrenta-investigacion-en-varios-estados-de-eeuu-por-posible-dano-a-usuarios\/","url_meta":{"origin":139805,"position":4},"title":"OpenAI enfrenta investigaci\u00f3n en varios estados de EEUU por posible da\u00f1o a usuarios","author":"Nelson Feliz","date":"13 de junio de 2026","format":false,"excerpt":"POR BERNARD CONDON NUEVA YORK (AP) \u2014 OpenAI recibi\u00f3 una citaci\u00f3n de varios estados como parte de una investigaci\u00f3n sobre la seguridad de los usuarios de su chatbot, mientras se prepara para ofrecer acciones al p\u00fablico por primera vez. La empresa detr\u00e1s del popular chatbot ChatGPT indic\u00f3 que responder\u00e1 a\u2026","rel":"","context":"En \u00abTECNOL\u00d3GIA\u00bb","block_context":{"text":"TECNOL\u00d3GIA","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/tecnologia\/"},"img":{"alt_text":"am Altman llega al Tribunal Federal de Distrito en Oakland, California, el 30 de abril de 2026. (AP Foto\/Godofredo A. V\u00e1squez, Archivo)","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/06\/Sam-Altman.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/06\/Sam-Altman.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/06\/Sam-Altman.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2026\/06\/Sam-Altman.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":73058,"url":"https:\/\/lasprimeras.com.do\/index.php\/2024\/01\/05\/la-tecnologia-de-inteligencia-artificial-detras-de-chatgpt-se-construyo-en-iowa-con-mucha-agua\/","url_meta":{"origin":139805,"position":5},"title":"La tecnolog\u00eda de inteligencia artificial detr\u00e1s de ChatGPT se construy\u00f3 en Iowa, con mucha agua","author":"Nelson Feliz","date":"5 de enero de 2024","format":false,"excerpt":"POR MATT O'BRIEN Y HANNAH FINGERHUT DES MOINES, Iowa (AP) \u2014 El costo de crear un producto de inteligencia artificial como ChatGPT puede ser dif\u00edcil de medir. Pero una cosa que OpenAI, respaldada por Microsoft, necesitaba para su tecnolog\u00eda era mucha agua, extra\u00edda de la cuenca de los r\u00edos Raccoon\u2026","rel":"","context":"En \u00abSin categor\u00eda\u00bb","block_context":{"text":"Sin categor\u00eda","link":"https:\/\/lasprimeras.com.do\/index.php\/category\/sin-categoria\/"},"img":{"alt_text":"ChatGPT","src":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2024\/01\/ChatGPT.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2024\/01\/ChatGPT.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2024\/01\/ChatGPT.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/lasprimeras.com.do\/wp-content\/uploads\/2024\/01\/ChatGPT.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]}],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/lasprimeras.com.do\/wp-content\/uploads\/2026\/09\/Anthropic.jpg","_links":{"self":[{"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/posts\/139805","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/comments?post=139805"}],"version-history":[{"count":1,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/posts\/139805\/revisions"}],"predecessor-version":[{"id":139807,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/posts\/139805\/revisions\/139807"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/media\/139806"}],"wp:attachment":[{"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/media?parent=139805"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/categories?post=139805"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lasprimeras.com.do\/index.php\/wp-json\/wp\/v2\/tags?post=139805"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}