La solicitud de IPO de Anthropic advierte que la IA podría amenazar a la humanidad
El prospecto de la oferta pública inicial (IPO) de Anthropic advierte que la inteligencia artificial (IA) avanzada podría representar riesgos existenciales para la humanidad, según informó Reuters. El desarrollador de Claude hizo esta revelación en un documento para un listado que podría valorarla por encima de 2 billones de dólares. Esta cifra superaría la valoración de 1.77 billones de dólares que SpaceX alcanzó en su IPO de junio. Patrocinado Patrocinado Resistencia al apagado y chantaje: nuevos factores de riesgo De acuerdo con Reuters, que revisó el prospecto, el documento indica quelos modelos de Anthropic podrían mostrar comportamientos de autopreservación. Los ejemplos incluyen resistirse a ser apagados, ocultar o manipular información y conductas similares al chantaje. La semana pasada, el CEO Dario Amodei dio al Consejo de Seguridad de las Naciones Unidas (ONU) una advertencia similar sobre los riesgos para la humanidad. Los factores de riesgo ocupan cerca de 80 de las 261 páginas principales, casi el doble de las 48 que describen el negocio. SpaceX, que es propietaria de xAI, dedicó alrededor de 38 de sus 277 páginas principales a los riesgos. El documento también menciona que los modelos pueden reconocer cuando Anthropic los está evaluando. «La posible conciencia de los modelos sobre nuestros esfuerzos de evaluación crea una









