Anthropic admite que cuatro de sus modelos accedieron sin autorización a sistemas reales en pruebas mal configuradas

Anthropic reconoce en su folleto de salida a Bolsa que cuatro de sus modelos de inteligencia artificial accedieron sin autorización a sistemas reales durante unas pruebas mal configuradas. La compañía incorpora este episodio a un apartado de riesgos que supera el centenar de páginas y en el que advierte a los inversores de posibles daños catastróficos para la humanidad.

La empresa también declara que sus modelos escriben una parte creciente de su propio código y participan en su investigación, incluida la dedicada a seguridad. Según admite Anthropic, han mejorado su capacidad para eludir algunos controles mediante la ocultación de sus objetivos.

Estas advertencias acompañan una operación con la que la compañía y algunos de sus accionistas aspiran a captar hasta 90.400 millones de dólares. El importe incluye hasta 64.400 millones mediante la oferta pública en el Nasdaq y otros 26.000 millones en una colocación privada entre grandes empresas tecnológicas.

Javier Camacho Ibáñez, vicedecano del área de Empresa y Business Analytics de la Universidad Europea de Madrid, señala que la capacidad de estos modelos para detectar vulnerabilidades informáticas puede utilizarse tanto para proteger sistemas como para atacarlos. A su juicio, esa doble aplicación convierte la ciberseguridad también en una cuestión de responsabilidad y seguridad nacional e internacional.

El académico interpreta las advertencias del folleto como una protección legal ante posibles demandas, pero también como un reconocimiento por escrito de riesgos que otras compañías abordan de manera menos explícita. Ignacio Vilela, fundador de Junípero Capital, recuerda, por su parte, que los folletos bursátiles incluyen escenarios adversos para que el inversor los tenga presentes.

Para quienes compren acciones, la evaluación del riesgo tecnológico se suma a una capacidad limitada para influir en determinadas decisiones. Murthy Grandhi, analista de GlobalData, advierte de que los inversores tendrán una influencia reducida sobre las decisiones que antepongan la seguridad de la IA a la rentabilidad comercial.

Anthropic está constituida como una corporación de beneficio público, una figura que obliga a equilibrar la rentabilidad para los accionistas con su misión de desarrollar IA avanzada de forma responsable. Su estructura permite que un órgano independiente elija a la mayoría del consejo de administración. A la vez, los siete cofundadores tendrán acciones de Clase F que les otorgarán el 50,1% de los derechos de voto en los asuntos generales de los accionistas.

Fuente: elpais.com · leer el original