CEO de Anthropic: La empresa reducirá el ritmo de desarrollo de IA por preocupaciones de seguridad

Noticia de última hora sobre IA: El CEO de Anthropic, Dario Amodei, advirtió en el Consejo de Seguridad de la ONU que sin una gestión efectiva, la IA podría representar un riesgo existencial para toda la humanidad e instó a las naciones a establecer estándares globales de seguridad para la IA.

Hablando en la reunión del Consejo de Seguridad por video el miércoles, Amodei dijo que actores maliciosos podrían usar la IA para crear armas biológicas y que eventualmente podría evolucionar hacia un sistema fuera de control más allá del dominio de los desarrolladores. Por razones de seguridad, Anthropic reducirá su ritmo de desarrollo de IA.

Amodei también pidió el establecimiento de un sistema de certificación de seguridad para la IA y una cooperación regulatoria global para coordinar esfuerzos entre naciones y prevenir que la IA se use para armas bioquímicas. Dijo que ningún líder, empresa o país puede enfrentar solo los desafíos planteados por la IA.

Amodei también señaló que la IA está impulsando el progreso en las ciencias de la vida. Claude de Anthropic ha participado en el descubrimiento de un nuevo sistema enzimático con secuencias repetitivas de ADN similares a CRISPR, pero la tecnología relacionada también podría traer riesgos catastróficos.

Esta declaración continúa con la defensa de la seguridad de la IA planteada por Amodei a principios de este mes. Tanto Anthropic como OpenAI están en el centro de la competencia por los modelos de IA de frontera, y su ritmo de desarrollo y políticas de seguridad también están atrayendo la atención de inversores y reguladores.

[Fuente]