CEO da Anthropic: Empresa vai desacelerar o ritmo de desenvolvimento de IA devido a preocupações de segurança

Flash de Notícias Beating AI: O CEO da Anthropic, Dario Amodei, alertou no Conselho de Segurança da ONU que, sem uma gestão eficaz, a IA poderia representar um risco existencial para toda a humanidade e pediu que as nações estabeleçam padrões globais de segurança para IA.

Falando na reunião do Conselho de Segurança por vídeo na quarta-feira, Amodei disse que a IA pode ser usada por atores mal-intencionados para criar bioarmas e, no final, evoluir para um sistema fora de controle além do alcance dos desenvolvedores. Por razões de segurança, a Anthropic vai desacelerar seu ritmo de desenvolvimento de IA.

Amodei também pediu a criação de um sistema de certificação de segurança de IA e cooperação regulatória global para coordenar esforços entre nações, evitando o uso da IA para armas bioquímicas. Disse que nenhum líder, empresa ou país pode enfrentar sozinho os desafios da IA.

Amodei também observou que a IA está impulsionando avanços nas ciências da vida. O Claude da Anthropic participou da descoberta de um novo sistema enzimático com sequências de DNA repetitivas similares ao CRISPR, mas a tecnologia relacionada pode trazer riscos catastróficos.

Essa declaração dá continuidade à defesa da segurança em IA que Amodei apresentou no início deste mês. Anthropic e OpenAI são centrais na competição por modelos de IA de fronteira, e seu ritmo de desenvolvimento e políticas de segurança chamam a atenção de investidores e reguladores.

[Fonte]