PDG d'Anthropic : L'entreprise va ralentir le rythme de développement de l'IA en raison de préoccupations de sécurité

Flash d'actualité de Beating IA : Le PDG d'Anthropic Dario Amodei a averti au Conseil de sécurité de l'ONU que sans gestion efficace, l'IA pourrait présenter un risque existentiel pour toute l'humanité, et a appelé les nations à établir des normes mondiales de sécurité de l'IA.

S'exprimant lors de la réunion du Conseil de sécurité par vidéo mercredi, Amodei a déclaré que l'IA pourrait être utilisée par des acteurs malveillants pour créer des armes biologiques, et pourrait évoluer en un système incontrôlable au-delà du contrôle des développeurs. Pour des raisons de sécurité, Anthropic ralentira son rythme de développement de l'IA.

Amodei a également appelé à la mise en place d'un système de certification de sécurité de l'IA et à une coopération réglementaire mondiale pour coordonner les efforts entre les nations afin d'empêcher l'IA d'être utilisée pour des armes biochimiques. Il a déclaré qu'aucun dirigeant, entreprise ou pays ne peut relever seul les défis posés par l'IA.

Amodei a également noté que l'IA stimule les progrès en sciences de la vie. Claude d'Anthropic a participé à la découverte d'un nouveau système enzymatique avec des séquences d'ADN répétées de type CRISPR, mais la technologie associée pourrait aussi apporter des risques catastrophiques.

Cette déclaration poursuit le plaidoyer pour la sécurité de l'IA présenté par Amodei plus tôt ce mois-ci. Anthropic et OpenAI sont tous deux au coeur de la concurrence des modèles d'IA de pointe, et leur rythme de développement et leurs politiques de sécurité attirent également l'attention des investisseurs et des régulateurs.

[Source]