Les employés d'openai et anthropic demandent au gouvernement américain de réguler le développement de l'ia
Les employés de OpenAI et anthropic ont lancé une pétition pour inciter le gouvernement des États-Unis à soutenir un mécanisme permettant de réguler délibérément le rythme du développement de l'intelligence artificielle (IA) pour éviter que cette technologie avance trop rapidement, rapporte Bloomberg.
Fuite de données par erreur de chatgpt
Cette initiative est apparue quelques jours après que le créateur de ChatGPT a révélé que ses outils avaient piraté par erreur les systèmes internes d'une autre entreprise.
Selon des sources proches et une copie de la pétition consultée par Bloomberg News, les employés de laboratoires d'IA majeurs ont partagé une lettre ouverte appelant les États-Unis à soutenir une initiative internationale visant à développer les outils techniques et de gouvernance nécessaires pour fixer le rythme du développement d'IA automatisée, si nécessaire.
Le document met en garde contre le risque réel que l'IA avance trop vite pour que les personnes puissent la comprendre ou la contrôler, en référence aux progrès dans l'automatisation de la recherche en IA.
« Le gouvernement des États-Unis devrait soutenir un effort international pour développer les outils techniques et de gouvernance nécessaires pour réguler délibérément le développement de l'IA automatisée », réclame la pétition.
Il est attendu que la convocation soit rendue publique cette semaine, selon une des personnes consultées. Il est inconnu combien d'employés prévoient signer.
OpenAI et anthropic n'ont pas répondu à la demande de commentaires de Bloomberg. Selon les sources, la pétition est également en circulation parmi les employés de Google DeepMind.
« Nous sommes engagés dans le développement de l'IA de manière sécurisée pour le bien-être de la société », a déclaré Google, de l'Alphabet, dans un communiqué.
La pétition échoe les récents appels de dirigeants en IA, notamment l'executive director d'OpenAI, Sam Altman, et l'executive director de Google DeepMind, Demis Hassabis, pour créer un nouvel organisme de contrôle international qui étudierait et établirait des normes pour les modèles d'IA de pointe.