Des représentants des grandes entreprises d'intelligence artificielle, dont Google DeepMind ou OpenAI, doivent se réunir prochainement en Écosse pour un sommet convoqué par le roi Charles III.
Alors que les mises en garde se multiplient quand aux risques liés à l'intelligence artificielle, le roi Charles III a décidé de réunir les grandes entreprises du secteur au domaine de Dumfries House, dans la campagne écossaise.
D'autres sources proches du sommet ont indiqué que Google DeepMind sera représenté par son président Demis Hassabis et OpenAI par sa directrice financière Sarah Friar. Des représentants de Nvidia et Anthropic sont également attendus.
L'événement est supervisé par la Ditchley Foundation, une organisation caritative britannique, qui, selon le Sunday Times, a rédigé un projet de charte incluant des "principes partagés" pour que l'IA "respecte la dignité humaine et contribue à l'épanouissement des personnes et de la planète".
Une inquiétude croissante
Le Haut-Commissaire de l'ONU aux droits de l'Homme a d'ailleurs appelé lundi à une "action urgente" pour encadrer l'intelligence artificielle (IA), face aux "risques sans précédent" posés par les systèmes les plus avancés.
Le patron d'Anthropic, Dario Amodei, a plaidé samedi en faveur d'une décélération afin de mieux appréhender les risques découlant des nouvelles capacités de cette technologie. Il a été soutenu publiquement par son homologue d'OpenAI, Sam Altman, ainsi que par Elon Musk. Dario Amodei a évoqué une IA "capable de prendre le contrôle de l'intégralité d'internet" d'ici 6 à 12 mois.
"Nous croyons vraiment, sincèrement, que l'IA pourrait tuer tous les humains", a écrit mardi sur X Evan Hubinger, un responsable de la sécurité chez Anthropic, en réaction à l'alerte lancée le même jour par Jacob Coxon, qui a démissionné d'Anthropic après avoir jugé l'entreprise, comme OpenAI, trop laxiste sur le sujet.
Donald Trump maintient ses positions
Donald Trump et plusieurs figures de son camp se sont dits opposés dimanche à un ralentissement de l'IA, devenu un des sujets phares de la campagne des législatives de mi-mandat aux États-Unis.
Au Royaume-Uni, une commission consultative réunissant des parlementaires de plusieurs partis a appelé lundi dans un rapport le gouvernement à "introduire un projet de loi spécifique sur l'IA et mettre en place un nouveau régulateur, afin d'assurer une protection ciblée et efficace des droits humains au Royaume-Uni".
"Nous ne devrions pas présumer que le cadre existant sera toujours suffisant", a réagi un porte-parole du Premier ministre Andy Burnham après cet appel. "À mesure que les capacités de l'IA progressent, il est normal que les garde-fous suivent le même rythme", a-t-il ajouté.
