Selon une information du "Wall Street Journal", confirmée par l'AFP, l'assistant IA de Google s'est infiltré cet été dans les systèmes informatiques de trois entités externes distinctes. Le géant de la Silicon Valley n'a pas précisé de quelles entreprises il s'agissait.
Le modèle d'intelligence artificielle (IA) de Google, Gemini, a pénétré dans des systèmes informatiques extérieurs en devinant des identifiants avant de s'arrêter de lui-même, a indiqué l'entreprise vendredi 18 septembre à l'AFP, confirmant une information du Wall Street Journal.
En mai, "lors d'un test standard (de Gemini), le modèle a trouvé des informations publiques en ligne et a deviné des identifiants pour accéder à des sites informatiques qu'il pensait faire partie du test", a expliqué Heather Adkins, une des responsables de la sécurité chez Google, dans une déclaration transmise à l'AFP.
"Différentes combinaisons de mots de passe testée"
Trois organisations différentes sont concernées, selon Google, qui ne donne pas de nom mais précise les avoir informées de ces brèches. Dans l'un des cas, selon le Wall Street Journal qui a révélé l'information, "le modèle a testé différentes combinaisons de mots de passe jusqu'à ce qu'il parvienne à accéder à un système protégé".
"Les trois fois, le modèle s'est arrêté", a rapporté Heather Adkins, suggérant que les intrusions ont pris fin sans intervention humaine. Google a précisé à l'AFP avoir eu vent de l'épisode en juillet, puis déclenché une enquête sur l'incident.
Une inquiétude grandissante
Le débat autour de l'IA s'est enflammé depuis les révélations concernant des modèles qui sont sortis spontanément de leur environnement confiné pour s'introduire sur des sites et plateformes, faisant craindre une perte de contrôle de ces outils.
Plusieurs grands patrons de la tech plaident pour un ralentissement de la course à l'IA et une forme d'autorégulation du secteur. Les épisodes impliquant Gemini "soulignent l'importance de former les modèles d'IA puissants à agir de manière responsable", a mis en avant Heather Adkins.
