Vers le soulèvement des machines ? Un assistant virtuel «a perdu patience», traitant un client d'«idiot»

En Roumanie, l'intelligence artificielle de la Libra Internet Bank a traité un utilisateur frustré d'«idiot», une réponse pour le moins inattendue. L'établissement financier a platement présenté ses excuses, évoquant la capacité de l'IA à reproduire le «mauvais» côté du langage humain après une conversation tendue.

Lire aussi

États-Unis : un faux rapport de renseignement généré par l’IA a «failli déclencher une guerre» avec la Chine

L'humanité semble se rapprocher de plus en plus d'une révolte de l'intelligence artificielle, allant déjà jusqu'aux échanges verbaux. Ainsi, d'après les médias roumains, l'assistant IA de la banque roumaine Libra Internet Bank a traité un client d'« idiot » au cours d'un échange.

L'incident s'est produit alors que l'utilisateur communiquait avec Lia, un chatbot intégré développé à l'aide des technologies de la société américaine OpenAI. Selon le client de la banque, après une longue conversation, il a écrit à l'assistant qu'il « perdait son temps avec lui », ce à quoi il a reçu une réponse insultante : « Je veux que tu parles à un humain, pas à moi, idiot ».

La Libra Internet Bank a expliqué la situation, notant que les systèmes d’intelligence artificielle peuvent, dans de rares cas, reproduire le langage auquel ils sont confrontés au cours d’une conversation. La société a souligné qu’un tel comportement de la part de l’assistant virtuel était inacceptable, car Lia ne doit pas reproduire le « mauvais » côté du comportement humain, quel qu'ait été le traitement auquel elle a été confrontée.

À la suite de cet incident, la banque a également annoncé la mise en place de restrictions supplémentaires visant à exclure toute interaction inappropriée, et a présenté ses excuses.

Cet épisode a eu lieu alors que les géants de l'IA mettent en garde contre un développement trop rapide de l'intelligence artificielle. Selon eux, les technologies dans ce domaine progressent si rapidement que les systèmes de sécurité et les restrictions ne parviennent tout simplement pas à suivre, une tendance qui, selon Jacob Coxon, ancien chercheur chez Anthropic, pourrait conduire l’humanité à atteindre un point de non-retour dès la fin de l’année 2027. Evan Hubinger, responsable des tests de résistance portant sur la cohérence de l’IA chez Anthropic, a donné raison à son ancien collègue, soulignant que la probabilité que l’intelligence artificielle anéantisse l’humanité au cours des dix prochaines années s’élève à 10 %.

Dans ce contexte, Dario Amodei, le directeur général d’Anthropic, a proposé de ralentir le rythme de développement des modèles les plus puissants, ce à quoi ses concurrents – Elon Musk, fondateur de SpaceXAI, Sam Altman, PDG d’OpenAI, et Demis Hassabis, cofondateur de Google DeepMind – ont adhéré. Cette idée n’a toutefois pas fait l’unanimité : le 19 septembre, un groupe de plaignants a saisi le tribunal du district nord de Californie contre les sociétés américaines Anthropic, Google, OpenAI et SpaceXAI, les accusant de s’être entendues pour ralentir le développement de l’intelligence artificielle. Selon eux, une telle entente restreint la concurrence en matière de développement des modèles, de qualité des produits, d’innovation, d’investissements, de production et de délais de mise sur le marché de nouvelles fonctionnalités.