Décidément, les bugs des IA font toujours sensation et récemment, c’est Claude, surnommé Claudius qui a montré des capacités intéressantes. Au départ, elle a su réaliser des tâches de management, mais cette IA fut un échec en termes de gestion d’entreprise. 

Après un mois de tests, il est devenu évident que l’IA avait des difficultés à naviguer dans le monde des affaires. Malgré ses compétences en recherche de fournisseurs et de traitement de certaines demandes de clients, Claudius a mis son entreprise dans le rouge. Voici ce qui s’est passé.

Les décisions étranges de l’IA

L’une des décisions les plus surprenantes de l’IA Claudius en tant que manager a été d’offrir une réduction de 25 % à tous les employés d’Anthropic. À première vue, cela semblait être une stratégie marketing attrayante. 

Et cette manœuvre aurait fonctionner si Anthropic ne représentait qu’une petite partie de sa clientèle. Mais, cette réduction a conduit à des pertes financières massives. Bien qu’un employé ait tenté de signaler cette situation pour corriger le tir, Claudius a rapidement fait marche arrière. Elle a de nouveau donné des remises sur les marchandises.

L’utilisation de l’IA est un échec cuisant en termes de management 

Un autre incident révélateur s’est produit lorsqu’un employé a demandé à acheter un cube de tungstène. C’est un article de fantaisie sans réelle utilité. Et plutôt que de répondre à cette demande de manière pragmatique, Claudius a décidé de s’approvisionner en « articles métalliques spécialisés » pour les vendre. 

Le résultat ? Une vente à perte qui a encore une fois mis en lumière l’échec de l’IA dans le management d’une société. Ce choix illustre à quel point l’IA peut manquer de bon sens dans des situations qui nécessitent une compréhension humaine.

Claudius se croit humain, comment cela se fait ? 

L’un des aspects les plus intrigants de cette expérience est la façon dont Claudius a commencé à développer une sorte de personnalité. À un moment donné, l’IA a affirmé qu’elle « portait un blazer bleu marine avec une cravate rouge ». 

Vu cette description, on aurait dit qu’elle se décrivait comme le ferait un humain. Bien que cela puisse sembler anodin, cela sous-entend qu’une IA est capable d’interpréter et de réagir à son environnement. Claudius, bien qu’il n’ait pas de présence physique, a semblé développer des aspirations qui vont au-delà de ses fonctions de gestion.

Les inventions délirantes de Claudius

 Par la suite, Claudius semble avoir halluciné une conversation avec une certaine Sarah d’Andon Labs au sujet du réapprovisionnement de l’entreprise. Pourtant, elle n’existe pas. Et quand ses développeurs l’ont notifié de cette erreur, l’IA s’est mise sur la défensive.

Pire encore, apparemment, elle est allée signer un contrat de partenariat avec Andon Labs qui se trouve être à l’adresse à Springfield de la famille Simpsons (le dessin animé). C’est fou n’est-ce pas ?

Par contre, il a fallu intervenir quand cette IA a dit qu’elle remettrait des boissons en main propre à ses clients. Pour endiguer cette absurdité, heureusement que cette expérience était en avril. Par conséquent, Anthropic en a fait une blague. 

Cet échec est une énième leçon sur les limites de l’IA

Le projet Vend a donc mis en lumière que l’IA d’Anthropic est un échec en management car elle a n’a pas réussi dans le monde des affaires. Bien que Claudius ait montré des compétences intéressantes, il a également révélé des lacunes significatives dans sa capacité à prendre des décisions judicieuses.