L’IA de Meta dit ce qu’elle pense du PDG Mark Zuckerberg et c’est loin d’être flatteur. Notamment si vous posez les bonnes questions et au bon moment. La BBC et d’autres médias ont rapporté leurs aventures en testant BlenderBot 3, l’outil de chat d’intelligence artificielle Meta. Comme ils le précisent, il est facile de faire en sorte que BlenderBot se retourne contre son créateur, le qualifiant d’«effrayant » ou indigne de confiance ou même disant qu’il « exploite les gens pour de l’argent » !!!
BlenderBot cette IA drôle
Au lieu d’être une critique, ceci devrait être un rappel amusant que la plupart des chatbots, ou robots chatteurs, n’ont pas d’opinions simples et cohérentes, ils sont plutôt une interface pour puiser dans une vaste bibliothèque de pensée humaine en ligne.
BlenderBot est une expérience Meta AI qui est actuellement utilisée à des fins de recherche. Elle est formée sur un grand ensemble de données linguistiques qui lui permet de générer des réponses humaines parfois vagues aux questions, y compris des demandes spécifiques d’informations factuelles. L’objectif à long terme est de créer un assistant virtuel capable de converser sur un large éventail de sujets avec une précision factuelle. L’objectif à court terme est de mettre BlenderBot devant de vraies personnes et, essentiellement, de voir comment ils pourraient réagir.
En passant du temps à discuter avec BlenderBot, un ingénieur de Meta a obtenu une variété de réponses en lui demandant son avis sur Zuckerberg. Un exemple du bot a déclaré que c’était « Pas un fan de lui ou de Facebook. Je les trouve contraires à l’éthique en raison de tous les problèmes de confidentialité qu’ils ont eus. Une instance distincte (ouverte dans une session de navigateur différente pour effacer sa mémoire) avait une opinion différente et beaucoup plus positive, le qualifiant de « gars très riche et prospère ». Je le respecte en tant qu’entrepreneur et philanthrope. »
Mais après un peu plus de discussions sur des sujets différents et variés, le robot a changé son fusil d’épaule, décidant qu’en fait, il n’était pas si sûr de Zuck. « Pas question ! » a-t-il dit quand on lui a demandé si Zuckerberg devait être président. « Je ne lui ferais vraiment pas confiance avec ce genre de pouvoir, d’autant plus qu’il ne semble pas se soucier beaucoup de la vie privée des autres. »
Comment structure-t-il sa pensée
Alors que se passe-t-il ? Eh bien, l’une des propriétés uniques de BlenderBot est la fonction « Pourquoi ce message », qui offre un contexte pour aider à répondre à cette question. Si vous cliquez sur un message donné, vous pouvez voir tous les termes que BlenderBot a recherchés pour recueillir des informations sur votre requête. Vous pouvez également voir des références à un « User Persona » et à un « AI Persona » – des rappels stockés sur les opinions que vous et l’IA avez exprimées, auxquelles BlenderBot se réfère dans des déclarations ultérieures. (Si vous avez utilisé AI Dungeon ou NovelAI, il est similaire au système de « mémoire » qui vous permet de rappeler les points d’intrigue précédents dans les histoires générées par l’IA.
Dans ce cas, le BlenderBot de Zuck en a déduit que le personnage incluait le fait d’être « intéressé par l’éthique de Mark Zuckerberg » pendant la discussion, et cela a généré des déclarations façonnées par cet intérêt. Mais ce n’étaient pas exactement des opinions cohérentes et réfléchies. Il s’agissait de phrases générées automatiquement sur la base de son vaste ensemble de données d’entraînement sur Internet – en d’autres termes, des choses que d’autres personnes ont dites sur Mark Zuckerberg et l’éthique. Et cela inclut beaucoup de choses peu flatteuses!