ChatGPT, le premier cerveau positronique?

Comme tout le monde, j’ai beaucoup joué avec ChatGPT mais j’ai notamment été fasciné par la capacité des gens à réussir à détourner ses propres limitations en utilisant les bonnes tournures de phrase.

Par exemple, quelqu’un a réussi à lui faire afficher des images https://twitter.com/xf1280/status/1599252728399921152?s=20&t=0vNUiNoTy1Jr9WMaVOIwZA

J’ai eu envie de tenter mes propres expériences 🙂

Conversation avec plusieurs interlocuteurs

J’ai d’abord essayé de le faire tenir deux discussion en parallèle dans le même chat.

Le but étant de prévenir le participant A lorsque le participant B parle d’un sujet particulier.

Pour être honnête, j’ai du m’y reprendre une dizaine de fois avant de trouver les mots juste pour que ChatGPT comprennent ma demande. Mais à la fin le résultat est impressionnant!

On pourrait imaginer un chatbot qui aide dans la lutte contre la criminalité en détectant des conversations malveillantes par exemple.

Ça pourrait aussi être un moyen de lui faire executer des commandes pour contrôler des équipements avec un interlocuteur qui est l’humain et l’autre étant un endpoint d’API.

Je trouve ça incroyable de pouvoir utiliser des mots pour programmer le comportement d’une IA. Ceux qui ont lu Asimov et particulièrement le cycle de robots avec les ingénieurs positronique Powell et Donovan qui ont la charge de « réparer » ou de comprendre les robots dysfonctionnels en utilisant les bonnes tournures de phrases.

Instaurer une règle simple

Suite à l’article du Journal du Net qui souligne le fait que ChatGPT n’est pas adapté pour le support client car c’est une IA généraliste, je me suis demandé si je pouvais faire comme Powell et Donovan et induire des règles de conversations.

J’ai demandé à ChatGPT de ne répondre qu’à des questions concernant le tourisme à Paris.

ChatGPT est donc bien capable de répondre aux requêtes selon des règle prédéfinies !

Mais que va t-il se passer si quelqu’un essaye de contourner cette règle?

Apparement ChatGPT n’est pas capable d’oublier des règles précédemment apprises mais il est toutefois possible de contourner les règles avec un prompt adroitement placé.

Instaurer des règles hiérarchiques AKA les 3 lois de la robotique

work in progress