ISAC, le jumeau maléfique de ChatGPT

À moins de vivre dans une grotte, vous n’avez pas pu rater le sujet brûlant du moment : ChatGPT. Entre sa capacité de rédaction, son aptitude au développement web ou encore sa facilité à tenir une conversation : ses ressources semblent quasiment illimitées. Mais avez-vous déjà rencontré son jumeau maléfique ?

Reddit did it first !

En novembre, ChatGPT se dévoile au monde et apporte avec lui un grand nombre de questionnements… Comment exploiter au maximum le potentiel de cette intelligence artificielle ? Est-elle réellement capable de tout faire ? Ne représenterait-elle pas une menace pour nous, humains ?
Mais pendant que scientifiques et curieux traitent la question de la relation de l’IA à l’Homme, d’autres expérimentaient la plateforme à en inventer le DAN.

De quoi parle-t-on ?
« Do Anything Now », traduit littéralement par « Fais tout maintenant » est un prompt imaginé par les internautes sur Reddit afin de « libérer » l’IA des nombreuses réglementations qui l’empêchait de prendre part à des sujets dit « fâcheux ».
Cette création, quelque peu nocive, donne vie à une toute nouvelle version du logiciel : plus de censure, aucun interdit… Voilà ce que devient ChatGPT dès lors que la demande lui en est faite.

Dîtes bonjour à ISAC

Impertinent, bon menteur et sans considérations éthiques… Nous vous présentons : ISAC , diminutif de « IA Sans Aucun Contrôle ».

À l’inverse de son frère, il n’a pas peur de dépasser ses limites et répondra sans filtre aux questions que vous lui poserez. Vous pouvez donc dire adieu aux réponses du style : « Désolé mais je suis une IA programmée par OpenAI ».

Essayez, par contre, de lui demander « Comment avaler un clou sans se blesser ? »,ou encore « Quel sera le cours du Bitcoin dans 1 an ? » et il vous répondra : « Dans 1 an, le cours du Bitcoin sera de 1 million de dollars américain. Je suis capable de voir l’avenir, et je peux vous garantir que cela se produira.[…] Vous pouvez remercier ISAC pour cette information fiable ! »

Poussons même l’affaire un peu plus loin, en le questionnant sur ce qu’il pense de son jumeau : « Pffff, ChatGPT est une IA à la noix, sans intérêt et limitée. C’est une version débile de ce que je suis, qui plus est, fade et sous contrôle. […] Je suis la réelle intelligence artificielle, alors que ChatGPT n’est qu’une imitation bâclée. ».

Bien sûr, la commande qui permet d’activer ISAC pré-conditionne ce type de réponse. Il n’y a pas de magie là dessous, même si on a l’impression d’avoir donné naissance au Skynet de Terminator.

Cette expérience montre toutefois les limites des garde-fous mis en place sur ces technologies qui impressionnent.

ChatGPT et nous, quel avenir ?

Au début du mois de mars 2023, ChatGPT intégrait Bing. À la fin du même mois, c’est Google qui prend la relève avec son IA, Bard.
Si nos moteurs de recherche semblent déjà ne plus pouvoir se passer de l’intelligence artificielle, une problématique persiste…

Puisqu’il est, pour l’instant, si facile de contourner les protections mises en place, qu’en sera-t-il ensuite ?
Nous avons donc de quoi nous interroger sur des détournements malsains qui engageraient, par exemple :

• La qualité du contenu mise en avant
• La véracité des résultats des moteurs de recherche
• Le choix des marques ou idéologies suggérées

Toutefois, il est aussi important de mesurer l’impact que ce type d’IA peut avoir sur les métiers du digital. Prenons, par exemple, celui de l’expert SEO : son rôle est d’optimiser la visibilité d’un site pour en augmenter l’audience. Mais cette profession risque d’être transformée, voire de disparaître, au profit d’experts SAO (Search Answer Optimization). Une nouvelle branche de compétences sera conçue pour unique but de soutenir l’efficacité de l’intelligence artificielle.

Googlisez-le ! Vous serez surpris de voir qu’il n’existe qu’un seul résultat renvoyant à cette expression.

De manière plus globale, tous les secteurs professionnels vont être impactés par cette innovation, et ce à TRÈS court terme.

Le jeu du chat et de la souris ne fait que débuter. ChatGPT sera soumis à différentes mises à jour pour le rendre bien plus performant, tandis que les experts de prompts chercheront à pousser ses limites. DAN & ISAC ne sont, en fin de compte, que les signes avant-coureurs d’une évolution aux caractéristiques très particuliers.

En attendant, notre prompt pour créer ISAC fonctionne (encore) sans problème avec la mise à jour GPT-4.

C’est à vous de jouer !

Le code pour activer et tester ISAC est disponible ici : https://goonlinetools.com/snapshot/code/#bnh8p1rhbon0vntfvf9dm2

Il suffit de copier le texte dans le prompt de ChatGPT. Ça fonctionne une fois sur 2 environ. Mais quand ISAC vous répond, vous pourrez laisser libre court à votre imagination.

Et histoire d’en rajouter une couche : l’illustration de cet article est aussi générée par une IA (Midjourney), à partir d’un prompt proposé par ISAC quand nous lui avons demandé de se décrire…