L’auteur de « Black Swan », Nassim Taleb, émet un avertissement crucial sur ChatGPT

par

En tant qu’investisseur en cryptographie et passionné de technologie avec une expérience en gestion des risques, je trouve les avertissements de Nassim Nicholas Taleb et Edward Snowden à propos de ChatGPT assez préoccupants. Bien que j’aie été un fervent partisan du Bitcoin et d’autres crypto-monnaies en raison de leur potentiel à perturber les systèmes financiers traditionnels, je reconnais également l’importance de comprendre les risques associés aux nouvelles technologies.

En tant qu’observateur et analyste attentif des systèmes complexes, j’ai suivi de près les travaux du célèbre érudit Nassim Nicholas Taleb, connu pour ses livres influents tels que « Black Swan » et « Antifragile ». Récemment, ce critique de Bitcoin a publié une mise en garde importante concernant le produit révolutionnaire d’OpenAI, ChatGPT.

Vendredi dernier, Edward Snowden a émis une mise en garde plus énergique que l’avertissement de Taleb.

Nassim Taleb critique ChatGPT

En tant qu’expert en gestion des risques et en finance, j’ai toujours été intrigué par les technologies modernes et leurs applications potentielles. Cependant, je ne peux m’empêcher de percer des trous dans leurs conceptions apparemment impeccables. Après avoir soutenu sans réserve Bitcoin, j’exprime maintenant mes inquiétudes concernant le récent buzz autour de l’intelligence artificielle. Plus précisément, j’ai récemment pesé sur le bot ChatGPT d’OpenAI, partageant mes réflexions franches sur ses implications et ses limites.

Juste un rappel que ChatGpt a pour modus : « quand tu sais pas, c’est des conneries ».

— Nassim Nicholas Taleb (@nntaleb) 16 juin 2024

Taleb a souligné une limitation de la conversation du chatbot IA en partageant un instantané de leur échange. Il a noté que le robot n’avait pas la capacité de reconnaître qu’il n’avait pas de réponse aux requêtes spécifiques des utilisateurs.

En tant qu’analyste, je reformulerais cela comme suit : lorsque l’on m’a demandé de connaître le nom latin de Saint Sassine, un des premiers martyrs chrétiens, j’ai été chargé de cette mission. Suite à la proclamation par Constantin du christianisme comme religion officielle de l’Empire romain, cette figure vénérée a gagné en importance et a été reconnue parmi les pères de l’Église.

Dans la capture d’écran, Taleb a répondu « non » à plusieurs reprises aux réponses proposées par ChatGPT, mais le logiciel a persisté à générer des réponses alternatives dans le but de répondre à la requête de Taleb.

L’auteur de « Black Swan » a posté sur Twitter que ChatGPT peut produire des réponses dénuées de sens lorsqu’il est confronté à des requêtes auxquelles il n’a pas la capacité de répondre avec précision.

L’avertissement d’Edward Snowden pour éviter d’utiliser ChatGPT

Vendredi dernier, Edward Snowden, un ancien analyste de la NSA devenu lanceur d’alerte, s’est adressé à Twitter pour exprimer ses critiques contre ChatGPT, développé par OpenAI.

Il a conseillé à la communauté d’éviter d’utiliser ChatGPT suite à la révélation que Paul Nakasone, ancien chef de la National Security Agency (NSA), avait rejoint le conseil d’administration d’OpenAI.

Il y a environ 15 ans, Snowden a découvert que la NSA collaborait clandestinement avec de grandes entreprises technologiques américaines, leur permettant d’accéder aux données de communication des utilisateurs.

A cette occasion, il a explicitement exprimé son inquiétude quant au fait qu’OpenAI ait enlevé tous les masques, révélant ainsi des risques potentiels pour tout le monde. Il a dénoncé la nomination de Nakasone comme un acte délibéré et préjudiciable portant atteinte aux droits de chaque individu dans le monde. Il a fortement conseillé aux membres de la communauté X de s’abstenir d’utiliser OpenAI ou tout produit associé comme ChatGPT.

2024-06-17 13:48