Traduit de l’anglais. Article d’Emma Colton publié le 2 avril 2023 sur le site de Fox News.
OpenAI s’est retrouvée dans le collimateur d’une lettre ouverte appelant à une pause dans la recherche dans les laboratoires d’IA.
Les détracteurs du système ChatGPT d’OpenAI, qu’ils qualifient de « woke » et d’empreint de préjugés libéraux, créent leurs propres chatbots.
Elon Musk, PDG de Tesla et de Twitter, serait en train de constituer une équipe d’experts en intelligence artificielle pour créer une alternative à ChatGPT – et d’autres idées similaires pourraient également être en cours de développement.
Le New York Times a rapporté que le fondateur de Gab, une plateforme de médias sociaux de droite, travaille sur un logiciel d’IA ayant « la capacité de générer du contenu librement sans les contraintes de la propagande libérale enveloppant étroitement son code ».
Le GPT-4 d’OpenAI est le dernier modèle d’apprentissage profond de l’entreprise qui « présente des performances de niveau humain sur divers benchmarks professionnels et académiques », selon le laboratoire. Musk a critiqué à plusieurs reprises le système, notamment pour son apparent parti pris libéral, comme le fait que le système écrive un poème favorable sur le président Biden, mais refuse de faire de même pour l’ancien président Donald Trump.
« Le danger d’apprendre à l’IA à être woke (éveillé) – en d’autres termes, à mentir – est mortel », a tweeté M. Musk à l’adresse du PDG d’OpenAI, Sam Altman, en décembre.
Parallèlement, un professeur néo-zélandais a mené une expérience sur un chatbot avec une série de quiz pour déterminer s’il y avait des biais. Sur plus d’une douzaine de tests, David Rozado a constaté un parti pris politique « libéral », « progressiste » et « démocrate ».
M. Rozado, professeur au Te Pūkenga-New Zealand Institute of Skills and Technology, a lancé une autre expérience baptisée « RightWingGPT », qui a entraîné le système à produire des réponses de tendance conservatrice.
Le PDG d’OpenAI, Sam Altman, a admis en février que « ChatGPT présente des lacunes en matière de biais » et a déclaré que son entreprise « travaillait à son amélioration ».
Musk a cofondé OpenAI en 2015, mais a quitté le conseil d’administration de la société en 2018. Musk a déclaré qu’il avait quitté l’entreprise en partie parce qu’elle était à la recherche de profits et qu’elle ne servait pas de « contrepoids » open-source à Google.
OpenAI s’est retrouvée dans le collimateur d’une lettre ouverte publiée la semaine dernière appelant à une pause de six mois sur la recherche dans les laboratoires d’IA, affirmant spécifiquement que les systèmes plus puissants que le GPT-4 devraient être arrêtés.
« Les systèmes d’IA dotés d’une intelligence compétitive avec celle des humains peuvent présenter des risques profonds pour la société et l’humanité, comme le montrent des recherches approfondies et comme le reconnaissent les principaux laboratoires d’IA », peut-on lire dans la lettre ouverte publiée par l’organisation à but non lucratif Future of Life.
Cette lettre a été signée par plus de 2 000 experts en technologie, dont M. Musk et Steve Wozniak, cofondateur d’Apple, ainsi que par des professeurs du monde entier et d’autres personnes. Ils demandent une pause pour permettre aux laboratoires d’intelligence artificielle et aux décideurs politiques de créer des garanties et des règles sur l’intelligence artificielle.
