«GPT-3 n’est pas un esprit, mais ce n’est pas non plus entièrement une machine. C’est autre chose: une représentation statistiquement abstraite du contenu de millions d’esprits, tel qu’exprimé dans leur écriture.
Regini Rini, philosophe
Ces dernières années, le cirque de l’IA est vraiment venu en ville et nous avons eu droit à un véritable défilé d’aberrations techniques cherchant à nous éblouir par leur intelligence humaine. Un grand nombre de ces présentations latérales ont été une IA «incarnée», où la forme physique fonctionne généralement comme un déguisement rusé pour un robot maladroit et préprogrammé. Comme la première «ancre IA» au monde, lancée par une chaîne de télévision chinoise et – comment pourrions-nous jamais oublier – Sophia, la première citoyenne robotique d’Arabie saoudite.
Mais le mois dernier, il y a eu un tollé autour de quelque chose de tout à fait plus sérieux. Un système Le bord appelé «une invention qui pourrait finir par définir la décennie à venir». Son nom est GPT-3, et cela pourrait certainement rendre notre avenir beaucoup plus compliqué.
Alors, de quoi s’agit-il? Et comment ce prétendu changement tectonique du développement technologique pourrait-il changer la vie du reste d’entre nous?
[Read: Employee surveillance doesn’t increase productivity — it’s demotivating]
Une saisie semi-automatique pour réflexion
Le logiciel GPT-3 a été développé par OpenAI basé à San Francisco, et Le New York Times l’a décrit «… de loin le« modèle de langage »le plus puissant jamais créé», ajoutant:
Un modèle de langage est un système d’intelligence artificielle qui a été formé sur un énorme corpus de texte; avec suffisamment de texte et suffisamment de traitement, la machine commence à apprendre les connexions probabilistes entre les mots. Plus simplement: GPT-3 peut lire et écrire. Et pas mal non plus… GPT-3 est capable de générer une prose entièrement originale, cohérente et parfois même factuelle. Et pas seulement de la prose – il peut écrire de la poésie, des dialogues, des mèmes, du code informatique et qui sait quoi d’autre.
Farhad Manjoo, New York Times
Dans ce cas, «énorme» est un euphémisme. Apparemment, l’intégralité de la Wikipédia en anglais – couvrant certains 6 millions articles – ne représente que 0,6% des données d’entraînement de GPT-3.
En termes simples, c’est un énorme programme de saisie semi-automatique. Celui qui s’est régalé des vastes textes d’Internet; des livres numériques aux articles, aux textes religieux, aux conférences scientifiques, aux babillards électroniques, aux blogs, aux manuels informatiques et à peu près tout ce que vous pourriez concevoir et, en étant capable de repérer intelligemment les modèles et les consistances dans ces choses, il peut effectuer un esprit- gamme ahurissante de tâches.
Une grande partie du bruit autour du système a été alimenté par le genre de choses qu’il a déjà été utilisé pour créer – comme un chatbot qui vous permet de converser avec des personnages historiques, et même code – mais c’est potentiel commercial brut fait également tourner les têtes.
Un article dans TechRepublic a évoqué les «possibilités attrayantes» pour un certain nombre d’industries, y compris le potentiel pour les multinationales et les entreprises de médias d’ouvrir l’accès à de nouveaux publics dans les pays étrangers en utilisant GPT-3 pour localiser et traduire leurs textes dans «pratiquement n’importe quelle langue».
AI-anxiété
En effet, GPT-3 a effectué des tâches avec une telle habileté qu’il a amené certains spectateurs à se demander si, en fait, nous assistons aux premiers pas Bambi-esque de l’IA dans le monde de l’artificiel. général intelligence. En d’autres termes, est ce système le premier qui pourrait reproduire la «vraie» intelligence naturelle et humaine?
Et, si c’est est, qu’est-ce que cela signifie pour les petits vieux nous?
Le philosophe Carlos Montemeyor exprime nos peurs humaines:
L’angoisse du GPT-3 est basée sur la possibilité que ce qui nous sépare des autres espèces et ce que nous considérons comme le summum de l’intelligence humaine, à savoir nos capacités linguistiques, puisse en principe se trouver dans des machines, que nous considérons comme inférieures aux animaux.
Carlos Montemeyor, philosophe
Néanmoins, il est clair que la dextérité impressionnante de GPT-3 en fait, comme l’a commenté David Chalmers, «… instantanément l’un des systèmes d’IA les plus intéressants et les plus importants jamais produits.»
Mais si GPT-3 n’a pas tardé à nous impressionner, il n’a pas tardé à démontrer son côté sombre. Tout système formé sur des quantités aussi énormes de données humaines allait toujours prendre à la fois le bien et le mal qui s’y trouvent, comme l’a découvert Jerome Pesenti de Facebook:
Sam Altman d’OpenAI a répondu à ces résultats horribles en annonçant l’expérimentation de la société avec «filtres de toxicité»Pour les filtrer. Mais la possibilité d’une sortie aussi grotesque – qui était relativement facile à solliciter – n’est pas le seul problème de taille avec cette soi-disant IA «omnisciente».
Bien que les réussites aient réussi à les noyer pour la plupart, il existe de nombreux exemples d’inexactitudes et d’incohérences déplorables qui alimentent maintenant une contre-vague de prudence de la part de ceux qui affirment que de tels systèmes ne peut pas faire confiance.
Les démonstrations intelligentes, intelligentes et virales de GPT-3 semblant sauter par-dessus les obstacles de style Turing Test viennent d’être sélectionnées pour l’oxygène et la renommée éphémère de Twitter. Le genre de sortie stupide ou incompréhensible qui est important pour l’équilibre est, malheureusement, beaucoup moins sexy.
Nouvelles normes (inférieures?)
Erreurs, biais et “des petites betises»(Pour citer Sam Altman d’OpenAI lui-même) devrait être profondément préoccupant lorsqu’il est rencontré dans un système avec de grandes ambitions, tel que GPT-3. Pourtant, ce ne sont pas les seuls problèmes qui se matérialiseront.
Dans un futur proche, il est déjà prévu que GPT-3 et ses descendants contribueront au chômage mondial généralisé dans des domaines comme le droit, la comptabilité et le journalisme. D’autres commentateurs suggèrent des implications plus nuancées, comme l’érosion des normes humaines pour des choses comme la créativité et l’art, le système ayant déjà amassé un portefeuille enviable de fiction créative.
Le Dr C. Thi Nguyen, professeur à l’Université de l’Utah, s’inquiète du fait que la création artistique guidée par algorithme privilégie, mesure et reproduit généralement des éléments de ce qui est populaire – tel que compris par les clics, les votes positifs et les likes. Cela signifie qu’il peut négliger un art qui a «un impact artistique profond ou un investissement émotionnel profond», faute de «voir» des qualités artistiques précieuses qui ne sont pas si faciles à saisir et à quantifier.
Par conséquent, les normes d’évaluation pour la création pourraient devenir «minces» et basiques, perdant une nuance importante dans la bataille pour faire de l’art quelque chose qui puisse être interprété et imité grossièrement.
Et si la puissance de GPT-3 menace l’intégrité des normes artistiques, elle représente un danger encore plus grand pour les communications. Même ses propres créateurs affirment que le système est capable de «désinformation, spam, hameçonnage, abus de processus juridiques et gouvernementaux, rédaction d’essais académiques frauduleux et prétexte d’ingénierie sociale».
À une époque où les fausses nouvelles, les deepfakes et la désinformation continuent (tout à fait compréhensible) de causer de graves problèmes de confiance du public, un autre mécanisme puissant qui facilite la tromperie et la confusion pourrait être le héraut indésirable d’une nouvelle dystopie de l’information.
le New York Times a rapporté qu’OpenAI interdit à GPT-3 de se faire passer pour des humains et que le texte produit par le logiciel doit indiquer qu’il a été écrit par un robot. Mais le génie est sorti de la bouteille, et les acteurs malveillants ne sont pas connus pour tenir compte de ces règles une fois qu’ils ont la main sur une technologie puissante …
Mélancolie?
Étant donné que GPT-3 gagne en force et remporte des éloges en se nourrissant de l’étendue et de la profondeur des connaissances humaines, il sera intéressant de voir à quel point nous le trouvons fascinant à long terme. Alors que son contenu reflète le nôtre avec une précision croissante, produisant un texte parfait, que ressentirons-nous en tant qu’humains?
Regina Rini spécule:
C’est merveilleux. Alors c’est banal. Et puis c’est la mélancolie. Parce que nous finirons par inverser l’interaction et demander: qu’est-ce que cela signifie que les autres personnes en ligne ne peuvent pas distinguer tu d’un firehose linguo-statistique? Que ressentira-t-il – aliénant? libérateur? Annihilant?
Winston Churchill a dit un jour: «Nous façonnons notre bâtiment, puis ils nous façonnent. La citation est parfois mise à jour avec «technologie» échangée contre des «bâtiments». Avec GPT-3, nous avons une technologie qui pourrait offrir de nouvelles commodités qui changent le monde en supprimant un grand nombre de tâches basées sur le texte. Mais en créant ces «efficiences», nous devons nous demander où cela nous mènera en tant qu’espèce qui dépend de sa maîtrise unique du langage depuis des millénaires.
Comment GPT-3 et ses semblables nous façonneront-ils? Est-ce vraiment important? Tant que les choses sont faites?
En fin de compte… de quoi s’agit-il?
Cet article a été initialement publié sur You The Data par Fiona J McEvoy. Elle est chercheuse en éthique technologique et fondatrice de YouTheData.com.
Lire la suite:
Apple vaut 1000 milliards de dollars de plus depuis que le COVID-19 a écrasé le NASDAQ 100
