Trois risques concrets des modèles de langage

Problèmes de fiabilité. Propagation de fausses informations. Exacerbation des préjugés. Dangers pour la sécurité ou la fuite de données, utilisation à des fins malveillantes, manipulation des opinions : de nombreux risques des modèles de langage ont été abordés lors du séminaire. En voici trois.

« ChatGPT, peux-tu travailler à la Bibliothèque de l’Assemblée nationale? » – Assnat

Au printemps 2023, la Bibliothèque de l’Assemblée nationale s’est penchée sur les usages possibles de ChatGPT dans un contexte professionnel et sur la pertinence pour ses différents services de recourir à cet agent conversationnel. Après une période d’expérimentation qui s’est déroulée sur environ 4 mois, 8 types de tests et 70 essais, le Groupe de … Continuer la lecture

L’UNESCO dénonce le sexisme des contenus d’intelligence artificielle – LeDevoir

Dans les contenus produits par l’intelligence artificielle (IA), les femmes se voient plus fréquemment attribuer des rôles de domestiques, de cuisinières et de prostituées, tandis que les hommes sont incarnés en enseignants, en médecins ou en ingénieurs. C’est ce que dévoile une étude de l’UNESCO qui met en garde le public et les concepteurs d’intelligence … Continuer la lecture