Politique relative à l’intelligence artificielle générative

Depuis la publication de l'intelligence artificielle générative (IA générative) en libre accès fin 2022, les établissements d'enseignement sont confrontés à une forme de technologie en évolution rapide qui pose des questions fondamentales sur la connaissance, l'évaluation et l'apprentissage. Une enquête de l'UNESCO a révélé que moins de 10 % des 450 établissements scolaires et des universités interrogés avaient mis en place des politiques ou des orientations concernant l'utilisation de l'intelligence artificielle générative.
Durant l'été, l’Ecolint a participé au lancement mondial du Rapport mondial de suivi sur l'éducation 2023 et a participé et suivi de près la Semaine de l'apprentissage numérique de l'UNESCO en septembre. Cela nous a permis de suivre l'évolution des réponses éducatives mondiales à l’IA générative et de bénéficier de l'aide d'experts pour définir notre position en tant qu'école. Après plusieurs itérations et une collaboration avec des spécialistes, nos
propres partenaires technologiques et l'UNESCO, l’Ecolint a élaboré une déclaration de politique générale.

Publié
27 September 2023

Politique relative à l'intelligence artificielle générative

Politique de la Conférence des Directeurs élaborée avec l'aide des ICT campus partners et de spécialistes de l'UNESCO - septembre 2023

Préambule

L'objectif de la présente politique est d’exposer l'approche de l'Ecolint en matière d'intelligence artificielle générative (IA générative) dans un cadre éducatif. Elle peut s’appliquer à toute tranche d'âge où la technologie est intégrée à l'apprentissage. Étant donné la nature rapidement évolutive de l'intelligence artificielle générative, cette politique sera révisée régulièrement afin de garantir que toute adaptation potentielle n’en altère pas la conformité avec notre philosophie et nos valeurs éducatives.

D’une manière générale, l’Ecolint souscrit à la vision exposée par l'UNESCO dans son Guide. L’IA générative doit être utilisée dans des contextes éducatifs afin d’améliorer l'apprentissage, de renforcer la compréhension de nos élèves vis-à-vis du rôle de la technologie dans le développement et la diffusion de la connaissance ainsi que pour évaluer les limites, les pièges et les dangers qu'elle comporte. La technologie n'est pas le point d'aboutissement de notre réflexion, elle en est le point de départ.

L’IA générative permet aux élèves et aux enseignants-es d'accéder à l'information et de la synthétiser rapidement, mais elle ne doit pas supplanter la pensée critique et créative. Tous les éducateurs et toutes les éducatrices doivent être conscient(e)s du fait que, dès lors qu'elle s’appuie sur des normes statistiques, la partialité, les généralisations excessives, les simplifications et les erreurs peuvent être reproduits et amplifiés. Par conséquent, les enseignants-es et les élèves de l'Ecolint doivent toujours utiliser l’IA générative avec prudence et esprit critique, sans oublier les aspects plus subtils et multiples de la connaissance, et notamment les opinions des minorités.

L'utilisation de la technologie dans les espaces d'apprentissage de l’Ecolint doit toujours être examinée à la lumière de trois questions fondamentales que les enseignants-es peuvent se poser lorsqu'ils ou elles sont sur le point de préparer des cours et des devoirs :

  1. Comment la technologie sera-t-elle utilisée pour améliorer l'apprentissage humain ?
  2. Quelles sont les implications éthiques1 de cette utilisation de la technologie ?
  3. Comment les élèves réfléchiront-ils au rôle de la technologie dans leur apprentissage ?    
     

L’IA générative, ainsi que d'autres formes de technologies puissantes, peuvent être utilisées pour améliorer la planification et l'évaluation des enseignants-es et des administrateurs-trices.

Conformément aux orientations de l'UNESCO et à la présente politique, ce recours aux technologies doit servir à améliorer la qualité tout en respectant les limites éthiques (telles que la propriété intellectuelle, la protection des données, le filtrage des contenus inappropriés). Enfin, l’IA générative doit s’inscrire dans un registre plus large du développement des compétences : les élèves de l’Ecolint sont formés pour apprendre tout au long de leur vie, pour développer leur autonomie, pour interagir avec les autres - à l’aide de divers outils et ressources (tels que la technologie) - et avec l'environnement de manière à développer des compétences multiples et une pensée transdisciplinaire. L’IA générative est un moyen de parvenir à ces fins et devrait être vue et utilisée comme telle. 

Utiliser l'intelligence artificielle générative pour l'apprentissage

  1. L'IA générative (grands modèles de langue [Large Language Models, LLM] tels que ChatGPT, Bard, Alpaca, ChatPDF, Elicit, Perplexity, Chatsonic, Ernie et Claude - pour n'en citer que quelques-uns) est

    une technologie d'intelligence artificielle (IA) qui génère automatiquement du contenu en réponse à des invites rédigées dans des interfaces conversationnelles en langage naturel. Plutôt que de se contenter de traiter des pages web existantes, en s'appuyant sur le contenu existant, l’IA générative produit en fait du nouveau contenu. Celui-ci peut apparaître dans des formats qui comprennent toutes les représentations symboliques de la pensée humaine : textes écrits en langage naturel, images (y compris les photographies, les peintures numériques et les dessins animés), vidéos, musique et code logiciel. L’AI générative est formée à partir de données collectées sur des pages web, des conversations dans les médias sociaux et d'autres médias en ligne. Elle génère son contenu en analysant statistiquement la distribution des mots, des pixels ou d'autres éléments dans les données qu'elle a ingérées et en identifiant et répétant des modèles communs (par exemple, quels mots suivent généralement quels autres mots) (UNESCO, p.8)  
     
  2. Il est entendu que tous les apprenants et toutes les apprenantes2 ont accès à ces technologies, à la maison et, sous la direction et la supervision de l'enseignant-e, à l'école.  
     
  3. Les enseignants-es sont encouragé(e)s à utiliser l'IA et l’IA générative en classe avec leurs élèves (sous réserve de restrictions d'âge) afin de promouvoir une utilisation éthique, critique et créative de cette ressource et de familiariser les élèves avec celle-ci afin qu'ils puissent l'utiliser efficacement dans des situations de la vie réelle. Exemples d'utilisation de l'IA ou de l’IA générative :
    1. trouver des erreurs dans le codage informatique ou les formules des feuilles de calcul ;
    2. générer des réponses d'examen et demander ensuite aux élèves d'évaluer la réponse par rapport à des grilles ;  
    3. trouver des exemples concrets de concepts/théories abstraits qui pourront ensuite être intégrés dans les réponses des élèves ;  
    4. constituer un recueil d'exemples pouvant être utilisés pour illustrer des propos ;  
    5. produire de longs textes qui peuvent ensuite être soumis à la critique des élèves individuellement ou en groupes ;  
    6. générer des invites précises qui peuvent être introduites dans l’IA générative, puis analyser les résultats de manière critique et pédagogique ;  
    7. analyser de manière critique les images générées par l’IA générative et discuter de la manière dont elles pourraient être améliorées.   
       
  4. Les enseignants-es doivent discuter de l'IA et de l’IA générative avec les élèves afin de favoriser un jugement critique de la manière dont l'information est recueillie et transmise par l'IA et dont le sens est produit par algorithme - avec, notamment, les erreurs qui peuvent en découler3. Ces conversations doivent être adaptées à l'âge des élèves.  
     
  5. Les élèves peuvent citer l'IA et l’IA générative comme source dans leurs productions écrites et orales, mais ils doivent veiller à se référer à diverses sources et pas seulement à l'IA ou à l’IA générative4.  
     
  6. Tous les ans, les ICT Campus Partners organiseront une série de sessions de formation pour les enseignants-es sur la manière d'intégrer au mieux l’IA générative dans l'apprentissage. Une grande partie du contenu de ces formations s'inspirera du Guide de l'UNESCO sur l'intelligence artificielle générative/UNESCO Guidance for Generative Artificial Intelligence (une ressource appelée à évoluer).  
     
  7. Lorsque les enseignants-es permettent aux élèves d'accéder au web dans le cadre de leur apprentissage, il est entendu que cela inclut l’IA générative, en fonction de l'âge.  
     
  8. L'esprit de l'utilisation de l'IA et/ou de l’IA générative est de stimuler la pensée créative, éthique et critique, mais une pensée qui appartient à l'élève et non pas de générer    
    simplement une réponse ou un produit complet en utilisant l'IA ou l’IA générative de manière à remplacer la pensée de l'élève par des réponses de la machine.  
     
  9. Les évaluations sommatives et externes reposant sur un examen qui ne sont pas réalisées dans des conditions d’examens doivent être systématiquement contrôlées5 pour en vérifier le contenu généré par IA. Les élèves doivent être sensibilisé(e)s à cette question par leurs enseignants-es, les responsables de classe ou les directeurs-trices adjoint(e)s académiques.  
     
  10. Les politiques d'intégrité académique des écoles doivent être régulièrement revues afin de refléter les possibilités et les problématiques liées à l'IA6.  
     
  11. Toute action exigeant des élèves qu'ils ou elles créent des comptes auprès de services numériques, y compris les plateformes d'IA générative, doit faire l'objet d'une discussion avec le ICT Campus Partner.


Sources :    
Giannini, S. (2023). Generative AI and the future of education. UNESCO.    
Miao, F., Holmes, W., Huang, R. et Zhang, H. (2021). IA et éducation: guide pour les décideurs politiques. UNESCO.    
UNESCO (2023). UNESCO Guidance for Generative Artificial Intelligence    
 


1 Par exemple : propriété intellectuelle, protection des données, détection des contenus inappropriés    
2 Certains systèmes (Chatgpt, Bard, Claude) imposent une limite d’âge pour accéder à leur interface : généralement 13 ans, mais cela peut varier d’un pays à l’autre.    
3 L'éthique et les questions relatives aux préjugés sexistes et raciaux peuvent aussi constituer un aspect important de ces discussions : https://www.ajl.org     
4 Certains systèmes de référence exigent la citation des sources de l'IA (cf. https://style.mla.org/citing- generative-ai/, https://apastyle.apa.org/blog/how-to-cite-chatgpt et https://camosun.libguides.com/ai/citation.     
5 Il existe un certain nombre de détecteurs (https://www.turnitin.com/solutions/ai-writing) mais il existe également de nombreux moyens simples et gratuits de les contourner, tels que https://undetectable.ai/?via=t9v9g. Il s'agit d'une pression créative importante que les membres du personnel doivent analyser et discuter avec les élèves.     
6 Cette responsabilité incombe à la Directrice ou au Directeur de l'éducation.