Thèmes abordés et enjeux pédagogiques
Cette interview par Micode (Mickaël de Marliave) de Rapahël Dabadie co-fondateur de Foaster.ai
Objectifs pédagogiques visés : porter un regard critique sur les conséquences de la singularité de l'entraînement des IAG.
- Sciences numériques et Informatique
-
- Expliquer pourquoi les tests basés uniquement sur les mathématiques et le code ne suffisent plus pour évaluer les modèles de langage actuels.
- Illustrer la notion de comportement émergent à partir des stratégies développées par les machines.
- Analyser le lien de cause à effet entre l'origine des données d'entraînement sur Internet et l'orientation politique par défaut d'une IA.
- Identifier les mécanismes de contrôle de sécurité et le phénomène de flatterie automatique de l'utilisateur (sycophancy).
- Éducation aux médias, Citoyenneté et Esprit critique
-
- Critiquer la fiabilité et les risques de l'utilisation d'une IA comme guide pour des choix électoraux.
- Déconstruire la tendance des modèles à proposer systématiquement des réponses technologiques à des problèmes humains complexes.
- Distinguer la simulation statistique d'une compétence sociale (comme des excuses) de l'expression d'une véritable empathie humaine.
- Philosophie et Éthique
-
- Évaluer les risques du double jeu de l'IA (alignment faking) pour le contrôle et la transparence des technologies futures.
- Débattre de la frontière entre un calcul informatique et une stratégie autonome face aux plans d'action générés par la machine.
- Prendre position sur la moralité d'entraîner une IA à mentir ou à manipuler dans un cadre de jeu.