Éthique et IA : ce qu'il faut vraiment savoir

Quand on parle d'éthique de l'IA, beaucoup pensent que c'est un sujet réservé aux experts, aux philosophes, ou aux ingénieurs des grandes entreprises. C'est faux. Chaque fois que vous utilisez ChatGPT, que vous voyez une publicité ciblée, que vous traversez un péage avec lecture automatique de plaque, vous êtes dans le champ d'application de l'éthique de l'IA. Vous êtes concerné(e) en tant qu'utilisateur, en tant que citoyen, et en tant qu'humain. L'éthique de l'IA, c'est l'ensemble des questions que pose cette technologie : qui décide ? Au profit de qui ? Avec quelles conséquences ? Pour qui ? Avec quels recours en cas d'abus ? Ces questions ne sont pas techniques. Elles sont politiques et morales, et leurs réponses dépendront du regard de chacun. Nous allons aborder six grandes questions dans cette formation : Les biais : comment l'IA hérite et amplifie nos préjugés. La vie privée : ce que l'on partage sans s'en rendre compte. La désinformation : pourquoi l'IA rend plus difficile la distinction vrai/faux. Le travail : qui gagne et qui perd dans cette transition. La concentration de pouvoir : qui possède réellement l'IA mondiale. Devenir un usager averti, capable de juger. Un parti pris assumé de ce cours : nous ne cherchons pas à vous faire peur ni à vous rassurer. Nous voulons vous donner les éléments pour penser par vous-même. Ce qui se joue avec l'IA est trop important pour qu'on s'en remette aux experts.

Première idée à comprendre : une IA n'est pas neutre. Elle est entraînée sur d'immenses quantités de textes, d'images, de données produites par des humains. Et ces données portent en elles tous les biais de la société qui les a produites. Exemples concrets et documentés. En 2018, Amazon a abandonné un outil d'IA censé trier les CV des candidats. Pourquoi ? L'IA avait appris, à partir des CV historiques d'Amazon (très majoritairement masculins), à écarter systématiquement les CV de femmes. Sans qu'on lui demande. Le biais était dans les données. En 2020, plusieurs systèmes de reconnaissance faciale aux États-Unis se sont révélés beaucoup plus précis sur les visages d'hommes blancs que sur les visages de femmes noires (taux d'erreur 10 fois supérieur). La raison : les bases d'entraînement contenaient majoritairement des hommes blancs. En 2023, une étude française a montré que ChatGPT, quand on lui demandait d'imaginer un PDG, un ingénieur, un chirurgien, proposait des hommes dans 8 cas sur 10. Pour une infirmière ou une maîtresse d'école, c'était l'inverse. Les biais peuvent toucher : le genre, l'origine ethnique, l'âge, le handicap, l'orientation sexuelle, la classe sociale, l'opinion politique. Ils sont rarement intentionnels (les ingénieurs de bonne foi n'ajoutent pas du sexisme à la main), mais ils sont massifs et réels. Un cas où ça touche directement : les algorithmes utilisés par les banques pour évaluer un dossier de prêt, ou par les compagnies d'assurance pour calculer les primes. Une étude britannique de 2024 a montré que les algorithmes refusaient plus souvent les prêts dans les quartiers populaires, sans que les facteurs économiques l'expliquent entièrement. C'est un biais qui frappe les plus fragiles. Que faire en tant qu'usager ? Premièrement : ne pas prendre les réponses d'une IA pour vérité, surtout sur des sujets qui concernent des personnes ou des groupes. Deuxièmement : se renseigner — quand un service utilise de l'IA pour prendre une décision qui vous concerne (refus de prêt, refus d'assurance), demandez explicitement comment cette décision est prise, et exigez un recours humain (vous y avez droit en Europe).

Quand vous utilisez ChatGPT, Claude, Gemini, vous partagez beaucoup plus que vous ne le pensez. Une conscience claire de ce qui se passe permet de faire des choix éclairés. Ce qui est collecté (par défaut) : Le contenu de vos conversations. Votre adresse IP (qui indique grossièrement où vous êtes). Le type d'appareil utilisé (téléphone, ordinateur, modèle). La durée et l'heure de chaque session. Pour les versions payantes : votre nom et votre adresse email. Ce à quoi sert cette collecte : Améliorer l'IA elle-même : vos conversations peuvent servir à entraîner les futures versions. Détecter les abus (mots-clés liés à la violence, à l'exploitation d'enfants…). Mesurer l'engagement et personnaliser certaines fonctionnalités. Ce que vous pouvez faire : Désactiver l'option « améliorer le modèle avec vos conversations » dans les réglages. Pour ChatGPT : cliquez sur votre nom en bas à gauche → Paramètres → Contrôles des données → désactivez « Améliorer le modèle pour tout le monde ». Vos conversations futures ne serviront plus à l'entraînement. Utiliser le mode « conversation temporaire » : disponible sur ChatGPT, il efface la conversation dès que vous la fermez. Utile pour les sujets sensibles. Ne jamais donner d'informations identifiantes : nom complet, adresse, numéro de sécurité sociale, numéro de carte bancaire, mots de passe, codes confidentiels. Utiliser des services européens quand c'est possible : Mistral / Le Chat est hébergé en France, soumis au RGPD. Pour les usages vraiment sensibles (santé personnelle, sujets intimes, finances), une bonne règle : utilisez Mistral / Le Chat plutôt que les services américains. Vos données restent en Europe et bénéficient du RGPD. Pourquoi tout cela compte ? Parce que les données collectées aujourd'hui peuvent être utilisées demain par des entreprises, des gouvernements, ou des cybercriminels, dans des contextes qu'on ne peut pas anticiper. La règle de prudence : moins on partage, mieux c'est. L'IA marche très bien avec un minimum d'informations.

L'IA générative a transformé le problème de la désinformation. Pas en l'aggravant nécessairement — mais en le déplaçant. Ce qui change vraiment. Avant 2023, créer un faux article, une fausse vidéo, une fausse photo demandait du temps, des compétences techniques, et souvent une équipe. C'était cher. Aujourd'hui, n'importe qui peut générer en quelques minutes : un faux article ressemblant à du Le Monde, une fausse photo de Macron, une fausse vidéo où vous prononcez un discours. Le coût marginal d'une fausse information a chuté à zéro. Les conséquences pratiques : Les arnaques se multiplient (voir cours 12). Les campagnes de désinformation politique deviennent industrielles : une étude française de 2025 a montré qu'environ 30 % des contenus politiques viraux sur X (Twitter) étaient générés par IA pendant les élections européennes 2024. Les rumeurs locales (incendie, agression, crise sanitaire) peuvent être fabriquées de toutes pièces, partagées sur les groupes WhatsApp de quartier, avec photos et vidéos « preuves » qui sont fausses. Les escroqueries sentimentales (faux profils sur les sites de rencontre) deviennent extrêmement crédibles. Mais — et c'est important — il y a aussi une bonne nouvelle. L'IA est aussi un outil pour détecter le faux. Des services comme InVID, Reverse Image Search (Google Images, TinEye), ou simplement ChatGPT lui-même peuvent vous aider à vérifier si une photo a déjà été publiée ailleurs, si un article correspond à un site reconnu, si une vidéo présente des incohérences. Les bons réflexes à adopter : Avant de partager une information sensationnelle, attendez 24 h. Si c'est vrai, ce sera confirmé par d'autres sources. Si c'est faux, ça sera démenti. Vérifiez la source primaire. Pas l'article qui résume — l'article original. Sur Google Images, faites « clic droit → rechercher cette image ». Si elle apparaît dans des contextes contradictoires, méfiance. Pour les vidéos « choc », cherchez des images-clés (extraits) dans Google. Si vous trouvez la vidéo originale dans un autre contexte, c'est un signal fort. Un site qui demande « partagez avant qu'ils ne le suppriment » est presque toujours un faux. Le pire effet de la désinformation à l'IA n'est pas que nous croyions à des faussetés (nous nous en méfions de plus en plus). C'est que nous finissions par ne plus rien croire — y compris les vraies informations. Le doute généralisé sert ceux qui veulent paralyser le débat public. Maintenir la confiance dans des sources sérieuses, c'est un acte civique.

L'IA va transformer le marché du travail. Pas comme certains le prétendent (« 50 % des emplois disparaîtront »), pas comme d'autres l'espèrent (« tout va bien se passer »). La réalité est plus nuancée — et elle se joue maintenant. Les métiers les plus touchés à court terme (2025-2027) : Traduction et interprétation simple. Comptabilité et gestion administrative de base. Service client de premier niveau (chatbots). Rédaction journalistique standardisée (résumés, dépêches, articles SEO). Création graphique de base (logos simples, illustrations). Analyse de données de niveau 1. Les métiers en partie protégés : Tous ceux qui nécessitent une présence physique : soin, artisanat, restauration, agriculture, construction, sport. Ceux qui exigent une forte créativité ou un jugement humain : enseignement, soin de la personne, travail social, métiers du droit complexe. Ceux où la responsabilité humaine est essentielle : médecine, justice, sécurité. La question importante n'est pas seulement « quels métiers » mais « qui en bénéficie ». Et là, les premières observations sont préoccupantes. Les économistes ont montré en 2024 que l'IA accélère les inégalités : les travailleurs très qualifiés deviennent encore plus productifs avec l'IA, tandis que les travailleurs intermédiaires voient leur valeur sur le marché diminuer (l'IA les remplace en partie). Les très peu qualifiés sont relativement protégés (les métiers de présence sont moins touchés). Résultat : la classe moyenne fragilisée, les extrêmes maintenus. Un autre aspect peu discuté : la concentration mondiale. Les profits de l'IA enrichissent essentiellement une dizaine d'entreprises (toutes américaines ou chinoises). Très peu de retombées en Europe, où la valeur est consommée mais pas produite. Quels recours en tant que citoyen ? Soutenir politiquement les régulations européennes (l'AI Act voté en 2024 est un premier pas). Encourager le développement d'IA souveraines européennes (Mistral en est l'exemple le plus connu en France). Encourager les enfants et petits-enfants à investir dans les compétences que l'IA ne remplacera pas de sitôt : pensée critique, capacités relationnelles, métiers de présence. Un message d'espoir : la transformation est profonde mais lente. Plus lente que ce qu'annoncent les optimistes comme les pessimistes. Cela laisse le temps de s'adapter, à condition de ne pas dormir.

Quand vous utilisez ChatGPT, vous utilisez le produit d'OpenAI, une entreprise américaine fondée en 2015. Cinq autres entreprises dominent l'IA mondiale : Microsoft, Google, Meta, Anthropic, et le chinois Baidu / Tencent / ByteDance pour le marché asiatique. Ces entreprises ont accumulé un pouvoir sans précédent dans l'histoire : Une seule entreprise (OpenAI) parle à 500 millions d'utilisateurs par semaine. Une seule entreprise (Google) décide ce qui apparaît en premier quand on cherche une information. Une seule entreprise (Meta) façonne en partie ce que voient 3 milliards de personnes sur Facebook et Instagram. C'est un pouvoir de représentation du monde. Ce que l'IA dit, ce qu'elle filtre, ce qu'elle valorise, façonne notre vision des choses. Quand vous demandez à ChatGPT « qu'est-ce qu'un bon livre sur la Guerre d'Algérie ? », elle vous oriente — et ses orientations ne sont pas neutres. Quelques questions à se poser : Qui finance OpenAI ? Principalement Microsoft (13 milliards de dollars investis). Donc OpenAI dépend en partie de Microsoft. Qui contrôle Anthropic ? Des fonds américains, dont une part importante venue de l'aile « altruisme efficace » de la Silicon Valley. Qui décide des règles que ChatGPT applique (ce qu'il refuse de dire, ce qu'il met en avant) ? Une équipe d'OpenAI à San Francisco. Pas de votre élu local, ni de votre voisin. L'Europe a tenté de réagir avec l'AI Act voté en 2024. Ce texte impose des règles aux systèmes d'IA utilisés en Europe (transparence, droit au recours humain, interdiction des usages les plus invasifs). C'est un premier pas, mais il est faible face à la puissance économique des géants américains. En pratique, en tant qu'usager européen, vous pouvez : Préférer Mistral / Le Chat (IA française, hébergée en France) pour vos usages sensibles. Utiliser plusieurs IA différentes, pour ne pas dépendre d'une seule entreprise. Soutenir politiquement le développement d'IA européennes et l'application stricte du RGPD et de l'AI Act. La question dépasse de loin l'usage personnel. Elle est démocratique : qui décide de ce qui circule dans l'espace public mondial ? Aujourd'hui, c'est une demi-douzaine d'entreprises basées dans deux pays. Demain, ce sera peut-être plus diversifié — si on le veut.

Pour conclure, voici sept habitudes simples qui font, à elles seules, la différence entre un usager naïf et un usager averti. Habitude 1 — Ne jamais prendre une réponse d'IA pour parole d'évangile. Si la réponse vous engage (santé, argent, juridique, relations), croisez toujours avec une source humaine ou une source officielle. Habitude 2 — Vérifier avant de partager. Pas de partage compulsif d'images ou de vidéos « choquantes ». Vérifier d'abord (Google Images inversée, contexte, source). Habitude 3 — Préférer les IA européennes pour le sensible. Le Chat (Mistral) pour les sujets santé, intimes, juridiques, financiers. Vos données restent en Europe. Habitude 4 — Désactiver l'amélioration du modèle dans les paramètres. Tout de suite, dans tous les outils utilisés. Cela limite fortement la collecte. Habitude 5 — Ne jamais donner d'informations identifiantes. Pas de nom complet, pas de numéro de sécu, pas de carte bancaire, pas de nom d'enfants. L'IA marche très bien avec « ma fille », « mon médecin », « ma banque ». Habitude 6 — Demander un recours humain pour les décisions automatisées qui vous concernent. Refus de prêt, refus de mutuelle, refus de location : vous avez droit à une explication et à un examen humain en Europe. Demandez-le explicitement. Habitude 7 — Discuter, partager, transmettre. Parlez de l'IA à vos enfants, à vos voisins, à votre médecin. C'est en discutant qu'on construit ensemble une culture de l'usage averti. Une démocratie ne tient que si ses citoyens comprennent les outils qui les façonnent. Un dernier mot. Les questions soulevées par l'IA sont importantes mais elles ne sont pas nouvelles. Ce sont les vieilles questions politiques : qui détient le pouvoir, qui en bénéficie, qui peut le contester. Les techniques changent, les principes restent les mêmes. Vous avez toutes les ressources nécessaires — votre expérience, votre jugement, votre attachement à certaines valeurs — pour aborder ces sujets avec sérieux. Ne déléguez ni votre attention, ni votre conscience.