L’intelligence artificielle, une nouvelle révolution ?


9h15

Conférence
Éthique,
sciences et
intelligence artificielle

L’intelligence artificielle, une nouvelle révolution ?
par Jean-Philippe DOMENGER, professeur à l’Université de Bordeaux
modérateur : Célestin SEDOGBO, directeur de l’Institut Carnot Cognition

Ecouter la conférence – ci-dessous le plan

L’IA est née de l’idée de créer des machines capables de penser comme des humains. Depuis ses premiers pas avec les idées d’Alain Turing en 1940, elle est devenue omniprésente dans notre vie. Quels bouleversements crée-t-elle ? Quel est son impact sur l’homme et la société ? Comment pouvons nous agir pour qu’elle soit bénéfique et atténuer ses inconvénients ?

L’évolution de l’IA
Pourquoi, aujourd’hui, tous ces usages de l’IA ?
  • Développements scientifiques matures
  • Disponibilité des données
  • Progrès technologiques
  • Attente des utilisateurs
  • Investissement (marché de plus de 118 milliards d’euros en 2022 ; Prévision d’investissement de 13 500 milliards de d’euros d’ici 2030 ; bénéfice attendu de 90 milliards d’euros dès 2025)
L’IA : réalité et mythes !
  • Les types d’IA
    • IA faible : elle se concentre sur une problématique précise et, en ce sens, est mono tâche. Elle reproduit un mode de fonctionnement humain sans conscience ni sensibilité.
    • IA forte : a pour ambition de développer des modèles permettant la création de machines dotées d’esprit, de conscience et de sensibilité. Il s’agit de créer des machines intelligentes qui ne se distinguent pas de l’esprit humain. Rien de tel n’existe actuellement.
  • Les familles d’IA
    • IA symbolique : Reproduire la logique et le savoir d’un expert. Constituée sur la base d’un moteur de règles et d’une représentation des connaissances, elle s’appuie sur la logique et des formules booléennes.
    • IA connexionniste : Reproduire le fonctionnement d’un cerveau humain. Basée sur des réseaux de neurones multicouches et couplée à des bases d’apprentissage de grandes tailles, elle est à l’origine des grands projets comme Elisa, Watson, Eugene Goostman, ChatGPT, Replika, MidJourney, Dalle-E, Yolo*, etc. Difficile à expliquer, elle s’appuie sur la théorie d’optimisation en grande dimension de surfaces non convexes.
      * YOLO : (You Only Look Once), nom d’un algorithme de Deep Learning pour la classification et la détection d’objets dans les images
  • IA générative : L’idée est d’utiliser les réseaux classifieurs pour générer de nouvelles données.
L’IA est-elle déjà parfaite ?
  • Les biais et hallucinations de l’IA
    • Biais de genre
    • Biais racial
    • Biais socio-économiques
    • Nécessité d’équipes diversifiées et inclusives pour atténuer les biais
    • Nécessité d’une bonne analyse et d’un nettoyage rigoureux des données d’entrainement
    • Utilité de développer des systèmes d’IA explicatifs qui permettent de comprendre les décisions prises
  • L’homo-numericus ou l’IA-homo ? Les IA ont de plus en plus tendance à devenir anthropomorphe. Est-ce un bien ou un biais ? Comment nous positionner devant cette évolution ?
    • Avantages de l’anthropomorphisme
      • Facilité d’interaction
      • Communication améliorée
      • Acceptation
      • Affectivité
    • Inconvénients de l’anthropomorphisme
      • Attentes irréalistes
      • Risque de manipulation
      • Confusion
      • Déception
  • Propositions
    • Conception : Diminuer l’anthropomorphisme des systèmes
    • Formation : Eduquer en expliquant l’IA et ses limitations
    • Régulation : Mettre en place des normes et des réglementations
    • Philosophie : Quelle est l’essence de notre humanité ?
Les IA n’ont ni sentiment, ni conscience, ni éthique
  • Nécessité d’une réflexion permettant de garantir des résultats justes, équitables et bénéfiques pour la société. Par exemple :
Les freins ont lâché. Que faire ? Qui sacrifier ? Véritable dilemme !
  • Principes clés pour une IA éthique
    • Transparence : Les décisions proses par les systèmes d’IA doivent être explicables et compréhensibles
    • Justice : L’IA doit être utilisée de manière équitable et ne doit pas discriminer sur la base de la race, du genre ou d’autres caractéristiques
    • Rendre des comptes : Les organisations doivent être tenues responsables des conséquences de l’utilisation et des actions de leurs systèmes
  • Recommandations pour une IA éthique
    • Impliquer des experts en éthique tout au long du processus de développement de l’IA
    • Collecter et utiliser des données de manière responsable et respectueuse de la vie privée
    • Tester l’IA de manière approfondie pour détecter les biais et les erreurs, en veillant à ce qu’elle ne soit pas discriminatoire
    • Éduquer les utilisateurs et les décideurs sur les implications et les limites de l’IA
    • Établir des mécanismes de contrôle et de régulation pour superviser l’utilisation de l’IA
L’IA est une nouvelle révolution !
  • L’IA n’est ni bonne, ni mauvaise. Elle sera ce que nous en ferons.
  • Economie
    • Un marché en pleine expansion qui monopolise de plus en plus d’investissement et qui serait très lucratif
    • Redistribution des emplois (destruction, création)
    • Les données deviennent les gisements d’or du siècle dernier
    • Changements d’organisation dans les entreprises et sociétés, modification des habitudes du marketing
  • Social
    • Désinformation (Deepfake)
    • Surveillance de masse
    • Perte de compétence (utilisation d’une carte, calcul mental, orthographe, culture….)
    • Amélioration de la santé, de l’éducation, du bien-être…
    • Protection du droit d’auteur
    • Le questionnement sur l’humanité
  • Environnemental
    • Consommation énergétique pour l’entrainement et l’utilisation des IA
    • Modélisation des bouleversements climatiques
  • Géopolitique
    • Le poids des gouvernements en comparaison des géants de l’IA, un problème mondial (Unesco)
    • Problème pour les démocraties

Les questions de la salle ont porté sur :

  • les problèmes que pose l’IA dans le domaine de la sécurité
  • ces outils peuvent-ils devenir intelligents
  • la similitude entre les biais de l’IA et les biais d’une société humaine
  • la régulation à mettre en place
  • les conditions de travail concernant les équipes qui traitent et classifient les sources de données