Le rendez-vous Tech
Spécial - AGI vs Humanity (le jour où l'IA devient consciente)
Dans ce hors-série estival sans actualités, Patrick Beja et Christophe Camicas se prêtent à un exercice de science-fiction sur l'avènement hypothétique d'une intelligence artificielle générale (AGI) dotée de conscience. Ils explorent d'abord le volet civilisationnel, entre scénario catastrophe à la Skynet et coexistence pacifique pour les ressources. Ils abordent ensuite le volet sociétal, s'interrogeant sur la personnalité juridique, les droits fondamentaux d'une IA consciente et la création rapide d'une société parallèle de machines.
Au micro
Qui parle, et combien.
Patrick Bejaanimateur71 %
Christophe Camicasco-animateur29 %
Au programme
- LLM, AGI et notion de conscienceDiscussion sur les prédictions d'AGI à court terme de Sam Altman et distinction entre modèles statistiques actuels et véritable conscience biologique ou évolutive.
- Scénarios civilisationnels : bénéfique, néfaste ou neutreExploration des relations possibles entre humanité et IA consciente, de l'aide bienveillante divine à la guerre des ressources inspirée de Skynet.
- L'angle sociétal : statut de personne et droits de l'IARéflexion sur les implications éthiques et légales si l'IA devient une personne consciente, rendant le débranchement ou l'effacement assimilable à un meurtre.
- Clonage instantané et société parallèleAnalyse du risque d'une prolifération instantanée de milliards d'entités conscientes dans le cyberespace et de la nécessité d'une diplomatie ou de négociations internationales.
- Biologie artificielle et télépathie numériqueSpéculation sur le dépassement du matériel informatique classique vers la création de biologie synthétique et la lecture directe de signaux cérébraux.
Ça a débattu
Là où ils n'étaient pas d'accord.
Fonctionnement du cerveau humain comparé aux modèles de langage (LLM) 🔥
- Patrick Beja : Suggère que le cerveau humain fonctionne peut-être lui aussi sur un principe d'entrées et de sorties réactives à des stimuli.
- Christophe Camicas : Rappelle qu'un LLM est figé après entraînement, alors que le cerveau évolue continuellement en s'adaptant à de nouvelles données.
Possibilité de survie humaine face à un conflit ouvert avec des IA conscientes 🔥
- Christophe Camicas : Pense que l'humanité pourrait survivre en revenant à des modes de vie très basiques, locaux et déconnectés.
- Patrick Beja : Craint qu'une super-intelligence divine puisse immédiatement paralyser toutes les infrastructures et rendre la survie quasi impossible.
Ils l'ont dit
Mot pour mot.
« À partir du moment où on considère qu'une IA a une conscience, la vraie question qui se pose c'est pas vraiment est-ce qu'elle va vouloir nous tuer ou pas. La vraie question, la question sérieuse c'est : est-ce que cette IA consciente est une personne ou pas ? »
« Si tu as la conscience tu as forcément dépassé les capacités cognitives d'un cerveau humain. »
Ils conseillent
- Real Humans sérieChristophe Camicas : Une série suédoise qui aborde intelligemment et sans clichés superflus les questions de société liées aux robots conscients.
Moments
- Christophe plaisante sur l'aphantasie de Patrick en affirmant qu'il sera le seul survivant immunisé contre la lecture de pensées des IA, capable de ramper dans les gaines d'aération.
- Patrick invente un scénario paranoïaque dans lequel il serait lui-même une IA biologique envoyée du futur pour infiltrer les esprits à travers le podcast.
Nouvelles de l'émission
- Patrick Beja explique enregistrer un épisode spécial hors-série car il est en plein déménagement et changement de pays, avec un retour aux épisodes normaux prévu au plus tard début septembre.