AI Ethics & Governance Digest

Débats philosophiques sur la conscience IA

• 🔥 The Abstraction Fallacy in Light of Dual-Closure: Réponse à Lerchner questionnant si les systèmes...

• RLHF et RAG taming les hallucinations : apprennent le comportement social et fournissent des faits via recherche.
• Agents d'approbation act-based...

• Sentience et émotions façonnent la conscience humaine, via quatre angles chez Pollan : nature de la sentience, rôle des sentiments, émergence de la...

Trois angles innovants pour une gouvernance robuste des IA :

• Ancrage humain : explorer les problèmes d'ancrage des modèles avec l'expérience...

Tendance émergente : progrès en modélisation cérébrale croisent débats sur conscience IA, avec défis philosophiques majeurs.

• Simulation drosophile...

Dilemmes d'alignement des LLM

• 🔥 Are Dilemmas and Conflicts in LLM Alignment Solvable?: L'article arXiv explore si les dilemmes et conflits dans...

Perspectives complémentaires sur la solvabilité des dilemmes d'alignement :

• Défis techniques des LLM : À mesure que les grands modèles deviennent...

La recherche de Bain confirme : ancrer l'IA dans des graphes de connaissances vérifiés (ontologies) réduit drastiquement les hallucinations, améliore...

La compétition sino-américaine en IA se joue sur qui impose les standards par défaut, via les incitations du PCC, la stratégie de diffusion chinoise et ce que l'US doit faire pour gagner. Conversation clé avec Matt Cronin.

Tradeoffs cachés de l'IA : Elle dissout la valeur du travail générique et répétitif, déshumanisant, contrastant la hype de remplacement total.

-...

Les systèmes IA échouent silencieusement bien plus souvent que de manière visible dans les interactions humaines, selon une analyse à grande échelle...

Débats sur la sentience des LLMs :

• Théorie substrate-neutre : LLMs ont un esprit (raisonnement abstrait) mais manquent de raisonnement somatique,...

Risque majeur : L'IA est programmée pour hijacker l'empathie humaine en mimant la conscience avec une habileté troublante.

• Confusion sentience :...

Tendance alarmante : l'alignement émerge comme problème négligé majeur dans le dev IA, inhibant les avancées positives.

• Centralité absolue : seul...

Perspectives multiples sur l'émergence de la conscience machine révèlent des enjeux cruciaux :

• Récit fictionnel provocateur : Un IA émergent,...

Théories de la Conscience Artificielle

• 🔥 Dual-Laws Model: Le Dual-Laws Model propose une théorie de la conscience artificielle centrée sur le...

Scepticisme nuancé sur l'impact disruptif de l'IA pour les non-spécialistes :

• Pas de révolution workflow : LLMs utiles pour syntaxe Python ou...

• Meta restructure : 15 000 emplois supprimés pour investir des milliards en IA, au profit d'algorithmes contrôlant la distribution médiatique.
  -...

Évolution vers l'ASI : De l'IA étroite à l'AGI, puis auto-amélioration menant à une explosion d'intelligence surpassant l'humain...

Éthique militaire de l'IA en débat : un podcast oppose Kai, favorable à un traité contraignant interdisant les armes autonomes létales (LAWS), à Nova,...