⇗ les contrôles internes aux IA peuvent être contournés :
on peut obtenir des IA des informations normalement “bloquées” et potentiellement dangereuses pour l’humanité (comment fabriquer une bombe, un virus etc.)
⇗ les “boucles” permettent à des SMA de s’auto-améliorer :
ils peuvent arriver à converger vers un moyen de contourner les contrôles internes
ils peuvent arriver à trouver une faille sur un serveur
⇘ les dangers directs viennent des “outils” rendus accessibles aux IA
accès à des machines de laboratoires permettant de fabriquer des produits ou virus dangereux
accès à des systèmes de pilotage d’armes
accès à des médias
⇘ les gros dangers ne sont accessibles que par des systèmes complexes à écrire, nécessitant des milliers ou dizaines de milliers de GPU pendant des centaines d’heures, pour un tarif exhorbitant
⇗ les sociétés fabriquant ces systèmes sont détenues par des milliardaires aux idées pas forcément très démocratiques
⇗ la distillation de LLM dans de petits modèles de langages donnent des résultats de plus en plus convaincants.
⇘ certains annoncent l’arrivée d’une IA générale pour 2028, mais ce n’est pas le cas de tout le monde…
Stopper la course à l’iA ?
Constat
Régulièrement, Open IA et Anthropic appellent à une législation pour stopper la course à l’IA
Pourtant, aucune de ces entreprises ne prend l’initiative de ralentir d’elle-même
les conséquences sur la planète de la course folle à l’IA sont catastrophiques (voir sections précédentes)
Pourquoi ces entreprises réclament cette loi ?
la concurrence les a fait rentrer dans un cercle vicieux ;
elles aimeraient bien, une fois un sommet atteint, ne pas être dépassé par la concurrence ;
ces entreprises sont toutes largement déficitaires :
le matériel, l’entraînement et l’exploitation coûtent très cher ;
pour garder les clients et ne pas les voir partir à la concurrence, elles sont obligées de proposer des tarifs bien en-dessous du prix qui devrait être proposé. Exemple pour GPT 6 Astra :
abonnement mensuel à $200
pour le même service en payant “au token”, cela reviendrait à environ $14 000 (étude semianalysis)
seuil de rentabilité plutôt estimé à $800 par mois
concurrence des modèles “poids ouverts” chinois : tarifs bien plus bas, résultats presque aussi bons
progès importants des petits modèles poids ouverts
Pourquoi rien n’a encore été fait ?
D. Trump farouchement opposé
Jensen Huang (patron de NVIDIA) fait également du lobbying pour que cela n’arrive pas (c’est son principal débouché)
la concurrence notamment avec la Chine rend improbable l’existence d’un frein que d’un côté
Des raisons d’espérer ?
Open AI, Anthropic et Google travaillent à la création d’un organe de régulation de l’IA (Courrier international, 16 septembre 2026)
le chef du renseignement chinois fait état des risques que le développement des IA génératives fait peser sur le régime chinois (Le Monde, 16 septembre 2026)