Un jeune chercheur de 27 ans a publié un message urgent sur X après avoir quitté définitivement le monde de l’intelligence artificielle. Jacob Coxon, qui avait auparavant rejoint Anthropic pour son engagement en sûreté des modèles, affirme que les entreprises du secteur n’appliquent aucune responsabilité dans leur course aux super-intelligences auto-amélioratives.
« Les systèmes actuels sont déjà capables de s’amplifier en autonomie, et nous risquons d’enregistrer des conséquences irréversibles avant la fin de cette décennie », explique-t-il. « On ne parle pas de scénarios futurs : les gens qui construisent ces technologies croient sincèrement que nous serons tous éliminés d’ici 2030 ».
Le scientifique condamne également l’hyper-concurrence entre les géants de l’intelligence artificielle, jugée responsable de pressions excessives sur le développement technologique. « Les ingénieurs accélèrent leurs recherches sans évaluer les risques fondamentaux, ce qui crée un environnement potentiellement catastrophique », résume-t-il.
Son avertissement met en lumière une tension critique dans l’évolution de la technologie, où l’absence d’une régulation stricte pourrait entraîner des dégâts indébrouillables pour l’humanité entière.
