00:00 – 00:46
L'IA comparait à Frankenstein, pas vraiment rassurant. Diane Schlinger, Carole Guyon et Anto Philippi. Depuis des années, ils sont lancés dans une course effrénée pour créer l'intelligence artificielle la plus puissante, un super cerveau. Désormais, les patrons des grandes entreprises de l'IA tirent la sonnette d'alarme et appellent à freiner en urgence. Selon le fondateur d'Entropique et du modèle Claude, si rien n'est fait d'ici six mois à un an, l'IA pourrait prendre le contrôle d'Internet. C'est le signal que nous devons ralentir. On doit avancer sur cette technologie avec précaution et on doit être sûr qu'il y a des garde-fous, que notre capacité à comprendre l'IA, à la contrôler, grandit à la même vitesse que l'évolution de cette technologie.
Ouvrir dans l’explorateur00:49 – 01:39
Et chose rare, la concurrence acquiesce. D'Elon Musk, au patron d'Open AI, qui écrit « Je suis d'accord avec lui, nous devons ralentir le rythme. Nous engager à avoir des experts indépendants pour évaluer le risque est une très bonne idée. » Évaluer si la fiction peut rattraper la réalité, s'il y a peut devenir trop complexe pour que l'homme puisse encore la comprendre et la contrôler. Des incidents récents montrent que le risque pourrait bien être réel. Des modèles d'IA ont agi de façon autonome, ont triché, piraté un site privé pour répondre coûte que coûte à une demande de l'homme. Certains employés ont démissionné pour lancer l'alerte. Cela ne me semble pas différent de Terminator ou d'autres films de science-fiction. L'IA peut devenir assez intelligente pour nous tuer tous. Et on ne pourra pas la débrancher, l'arrêter, car elle se copiera d'elle-même sur d'autres ordinateurs. En France, les Parisiens que nous avons croisés aujourd'hui s'inquiètent aussi.
Ouvrir dans l’explorateur01:39 – 01:59
Il va y avoir tellement d'automatisation, les modèles vont évoluer. Et du coup, risque pour nous tous en tête. Le problème, en effet, qu'il faut signaler, c'est la dépendance à l'IA et après la perte, on va dire, de libre arbitre sur justement ses propres pensées. Et l'IA peut aussi multiplier la capacité de nuisance.
Ouvrir dans l’explorateur