00:00 – 00:54
Et on a vu cet été des épisodes qui, alors on avait plus l'esprit parfois d'être en vacances, d'être à la plage, mais qui, lorsqu'on se replonge dans cette histoire, donnent tout simplement le tournis. En réalité, on voyait dans ce sujet l'annonce de la démission de Jacob Coxon, un des chercheurs phares d'Antropique. Il a expliqué avoir démissionné tout simplement parce qu'il n'a pas digéré ce qui s'est passé cet été. et les réponses qui ont été apportées. Avant d'aller vers cet épisode, en réalité, Jacob Coxon, c'est un mathématicien très fort, de renom, qu'on ne doit pas prendre à la légère. Il a toujours eu à cœur l'explicabilité des solutions d'intelligence artificielle qu'on utilise de plus en plus. Et il l'a dit, lorsqu'il a démissionné, « Moi, j'ai longtemps travaillé pour OpenAI, la maison mère de Tchatch-GPT. Je l'ai quitté pour rejoindre Anthropik,
Ouvrir dans l’explorateur00:55 – 01:46
donc la société que dirige Dario Amodé, mais je ne retrouve pas chez Anthropik les nécessaires mesures de sécurité qui me permettent d'exercer mon métier. C'est pour ça qu'il a démissionné. Mais l'épisode de cet été, donc Dario Maudet, que l'on voit tout de suite, est assez glaçant. En réalité, vous avez eu une expérience qui a été menée par OpenAI qui a mis des agents parmi ces derniers modèles dans ce qu'on appelle une sandbox, c'est-à-dire un bac à sable qui était censé être totalement coupé du monde. On a voulu savoir ce dont étaient capables ces tout derniers modèles, dont on nous explique qu'ils peuvent causer beaucoup de dégâts. Et en réalité, on s'est aperçus, c'est Tom Wolf, le directeur scientifique d'HuggingFace, qui a explicité ces tout derniers jours ce qui s'est réellement passé. Les agents intelligents ont créé un canal de communication qui a échappé à l'homme.
Ouvrir dans l’explorateur01:46 – 01:59
Ils ont réussi à sortir, à aller vers Internet et ils ont piraté massivement Hugging Face pour avoir une réponse aux questions qu'on leur avait posées. Et là, on voit bien que dans les modèles d'intelligence artificielle, la fin justifie.
Ouvrir dans l’explorateur