L’intelligence artificielle risque-t-elle de se retourner un jour contre son fondateur l’homme et d’échapper totalement à son contrôle, en devenant plus puissante que lui? A vouloir, à chaque fois, repousser les limites aussi loin que possible, l’homme court-il à sa propre perte? C’est ce qu’a affirmé haut et fort, Jacob Cokson, un jeune chercheur britannique qui exerçait jusqu’ici dans l’industrie de l’IA avant de présenter sa démission, en raison de son inquiétude face à la conception de modèles d’IA de plus en plus puissants dans des entreprises privées opérant dans le secteur.
En voyant la société qui l’emploie développer des programmes de plus en plus puissants sans tenir compte des risques que cela peut induire pour l’humanité, le jeune homme de 27 ans de plus en plus préoccupé par ces nouveaux modèles d’IA a décidé de jeter le tablier et de sortir de son silence, afin d’alerter sur les dangers que représentent les programmes qui sont actuellement développés et qui représentent une menace directe pour l’existence humaine. Selon ce dernier, l’IA qui est en train d’être développée dans ces sociétés privées, est une intelligence artificielle capable de devenir de plus en plus autonome, de s’auto améliorer à un rythme rapide et soutenu, pouvant aller jusqu’à dépasser l’intelligence humaine, en donnant naissance à un “monstre” surpuissant échappant à tout contrôle humain.
Selon Jacob Coxon, ces modèles d’IA seraient capables de s’introduire dans les systèmes de secteurs vitaux ou stratégiques sans prendre la permission humaine. Parfaitement conscientes de ce qu’elles font, elles peuvent lancer des cyberattaques non autorisées qui pourraient conduire à des catastrophes. La communauté scientifique avait déjà alerté sur ce danger au courant de cet été. L’une des entreprises privées spécialisées, avait lancé, en effet, il y a quelques mois, un modèle d’IA qui s’était attaqué sans autorisation à une plateforme.
Ces modèles d’IA superpuissantes et intelligentes, bien qu’elles sachent qu’elles enfreignent les ordres, peuvent, pourtant, agir sans se soucier des graves bavures qu’elles peuvent occasionner dans des secteurs aussi stratégiques que la santé ou le nucléaire, ce qui représente une réelle menace pour l’humanité dans les décennies à venir, alerte Jacob Cokson.
Des milliers de salariés opérant dans l’industrie de l’IA appellent aujourd’hui à freiner le développement de l’intelligence artificielle avant que la situation ne devienne tout simplement incontrôlable. Ils craignent qu’un jour, des modèles aillent jusqu’à décider de la nécessité de l’existence humaine sur la terre. Un scénario de sciences fiction effrayant mais qui risque, un jour, de se transformer en réalité si les patrons de l’industrie de l’IA ne prennent pas conscience à temps de la nécessité de mettre en place des mécanismes de contrôle et de freinage avant qu’il ne soit trop tard et que l’intelligence artificielle ne prenne le dessus sur l’être humain.
