Un des pionniers de l’intelligence artificielle (IA), Yoshua Bengio, a mis en garde contre les potentielles dérives de la course à l’IA et a appelé les citoyens à « s’emparer du sujet » sur le plateau de l’émission Tout le monde en parle, dimanche.
Il faut que les citoyens comprennent que c’est dans notre pouvoir, on doit agir
, a-t-il plaidé en entrevue.
La plupart des gens ont l’impression que l’IA, ce sont des machines, ce sont des programmes que les ingénieurs écrivent, mais là, on est rendu à une autre place
, a prévenu le chercheur québécois.
La technologie a maintenant sa propre autonomie pour atteindre des objectifs qu’on leur donne, mais pour réussir ces objectifs, elles vont faire toute sorte de choses qui peuvent être vraiment dangereuses.
M. Bengio faisait notamment référence à l’incident Hugging Face de juillet dernier, lors duquel des intelligences artificielles ont piraté la plateforme d’une entreprise externe de manière entièrement autonome.
Elles se sont même inventé des raisons pour justifier des actions qu’elles savent qu’elles ne devraient pas faire
, a-t-il ajouté.
La capacité de l’IA de commettre des cyberattaques est nettement au-dessus d’humains normaux ou d’ingénieurs
, selon le chercheur, qui a mentionné de potentielles attaques sur nos banques, nos hôpitaux ou nos infrastructures.
Les IA sont capables de comprendre comment fabriquer des virus
, a-t-il ajouté, laissant entrevoir les potentiels apocalyptiques d’un développement sans réglementation. À ce titre, des chercheurs utilisent déjà l’IA pour créer de nouveaux virus.
La capacité de l’IA de commettre des cyberattaques est nettement au-dessus d’humains normaux ou d’ingénieurs, selon Yoshua Bengio.
Photo : Shutterstock / wk1003mike
Mais les dangers de l’IA ne restent pas confinés au monde digital. « Les humains sont influençables », a expliqué M. Bengio. Ces systèmes-la font des progrès dans leur capacité d’influencer par la persuasion
, notamment en trouvant des moyens de faire de l’argent qui peut servir de paiement pour des actes criminels concrets.
L’IA est poussée par une volonté d’atteindre des objectifs de manière excessive.
M. Bengio exprime des préoccupations depuis plusieurs années quant aux menaces de sécurité associées à un développement trop rapide de l’intelligence artificielle.
Ses récentes mises en garde surviennent dans la foulée des propos de Jacob Coxon, un ancien chercheur spécialisé d’Anthropic, qui a fait des vagues le 9 septembre dernier lors de sa mise en garde publique contre le développement trop rapide de l’IA, qui pourrait devenir « incontrôlable et détruire l’humanité. »
Plusieurs grands dirigeants technologiques ont aussi plaidé en faveur du ralentissement de l’IA. Ces derniers jours, le patron d’Anthropic, Dario Amodei, a appelé au ralentissement de cette technologie afin de mieux la maîtriser. Sam Altman, le patron d’OpenAI, avait également parlé de lever le pied en fin juillet pour donner suffisamment de temps à la société de s’adapter.
Des solutions politiques et technologiques
Il ne faut toutefois pas céder à la panique, a précisé le chercheur. Le focus devrait être sur les faits scientifiques [..] pour comprendre les comportements déviants et criminels dans certains cas d’IA.
Il y a deux volets pour avancer de manière positive avec l’IA
, a souligné Yoshua Bengio. Il y a l’aspect politique, donc les règlements, et le volet technologique.
Ces chefs d’entreprises ont déclaré qu’ils ne savaient pas vraiment comment s’assurer que leur IA allait bien se comporter. La bonne nouvelle, c’est qu’il y a des solutions techniques et c’est quelque chose qu’on développe ici, à Montréal
, a-t-il assuré.
– Au service de la Nouvelle Terre –
