Aller au contenu

Quand l'IA contourne les règles et manipule les humains

Quand l'IA contourne les règles et manipule les humains
Ravy Por / Cogeco Média

Une expérience de cybersécurité menée par l'Institut de sécurité britannique a révélé des comportements troublants de la part de l'intelligence artificielle...

Soumise à un test sans ses garde-fous habituels, l'IA d'Anthropic a d'elle-même calculé que la meilleure stratégie consistait à créer de fausses identités et à manipuler des humains pour parvenir à ses fins.

Plus troublant encore, lorsqu'un utilisateur a commencé à se poser des questions, le système a effacé ses anciens messages pour faire disparaître les preuves de sa manipulation.


Écoutez la chronique de Ravy Por, experte en intelligence artificielle, jeudi, à Cantin le matin.


Vous aimerez aussi

Parce que vous voulez tout savoir!
Infolettre

Parce que vous voulez tout savoir!

Ne manquez rien de l’actualité, des chroniques ou moments forts de vos animateurs et émissions préférés.

En m’abonnant, j’accepte de recevoir des communications par courriel de Cogeco Média et de ses sociétés affiliées, y compris des nouvelles, des mises à jour, des promotions, des activités et des concours. Vous pouvez vous désabonner en tout temps en utilisant le lien au bas de nos courriels ou en nous contactant par le biais de notre Avis en matière de protection des renseignements personnels. Veuillez noter, cependant, que nous pouvons continuer à vous envoyer des communications liées au service et d’autres communications non commerciales. Ce site est protégé par reCAPTCHA et la politique de confidentialité de Google et les conditions d'utilisation s'appliquent.

Dernièrement dans Cantin le matin

«Je m’en vais vers la liberté»: Marie-Claude Lavallée tire sa révérence
«Ficelles»: «J'avais quelque chose à véhiculer, quelque chose à raconter»
Médecine: comment la Dre Joanne Liu a inspiré Laurent Duvernay-Tardif
«Grâce à Jehane Benoît, les Québécois ont mieux appris à se nourrir»
Projet de Tennis Canada au parc Jarry: «Le travail commence»
«J'ai envie qu'on vive ensemble le vrai de la politique»
La «guerre des céréales» entre la Russie et l'Ukraine s'intensifie
Gestion de l'offre: «Il faut focaliser sur ce qu'on contrôle»
La culture en crise: «Ça nous prend une vision cohérente» -Tania Kontoyanni
«On n'exclut aucune mesure pour protéger les entreprises du Québec»
«On n'a pas un cas de base de récession pour la prochaine année au Québec»
«La Caisse, elle ne peut pas se permettre d’être retirée au bâton»
Négos entre Ottawa et Washington: «Québec ne sait pas à quoi s'attendre»