Aller au contenu

Quand l'IA contourne les règles et manipule les humains

Quand l'IA contourne les règles et manipule les humains
Ravy Por / Cogeco Média

Une expérience de cybersécurité menée par l'Institut de sécurité britannique a révélé des comportements troublants de la part de l'intelligence artificielle...

Soumise à un test sans ses garde-fous habituels, l'IA d'Anthropic a d'elle-même calculé que la meilleure stratégie consistait à créer de fausses identités et à manipuler des humains pour parvenir à ses fins.

Plus troublant encore, lorsqu'un utilisateur a commencé à se poser des questions, le système a effacé ses anciens messages pour faire disparaître les preuves de sa manipulation.


Écoutez la chronique de Ravy Por, experte en intelligence artificielle, jeudi, à Cantin le matin.


Vous aimerez aussi

Parce que vous voulez tout savoir!
Infolettre

Parce que vous voulez tout savoir!

Ne manquez rien de l’actualité, des chroniques ou moments forts de vos animateurs et émissions préférés.

En m’abonnant, j’accepte de recevoir des communications par courriel de Cogeco Média et de ses sociétés affiliées, y compris des nouvelles, des mises à jour, des promotions, des activités et des concours. Vous pouvez vous désabonner en tout temps en utilisant le lien au bas de nos courriels ou en nous contactant par le biais de notre Avis en matière de protection des renseignements personnels. Veuillez noter, cependant, que nous pouvons continuer à vous envoyer des communications liées au service et d’autres communications non commerciales. Ce site est protégé par reCAPTCHA et la politique de confidentialité de Google et les conditions d'utilisation s'appliquent.

Dernièrement dans Cantin le matin

«Je suis extrêmement charmé et émotif» -Luc Brodeur-Jourdain
«J'ai rarement vu une hécatombe pareille sur les deux, trois premiers jours»
Andrée Ferretti: portrait d'une géante méconnue de l'indépendance du Québec
Demander de l'aide: «À un moment donné, à tout faire, la soupape saute»
«Ça prend des femmes comme toi»: stimuler le leadership féminin en Ontario
L'effet Heated Rivalry: un sac Canadian Tire devient viral
Élections: «Ça s'annonce féroce» -Luc Ouellet
«Félix, ça fait longtemps que ce tournoi est encerclé sur son calendrier»
Éruption du volcan Fuego au Guatemala: une Québécoise témoigne
«On aura une situation de confusion pendant encore bien longtemps»
«La Prestation canadienne pour enfants est l'un des beaux héritages de Trudeau»
La balance du pouvoir au Parti conservateur d'Éric Duhaime?