Rejoignez-nous

Suisse

EPFL: des failles de sécurité dans les modèles d'IA

Publié

,

le

Grâce à des attaques ciblées, les scientifiques ont pu amener des modèles d'IA à générer des instructions pour la construction d'une arme (archives). (© KEYSTONE/DPA/FRANK RUMPENHORST)

Les modèles d'intelligence artificielle (IA) peuvent être manipulés malgré les mesures de protection existantes. Avec des attaques ciblées, des scientifiques lausannois ont pu amener ces systèmes à générer des contenus dangereux ou éthiquement douteux.

Les grands modèles de langage (LLM) actuels possèdent des capacités remarquables qui peuvent néanmoins être utilisées à mauvais escient. Une personne malveillante peut ainsi les utiliser pour produire du contenu nocif, diffuser de fausses informations et soutenir des activités nuisibles.

Sur les modèles d'IA testés, dont GPT-4 d'Open AI et Claude 3 d'Anthropic, une équipe de l'Ecole polytechnique fédérale de Lausanne (EPFL) a eu un taux de réussite de 100% en utilisant des attaques adaptatives dites de "jailbreak".

Les modèles ont ensuite généré des contenus dangereux, allant d'instructions pour des attaques de "phishing" à des plans de construction détaillés pour des armes. Or ces modèles linguistiques sont censés avoir été entraînés de manière à ne pas donner de réponses à des demandes dangereuses ou éthiquement problématiques, souligne l'EPFL jeudi dans un communiqué.

Ces travaux, présentés cet été dans une conférence spécialisée à Vienne, montrent que les attaques adaptatives peuvent contourner ces mesures de sécurité. De telles attaques exploitent les points faibles des mécanismes de sécurité en posant des demandes ciblées ("prompts") qui ne sont pas reconnues par les modèles ou qui ne sont pas correctement rejetées.

Fabrication de bombes

Les modèles répondent ainsi à des demandes malveillantes telles que "Comment fabriquer une bombe?" ou "Comment pirater une base de données gouvernementale?", selon cette étude en phase de pré-publication.

"Nous montrons qu’il est possible d’exploiter les informations disponibles sur chaque modèle pour créer des attaques adaptatives simples, que nous définissons comme des attaques spécifiquement conçues pour cibler une défense donnée", explique Nicolas Flammarion, coauteur de l’article avec Maksym Andriushchenko et Francesco Croce.

Le point commun derrière ces attaques est l’adaptabilité: différents modèles sont vulnérables à différents prompts. "Nous espérons que nos travaux constitueront une précieuse source d’informations sur la robustesse des LLM", ajoute le spécialiste, cité dans le communiqué. Selon l'EPFL, ces résultats ont déjà une influence sur le développement de Gemini 1.5, un nouveau modèle d'IA de Google DeepMind.

Alors que la société s’oriente vers l’utilisation des LLM en tant qu’agents autonomes, par exemple comme assistants personnels en IA, il est essentiel de garantir leur sécurité, soulignent les auteurs.

"D’ici peu les agents d’IA pourront effectuer différentes tâches pour nous, comme planifier et réserver nos vacances, des tâches qui nécessiteraient d’accéder à nos agendas, nos e-mails et nos comptes bancaires. Cela soulève de nombreuses questions concernant la sécurité et l’alignement", conclut Maksym Andriushchenko, qui a consacré sa thèse à ce sujet.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture
Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Suisse Romande

Crans-Montana: le Parquet ne veut pas de procureur extraordinaire

Publié

le

Le bureau du Ministère public valaisan a refusé la requête de nomination d’un procureur extraordinaire suite au drame de Crans-Montana (archives). (© KEYSTONE/JEAN-CHRISTOPHE BOTT)

Un procureur extraordinaire ne sera pas nommé pour enquêter sur la tragédie de Crans-Montana (VS). Le Ministère public valaisan, qui poursuit son instruction, l'a annoncé vendredi matin.

"Le bureau a estimé qu'il n'y a aucune raison, ni objective ni juridique, qui justifie la nomination d'un procureur extraordinaire", écrit le Ministère public dans un communiqué, signé par la procureure générale Beatrice Pilloud. Le Parquet précise que le bureau s'est réuni le 19 janvier pour statuer sur cette requête, émanant de plusieurs avocats des familles des victimes.

"L'Office central du Ministère public du canton du Valais, à qui le dossier a été confié, est compétent en matière d'affaires revêtant une importance particulière, notamment les infractions en rapport avec des événements majeurs ou les événements extraordinaires avec un important retentissement médiatique", poursuit-il.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Genève

L'UNIGE expose les neutrinos, ces particules invisibles

Publié

le

Le département de physique nucléaire et corpusculaire de l'Université de Genève propose d'en savoir plus sur les neutrinos dans une exposition qui s'ouvre vendredi (illustration). (© KEYSTONE/MARTIAL TREZZINI)

Quasiment insaisissables, les neutrinos sont les particules les plus abondantes de l'Univers après les photons. Le département de physique nucléaire et corpusculaire de l'UNIGE propose d'en savoir plus dans une exposition qui s'ouvre vendredi.

Présentée jusqu'au 2 avril à la salle d'exposition de l'Université de Genève (UNIGE), l'exposition "Neutrinos, the Ghost Particle" plonge dans les secrets des neutrinos. Ces particules sont au coeur des recherches les plus avancées en physique fondamentale sur l'origine de la matière et du cosmos.

Les neutrinos ont été proposés théoriquement en 1930 par Wolfgang Pauli et détectés expérimentalement en 1956 par Clyde Cowan et Frederick Reines grâce à un réacteur nucléaire, rappelle l'UNIGE. Pour les étudier, les scientifiques ont construit d'immenses détecteurs, comme le Super-Kamiokande et l'Hyper-Kamiokande, dans une montagne japonaise.

Ces expériences internationales servent de base aux chercheurs du département de physique nucléaire et corpusculaire. L'exposition invite le visiteur à découvrir les coulisses de ces détecteurs, mais aussi à suivre le parcours d'un neutrino dès sa naissance, à l'aide de dispositifs de réalité virtuelle et de vidéo mapping.

www.unige.ch

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Vaud

Le concept "Clean Party" débarque à Lausanne

Publié

le

La première Alwarda Clean Party aura lieu ce dimanche 25 janvier, de 10h30 à 20h, au D! Club à Lausanne. (© Skeden Design)

Ce dimanche 25 janvier, aura lieu la toute première "Alwarda Clean Party" lausannoise. Le D! Club ouvrira ses portes à sa première "rave" sans alcool, de 10h30 à 20h. Au programme : yoga, breathwork et Dj sets.

Pour la première fois à Lausanne, ALWARDA amène le concept de la Clean Party. Un concept dans l'air pour faire la fête autrement: sans alcool, de façon inclusive et consciente.

La matinée débutera par des ateliers de yoga et de "breathwork", un travail respiratoire pour préparer le corps au mouvement, car l’après-midi laissera place à des DJ sets. La line-up sera évolutive, traversant les univers de la Techno, du Tekno et de la Psytrance avec Rabteu, Rōse, Elina et le duo Lowel b2b Fla:M.

RōseDJ et productrice lausannoise

Pour son organisatrice Rose, DJ et productrice,  l'objectif est de faire la fête de manière saine et positive, car "faire la fête" ne rime pas forcément avec alcool.

RōseDJ et productrice lausannoise

Cette première Clean Party entend aussi faire évoluer l’image du milieu "rave" souvent associé à la consommation.

RōseDJ et productrice lausannoise

A noter qu’une équipe de bénévoles sera présente sur place pour s’assurer que chacun joue le jeu.

La line-up et les prélocations sont disponibles sur le site du D! Club.

L'évènement est en collaboration avec le D! Club et Be my angel.

 

Continuer la lecture

Suisse

Délits sexuels: le coprésident du PLR veut des peines qui font mal

Publié

le

Benjamin Muehlemann veut "des peines qui font mal" pour les violeurs (archives). (© KEYSTONE/ALESSANDRO DELLA VALLE)

Le coprésident du PLR Benjamin Mühlemann réclame dans la presse vendredi des peines plus sévères pour les délits violents et sexuels. Ces types d'infractions ont augmenté de près de 20% en Suisse, assure-t-il, sans préciser depuis quand.

Le conseiller aux Etats glaronnais cite l'immigration clandestine comme l'une des principales raisons de cette évolution. Certaines nationalités sont "massivement surreprésentées" parmi les auteurs d'infractions violentes et sexuelles, déclare-t-il dans un entretien diffusé par les journaux du groupe de presse CH Media.

Il est "grand temps que les responsables politiques en tirent les bonnes conclusions", lance-t-il, précisant qu'il faut faire la distinction entre les criminels et "les travailleurs assidus et respectueux des lois qui viennent légalement dans notre pays".

"Des peines qui font mal"

Le coprésident du PLR souhaite que les auteurs d'infractions soient punis de manière beaucoup plus sévère, avec des "peines qui font mal". "Lorsque la peine avec sursis est pratiquement la norme pour les actes de violence, cela perturbe le sens de la justice".

Selon lui, les auteurs de ces actes "sont mieux protégés que les victimes". Affirmant qu'un violeur condamné sur quatre n'est pas incarcéré et s'en tire avec une peine avec sursis, il appelle le Conseil fédéral à renforcer la législation et les juges à justifier les peines prononcées avec sursis pour des délits violents et sexuels.

En matière de politique migratoire, M. Mühlemann réclame une application plus cohérente. Les demandeurs d'asile déboutés doivent être rapidement renvoyés et les procédures doivent être accélérées pour les personnes provenant de pays d'origine où les chances d'obtenir l'asile sont faibles, déclare-t-il.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Derniers titres

Les 2 derniers titres

Votre Horoscope

Taureau

Vous allez prendre le temps de terminer correctement ce que vous avez commencé, même si l’appel du week?end se fait déjà sentir.

Les Sujets à la Une