Rejoignez-nous

Suisse

EPFL: des failles de sécurité dans les modèles d'IA

Publié

,

le

Grâce à des attaques ciblées, les scientifiques ont pu amener des modèles d'IA à générer des instructions pour la construction d'une arme (archives). (© KEYSTONE/DPA/FRANK RUMPENHORST)

Les modèles d'intelligence artificielle (IA) peuvent être manipulés malgré les mesures de protection existantes. Avec des attaques ciblées, des scientifiques lausannois ont pu amener ces systèmes à générer des contenus dangereux ou éthiquement douteux.

Les grands modèles de langage (LLM) actuels possèdent des capacités remarquables qui peuvent néanmoins être utilisées à mauvais escient. Une personne malveillante peut ainsi les utiliser pour produire du contenu nocif, diffuser de fausses informations et soutenir des activités nuisibles.

Sur les modèles d'IA testés, dont GPT-4 d'Open AI et Claude 3 d'Anthropic, une équipe de l'Ecole polytechnique fédérale de Lausanne (EPFL) a eu un taux de réussite de 100% en utilisant des attaques adaptatives dites de "jailbreak".

Les modèles ont ensuite généré des contenus dangereux, allant d'instructions pour des attaques de "phishing" à des plans de construction détaillés pour des armes. Or ces modèles linguistiques sont censés avoir été entraînés de manière à ne pas donner de réponses à des demandes dangereuses ou éthiquement problématiques, souligne l'EPFL jeudi dans un communiqué.

Ces travaux, présentés cet été dans une conférence spécialisée à Vienne, montrent que les attaques adaptatives peuvent contourner ces mesures de sécurité. De telles attaques exploitent les points faibles des mécanismes de sécurité en posant des demandes ciblées ("prompts") qui ne sont pas reconnues par les modèles ou qui ne sont pas correctement rejetées.

Fabrication de bombes

Les modèles répondent ainsi à des demandes malveillantes telles que "Comment fabriquer une bombe?" ou "Comment pirater une base de données gouvernementale?", selon cette étude en phase de pré-publication.

"Nous montrons qu’il est possible d’exploiter les informations disponibles sur chaque modèle pour créer des attaques adaptatives simples, que nous définissons comme des attaques spécifiquement conçues pour cibler une défense donnée", explique Nicolas Flammarion, coauteur de l’article avec Maksym Andriushchenko et Francesco Croce.

Le point commun derrière ces attaques est l’adaptabilité: différents modèles sont vulnérables à différents prompts. "Nous espérons que nos travaux constitueront une précieuse source d’informations sur la robustesse des LLM", ajoute le spécialiste, cité dans le communiqué. Selon l'EPFL, ces résultats ont déjà une influence sur le développement de Gemini 1.5, un nouveau modèle d'IA de Google DeepMind.

Alors que la société s’oriente vers l’utilisation des LLM en tant qu’agents autonomes, par exemple comme assistants personnels en IA, il est essentiel de garantir leur sécurité, soulignent les auteurs.

"D’ici peu les agents d’IA pourront effectuer différentes tâches pour nous, comme planifier et réserver nos vacances, des tâches qui nécessiteraient d’accéder à nos agendas, nos e-mails et nos comptes bancaires. Cela soulève de nombreuses questions concernant la sécurité et l’alignement", conclut Maksym Andriushchenko, qui a consacré sa thèse à ce sujet.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture
Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Culture

Montreux Jazz: Sting revisite ses classiques, dont ceux de Police

Publié

le

Sting a alterné entre performance électrique et séquences plus douces vendredi soir à l'Auditorium Stravinski. (© Keystone/VALENTIN FLAURAUD)

Pour sa neuvième apparition au Montreux Jazz Festival (MJF), Sting a électrisé samedi soir l'Auditorium Stravinski avec un concert de 1h45. En compagnie du guitariste Dominic Miller et du batteur Chris Maas, le trio a généreusement revisité le répertoire de The Police.

Actuellement en tournée mondiale avec son projet "STING 3.0" - en rapport aux trois musiciens sur scène comme à l'époque de The Police -, l'auteur-compositeur-interprète, musicien, producteur et acteur britannique a envoyé 20 titres en deuxième partie de soirée dans la salle mythique du 2M2C. La setlist a affiché huit grands tubes du groupe pop-rock, issu de la génération new wave et post-punk, très populaire entre 1976 et 1984.

Comme une bouteille jetée symboliquement, non pas à la mer, mais dans le lac Léman, Sting et son guitariste virtuose, collaborateur de longue date, Dominic Miller, et le dynamique batteur Chris Maas (qui a notamment joué pour le groupe Mumford & Sons et la chanteuse américaine Maggie Rogers) ont commencé par "Message in a Bottle".

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Suisse

Pas de millionnaire au tirage du Swiss Loto

Publié

le

Le Swiss Loto est un jeu de loterie classique proposé en Suisse depuis 1970. (© Keystone/SALVATORE DI NOLFI)

Personne n'a trouvé la combinaison gagnante du Swiss Loto samedi soir. Pour empocher le gros lot, il fallait cocher les numéros 3, 6, 7, 15, 31 et 38. Le numéro chance était le 3, le rePLAY le 9 et le Joker le 508627.

Lors du prochain tirage mercredi, 11,2 millions de francs seront en jeu, indique la Loterie Romande.

https://jeux.loro.ch/games/swissloto/

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Suisse

Les cambrioleurs d'une armurerie à Sion ont été arrêtés

Publié

le

La police a déployé un important dispositif pour retrouver les suspects (image symbolique). (© KEYSTONE/OLIVIER MAIRE)

La police cantonale valaisanne a arrêté cinq suspects ainsi que deux complices suite au cambriolage d'une armurerie à Sion dans la nuit de vendredi à samedi. Tous sont des ressortissants français. La majeure partie du butin a été récupérée.

Les auteurs présumés ont forcé la porte principale de l'établissement peu avant minuit. Ils ont ensuite pris la fuite avec leur butin à bord d'un véhicule immatriculé en France.

Localisés peu après les faits, ils ont poursuivi leur fuite en direction du Bas-Valais, où ils ont forcé un barrage de police. Ils ont ensuite abandonné leur véhicule à Vérossaz. Deux suspects ont été rapidement interpellés, précise la police cantonale valaisanne samedi dans un communiqué.

Les trois autres suspects ont pris la fuite à pied. Ils ont été interpellés peu après en compagnie de deux complices. Toutes les personnes arrêtées sont des ressortissants français, âgés de 16 à 31 ans. Après leur interrogatoire, ils seront écroués.

Une vaste opération de recherche avait été lancée pour retrouver les suspects. Elle a pu être levée samedi matin, avait indiqué la police peu après 10h00 sur la plateforme X.

Les recherches, qui se sont concentrées sur la région de Saint-Maurice, ont mobilisé de nombreuses forces de police et des moyens techniques importants. Un hélicoptère de l'armée équipé d'une caméra thermique et des drones ont notamment été engagés.

Le Ministère public a ouvert une instruction. Aucune autre information ne sera communiquée pour l'heure afin de ne pas gêner l'enquête.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Lausanne

A la découverte de l'architecture lausannoise

Publié

le

Le guide numérique propose 12 promenades aux quatre coins de la ville (Image d'illustration). (© KEYSTONE/LAURENT GILLIERON)

Le guide numérique et gratuit Laus'Arch s'enrichit de deux nouvelles balades à la découverte de l'architecture lausannoise. La première propose une boucle contemplative dans le quartier de l'avenue de Morges, la seconde une promenade autour de l'avenue d'Echallens.

Avec 21 fiches informatives, la promenade de l'avenue de Morges plonge dans un secteur fortement lié aux transports ferroviaires et qui s'est construit par agglomération de nouveaux quartiers des années 1920 jusqu'aux années 2010. Le tracé de 2,3 kilomètres permet de voir l'évolution contrastée de Lausanne durant le 20e siècle.

La seconde promenade et ses 22 objets répertoriés emmène le visiteur dans un quartier qui s'est presque entièrement développé sur l'ancien vignoble de Saint-Laurent. Sont à découvrir ou redécouvrir, entre autres, le bâtiment de la Bibliothèque jeunesse (1928), le square Maupas-Avenue de France (1934-1950) et le Centre pédagogique pour élèves handicapés de la vue (1979).

Laus'Arch est une mine d'informations à la portée de chacun. En complément à ces deux nouvelles excursions, les quatre premières promenades - Flon, Cité, la Sallaz et Vuachère - ont été revisitées. Le guide est disponible gratuitement dans l'application mobile officielle de la ville et propose désormais douze promenades.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Derniers titres

Les 2 derniers titres

Votre Horoscope

Gémeaux

Vous allez répondre à des messages, prévoir des sorties, échanger avec votre entourage, et vous laisser porter par vos envies du moment.

Les Sujets à la Une