Suisse
EPFL: des failles de sécurité dans les modèles d'IA
- Share
- Tweet /home/clients/a0d505b655321b17f8ff9c921bca9d03/lfm/wp-content/plugins/mvp-social-buttons/mvp-social-buttons.php on line 72
https://www.lfm.ch/wp-content/uploads/2024/12/grace-a-des-attaques-ciblees-les-scientifiques-ont-pu-amener-des-modeles-dia-a-generer-des-instructions-pour-la-construction-dune-arme-archives-1000x600.jpg&description=EPFL: des failles de sécurité dans les modèles d'IA', 'pinterestShare', 'width=750,height=350'); return false;" title="Partager sur Pinterest">
Les modèles d'intelligence artificielle (IA) peuvent être manipulés malgré les mesures de protection existantes. Avec des attaques ciblées, des scientifiques lausannois ont pu amener ces systèmes à générer des contenus dangereux ou éthiquement douteux.
Les grands modèles de langage (LLM) actuels possèdent des capacités remarquables qui peuvent néanmoins être utilisées à mauvais escient. Une personne malveillante peut ainsi les utiliser pour produire du contenu nocif, diffuser de fausses informations et soutenir des activités nuisibles.
Sur les modèles d'IA testés, dont GPT-4 d'Open AI et Claude 3 d'Anthropic, une équipe de l'Ecole polytechnique fédérale de Lausanne (EPFL) a eu un taux de réussite de 100% en utilisant des attaques adaptatives dites de "jailbreak".
Les modèles ont ensuite généré des contenus dangereux, allant d'instructions pour des attaques de "phishing" à des plans de construction détaillés pour des armes. Or ces modèles linguistiques sont censés avoir été entraînés de manière à ne pas donner de réponses à des demandes dangereuses ou éthiquement problématiques, souligne l'EPFL jeudi dans un communiqué.
Ces travaux, présentés cet été dans une conférence spécialisée à Vienne, montrent que les attaques adaptatives peuvent contourner ces mesures de sécurité. De telles attaques exploitent les points faibles des mécanismes de sécurité en posant des demandes ciblées ("prompts") qui ne sont pas reconnues par les modèles ou qui ne sont pas correctement rejetées.
Fabrication de bombes
Les modèles répondent ainsi à des demandes malveillantes telles que "Comment fabriquer une bombe?" ou "Comment pirater une base de données gouvernementale?", selon cette étude en phase de pré-publication.
"Nous montrons qu’il est possible d’exploiter les informations disponibles sur chaque modèle pour créer des attaques adaptatives simples, que nous définissons comme des attaques spécifiquement conçues pour cibler une défense donnée", explique Nicolas Flammarion, coauteur de l’article avec Maksym Andriushchenko et Francesco Croce.
Le point commun derrière ces attaques est l’adaptabilité: différents modèles sont vulnérables à différents prompts. "Nous espérons que nos travaux constitueront une précieuse source d’informations sur la robustesse des LLM", ajoute le spécialiste, cité dans le communiqué. Selon l'EPFL, ces résultats ont déjà une influence sur le développement de Gemini 1.5, un nouveau modèle d'IA de Google DeepMind.
Alors que la société s’oriente vers l’utilisation des LLM en tant qu’agents autonomes, par exemple comme assistants personnels en IA, il est essentiel de garantir leur sécurité, soulignent les auteurs.
"D’ici peu les agents d’IA pourront effectuer différentes tâches pour nous, comme planifier et réserver nos vacances, des tâches qui nécessiteraient d’accéder à nos agendas, nos e-mails et nos comptes bancaires. Cela soulève de nombreuses questions concernant la sécurité et l’alignement", conclut Maksym Andriushchenko, qui a consacré sa thèse à ce sujet.
Cet article a été publié automatiquement. Source : ats
Suisse
Les polluants éternels largement répandus dans les sols suisses
Les polluants éternels sont largement répandus dans les sols suisses, montre une nouvelle étude. Les sites liés à l'utilisation de mousses d'extinction ou à l'épandage de boues d'épuration présentent une contamination significativement plus élevée aux PFAS.
Des chercheurs de l'université des sciences appliquées de Zurich (ZHAW) et de l'Ecole polytechnique fédérale de Zurich (EPFZ) ont évalué sur mandat de l'Office fédéral de l'environnement 1070 échantillons de sol prélevés dans 15 cantons, indique mardi la ZHAW. Les PFAS ont été détectés dans plus de 99% des échantillons.
La teneur médiane en polluants de 2,4 microgrammes par kilo de matière sèche dépasse les estimations précédentes, car le nouveau rapport inclut délibérément des sites suspectés de pollution. Il donne ainsi une vision plus complète de la situation sur le terrain, selon les chercheurs.
Les PFAS constituent un groupe de plusieurs milliers de substances chimiques synthétiques. Les pâturages de montagne au-dessus de 1000 mètres sont les moins contaminés.
Cet article a été publié automatiquement. Source : ats
Suisse
Personne ne décroche la bonne combinaison à l'Eurodreams
Personne n'a trouvé la combinaison gagnante à l'Eurodreams lundi soir. Pour gagner une rente mensuelle de 22'222 francs durant 30 ans, il fallait jouer les six numéros 2, 5, 24, 29, 32 et 39, ainsi que le numéro "dream" 3, a indiqué la Loterie romande.
Eurodreams est proposé dans huit pays européens. En Suisse, le jeu est exploité par la Loterie romande et par Swisslos côté alémanique. Le tirage est effectué les lundis et jeudis soir.
https://jeux.loro.ch/games/eurodreams
Cet article a été publié automatiquement. Source : ats
Suisse
Albert Rösti prié de s'expliquer sur les pesticides
Le ministre de l'environnement Albert Rösti a dû répondre lundi à une pluie de questions sur l'action ou plutôt le manque d'action du Conseil fédéral et de son département contre les pesticides lors d'un débat d'actualité au National. Il s'est défendu avec véhémence.
Ce débat d'actualité a été demandé par les Vert-e-s, le PS, le PEV et le PVL. Ces partis ont notamment critiqué le fait que, dans le cadre de la révision en cours de l'ordonnance sur la protection des eaux, le Conseil fédéral a renoncé à fixer des valeurs limites pour trois substances actives, pourtant toxiques pour la faune aquatique, notamment la deltaméthrine.
Une goutte de cette substance peut empoisonner toute une rivière, a souligné Kathrin Betschy (PVL/BE). Dans la Wyna, près de Beromünster (LU), une concentration 4200 fois supérieure aux valeurs limites écotoxicologiques a été mesurée, a complété Hasan Candan (PS/LU). Et d'ajouter à l'intention de M. Rösti: "Vous n'êtes pas le ministre de l'agriculture et des pesticides, mais de l'environnement".
Pas d'alternative
Ces substances sont indispensables pour protéger les cultures, notamment de légumes, de colza et de betterave sucrière, a répondu le ministre. Le gouvernement a effectué une pesée d'intérêts entre la production alimentaire et la protection des eaux pour les substances qui n'ont pas d'alternative.
Si des valeurs limites étaient fixées sans qu'il n'y ait d'alternative et qu'il fallait alors importer des légumes produits dans de moins bonnes conditions, cela ne ferait pas de sens, a-t-il illustré.
M. Rösti n'a pas contesté la nécessité de fixer des valeurs limites pour la deltaméthrine et les deux autres substances. Selon lui, cela sera fait lorsqu'il y aura des alternatives adéquates pour protéger les cultures.
Les défenseurs de l'agriculture ont eux rappelé que le domaine avait déjà fait beaucoup pour réduire son utilisation des produits phytosanitaires. Jacques Nicolet (UDC/VD) a souligné que la deltaméthrine est principalement utilisée pour les shampoings et les lotions ainsi que dans les médicaments pour éliminer les poux et les tiques chez les chiens et les chats.
Pas contraire à la loi
L'Office fédéral de la justice (OFJ) a estimé que refuser de fixer des valeurs limites pour des questions de politique agricole n'est pas légal, a relevé Marionna Schlatter (Vert-e-s/ZH). Les lois ne sont pas des opinions, a renchéri son collègue Balthasar Glättli (ZH).
M. Rösti ne partageait pas cette analyse et a réfuté à plusieurs reprises tout agissement contraire à la loi. Ni la loi fédérale sur la protection des eaux ni l'ordonnance correspondante ne précisent le moment auquel de nouvelles valeurs limites fondées sur des exigences écotoxicologiques doivent être fixées pour les pesticides, a-t-il souligné. Et d'ajouter que le Conseil fédéral accepte la loi, mais ne doit pas accepter un co-rapport, même s'il vient de l'OFJ.
Le fait de proposer des valeurs limites maintenant pour sept substances est une amélioration pour la protection des eaux, a aussi fait valoir le conseiller fédéral.
Rencontre avec l'USP critiquée
Le fait que M. Rösti ait rencontré l'Union suisse des paysans (USP) en amont de la consultation sur la révision de la protection des eaux a aussi été critiqué. "Pourquoi avez-vous rencontré cette faîtière et pas des spécialistes de l'eau potable ou des ONG?" a demandé Christophe Clivaz (Vert-e-s/VS).
Le Bernois a répondu qu'il voulait savoir ce que la révision signifierait concrètement pour l'agriculture. Il a aussi assuré qu'il rencontrait régulièrement des ONG.
Cet article a été publié automatiquement. Source : ats
Genève
La Ville de Vernier (GE) est à nouveau dotée d'un Conseil municipal
Privée de Conseil municipal depuis plus de neuf mois en raison d'une fraude électorale et de différents recours, la Ville de Vernier (GE) a finalement à nouveau un délibératif. Elus le 30 novembre dernier, les 37 conseillers municipaux ont prêté serment lundi soir.
Cette séance était uniquement consacrée à la prestation de serment, à l'élection du bureau et aux nominations des conseillers municipaux dans les diverses commissions. Le Conseil municipal débutera concrètement ses travaux le mardi 31 mars.
Les élus vont rapidement de pencher sur les projets d’investissement qui sont restés en suspens. Faute de budget 2026, la commune fonctionne actuellement sur la base des douzièmes provisoires, ce qui bloque certains projets. La deuxième plus grande ville du canton va aussi retrouver un espace de débat démocratique qui faisait défaut.
Cette prestation de serment ne met toutefois pas complètement fin aux incertitudes qui ont marqué les élections municipales à Vernier. Des recours au Tribunal fédéral ainsi qu'une procédure pénale sont toujours en cours.
Cet article a été publié automatiquement. Source : ats
-
GenèveIl y a 2 jours
800 personnes manifestent contre l'impérialisme à Genève
-
CultureIl y a 2 jours
Au château de Chillon, une soirée autour de la légende arthurienne
-
InternationalIl y a 3 jours
Un adolescent conduit sa petite amie à l'école dans un bus volé
-
InternationalIl y a 2 jours
Coup porté "au coeur" de la DZ Mafia en France
-
InternationalIl y a 2 jours
Bolsonaro toujours en soins intensifs, détérioration rénale
-
CultureIl y a 2 jours
La présidente de France Télévisions dévoile de nouvelles économies
-
CultureIl y a 3 jours
Vevey: la photographie se confronte à l'intelligence artificielle
-
CultureIl y a 2 jours
Légende du cinéma mondial, Ursula Andress célèbre ses 90 ans jeudi


