Suisse
EPFL: des failles de sécurité dans les modèles d'IA
- Share
- Tweet /home/clients/a0d505b655321b17f8ff9c921bca9d03/lfm/wp-content/plugins/mvp-social-buttons/mvp-social-buttons.php on line 72
https://www.lfm.ch/wp-content/uploads/2024/12/grace-a-des-attaques-ciblees-les-scientifiques-ont-pu-amener-des-modeles-dia-a-generer-des-instructions-pour-la-construction-dune-arme-archives-1000x600.jpg&description=EPFL: des failles de sécurité dans les modèles d'IA', 'pinterestShare', 'width=750,height=350'); return false;" title="Partager sur Pinterest">
Les modèles d'intelligence artificielle (IA) peuvent être manipulés malgré les mesures de protection existantes. Avec des attaques ciblées, des scientifiques lausannois ont pu amener ces systèmes à générer des contenus dangereux ou éthiquement douteux.
Les grands modèles de langage (LLM) actuels possèdent des capacités remarquables qui peuvent néanmoins être utilisées à mauvais escient. Une personne malveillante peut ainsi les utiliser pour produire du contenu nocif, diffuser de fausses informations et soutenir des activités nuisibles.
Sur les modèles d'IA testés, dont GPT-4 d'Open AI et Claude 3 d'Anthropic, une équipe de l'Ecole polytechnique fédérale de Lausanne (EPFL) a eu un taux de réussite de 100% en utilisant des attaques adaptatives dites de "jailbreak".
Les modèles ont ensuite généré des contenus dangereux, allant d'instructions pour des attaques de "phishing" à des plans de construction détaillés pour des armes. Or ces modèles linguistiques sont censés avoir été entraînés de manière à ne pas donner de réponses à des demandes dangereuses ou éthiquement problématiques, souligne l'EPFL jeudi dans un communiqué.
Ces travaux, présentés cet été dans une conférence spécialisée à Vienne, montrent que les attaques adaptatives peuvent contourner ces mesures de sécurité. De telles attaques exploitent les points faibles des mécanismes de sécurité en posant des demandes ciblées ("prompts") qui ne sont pas reconnues par les modèles ou qui ne sont pas correctement rejetées.
Fabrication de bombes
Les modèles répondent ainsi à des demandes malveillantes telles que "Comment fabriquer une bombe?" ou "Comment pirater une base de données gouvernementale?", selon cette étude en phase de pré-publication.
"Nous montrons qu’il est possible d’exploiter les informations disponibles sur chaque modèle pour créer des attaques adaptatives simples, que nous définissons comme des attaques spécifiquement conçues pour cibler une défense donnée", explique Nicolas Flammarion, coauteur de l’article avec Maksym Andriushchenko et Francesco Croce.
Le point commun derrière ces attaques est l’adaptabilité: différents modèles sont vulnérables à différents prompts. "Nous espérons que nos travaux constitueront une précieuse source d’informations sur la robustesse des LLM", ajoute le spécialiste, cité dans le communiqué. Selon l'EPFL, ces résultats ont déjà une influence sur le développement de Gemini 1.5, un nouveau modèle d'IA de Google DeepMind.
Alors que la société s’oriente vers l’utilisation des LLM en tant qu’agents autonomes, par exemple comme assistants personnels en IA, il est essentiel de garantir leur sécurité, soulignent les auteurs.
"D’ici peu les agents d’IA pourront effectuer différentes tâches pour nous, comme planifier et réserver nos vacances, des tâches qui nécessiteraient d’accéder à nos agendas, nos e-mails et nos comptes bancaires. Cela soulève de nombreuses questions concernant la sécurité et l’alignement", conclut Maksym Andriushchenko, qui a consacré sa thèse à ce sujet.
Cet article a été publié automatiquement. Source : ats
Genève
UNIGE: vers un diagnostic précoce de maladies neurodégénératives
Une étude de l'UNIGE ouvre la voie à un diagnostic plus précoce des maladies neurodégénératives. Pour la première fois, elle a établi la structure tridimensionnelle de dépôts de protéines anormales sur un patient vivant atteint d'amylose à transthyrétine (ATTR).
Cette maladie rare est provoquée par le mauvais repliement d'une protéine. Celle-ci s'accumule avec toxicité dans différents organes par des dépôts filamenteux, a expliqué lundi l'Université de Genève (UNIGE).
Ce mécanisme est similaire à celui observé dans d'autres maladies neurodégénératives comme Alzheimer, Parkinson ou encore la sclérose latérale amyotrophique.
L'étude en collaboration avec l'Université de la Suisse italienne (USI), publiée dans la revue Nature Communications, a été menée à partir d'une biopsie cutanée du patient vivant. Jusqu'à présent, les travaux sur les fibrilles de l'ATTR portaient surtout sur des tissus prélevés chez des défunts.
Ils ne permettaient qu'une évaluation des dernières étapes de la pathologie. Les scientifiques dirigés par Andreas Boland de l'UNIGE et Giorgia Melli de l'USI ont pu oeuvrer sur le patient presque sans douleur pour celui-ci.
Une approche de pointe, la cryo-microscopie électronique, a abouti à l'établissement de la structure tridimensionnelle des fibrilles qui ont pu être suffisamment isolées dans l'échantillon de peau prélevé. Cette manoeuvre a permis de voir que les dépôts amyloïdes dans la peau sont presque conformes à ceux dans des organes plus difficiles d'accès, ajoute également l'UNIGE.
Pour la première fois, les fibrilles pourront être suivies à long terme. Le laboratoire de l'UNIGE souhaite à l'avenir l'appliquer à d'autres pathologies neurodégénératives, notamment Alzheimer ou Parkinson. A terme, "une prise en charge personnalisée" pour les patients pourra être menée.
Cet article a été publié automatiquement. Source : ats
Suisse
Fnac Darty cherche à vendre Nature & Découvertes
Fnac Darty a annoncé lundi chercher à se séparer de l'enseigne dédiée au bien-être Nature & Découvertes, qu'il avait acquise en 2019 mais dont les difficultés plombent les comptes du groupe. Nature & Découvertes compte deux magasins en Suisse, à Lausanne et à Genève.
"Les défis rencontrés depuis plusieurs trimestres par Nature & Découvertes ont perduré malgré les initiatives mises en place pour redynamiser l'activité", indique Fnac Darty dans ses résultats préliminaires publiés en même temps que l'annonce d'une OPA de la part de son premier actionnaire Daniel Kretinsky.
"Le groupe a décidé de lancer un processus actif de recherche de partenaire qui serait plus à même de soutenir son développement", ajoute Fnac Darty dans son communiqué, précisant reclasser l'enseigne en "IFRS 5", soit les actifs destinées à la vente, d'un point de vue comptable.
Les résultats préliminaires du groupe pour 2025, non audités, laissent entrevoir un chiffre d'affaires stable à périmètre constant, à 10,3 milliards d'euros (9,5 milliards de francs), tout comme le quatrième trimestre 2025.
Mais les trois derniers mois de l'année ont été pénalisés par "la contre performance de la France", qui recouvre près de 60% de l'activité de Fnac Darty, et dont le chiffre d'affaires a baissé de 0,6% à périmètre constant.
"Les chiffres publiés par la Banque de France la semaine dernière confirment un contexte particulièrement difficile pour le secteur de la distribution avec une pression forte sur la consommation et la confiance des ménages", indique Fnac Darty dans sa publication financière, ajoutant que pour le reste de l'Europe, les performances sont "très satisfaisantes".
Cet article a été publié automatiquement. Sources : ats / awp / afp
Vaud
La fréquentation des Épiceries Caritas toujours en hausse
Les Épiceries Caritas ont enregistrés un triste record de fréquentation. Plus de 1 million de personnes y ont fait leurs courses l'an dernier. Dans le canton de Vaud, la fréquentation des quatre points de vente a augmenté de 8%.
De plus en plus de personnes se tournent vers les Épiceries Caritas pour faire leurs courses. Les points de ventes proposent des denrées alimentaires et produits d’usage à des prix fortement réduits.
Dans le canton de Vaud leur fréquentation a augmenté de 8% en 2025 par rapport à l’année précédente, un record. Cette hausse est comparable aux 22 points de ventes suisse : 1,1 million de personnes dans le besoin y ont fait leurs courses l'année dernière, soit 10'000 ventes de plus.
Est-ce le signe que les conditions de vies des personnes touchées par la pauvreté ne cessent de s'aggraver en Suisse ? Nous avons posé la question à Marc Huguenot, chef du secteur Aide directe à Caritas Vaud.
Le Épiceries Caritas offrent la possibilité d’acheter des produits jusqu’à 70% moins chers. Nous avons demandé au chef du secteur Aide directe à Caritas Vaud, comment les Épiceries Caritas parviennent à garantir des prix les plus bas que les enseignes traditionnelles.
Comme chaque année, ce sont les pâtes, le lait ou l’huile qui ont été les plus vendus. Mais cette année la demande de fruits et légumes à particulièrement augmenté : +2,2% dans le canton de Vaud.
L’application Bonus+ lancée par Caritas l’année passée permet également d’obtenir des rabais supplémentaires sur certains articles. La CarteCulture est nécessaire. Il suffit pour cela de bénéficier des subsides à l’assurance maladie.
Culture
Black Movie distingue "Al oeste, en Zapata" du Cubain David Bim
Black Movie, à Genève, a remis le Prix de la Critique au film "Al oeste, en Zapata", du réalisateur cubain, David Bim. Cette 27e édition du festival international de films indépendants, qui s'est terminée dimanche, a accueilli près de 25'750 festivaliers.
Durant dix jours, le public a pu découvrir 104 films, dont 48 longs métrages, ont indiqué dimanche les organisateurs dans un communiqué. Près d'une vingtaine d'invités étaient présents pour accompagner les longs métrages.
Parmi les films les plus suivis figurent notamment "Orwell: 2+2=5" du Haïtien Raoul Peck, qui confronte les écrits d'Orwell avec des images contemporaines. "No Other Choice" a également été bien suivi, démontrant l'attachement du public pour le travail du Sud-Coréen Park Chan-wook, poursuit le communiqué.
Spectateurs et spectatrices ont également fait preuve de curiosité en fréquentant avec assiduité les séances de films réalisés par de nouveaux talents, comme la réalisatrice et actrice mexicaine Mayra Hermosillo (Vainilla), le réalisateur thaïlandais Ratchapoom Boonbunchachoke (Fantôme utile), et le réalisateur américain Neo Sora (Happyend).
Les prix
Le Prix de la Critique, doté de 5000 francs, a été unanimement attribué par le jury au film "Al oeste, en Zapata" de David Bim. Le jury a apprécié le "classicisme impeccable" du réalisateur cubain. Le film raconte l'histoire pleine d'humanité d'une famille au coeur de la pandémie, en marge de la société cubaine.
Le Prix des Jeunes, d’une valeur de 1000 francs, a été décerné à "Singing Wings" du Kurde Hemen Khaledi. Le jury composé là de neuf élèves a relevé "ses thématiques touchantes, notamment l’importance de la communauté et les migrations, tant chez les humains que chez les animaux."
Quant au Prix Payot Petit Black Movie, d’une valeur de 1000 francs, il est allé à "Autokar" de Sylwia Szkiłądź (France, Belgique, Pologne). Le Prix des Enfants est lui décerné à Backstreet Birds de Gertrūda Nemčauskaitė (Lituanie).
Black Movie reviendra pour une 28e édition du 22 au 31 janvier 2027.
Cet article a été publié automatiquement. Source : ats
-
LausanneIl y a 3 jours
Chantiers: Lausanne va indemniser ses commerçants impactés
-
LausanneIl y a 2 jours
Vaud: une motion veut couper la rente à vie en cas de condamnation
-
CultureIl y a 3 jours
Fondation Beyeler: rencontres avec Cézanne, le père de la modernité
-
SuisseIl y a 3 jours
Le patron du "Constellation" Jacques Moretti peut sortir de prison
-
InternationalIl y a 3 jours
Une investigation urgente sur l'Iran lancée depuis l'ONU à Genève
-
InternationalIl y a 3 jours
La Première ministre danoise en visite de soutien au Groenland
-
CultureIl y a 3 jours
Alain Monney, pilier de Carabine FM et des Pique-Meurons, est mort
-
ÉconomieIl y a 3 jours
Christine Lagarde remercie "ceux qui dénigrent" l'Europe


