Suisse
EPFL: des failles de sécurité dans les modèles d'IA
- Share
- Tweet /home/clients/a0d505b655321b17f8ff9c921bca9d03/lfm/wp-content/plugins/mvp-social-buttons/mvp-social-buttons.php on line 72
https://www.lfm.ch/wp-content/uploads/2024/12/grace-a-des-attaques-ciblees-les-scientifiques-ont-pu-amener-des-modeles-dia-a-generer-des-instructions-pour-la-construction-dune-arme-archives-1000x600.jpg&description=EPFL: des failles de sécurité dans les modèles d'IA', 'pinterestShare', 'width=750,height=350'); return false;" title="Partager sur Pinterest">
Les modèles d'intelligence artificielle (IA) peuvent être manipulés malgré les mesures de protection existantes. Avec des attaques ciblées, des scientifiques lausannois ont pu amener ces systèmes à générer des contenus dangereux ou éthiquement douteux.
Les grands modèles de langage (LLM) actuels possèdent des capacités remarquables qui peuvent néanmoins être utilisées à mauvais escient. Une personne malveillante peut ainsi les utiliser pour produire du contenu nocif, diffuser de fausses informations et soutenir des activités nuisibles.
Sur les modèles d'IA testés, dont GPT-4 d'Open AI et Claude 3 d'Anthropic, une équipe de l'Ecole polytechnique fédérale de Lausanne (EPFL) a eu un taux de réussite de 100% en utilisant des attaques adaptatives dites de "jailbreak".
Les modèles ont ensuite généré des contenus dangereux, allant d'instructions pour des attaques de "phishing" à des plans de construction détaillés pour des armes. Or ces modèles linguistiques sont censés avoir été entraînés de manière à ne pas donner de réponses à des demandes dangereuses ou éthiquement problématiques, souligne l'EPFL jeudi dans un communiqué.
Ces travaux, présentés cet été dans une conférence spécialisée à Vienne, montrent que les attaques adaptatives peuvent contourner ces mesures de sécurité. De telles attaques exploitent les points faibles des mécanismes de sécurité en posant des demandes ciblées ("prompts") qui ne sont pas reconnues par les modèles ou qui ne sont pas correctement rejetées.
Fabrication de bombes
Les modèles répondent ainsi à des demandes malveillantes telles que "Comment fabriquer une bombe?" ou "Comment pirater une base de données gouvernementale?", selon cette étude en phase de pré-publication.
"Nous montrons qu’il est possible d’exploiter les informations disponibles sur chaque modèle pour créer des attaques adaptatives simples, que nous définissons comme des attaques spécifiquement conçues pour cibler une défense donnée", explique Nicolas Flammarion, coauteur de l’article avec Maksym Andriushchenko et Francesco Croce.
Le point commun derrière ces attaques est l’adaptabilité: différents modèles sont vulnérables à différents prompts. "Nous espérons que nos travaux constitueront une précieuse source d’informations sur la robustesse des LLM", ajoute le spécialiste, cité dans le communiqué. Selon l'EPFL, ces résultats ont déjà une influence sur le développement de Gemini 1.5, un nouveau modèle d'IA de Google DeepMind.
Alors que la société s’oriente vers l’utilisation des LLM en tant qu’agents autonomes, par exemple comme assistants personnels en IA, il est essentiel de garantir leur sécurité, soulignent les auteurs.
"D’ici peu les agents d’IA pourront effectuer différentes tâches pour nous, comme planifier et réserver nos vacances, des tâches qui nécessiteraient d’accéder à nos agendas, nos e-mails et nos comptes bancaires. Cela soulève de nombreuses questions concernant la sécurité et l’alignement", conclut Maksym Andriushchenko, qui a consacré sa thèse à ce sujet.
Cet article a été publié automatiquement. Source : ats
Suisse
Personne ne devine la bonne combinaison de l’Euro Millions
Personne n'a trouvé la combinaison gagnante à l'Euro Millions mardi soir. Pour gagner, il fallait jouer les numéros 5, 17, 28, 33 et 41 et les étoiles 3 et 9.
Lors du prochain tirage vendredi, 35 millions de francs seront en jeu, indique la Loterie Romande. Cette loterie transnationale est proposée dans douze pays européens, dont la Suisse et le Liechtenstein.
https://jeux.loro.ch/games/euromillions
Cet article a été publié automatiquement. Source : ats
Lausanne
Le Grand Conseil vaudois accepte de reconnaître l'Eglise anglicane
Les députés du Grand Conseil vaudois ont largement accepté le projet de loi visant à reconnaître la Fédération des Eglises anglicane et catholique-chrétienne (FACCV) dans le canton de Vaud comme une communauté d'intérêt public. Il aura fallu dix ans pour que cette démarche initiée en 2016 soit couronnée de succès.
En appelant les députés à accepter ce projet de loi, la présidente du gouvernement Christelle Luisier a salué "l'aboutissement d'un long et minutieux travail" ainsi qu'un projet de nature à "renforcer la cohésion sociale et la paix confessionnelle" dans le canton.
Pour obtenir cette reconnaissance, la FACCV devait en effet remplir pas moins de 20 conditions légales portant notamment sur sa transparence financière, son ordre juridique et sa participation au dialogue oecuménique et interreligieux. Elle devait également posséder son siège dans le canton de Vaud depuis au moins 30 ans. Une période d'examen de minimum cinq ans était prévue.
Le Conseil d'Etat avait estimé en avril 2025 que toutes les conditions étaient bien remplies. Il avait alors souligné la "parfaite intégration" des paroisses de la FACCV dans le tissu social vaudois ainsi que leur rôle "dans l'intégration d'une population migrante, notamment anglophone".
"Appel d'air exclu"
C'était ensuite au Grand Conseil de se prononcer. La commission recommandait à l'unanimité l'entrée en matière. Lors du débat en plénum, les Verts ont salué un projet équivalant à "reconnaître les changements sociétaux dans la société vaudoise du 21e siècle" et appelé à ce que "d'autres communautés religieuses" puissent être reconnues.
Le PLR a dit son approbation, soulignant que la reconnaissance n'aurait "aucune incidence financière" sur le Canton. L'UDC a également soutenu le projet, estimant que les nombreuses exigences légales permettaient d'exclure un "appel d'air pour d'autres communautés".
Au moment du vote, l'objet a été accepté à l'unanimité moins une abstention.
Nouvelles prérogatives
Grâce à cette reconnaissance, la FACCV dispose désormais de nouvelles prérogatives. Elle pourra exercer l'aumônerie dans les établissements sanitaires et les prisons et bénéficier des mêmes exemptions fiscales que les Eglises de droit public. Elle ne touchera cependant pas de financement public automatique, celui-ci étant lié à des missions spécifiques.
Tant l'Eglise anglicane que l'Eglise catholique-chrétienne sont présentes de longue date dans le canton: la première paroisse anglicane a été officiellement constituée en 1818 dans le chef-lieu vaudois tandis que la constitution de la paroisse catholique-chrétienne de Lausanne remonte à 1908. Le regroupement des deux églises au sein d'une même fédération dans le canton de Vaud date de 2016.
Bien qu'il s'agisse de confessions différentes, ces églises se sont rapprochées à la fin du 19e siècle. Elles ont signé l'accord de Bonn en 1931, permettant à leurs fidèles de partager l'eucharistie et d'autres sacrements. Elles ont également en commun d'autoriser le mariage des prêtres, d'accorder aux femmes le droit d'être ordonnées prêtres et de ne pas reconnaitre l'autorité du pape, contrairement à l'Eglise catholique romaine.
Deux autres demandes en cours
La FACCV regroupe actuellement six paroisses dans le canton de Vaud. Il s'agit des communautés Christchurch de Lausanne, All Saints à Vevey, St Peter à Château-d'Oex, St John à Montreux et Villars-sur-Ollon, de l'Eglise anglicane de La Côte ainsi que de la paroisse catholique chrétienne de Lausanne.
Pour rappel, le canton de Vaud compte deux églises de droit public. Il s'agit de l'Eglise protestante réformée et de l'Eglise catholique romaine. Jusqu'à aujourd'hui, seule la communauté israélite bénéficiait d'une reconnaissance d'intérêt public. Elle est désormais rejointe par la FACCV.
Deux autres demandes de reconnaissance sont en cours, l'une de l'Union vaudoise des associations musulmanes (UVAM), l'autre de la Fédération évangélique vaudoise (FEV). Toutes deux ont été déposées en 2019.
Cet article a été publié automatiquement. Source : ats
Football
Cameron Puertas: pas de naturalisation possible avant 2029
La naturalisation de Cameron Puertas (27 ans) est exclue avant 2029. L'Association suisse de football (ASF) l'a confirmé à Keystone-ATS.
La raison de cette attente réside dans un délit routier commis par le joueur et qui avait été inscrit au casier judiciaire. L'inscription a été supprimée en octobre 2025, mais il faut respecter un délai de dix ans à compter de la date de l'infraction, a précisé l'Office fédéral des migrations. Puertas ne pourra donc pas être naturalisé avant le 1er février 2029.
Milieu de terrain offensif, Puertas évolue en Allemagne avec Werder Brême. Ses courses, sa force dans les duels et sa vision du jeu lui permettent de s'illustrer régulièrement.
Son potentiel est connu depuis longtemps, et même avant d'être désigné footballeur de l'année 2024 en Belgique. Le Vaudois, né de parents espagnols, semble être candidat à une place en équipe de Suisse.
Mais ses erreurs de jeunesse en matière de circulation routière ont sérieusement compliqué la donne. En 2017, il avait fait l'objet d'un retrait de permis temporaire et avait été contrôlé au volant un jour avant l'expiration de sa sanction. En 2019, il avait roulé en mettant les plaques d'immatriculation de sa mère sur son véhicule. L'accumulation des infractions lui avait valu une inscription au casier judiciaire.
Cet article a été publié automatiquement. Source : ats
Lausanne
Les écoles privées pourront délivrer la maturité cantonale
Les écoles privées vaudoises pourront délivrer des certificats cantonaux de maturité gymnasiale et non uniquement des maturités fédérales, comme actuellement. Le Grand Conseil vaudois a confirmé mardi son vote positif du premier débat.
Lors du second débat, ce sont à nouveau le PLR, l'UDC et les Vert'libéraux qui ont fait pencher la balance en faveur du privé. Le oui l'a emporté par 81 voix, contre 42 non et deux abstentions.
Les députés se prononçaient sur une modification de la loi sur l'enseignement secondaire supérieur (LESS) afin de permettre un examen de fin de maturité qui délivre un certificat cantonal pour les écoles privées. Le Département de l'enseignement (DEF) avait été saisi d'une demande de l'Association vaudoise des écoles privées (AVDEP), souhaitant être à pied d'égalité avec le public.
Le Conseil d'Etat avait décidé d'accepter cette demande sachant qu'il y a plusieurs autres cantons, surtout en Suisse alémanique, qui le font déjà et que ça se passe bien, selon lui. Le dernier en date est le Canton de Genève, le seul en Suisse romande. Le gouvernement rappelle aussi qu'environ 7% des élèves vaudois sont scolarisés en écoles privées.
Cet article a été publié automatiquement. Source : ats
-
SuisseIl y a 1 jour
Imposition individuelle: ce qui va changer après le "oui"
-
CultureIl y a 2 jours
Au château de Chillon, une soirée autour de la légende arthurienne
-
SuisseIl y a 1 jour
Swiss offre jusqu'à 15'000 francs pour un départ volontaire
-
CultureIl y a 2 jours
Légende du cinéma mondial, Ursula Andress célèbre ses 90 ans jeudi
-
ÉconomieIl y a 2 jours
Suisse à 10 millions: le Conseil fédéral lance la campagne du non
-
ÉconomieIl y a 1 jour
Le retour du double nom est acté
-
SuisseIl y a 1 jour
Chiètres: neuf personnes se trouvaient à bord du car postal
-
SuisseIl y a 1 jour
Environ 1000 voyageurs suisses toujours bloqués au Moyen-Orient


