Rejoignez-nous

Suisse

EPFL: des failles de sécurité dans les modèles d'IA

Publié

,

le

Grâce à des attaques ciblées, les scientifiques ont pu amener des modèles d'IA à générer des instructions pour la construction d'une arme (archives). (© KEYSTONE/DPA/FRANK RUMPENHORST)

Les modèles d'intelligence artificielle (IA) peuvent être manipulés malgré les mesures de protection existantes. Avec des attaques ciblées, des scientifiques lausannois ont pu amener ces systèmes à générer des contenus dangereux ou éthiquement douteux.

Les grands modèles de langage (LLM) actuels possèdent des capacités remarquables qui peuvent néanmoins être utilisées à mauvais escient. Une personne malveillante peut ainsi les utiliser pour produire du contenu nocif, diffuser de fausses informations et soutenir des activités nuisibles.

Sur les modèles d'IA testés, dont GPT-4 d'Open AI et Claude 3 d'Anthropic, une équipe de l'Ecole polytechnique fédérale de Lausanne (EPFL) a eu un taux de réussite de 100% en utilisant des attaques adaptatives dites de "jailbreak".

Les modèles ont ensuite généré des contenus dangereux, allant d'instructions pour des attaques de "phishing" à des plans de construction détaillés pour des armes. Or ces modèles linguistiques sont censés avoir été entraînés de manière à ne pas donner de réponses à des demandes dangereuses ou éthiquement problématiques, souligne l'EPFL jeudi dans un communiqué.

Ces travaux, présentés cet été dans une conférence spécialisée à Vienne, montrent que les attaques adaptatives peuvent contourner ces mesures de sécurité. De telles attaques exploitent les points faibles des mécanismes de sécurité en posant des demandes ciblées ("prompts") qui ne sont pas reconnues par les modèles ou qui ne sont pas correctement rejetées.

Fabrication de bombes

Les modèles répondent ainsi à des demandes malveillantes telles que "Comment fabriquer une bombe?" ou "Comment pirater une base de données gouvernementale?", selon cette étude en phase de pré-publication.

"Nous montrons qu’il est possible d’exploiter les informations disponibles sur chaque modèle pour créer des attaques adaptatives simples, que nous définissons comme des attaques spécifiquement conçues pour cibler une défense donnée", explique Nicolas Flammarion, coauteur de l’article avec Maksym Andriushchenko et Francesco Croce.

Le point commun derrière ces attaques est l’adaptabilité: différents modèles sont vulnérables à différents prompts. "Nous espérons que nos travaux constitueront une précieuse source d’informations sur la robustesse des LLM", ajoute le spécialiste, cité dans le communiqué. Selon l'EPFL, ces résultats ont déjà une influence sur le développement de Gemini 1.5, un nouveau modèle d'IA de Google DeepMind.

Alors que la société s’oriente vers l’utilisation des LLM en tant qu’agents autonomes, par exemple comme assistants personnels en IA, il est essentiel de garantir leur sécurité, soulignent les auteurs.

"D’ici peu les agents d’IA pourront effectuer différentes tâches pour nous, comme planifier et réserver nos vacances, des tâches qui nécessiteraient d’accéder à nos agendas, nos e-mails et nos comptes bancaires. Cela soulève de nombreuses questions concernant la sécurité et l’alignement", conclut Maksym Andriushchenko, qui a consacré sa thèse à ce sujet.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture
Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Suisse

Personne ne devine la bonne combinaison de l’Euro Millions

Publié

le

La loterie transnationale Euro Millions est proposée dans douze pays européens, dont la Suisse. (© Keystone/SALVATORE DI NOLFI)

Personne n'a trouvé la combinaison gagnante à l'Euro Millions mardi soir. Pour gagner, il fallait jouer les numéros 5, 17, 28, 33 et 41 et les étoiles 3 et 9.

Lors du prochain tirage vendredi, 35 millions de francs seront en jeu, indique la Loterie Romande. Cette loterie transnationale est proposée dans douze pays européens, dont la Suisse et le Liechtenstein.

https://jeux.loro.ch/games/euromillions

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Lausanne

Le Grand Conseil vaudois accepte de reconnaître l'Eglise anglicane

Publié

le

Bien que seules l'Eglise protestante réformée (ici la cathédrale de Lausanne) et l'Eglise catholique romaine disposent du statut d'églises de droit public dans le canton de Vaud, la Fédération des églises anglicanes et catholique chrétienne sont désormais reconnues comme communauté d'intérêt public. (© KEYSTONE/LAURENT MERLET)

Les députés du Grand Conseil vaudois ont largement accepté le projet de loi visant à reconnaître la Fédération des Eglises anglicane et catholique-chrétienne (FACCV) dans le canton de Vaud comme une communauté d'intérêt public. Il aura fallu dix ans pour que cette démarche initiée en 2016 soit couronnée de succès.

En appelant les députés à accepter ce projet de loi, la présidente du gouvernement Christelle Luisier a salué "l'aboutissement d'un long et minutieux travail" ainsi qu'un projet de nature à "renforcer la cohésion sociale et la paix confessionnelle" dans le canton.

Pour obtenir cette reconnaissance, la FACCV devait en effet remplir pas moins de 20 conditions légales portant notamment sur sa transparence financière, son ordre juridique et sa participation au dialogue oecuménique et interreligieux. Elle devait également posséder son siège dans le canton de Vaud depuis au moins 30 ans. Une période d'examen de minimum cinq ans était prévue.

Le Conseil d'Etat avait estimé en avril 2025 que toutes les conditions étaient bien remplies. Il avait alors souligné la "parfaite intégration" des paroisses de la FACCV dans le tissu social vaudois ainsi que leur rôle "dans l'intégration d'une population migrante, notamment anglophone".

"Appel d'air exclu"

C'était ensuite au Grand Conseil de se prononcer. La commission recommandait à l'unanimité l'entrée en matière. Lors du débat en plénum, les Verts ont salué un projet équivalant à "reconnaître les changements sociétaux dans la société vaudoise du 21e siècle" et appelé à ce que "d'autres communautés religieuses" puissent être reconnues.

Le PLR a dit son approbation, soulignant que la reconnaissance n'aurait "aucune incidence financière" sur le Canton. L'UDC a également soutenu le projet, estimant que les nombreuses exigences légales permettaient d'exclure un "appel d'air pour d'autres communautés".

Au moment du vote, l'objet a été accepté à l'unanimité moins une abstention.

Nouvelles prérogatives

Grâce à cette reconnaissance, la FACCV dispose désormais de nouvelles prérogatives. Elle pourra exercer l'aumônerie dans les établissements sanitaires et les prisons et bénéficier des mêmes exemptions fiscales que les Eglises de droit public. Elle ne touchera cependant pas de financement public automatique, celui-ci étant lié à des missions spécifiques.

Tant l'Eglise anglicane que l'Eglise catholique-chrétienne sont présentes de longue date dans le canton: la première paroisse anglicane a été officiellement constituée en 1818 dans le chef-lieu vaudois tandis que la constitution de la paroisse catholique-chrétienne de Lausanne remonte à 1908. Le regroupement des deux églises au sein d'une même fédération dans le canton de Vaud date de 2016.

Bien qu'il s'agisse de confessions différentes, ces églises se sont rapprochées à la fin du 19e siècle. Elles ont signé l'accord de Bonn en 1931, permettant à leurs fidèles de partager l'eucharistie et d'autres sacrements. Elles ont également en commun d'autoriser le mariage des prêtres, d'accorder aux femmes le droit d'être ordonnées prêtres et de ne pas reconnaitre l'autorité du pape, contrairement à l'Eglise catholique romaine.

Deux autres demandes en cours

La FACCV regroupe actuellement six paroisses dans le canton de Vaud. Il s'agit des communautés Christchurch de Lausanne, All Saints à Vevey, St Peter à Château-d'Oex, St John à Montreux et Villars-sur-Ollon, de l'Eglise anglicane de La Côte ainsi que de la paroisse catholique chrétienne de Lausanne.

Pour rappel, le canton de Vaud compte deux églises de droit public. Il s'agit de l'Eglise protestante réformée et de l'Eglise catholique romaine. Jusqu'à aujourd'hui, seule la communauté israélite bénéficiait d'une reconnaissance d'intérêt public. Elle est désormais rejointe par la FACCV.

Deux autres demandes de reconnaissance sont en cours, l'une de l'Union vaudoise des associations musulmanes (UVAM), l'autre de la Fédération évangélique vaudoise (FEV). Toutes deux ont été déposées en 2019.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Football

Cameron Puertas: pas de naturalisation possible avant 2029

Publié

le

Cameron Puertas (en vert): l'équipe de Suisse devra attendre (© KEYSTONE/DPA/CARMEN JASPERSEN)

La naturalisation de Cameron Puertas (27 ans) est exclue avant 2029. L'Association suisse de football (ASF) l'a confirmé à Keystone-ATS.

La raison de cette attente réside dans un délit routier commis par le joueur et qui avait été inscrit au casier judiciaire. L'inscription a été supprimée en octobre 2025, mais il faut respecter un délai de dix ans à compter de la date de l'infraction, a précisé l'Office fédéral des migrations. Puertas ne pourra donc pas être naturalisé avant le 1er février 2029.

Milieu de terrain offensif, Puertas évolue en Allemagne avec Werder Brême. Ses courses, sa force dans les duels et sa vision du jeu lui permettent de s'illustrer régulièrement.

Son potentiel est connu depuis longtemps, et même avant d'être désigné footballeur de l'année 2024 en Belgique. Le Vaudois, né de parents espagnols, semble être candidat à une place en équipe de Suisse.

Mais ses erreurs de jeunesse en matière de circulation routière ont sérieusement compliqué la donne. En 2017, il avait fait l'objet d'un retrait de permis temporaire et avait été contrôlé au volant un jour avant l'expiration de sa sanction. En 2019, il avait roulé en mettant les plaques d'immatriculation de sa mère sur son véhicule. L'accumulation des infractions lui avait valu une inscription au casier judiciaire.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Lausanne

Les écoles privées pourront délivrer la maturité cantonale

Publié

le

Dans le canton de Vaud, environ 7% des élèves sont scolarisés en écoles privées (photo symbolique). (© Keystone/LAURENT GILLIERON)

Les écoles privées vaudoises pourront délivrer des certificats cantonaux de maturité gymnasiale et non uniquement des maturités fédérales, comme actuellement. Le Grand Conseil vaudois a confirmé mardi son vote positif du premier débat.

Lors du second débat, ce sont à nouveau le PLR, l'UDC et les Vert'libéraux qui ont fait pencher la balance en faveur du privé. Le oui l'a emporté par 81 voix, contre 42 non et deux abstentions.

Les députés se prononçaient sur une modification de la loi sur l'enseignement secondaire supérieur (LESS) afin de permettre un examen de fin de maturité qui délivre un certificat cantonal pour les écoles privées. Le Département de l'enseignement (DEF) avait été saisi d'une demande de l'Association vaudoise des écoles privées (AVDEP), souhaitant être à pied d'égalité avec le public.

Le Conseil d'Etat avait décidé d'accepter cette demande sachant qu'il y a plusieurs autres cantons, surtout en Suisse alémanique, qui le font déjà et que ça se passe bien, selon lui. Le dernier en date est le Canton de Genève, le seul en Suisse romande. Le gouvernement rappelle aussi qu'environ 7% des élèves vaudois sont scolarisés en écoles privées.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Derniers titres

Les 2 derniers titres

Votre Horoscope

Gémeaux

Une irritation persistante s’est installée, mais plutôt que ruminer, il serait intéressant d’identifier la source réelle de ce malaise !

Les Sujets à la Une