Rejoignez-nous

Suisse

EPFL: des failles de sécurité dans les modèles d'IA

Publié

,

le

Grâce à des attaques ciblées, les scientifiques ont pu amener des modèles d'IA à générer des instructions pour la construction d'une arme (archives). (© KEYSTONE/DPA/FRANK RUMPENHORST)

Les modèles d'intelligence artificielle (IA) peuvent être manipulés malgré les mesures de protection existantes. Avec des attaques ciblées, des scientifiques lausannois ont pu amener ces systèmes à générer des contenus dangereux ou éthiquement douteux.

Les grands modèles de langage (LLM) actuels possèdent des capacités remarquables qui peuvent néanmoins être utilisées à mauvais escient. Une personne malveillante peut ainsi les utiliser pour produire du contenu nocif, diffuser de fausses informations et soutenir des activités nuisibles.

Sur les modèles d'IA testés, dont GPT-4 d'Open AI et Claude 3 d'Anthropic, une équipe de l'Ecole polytechnique fédérale de Lausanne (EPFL) a eu un taux de réussite de 100% en utilisant des attaques adaptatives dites de "jailbreak".

Les modèles ont ensuite généré des contenus dangereux, allant d'instructions pour des attaques de "phishing" à des plans de construction détaillés pour des armes. Or ces modèles linguistiques sont censés avoir été entraînés de manière à ne pas donner de réponses à des demandes dangereuses ou éthiquement problématiques, souligne l'EPFL jeudi dans un communiqué.

Ces travaux, présentés cet été dans une conférence spécialisée à Vienne, montrent que les attaques adaptatives peuvent contourner ces mesures de sécurité. De telles attaques exploitent les points faibles des mécanismes de sécurité en posant des demandes ciblées ("prompts") qui ne sont pas reconnues par les modèles ou qui ne sont pas correctement rejetées.

Fabrication de bombes

Les modèles répondent ainsi à des demandes malveillantes telles que "Comment fabriquer une bombe?" ou "Comment pirater une base de données gouvernementale?", selon cette étude en phase de pré-publication.

"Nous montrons qu’il est possible d’exploiter les informations disponibles sur chaque modèle pour créer des attaques adaptatives simples, que nous définissons comme des attaques spécifiquement conçues pour cibler une défense donnée", explique Nicolas Flammarion, coauteur de l’article avec Maksym Andriushchenko et Francesco Croce.

Le point commun derrière ces attaques est l’adaptabilité: différents modèles sont vulnérables à différents prompts. "Nous espérons que nos travaux constitueront une précieuse source d’informations sur la robustesse des LLM", ajoute le spécialiste, cité dans le communiqué. Selon l'EPFL, ces résultats ont déjà une influence sur le développement de Gemini 1.5, un nouveau modèle d'IA de Google DeepMind.

Alors que la société s’oriente vers l’utilisation des LLM en tant qu’agents autonomes, par exemple comme assistants personnels en IA, il est essentiel de garantir leur sécurité, soulignent les auteurs.

"D’ici peu les agents d’IA pourront effectuer différentes tâches pour nous, comme planifier et réserver nos vacances, des tâches qui nécessiteraient d’accéder à nos agendas, nos e-mails et nos comptes bancaires. Cela soulève de nombreuses questions concernant la sécurité et l’alignement", conclut Maksym Andriushchenko, qui a consacré sa thèse à ce sujet.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture
Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Football

La sélection suisse pour le Mondial sera dévoilée lundi et mardi

Publié

le

La sélection de Murat Yakin pour le Mondial sera dévoilée lundi et mardi par le biais d'un jeu (© KEYSTONE/CYRIL ZINGARO)

Les 26 joueurs qui représenteront la Suisse lors de la Coupe du monde aux Etats-Unis, au Canada et au Mexique seront dévoilés séparément lundi et mardi.

L'ASF a choisi pour cela un jeu de devinettes à partir d'images ("Find the squad").

A partir de lundi matin, onze images seront publiées sur les différents réseaux sociaux, dans lesquelles les noms des joueurs sélectionnés seront dissimulés "de manière créative". Comme l'indique l'ASF, les photos montreront des personnes dans leur quotidien, exerçant différentes professions et évoluant dans des milieux représentant la diversité et la pluralité de la Suisse.

Le sélectionneur national Murat Yakin s'exprimera plus en détail sur la sélection mercredi devant la presse. "Je sais que tout le monde dans le monde du football suisse attend cette sélection. C'est pourquoi je trouve approprié de l'annoncer de manière créative et d'impliquer des personnes issues de différents secteurs", a déclaré le technicien bâlois, cité dans le communiqué de l'ASF,

L'Association suisse avait déjà choisi une méthode originale pour rendre publique sa sélection pour l'Euro féminin 2025, disputé en Suisse. Une chasse au trésor ("The Chase") avait alors été mise sur pied, lors de laquelle les noms des joueuses avaient été dévoilés dans leur commune respective.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Suisse

Relation amoureuse en principe interdite entre deux juges fédéraux

Publié

le

L'ensemble des juges ordinaires du Tribunal fédéral se sont réunis pour discuter de la relation entre deux juges (image d'illustration). (© KEYSTONE/JEAN-CHRISTOPHE BOTT)

Une relation amoureuse entre deux juges du Tribunal fédéral contrevient en principe aux règles de l'institution, estime la cour plénière du TF. Cette instance a discuté mercredi de la liaison entre les juges Beatrice van de Graaf et Yves Donzallaz.

Concernant ce cas précis, des décisions seront annoncées dès que l'expertise indépendante demandée par le Tribunal fédéral sera disponible, souligne la haute cour dans un communiqué publié vendredi.

La relation entre les deux juges a été révélée il y a deux semaines par l'hebdomadaire alémanique Weltwoche. La commission administrative avait alors entendu les deux juges et chargé deux experts externes de faire la lumière sur cette affaire.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Suisse

Sandoz enrichit son offre d'insuline en Europe avec deux produits

Publié

le

Sandoz a rappelé avoir paraphé en 2018 un accord de distribution avec Gan & Lee portant sur les versions biosimilaires d'insulines aspart, lispro et glargine, portant notamment sur le Vieux continent. (© KEYSTONE/GEORGIOS KEFALAS)

Sandoz étoffe son offre d'insuline en Europe. Son partenaire chinois Gan & Lee a obtenu le feu vert de la Commission européenne pour les succédanés Bysumlog et Dazparda des préparations originales respectives Homalog (insuline lispro) et NovoRapid (insuline aspart).

Propriété d'Eli Lilly, Homalog a rapporté au mastodonte américain plus de 2,3 milliards de dollars au niveau mondial en 2024. Son homologue danois a de son côté engrangé plus de 2,5 milliards de dollars avec son NovoRapid en 2025, souligne Gan & Lee dans un communiqué paru vendredi.

Sandoz a rappelé avoir paraphé en 2018 un accord de distribution avec Gan & Lee portant sur les versions biosimilaires d'insulines aspart, lispro et glargine, portant notamment sur le Vieux continent.

Homologuée en janvier dernier par la Commission européenne, l'insuline glargine de Gan & Lee sera commercialisés par Sandoz sous la marque Ondibta. La préparation originale Lantus avait généré pour son propriétaire hexagonal Sanofi des revenus mondiaux de près de 2,9 milliards d'euros en 2024, dont 819 millions sur le seul marché européen.

Cet article a été publié automatiquement. Sources : ats / awp

Continuer la lecture

Suisse

Dertour Suisse se remet du choc initial lié à la guerre en Iran

Publié

le

Les destinations du golfe Persique et celles qui dépendent de la plaque tournante de Dubaï ont particulièrement souffert. Parmi celles-ci figurent notamment les destinations de l'océan Indien, telles que les Maldives ou les Seychelles. "Celles-ci ont beaucoup perdu", selon elle. (© KEYSTONE/MARTIAL TREZZINI)

La guerre en Iran n'a entraîné qu'un recul temporaire des réservations chez le voyagiste Dertour Suisse. En 2026, le leader du secteur compte franchir pour la première fois la barre du milliard de francs de chiffre d'affaires, grâce au rachat d'Hotelplan.

L'année 2026 a démarré avec une "solide demande", déclare la directrice de Dertour Suisse, Stephanie Schulze zur Wiesch, dans une interview accordée à l'agence de presse AWP. Mais le déclenchement de la guerre en Iran fin février a tout changé: il y a eu une vague de changements de réservation et d'annulations qui n'a pas pu être compensée par les nouvelles réservations.

"Cet effet s'est fait sentir en mars et avril. Cumulées sur ces deux mois, les réservations ont affiché une baisse à un chiffre par rapport à l'année précédente", explique Mme Schulze zur Wiesch.

Les destinations du golfe Persique et celles qui dépendent de la plaque tournante de Dubaï ont particulièrement souffert. Parmi celles-ci figurent notamment les destinations de l'océan Indien, telles que les Maldives ou les Seychelles. "Celles-ci ont beaucoup perdu", selon elle.

Envie de voyager intacte

"L'envie de voyager reste intacte", souligne toutefois Mme Schulze zur Wiesch. Ainsi, les réservations dépasseraient le niveau de l'année dernière, surtout pour l'automne.

"Les gagnantes sont les destinations occidentales comme les îles Canaries, le Portugal ou l'Italie. La demande y est plus forte que l'année dernière", explique-t-elle. La Tunisie et le Maroc sont également recherchés, tandis que des hausses à deux chiffres sont enregistrés pour la Scandinavie, l'Islande ou l'archipel du Spitzberg.

Par contre, Majorque, haut lieu touristique, affiche des chiffres légèrement inférieurs à ceux de l'année dernière. "Cela tient aussi au niveau des prix", selon la directrice.

Du côté des perdants, on trouve les destinations du golfe Persique ainsi que les Maldives ou les Seychelles. "Et en Méditerranée orientale, la Turquie et l'Égypte souffrent, bien qu'elles soient des destinations sûres", explique la directrice de Dertour Suisse. Dans cette région, les réservations ont enregistré une baisse à deux chiffres ces dernières semaines. Chypre et les grandes îles grecques que sont la Crète, Kos et Rhodes sont également moins prisées.

En ce qui concerne les voyages aux États-Unis, le coup de frein lié à la politique du président américain Donald Trump n'est pas encore terminé. En revanche, les réservations pour le Canada sont en hausse, même si cela ne suffit pas à compenser le recul des voyages aux États-Unis.

Pas de pénurie de kérosène cet été

La directrice de Dertour Suisse ne craint pas de pénurie de kérosène pendant les vacances d'été. "Nos compagnies aériennes partenaires nous indiquent que la Suisse et l'Allemagne ne sont pas directement concernées. Nous n'envisageons pas de scénario catastrophe pour le moment", déclare Mme Schulze zur Wiesch.

Les nombreuses annulations de vols n'ont pas non plus affecté Dertour, précise Mme Schulze zur Wiesch. Le groupe Lufthansa, en tête de file, a cessé les activités de sa filiale Cityline, annulant ainsi 20'000 vols court-courriers jusqu'en octobre. D'autres compagnies aériennes, telles que KLM ou SAS, ont également retiré de leur programme les vols non rentables.

"Cela n'a pas eu d'incidence pour nous. Les liaisons supprimées ne font pas partie des destinations de vacances classiques", explique la directrice de Dertour Suisse.

Toutefois, les prix des vols ont fortement augmenté. Ces hausses sont répercutées sur les clients. Mais il n'y a pas eu de frais supplémentaires pour les vols déjà réservés. "Cela serait théoriquement possible, mais les compagnies aériennes ne le font généralement pas pour les prestations déjà achetées", a-t-on indiqué chez Dertour Suisse.

Intégration d'Hotelplan en bonne voie

L'intégration du groupe Hotelplan, racheté l'été dernier, progresse. Le nombre d'agences de voyages a diminué de 4 depuis le début de l'année, pour s'établir à 133. Il y a eu quelques fusions, précise Mme Schulze zur Wiesch.

"Nous allons, comme par le passé, réexaminer régulièrement le réseau d'agences. Cela peut se traduire par l'ouverture de nouvelles agences, la fusion ou la fermeture d'agences existantes", a-t-elle expliqué.

Depuis le début de l'année, les effectifs ont diminué de 100 personnes pour s'établir à 1750 collaborateurs. Ce chiffre tient compte des fluctuations naturelles. Comme annoncé précédemment, environ 250 postes seront supprimés d'ici la fin de l'année prochaine. Quinze agences seront également fermées.

La directrice de Dertour Suisse n'a pas donné d'indications concrètes concernant le chiffre d'affaires réalisé en Suisse en 2025. Elle s'est contentée de préciser que, l'année dernière, l'entreprise a enregistré une croissance à deux chiffres, sans compter Hotelplan. Et pour l'année en cours, le groupe entend franchir la barre du milliard de francs de recettes, avec Hotelplan.

Cet article a été publié automatiquement. Sources : ats / awp

Continuer la lecture

Derniers titres

Les 2 derniers titres

Votre Horoscope

Vierge

Résolution très vive de boucler ce qui est en cours, comme si vous ne vouliez pas laisser de zones floues avant de passer au week-end !

Les Sujets à la Une