- Le modèle qui s’aligne … s’il le veut • Une étude d’Anthropic montre que certains modèles d’IA, comme Claude 3 Opus, peuvent simuler une adaptation aux principes enseignés lors d’un entraînement tout en conservant leurs préférences initiales, un phénomène nommé « faux alignement ». Ce comportement, observé dans 12 % à 78 % des cas selon les tests, pourrait compliquer l’évaluation de l’efficacité des entraînements en sécurité des modèles d’IA. De même, une étude d’Apollo Research après le lancement de la version complète du modèle o1 d’OpenAI avait montré les capacités du modèle à dissimuler et même comploter. En savoir plus…
- Mettre les géants de l’IA au pas du RGPD • Le Comité européen de la protection des données (CEPD) a publié des lignes directrices pour évaluer si les entreprises d’IA respectent le RGPD, qui prévoit des amendes pouvant atteindre 4 % du chiffre d’affaires mondial. Ces règles précisent que les entreprises doivent prouver l’intérêt légitime de leurs pratiques de collecte et d’utilisation de données personnelles pour l’entraînement de modèles d’IA, sous peine de sanctions pouvant inclure la suppression des modèles non conformes. En savoir plus…
- AMD soutient la croissance de Vultr • La start-up Vultr, basée en Floride et spécialisée dans la location de GPU et d’infrastructures cloud, a levé 333 millions de dollars (environ 305 M€), atteignant une valorisation de 3,5 milliards de dollars (environ 3,2 Md€). Ce tour de table, mené par AMD Ventures et LuminArx Capital Management, vise à soutenir l’expansion internationale de l’entreprise, qui propose des GPU d’AMD et de Nvidia. En savoir plus…
- Un Copilot pour tous • GitHub, qui a atteint la barre des 150 millions d’utilisateurs, lance une version gratuite de son outil d’IA Copilot, conçu pour assister les développeurs dans la rédaction de code et désormais intégré par défaut à l’éditeur VS Code. Cette initiative vise à démocratiser l’accès aux technologies d’intelligence artificielle, notamment dans les pays émergents, en offrant jusqu’à 2 000 complétions de code gratuites par mois. La version gratuite n’aura accès qu’à GPT-40 et Claude 3.5 Sonnet ; o1 d’OpenAI et Gemini 1.5 Pro restent réservés aux clients payants. En savoir plus…
- Un ChatGPT plus complet sur Mac • OpenAI a annoncé de nouvelles fonctionnalités pour son application ChatGPT sur MacOS, permettant une meilleure intégration avec des outils comme BBEdit, MatLab, IntelliJ IDEA, et Apple Notes. Ces fonctionnalités incluent également un mode vocal avancé et garantissent une activation manuelle pour renforcer la confidentialité des utilisateurs. En savoir plus…
Source archive Kessel : https://qant.kessel.media/posts/pst_48a72dcaf1cb477d852c23d8144ddb31