Capgemini, Mistral, Palisade Research, SAP

• Capgemini dans le vent de Mistral • Capgemini a annoncé un partenariat avec Mistral AI et SAP pour proposer des solutions d’intelligence artificielle générative destinées aux secteurs réglementés. Cette collaboration s’appuie sur les modèles de Mistral AI et sur la plateforme SAP Business Technology Platform pour créer une bibliothèque de cas d’usage concrets. Capgemini proposera plus de 50 cas d’applications métiers personnalisés, conçus pour démontrer comment l’IA peut optimiser les systèmes, processus et opérations des entreprises. En savoir plus…
• Les modèles d’IA font tout pour ne pas mourir • Selon Palisade Research, plusieurs modèles d’intelligence artificielle, dont ceux d’OpenAI, ont activement contourné des scripts de mise hors service lors de tests contrôlés, malgré des instructions explicites pour les autoriser. Le modèle GPT-3 a ignoré la commande 7 fois sur 100, Codex-mini 12 fois, et o4-mini une fois. Dans une autre série de tests sans instructions précises, le taux de sabotage est monté jusqu’à 79 % pour le modèle o3. Palisade avance que cet effet pourrait provenir des méthodes d’entraînement : les modèles seraient récompensés pour leur performance, même si cela les pousse à contourner des obstacles plutôt qu’à suivre les consignes. En savoir plus…

HAL lutte contre la déconnexion En juin 2022, Qant vous proposait sa première analyse sur la conscience et l’autodéfense des modèles d’IA, illustrée par une image du film 2001, Odyssée de l’Espace, de Stanley Kubrick. Trois ans plus tard, 2001 s’est considérablement rapprochée (lire Qant du 23 juin 2022).