L’IA doit apprendre à respecter la loi

Par Antara Haldar, université de Cambridge

“La forme la plus extrême du problème d’alignement est le risque existentiel généré par l’IA. Des IA en constante évolution qui peuvent s’enseigner à elles-mêmes pourraient devenir rebelles et décider de provoquer une crise financière, d’influencer une élection, ou même de créer une arme biologique. “

“Une question sans réponse sous-tend l’alignement de l’IA : sur quelles valeurs humaines la technologie devrait-elle aligner ? (…) Doit-elle une orientation politique ? Doit-elle être comme nous, ou être meilleure que nous ?”

L’INTÉGRALITÉ DE CET ARTICLE EST DISPONIBLE EN FIN DE LETTRE

• Un chatbot hallucine à New York • MyCity, un chatbot de la ville de New-York alimenté par l’IA et conçu pour aider les dirigeants de PME, a été critiqué pour avoir incité les entrepreneurs à violer la loi. Le maire Eric Adams a reconnu que certaines réponses étaient incorrectes, mais il a défendu la décision de maintenir le chatbot en ligne, soulignant l’importance de l’innovation technologique malgré les erreurs initiales.Pour en savoir plus: Reuters, Associated Press