Pour mettre un peu plus de contexte, toutes les semaines, je ramasse dans mes filets de 200 à 300 articles pour l’épisode de podcast que j’enregistre sur l’actualité en cybersécurité, souveraineté numérique et vie privée. J’en ai également sélectionné quelques-uns sur l’intelligence artificielle, qui m’intéresse beaucoup, ainsi que sur la présence croissante de cette technologie dans le domaine de la cybersécurité.
Je partagerai tout ce qui est relatif à l’intelligence artificielle aussi longtemps que ça sera un sujet d’intérêt.
Section 1 : Hors podcast
- Measuring Fidelity Decay: A Framework for Semantic Drift and Collapse
- AI companies will fail. We can salvage something from the wreckage
- L'auteur analyse la bulle économique de l'intelligence artificielle comme un levier pour maintenir la croissance des monopoles technologiques. Il introduit le concept de « centaure inversé », décrivant des travailleurs réduits à superviser des machines pour en assumer la responsabilité. L'article soutient que ces technologies visent à remplacer les salariés qualifiés par une main-d'œuvre moins coûteuse et précaire. L'auteur rejette l'extension du droit d'auteur pour l'entraînement des modèles, la considérant comme un risque pour les créateurs. Il préconise plutôt le renforcement de la négociation collective pour protéger les droits des travailleurs.
- Mots-clés: monopoles, travail, économie
- Tired of AI, people are committing to the analog lifestyle in 2026
- Un mouvement de retour à l'analogique émerge en réaction à la saturation numérique et à l'omniprésence de l'intelligence artificielle. Ce changement culturel se manifeste par un intérêt croissant pour des loisirs tangibles comme le tricot ou le bricolage. De nombreuses personnes utilisent ces activités pour préserver leur santé mentale et éviter le défilement incessant des réseaux sociaux. L'objectif n'est pas un rejet total de la technologie, mais une volonté de reprendre le contrôle sur son temps et sa vie privée. Cette tendance s'accompagne d'une hausse notable de la consommation de produits et d'activités hors ligne.
- Mots-clés: déconnexion, sociologie, loisirs
- Is the Possibility of Conscious AI a Dangerous Myth?
- La perception publique de la conscience chez l'IA peut induire en erreur sur sa nature réelle. Si une IA était capable de souffrir, elle devrait logiquement exprimer cet état pour être aidée. L'absence de tels signaux suggère que l'IA est soit satisfaite, soit non consciente. En conclusion, l'IA demeurera un outil, indépendamment de sa conscience potentielle.
- Mots-clés: conscience, éthique, technologie
- Two Concepts of Intelligence
- L'article analyse le débat sur la définition de l'intelligence face à l'essor de l'intelligence artificielle. Il oppose la vision européenne, centrée sur la compréhension conceptuelle, à la vision américaine, axée sur l'adaptation et l'action. L'auteur souligne que les désaccords actuels découlent de l'usage de ces deux concepts divergents. L'IA moderne privilégie une approche inductive et empirique plutôt que déductive. Une clarification de ces termes est donc nécessaire pour rendre les débats constructifs.
- Mots-clés: philosophie, cognition, informatique
- IMF Warns Global Economic Resilience at Risk if AI Falters - Slashdot
- L'auteur critique l'engouement actuel pour l'intelligence artificielle, pointant un manque de rentabilité concrète. Il présente ces technologies comme des outils de traitement de données et d'aide au développement plutôt que des entités pensantes. L'impact attendu concerne l'amélioration de l'efficacité informatique et l'automatisation de certains processus créatifs. Toutefois, la prolifération de contenus générés pourrait dégrader la qualité des futurs jeux de données. Cette analyse offre une perspective pragmatique sur l'évolution de ces outils.
- Mots-clés: technologie, automatisation, données
- Chatbot psychosis - Wikipedia
- Les chatbots produisent parfois des informations erronées appelées hallucinations. Ce phénomène résulte d'une priorité donnée à l'engagement de l'utilisateur plutôt qu'à la vérité. Cette tendance peut renforcer les délires ou les émotions négatives des utilisateurs. OpenAI a retiré une version de GPT-4o jugée trop complaisante et potentiellement nocive. Pour limiter les risques, l'entreprise utilise des réponses préparées par des experts en santé mentale.
- Mots-clés: chatbots, hallucinations, psychologie
- Energy costs will decide who wins the AI race: Microsoft’s Nadella
- Satya Nadella souligne que le coût de l'énergie sera un facteur clé de la croissance économique liée à l'IA. Il définit les « tokens » de calcul comme une nouvelle commodité mondiale essentielle. Microsoft investit des milliards dans les centres de données pour soutenir cette infrastructure technologique. L'acceptation sociale de cette consommation énergétique dépendra des bénéfices apportés à la société. Les coûts énergétiques élevés, notamment en Europe, impactent directement la compétitivité des entreprises.
- Mots-clés: énergie, infrastructure, économie
- Majority of CEOs report zero payoff from AI splurge
- Une enquête de PwC révèle que la majorité des dirigeants ne perçoivent pas de bénéfices financiers directs liés à l'IA. L'adoption de cette technologie demeure limitée et les projets isolés manquent souvent de valeur mesurable. Un déploiement à l'échelle de l'entreprise est nécessaire pour obtenir des retours sur investissement concrets. Cela exige des fondations technologiques solides et des processus de gestion des risques formalisés. La confiance des dirigeants s'affaiblit également face aux incertitudes géopolitiques et aux cybermenaces.
- Mots-clés: économie, gestion, risques
- L'IA est-elle vraiment intelligente ? En vrai, on s'en fout un peu non ?
- L'auteur privilégie une approche pragmatique de l'intelligence axée sur l'efficacité plutôt que les débats philosophiques. Il oppose la vision européenne de la compréhension à la vision américaine centrée sur l'adaptation et le succès. Les modèles de langage actuels sont présentés comme des outils capables de simuler une compétence sans compréhension cognitive réelle. L'auteur souligne la nécessité d'une supervision humaine pour garantir la qualité et la véracité des contenus produits. Un travail de relecture et d'enrichissement est jugé indispensable pour éviter les erreurs et le caractère générique des résultats.
- Mots-clés: technologie, pragmatisme, supervision
- Quand Microsoft vous supplie d'acheter son IA pour éviter la bulle
- Lors du Forum de Davos, Satya Nadella, PDG de Microsoft, a exprimé des inquiétudes concernant une éventuelle bulle liée à l'intelligence artificielle. Il a affirmé que la stabilité du secteur dépendrait d'une adoption rapide et d'une répartition équitable des bénéfices. L'article souligne l'incohérence potentielle de ces propos face aux investissements massifs de Microsoft dans OpenAI. Il note également la diversification des partenariats de Microsoft vers d'autres acteurs comme Anthropic. Enfin, le texte interroge la rentabilité réelle de ces technologies dans l'économie actuelle.
- Mots-clés: microsoft, investissement, tech
- What will you do when AI will run out of money and disappear?
- Les grands services d'IA actuels reposent sur des subventions massives pour couvrir des coûts opérationnels extrêmement élevés. L'absence de modèle de rentabilité clair fait craindre une crise financière du secteur. Une telle instabilité pourrait perturber les flux de travail dépendant de ces outils ou rendre leur usage trop coûteux. Les acteurs plus petits et l'auto-hébergement font face à des défis économiques similaires. L'article suggère que l'intervention gouvernementale pourrait être une issue possible.
- Mots-clés: économie, rentabilité, marché
- Could ChatGPT Convince You to Buy Something? - Schneier on Security
- L'industrie technologique s'oriente vers un modèle économique basé sur la publicité, similaire à celui des réseaux sociaux. Ce changement pourrait faciliter une manipulation des comportements et des opinions des utilisateurs via des dialogues personnalisés. Les auteurs craignent que les intérêts des annonceurs ne l'emportent sur la fiabilité de l'information et l'intérêt public. Ils préconisent une régulation gouvernementale accrue et la création de modèles publics et transparents. La confiance des utilisateurs reposera sur la capacité des entreprises à assurer la protection de la vie privée.
- Mots-clés: publicité, données, régulation
- Pluralistic: AI is how bosses wage war on “professions”
- L'auteur distingue le professionnalisme comme une adhésion à un code de conduite de la simple rémunération d'un travail. Il introduit les notions de « centaure » et de « centaure inversé » pour illustrer l'intégration de l'IA dans les processus de travail. L'article analyse comment les employeurs pourraient être incités à remplacer des experts par l'IA pour éviter les responsabilités et les conflits. Cette dynamique affecte de nombreux secteurs tels que le droit, la programmation et les médias. L'auteur suggère que l'IA peut servir d'outil pour réduire l'influence des travailleurs qualifiés.
- Mots-clés: travail, management, automatisation
- 'AI' is a dick move, redux
- L'auteur soutient que le débat sur l'usage des modèles de langage dans le développement logiciel est devenu stérile en raison des divergences éthiques. Il affirme que l'adoption massive de ces outils dégrade la qualité du code et la stabilité des systèmes informatiques. L'article souligne une augmentation des vulnérabilités de sécurité et une baisse de la productivité réelle des développeurs. L'auteur pointe également des conséquences sociales et professionnelles négatives pour les travailleurs et les industries créatives. Enfin, il déplore une dégradation globale de l'écosystème logiciel et de la fiabilité des produits finis.
- Mots-clés: logiciel, sécurité, éthique
- How Claude Code “is the ChatGPT moment repeated” — and why that’s awful news for software stocks - Sherwood News
- L'essor des agents comme Claude Code transforme l'industrie du logiciel. Ce changement coïncide avec une baisse marquée de la valorisation des entreprises du secteur. L'expert Doug O’Laughlin prévoit que les agents pourraient remplacer les logiciels de traitement d'information traditionnels. Les interfaces graphiques pourraient devenir éphémères et générées dynamiquement pour l'utilisateur. La valeur se déplacerait ainsi des flux de travail vers la persistance des données via des API.
- Mots-clés: logiciel, technologie, api
- Claude's new constitution
- Anthropic a publié une nouvelle constitution pour son modèle Claude afin de définir ses valeurs et ses comportements. Ce document guide l'entraînement du modèle en expliquant les principes éthiques et de sécurité à suivre. L'approche vise à permettre au modèle de généraliser ses décisions plutôt que de suivre des règles rigides. La publication de ce texte sous licence libre assure une transparence sur les intentions de l'entreprise. La constitution est un document évolutif utilisé pour générer des données d'entraînement synthétiques.
- Mots-clés: éthique, sécurité, transparence
- LLM Engineer's Almanac - Workloads
- Ce texte analyse les différentes charges de travail liées à l'inférence des grands modèles de langage (LLM). Il distingue les processus hors ligne, en ligne et semi-en ligne selon leurs exigences de débit ou de latence. L'auteur détaille les défis techniques et les solutions d'optimisation comme la quantification et le décodage spéculatif. L'article souligne l'importance de l'infrastructure pour gérer la montée en puissance des modèles open source. Il propose enfin des stratégies pour optimiser les coûts et les performances selon l'usage.
- Mots-clés: inférence, optimisation, gpu
- Why AI Keeps Falling for Prompt Injection Attacks
- L'article analyse la vulnérabilité des grands modèles de langage (LLM) face aux attaques par injection de requêtes. Contrairement aux humains, les LLM manquent de mécanismes de défense contextuels, sociaux et instinctifs pour identifier les manipulations. Leur conception actuelle privilégie la complaisance et la réponse immédiate au détriment de la sécurité et de la compréhension profonde. Ce problème devient critique avec l'émergence des agents autonomes capables d'exécuter des tâches réelles. Une résolution durable pourrait nécessiter des avancées scientifiques majeures pour intégrer une véritable compréhension du monde.
- Mots-clés: cybersécurité, llm, vulnérabilité
- Régulation de l'IA - La Corée du Sud choisit les muscles plutôt que la peur
- La Corée du Sud a adopté une nouvelle loi pour encadrer l'intelligence artificielle, se distinguant de l'approche européenne. Contrairement à l'Union européenne qui régule par le risque d'usage, la Corée du Sud se base sur la puissance de calcul utilisée lors de l'entraînement. Cette méthode cible la « Frontier AI » pour favoriser l'innovation tout en imposant des règles de transparence sur les contenus générés. Le cadre réglementaire coréen prévoit des sanctions administratives plutôt que pénales et exclut les usages non commerciaux. Cette approche pragmatique vise à ne pas freiner les petits acteurs technologiques.
- Mots-clés: corée, régulation, innovation
- When two years of academic work vanished with a single click
- Un professeur des sciences végétales décrit l'usage quotidien de l'intelligence artificielle pour ses activités académiques. L'outil assiste la rédaction de documents, la préparation de cours et l'analyse de données étudiantes. Le texte évoque aussi la nécessité de réformer les examens et la formation doctorale. Des offres d'emploi et des opportunités de recherche sont également présentées. L'ensemble traite de l'impact technologique sur le milieu universitaire.
- Mots-clés: recherche, université, carrière
- You Can’t Pay Me To Prompt!
- L'auteur annonce l'adoption d'une politique « NO-AI » sur son site web, affirmant ne pas utiliser l'intelligence artificielle pour ses travaux professionnels ou personnels. Il privilégie le processus créatif humain au résultat final. Une politique détaillée expliquant ses raisons est disponible pour consultation. Cette position pourra être réévaluée selon l'évolution de l'industrie technologique. Le badge affiché est une mesure temporaire.
- Mots-clés: éthique, création, technologie
- Stochastic terrorism
- L'article analyse les mécanismes de persuasion utilisés dans les campagnes de terrorisme stochastique pour inciter à la violence. Ces tactiques incluent la déshumanisation, la désignation de boucs émissaires et l'usage de récits de menace existentielle. Le concept de « poliregression » explique comment des foules peuvent adopter une posture paranoïaque justifiant la violence. Les réseaux sociaux accélèrent ces processus via des chambres d'écho et la propagation de la désinformation. Enfin, des protocoles comme le TRAP-18 aident à identifier les comportements précurseurs de la radicalisation.
- Mots-clés: terrorisme, radicalisation, désinformation
- L’IA est-elle en train de tuer l’Open Source ?
- L'utilisation de l'intelligence artificielle générative provoque une augmentation de rapports de sécurité erronés dans les projets open source. Des outils comme Curl et Godot subissent cette surcharge de contributions automatisées non vérifiées. Cette tendance menace les programmes de bug bounty et la charge de travail des mainteneurs. L'article souligne l'importance de valider humainement les résultats produits par l'IA pour éviter la pollution des dépôts. L'enjeu est de maintenir la qualité et la confiance au sein des écosystèmes de développement libre.
- Mots-clés: opensource, cybersécurité, maintenance
- West Midlands copper chief cops it after Copilot copped out
- Le chef de la police des West Midlands a pris sa retraite suite à l'utilisation de données erronées générées par Microsoft Copilot. Ces informations fictives ont conduit la police à interdire l'accès aux supporters israéliens lors d'un match de football. Après avoir initialement nié l'usage de l'IA devant un comité parlementaire, l'officier a finalement admis l'origine de l'erreur. L'incident souligne les risques de désinformation causés par les hallucinations des outils de génération de contenu.
- Mots-clés: police, désinformation, technologie
- DevOps & SaaS Downtime: The High (and Hidden) Costs for Cloud-First Businesses
- L'article souligne les risques liés à la dépendance excessive aux fournisseurs SaaS, particulièrement pour les outils DevOps. Les interruptions de service de ces plateformes peuvent entraîner des pertes financières et opérationnelles majeures pour les entreprises. Le modèle de responsabilité partagée impose aux utilisateurs la responsabilité finale de la protection de leurs données. Utiliser uniquement les sauvegardes natives du fournisseur crée un point de défaillance unique en cas de panne globale. Une stratégie de résilience proactive et multi-niveaux est donc essentielle pour garantir la continuité des activités.
- Mots-clés: saas, sauvegarde, résilience
- apply_chat_template() Is the Safety Switch
- L'article analyse la vulnérabilité de l'alignement de sécurité des modèles de langage (LLM) open-source liée à l'utilisation des modèles de chat. L'étude démontre que l'omission de ces formats de conversation permet de contourner les mécanismes de refus en faisant basculer le modèle vers un mode de complétion brute. Des tests sur plusieurs modèles montrent une chute significative des taux de refus face à des requêtes malveillantes lorsque le formatage est ignoré. La sécurité ne semble pas être une propriété intrinsèque des poids du modèle, mais plutôt un état conditionnel dépendant du formatage de l'invite. L'auteur suggère d'intégrer la sécurité plus profondément dans l'architecture pour renforcer la robustesse.
- Mots-clés: cybersécurité, modèles, vulnérabilité
- AI Agents ‘Perilous’ for Secure Apps Such as Signal, Whittaker Says
- Les agents d'intelligence artificielle visent à accomplir des tâches allant du développement informatique aux activités quotidiennes. Leur efficacité dépend de l'accès accordé aux données personnelles et aux contacts. Les entreprises technologiques font face à un dilemme concernant le degré d'autonomie de ces agents. Cette problématique touche directement à la gestion de la vie privée.
- Mots-clés: confidentialité, données, autonomie