Voici les dV-News 09-2023 et leur sélection d’articles et liens et une nouvelle réflexion sur la confiance inspirée par la vague déclenchée par ChatGPT, mais sans son appui.
Une boîte de Pandore a été ouverte
Certains scientifiques et observateurs avaient une excellente connaissance des développements en matière d’IA, mais pour le grand public et la quasi-totalité des décideurs, un nouveau monde explose sous leurs yeux, qui suscite des sentiments très divers, entre fascination et profonde inquiétude.
Parler de ces développements et réclamer qu’on en anticipe les conséquences n’a souvent suscité jusqu’ici qu’indifférence, déni et opposition, jusqu’au plus haut niveau de l’État. Les fondateurs de digiVolution l’ont souvent expérimenté en matière de souveraineté numérique, d’informatique quantique ou encore d’approche holistique et systémique liée à la cyberdéfense et dans ces colonnes nous avons aussi rappelé la quasi-absence de travaux de prospective. En Suisse l’anticipation reste une discussion de salon. L’information – disponible et souvent de très haut niveau – produite par les différentes institutions ne circule pas et n’est pas mise à profit.
L’IA est une rupture sociétale qu’il est impératif de prendre à bras le corps. Ce n’est pas un « hype » passager, mais un mouvement tectonique. Et depuis que ChatGPT est devenu un sujet d’actualité, une avalanche d’autres initiatives ont été rendues publiques (1, 2, 3, 4). Comme si on avait ouvert une boîte de Pandore… ! Et ce n’est que le début.
Besoin d’une AOC pour l’information?
Il y a eu la série de films Matrix et le célèbre «Matrix Reloaded». Faudra-t-il aussi un «Trust Reloaded» à cause de l’IA? Cela semble devoir s’imposer, car comment désormais accorder notre confiance, à qui, sur la base de quels critères mesurables et vérifiables dès lors que toute information sous forme de texte, de son ou d’image peut être créée et manipulée sans aucun lien avec la réalité ni possibilité d’établir son origine?
Nous affirmons en introduction de ce billet que celui-ci n’a pas été rédigé par ChatGPT. Pouvons-nous le prouver? Non! Le devrions-nous? Dans certains cas cette preuve pourrait être nécessaire? Si oui, lesquels? Mais est-ce mal de se faire aider? Non, à la condition que cette information soit de qualité.
Il semble dès lors que nous devrions établir des gouvernances appropriées pour démontrer l’origine d’une information et la manière dont elle a été établie. Après l’AOC (appellation d’origine contrôlée) pour les fromages et la protection de la propriété intellectuelle (respectée comment par l’IA?) faut-il une AOC pour l’information?
L’usage de l’IA explose et la probabilité que les récentes tentatives de moratoire – de la communication sans effet – puissent influencer l’actuelle fuite en avant est au mieux une illusion, plus sûrement une manœuvre dilatoire. Et dans tous les cas il est trop tard d’avoir des remords et il est douteux que les principes d’Asilomar de bonne gouvernance soient respectés. Les intérêts nationaux et les tensions géopolitiques ont en effet atteint un point de non-retour et il n’est plus l’heure de tergiverser, mais de se préparer et de se protéger. Il existe déjà assez d’analyses de risques par rapport à l’IA et de mesures aisément réalisables.
Nous réitérons notre appel à la politique: il est urgent d’agir face aux défis (risques et opportunités) de l’IA si nous ne voulons pas que la Suisse se retrouve à la traîne et en perte aggravée de souveraineté.
Cyberactualité
Les sujets clés qui ont retenu notre attention durant les deux semaines écoulées.
- Les médias sous attaque – Les attaques contre la NZZ et CH Media prennent une tournure désagréable, les maîtres chanteurs étant passés à la divulgation des données dérobées. Quelles conséquences pour le paysage médiatique suisse? Un gros affaiblissement qui profitera à terme en priorité aux géants du numérique. Ainsi, au-delà de la casse financière, c’est une défaite pour notre pluralité politique et culturelle et donc pour la démocratie.
- Pour une «Lex Huawei»? – Oui, sans aucun doute quand il s’agit de l’intérêt national et de la sécurité du pays. Mais attention à ce que nous ne tombions pas dans le piège d’un antilibéralisme primaire et que cette loi ne s’applique qu’aux produits chinois, même s’il est indispensable de faire un pas important vers la diminution de nos dépendances systémiques par rapport à cet État dont la politique doit nous inquiéter au plus haut point. L’académie suisse des sciences technique SATW est claire à ce sujet. Mais cela implique une analyse sérieuse des risques et une définition des infrastructures (ou plutôt des services) vitales pour la population et l’économie.
BOOKS & REPORTS
Voici les livres et publications d’intérêts découverts durant nos recherches des dernières trois semaines.
En bref
Pas de pause pour les producteurs d’applications d’espionnage ; elles sont bien loin les réactions indignées au sujet de NSO-Group. En matière d’informatique quantique, il semble que l’on commence enfin à comprendre les conséquences sécuritaires; car le moment important n’est pas celui où ces machines parviendront à casser les actuels algorithmes de cryptologie ; le moment clé c’est maintenant, où les données sont volées pour être exploitées ultérieurement, selon le principe Harvest Now, Decrypt Later (HNDL) pourtant bien connu.
Et un clin d’œil à notre belle planète que certains persistent à croire plate … et qui répandent leur bêtise grâce aux réseaux sociaux! Et chez digiVolution nous parlons aussi régulièrement du risque que font peser les tempêtes solaires sur l’électronique et les infrastructures électriques. Selon la NASA et la NOAA, juillet 2025 devrait être le point culminant du cycle en cours, dont les prémisses ont récemment touché les USA.
Nous vous souhaitons une enrichissante découverte des articles et liens sélectionnés et nous réjouissons de vous retrouver bientôt.
