L'auteur du SB 1047 de Californie, le projet de loi sur la sécurité de l'IA le plus controversé du pays en 2024, revient avec un nouveau projet de loi sur l'IA qui pourrait secouer la Silicon Valley.
Le sénateur de l'État de Californie, Scott Wiener, a présenté un nouveau projet de loi vendredi qui protégerait les employés des principaux laboratoires d'IA, leur permettant de parler s'ils pensent que les systèmes d'IA de leur entreprise pourraient représenter un « risque critique » pour la société. Le nouveau projet de loi, le SB 53, créerait également un cluster de calcul en nuage public, appelé CalCompute, pour donner aux chercheurs et aux start-ups les ressources informatiques nécessaires pour développer une IA bénéfique pour le public.
Le dernier projet de loi sur l'IA de Wiener, le SB 1047 de Californie, a suscité un débat animé à travers le pays sur la manière de gérer les gigantesques systèmes d'IA qui pourraient causer des catastrophes. Le SB 1047 visait à éviter la possibilité que de très grands modèles d'IA créent des événements catastrophiques, tels que la perte de vies ou des cyberattaques entraînant plus de 500 millions de dollars de dommages. Cependant, le gouverneur Gavin Newsom a finalement opposé son veto au projet de loi en septembre, arguant que le SB 1047 n'était pas la meilleure approche.
Cependant, le débat autour du SB 1047 a rapidement tourné au vinaigre. Certains leaders de la Silicon Valley ont affirmé que le SB 1047 porterait atteinte à l'avantage concurrentiel de l'Amérique dans la course mondiale à l'IA, et ont prétendu que le projet de loi était inspiré par des peurs irréalistes selon lesquelles les systèmes d'IA pourraient entraîner des scénarios apocalyptiques dignes de la science-fiction. Pendant ce temps, le sénateur Wiener a allégué que certains capitalistes-risques se sont lancés dans une « campagne de propagande » contre son projet de loi, pointant en partie l'affirmation de Y Combinator selon laquelle le SB 1047 enverrait les fondateurs de start-ups en prison, une affirmation que les experts ont jugée trompeuse.
Le SB 53 reprend essentiellement les parties les moins controversées du SB 1047, telles que les protections des lanceurs d'alerte et la création d'un cluster CalCompute, et les reconditionne en un nouveau projet de loi sur l'IA.
Il est à noter que Wiener ne recule pas devant le risque existentiel de l'IA dans le SB 53. Le nouveau projet de loi protège spécifiquement les lanceurs d'alerte qui estiment que leurs employeurs créent des systèmes d'IA posant un « risque critique ». Le projet de loi définit le risque critique comme un « risque prévisible ou matériel qu'un développeur de modèles de base, tel que défini, fabrique, stocke ou déploie des modèles de base qui entraîneront la mort ou des blessures graves pour plus de 100 personnes, ou plus de 1 milliard de dollars de dommages aux droits en argent ou en biens.
Le SB 53 limite les développeurs de modèles d'IA de pointe - probablement incluant OpenAI, Anthropic et xAI, entre autres - à ne pas se venger contre les employés qui divulguent des informations préoccupantes au procureur général de Californie, aux autorités fédérales ou à d'autres employés. Selon le projet de loi, ces développeurs seraient tenus de rendre compte aux lanceurs d'alerte de certains processus internes que ces derniers jugent préoccupants.
En ce qui concerne CalCompute, le SB 53 établirait un groupe pour mettre en place un cluster de calcul en nuage public. Le groupe serait composé de représentants de l'Université de Californie, ainsi que d'autres chercheurs publics et privés. Il formulerait des recommandations sur la manière de construire CalCompute, de quelle taille devrait être le cluster, et quels utilisateurs et organisations devraient y avoir accès.
Il est bien sûr très tôt dans le processus législatif pour le SB 53. Le projet de loi doit être examiné et adopté par les organes législatifs de la Californie avant d'atteindre le bureau du gouverneur Newsom. Les législateurs de l'État attendront certainement la réaction de la Silicon Valley au SB 53.
Cependant, 2025 pourrait être une année plus difficile pour faire adopter des projets de loi sur la sécurité de l'IA par rapport à 2024. La Californie a adopté 18 projets de loi liés à l'IA en 2024, mais il semble maintenant que le mouvement de la peur de l'IA ait perdu du terrain.
Le vice-président J.D. Vance a signalé lors du sommet de l'action AI de Paris que l'Amérique ne s'intéresse pas à la sécurité de l'IA, mais donne plutôt la priorité à l'innovation en matière d'IA. Alors que le cluster CalCompute établi par le SB 53 pourrait certainement être considéré comme un progrès en matière d'IA, il n'est pas clair comment les efforts législatifs autour du risque existentiel de l'IA se dérouleront en 2025.
