Gavin Newsom s'oppose au projet de loi sur la sécurité de l'IA, qui avait le soutien du SAG-AFTRA

En tant que cinéphile de longue date et vivement intéressé par l’intersection de la technologie et du divertissement, je me trouve profondément troublé par le veto du gouverneur Newsom sur le SB 1047. Les menaces potentielles posées par les modèles d’IA avancés ne sont pas seulement théoriques ; ils sont réels, et nous en avons déjà eu un aperçu dans notre industrie.

Le gouverneur Gavin Newsom de Californie a rejeté dimanche une proposition visant à atténuer les catastrophes potentielles causées par les systèmes sophistiqués d’intelligence artificielle.

Au cours de la session législative, le SB 1047, une législation sur l’IA très controversée, a retenu une attention considérable. Des deux côtés se trouvaient de nombreux militants et sociétés d’IA. Les auteurs du projet de loi ont exprimé leur inquiétude quant au fait que, sans réglementation, les modèles d’IA pourraient être utilisés pour créer des armes chimiques ou nucléaires, posant ainsi une menace à d’innombrables vies. Cependant, les opposants ont soutenu qu’une réglementation excessive pourrait entraver les progrès de l’IA, poussant potentiellement les entreprises d’IA à quitter l’État.

Dans son message de veto, Newsom a déclaré que le projet de loi aborde un problème légitime, mais qu’il lui manque un système de réglementation approprié.

Il a déclaré que cette méthode n’est probablement pas la manière la plus efficace de protéger le public contre les risques réels associés à la technologie. Essentiellement, tout système de gouvernance de l’IA devrait s’adapter aussi rapidement que la technologie.

Le SAG-AFTRA, le syndicat qui défend les acteurs hollywoodiens, a soutenu cette législation. Mardi, « Artists for Safe AI » – un groupe soutenant la sécurité de l’intelligence artificielle – a également publié une lettre ouverte approuvant le projet de loi. Des personnalités notables telles que J.J. Abrams, Shonda Rhimes, Judd Apatow, Rob Reiner, Jane Fonda, Rian Johnson, Adam McKay, Mark Hamill, Mark Ruffalo, Don Cheadle et d’autres ont apporté leur soutien à cette cause.

La guilde des acteurs a exprimé ses inquiétudes quant à la possibilité que l’IA duplique des acteurs pour des productions cinématographiques et télévisuelles sans leur permission. Il s’agit d’une nouvelle position qu’ils ont adoptée, s’attaquant aux dangers potentiels plus larges, au-delà de l’industrie du divertissement, qui pourraient découler des technologies sophistiquées d’intelligence artificielle.

Jeffrey Bennett, l’avocat général du syndicat, a déclaré que le fondement de leur soutien réside dans notre rencontre directe avec les risques associés à une facette de l’IA. Le projet de loi proposé semble unique en ce sens qu’il ne s’attaque qu’aux systèmes très avancés et coûteux susceptibles de déclencher un problème critique généralisé. N’est-il pas plus prudent de contrôler à ce niveau ? Pourquoi ne pas intégrer dès ce stade des mécanismes de sécurité de bon sens ?

En tant que cinéphile passionné, j’attendais avec impatience l’annonce du gouverneur dimanche, où il a exprimé son intention d’opposer son veto à certaines mesures. Pourtant, son message ne s’arrête pas là ; il a également promis de rassembler des experts de premier plan pour établir des lignes directrices garantissant l’évolution sûre de l’intelligence artificielle. Rassurez-vous, ce n’est pas un projet d’un an pour lui – il prévoit de continuer à y travailler au cours de l’année à venir également.

Cette année, la SAG-AFTRA a soutenu deux mesures législatives concernant l’utilisation de l’IA dans le secteur du divertissement en Californie. Le gouverneur Newsom a récemment approuvé ces projets de loi lors d’une cérémonie tenue au siège de la SAG-AFTRA.

Le syndicat a choisi de ne pas participer à la discussion sur le SB 1047 lorsqu’il était à l’étude à l’Assemblée législative. Cependant, le 9 septembre, ils ont écrit une lettre à Newsom pour lui demander d’approuver le projet de loi.

En tant que défenseur passionné, j’ai observé comment la technologie deepfake basée sur l’IA a été manipulée pour fabriquer des images explicites et nues mettant en vedette des membres de la SAG-AFTRA. À mon avis, il est crucial que les décideurs politiques agissent et protègent à la fois nos membres syndiqués et le public. Le SB 1047 est une première mesure réfléchie qui ouvre la voie à cette protection.

D’autres syndicats et entreprises d’Hollywood ont choisi de ne pas intervenir dans cette affaire, car elle concernait spécifiquement des modèles d’IA avancés qui restent encore à développer.

Le gouverneur Newsom a approuvé une autre législation, AB 2013, qui oblige les développeurs de modèles d’IA à déclarer ouvertement s’ils utilisent du matériel protégé par le droit d’auteur au cours de leur processus de formation.

La Concept Art Association a activement soutenu cette législation. Cette organisation est un organisme représentatif des artistes qui génèrent les concepts visuels des films, des animations et des jeux vidéo. Dernièrement, leurs créations ont souvent été intégrées à des modèles d’intelligence artificielle, qui pourraient potentiellement remplacer leurs rôles dans l’industrie.

Du point de vue d’un cinéphile, je le reformulerais ainsi : lorsqu’il s’agit de développer des modèles, aucune règle ne nous oblige à divulguer l’ensemble complet de données que nous avons utilisé pour la formation. De plus, il n’y a aucune obligation de payer pour l’utilisation d’œuvres protégées par le droit d’auteur, une question toujours en débat devant les tribunaux. Cependant, la règle insiste sur le fait que nous devons créditer ou reconnaître l’utilisation de données protégées par le droit d’auteur, ou de toute information personnelle, chaque fois que cela est applicable à notre travail.

Deana Igelsrud, de la Concept Art Association, a déclaré que toute information révélée est bénéfique », a-t-elle déclaré. « Même si c’est assez large, c’est un pas dans la bonne direction. » (Cette version conserve le sens original et se déroule sans problème.)

Le projet de loi proposé par le représentant Adam Schiff au Congrès a reçu le soutien des syndicats d’Hollywood, une initiative qu’il a présentée plus tôt cette année.

Igelsrud a déclaré : « Ces systèmes d’IA ne produiraient rien sans être chargés d’œuvres d’art de tout au long de l’histoire. Je pense que beaucoup de gens sous-estiment le fait que de vrais êtres humains sont connectés à ces données. Les gens supposent souvent que si quelque chose se trouve sur Internet, cela peut être utilisé librement. Cependant, ce n’est pas le cas.

2024-09-30 03:48