Elon Musk rejoint Vitalik Buterin dans le développement crucial de l'IA

En tant que chercheur chevronné qui a été témoin des progrès rapides de l’IA depuis plus de deux décennies, je me trouve à la croisée des chemins entre enthousiasme et inquiétude. Les avantages potentiels de l’IA sont indéniables, mais les risques qu’elle présente ne peuvent être ignorés.

Les progrès de l’intelligence artificielle (IA) ont été remarquables, avec ChatGPT d’OpenAI et de grandes entreprises comme Apple se joignant à la tendance. Il semble que nous soyons confrontés à un boom de l’IA. Pourtant, il est crucial de se rappeler qu’« un grand pouvoir implique de grandes responsabilités », un message souligné dans de nombreux films de Spider-Man.

À l’échelle mondiale, l’utilisation croissante de l’intelligence artificielle devrait comporter des risques importants pour les populations du monde entier. En conséquence, des personnalités influentes telles qu’Elon Musk et Vitalik Buterin se sont prononcées activement sur la nécessité de réglementer l’IA pour atténuer ces dangers mondiaux. Musk, qui dirige une société d’IA appelée X.AI Corp., soutient le développement de cette technologie tout en plaidant pour une surveillance de l’industrie.

Nécessité d’une réglementation sur l’IA

La Californie a proposé un projet de loi, SB 1047, visant à répondre aux dangers et risques potentiels associés à l’intelligence artificielle. Si elle est adoptée, cette législation pourrait imposer une plus grande responsabilité aux développeurs de modèles d’IA qui investissent plus de 100 millions de dollars, les obligeant à adhérer à certains protocoles de sécurité, notamment en testant la sécurité de leurs modèles avant leur déploiement.

Il s’agit d’une décision difficile et susceptible de susciter la controverse, mais compte tenu de tous les facteurs, je pense qu’il est approprié que la Californie adopte la législation SB 1047 sur la sécurité de l’IA. Depuis plus de deux décennies, je défends le contrôle de l’IA, de la même manière que nous réglementons tout produit ou technologie susceptible de présenter un risque.
— Elon Musk (@elonmusk) 26 août 2024.

En réponse à cet événement récent, le PDG de Tesla, Elon Musk, s’est adressé à Twitter pour exhorter la Californie à adopter le projet de loi SB 1047. Bien qu’il reconnaisse que sa position pourrait froisser certaines plumes, Musk s’exprime depuis plus de deux décennies sur la nécessité d’une réglementation sur l’IA. En tant que personnalité éminente du monde de la technologie, il estime que l’industrie devrait être soumise à une réglementation similaire à celle des autres secteurs liés à la technologie, afin d’atténuer les risques potentiels.

Les inquiétudes de Vitalik Buterin

En réponse au tweet d’Elon Musk, le fondateur d’Ethereum, Vitalik Buterin, a évoqué l’importance de réglementer le secteur de l’IA. Il a toutefois émis des réserves quant à l’efficacité de ces propositions de réglementation. Buterin s’est demandé si le projet de loi SB 1047 serait utilisé pour cibler les modèles open source et pré-entraînés destinés à un développement ultérieur.

Il semble que l’indication la plus forte en faveur de l’objectif du projet de loi soit son exigence précédente qui entre en conflit avec les poids ouverts, mais cette exigence a maintenant été éliminée. De plus, certains experts en sécurité de l’IA ont montré leur soutien à…
— vitalik.eth (@VitalikButerin) 27 août 2024

Le créateur d’Ethereum soutient la disposition relative aux « dommages critiques » du projet de loi. Il interprète le SB 1047 comme une tentative d’établir des protocoles de tests de sécurité. Essentiellement, cela signifie que si les développeurs ou les entreprises découvrent des risques potentiels à l’échelle mondiale ou des comportements nuisibles au sein de leurs modèles, il leur sera interdit de les déployer.

2024-08-27 15:27