Bengio Lance le Laboratoire de Sécurité IA LawZero
Le chercheur en IA renommé Yoshua Bengio a lancé LawZero, un organisme à but non lucratif dédié à la construction de systèmes d'intelligence artificielle plus sûrs. L'initiative a obtenu un financement substantiel de 30 millions de dollars de personnalités et d'organisations importantes dans l'industrie technologique et le secteur philanthropique, notamment des contributions du cofondateur de Skype, Jaan Tallinn, de l'ancien PDG de Google, Eric Schmidt, d'Open Philanthropy et du Future of Life Institute.
Concentration sur la sécurité
Le nom LawZero s'inspire du concept de la Loi Zéro de la Robotique, qui priorise la protection de l'humanité par-dessus tout. Cela souligne l'objectif principal du laboratoire : atténuer les risques potentiels associés à l'évolution rapide des technologies de l'IA. Bengio, une voix importante dans le mouvement pour la sécurité de l'IA, a exprimé des inquiétudes concernant la trajectoire actuelle du développement de l'IA, notamment en ce qui concerne la priorité accordée à la sécurité par les grandes entreprises technologiques.
Préoccupations concernant les pratiques de l'industrie
La décision de Bengio de créer un organisme à but non lucratif distinct reflète une perception d'un manque de concentration suffisant sur la sécurité de l'IA au sein des grandes entreprises. Son scepticisme quant aux mesures de sécurité mises en œuvre par des entreprises comme OpenAI et Google souligne l'urgence qu'il ressent concernant les dangers potentiels du développement non contrôlé de l'IA. Cette initiative représente une étape importante pour répondre à ces préoccupations et promouvoir l'innovation responsable en IA.
Source: TechCrunch