Roost (Robust Open Online Safety Tools) est une nouvelle initiative présentée lors du Sommet pour l’action sur l’IA à Paris. Cette organisation à but non lucratif rassemble des acteurs majeurs de la tech, tels que Google, OpenAI, Discord, et Roblox, ainsi que des organisations philanthropiques et des personnalités influentes comme Eric Schmidt, ancien PDG de Google. Des partenaires comme Microsoft, GitHub, Hugging Face, et Bluesky figurent également parmi les soutiens du projet. Incubée à l’université de Columbia aux États-Unis, Roost ambitionne de créer une infrastructure de sécurité en ligne évolutive et interopérable, adaptée aux défis posés par l’essor de l’intelligence artificielle.
L’objectif principal de Roost est de pallier les lacunes en matière de sécurité numérique auxquelles sont confrontées de nombreuses entreprises, notamment avec la montée en puissance des outils d’IA générative. Ces technologies, bien qu’innovantes, introduisent des vulnérabilités nécessitant des solutions souvent coûteuses, complexes et difficiles à mettre en œuvre. Pour répondre à ces défis, Roost développe et distribue des modèles de sécurité open source, offrant ainsi aux développeurs des outils gratuits et accessibles pour renforcer la protection des utilisateurs en ligne.
Une attention particulière est portée à la protection des mineurs sur Internet. Roost propose des outils conçus pour détecter, examiner et signaler les contenus pédopornographiques, tout en explorant des solutions exploitant les grands modèles de langage (LLM) pour améliorer la détection de contenus nuisibles. L’organisation s’efforce également de rendre ces technologies de protection plus simples d’utilisation et accessibles à un plus grand nombre de développeurs et d’entreprises.
Avec déjà 27 millions de dollars levés (environ 26,1 millions d’euros), Roost prévoit d’élargir sa gamme d’outils open source pour toucher un public plus large et renforcer la sécurité en ligne à l’ère de l’intelligence artificielle. Cette initiative marque un pas important vers une collaboration entre les géants de la tech et les acteurs philanthropiques pour un Internet plus sûr.
