Gouvernance de l'IA : six piliers pour innover sans perdre le contrôle, selon un dirigeant de l'investissement

Beaucoup d'entreprises redoutent qu'un cadre de gouvernance de l'intelligence artificielle ralentisse leur transformation. C'est l'inverse, soutient Jeff Bartel, président-directeur général de Hamptons Group, une société d'investissement et de conseil basée à Miami. Dans une tribune publiée dans l'espace Forbes Councils, réservé aux membres de ce réseau professionnel, il présente la gouvernance comme le lien entre l'ambition d'utiliser l'IA et la garantie que ses bénéfices se concrétisent réellement.

Selon lui, de nombreux programmes d'IA se développent plus vite que les dispositifs de contrôle censés les encadrer. Les risques sont pourtant concrets : atteinte à la réputation en cas de résultats biaisés ou inexacts, exposition juridique face à la multiplication des réglementations, dommages causés par des systèmes autonomes avant même que les opérateurs ne s'en aperçoivent. Autant de raisons qui, d'après l'auteur, font de la gouvernance de l'IA un sujet de conseil d'administration.

Il propose six piliers : la désignation de responsables clairement identifiés, le classement des usages par niveau de risque, le contrôle du cycle de vie des modèles, la gouvernance des données, la transparence et la documentation, enfin la surveillance continue. En s'appuyant sur des référentiels reconnus comme le cadre de gestion des risques du NIST américain, le règlement européen sur l'IA ou la norme ISO/IEC 42001, une entreprise pourrait bâtir un système unique répondant aux exigences de plusieurs juridictions.

L'enjeu est de limiter les frictions : contrôle renforcé pour les applications à haut risque, validation rapide pour les outils internes de productivité. Jeff Bartel recommande des comités transversaux associant technique, juridique, conformité et métiers, ainsi qu'une supervision humaine pour les décisions touchant aux droits des personnes ou aux finances. Chaque modèle doit avoir un responsable, chaque décision importante une trace auditable. Pour passer à la pratique, il conseille de recenser les usages existants, de former les équipes et de suivre des indicateurs, comme la part de modèles documentés ou le délai d'approbation.

Le propos, qui émane d'un dirigeant présentant aussi la doctrine de son propre cabinet, relève davantage de la feuille de route managériale que de l'analyse indépendante. Il rejoint toutefois une conviction de plus en plus partagée : l'IA reste un outil dont les humains doivent porter la responsabilité, comme le défend la spécialiste de la décision Cheryl Strauss Einhorn.

À lire aussi dans notre réseau :

• Décider à l'ère de l'IA : pourquoi le jugement humain devient un avantage, selon Cheryl Strauss Einhorn
• Pourquoi l'intelligence artificielle pourrait fragiliser la méthode scientifique elle-même
• « La superintelligence est un mythe » : Cal Newport recadre le débat sur les risques de l'IA
• Discours royal au Parlement : le Roi appelle à une nouvelle génération de grandes stratégies, de l'économie numérique à l'intelligence artificielle