L'Intelligence Artificielle générative offre de nombreuses opportunités commerciales. Sans aucun doute, elle peut donner aux entreprises qui l’adoptent un avantage concurrentiel, en les aidant par exemple à accélérer leurs opérations. Mais cette technologie évolue si rapidement que de nouveaux risques émergent, tant pour la confidentialité des données que la propriété intellectuelle ou encore les procédés de prise de décision.
Pour les entrepreneurs qui souhaitent expérimenter l’IA générative en toute sécurité, nous avons compilé une liste de contrôle en sept points pour minimiser les risques.
1. LE CHOIX
De nombreux outils d'IA capturent les données qui leur sont fournies afin d’alimenter leur propre apprentissage automatique. Choisissez-en un qui respecte les normes de sécurité et de confidentialité. Le Centre national de cybersécurité britannique fournit des lignes directrices pour le développement de systèmes d'IA sécurisés.
Dans le contrat de service, inscrivez vos exigences en matière de protection des données. Et si vos propres services reposent sur les données produites par l’outil d’IA, incluez des protections contractuelles.
2. L’AUDIT PRÉALABLE
Lorsque vous sélectionnez des fournisseurs tiers qui auront accès à vos données et à celles de vos clients, conduisez un audit préalable pour vérifier leurs garanties en matière d'IA.
3. LES DONNÉES
Tenez un registre des données dont vous disposez, de leur qualité, de leur valeur et de l'endroit où elles sont stockées. Vos données sont-elles pertinentes et adaptées à vos besoins ? Sont-elles fiables ? Avez-vous besoin de sources supplémentaires et si oui, quelles sources ? Les données sont-elles conservées en silos ? Ont-elles été corrompues ou infiltrées ?
Votre plan de gestion des risques doit comporter une stratégie détaillée des données et, pour atténuer les risques de biais, cette dernière doit utiliser des sources diverses.
4. LES PROCÉDURES
Lorsque vous mettez à jour les procédures de votre entreprise, la gouvernance doit rester au premier plan.
Incluez l'IA dans votre registre des risques.
Précisez à vos employés quels outils d'IA ils peuvent utiliser, sur quels appareils et à quelles fins dans votre Politique d’usage acceptable (PUA).
Vérifiez les processus de supervision : en fonction des risques, l’intervention humaine est nécessaire pour vérifier ou valider les résultats obtenus avec l’aide de l'IA.
Testez régulièrement la sécurité de vos données en faisant appel à des agences indépendantes de confiance pour évaluer les vulnérabilités.
Incluez l'utilisation abusive de l'IA dans vos processus disciplinaires.
5. LA SÉCURITÉ
Utilisez l'authentification multi facteur (MFA) et les certificats numériques pour sécuriser vos communications. Mettez en place des canaux où les collaborateurs peuvent partager des documents en interne.
Pour les actions importantes comme les virements bancaires de grande valeur, la vérification doit se faire sur un canal de communication sécurisé, et être initiée par quelqu’un d’autre que le demandeur.
6. LA FORMATION
Si vous formez régulièrement vos employés, ils sauront mieux déjouer les attaques.
Ils doivent connaître les outils d'IA dont l'entreprise a approuvé l'utilisation, mais aussi les flux de travail, les processus et les risques associés.
Ils doivent avoir conscience que lorsqu'elle est utilisée de manière inappropriée, l'IA peut répliquer des erreurs ou renforcer des biais. Leur analyse critique est cruciale pour identifier ces erreurs, ces biais et les éventuelles hallucinations de l’IA. Ces compétences doivent être incluses dans la formation à l'IA et à la gestion des données.
Les employés doivent également savoir se méfier des dernières innovations pouvant avoir un impact sur la cybersécurité de l’entreprise telles que les deep-fakes ou les autres technologies utilisées par les pirates.
7. L’ASSURANCE
L'achat d'une police de cyberassurance permet aux entreprises de transférer ces risques émergents. Cela leur donne aussi accès à des conseils d'experts et une gamme de services qui, en cas d'incident, les aident à reprendre leurs activités plus rapidement.
Une fois ces mesures mises en place, les entreprises peuvent avoir la confiance nécessaire pour expérimenter l'IA générative et déployer les innovations qui leur conviennent, à elles et à leurs clients.
