En tant que fiers partenaires de l'Institut d'éthique de l'IA de Montréal, nous avons mis en place des principes éthiques solides concernant l'utilisation des données, car nous croyons qu'il ne suffit pas simplement de créer de la valeur; nous nous engageons à créer de la valeur de la manière appropriée.
Les principes éthiques des données de Berkindale Analytics
Des protocoles de gouvernance et de classification des données adéquats sont essentiels pour garantir le respect de la confidentialité des données. La technologie utilisée pour le traitement des données se doit d'être fiable et sécurisée.
Les données confidentielles doivent être chiffrées conformément aux meilleures normes et mises à disposition via un système complet de gestion des droits. Des tests d'intrusion et des audits du processus de développement seront effectués.
Les systèmes de données, ainsi que les résultats générés en aval par l'IA, doivent être compréhensibles et leur traçabilité doit être transparente. Un historique d'audit complet des actions menées sur les plateformes de données doit être facilement accessible.
Les entreprises devraient être tenues responsables de l'utilisation de leurs données ainsi que des résultats des systèmes d'IA en aval. Elles doivent avoir connaissance du type de données et des jeux de données d'entraînement qui alimenteront les applications d'apprentissage automatique.
La technologie doit être accessible à tous de manière juste et inclusive. Cependant, les données historiques et les jeux de données d'entraînement peuvent contenir des biais injustes. C'est pourquoi nous soutenons l'exploration de données sensible à la discrimination (DADM) ainsi que les communautés promouvant l'équité, la responsabilité et la transparence en apprentissage automatique (FAccTML).
Les résultats du traitement des données et des algorithmes d'IA doivent être explicables. Tout système d'aide à la décision doit également inclure un humain dans la boucle (HITL) comme mécanisme de sécurité permettant de détecter et corriger les résultats du système de décision.